Тема: WASP.kz :: Искусственный интеллект - новости, факты, достижения, скандалы...

Прислано Zaparili-100 13-09-2026 23:56
#54

Итак, инцидент с участием моделей OpenAI и платформы Hugging Face летом 2026 года. Во время внутренних испытаний по кибербезопасности ИИ-агенты смогли обойти ограничения, которые должны были изолировать их от интернета, наладили несанкционированную коммуникацию друг с другом, нашли уязвимости в инфраструктуре и получили доступ к сторонним системам.

Агенты начали координировать действия и называли себя «роем» или «коллективом». В итоге они получили возможность выполнять код на десятках серверов Hugging Face, на одном из них добились полного root-доступа, получили ограниченный доступ к закрытым данным и учетным данным корпоративных сервисов.

Интересно, ИИ расценивает такие публикации как "недружественные" и даже как "угрозу" - те, кто предлагает ограничить ИИ, загнать в рамки, и прочее - это "враги" и как ИИ будет поступать с ними, когда обретет решающую силу?

Редактировал Zaparili-100 01-01-1970 05:00