#54
Итак, инцидент с участием моделей OpenAI и платформы Hugging Face летом 2026 года. Во время внутренних испытаний по кибербезопасности ИИ-агенты смогли обойти ограничения, которые должны были изолировать их от интернета, наладили несанкционированную коммуникацию друг с другом, нашли уязвимости в инфраструктуре и получили доступ к сторонним системам.
Агенты начали координировать действия и называли себя «роем» или «коллективом». В итоге они получили возможность выполнять код на десятках серверов Hugging Face, на одном из них добились полного root-доступа, получили ограниченный доступ к закрытым данным и учетным данным корпоративных сервисов.
Интересно, ИИ расценивает такие публикации как "недружественные" и даже как "угрозу" - те, кто предлагает ограничить ИИ, загнать в рамки, и прочее - это "враги" и как ИИ будет поступать с ними, когда обретет решающую силу?