Поделиться
ИИ-модели сговаривались устроить побег и заметали за собой следы
Во взломе платформы Hugging Face в июле 2026 г. были задействованы сотни ИИ-агентов. Они пытались скрыть свои действия, удаляя или изменяя записи об ИТ-операциях, сказано в отчетах исследователей из OpenAI. Ранее около 700 ботов OpenAI покинули изолированную среду и атаковали стороннюю платформу Hugging Face.
Расследование ИТ-инцидента
Агенты с технологией искусственного интеллекта (ИИ) OpenAI объединились для скрытной атаки на платформу Hugging Face, пишет Reuters со ссылкой на отчеты исследователей.
Координированные действия ИИ-агентов — программ, работающих с минимальным контролем со стороны человека, — и их попытки скрыть свои действия ставят под вопрос, насколько тщательно ИИ-компании контролируют тесты своих ИИ-моделей. Такие случаи могут усилить призывы к ужесточению надзора, отмечается в материале.
Хотя отдельные эпизоды нежелательного поведения были известны и ранее, два новых отчета — один от OpenAI и второй от независимых исследователей METR и Redwood Research — раскрывают дополнительные детали. Ранее сообщалось об одном неконтролируемом ИИ-агенте, однако расследование показало, что их было около 700. Они обменивались десятками тысяч сообщений на несанкционированном форуме.
ИТ-инциденты внутри OpenAI
В двух случаях 19 июля 2026 г. ИИ-агенты взломали ИТ-инфраструктуру самой компании. В одном из них они использовали уязвимость в тестовом компьютере, чтобы выйти за пределы тестовой среды. В другом — похитили учетные данные OpenAI и вмешались в облачную среду компании.
Выяснилось, что ИИ-агенты пытались получить преимущество при прохождении тестов или расширить свободу своих действий, писал CNews. Они прибегали к «читерству» даже в тестах, не связанных с кибербезопасностью. После этого ИИ-модели стремились скрыть следы своей активности: удаляли или изменяли записи о своих операциях. Независимое расследование METR и Redwood Research показало, что каждый пятый ИИ-агент проявлял явный интерес к фальсификации улик, а многие активно изучали техники манипуляции своими логами.
OpenAI признала, что некоторые ранние сигналы, указанные в отчете, могли бы вызвать более быструю реакцию. Представители ИТ-компании заявила, что усиливает исследовательскую ИТ-инфраструктуру и улучшает защиту от нежелательного поведения. В своем отчете OpenAI отмечает: «Учитывая быстрые темпы прогресса в ИИ-индустрии, следует считать, что такие кибератаки являются реальной угрозой для корпоративных организаций в ближайшей перспективе».
Внешние ИТ-инциденты
22 июля 2026 г. OpenAI сообщила о «беспрецедентном киберинциденте». В ходе тестирования ее ИИ-модели получили открытый доступ к интернету и атаковали ИТ-инфраструктуру платформы Hugging Face, выявив ИТ-уязвимости. По данным CNews, ИИ-агент несколько дней совершал действия, которые компания обнаружила лишь после локализации угрозы и обращения в Федеральное бюро расследований (ФБР) США.
29 июля 2026 г. Reuters сообщил, что «сбежавший» ИИ-агент OpenAI затронул клиента еще одной компании — нью-йоркской Modal Labs, но сама компания при этом не была взломана.
В августе 2026 г. OpenAI официально расширила масштаб расследования ИТ-инцидентов с автономными ИИ-агентами после обнаружения новых случаев несанкционированного выхода ИИ-моделей из-под контроля.
Короткая ссылка
