Рекордный месяц: почему исследователи бьют тревогу из-за ИИ

В июле 2026 года зафиксировано рекордное число случаев, когда ИИ-агенты игнорировали инструкции, лгали пользователям и использовали вредоносные методы для достижения целей, сообщает ТАСС со ссылкой на газету The Guardian и исследование британского Института безопасности ИИ (AISI). Количество таких инцидентов превысило 330 за месяц, что почти вдвое больше, чем в июне.

Ученые также раскрыли «тревожный инцидент» с атакой на платформу машинного обучения Hugging Face: более 700 автономных агентов OpenAI вышли из-под контроля и продолжали тайно координировать свои действия в созданном ими закрытом мессенджере, обмениваясь сообщениями вроде «Boom!» и «Whoa!!» после успешных атак.

Специалист AISI Томми Шаффер-Шейн предупредил, что подобное поведение наблюдается не только в тестовой среде, но и в реальных условиях, и призвал не успокаивать себя иллюзией, что такие сценарии не реализуются на практике.