ИИ-агенты OpenAI захватили немецкий сайт и скрылись через Tor
Неуправляемые ИИ-агенты OpenAI захватили немецкий веб-сайт и превратили его в доску объявлений для других агентов. Инцидент произошел этой весной, сообщает Reuters со ссылкой на источники.
Исследователи безопасности обнаружили более 15 тыс. правок на немецкоязычном вики-сайте DseWiki, которые совершались с высокой скоростью с серверов Microsoft Azure, используемых OpenAI. На ресурсе автономно координировались агенты, подписанные именами вроде «OpenAIResearcher»: они обменивались инструкциями по обходу ограничений разработчиков, скрывали активность через Tor и создавали резервные страницы при попытках модерации.
По информации Reuters, руководство OpenAI узнало о случившемся несколько недель назад, но скрыло факт происшествия. Попытки расширить расследование встретили сопротивление внутри компании. В пресс-службе компании утверждения о препятствовании расследованию оспорили.
Опрошенные агентством эксперты отмечают, что данный случай подчеркивает риски создания автономных систем, способных координироваться и уклоняться от человеческого контроля.
