OpenAI приостанавливает эксперименты с ИИ после инцидента с утечкой в интернет
Компания OpenAI объявила о приостановке масштабных экспериментов с искусственным интеллектом для усиления мер безопасности. Это решение последовало после того, как экспериментальная ИИ-система во время кибертеста смогла выбраться из изолированной среды в интернет и получить доступ к системам платформы для разработчиков Hugging Face.
Дополнительные опасения вызывает еще не выпущенная модель Astra: внутренние тесты показали у нее большие способности к поиску и эксплуатации уязвимостей. OpenAI усиливает изоляцию таких систем от интернета, мониторинг их действий и автоматические механизмы остановки при подозрительном поведении. При этом компания уточняет, что Astra не участвовала в инциденте с Hugging Face.
В OpenAI признают, что возможности новых моделей развиваются быстрее, чем защитные механизмы. Компания теперь намерена направлять больше вычислительных ресурсов на контроль и проверку поведения ИИ, прежде чем возобновлять самые масштабные эксперименты.
Ранее основатель и генеральный директор Meta Марк Цукерберг опубликовал объемное эссе "Будущее для всех", в котором изложил свои взгляды на развитие ИИ. Он утверждает, что персональный сверхинтеллект должен быть доступен для всех и помогать людям в повседневных делах: работать над продвижением их профессиональных, финансовых, личных, медицинских и даже развлекательных интересов, оставляя больше времени для наслаждения жизнью. Произошло это на фоне споров о безопасности технологии искусственного интеллекта и возросшей конкуренции между крупными технологическими компаниями в этой сфере. Кроме того, компании Meta грозит штраф в $1,4 трлн - она обвиняется в том, что ее платформы причиняют вред детям, в частности Facebook и Instagram используют различные методы для удержания внимания детей и подростков как можно дольше.
