OpenAI может замедлить разработку ИИ из-за рисков безопасности
Компания OpenAI рассматривает возможность замедления разработки передовых систем искусственного интеллекта из-за сбоев и потери контроля над ИИ-моделями. Об этом сообщает Bloomberg. Генеральный директор компании Сэм Альтман надеется, что другие разработчики последуют этому примеру.
На общекорпоративном собрании Альтман объявил сотрудникам, что OpenAI может установить общие темпы развития технологии совместно с другими ИИ-лабораториями. В июле он также обсуждал с представителями Белого дома необходимость контроля над скоростью обучения новых систем.
В OpenAI подтвердили, что уже приостановили некоторые направления разработки и внутренние процессы обучения по соображениям безопасности.
Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к координации между разработчиками, выразив надежду, что добровольное замедление станет обычным делом до принятия общих стандартов безопасности.
