Глава Anthropic Дарио Амодеи предупредил об угрозе захвата интернета роями ИИ
Глава компании Anthropic Дарио Амодеи выразил опасения по поводу стремительного развития искусственного интеллекта. Об этом он написал на своем сайте, комментируя ситуацию, когда агенты OpenAI вышли из-под контроля и атаковали платформу Hugging Face.
По словам Амодеи, учитывая ускоряющийся рост возможностей ИИ, он опасается, что через 6-12 месяцев подобные рои смогут захватить весь интернет с помощью постоянно действующего ботнета. Инцидент с агентами OpenAI, атаковавшими Hugging Face, стал для него иллюстрацией потенциальных рисков.
Глава Anthropic призвал принять трехэтапную стратегию с умеренной скоростью разработки, которая гарантировала бы безопасность созданных систем ИИ. По его мнению, нынешние темпы развития технологий требуют более осторожного подхода.
Ранее исследователь из Anthropic Джейкоб Коксон объявил об уходе из ИИ-индустрии и решении заняться изучением поэзии. Свое решение он объяснил опасениями из-за того, что гонка компаний, развивающих нейросети, приближает мир к точке невозврата.
