Google отключил ИИ-генератор карт Nano Banana из-за фейковых снимков с последствиями терактов

Google отключил ИИ-генератор карт Nano Banana спустя сутки после запуска. Функция, позволяющая создавать изображения на основе картографических данных, была отключена из-за того, что пользователи генерировали фейковые снимки с последствиями терактов и других катастроф.

Сайт Google Earth 30 июля запустил функцию по модификации изображений, в том числе карт, с помощью искусственного интеллекта. Технология под названием Google Nano Banana 2 позволяет за секунды создавать изображения на основе картографических и спутниковых данных, в том числе в формате 3D, а также аэрофотоснимков. В Google назвали это способом «визуализировать историю», также при помощи этой функции можно было разрабатывать жилые проекты.

Однако пользователи с помощью новой функции стали генерировать спутниковые снимки, «которые могли иметь серьезные глобальные последствия», пишет AFP. Среди прочих были сгенерированы изображения взрыва в Париже, воронки от бомбы в России, тренировочного полигона террористов в Сирии. На карте Нью-Йорка появилось изображение самолета, врезающегося в небоскреб. В египетской Гизе «провалилась под землю» пирамида. Также на картах появились, например, «толпы бегущих от террористов людей» и «горящие в море авианосцы».

«К сожалению, мы видели, как люди делятся скриншотами сгенерированных изображений, которые нарушают наши правила. Поэтому мы отключили эту функцию... и работаем над внедрением более строгих мер защиты»,— сообщила пресс-служба Google Earth в X.