Google удалила из Google Earth генератор изображений на основе искусственного интеллекта всего через сутки после его запуска. Инструмент, работавший на базе модели Nano Banana, позволял изменять реальные места на карте и добавлять к ним вымышленные события. Разработчики объяснили отключение функции тем, что пользователи начали создавать и распространять материалы, нарушающие правила сервиса.

Новая возможность давала право редактировать практически любую точку на карте с помощью обычного текстового запроса. Искусственный интеллект мог добавить к выбранной местности здания, людей, последствия стихийных бедствий или другие объекты, которых в действительности там не было.

Вскоре после запуска в интернете появились созданные нейросетью изображения, способные ввести аудиторию в заблуждение. Пользователи, в частности, публиковали картинку с огромным кратером, якобы образовавшимся после взрыва в Лос-Анджелесе, а также изображение затопленного здания Капитолия США. Без пояснений такие материалы можно было принять за настоящие спутниковые снимки или фотографии с места событий.

Возможности генератора проверил исследователь открытых данных Хенк ван Эсс. По его словам, система не отклоняла запросы на создание потенциально чувствительных сцен. Ему удалось получить изображения беженцев на границе США и Мексики, а также ядерного объекта, расположенного в Иране.

Ситуация показала, что сочетание генеративного искусственного интеллекта с реальными географическими данными создает дополнительные риски. Вымышленные происшествия, размещенные в узнаваемых местах, могут выглядеть правдоподобно и использоваться для распространения ложной информации.

Google предпочла полностью убрать инструмент, а не оставить его доступным до внедрения новых ограничений. Компания не уточнила, планирует ли вернуть функцию после доработки системы безопасности. Столь быстрое отключение указывает на то, что первоначальные механизмы фильтрации не смогли эффективно остановить создание спорного контента.

Короткий эксперимент Google Earth стал очередным примером сложностей, с которыми сталкиваются разработчики генеративных технологий. Подобные инструменты способны сделать работу с картами более наглядной и творческой, но одновременно требуют строгого контроля, особенно когда речь идет о катастрофах, военных объектах, миграции и политически значимых зданиях.