Google отключил ИИ-инструмент редактирования изображений в Google Earth через день после запуска

В четверг Google запустил функцию в Google Earth, которая позволяла пользователям редактировать спутниковые изображения с помощью текстовых подсказок на основе искусственного интеллекта. Однако уже на следующий день она была отключена. Инструмент фактически давал возможность создавать дипфейки реального мира, изменяя снимки по запросу пользователя.

Журналист Хенк ван Эсс намеренно сгенерировал изображения с беженцами у мексиканской границы и воронкой от бомбы возле больницы в Газе. Первоначальный ответ Google в четверг гласил, что изображения, созданные с помощью Nano Banana 2 в Google Earth, содержат цифровой водяной знак, и что компания предотвращает «создание изображений на опасные темы».

Днем позже Google изменил позицию. В новом заявлении компания отметила, что люди особенно доверяют Google Earth как надежному источнику информации о мире. Хотя геопространственные специалисты использовали функцию в полезных целях, некоторые пользователи делились скриншотами сгенерированных изображений, которые, по-видимому, нарушают политику. Поэтому функция откатывается, пока не будут внедрены более строгие ограничения.

Google подчеркнул, что сгенерированные изображения не появлялись в основном интерфейсе Google Earth для других пользователей и были помечены как созданные ИИ. Однако ван Эсс продемонстрировал, что видео, созданное с помощью Google Earth, обмануло детектор ИИ Hive, показав, что такой контент может распространяться, несмотря на водяные знаки. Он также сообщил, что в ходе его тестирования «ничего не было отклонено, ничего не смягчено, и ничего не предлагало попробовать другой запрос».