Google отозвала ИИ-функцию в Google Earth, создававшую поддельные спутниковые снимки

Google откатила функцию на основе искусственного интеллекта, встроенную в Google Earth, которая давала пользователям возможность генерировать или редактировать спутниковые снимки. Компания заявила, что некоторые пользователи делились скриншотами созданных изображений, нарушающими её политику, поэтому функция временно удалена, пока разрабатываются более строгие меры.

До удаления издание Ars Technica протестировало эту функцию вместе с системой водяных знаков Google SynthID. Ранее тесты показали, что водяной знак SynthID сохраняется даже после значительного редактирования и потери данных, однако система ограничивает проверку примерно десятью изображениями в день. Когда Ars попросила приложение Google Gemini проверить несколько изображений, созданных и изменённых в Google Earth, Gemini сообщил, что обнаружил цифровой водяной знак, указывающий на создание или редактирование с помощью инструментов Google AI.

Однако Эсс усомнился в том, что ставка на SynthID и инструменты Google достаточно надёжна. Он поставил под вопрос, почему политика Google, запрещающая создание ИИ-изображений на вредные темы, не помешала появлению таких сцен, как больница с воронкой от бомбы в Газе. Эсс также подчеркнул, что подделки редко распространяются как чистые файлы с сохранёнными данными: чаще всего это записи экрана, перекодированные версии, скриншоты со скриншотов или снимки, сделанные на камеру телефона.

Эта проблема подтвердилась, когда Ars сфотографировала изменённое ИИ изображение, созданное в Google Earth, на камеру смартфона, и SynthID не смог его проверить. Эсс предупредил, что наличие генератора изображений в Google Earth рискует подорвать доверие к платформе как к надёжному источнику подлинных спутниковых снимков. Это также дало бы чиновникам и другим лицам повод отрицать подлинность настоящих спутниковых фотографий, заявляя, что они созданы или изменены ИИ, что затруднило бы работу журналистов и исследователей в борьбе с дезинформацией.

Эсс рекомендовал использовать для проверки несколько источников и постоянно обновляемые спутниковые данные, например систему Copernicus Sentinel-2 Европейского союза. Google в своём заявлении признала нарушение политики и сообщила о необходимости более строгих мер, но оставила возможность возвращения функции в будущем.