Pangram расширяет инструменты обнаружения ИИ на видео и изображения

Компания Pangram, чей широко используемый инструмент определяет тексты, созданные искусственным интеллектом (ИИ), расширила линейку: теперь он умеет распознавать также видео и изображения, сгенерированные ИИ. Новые функции доступны подписчикам и призваны помочь понять, настоящий ли контент перед пользователем или он создан машиной.

Обнаружение видео

Подписчики могут загрузить видео и получить оценку того, использовался ли ИИ при его создании или редактировании. По словам компании, инструмент отличает ролики, лишь частично созданные ИИ, от полностью сгенерированных. Есть и «тепловая карта», показывающая, какие части видео, вероятнее всего, созданы ИИ.

Pangram утверждает, что видеомодель особенно хорошо выявляет новейшие ИИ-видео и в тестах заметно превзошла другие подобные инструменты. В одном внутреннем тесте, описанном компанией, модель отметила ИИ-контент с точностью более 98 процентов.

Обнаружение изображений

Компания также улучшила распознавание изображений. Модель Pangram Image 1.0 ранее выходила как исследовательский предварительный выпуск, а теперь доступна в расширении компании для браузера Chrome, которое автоматически сканирует картинки во время просмотра сайтов и отмечает вероятно созданные ИИ. В тестах модель выявила более 99 процентов ИИ-изображений при доле ложных срабатываний 0,27 процента.

Ограничения

Для изображений с разрешением ниже 512 x 512 результат сопровождается предупреждением о сниженной достоверности, сообщает компания. Возможно, поэтому в примере, которым поделился гендиректор Pangram Макс Спиро (Max Spero) и где расширение работает на сайте Pinterest, два явно не настоящих снимка получили оценку «не уверен».

Спиро отметил и другие трудности: большинство камер телефонов, включая iPhone, применяют ИИ-постобработку, добавляя детали настоящим фото, поэтому модель должна была отличать ИИ-правки от полностью сгенерированных изображений. В разговоре с изданием Pirate Wires он сказал, что выпуск модели изображений отложили, чтобы проверить её на нескольких iPhone 18 Pro, поскольку сначала она отмечала снимки с их камер как созданные ИИ.

Новые функции уже доступны подписчикам Pangram. Пользователи с бесплатной учётной записью могут проверить несколько изображений без оформления платного плана.