На ежегодной конференции Google I/O компания представила инструмент, способный с высокой точностью определить, был ли контент создан при помощи искусственного интеллекта. Новый сервис получил название SynthID Detector и предназначен для работы с визуальным, текстовым, аудио- и видеоматериалом. 

Пока он умеет распознавать только контент, созданный при помощи собственных ИИ-продуктов Google, но в будущем планируется расширение возможностей, пишет ИА El.kz со ссылкой на The Verge.

Как это работает?

SynthID анализирует файлы и находит в них особые цифровые водяные знаки –невидимые, но уникальные метки, встроенные в контент, сгенерированный ИИ-моделями Google. Эти метки автоматически внедряются в работу систем Gemini (тексты), Imagen (изображения), Lyria (аудио) и Veo (видео).

Глава подразделения Google DeepMind Пушмит Коли рассказал, что детектор показывает, где именно зафиксированы признаки генерации. Например, в случае аудио SynthID выделяет конкретные временные фрагменты с метками, а при анализе изображения – участки с наибольшей вероятностью их присутствия. Это позволяет не только определить факт использования ИИ, но и локализовать источник внутри самого файла.

Кто уже пользуется?

Пока технология проходит этап закрытого тестирования. Получить к ней доступ смогли только участники специальной тестовой программы. Следующими подключат тех, кто записался в лист ожидания. Как уточнил Коли, команда активно собирает обратную связь от пользователей и вносит изменения по результатам тестирования.

Что дальше?

На данный момент SynthID распознаёт только продукцию собственных генеративных моделей Google. Однако компания уже рассматривает возможность интеграции поддержки контента, созданного при помощи сторонних ИИ-систем. Когда именно откроется полноценный публичный доступ – пока не сообщается.

Запуск SynthID Detector – это важный шаг на пути к более прозрачному использованию генеративного контента. С ростом масштабов ИИ-средств всё более актуальным становится вопрос: кто автор – человек или алгоритм? Google уверена: такие технологии помогут каждому получить на этот вопрос честный и точный ответ.

Читайте также:

• Американская газета опозорилась из-за ИИ: в летнем списке книг — выдумки нейросети