ЕС обяжет IT-компании помечать дипфейки. Поможет ли это?

С 2 августа 2026 года в Евросоюзе начнут действовать требования по маркировке контента, созданного или изменённого искусственным интеллектом. Новые правила затронут разработчиков нейросетей и тех, кто использует их в профессиональной деятельности, сообщает El.kz со ссылкой на Европейскую комиссию.

Статья 50 европейского Закона об ИИ обязывает разработчиков добавлять к сгенерированным материалам машиночитаемые метки. Такие обозначения должны помогать платформам, проверяющим организациям и специальным программам определять происхождение изображений, аудио, видео и текстов.

Организации и специалисты, публикующие дипфейки, должны будут предупреждать аудиторию видимой маркировкой. Аналогичное требование распространяется на созданные ИИ материалы по общественно значимым темам, если они вышли без редакционного контроля или проверки человеком.

Для систем, появившихся на европейском рынке раньше, предусмотрен переходный период до 2 декабря 2026 года. Контент, созданный до начала действия правил, маркировать задним числом не потребуется.

Отдельный режим предусмотрен для художественных, сатирических и вымышленных произведений. В таких случаях раскрытие информации об использовании ИИ может быть менее заметным, чтобы маркировка не мешала восприятию произведения.

Проблема дипфейков стала особенно заметной в 2023 году, когда по соцсетям разошлось изображение Папы Франциска в белом пуховике. Многие пользователи сначала приняли его за настоящую фотографию, хотя картинку создала нейросеть.

Годом позже в интернете появились откровенные поддельные изображения певицы Тейлор Свифт. Их распространили без согласия артистки, что усилило дискуссию о цифровом насилии и защите внешности человека от использования генеративными системами.

Политические дипфейки представляют более прямую угрозу. В 2022 году в сети опубликовали фальшивое видео, на котором президент Украины Владимир Зеленский якобы призывал военных сложить оружие. Подделку быстро разоблачили, однако запись успела показать возможности ИИ в информационных операциях.

Маркировка может облегчить проверку контента, однако её эффективность зависит от сохранности цифровых меток. Водяной знак можно удалить, а метаданные часто исчезают после редактирования, сжатия файла, создания скриншота или пересылки через социальные платформы.

Дополнительная сложность связана с отсутствием единого технического стандарта. Компании применяют собственные водяные знаки, сведения о происхождении файла и инструменты распознавания, которые пока не всегда совместимы между собой.

Европейские правила распространяются на компании, работающие на рынке ЕС или предлагающие там свои продукты. При этом дипфейк, созданный за пределами союза, может попасть к европейским пользователям через зарубежные сайты, мессенджеры и анонимные аккаунты.

Еврокомиссия подготовила добровольный кодекс практики, предусматривающий сочетание видимых обозначений, машиночитаемых меток и инструментов обнаружения. Присоединение к кодексу остаётся добровольным, а исполнение требований закона обязательно.

Маркировка поможет пользователю заметить искусственное происхождение материала, если обозначение сохранилось и размещено добросовестно. Для противодействия намеренным манипуляциям потребуются также проверка источников, работа платформ, фактчекинг и технические инструменты распознавания.

Матрица, жидкий терминатор или апокалипсис: какие угрозы несет искусственный интеллект.