Microsoft признала: универсального способа отличить ИИ от реальности не существует
Динмухамед Бейсембаев Автор
Компания Microsoft опубликовала технический доклад, посвящённый проблеме различия подлинных медиафайлов и материалов, созданных искусственным интеллектом, пишет El.kz со ссылкой на The Decoder.
Авторы документа отмечают, что ни один из существующих методов проверки не обеспечивает полной гарантии. Даже при сочетании нескольких технологий остаются уязвимости, которыми могут воспользоваться злоумышленники. На фоне стремительного распространения ИИ-подделок в сети этот вывод звучит особенно тревожно. В последнее время фиксируются случаи использования изменённых изображений и сгенерированных видео даже в политических и информационных кампаниях, что усиливает риски дезинформации.
Доклад под названием «Media Integrity and Authentication: Status, Directions, and Futures» подготовлен в рамках программы Microsoft по долгосрочной безопасности ИИ. Работу координировал главный научный сотрудник компании Эрик Хорвиц. В исследовании участвовали специалисты по искусственному интеллекту, кибербезопасности, социальным наукам, взаимодействию человека и компьютера, а также эксперты по вопросам политики и управления.
В центре анализа оказались три технологических подхода к подтверждению подлинности цифрового контента. Первый связан с использованием криптографически защищённых метаданных происхождения. Такой механизм позволяет прикреплять к файлу сведения о его создании, применённых инструментах и внесённых изменениях. Если после этого данные будут изменены, цифровая подпись нарушается, и вмешательство можно выявить.
Однако исследователи подчёркивают, что и этот способ не является универсальным решением. Существуют сценарии, при которых метаданные могут быть удалены или не применяться изначально. Другие рассматриваемые технологии также демонстрируют ограничения в устойчивости и практическом внедрении. В итоге Microsoft приходит к выводу, что борьба с синтетическими подделками требует комплексного подхода, но даже он не способен полностью исключить риск обмана, - говорится в сообщении.
Также El.kz сообщал о том, как распознать дипфейк.
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
