Новая нейросеть OpenAI научилась создавать поддельные документы

Последняя версия генеративной нейросети от компании OpenAI — модель GPT-4o — способна создавать изображения с текстом настолько реалистично, что это уже вызывает опасения среди экспертов по цифровой безопасности, сообщает ИА El.kz.

Главное новшество модели заключается в высокой точности генерации текста внутри изображений — одного из самых сложных аспектов для предыдущих версий ИИ. Теперь искусственный интеллект способен создавать изображения, включающие сложные текстовые элементы: от пунктов меню и ценников до официальных документов и чеков.

Ярким примером стал случай, когда глава венчурной компании Menlo Ventures Диди Дас опубликовал в соцсети X поддельный чек из стейк-хауса в Сан-Франциско. Счёт выглядел абсолютно достоверно: точные суммы, реалистичная структура и даже корректный расчёт чаевых. Это изображение вызвало волну обсуждений о том, насколько теперь сложно отличить настоящие документы от сгенерированных.

Специалисты предупреждают, что новая функциональность модели OpenAI может быть использована для создания фейковых налоговых форм, банковских чеков, удостоверений личности, свидетельств о рождении и других официальных бумаг. В условиях стремительного развития ИИ всё чаще поднимается вопрос о необходимости законодательного и технического регулирования подобных технологий.

Ранее генераторы изображений на базе ИИ часто не справлялись с реалистичным воспроизведением текста: буквы были искажены, слова — бессмысленными. Теперь же барьер преодолён, и это открывает как новые возможности, так и серьёзные риски — от фальсификаций до подрыва доверия к визуальному контенту в интернете.

Эксперты рекомендуют пользователям проявлять осторожность и критически относиться к любым визуальным материалам, особенно к тем, что могут иметь юридические или финансовые последствия.

Читайте также:

• Искусственный интеллект и рынок труда: профсоюзы Казахстана требуют законодательных гарантий