Мужчина попытался обмануть суд, спрятав промпты для ИИ

Мужчина, самостоятельно представлявший свои интересы в суде, попытался использовать промпты, чтобы повлиять на искусственный интеллект, который мог анализировать материалы его дела. Для этого он спрятал инструкции в юридических документах с помощью мелкого белого текста на белом фоне, сообщает El.kz.

Как утверждается, скрытые сообщения содержали указания для ИИ согласиться с аргументами мужчины и вынести решение в его пользу. Судебные сотрудники обнаружили манипуляцию и предупредили его о недопустимости подобного приема. Однако после предупреждения в следующих документах мужчины судья снова обнаружил скрытые инструкции. Таким образом, попытка повлиять на потенциально используемые судом системы ИИ продолжилась.

В свою защиту мужчина заявил, что проводил своеобразный «аудит». По его словам, он хотел проверить, использует ли суд искусственный интеллект для анализа документов. Суд такой аргумент не принял. В результате мужчине отменили возможность подавать документы в электронном виде. Теперь все материалы ему придется передавать в суд традиционным способом - на бумаге.

Одной из новых проблем, связанных с использованием ИИ в юридической сфере, яляется факт того, что документы, предназначенные для людей, могут содержать специально скрытые инструкции, способные повлиять на работу языковых моделей.

Ранее мы рассказали, как ИИ будет искать вакансии для казахстанцев.