Жена планировала отравить мужа по советам ChatGPT

Житель американского штата Северная Каролина Джеймс Гейтс подал иск против OpenAI и генерального директора компании Сэма Альтмана. Мужчина утверждает, что ChatGPT помогал его жене подготовить план его убийства, в том числе подсказывал способы отравления и сокрытия улик. Подробнее в материале El.kz.

По словам Гейтса, проблемы в семье начались в начале прошлого года. Он попросил супругу Шерил вернуться на работу из-за финансовых трудностей, после чего между ними участились ссоры и разговоры о разводе. В августе супруги стали жить раздельно.

Однажды Шерил приехала забрать свои вещи и оставила на столе блокнот. Когда Джеймс взял его, оттуда выпал листок с подробным планом его убийства. После этого мужчина связал произошедшее с ухудшением своего самочувствия за месяц до отъезда жены и обратился в полицию. Во время обыска у Шерил обнаружили шприцы, весы, пипетки и лекарства. Кроме того, правоохранители изучили ее переписку с ChatGPT, в которой, как утверждается, содержались подробности подготовки преступления.

Согласно материалам дела, на протяжении нескольких месяцев женщина общалась с моделью GPT-4o. Она рассказывала чат-боту, что муж якобы проявляет насилие и может пытаться ее отравить. В ответ система, как утверждается в иске, подтверждала ее опасения и предоставляла информацию о токсичных веществах. В частности, ChatGPT якобы помогал рассчитывать дозировки с учетом веса мужчины, объяснял, где анонимно приобрести касторовые бобы, из которых получают рицин, и давал рекомендации по сокрытию следов преступления.

При этом доказать факт отравления следствию не удалось. Джеймс не сохранил напитки, в которые, по его подозрениям, супруга могла добавлять яд, и не обращался за медицинской помощью. Поэтому зафиксировать следы отравления не получилось. Несмотря на обнаруженные материалы, обвинения против Шерил в итоге сняли.

Теперь Гейтс намерен добиться от OpenAI компенсации и внедрения дополнительных механизмов безопасности. В частности, он требует, чтобы система распознавала разговоры о причинении вреда конкретному человеку и прекращала предоставлять подобные инструкции.

Мы ничем не отличаемся от любой другой семьи. Если это могло случиться с нами, это может случиться с кем угодно, — заявил Гейтс.

В OpenAI сообщили, что безопасность пользователей является приоритетом компании. Аккаунт Шерил заблокировали, а правоохранительным органам предоставили необходимую информацию.

Ранее мы писали, как врачи спасают людей после землетрясений.