ChatGPT передал полиции данные о готовящемся преступлении

Система безопасности ChatGPT помогла правоохранительным органам США раскрыть план похищения и убийства женщины. После анализа переписки с чат-ботом информация была передана в ФБР, а затем в местную полицию, сообщает El.kz со ссылкой на Palm Beach Post. 

Как чат-бот выявил угрозу

Фигурантом дела стал 25-летний сотрудник инвестиционного банка Goldman Sachs Даррен Шида Чжоу. По данным суда, в переписке с ChatGPT он подробно описывал намерение похитить, изнасиловать и убить свою бывшую девушку.

«Если она не даст мне второй шанс, я изнасилую и убью ее, а потом себя».

Системы безопасности OpenAI автоматически обнаружили сообщения с признаками реальной угрозы. После этого сотрудник компании проверил переписку и направил материалы в Федеральное бюро расследований. 

Что установило следствие

Полученные данные ФБР передало в полицию Флориды. Следователи пришли к выводу, что речь идет о реальном плане преступления, после чего мужчину задержали.

Во время расследования Чжоу признал вину. Он также подтвердил, что после расставания преследовал бывшую девушку, используя звонки, сообщения и разные телефонные номера и аккаунты. 

Какое наказание назначил суд

Суд приговорил Чжоу к 8 годам условного срока. Кроме того, в течение 2 лет он обязан носить электронный браслет.

Ему также запрещено связываться с бывшей девушкой и владеть огнестрельным оружием. После произошедшего Goldman Sachs уволил своего сотрудника. 

Читайте также: Ученые создали виртуальное население Земли из 8,3 млрд ИИ-персон