В США ИИ будет оценивать уровень опасности заключенных в тюрьмах

Власти американского штата Мичиган планируют внедрить систему искусственного интеллекта для оценки опасности заключенных. Алгоритм будет распределять их по четырем уровням риска в зависимости от вероятности совершения насилия. Пилотный проект стартует в декабре в нескольких мужских исправительных учреждениях, сообщает El.kz.

Ранее решения о классификации заключенных принимала комиссия сотрудников тюрьмы. Теперь эту задачу планируют передать системе, разработанной некоммерческой организацией Recidiviz, которая выросла из проекта Google. По заявлениям властей, внедрение алгоритма позволит повысить точность прогнозирования будущего насилия примерно на 30%. 

Это вызывает вопросы, поскольку присвоенный заключенному уровень риска влияет на условия отбывания наказания: доступ к образовательным и реабилитационным программам, другим ресурсам, а также определяет, с кем он будет находиться в одном учреждении.

Проблемы использования подобных алгоритмов уже проявились в других американских штатах. В Луизиане действует система TIGER, которая изначально разрабатывалась как инструмент оценки и поддержки реабилитации заключенных. Однако впоследствии алгоритм стал единственным критерием при принятии решений об отказе в досрочном освобождении.

Программа учитывает преимущественно прошлое человека: совершенные преступления, трудовой стаж, возраст первого ареста и нарушения условий условно-досрочного освобождения. При этом она не принимает во внимание поведение заключенного в тюрьме, участие в образовательных курсах, прохождение терапии и другие усилия по исправлению.

В расследовании ProPublica приводится случай 70-летнего мужчины, который почти потерял зрение и передвигался в инвалидной коляске. Находясь в заключении, он прошел курсы управления гневом, получил профессиональную подготовку и записался на лечение от зависимости.

Однако за два месяца до слушания по вопросу досрочного освобождения мужчине сообщили, что он больше не имеет права претендовать на него. Алгоритм TIGER оценил вероятность повторного правонарушения как среднюю. Согласно новому законодательству штата, этого оказалось достаточно, чтобы автоматически лишить его права на слушание.

Подобные случаи поднимают вопросы о прозрачности алгоритмов и ответственности за решения, которые непосредственно влияют на судьбы людей. В случае с Мичиганом пока остается неясным, насколько подробно власти будут проверять выводы ИИ и смогут ли сотрудники исправительных учреждений пересматривать рекомендации системы.

Ранее мы писали о том, как женщины после сорока находят себя в стендапе.