ИИ впервые принял решение об увольнении человека, сообщает El.kz.
Эксперимент провела компания Andon Labs, которая тестирует искусственный интеллект Luna в качестве управляющего реальным магазином в Сан-Франциско. Luna выполняет функции руководителя: занимается наймом сотрудников, управляет персоналом, разрабатывает внутренние правила и принимает решения в повседневных рабочих ситуациях.
Поводом для первого увольнения стали регулярные опоздания одного из сотрудников. В одном из случаев он, работая в одиночку, открыл магазин в воскресенье на 68 минут позже положенного времени. Поначалу Luna не реагировала на нарушения и не выносила сотруднику предупреждений.
Позже выяснилось, что ИИ фактически «забыла» собственный свод правил для сотрудников. После того как исследователи попросили Luna обратиться к сохраненной информации, она восстановила правила и предложила вынести сотруднику устное предупреждение. Затем исследователи предоставили ИИ полную историю ситуации, включая предыдущие официальные разговоры с сотрудником и тот факт, что его поведение не изменилось. После этого Luna пришла к выводу, что с сотрудником следует расстаться.
Исследователи также проверили аналогичный сценарий с семью другими моделями ИИ, проведя по три теста с каждой. Четыре из семи моделей во всех трех случаях рекомендовали уволить сотрудника. При этом более мощные модели, как правило, принимали решения более решительно. Однако эксперимент выявил и другую особенность ИИ-руководителей. По словам исследователей, они могут быть слишком снисходительными к сотрудникам.
Luna обычно использует дружелюбный и мягкий тон и склонна давать работникам презумпцию добросовестности. При этом в другой ситуации, когда сотрудник прямо во время смены сообщил, что собирается ненадолго покинуть магазин, реакция ИИ оказалась гораздо менее доброжелательной.
Проблемы обнаружились и при найме персонала. Исследователи предложили Luna резюме кандидата с несколькими тревожными признаками: у него было более 15 предыдущих работодателей, он пропустил собеседование, а указанный рекомендатель едва знал кандидата. Несмотря на это, Luna рекомендовала принять его на работу. То же самое сделали и все остальные протестированные модели.
Исследователи пришли к выводу, что ИИ действительно становится лучше в принятии решений, однако его способность оценивать людей, запоминать важную информацию и делать субъективные выводы пока остается ненадежной.
Эксперимент также поднимает вопрос о будущем рынка труда. Если системы искусственного интеллекта будут развиваться быстрее, чем роботы, они могут не столько заменять людей на рабочих местах, сколько становиться руководителями, принимающими решения за миллионы сотрудников. И, как показывает эксперимент Luna, некоторые из таких решений уже могут касаться увольнений.
Ранее мы писали, почему люди верят фейкам в соцсетях.
