Логика против ИИ: учёные раскрыли неожиданный провал технологий
ИИ спотыкается на простых задачах: почему чат-боты проваливают судоку и путаются в объяснениях, рассказывает El.kz со ссылкой на Cnet.
Генеративные модели искусственного интеллекта уже умеют многое: писать тексты, рисовать картинки и даже сочинять музыку. Но стоит поставить перед ними задачу, требующую строгой логики, всё рушится. Исследователи выяснили, что ИИ с трудом справляется даже с облегчёнными версиями судоку и при этом почти всегда запутывается, когда нужно объяснить свой ход мыслей.
Учёные из Университета Колорадо в Боулдере проверили, как чат-боты решают головоломки 6х6. Результат оказался разочаровывающим: большинство моделей не смогли решить задачу без помощи дополнительных инструментов. Но ещё более тревожным стал тот факт, что объяснения шагов зачастую оказывались неточными или вовсе бессмысленными. Некоторые боты уходили в сторону, выдавая фразы про погоду или случайные комментарии, не имеющие отношения к задаче.
Эксперты подчеркивают: объяснять ход рассуждений - критически важный навык, особенно если речь идёт о технологиях, которым доверяют управление автомобилями, финансовыми операциями или медицинскими данными. Когда человек ошибается, он хотя бы может объяснить, почему сделал тот или иной выбор. ИИ же пока не в состоянии делать это прозрачно и честно.
Мы хотим видеть реальные причины, по которым ИИ принимает решение, а не красивую историю, придуманную для пользователя, - отметил профессор Ашутош Триведи, один из авторов исследования.
По его словам, без прозрачности доверять таким системам будет опасно, ведь объяснение легко может превратиться в манипуляцию.
Это исследование лишь часть широкой дискуссии о будущем ИИ. Другие научные работы уже показали, что модели склонны придумывать, выдавая выдуманные факты ради того, чтобы понравиться пользователю. Если такие системы станут основой цифровых помощников и "ИИ-агентов", то способность объяснять свои шаги станет не менее важной, чем умение давать правильные ответы.
Вопрос доверия к искусственному интеллекту остаётся открытым. И если он не может честно рассказать, как пришёл к своему решению, стоит ли позволять ему принимать решения вместо нас?
Ранее El.kz писал о том, что новый ИИ-сервис научит шутить и подбирать удачные фразы.
Подпишитесь на наш Telegram-канал и узнавайте новости первыми!
El рекомендует 
