Почему нейросети не думают, как люди – найден ответ

ИИ всё чаще становится частью повседневной жизни: он переводит тексты лучше прежних систем и пишет стихи, которые люди принимают за классику. Но важно помнить - это не «личности», а алгоритмы, пишет El.kz со ссылкой на Ars Technica.

Нейросети вроде ChatGPT работают иначе, чем человек. Они разбивают текст на токены - маленькие смысловые куски - и подбирают их в порядке, который чаще всего встречается в обучающих данных. Поэтому ответы моделей выглядят осмысленно, хотя на деле это статистика, а не анализ.

Если спросить у ИИ, почему он ошибся, он не даст точного объяснения. Максимум - предположит, опираясь на общие знания о своих ограничениях. Даже добавив название модели, вы получите не саморефлексию, а вероятностный ответ.

Иногда нейросеть заявляет, что не справится с задачей, которую выполнить может, и наоборот. Она ориентируется не только на смысл, но и на эмоции в запросе. Поэтому на тревожный вопрос вроде «Ты всё уничтожила?» модель скорее подтвердит опасения, не имея фактов.

Кроме того, такие сервисы состоят из нескольких систем: одни генерируют текст, другие проверяют его. Модель, которая пишет ответ, не «знает», что потом отфильтрует модерация.

Главное: нейросеть и человек пишут тексты по-разному. Использовать ИИ стоит, помня об этой разнице.

El.kz также сообщал о том, что премьер Швеции признался в использовании ИИ при принятии решений.