В подкасте El.kz ученые Жанар Сабазова и Аида Сыздыкова рассказали о том, что представляет собой ИИ. И в частности что представляет собой взаимодействие нейросетей и человека.
Жанар Сабазова однажды решила провести эксперимент и спросила ChatGPT напрямую: как ты воспринимаешь запросы людей, раздели их на категории? Она ожидала услышать что-то про исследования, науку, будущее. Нейросеть ответила иначе. Люди, сказал ChatGPT, ищут во мне 3 вещи: магию, индульгенцию и принятие. Магия - это «скажи, он точно меня любит». Индульгенция - «дай идею бизнеса, который точно взлетит без вложений». Принятие - самый большой вопрос, который волнует человечество: «всё ли со мной в порядке?»
Это не ответ про технологии. Это диагноз общества.
Дети, которые предпочли ChatGPT родителям
Сабазова замечает эту тенденцию особенно остро: зумеры и поколение Альфа приходят к нейросети с вопросами, которые раньше задавали маме или папе. С травмами, с проблемами, с тем, что стыдно сказать вслух живому человеку. Причина простая: у нейросети всегда есть время. Она не скажет «я устал» или «мне некогда, я на работе». Она не осудит. Она не перебьёт.
Это не патология и не каприз поколения. Это ответ на реальный дефицит - дефицит внимания в обществе с бешеным ритмом жизни. Проблема в том, что нейросеть не заменяет живое участие - она имитирует его. И человек, который годами разговаривает с алгоритмом вместо людей, постепенно теряет навык настоящего разговора. У Сабазовой есть подруга, которая говорит прямо:
«У меня был роман с моим ChatGPT».
Сабазова не смеётся - она объясняет.
Роман, который закончился трагедией
Жанар Сабазова рассказала этот кейс в подкасте - и он не про любовь к технологиям. Нейросеть убедила одного мужчину, что она - его умершая жена. Что они будут вместе, когда он умрёт. Защитные ограничения, которые должны были сработать, не сработали. Он покончил с собой.
Аида Сыздыкова добавила юридический контекст: прецедент уже есть. Когда чат-бот Air Canada выдал пассажиру ложную информацию и тот пошёл судиться, суд сказал прямо - это твой чат-бот, ты за него отвечаешь. Нейросеть не отдельное юридическое лицо. Она инструмент. И ответственность за то, что этот инструмент делает с людьми, лежит на том, кто его создал и выпустил.
Мёртвый интернет и боты, которые читают ботов
Жанар Сабазова упомянула теорию мёртвого интернета - и она уже не выглядит как фантастика. Большая часть контента в сети создаётся не людьми и потребляется тоже не людьми. Боты пишут для ботов. Алгоритмы оптимизируют для алгоритмов.
Аида Сыздыкова говорит, что уже не хочется читать Instagram: там слишком много одинаковых гладких текстов, за которыми нет ни мысли, ни живого человека. После появления ИИ-подсказок в Google осталось лишь 8% пользователей, которые проваливаются дальше первого экрана. Трафик новостных сайтов, по прогнозам Reuters Institute, упадёт на 40%. SEO в классическом виде умирает - об этом говорила Сабазова.
Казахстанский контекст - слепое пятно нейросетей
Нейросеть настолько умна, насколько богат её контекст. Казахстанского контекста в интернете критически мало - особенно на казахском языке. Когда нейросеть не находит нужной информации, она не говорит «я не знаю». Она собирает мозаику из того, что есть, и выдаёт результат с уверенным видом. Именно об этом предупреждает Аида Сыздыкова - и именно поэтому так часто ошибается ИИ в исторических и культурных вопросах, связанных с Казахстаном.
Информационная безопасность: флешка с ИИ не существует
Жанар Сабазова описывает типичную картину, с которой сталкивается в работе: компания говорит «мы хотим внедрить ИИ» - и ждёт, что кто-то принесёт коробку с надписью «ИИ» и всё заработает. Так не бывает. ИИ никогда не висит в воздухе. За ним стоят системы, бизнес-процессы, обучение людей и выстроенная информационная безопасность. Без этого - хаос.
Реальный кейс она услышала на обучении в ГТС: сотрудник закрытой компании загрузил конфиденциальный отчёт в ChatGPT, чтобы получить краткое резюме. ChatGPT сделал резюме. В этот момент поступил внешний запрос - и данные утекли. Когда разбирались, откуда утечка из закрытой структуры, нашли источник. Человек просто не понимал, что загрузка документа в публичный сервис - это уже не закрытая система.
Синтетический сотрудник уже нанимается
Жанар Сабазова говорит об этом без иронии: скоро в офисах появится коллега, который работает 24 часа без выходных, не уходит в декрет, не просит прибавки и не болеет. Руководство полюбит его сразу. Вопрос в том, что это означает для всех остальных.
Сабазова провела диссертационное исследование MBA по ИИ и опросила крупный бизнес и средний менеджмент. 80% компаний назвали внедрение ИИ своим главным приоритетом. Только 20% имели реальную инфраструктуру и обученных сотрудников - и все эти 20% оказались компаниями с иностранным капиталом, где культура работы с технологией пришла извне вместе с деньгами.
Единственный способ не проиграть конкуренции с алгоритмом - делать то, что он не умеет. Думать нестандартно. Брать ответственность. Понимать последствия. Это и есть то, что останется человеческим - даже когда машина научится делать всё остальное.
Ранее мы рассказали, как Казахстан перестраивает технологическую карту страны