Жасанды интеллект бірнеше секундта мәтін жазып, сұраққа жауап беріп, сурет жасап жатқан тұста бұрынғы Google қызметкері Такер Брайант ерекше жоба ұсынды. Ол ChatTJB атты чат-ботты іске қосты. Сырттай қарағанда сервис кәдімгі ЖИ-чатқа ұқсайды. Алайда пайдаланушылардың сұрағына нейрожелі емес, Брайанттың өзі жауап береді.
ChatTJB-ге келген әр хабарламаны Такер Брайант жеке оқып, жауабын өзі жазады. Сондықтан жауап бірден келмеуі мүмкін. Оның үстіне автор ақпараттың нақты әрі пайдалы болатынына кепілдік бермейді. Кейде қате кеңес беруі, түсініксіз жауап жазуы немесе кәдімгі түсіндірменің орнына қысқа өлең түрінде жауап беруі мүмкін.
Тіпті сурет генерациясы да қолмен жасалады. Пайдаланушы сурет жасауды сұраса, нейрожелі дайындаған кескіннің орнына Брайанттың өзі салған суретті алады.
«ЖИ» дегеніміз – жасанды интеллект емес
Жобаны таныстыру үшін Сан-Францискода арнайы билбордтар да орналастырылған. Жарнамада ChatTJB «ЖИ негізіндегі жетекші чат-бот интерфейсі» ретінде көрсетіледі. Алайда мұндағы ЖИ көпшілік білетін artificial intelligence, яғни «жасанды интеллект» деген мағынаны білдірмейді.
Автор оны average individual – «қарапайым адам» деп түсіндіреді.
Шын мәнінде, ChatTJB – ChatGPT немесе басқа да ЖИ сервистерімен бәсекелесуге арналған технологиялық өнім емес. Бұл – адамдардың чат-боттарға және олар ұсынған ақпаратқа қаншалықты тез сенетінін көрсетуге бағытталған сатиралық арт-жоба.
Брайанттың айтуынша, бүгінде адамдар чат-боттардың жылдам әрі сенімді жауап беруіне үйреніп қалған. Ақпарат нақты әрі сауатты жазылған сайын оған күмән келтірмей қабылдау оңай. Алайда жауаптың сенімді естілуі оның әрдайым дұрыс екенін білдірмейді.
ЖИ-ға шамадан тыс сену несімен қауіпті?
ChatTJB авторы жобасын «когнитивті капитуляция» деп аталатын құбылыспен байланыстырады. Қарапайым тілмен айтқанда, бұл – адамның ақпаратты өзі саралап, тексерудің орнына сол міндетті жүйеге тапсыруы.
ЖИ жауабы қаншалықты жылдам әрі сауатты көрінген сайын, оны қайта тексеруге деген қажеттілік те азаюы мүмкін. ChatTJB осы әдетке назар аудартуды көздейді.
Сондықтан сервистің баяулығы, оғаш әрі кейде пайдасыз жауаптары – кемшілік емес, жобаның негізгі идеясының бір бөлігі. Автор осылайша сенімді жазылған кез келген жауап міндетті түрде дұрыс бола бермейтінін еске салғысы келеді.
Әсіресе денсаулық, салық пен қаржы мәселесінде ЖИ берген ақпаратты мұқият тексерген жөн. Өйткені мұндай тақырыптардағы қате кеңес адамға елеулі зиян келтіруі мүмкін.
Адамдар компьютерге неге тез сенеді?
Адамдардың компьютермен сөйлескенде оны кәдімгі адамдай қабылдауы бұрыннан бар құбылыс. Мұндай жағдай алғаш рет 1960 жылдары-ақ байқалған.
1966 жылы ELIZA атты бағдарлама жасалды. Ол пайдаланушының жазған сөздерін өңдеп, жауап қайтарған. Бағдарлама қарапайым болғанына қарамастан, онымен сөйлескен адамдар кейде ар жағында өзін түсініп отырған адам бардай қабылдаған. Кейін бұл құбылыс «ELIZA әсері» деп аталды.
Бүгінгі жасанды интеллект жүйелері ELIZA-дан әлдеқайда дамыған. Олар сұраққа сауатты әрі сенімді жауап бере алады. Бірақ жауаптың сенімді естілуі ондағы ақпараттың міндетті түрде дұрыс екенін білдірмейді. ЖИ кейде шындыққа ұқсайтын, бірақ қате мәлімет ұсынуы мүмкін.
АҚШ-тың Ұлттық стандарттар және технологиялар институты (NIST) мұндай қате жауаптарды «конфабуляция» деп атайды. Мамандар адамдардың компьютер ұсынған ақпаратқа күмән келтірмей, бірден сеніп қалуы мүмкін екенін де ескертеді.
Бұл мәселе ғылыми зерттеулерде де қарастырылған. Microsoft Research пен Карнеги – Меллон университетінің зерттеушілері 319 маманның генеративті ЖИ-ды жұмыс барысында қалай қолданатынын зерттеген. Қатысушылар ЖИ пайдаланған 936 жағдайды мысалға келтірген.
Зерттеу нәтижесі ЖИ мүмкіндігіне қатты сенетін адамдар оның берген жауабын сирек тексеретінін көрсеткен. Зерттеушілер бұған уақыттың аздығы, ЖИ-ға шамадан тыс сену және алынған ақпараттың дұрыс-бұрысын анықтауға білімнің жеткіліксіз болуы әсер етуі мүмкін екенін айтады.
ChatTJB нені өзгерткісі келеді?
Такер Брайанттың жобасы жасанды интеллектіден бас тартуға шақырмайды. Керісінше, ол ЖИ-мен жұмыс істегенде пайдаланушының жауапкершілігі жоғалмауы керегін көрсетеді.
ChatTJB-дің танымал болуы суретшілерді, әзірлеушілерді және белсенділерді технологияның әлсіз тұстарын әзіл мен ерекше формат арқылы көрсететін жаңа жобалар жасауға ынталандыруы мүмкін.
Пайдаланушы үшін ең маңыздысы – жауап қаншалықты сенімді естілгенімен, ондағы ақпараттың дұрыс-бұрысын тексеру. Жасанды интеллект көп жұмысты жеңілдеткенімен, оның берген ақпаратына бірден сене салмай, тексеріп отырған жөн.
