Қазіргі ақпарат дәуірінде қоғамның дүниетанымы мен саяси таңдауы көбіне әлеуметтік желілер мен іздеу жүйелерінің алгоритмдеріне тәуелді. Бұл алгоритмдер ақпаратты іріктеп, белгілі бір мазмұнды алға шығарады және басқасын тасада қалдырады. Нәтижесінде әр пайдаланушы өз көзқарасына сәйкес ақпарат ағынында өмір сүріп, «алгоритмдік оқшау» ішінде қалып қояды. Бұл – адамның жеке қызығушылығына негізделген ұсыныс жүйесінің нәтижесі. Алайда ол қоғамдағы пікір алуандығын тежеп, біржақты ақпараттық орта қалыптастырады.
Cambridge Analytica мысалы
Алгоритмдердің қоғамдық санаға әсерін айқын көрсеткен оқиғалардың бірі - Cambridge Analytica (CA) ісі. Бұл британиялық консалтингтік компания 2016 жылғы АҚШ президенттік сайлауында Дональд Трамптың штабында қызмет еткен. Негізгі мақсаты - сайлаушыларды тек демографиялық емес, психологиялық сипаттамаларына қарай бөліп, әр топқа жеке бағытталған саяси хабарламалар тарату болды.
Компания 2014 жылы Кембридж университетінің зерттеушісі Александр Коган әзірлеген This Is Your Digital Life қолданбасын пайдаланды. Бұл бағдарлама Facebook пайдаланушыларына тұлғалық тест ұсынғанымен, шын мәнінде, 270 мың адамның және олардың достарының деректерін жинап, барлығы 87 миллион адамның мінез-құлықтық ақпаратын иеленді. Жиналған деректер ішінде «лайктар», қызығушылықтар, әлеуметтік байланыстар және қандай топтарға мүше екені көрсетілген еді.
Cambridge Analytica бұл деректерді OCEAN тұлғалық моделіне (Openness, Conscientiousness, Extraversion, Agreeableness, Neuroticism) салып талдады. Осылайша әр адамның эмоциялық бейімін есептеп, оған лайық мазмұн ұсынды:
– невротизм деңгейі жоғары адамдарға иммиграция және қауіп тақырыбындағы қорқынышты жаңалықтар;
– тәртіп пен тұрақтылықты бағалайтындарға заң және қауіпсіздікке байланысты материалдар;
– оптимист тұлғаларға «елдің қайта өрлеуі» жайлы үміт сыйлайтын хабарламалар.
Facebook-тегі бұл жарнамалар dark ads форматында – тек мақсатты аудиторияға көрінетін, қоғам мен журналистерге ашылмайтындай етіп жарияланды. Осы тәсіл сайлаушыларды ақпараттық оқшаулауға және шешім қабылдау процесін жаппай манипуляциялауға жол ашты.
Осы және басқа да оқиғалар бізді алгоритімдік оқшаулану (algorithmic bubble) мәселесіне назар аударуға итермелейді. Адамдар көбіне өз пікірін растайтын ақпаратты көріп, қарсы пікірлер жасырылады. Салдарынан қоғам ішіндегі идеялар бөлініп, даулы мәселелерде сан қилы пікірлер қатар жүреді. Сондықтан әлеуметтік желі алгоритмдері мен ақпарат таспасын реттеу жүйелерін ашық әрі теңгерімді ету өзекті мәселе болып отыр.
Қазақстандағы мемлекеттік ұстаным
2025 жылы Қазақстанда «Жасанды интеллект туралы» заң қабылданды. Бұл құжат ЖИ жүйелерінің жауапкершілігін, деректер қауіпсіздігін және этикалық стандарттарды реттеуді көздейді. Алайда заң мәтінінде алгоритмдердің ақпараттық бейтараптығы мен интерпретация әділдігі жайлы нақты талаптар жоқ.
Осы орайда newsroom.mnu.kz Жасанды интеллект және цифрлық даму министрлігіне хат жолдап, жеке деректерді қорғау, алгоритмдердің саяси ықпалы және азаматтарға жасалатын ұсыныстар жүйесі туралы сұрады. Ресми жауапта министрлік басты назарды цифрлық мәдениет пен кибергигиена саласына аударған.
Министрлік мәліметінше, мектептерде балалардың цифрлық сауаттылығын арттыру мақсатында бірінші сыныптан бастап цифрлық сауат сабақтары енгізілген. Сонымен қатар MIT-мен бірлескен жоба аясында 1-4 сыныптарда ЖИ элементтері оқытыла бастады, ал бағдарлама кезең-кезеңімен 12-сыныпқа дейін кеңейтіледі. Бұдан бөлек, балалардың кибергигиена мәдениетін ерте жастан қалыптастыру және ата-аналардың бұл процеске белсенді қатысуы маңызды деп атап өтілген. Сонымен қатар ата-аналардың өз балалары туралы әлеуметтік желілерде артық ақпарат жариялауы қауіп тудыратынын, сондықтан жеке деректерді қорғау үйден басталатынын ескертеді.
Бұл саясат негізінен цифрлық қауіпсіздік пен интернеттегі жауапты мінез-құлықты дамытуға бағытталған. Алайда ресми құжатта ЖИ алгоритмдерінің ашықтығы, деректерді әділ өңдеу немесе интерпретациялық бейтараптық мәселелері қозғалған жоқ.
Басым бағыт – техникалық қауіпсіздік пен білім беру, ал ақпараттық әділдік пен алгоритмдік бейтараптық тақырыбы әзірге назардан тыс.
Бейтарап дерек болмайды
Бұл жағдайда халықаралық сарапшылардың ескертуі өзекті. Omniscien Technologies компаниясының негізін қалаушы Дион Уиггинс алгоритмдердің бейтараптығына күмән келтіреді. Оның айтуынша, деректер ешқашан бейтарап бола алмайды.
Деректер шындықты көрсетпейді, оны құрастырады. Кім, қалай және қандай мақсатта жинағаны нәтижеге тікелей әсер етеді, – дейді ол.
Уиггинс алгоритмдерді жай технология емес, биліктің жаңа түрі ретінде қарастырады. Деректерді сүзу және интерпретациялау мүмкіндігі ақпараттық бақылаудың ең қуатты тетігіне айналды.
Оның пікірінше, қазіргі әлемде жасанды интеллект нарығы бірнеше ірі корпорацияның қолында. Ал олар «шындықты код деңгейінде басқара алады». Егер мемлекет өз деректер кеңістігін қорғай алмаса, шетелдік технологиялық платформалар өз мәдени және саяси кодтарын қоғамға емін-еркін енгізе алады.
Авторы: Ажар Шыныбай