Алгоритмдер енді тек техникалық құрал ғана емес. Олар біртіндеп қоғамдық басқару мен саяси шешім қабылдаудың дәл ортасына орнығып келеді. Бұрын деректерді өңдеуге, есеп жүргізуге немесе процестерді оңтайландыруға арналған жүйелер бүгінде адамдардың тағдырына тікелей әсер ететін шешімдерді қабылдай бастады.
Негізінде алгоритмдер басқару саласында бұрыннан қолданылып келеді. Жұмысқа қабылдау, салықтық тексерулерді жоспарлау, әлеуметтік жәрдемақы тағайындау, тіпті полиция патрульдерінің бағыттарын анықтау - мұның бәрінде деректерге сүйенген автоматтандырылған жүйелер бар. Алайда соңғы жылдары бұл жүйелердің рөлі күрт өзгерді. Олар көмекші құрал болудан шығып, шешім қабылдаушы субъектіге айналып барады.
Бұл нені білдіреді? Ең алдымен, алгоритмдер енді саяси және әлеуметтік реттеудің маңызды элементіне айналды деген сөз. Мұндай жағдайда олардың әділеттілігі, ашықтығы және есеп беруге қабілетті болуы өмірлік маңызға ие. Мәселен, қызметке іріктеу барысында қолданылатын алгоритм деректердегі жасырын біржақтылықтың салдарынан белгілі бір әлеуметтік топтарды шеттетуі мүмкін. Ал салықтық бақылау жүйесі кейбір аймақтарды немесе кәсіпкерлерді шамадан тыс тексеруге бағытталуы ықтимал. Мұндай шешімдер автоматты түрде қабылданғанымен, олардың салдары өте нақты әрі ауыр болуы мүмкін.
Соңғы уақытта Албания мен Жапонияда болған оқиғалар бұл мәселені жаңа деңгейге жеткізген. Мәселен, Албанияның үкіметі «Diella» атты цифрлық көмекшіні мемлекеттік сатып алу және тендерлік процестерді басқаруға енгізіп, жаңа кезеңге қадам басты. Ал күншығыс елі Жапонияда бір саяси партия жасанды интеллектіні партия көшбасшысы ретінде бекітетінін мәлімдеген. Бұл - символдық қадам ғана емес, билік пен жауапкершілік ұғымын қайта қарауға мәжбүрлейтін маңызды белгі болып отыр.
Осылайша әлемде жасанды интеллект жүйелері енді тек көрінбейтін инфрақұрылым емес, қоғам алдында ашық рөл атқара бастағанын көрсетіп отыр. Мұндай жағдай «алгоритмдік басқару» деп аталатын жаңа құбылысты алға шығарады. Қарапайым тілмен айтқанда, бұл - деректерден үйренетін, өзгермелі ортаға бейімделетін және ауқымды деңгейде жұмыс істейтін жасанды интеллект жүйелері арқылы басқару болып отыр. Олар қатаң әрі алдын ала жазылған ережелермен шектелмейді. Кейде тіпті оларды жасаушылардың өзі болжай алмаған шешімдер ұсынуы мүмкін екен.
Дәл осы ерекшелік олардың ықпалын арттырып қана қоймай, бақылауды қиындатады. Мысалы, көлік қозғалысын оңтайландыру үшін енгізілген жүйе уақыт өте келе кейбір аудандардағы кептелісті азайтудың орнына, оны одан әрі күшейтетін шешімдерге келуі мүмкін. Ал мұндай өзгерістердің себебін түсіндіру тіпті мамандар үшін де оңай емес.
Ағартушылық дәуірінің ойшылдары қоғамдағы дауларды есептеу мен рационалды талдау арқылы шешуге болатын әлемді елестеткен еді. Қазіргі алгоритмдік басқару сол идеяны жүзеге асырып жатқандай көрінеді: ол субъективтілік пен эмоциядан ада, «таза» басқаруды уәде етеді. Алайда неміс социологы Макс Вебер сипаттаған «темір тор» метафорасын еске түсірсек, бұл жүйелер сол торды одан әрі тарылта түсетіндей. Алгоритмдер жеке адамның еркіндігі мен дербестігін шектейтін жаңа құрылымға айналуы мүмкін.
Мысал ретінде әлеуметтік көмек көрсету жүйелерін алайық. Белгілі бір көрсеткіштерге сәйкес келмеген өтініштер автоматты түрде кері қайтарылып, адамдардың ең қарапайым қажеттіліктерге қол жеткізуі қиындауы ықтимал. Бұл жерде мәселе тек технологияда емес, оны қалай және қандай құндылықтар негізінде қолданатынымызда.
Тағы бір маңызды түйін - қазіргі жасанды интеллект жүйелерінің үздіксіз жұмыс істеуі. Бұрын басқару шешімдері белгілі бір кезеңдерге тәуелді болатын: халық санағы — әр он жылда, бюджет — жылына бір рет. Ал бүгінгі алгоритмдер нақты уақыттағы деректерді үздіксіз өңдеп, шешімдерді сол сәтте өзгертіп отырады. Бұл жағдай бақылау мен жауапкершілік тетіктерін әлсіретуі мүмкін.
Ендеше, не істеу қажет? Албания мен Жапониядағы тәжірибелер бізге үлкен мүмкіндік ұсынды. Бұл - алгоритмдік шешім қабылдау үдерістерін реттейтін құқықтық нормалар мен қоғамдық бақылау механизмдерін қалыптастыру мүмкіндігін көрсетті. Біздің басты міндетіміз - бұл басқару үлгісін заңды, ашық әрі демократиялық қағидаттармен үйлестіру болып отыр.
Алгоритмдік ашықтық, есеп беретін басқару және әділетті шешім қабылдау - жасанды интеллектіні жобалау мен қолдану барысында басты ұстанымға айналуы тиіс екендігін байқатты. Мұндай жүйелердің қоғамға әсерін тұрақты түрде бақылап, бағалап отыру да аса маңызды болса керек.