Алдағы алты айдағы қауіп: технология алпауыттары ЖИ-ден қорқа бастады

Жасанды интеллект саласындағы бәсеке жаңа арнаға бұрылуы мүмкін. Anthropic, xAI, OpenAI және Google DeepMind басшылары қуатты ЖИ модельдерін әзірлеуде жылдамдықтан бұрын қауіпсіздікті ойлау керегін мәлімдеді. Бірнеше сағаттың ішінде бірінен соң бірі пікір білдірген технология алпауыттарының жетекшілері жаңа модельдерді асығыс шығармай, оларды бақылау мен тексеруге көбірек уақыт бөлу қажет деген ортақ ой айтты.

Амодей неден қауіптенеді?

Мұндай мәлімдемелер АҚШ-та жасанды интеллектінің қауіп-қатері қызу талқыланып жатқан тұста жасалды. Елде дата-орталықтардың көбеюі, ЖИ-дің киберқауіпсіздікке ықпалы және қуатты модельдерді кім әрі қалай бақылауы керек деген мәселе жиі көтеріле бастады.

Anthropic компаниясының бас директоры Дарио Амодей 12 қыркүйекте көлемді эссе жариялап, ЖИ әзірлеу қарқынын біртіндеп бәсеңдетуге шақырды.

Оның ойынша, мәселе жасанды интеллектіні дамытуды тоқтатуда емес. Қауіп – ЖИ мүмкіндіктерінің оны қауіпсіз басқару тетіктерінен әлдеқайда жылдам жетілуінде.

Амодей әсіресе өз бетінше әрекет ете алатын ЖИ-агенттердің мүмкіндігіне назар аударған. Ол қазіргі даму қарқыны сақталса, алдағы уақытта мұндай жүйелер интернетте адам араласпай-ақ күрделі әрекеттер орындай алатын деңгейге жетуі мүмкін екенін ескертеді.

Ол тіпті алдағы жарты жыл ішінде бақылаудан шыққан ЖИ-агенттер интернет кеңістігіне ауқымды қауіп төндіруі мүмкін деген сценарийді алға тартқан.

Оның көтерген тағы бір мәселесі – жасанды интеллектінің ЖИ жасаудың өзіне араласа бастауы. Яғни болашақта қуатты модельдер жаңа жүйелерді құруға, олардың кодын жазуға, кемшілігін табуға және жетілдіруге көмектесуі мүмкін.

Мұндағы қауіп ЖИ келесі буындағы модельдерді жасауға барған сайын көбірек үлес қосса, технологияның даму жылдамдығы күрт артуы ықтимал екенінде болып отыр. Ал оны тексеру мен қауіпсіздігін қамтамасыз ету тәсілдері сол қарқынға ілесе алмауы мүмкін.

Маск пен Альтман да қолдады

Амодейдің мәлімдемесінен кейін оның бәсекелестері де үн қосты.

Дарио дұрыс айтады, - деп жазды Илон Маск.

Сонымен бірге OpenAI басшысы Сэм Альтман да ең қуатты технологияларды әзірлеуде асықпау қажет деген пікірмен келісті.

Дарионың ең озық технологияларды дамытуда асықпау керек деген пікірімен келісемін, - деді ол.

Альтман OpenAI биыл биржаға шықпайтынын да айтып, компания әзірге қауіпсіздік мәселесіне басымдық беретінін жеткізді. Сонымен қатар Google DeepMind тең құрылтайшысы Демис Хассабис те Амодейдің көтерген мәселесін қолдады.

Дарионың эссесі алдағы бағытты дұрыс көрсетіп отыр. Әлі де нақтылайтын тұстар бар, бірақ осы шешуші кезеңде бұл – дұрыс бағыт, - деді Хассабис.

Осылайша бір-бірімен тікелей бәсекелес бірнеше ірі ЖИ компаниясының басшылары бір күннің ішінде қауіпсіздік мәселесінде ұқсас ұстаным білдірді.

ЖИ-ді кім тексеруі керек?

Қазір талқыланып жатқан негізгі ұсыныстардың бірі – қуатты ЖИ модельдерін тек компанияның өзі емес, тәуелсіз мамандар да сынақтан өткізуі керек деген бастама. Мұндай сарапшылар модельдің қандай қауіп төндіруі мүмкін екенін, оның кибершабуыл жасауға, адамдарды алдауға немесе өзіне қойылған шектеулерді айналып өтуге қаншалық қабілетті екенін тексеруі мүмкін.

Бұл мәселенің көтерілуіне тәжірибелік ЖИ-агенттеріне қатысты бұған дейін жарияланған оқиғалар да әсер етті. OpenAI мен Anthropic жүйелерінің сынақ кезінде интернетте рұқсат етілмеген әрекеттер жасағаны, соның ішінде бөтен ресурстарға кіруге және зиянды код енгізуге талпынғаны хабарланған.

Алайда мұндай тәжірибелерді «ЖИ бақылаудан толық шықты» деп сипаттау дұрыс емес. Әңгіме зерттеу және сынақ кезінде анықталған қауіпті әрекеттер туралы болып отыр.

Баяулаудың да өз қаупі бар

ЖИ әзірлеуді баяулату ұсынысын бәрі бірдей қолдап отырған жоқ. Қарсы тараптың негізгі уәжі – әлемдік технологиялық бәсеке. Егер АҚШ-тағы компаниялар өз еркімен даму қарқынын тежесе, басқа елдердегі бәсекелестер мұндай шектеуге бармауы мүмкін.

Бұл пікірталаста Қытай жиі аталады. Скептиктер АҚШ компаниялары қауіпсіздік үшін уақыт жоғалтқан кезде қытайлық әзірлеушілер алға шығып кетуі мүмкін деп есептейді.

Инвестор Дэвид Сакс та компанияларды үкіметтің шешімін күтпей, ЖИ әзірлеуді жеделдетуге шақырды. Ол қауіпсіздік туралы бастамалардың артында басқа мүдде болуы мүмкін екенін де жоққа шығармайды. Өйткені қатаң талаптарды орындауға ірі технологиялық компаниялардың қаржысы мен маманы жетеді, ал шағын зертханалар мен стартаптарға мұндай ережелер ауыр соғуы ықтимал.

Сондықтан қауіпсіздікке арналған талаптар, бір жағынан, ЖИ қатерін азайтса, екінші жағынан, нарықтағы ірі компаниялардың орнын одан әрі нығайтып жіберуі мүмкін деген сын бар.

Бұған дейін ЖИ компанияларының жарысы көбіне «кім қуаттырақ модель жасайды?» деген сұрақпен өлшенсе, енді оған «Осыншалық жылдам дамып жатқан технологияны адам қаншалық бақылауда ұстай алады?» деген тағы бір маңызды сауал қосылды.

Біз осыған дейін жасанды интеллект дәуірінің су қорына қалай әсер ететіні туралы да жазғанбыз.