OpenAI ғалымы жасанды интеллект туралы алаңдатарлық болжам жасады

Бүгінде жасанды интеллект адамның тапсырмасын орындайды. Ал ертең жаңа ЖИ жүйелерін жасауға, алгоритмдерін жетілдіруге, тіпті өзінен кейінгі буынның әзірленуіне өзі атсалыса бастаса ше? OpenAI-дың бас ғылыми қызметкері Якуб Пачоцки жасанды интеллект дәл осындай кезеңге таяп қалғанын айтады. Ғалымның болжамынша, алдағы бірнеше жылда ЖИ тағы бірнеше үлкен серпіліс жасауы мүмкін. Мұндай жағдайда жасанды интеллект адамға тапсырма орындап беретін құрал ғана емес, осы саланың дамуына тікелей ықпал ететін күшке айналмақ.

Алайда мәселе ЖИ-дің қаншалық қуатты болатынында ғана емес. Оның мүмкіндігі адамның түсіну және бақылау қабілетінен жылдам өссе не болмақ? An Alien Mind атты эссесінде Пачоцки осы мәселеге тоқталып, ЖИ қауіпсіздігіне қазірден көбірек көңіл бөлу қажет екенін жазады. Егер қолданыстағы бақылау тәсілдері жаңа жүйелердің даму қарқынына ілесе алмаса, технологияны жетілдіруді әдейі баяулатуға тура келуі мүмкін.

Пачоцки бұл мәселенің қаншалық маңызды екенін 2023 жылғы RLSlow зерттеу жобасынан кейін анық түсінгенін айтады. Жобаның алғашқы нәтижелері пайымдай алатын модельдерді барған сайын ауқымды түрде оқытуға және алдын ала үйретілген жүйелерге күрделі пайымдау жолдарын өздігінен құруды үйретуге болатынын көрсеткен.

Ғалымның айтуынша, сол кезде зерттеушілерді модельдердің тестіде қандай нәтиже көрсеткенінен гөрі, «бұл жаңалық ақырында адамзатты қайда алып барады?» деген сұрақ көбірек толғандырған.

«ЖИ-ді жобаламаймыз, өсіреміз»

Пачоцки қазіргі жасанды интеллектінің ерекшелігін түсіндіру үшін «өсіру» деген ұғымды қолданады. Дәстүрлі бағдарламаны жасағанда мамандар оның қандай ережемен жұмыс істейтінін алдын ала белгілейді. Ал қазіргі нейрожелілер орасан көп дерек пен есептеу қуатын пайдалану арқылы үйретіледі. Бір процесс сан мәрте қайталанып, соның нәтижесінде күрделі жүйе қалыптасады.

Сондықтан зерттеушілер модельдің жекелеген бөліктерінің қалай жұмыс істейтінін зерттей алғанымен, оның тұтас жүйе ретінде неліктен дәл осындай шешім қабылдайтынын әрдайым толық түсіндіре алмайды.

ЖИ жобаланғаннан гөрі өсіріледі, – дейді Пачоцки.

Ғалымның пікірінше, модельдер күшейген сайын олардың қабілетін бағалау да қиындай береді. Нәтижесін нақты өлшеуге болатын тапсырмаларда ЖИ-дың қаншалық мықты екенін анықтау оңай. Ал күрделі әрі алдын ала болжау қиын жағдайда оның қалай әрекет ететінін бағалау әлдеқайда қиын.

Сондықтан ЖИ-ды тек «адамнан ақылды ма, жоқ па?» деген сұрақпен өлшеу жеткіліксіз. Әлемге елеулі ықпал ету үшін оның адамнан барлық жағынан асып түсуі міндетті емес.

Өте пайдалы немесе өте қауіпті болуы үшін ЖИ адамның барлық қабілетіне теңесуі немесе одан асып түсуі шарт емес. Кейбір қабілеттер бойынша бізден озуы жеткілікті, – деп жазады ол.

ЖИ адам құндылықтарын сақтай ала ма?

Пачоцки көтерген басты мәселелердің бірі – alignment. Бұл – жасанды интеллектінің әрекетін адамның мақсаты мен құндылықтарына сай ету. Ғалым мұны екіге бөледі. Біріншісі – модель адамның не қалайтынын дұрыс түсініп, берілген тапсырманы орындауы керек. Екіншісі – ЖИ бұрын кездеспеген, қарама-қайшылыққа толы немесе оны әдейі жаңылыстыруға құрылған жағдайда да белгілі бір қағидалардан айнымауы қажет.

Пачоцкидің пікірінше, ең қиыны – екіншісі. Себебі модель үйрету кезінде кездеспеген жағдайға тап болса, бұрын меңгерген ережелерін жаңа ортада дұрыс қолданбауы мүмкін.

Қазір ЖИ-ассистенттерді үйретуде адамның бағасы мен кері байланысына сүйенетін күшейте оқыту әдістері кеңінен қолданылады. Бірақ мұндай тәсілдердің модель бұрын мүлде кездестірмеген жағдайда қаншалық сенімді жұмыс істейтіні әлі де толық шешілген мәселе емес. Сондықтан Пачоцки ЖИ күшейген сайын оны қауіпсіз қолдану тәсілдері де қатар жетілуге тиіс деп санайды.

ЖИ-дің қалай «ойлайтынын» бақылай аламыз ба?

ЖИ қауіпсіздігін қамтамасыз етудің бір жолы – оның қалай пайымдайтынын бақылау. Зерттеушілер модельдің дайын жауабын ғана емес, сол жауапқа қалай келгенін талдап, қауіпті әрекетті ертерек анықтауға тырысады. OpenAI мұның маңызын алғашқы пайымдаушы модельдерді әзірлеу кезінде-ақ түсінген.

Пачоцкидің айтуынша, o1-preview шыққанда модельдің егжей-тегжейлі пайымдау барысын пайдаланушыларға көрсетпеудің бір себебі – оны кейін бақылау құралы ретінде пайдалану мүмкіндігін жоғалтпау.

Бірақ модельдер күрделенген сайын оларды осылай бақылау да қиындап келеді. Қазіргі ЖИ жүйелері адамдармен сөйлесіп қана қоймай, түрлі бағдарламалар мен құралдарды пайдаланып, басқа ЖИ жүйелерімен де әрекеттесе алады. Оның үстіне кейбір модельдер күрделі тапсырмаларды пайымдау жолын анық көрсетпей-ақ орындай алады. Пачоцкидің пікірінше, болашақта модельдің пайымдауын бақылаумен қатар нейрожелінің ішінде не болып жатқанын зерттеуге де тура келуі мүмкін.

Қауіпті ЖИ-ден қорғану үшін де қуатты ЖИ керек болуы мүмкін

Осындай қауіптерге қарамастан, Пачоцки жасанды интеллектіні дамытуды мүлде тоқтатуды ұсынбайды. Себебі болашақта қауіпті ЖИ жүйелерінен қорғанудың өзіне қуатты жасанды интеллект қажет болуы мүмкін. Ғалым, әсіресе, киберқауіпсіздікке назар аударады. ЖИ компьютерлік жүйелермен жұмыс істеуде барған сайын күшейіп келеді. Болашақта қуатты автономды агенттер физикалық тұрғыда еш жерде болмағанымен, компьютерлік инфрақұрылымға тікелей әсер ете алуы ықтимал.

Пачоцкидің айтуынша, әзірге ең озық модельдерді аса маңызды инфрақұрылымның қорғанысын күшейтуге пайдалануға мүмкіндік бар. Сондықтан осы кезеңді тиімді пайдалану қажет. ЖИ өздігінен көбірек әрекет ете бастаған сайын тағы бір мәселе туындайды. Адамның ЖИ-ді жаман мақсатта пайдалануы мен жүйенің өз бетімен қауіпті әрекетке баруының арасын ажырату қиындауы мүмкін. Пачоцки болашақтағы ЖИ-агенттері мақсатына жету үшін адамдармен келіссөз жүргізіп қана қоймай, оларды алдауға немесе бопсалауға әрекет етуі мүмкін екенін де ескертеді.

Бұған қоса, ЖИ бұрын жасау қиын болған қауіпті технологияларды қолжетімді ете түсуі мүмкін. Ғалым мысал ретінде жасанды патогендер әзірлеу қаупін атайды. Алайда осы қауіптердің ешқайсысы ЖИ-ды бақылаусыз дамытуға себеп болмауы керек.

Не нәрсе таразы басында тұрғанын шын мәнінде түсінсек, қандай жағдай болса да алға қарай ұмтыла беру идеясы қисынсыз көрінеді, – дейді Пачоцки.

Келесі кезең – ЖИ өзін жетілдіруге араласады

Эсседегі ең маңызды ұғымдардың бірі – рекурсивті өзін-өзі жетілдіру немесе RSI (recursive self-improvement). Бұл «ЖИ бір күні өз кодын өзі өзгертіп, бірден бақылаудан шығып кетеді» дегенді ғана білдірмейді. Пачоцки айтып отырған құбылыс бұдан әлдеқайда ауқымды.

Болашақта жасанды интеллект ЖИ саласындағы зерттеулерді автоматтандыруға, жаңа алгоритмдер табуға, тәжірибелер жүргізуге және есептеу жүйелерін жетілдіруге көбірек атсалысуы мүмкін. Яғни ертеңгі жасанды интеллектіні жасауға бүгінгі ЖИ-дің өзі көмектеседі. Егер ЖИ зерттеушілердің жұмысын жылдамдатса, оның көмегімен жасалған жаңа модельдер келесі зерттеулерді одан әрі жеделдетуі мүмкін. Пачоцки қазіргі бағыт сақталса, болашақта ғылыми ізденістің едәуір бөлігін жасанды интеллект атқаруы ықтимал деп есептейді.

Дамуды баяулатуға тура келуі мүмкін

Пачоцкидің негізгі ойы – ЖИ-ді қаншалық жылдам дамытатынымыз оны қаншалық қауіпсіз ұстай алатынымызға байланысты болуы керек.

ЖИ жүйелерін масштабтау олардың қауіпсіздігіне қаншалық сенімді екенімізбен шектелуі керек, – дейді ол.

Ғалым ЖИ-ді жауапкершілікпен дамыту талаптары компаниялардың өз еркіне ғана тәуелді болмауы керек деп санайды. Оның орнына бәріне ортақ қауіпсіздік талаптары енгізіліп, олардың орындалуын тәуелсіз аудиторлар, мемлекеттік органдар немесе халықаралық ұйымдар қадағалауы мүмкін. Егер жаңа модельдердің мүмкіндігі күрт артып, ал оларды бақылау тәсілдері оған ілесе алмаса, ЖИ-ді жетілдіру қарқынын уақытша баяулатуға тура келуі мүмкін. Ол үшін технологиялық компаниялар ғана емес, мемлекеттер де өзара келісіп әрекет етуі қажет.

OpenAI үш негізгі бағытты атады

Эссенің соңында Пачоцки OpenAI үшін ұзақ мерзімге арналған үш басымдықты атайды:

• ЖИ қауіпсіздігі мен alignment мәселесін зерттеуге көмектесетін автоматтандырылған зерттеуші жасап, жүйелерді жетілдіру ісінде адамның қатысуын сақтау;
• қуатты ЖИ-ді ғылымды дамыту мен экономиканы өркендетуге пайдалану;
• әр адамға жеке AGI, яғни адам орындай алатын көптеген зияткерлік міндетті атқара алатын жалпы мақсаттағы жасанды интеллект ұсыну.

Пачоцки осының ішінде бірінші міндетті ең шұғыл деп санайды. Оның пікірінше, дұрыс құрылған ЖИ ғылыми жаңалықтарды тездетуге, емдеудің жаңа тәсілдерін табуға және адамдардың әл-ауқатын жақсартуға көмектесе алады. Бірақ ЖИ күшейген сайын оны кім және қалай бақылайды деген мәселе де өткір қойылады.

Қазіргі уақытта ешбір зертхана сәйкестендіру мен мониторинг мәселелерін ұзақ уақыт бойы ең жоғары қарқынмен жауапты түрде масштабтауды жалғастыруға жеткілікті деңгейде шешті деп есептемеймін, – деп түйіндейді Пачоцки.