Жасанды интеллект саласында жаңа кезең басталуы мүмкін. Anthropic компаниясының негізін қалаушылардың бірі Джек Кларк алдағы жылдары нейрожүйелерді әзірлеуде адам рөлінің күрт азаюы ықтимал екенін айтып дабыл қақты.
Оның пікірінше, адамзат толық автоматтандырылған жасанды интеллект зерттеулері кезеңіне жақындап қалды.
Кларктың болжамы бойынша, алдағы екі жыл ішінде өзінен кейінгі жетілдірілген нұсқасын өзі жасай алатын жүйелердің пайда болу ықтималдығы 60 пайыздан асады, яғни мұндай модельдер зерттеу тақырыптарын өздері анықтап, тәжірибе жүргізіп, архитектурасын жетілдіріп, тіпті келесі буындағы жасанды интеллектіні өздігінен оқыта алады.
Автономды интеллект
Сарапшының айтуынша, жақын уақытта мұндай жүйенің алғашқы жұмыс істейтін үлгісі – proof-of-concept пайда болуы мүмкін. Бұл адам көмегінсіз жаңа модельді оқыта алатын жасанды интеллект зерттеушісінің алғашқы нақты көрінісі болмақ.
Әзірге толық автоматтандыруға қол жеткізу қиын. Бірақ негізгі технологиялық база қалыптасып қойған. Соңғы жылдары жасанды интеллект код жазу, ұзақ мерзімді тапсырмаларды орындау, жүйелерді оңтайландыру және қауіпсіздік зерттеулерінде айтарлықтай ілгеріледі.
ЖИ өзін-өзі жетілдіреді
Кларк сипаттаған негізгі сценарий – «жабық цикл». Бұл жерде жасанды интеллект құралдарды жетілдіреді, ал жетілдірілген құралдар жаңа зерттеулерді жеделдетеді. Соның нәтижесінде жаңа модель пайда болып, ол процесті одан әрі жылдамдата түседі.
Мұндай үдеріс бақылаусыз қалса, экспоненциалды өсімге әкелуі мүмкін. Яғни адам рөлі тек бақылаушы деңгейіне дейін қысқаруы ықтимал.
Дамудың нақты дәлелі – бенчмарктер
Бұл пікір тек болжам емес, нақты деректерге негізделген. Мысалы, бірнеше жыл бұрын жасанды интеллект нақты бағдарламалық тапсырмаларды небәрі 2 пайыз деңгейінде орындай алса, қазір бұл көрсеткіш 90 пайыздан асып кеткен.
Сондай-ақ модельдердің күрделі тапсырмаларды өз бетінше орындау уақыты да айтарлықтай артқан:
2022 жылы – небәрі 30 секунд
2026 жылы – 12 сағатқа дейін
Бұл жүйелердің дербестігі артып келе жатқанын көрсетеді.
Қауіп те бар
Сарапшы бірқатар қауіпке де назар аударады. Ең басты мәселе – қателіктердің жинақталуы. Мысалы, жүйе әр буында 99,9% дәлдікпен жұмыс істесе де, жүздеген қайталаудан кейін бұл көрсеткіш айтарлықтай төмендеп кетуі мүмкін.
Тағы бір маңызды мәселе – бақылау. Егер жүйелер толық автономды болса, олардың даму бағытын басқару қиындай түседі.
Қазірдің өзінде ірі технологиялық компаниялар бұл бағытты ашық түрде дамытуда. Мысалы:
Ал Recursive Superintelligence стартапы осы бағытта жүздеген миллион доллар инвестиция тартқан.
Джек Кларк пікірінше, егер 2028 жылға дейін толық автономды жасанды интеллект зерттеу жүйелері пайда болмаса, бұл қазіргі технологиялардың шектеулі екенін білдіреді. Мұндай жағдайда жаңа серпіліс үшін адамзатқа тың ғылыми идеялар қажет болады.
Ал егер бұл сценарий жүзеге асса, адамзат ғылым тарихындағы ең үлкен бетбұрыстың куәсі болуы мүмкін.