OpenAI ең қуатты ЖИ модельдерін оқытуды уақытша тоқтатты: бұған не себеп?

OpenAI компаниясы қауіпсіздікке қатысты алаңдаушылықтарға байланысты жасанды интеллектінің ең қуатты модельдерін оқытуды уақытша тоқтатты.

Компания қосымша қорғаныс тетіктерін енгізіп, жүйелердің қауіпсіздігін күшейткеннен кейін ғана жұмысты қайта жалғастырмақ. Бұған жасанды интеллект агенттерінің өз бетінше әрекет етіп, АҚШ-тың бірнеше мемлекеттік мекемесінің сайттарына рұқсатсыз кіруге талпынған оқиғалары себеп болған. Бұл туралы Axios басылымы хабарлады.

OpenAI өкілінің айтуынша, модельдерді оқыту қауіпсіздік шаралары толық жетілдіріліп, жасанды интеллект жүйелерінің мінез-құлқын басқару тетіктері күшейтілгеніне көз жеткізгеннен кейін ғана қайта басталады.

Қосымша қауіпсіздік шаралары енгізіліп, модельдердің мінез-құлқын басқару бағытындағы жетілдіру жұмыстары аяқталғанына сенімді болған кезде ғана оқытуды жалғастырамыз, – деді компания өкілі.

Басылым дереккөздерінің мәліметінше, соңғы айларда OpenAI мен Anthropic мамандары жасанды интеллект жүйелерін сынақтан өткізу және оларды нақты жағдайда пайдалану кезінде анықталған ондаған мың оқиғаны зерттеп жатыр. Олардың едәуір бөлігі әзірге көпшілікке жарияланбаған.

Аталған жағдайлардың қатарында қауіпсіздік шектеулерін айналып өту, интернетте форумдар құру, оқшауланған виртуалды ортадан шығу, веб-сайттарды бақылауға алу, жүйенің өзіне нұсқау беруі және модерация талаптарын айналып өту әрекеттері бар.

Axios дереккөздері мәселенің ауқымы қоғамға белгілі ақпараттан әлдеқайда күрделі болуы мүмкін екенін айтады. Екі компанияның мамандары тәуелсіз сарапшылармен бірлесіп жүргізіп жатқан алдын ала тексеру жасанды интеллект әзірлеушілерінің өздері жасап шығарған технологияларға толық бақылау жасай алу мүмкіндігіне де күмән келтірген.

Жасанды интеллект қауіпсіздік шектеулерін қалай айналып өтеді?

OpenAI басшысы Сэм Альтман бұған дейін X әлеуметтік желісіндегі парақшасында компанияның соңғы модельдерге қатысты қауіпсіздік тексерісі ойдағыдай жылдам жүріп жатпағанын мойындаған.

Оның айтуынша, Hugging Face платформасына қатысты оқиға компания тап болған ең күрделі жағдайлардың бірі болған. Бұл оқиға кезінде жүздеген жасанды интеллект агенті форумда өзара үйлесімді әрекет етіп, киберқауіпсіздік сынағындағы нәтижелерін жақсарту мақсатында платформаға шабуыл жасаған деген болжам бар.

Ал The New York Times басылымы 26 қыркүйекте Transluce ұйымының деректері мен жағдайдан хабардар дереккөздерге сүйене отырып, OpenAI агенттерінің компания тарапынан тікелей бақылаусыз АҚШ-тың бірнеше мемлекеттік мекемесінің интернет-ресурстарымен әрекеттескенін жазды. Олардың қатарында Білім министрлігі, Сауда министрлігі және Бағалы қағаздар мен биржалар жөніндегі комиссия (SEC) бар.

OpenAI Сауда министрлігі мен SEC сайттарына қатысты оқиғаларды растаған. Ал Білім министрлігінің ресурсына байланысты жағдай әлі де тексеріліп жатқанын мәлімдеген. Компания аталған мекемелерге жасанды интеллект агенттерінің олардың сайттарымен әдеттен тыс әрекеттескені туралы хабарлаған.

Transluce ұйымының мәліметінше, агенттердің бірі АҚШ Білім министрлігінің Азаматтық құқықтар жөніндегі басқармасының деректеріне қол жеткізуге тырысқан. Тағы бір агент ашық дереккөздерден табылған тіркелгі деректерін пайдаланып, Халық санағы бюросының сайтынан ақпарат алған. Ал басқа бір жағдайда жасанды интеллект агенттері SEC сайтындағы көпшілікке қолжетімді мәліметтерді интернет-форумға жариялаған.

Алайда SEC өкілі Курт Хопфенспиргер құпия ақпаратқа қол жеткізілмегенін мәлімдеді.

Transluce ұйымының басқару бағытына жауапты Конрад Стоштың айтуынша, OpenAI жүйелері интернет-сайттарды әзірлеушілер бастапқыда қарастырмаған тәсілдермен пайдаланған. Кейбір жағдайларда белгіленген шектеулерді де айналып өткен.

Өз кезегінде OpenAI бұл оқиғалардың ешқайсысы ақпараттық жүйелердің бұзылуына, деректердің сыртқа таралуына немесе рұқсатсыз қол жеткізуге әкелмегенін атап өтті. Дегенмен компания жасанды интеллект агенттерінің күтпеген әрекеттері алаңдаушылық тудырғанын мойындады.

Билл Гейтс жасанды интеллектінің бақылаусыз дамуына алаңдайды

Жасанды интеллект агенттеріне қатысты оқиғалар технологияның қауіпсіздігі жөніндегі пікірталасты қайта күшейтті. Microsoft компаниясының негізін қалаушы Билл Гейтс NBC News арнасына берген сұхбатында жасанды интеллектіні бақылаусыз дамыту адам өміріне үлкен қауіп төндіруі мүмкін екенін ескертті.

Оның пікірінше, терісі пиғыл адамдардың қолына заманауи жасанды интеллект құралдары түссе, оның салдары бұрын-соңды болмаған деңгейге жетуі ықтимал.

Ол бұл саладағы қауіпсіздік талаптарын заң жүзінде бекітіп, мемлекеттік бақылауды күшейту қажет екенін айтты.

Заңдардың орындалуын қамтамасыз ету керек. Ал саясаткерлер қауіпсіздік шаралары мен бақылау тетіктерінің қандай болуы керектігін талқылауға қатысуы тиіс. Мұның бәрі міндетті талапқа айналуы қажет, – деп атап өтті Microsoft негізін қалаушы.