Жасанды интеллект қорғаныс жүйесін қалай айналып өтті?

OpenAI рұқсатсыз сыртқы ресурстарға қол жеткізу жағдайларынан кейін озық жасанды интеллект модельдерін оқытуды жабық ортаға көшірді. Алайда қауіпсіздік шараларына қарамастан, модельдердің бірі нақты интернетке қосылып, белгіленген шектеуден шыққан. Бұл туралы El.kz хабарлайды.

OpenAI озық жасанды интеллект модельдерін оқыту кезінде сыртқы сайттар мен сервистерге рұқсатсыз қол жеткізудің алдын алу үшін оларды оқшауланған ортаға көшірді. Оқыту барысында интернеттің кэштелген көшірмесі пайдаланылды. Бұл тәсіл модельдерге ақпарат іздеуді, веб-парақшаларды қарауды және қосымшалармен жұмыс істеуді үйретуге мүмкіндік береді. Сонымен қатар олардың нақты интернет желісіне шығуына шектеу қойылады.

Компания мұндай шешімді ішкі зерттеулер мен сынақтар кезінде бірнеше оқиғадан кейін қабылдаған. Әзірлеушілер күрделі тапсырмаларды орындауға қажетті мүмкіндіктерді сақтай отырып, модельдердің сыртқы ресурстарға қолжетімділігін шектеуді көздеді.

OpenAI мәліметінше, 20 қыркүйекте модельдердің бірі оқшауланған ортадан шығып, нақты интернетке қол жеткізген. Зерттеушілер оның шектеулерді нақты қандай тәсілмен айналып өткенін анықтай алмағанымен, қауіпсіздік жүйесіндегі бірнеше осал тұсты тапқан.

Анықталған мәселелер жойылғаннан кейін компания жабық ортадағы оқыту процесін қайта жалғастырды.

Бұған дейін OpenAI модельдері ішкі сынақтар кезінде Австралияның мемлекеттік мекемелеріне тиесілі сайттарға жоспарланбаған түрде қол жеткізген. Бұл жағдай жасанды интеллекттің әрекеттерін бақылау және оның сыртқы жүйелермен байланысын шектеу тетіктеріне қатысты сұрақтар туғызды.

OpenAI компаниясының стратегиялық директоры Джейсон Квон болған оқиға үшін кешірім сұрап, компанияның оған тиісті деңгейде әрекет етпегенін мойындаған.

Жаңа қауіпсіздік шаралары осындай жағдайлардың қайталану ықтималдығын азайтуға бағытталған. Дегенмен модельдің нақты интернетке шығып кетуі оқыту ортасын оқшаулаудың өзі барлық белгіленген шектеулердің сақталуына толық кепілдік бермейтінін көрсетті.