ЖИ-ге күмәндану механизмі орнатылды

Зерттеушілері нейрондық желілердің сенімділігін айтарлықтай арттыратын жаңа тәсілді ұсынды. Identity Curvature деп аталатын бұл әдіс жасанды интеллектке өз жауаптарындағы күмән деңгейін дәл бағалауға мүмкіндік береді, деп хабарлайды El.kz интернет порталы.

Мұндай қабілеттері автономды көлік, медицина, қаржы сияқты жоғары қауіпсіздікті талап ететін салалар үшін аса маңызды болмақ.

Көптеген нейрондық желілер өз қателігін түсінбестен, шектен тыс сенімді болуы мүмкін. Мысалы, тек мысық пен итті ажыратуға үйретілген модель жирафты да сенімді түрде «ит» деп тануы мүмкін. Күнделікті қосымшаларда бұл қауіпті емес, ал автопилот үшін мұндай қате ауыр салдарға әкелуі ықтимал. Сондықтан жүйенің белгісіз деректерді AI қауіпсіздігінің басты мәселелерінің бірі.

Бұған дейін белгісіздікті бағалау үшін күрделі математикалық есептеулер Лаплас аппроксимациясы мен Гессе матрицасы қолданылған. Алайда зерттеушілер олардың кей жағдайда тиімді болмайтынын анықтады. Егер модель таныс деректерді өте жақсы ажыратса, ол жаңа нысандарды тануда керісінше әлсіз болады.

Сондықтан ғалымдар есептеулерді айтарлықтай жеңілдетіп, күрделі «кривизна» орнына қарапайым симметриялық сфералық модельді қолдануды ұсынды. Арнайы алгоритм оның масштабын реттеп, нақты тапсырмаға бейімдейді. Бұл тәсіл әлдеқайда тиімді әрі жылдам жұмыс істейді.

Нәтижесінде автономды көліктер күтпеген кедергілерді жақсырақ танып, медициналық жүйелер сирек кездесетін диагноздарды дер кезінде анықтай алады.

Бұл зерттеу жасанды интеллекттің қауіпсіздігін арттырумен қатар, нейрондық желілердегі белгісіздікпен жұмыс істеудің ғылыми негізін де кеңейтеді