OpenAI Еуропалық одақ аумағында ChatGPT пен Codex арқылы жасалған мәтіндерге көрінбейтін цифрлық белгі енгізетінін мәлімдеді. Жаңа жүйе алдағы апталарда кезең-кезеңімен іске қосылады.
Компанияның түсіндіруінше, бұл бастама контенттің қайдан шыққанын, оның қалай жасалғанын немесе өңделгенін анықтауға көмектеседі. Сондай-ақ арнайы тексеру құралдары мәтінде OpenAI модельдеріне тән белгілердің бар-жоғын анықтай алады.
Жаңа технология textGrain деп аталады. Ол мәтіннің сыртқы көрінісін өзгертетін кәдімгі сутаңба емес. Жүйе модель сөздерді таңдаған кезде мәтінге адам көзіне көрінбейтін статистикалық сигнал енгізеді. Кейін арнайы детектор осы сигналдарды іздеп, мәтінде OpenAI-дің сутаңбасы бар-жоғын бағалайды.
OpenAI мәліметінше, мұндай белгі Еуропалық одақтағы ChatGPT және Codex пайдаланушыларының тиісті мәтіндік жауаптарына енгізіледі. Ал API қолданушылары үшін сутаңбаны пайдалану әлем бойынша ерікті болады және әдепкі жағдайда өшірулі тұрады.
ChatGPT жазған кез келген мәтінді анықтай ала ма?
Компания технологияның мінсіз емес екенін ескертеді. Мәселен, қысқа мәтіндерді анықтау қиынырақ. Сондай-ақ мәтінді редакциялау, сөздерді синонимдермен алмастыру немесе аудару сутаңбаның сигналын әлсіретуі мүмкін.
OpenAI жүргізген сынақта 400 токендік мәтіндегі сөздердің 10 пайызын синонимдермен алмастырған кезде сутаңбаны анықтау көрсеткіші шамамен 92 пайыздан 66 пайызға дейін төмендеген. Ал сөздердің 25 пайызы ауыстырылғанда көрсеткіш 17 пайызға дейін түскен.
Сондықтан мәтіннен сутаңбаның табылмауы оны міндетті түрде адам жазды дегенді білдірмейді. Сол сияқты детектор кей жағдайда мәтінде белгі болмағанымен, оны бар деп қате көрсетуі мүмкін.
Детектор әзірге көпшілікке берілмейді
OpenAI мәтіндік сутаңбаны анықтайтын арнайы детекторға өтінім қабылдай бастады. Алайда бастапқы кезеңде оған тек мақұлданған зерттеушілер мен сараптамалық ұйымдар қол жеткізе алады.
Компания мұндай шешімді технологияда жалған оң және жалған теріс нәтиже шығару қаупінің болуымен түсіндірді. Зерттеушілердің көмегімен жүйенің сенімділігі мен оны жауапкершілікпен пайдалану жолдары бағаланбақ.
Сонымен қатар сутаңба мәтінді нақты кім жазғанын немесе ChatGPT-ті кім пайдаланғанын анықтамайды. Ол адамның аты-жөнін, аккаунтын, сұрауын немесе ChatGPT-пен болған әңгімесін көрсетпейді. Сондай-ақ сутаңбаның болуы мәтіндегі ақпараттың рас немесе жалған екенін дәлелдемейді.
Неліктен мұндай белгі енгізіледі?
OpenAI бұл қадам Еуропалық одақтың жасанды интеллект туралы заңнамасының талаптарымен байланысты екенін мәлімдеді. ЕО-ның AI Act ережелері генеративті жасанды интеллект жасаған мәтінді машина арқылы анықтауға мүмкіндік беретін тетіктердің болуын қарастырады.
Компания қазірдің өзінде жасанды интеллект арқылы жасалған кейбір суреттер мен аудиолардың шығу тегін анықтауға арналған технологияларды қолданады. Енді осы тәсіл мәтіндік контентке де кеңейтіліп отыр.
OpenAI алдағы уақытта технологияның тиімділігін зерттеп, стандарттар мен заң талаптарына қарай жүйені жетілдіретінін мәлімдеді. Детекторға қолжетімділік те оның нәтижелерін дұрыс әрі жауапкершілікпен түсіндіруге болатынына жеткілікті сенім қалыптасқан жағдайда кеңейтілмек.
