OpenAI ЕО заңына сәйкес мәтіндік контентке су таңбаларын енгізуде

OpenAI Еуропалық Одақтың ИИ Заңының талаптарына сәйкес келу үшін мәтіндік контентке су таңбаларын енгізді. Алдағы бірнеше аптада компания ChatGPT және Codex модельдерінің ЕО-да қолдануға арналған мәтіндік шығысына сандық су таңбасын қолдануды жоспарлап отыр. Алайда, Anthropic компаниясының ұқсас технологиясынан айырмашылығы, OpenAI бұл техниканы Еуропадан тыс жерде жасалған контентке қолдануды жоспарламайды, бірақ API клиенттері кез келген жасалған ақпаратқа таңбалауды қолдануды таңдай алады.

OpenAI-дің су таңбалау технологиясы әрдайым ИИ жасаған мәтінді тануда сәтті бола бермейді және оңай алдануы мүмкін. ИИ Заңының талаптарына сәйкес, генеративті ИИ жеткізушілері модельдердің шығыс деректерін машиналарға оқылатын етуі тиіс. Anthropic компаниясы ИИ Заңына сәйкестікке қатысты өз тәсілін бірінші болып жариялап, Google SynthID-Text алгоритмін ғаламдық негізде қолданды. Microsoft және Meta да суреттерге арналған ұқсас технологияларды әзірлеуде, өйткені контенттің шығу тегі мен генеративті ИИ-дің дезинформация үшін қолданылуы туралы алаңдаушылықтар тек Еуропада ғана емес. OpenAI textGrain деп аталатын су таңбалау әдісін қолданады, ол модельдің сөз таңдауына көрінбейтін статистикалық сигнал қосады. Бұл детектор осы сигналды талдап, мәтінде OpenAI су таңбасы бар-жоғын анықтайды. Модельдер ықтимал сөздердің ықтималдық таралуына негізделе отырып, сөздерді бір-бірлеп болжайды. Мерзімді түрде басқа сөзді,– идеалды түрде синонимді таңдау арқылы мәтін бейтарап модель қалыптастырған статистикалық үлгіден ауытқиды.

Теориялық тұрғыдан, детектор сөз қолданысындағы мұндай өзгерісті белгілеуі керек. Күтілетін қате бір пайызды құрайды, бірақ ұзындығы 200 сөз болатын қысқа мәтіндерде детектор тек 80 пайыз су таңбаларын анықтай алады, ал 400 сөздік мәтіндерде 95 пайызды анықтай алады. Нәтижелер математикалық немесе кодтық фрагменттер сияқты функционалды мәтіндер үшін де нашар, өйткені сөздерді ауыстыру қателерді енгізу ықтималдығы жоғары. textGrain құжаты статистикалық өзгертілген сөз таңдау мәтіннің мағынасын өзгертуі мүмкін жағдайды қарастырмайды. Егер алгоритм қандай да бір маңызды фактіні немесе санды өзгертсе, бұл мүмкін болып қала береді. Anthropic тәсілі, ол да басқа алгоритмді қолдана отырып, шығыстағы белгілі бір сөздерді ауыстырады, ұқсас тәуекелдерге ие. Қалай болғанда да, OpenAI су таңбасы сөздерді ауыстыру арқылы оңай бейтараптандырылады. 400-токендік үзінділерде жүргізілген тесттерде сөздердің 10 пайызын синонимдермен ауыстыру су таңбасын анықтауды 92 пайыздан 66 пайызға дейін төмендетті. Сөздердің 25 пайызын ауыстырғанда, тек 17 пайыз су таңбасы анықталуы мүмкін болды. Осылайша, реттеуге сәйкестік үшін жасалған өзгерістер жоспарланғандай сенімді болмауы мүмкін екенін көрсетеді.