Compania OpenAI a anunțat implementarea unui nou sistem tehnologic în Uniunea Europeană, menit să permită identificarea textelor generate de modelele ChatGPT și Codex. Această măsură va fi introdusă în următoarele săptămâni și face parte din eforturile de a respecta cerințele europene privind transparența conținutului creat de inteligența artificială. Tehnologia va aplica o felie de „amprentă” invizibilă pe outputurile textuale, oferind un mecanism de detectare pentru utilizatorii eligibili din blocul european.
Noul sistem, denumit textGrain, nu utilizează caractere ascunse, spații invizibile sau etichete vizibile pentru cititor. În loc de aceste metode tradiționale, tehnologia modifică subtil probabilitățile de alegere a cuvintelor în timpul procesului de generare a textului. Acest proces lasă în urma sa un tipar statistic specific, care poate fi identificat ulterior cu ajutorul unui detector specializat. Rezultatul final pentru utilizator rămâne un text care arată normal, iar copierea acestuia într-un e-mail sau pe un site nu elimină automat semnalul detectabil.
Testele efectuate de OpenAI pe cele 24 de limbi oficiale ale Uniunii Europene au scos la iveală diferențe majore de performanță. Limba română s-a dovedit a fi cea mai dificil de monitorizat, înregistrând o rată de detectare de doar 42,2%, în condițiile unei rate de fals pozitive de 1%. La polul opus, limba spaniolă a obținut o rată de detectare de aproximativ 69%. OpenAI a precizat că poate crește intensitatea acestui watermark în limbile unde semnalul este mai slab, după ce a testat deja această abordare pentru limbile cu rezultate sub 60%.
Eficacitatea detectorului depinde și de lungimea materialului generat, precum și de modul în care acesta este editat ulterior. În teste, detectorul a identificat aproximativ 80% din textele de circa 200 de tokeni și 95% din cele de circa 400 de tokeni. Totuși, rescrierea sau parafrazarea textului poate slăbi considerabil această amprentă. De exemplu, înlocuirea cu sinonime a doar 25% dintre cuvinte a scăzut rata de detectare de la 92% la aproximativ 17%, ceea ce face ca sistemul să nu fie suficient pentru decizii importante.
La lansare, detectorul textGrain nu va fi disponibil pentru publicul larg, ci va fi oferit inițial cercetătorilor și organizațiilor specializate. OpenAI subliniază că sistemul nu dovedește cine este autorul unui document și nu identifică utilizatorul, contul sau promptul folosit. Măsura va fi aplicată pentru toate planurile de utilizare ale ChatGPT și Codex în cadrul Uniunii Europene. Compania avertizează că tehnologia este un instrument de evaluare a provenienței, nu o dovadă definitivă a autoratului.
Evoluția tehnologiilor de inteligență artificială este un subiect de interes global, în contextul în care competiția pentru supremația în acest domeniu este intensă. În timp ce companiile de tehnologie dezvoltă instrumente de control și transparență, alte raportări indică faptul că diferența dintre principalii actori globali în domeniul AI se reduce constant. Implementarea unor astfel de siste de detectare reflectă nevoia de reglementare într-un peisaj tehnologic în continuă expansiune.
