Compania OpenAI va implementa în Uniunea Europeană un sistem de marcaje invizibile pentru textele generate prin intermediul platformelor ChatGPT și Codex. Această nouă tehnologie, denumită textGrain, va fi introdusă treptat în următoarele săptămâni și are scopul de a permite identificarea conținutului prin sisteme informatice specializate. Măsura este menită să asigure conformitatea cu cerințele de transparență impuse de legislația europeană recent adoptată.
Tehnologia textGrain nu utilizează caractere ascunse sau spații invizibile care ar putea fi observate de un cititor uman. În schimb, OpenAI modifică subtil modul în care modelul de inteligență artificială alege între variantele posibile de cuvinte și fragmente de cuvinte. Această metodă creează un tipar bazat pe alegeri statistice, care poate fi identificat ulterior de un detector specializat. Totuși, sistemul nu poate demonstra autoratul unui text, ci indică doar prezența unui semnal asociat unui model OpenAI.
Eficacitatea detectorului depinde în mod semnificativ de lungimea textului și de modul în care acesta este modificat ulterior. Pentru texte de 400 de tokeni, rata de detectare a ajuns la aproximativ 95%, în timp ce pentru texte de 200 de tokeni, aceasta a fost de circa 80%. Totuși, intervenția umană poate compromite acest proces. În cazul în care 25% dintre cuvinte sunt înlocuite cu sinonime, rata de detectare scade drastic la doar 17%, făcând textul mult mai dificil de identificat.
OpenAI a anunțat că accesul la instrumentul de detectare va fi oferit inițial doar cercetătorilor și organizațiilor specializate care sunt aprobate de companie. De asemenea, firma intenționează să pună tehnologia textGrain la dispoziție în regim open-source pentru a permite dezvoltatorilor și cercetătorilor să contribuie la îmbunătățirea sistemului. În ceea ce privește API-ul, clienții din întreaga lume vor putea activa opțional acest watermark, însă funcția va rămâne dezactivată implicit pentru acești utilizatori.
Implementarea acestor măsuri de siguranță vine ca un răspuns direct la reglementările stricte ale Uniunii Europene. Conform prevederilor din AI Act, furnizorii de sisteme de inteligență artificială generativă au obligația de a marca materialele create artificial într-un format lizibil pentru mașini. Această cerință de transparență vizează asigurarea publicului cu informații corecte și identificarea conținutului care a fost manipulat sau generat automat de algoritmi.
Obligațiile de transparență prevăzute de articolul 50 din AI Act vor intra în vigoare la data de 2 august 2026. Pentru anumite sisteme care au fost introduse pe piață înainte de această dată, legislația europeană prevede o perioadă de tranziție limitată, care se încheie la 2 decembrie 2026. Această perioadă permite companiilor să se adapteze la noile cerințe privind marcarea și detectarea conținutului generat de inteligența artificială.
