OpenAI va implementa în următoarele săptămâni un sistem de watermark invizibil pentru anumite texte generate de ChatGPT și Codex, destinat utilizatorilor din Uniunea Europeană. Această măsură este luată de companie pentru a respecta cerințele europene privind identificarea conținutului produs de inteligența artificială. Tehnologia va fi introdusă etapizat, oferind utilizatorilor din UE posibilitatea de a marca automat produsele de tip text generate prin aceste modele.
Sistemul, denumit textGrain, nu utilizează simboluri, etichete sau mesaje vizibile pentru utilizatori. În loc de marcaje clasice, tehnologia introduce un semnal statistic ascuns prin modul specific în care modelul alege cuvintele în timpul procesului de generare. Un detector specializat va putea identifica ulterior acest semnal pentru a estima dacă un anumit fragment de text conține watermarkul oferit de OpenAI, facilitând astfel monitorizarea conținutului digital.
Implementarea funcționalității urmează un calendar specific, începând cu data de 5 octombrie, când clienții API din întreaga lume vor putea opta pentru această funcție, deși aceasta va rămâne dezactivată implicit. Pentru utilizatorii eligibili din cadrul Uniunii Europene, care folosesc ChatGPT și Codex, watermarkul va deveni parte din experiența de utilizare în perioada următoarelor săptămâni. Această mișcare răspunde direct obligațiilor impuse de EU AI Act pentru furnizorii de AI generativ.
În ciuda noilor capacități, OpenAI avertizează că sistemul are limite tehnice semnificative și nu este infailibil. Testele arată că modificarea textului reduce drastic rata de detectare: înlocuirea a 10% din cuvinte cu sinonime scade succesul de la 92% la 66%, iar dacă un sfert din cuvinte sunt schimbate, rata scade la 17%. Din acest motiv, accesul la detector va fi limitat inițial doar la cercetători și organizații specializate care au primit aprobarea de la companie.
Watermarkul nu poate demonstra cu certitudine raportul dintre contribuția umană și cea a inteligenței artificiale într-un text. De asemenea, marcajul nu oferă detalii despre proprietarul textului, legalitatea utilizării acestuia sau identitatea utilizatorului și a contului care a generat conținutul. Prezența sau absența semnalului nu garantează nici corectitudinea informațiilor, nici faptul că un text a fost scris exclusiv de un om, deoarece textele scurte sau traduse pot pierde semnalul statistic.
Această inițiativă vine într-un context de reglementare tot mai strictă în Europa, unde legislația privind inteligența artificială impune standarde clare de transparență. Reglementările europene urmăresc să asigure că utilizatorii pot distinge între conținutul creat de oameni și cel generat automat, prevenind astfel dezinformarea. OpenAI a precizat că va ajusta sistemul pe măsură ce standardele și cerințele de reglementare vor continua să evolueze în regiune.
