Companiile OpenAI și Anthropic au anunțat implementarea unor watermark-uri invizibile în textele generate de modelele lor de inteligență artificială. Această inițiativă are scopul de a crește transparența și de a asigura conformitatea cu noul regulament al Uniunii Europene privind inteligența artificială. Măsura este luată într-un context în care conținutul produs de algoritmi ocupă o parte din diệnța digitală, necesitând mecanisme de identificare a originii acestora.
Sistemul de marcare funcționează prin manipularea probabilităților statistice în timpul procesului de generare a textului. Atunci când un model AI selectează cuvintele, acesta urmează un tipar prestabilit care modifică distribuția probabilităților pentru fiecare fragment de cuvânt. Deși la nivelul unei singure propoziții aceste diferențe sunt imposibil de detectat cu ochiul liber, pe parcursul unui text mai lung, ele formează un semnal statistic recunoștor de către detectoare specializate. OpenAI utilizează pentru acest mecanism tehnologia numită textGrain.
Implementarea acestor marcaje prezintă însă limitări tehnice semnificative, deoarece procesele de rescriere, traducere sau parafrazare pot slăbi sau chiar elimina complet semnalul statistic. În plus, textele scurte sunt mult mai dificil de verificat prin această metodă. Pentru a identifica proveniența unui text, este necesar un instrument de detecție compatibil cu sistemul specific al modelului respectiv. Fără un astfel de detector, utilizatorul nu poate confirma dacă un conținut este produs de un chatbot sau de un om.
Accesul la aceste instrumente de verificare nu va fi imediat pentru publicul larg. OpenAI a declarat că va acorda acces inițial la detector doar cercetătorilor și organizațiilor specializate care sunt aprobate de companie. Deși există intenția de a reevalua accesul pe măsură ce tehnologia avansează, nu există o promisiune clară privind lansarea unui detector disponibil pentru toți utilizatorii. O situație similară este raportată și de Anthropic, lăsând cititorii fără posibilitatea de a verifica singuri informațiile.
Impactul acestei evoluții este vizibil în statisticile privind conținutul online, unde textele generate de AI au depășit pragul de 50%. Conform unui raport realizat de firma SEO Graphite, în ianuarie 2020, textele create de inteligența artificială reprezentau doar aproximativ 2% din conținutul nou de pe internet. Până în mai 2025, acest procent a crescut drastic, ajungând la 51,7%, ceea ce transformă AI-ul într-unul dintre principalii producători de text, în special în limba engleză.
Evoluția rapidă a inteligenței artificiale a pus sub semnul întrebării încrederea în actul de a scrie și de a citi. Pe măsură ce algoritmii devin tot mai capabili să producă texte fluide, riscul de a penaliza autorii umani care scriu corect este tot mai mare. Această schimbare de paradigmă necesită noi reguli editoriale și o distincție clară între utilizarea AI ca instrument de documentare și delegarea completă a procesului de scriere către un model artificial.
