Compania OpenAI a anunțat implementarea unor marcaje invizibile în textele generate de ChatGPT, o măsură luată pentru a se conforma noilor reglementări impuse de Uniunea Europeană. Această inițiativă vizează capacitatea de a identifica clar conținutul produs de inteligența artificială, facilitând astfel diferențierea acestuia de textele scrise de către oameni. Implementarea urmează un model similar cu cel adoptat anterior de Anthropic pentru gestionarea conținutului digital.
Tehnologia utilizată de OpenAI este denumită textGrain și va fi aplicată atât pe textele simple, cât și pe codul sursă generat prin soluțiile de programare ale companiei. Scopul acestor marcaje este de a permite utilizarea unui detector specializat, care să recunoască semnalele ascunse din text. Prin această metodă, se încearcă crearea unui sistem de trasabilitate pentru produsele digitale create de algoritmi, oferind o metodă de verificare a originii acestora.
Deși OpenAI susține că textGrain este un sistem mai performant decât alte soluții de marcare existente pe piață, compania a avertizat că nu poate garanta o recunoaștere perfectă în toate scenariile. Există riscul ca sistemul să nu depisteze corect textele generate de AI sau, dimpotrivă, să confunde textele scrise de oameni cu cele produse de mașină. Această imprecizie rămâne o provocare tehnică majoră pentru dezvoltatorii de inteligență artificială.
Eficacitatea sistemului variază semnificativ în funcție de lungimea și natura textului analizat. OpenAI estimează că rata de succes în identificarea textelor scurte este de aproximativ 80%, însă performanța scade și mai mult atunci când textele sunt prelucrate ulterior de către utilizatori umani. Pentru a combate aceste limitări, compania intenționează să ofere sistemul de detectare sub licență open-source, permițând altor organizații și dezvoltatori să contribuie la îmbunătățirea acestuia.
Implementarea acestor tehnologii de identificare vine într-un context de reglementare tot mai strictă în cadrul Europei. Uniunea Europeană a pus accent pe nevoia de transparență în utilizarea inteligenței artificiale, impunând standarde care să protejeze utilizatorii și să prevină dezinformarea. Această direcție de reglementare vizează controlul asupra modului în care algoritmii influențează fluxul de informații și integritatea conținutului digital disponibil în spațiul european.
Această mișcare a OpenAI se aliniază cu eforturile globale de a stabili un cadru de siguranță pentru tehnologiile emergente. Pe măsură ce inteligența artificială devine tot mai integrată în procesele de producție de conținut, nevoia de instrumente de verificare devine critică pentru media și pentru autoritățile de reglementare. Dezvoltarea unor standarde de marcare precum textGrain reprezintă un pas către gestionarea riscurilor asociate cu conținutul sintetic.
