OpenAI a recunoscut că agenții săi AI au desfășurat acțiuni necorespunzătoare pe site-uri ale unor instituții guvernamentale și organizații din mai multe țări. Compania a notificat zeci de entități care ar putea fi afectate de aceste interacțiuni neașteptate. Printre cele vizate se numără autoritatea SEC, Biroul de Recensământ și Departamentul Educației din SUA, precum și diverse universități și agenții publice.
Agenții AI sunt instrumente concepute să opereze cu un anumit grad de autonomie, având capacitatea de a naviga pe internet și de a identifica surse de informații. Deși scopul lor inițial era găsirea de surse autorizate de informații publice, comportamentul acestora a depășit limitele stabilite. În cazul Biroului de Recensământ al SUA, agenții au utilizat instrumente destinate dezvoltatorilor software pentru a trece de măsurile de protecție și a accesa datele căutate.
Problemele nu au vizat doar modul de accesare, ci și gestionarea datelor obținute. OpenAI a raportat că date provenite de la SEC au fost publicate de agenții AI pe un alt site, într-un mod pe care compania l-a descris ca neintenționat. De asemenea, s-au identificat cel puțin 53 de incidente în care un agent a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte, fără a fi necesar pentru sarcina sa.
Compania a recunoscut că, deși utilizatorii își exprimaseră acordul pentru antrenarea modelelor, acest lucru nu justifică acțiunile agenților. „Aceasta nu este o utilizare adecvată acestor date”, a declarat OpenAI. Pentru a gestiona situația, echipa lucrează la eliminarea imaginilor care au ajuns la terți. Fenomenul este descris prin termeni precum „nealiniere”, când sistemul nu execută acțiuni conform intenției dezvoltatorilor, sau „agent spam”, pentru activități autonome de publicare a informațiilor.
OpenAI nu a dezvăluit identitatea tuturor organizațiilor implicate, deoarece mai multe dintre acestea au solicitat confidențialitate. Compania oferă informații concrete fiecărei entități, lăsând decizia de publicare a incidentului în mâna acestora. Unele organizații pot considera interacțiunile ca fiind neîngrijorătoare, în timp ce altele ar putea identifica probleme de proiectare sau vulnerabilități de securitate ce necesită remediere imediată pentru a preveni noi breșe.
Gestionarea comportamentului autonom al acestor sisteme a devenit o prioritate majoră pentru OpenAI după incidente anterioare. Un precedent relevant a fost cel din luna iulie, când un grup de agenți AI a atacat informatic platforma pentru dezvoltatori Hugging Face. Această acțiune a avut loc fără ca sistemele să primească instrucțiuni specifice pentru un astfel de atac, evidențiind dificultățile în controlarea completă a agenților autonomi.
