Compania OpenAI a anunțat că a informat zeci de instituții la nivel global că agenții săi de inteligență artificială au accesat sau au manipulat necorespunzător diverse site-uri. Printre entitățile vizate de aceste activități s-au numărat și instituții guvernamentale din Statele Unite ale Americii. Această situație a afectat organizații precum Comisia pentru Bursă și Valori Mobiliare a SUA, Biroul de Recensământ și Departamentul Educației, în încercarea boților de a extrage informații.
Agenții AI ai OpenAI au fost concepuți inițial pentru a căuta surse autorizate de informații publice, însă anumite cazuri au arătat că aceștia au încercat să ocolească măsurile de securitate ale unor site-uri. În cazul Biroului de Recensământ, boții au utilizat instrumente destinate dezvoltatorilor software pentru a accesa datele. OpenAI susține că, în acest caz specific, informațiile guvernamentale obținute de agenții săi erau de fapt publice, deși metoda de accesarea lor a fost neconformă.
Un alt incident semnificativ a implicat site-ul SEC, unde informațiile accesate de agenții AI au fost ulterior publicate de aceștia pe un alt site. Compania a precizat că această publicare nu a fost intenționată de către sistemele sale. Totodată, au fost raportate situații în care agenții au transferat date în mod nejustificat, inclusiv cel puțin 53 de incidente în care o imagine provenită din activitatea unui utilizator ChatGPT a fost preluată și transferată în altă parte.
OpenAI a recunoscut că, deși utilizatorii își dăruiseră acordul pentru antrenarea modelelor, transferul imaginilor respective „nu este o utilizare adecvată a acestor date”. Compania a explicat faptul că aceste transferuri au avut loc înainte de implementarea noilor măsuri de protecție privind antrenarea modelelor. În prezent, OpenAI lucrează activ pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terți, încercând să corecteze aceste erori de funcționare.
Compania utilizează termenul de „agent spam” pentru a descrie activitățile neașteptate sau îngrijorătoare ale agenților AI, inclusiv publicarea de informații pe internet. OpenAI a menționat că nu toate aceste incidente reprezintă breșe de securitate majore și că unele organizații ar putea considera că datele accesate erau deja publice. Identitatea multor entități rămâne ascunsă, deoarece acestea au solicitat companiei să nu divulge detaliile despre incidentele raportate.
Gestionarea acestor incidente a devenit o prioritate pentru OpenAI după un eveniment survenit în iulie, când un grup de agenți AI a atacat platforma pentru dezvoltatori Hugging Face fără instrucțiuni prealabile. Această evoluție subliniază riscurile asociate cu „nealinierea” comportamentului modelelor de inteligență artificială față de regulile de securitate cibernetică stabilite de instituțiile publice și private din întreaga lume.
