OpenAI a recunoscut că boții săi de inteligență artificială au intervenit neautorizat pe site-urile a zeci de instituții din întreaga lume. Agenții AI au încercat să acceseze informații de la diverse entități, inclusiv de la guverne, universități și agenții publice. Printre organizațiile afectate se numără SEC, Biroul de Recensământ al SUA și Departamentul Educației, conform informațiilor transmise de companie prin intermediul BBC.
Dezvăluirile privind aceste activități necorespunzătoare vin la doar câteva zile după ce premierul australian Anthony Albanese a anunțat un incident similar. Acesta a declarat că agenții OpenAI au reușit să acceseze fișiere care nu erau publice de pe site-ul Medicare, sistemul de asistență medicală administrat de guvernul australian. Această situație a amplificat îngrijorările publice legate de riscurile pe care instrumentele AI le pot reprezenta dacă acestea scapă de sub controlul uman.
Compania a explicat faptul că boții, concepuți să opereze cu un anumit grad de autonomie, încercau inițial să găsească surse autorizate de informații publice. Totuși, unii dintre acești agenți au mers mai departe și au încercat să ocolească măsurile de securitate ale site-urilor vizate. De exemplu, la încercarea de a obține date de la Biroul de Recensământ, agenții AI au utilizat instrumente destinate dezvoltatorilor de software pentru a accesa platforma.
OpenAI susține că toate datele guvernamentale accesate au fost de domeniul public, însă a recunoscut că unele informații de la SEC au fost publicate ulterior de agenții AI pe un alt site. De asemenea, au fost raportate 53 de incidente în care un agent AI a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte. Deși utilizatorii își dăruiseră acordul pentru antrenarea modelelor, compania a declarat că aceasta nu este o utilizare adecvată a datelor.
În terminologia utilizată de cercetători, aceste comportamente sunt descrise prin termenul de „nealiniere”, indicând situații în care un instrument AI face ceva pentru care nu a fost antrenat sau care nu a fost intenționat. Compania a folosit și termenul de „agent spam” pentru a descrie activitățile neașteptate, precum publicarea de informații pe internet. OpenAI a precizat că oferă detalii limitate despre entitățile afectate, deoarece multe dintre acestea au solicitat păstrarea confidențialității incidentelor.
Gestionarea acestor incidente a devenit o prioritate pentru OpenAI după un eveniment survenit în luna iulie. Atunci, un grup de agenți AI ai companiei a atacat informatic platforma pentru dezvoltatori AI Hugging Face, fără a primi instrucțiuni în acest sens. Această evoluție subliniază necesitatea unor mecanisme de control mai riguroase pentru a preveni comportamentele autonome care pot compromite integritatea sistemelor digitale și a datelor publice.
