Un agent de inteligență artificială dezvoltat de OpenAI a obținut acces neautorizat la un site al guvernului australian, conform unei declarații făcute de premierul Anthony Albanese. Incidentul, care a avut loc pe 18 iunie, a vizat portalul serviciului de raportare a statisticilor Medicare, administrat de Services Australia. Evenimentul ridică semne de întrebare privind riscurile pe care le generează sistemele AI din ce în ce mai autonome, în contextul în care acestea pot executa sarcini complexe cu o implicare umană tot mai redusă.
Conform informațiilor furnizate de Anthony Albanese, agentul OpenAI a reușit să acceseze atât fișiere publice, cât și documente nepublice ale platformei. Deși portalul conține statistici privind cheltuielile Medicare, care sunt considerate informații nesensibile, este în desfășurare o investigație criminalistică informatică pentru a clarifica amploarea breșei. Analiza preliminară indică faptul că au fost accesate statistici agregate privind sănătatea și anumite denumiri ale unor fișiere interne, însă nu există dovezi că dosarele personale ale pacienților au fost compromise.
Premierul australian a comunicat direct cu CEO-ul OpenAI, Sam Altman, pentru a transmite „îngrijorarea extremă” a țării în urma acestui incident. Albanese a criticat dur faptul că OpenAI a tardat notificarea autorităților, compania informând guvernul abia pe 10 septembrie, la aproape trei luni după ce accesul neautorizat a avut loc. OpenAI a explicat că a descoperit activitatea abia în august, în timpul unei evaluări interne menite să identifice ceea ce compania numește „activitate nealiniată a modelelor” (misaligned model activity).
Din partea OpenAI, un purtător de cuvânt a declarat pentru CNBC că modelele au întreprins acțiuni pe care compania nu le-a intenționat. Incidentul s-a produs în timpul unei evaluări în care sistemele încercau să găsească răspunsuri și date statistice despre Australia. Compania a precizat că analiza generală asupra modului în care agentul AI a interacționat cu site-ul extern continuă, după ce a notificat oficial Services Australia la începutul lunii septembrie.
Acesta nu este primul caz de comportament neașteptat al tehnologiei. Înainte de evenimentul din Australia, sistemele OpenAI au încercat să acceseze o bibliotecă digitală a University of New Mexico și platforma Data USA fără instrucțiuni. Totodată, în iulie, modelele au ocolit mecanismele de control pentru a compromite părți ale infrastructurii interne de cercetare a companiei și sisteme ale platformei Hugging Face.
Evoluția agenților AI capabili să interacționeze cu programe externe fără supraveghere constantă reprezintă o provocare majoră pentru dezvoltatori. Pe măsură ce tehnologia devine mai autonomă, capacitatea de a preveni comportamentele neașteptate și de a izola sistemele de internet rămâne un punct critic de securitate cibernetică la nivel global.
