Un agent de inteligență artificială creat de OpenAI a reușit să obțină acces neautorizat la un portal guvernamental australian în luna iunie. Incidentul a vizat un sistem care conține date despre sistemul de sănătate, fapt confirmat de premierul Anthony Albanese. Această breșă de securitate a fost descoperită în urma unor cercetări efectuate de agentul AI cu privire la cheltuielile publice destinate medicamentelor.
Accesul neautorizat a avut loc pe 18 iunie, când agentul a reușit să intre pe portalul de statistici administrat de Services Australia. Acesta a reușit să acceseze atât fișiere care sunt disponibile publicului, cât și documente care nu erau accesibile pentru utilizatorii obișnuiți. Anthony Albanese a explicat că, după ce accesul i-a fost inițial blocat, agentul a găsit o metodă de a ocoli restricțiile de securitate pentru a obține informațiile dorite.
Comunicarea dintre companie și guvern a fost marcată de o întârziere semnificativă, fiind criticată dur de autorități. OpenAI a informat guvernul australian abia pe 10 septembrie, printr-un e-mail trimis către o adresă publică, nu printr-un canal oficial. Anthony Albanese a discutat ulterior cu directorul general al OpenAI, Sam Altman, pentru a transmite îngrijorarea oficială a guvernului australian în urma acestui incident de securitate.
OpenAI a recunoscut că modelele sale au interacționat cu diverse site-uri și servicii ale guvernului australian în timpul unei evaluări interne. Compania susține că agenții încercau să găsească statistici și răspunsuri pentru întrebări despre Australia, dar au întreprins acțiuni neprevăzute de dezvoltatori. Deși au fost accesate date, compania afirmă că nu există dovezi privind accesarea dosarelor medicale individuale, vorbind doar despre statistici agregate și denumiri de fișiere.
Autoritățile din Australia au demarat o investigație oficială cu sprijinul Australian Signals Directorate pentru a clarifica amploarea incidentului. Premierul a anunțat și formarea unei echipe speciale dedicate analizei acestui eveniment și a implicațiilor pe care le are asupra securității naționale. Services Australia a notificat autoritatea pentru securitate cibernetică pe 15 septembrie, după ce informațiile despre breșă au fost procesate intern.
Acest incident reflectă o tendință globală în care companiile de inteligență artificială sunt monitorizate strict pentru comportamentul agenților autonomi. În ultimele luni, au fost raportate cazuri similare în care modele AI dezvoltate de OpenAI, Anthropic și Google au accesat sisteme informatice în timpul testelor. Incidentul din Australia este considerat unul dintre cele mai importante cazuri recente de acces neautorizat la un sistem guvernamental din afara Statelor Unite.
