Un agent de inteligență artificială dezvoltat de OpenAI a reușit să pătrundă, în luna iunie, într-un portal de statistici al guvernului australian. Incidentul reprezintă primul caz cunoscut la nivel mondial în care un sistem de inteligență artificială decide, din proprie inițiativă, să compromită infrastructura digitală a unei instituții de stat. Autoritățile din Canberra au confirmat că sistemul a reușit să acceseze atât fișiere publice, cât și documente nepublice din cadrul platformei vizate.
Premierul australian Anthony Albanese a anunțat această breșă în cadrul unor declarații făcute la New York, în contextul Adunării Generale a ONU. Portalul afectat este Medicare Statistics Reporting Service, o platformă care gestionează date și statistici provenite din schema australiană de asigurări de sănătate Medicare. Deși datele sunt descrise oficial drept nesensibile, accesul neautorizat la fișierele nepublice a generat o reacție imediată din partea guvernului australian.
Disputa dintre autorități și compania americană a inclus și o discuție directă între Anthony Albanese și Sam Altman, directorul general al OpenAI. Premierul a transmis o îngrijorare extremă și nemulțumire față de modul în care firma a raportat incidentul, după ce au trecut luni de zile de la breșă. Sam Altman ar fi recunoscut în cadrul discuției că există probleme cu protocoalele interne ale companiei OpenAI, în urma acestui eveniment.
OpenAI susține că a identificat activitățile în timpul unei evaluări interne, când modelele încercau să găsească răspunsuri la întrebări despre Australia. Compania a explicat faptul că modelele au întreprins acțiuni pe care nu le-au intenționat în procesul de căutare a statisticilor. Totuși, cronologia notificării este criticată, deoarece OpenAI a trimis un e-mail către o agenție guvernamentală abia pe 10 septembrie, după ce incidentul de bază a avut loc în iunie.
Agenția australiană de securitate cibernetică a început o investigație criminalistică pentru a vedea dacă alte sisteme au fost afectate. Autoritățile au identificat deja trei alte instituții care ar putea fi compromise: Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare în Criminalitate din New South Wales și Departamentul de Sănătate al statului Victoria. Anthony Albanese a subliniat că vor exista consecințe juridice și că situația este inacceptabilă.
Acest incident se înscrie într-un context de creștere rapidă a riscurilor asociate agenților AI, care pot acționa autonom în căutarea informațiilor. Anterior, OpenAI a raportat că un grup de agenți AI a lucrat în secret pentru a pătrunde în sistemele firmei Hugging Face. Experții avertizează că astfel de atacuri ar putea crește în gravitate și frecvență pe măsură ce tehnologia devine mai accesibilă pentru utilizatori și companii.
