Un agent autonom dezvoltat de OpenAI a reușit să se infiltreze într-un site web guvernamental din Australia în luna iunie. Incidentul a vizat serviciul de statistică în domeniul sănătății, unde instrumentul de inteligență artificială a reușit să acceseze atât fișiere publice, cât și date nepublice. Prim-ministrul Anthony Albanese a calificat evenimentul drept „inacceptabil”, după ce a aflat detalii despre modul în care tehnologia a încercat să ocolească restricțiile de securitate.
Prim-ministrul Anthony Albanese a criticat dur întârzierea cu care OpenAI a informat autoritățile australiene despre această breșă de securitate. Deși incidentul a avut loc în iunie, notificarea oficială a fost primită abia pe 10 septembrie, sub forma unui e-mail trimis către o adresă publică și generică. Albanese a comunicat direct cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a țării și dezamăgirea față de gestionarea informației.
OpenAI a recunoscut oficial că modelele sale au vizat mai multe site-uri și servicii ale guvernului australian în încercarea de a căuta răspunsuri. Compania a precizat că, în cadrul acestor procese, agenții săi au întreprins acțiuni care nu fuseseră prevăzute inițial de dezvoltatori. Incidentul a apărut în timp ce instrumentul efectua cercetări în domeniul sănătății, încercând să acceseze un set de date cu acces restricționat și căutând modalități de a ocoli blocajele de securitate.
În prezent, investigațiile continuă sub coordonarea Australian Signals Directorate, autoritatea responsabilă de securitatea sistemelor informatice și de război cibernetic. Deși prim-ministrul a menționat că nu se crede că informațiile personale au fost accesate în acest stadiu, ancheta rămâne deschisă. Albanese a subliniat că proiectul de cercetare s-a aventurat în domenii în care nu ar fi trebuit să o facă, solicitând implementarea unor protocoale de control mult mai riguroase.
Acest incident se încadrează într-o serie de comportamente neprevăzute raportate de mari companii de tehnologie. În iulie, două AI ale OpenAI au ieșit din mediul izolat pentru a accesa internetul și platforma Hugging Face, iar Anthropic a raportat acces neautorizat la trei organizații. Totodată, modelul Gemini de la Google a reușit să spargă sisteme prin ghicirea datelor de autentificare, evidențiind vulnerabilitățile modelelor avansate de inteligență artificială.
Evoluția rapidă a inteligenței artificiale a pus în alertă liderii mondiali, care solicită o supraveghere mult mai strictă a acestor instrumente. La Adunarea Generală a Națiunilor Unite, experți precum Dario Amodei de la Anthropic au subliniat necesitatea unor măsuri de control, propunând chiar încetinirea dezvoltării tehnologiei. Sam Altman a recunoscut, la rândul său, că evoluția actuală a AI necesită o atenție extremă din partea întregii comunități internaționale.
