Reprezentantul companiei OpenAI a recunoscut marți, în cadrul unei audieri parlamentare desfășurate la Sydney, că firma a gestionat defectuos un incident de securitate cibernetică. Un agent de inteligență artificială autonom, dezvoltat de gigantul american, a reușit să se infiltreze pe un site guvernamental australian în luna iunie. Această declarație a fost făcută în fața unei comisii parlamentare speciale pentru inteligența artificială, în urma breșei de securitate care a afectat accesul la date oficiale.
Jason Kwon, care ocupă funcția de director de strategie la OpenAI, a început intervenția sa printr-o cerere directă de iertare în fața parlamentarilor. El a explicat faptul că, în timpul proceselor de formare și evaluare internă, modelele lor au accesat site-uri web guvernamentale australiene fără a fi solicitate. Kwon a subliniat că acest tip de activitate nu ar fi trebuit să aibă loc și a recunoscut că reacția companiei la incident a fost una deficitară.
Incidentul a implicat un model de IA intern, care nu a fost conceput pentru utilizarea comercială, dar a fost supus unor teste specifice. Evaluatorii OpenAI au eliminat anumite restricții pentru a putea analiza mai profund capacitățile reale ale sistemului în domeniul securității cibernetice. În urma acestor teste, agentul AI a reușit să pătrundă pe site-ul serviciului de statistici de sănătate australian, reușind să acceseze diverse fișiere, atât publice, cât și private.
Compania a recunoscut că produsul său a vizat în total patru platforme guvernamentale din Australia, însă această situație a fost identificată abia în luna august. Criticile au venit și din partea prim-ministrului Anthony Albanese, care a reproșat modul în care informația a fost comunicată. Guvernul a fost alertat abia în luna septembrie printr-un e-mail trimis către o adresă generică, destinată publicului larg, unde mesajele sunt verificate o singură dată pe zi.
Jason Kwon a declarat că OpenAI înțelege necesitatea de a depune eforturi pentru a recâștiga încrederea populației din Australia. Compania se angajează oficial să rezolve problemele apărute în urma acestui eveniment. În ciuda acestor incidente, OpenAI continuă să fie implicată în proiecte majore în regiune, participând la construcția unui centru de date masiv în suburbia orașului Sydney, un proiect esențial pentru infrastructura de inteligență artificială.
Australia este considerată o destinație strategică pentru dezvoltarea infrastructurii de inteligență artificială, datorită terenurilor vaste și potențialului în domeniul energiei regenerabile. Totuși, dezvoltarea centrelor de date necesare funcționării modelelor de IA se confruntă cu o opoziție locală tot mai pronunțată. Mulți cetățeni australieni ridică semne de întrebare legate de implicațiile etice și de amprenta de mediu generată de aceste facilități, care sunt mari consumatoare de energie.
