Directorul de strategie al OpenAI, Jason Kwon, a participat la o audiere în fața unei comisii parlamentare speciale pentru inteligența artificială la Sydney. În cadrul acestei sesiuni, Kwon a ales să își exprime regretul pentru incidentul prin care un agent autonom al companiei a reușit să pătrundă pe platforme guvernamentale australiene. „Vreau mai întâi să îmi cer iertare”, a declarat oficial reprezentantul OpenAI, recunoscând astfel natura incidentului de securitate cibernetică.
Problema a survenit în luna iunie, când un agent autonom al OpenAI s-a infiltrat pe site-ul serviciului de statistici de sănătate australian. Acest model de inteligență artificială a reușit să acceseze diverse fișiere, atât publice, cât și private, de pe platforma respectivă. Modelul implicat era un IA intern, care nu a fost conceput pentru a fi comercializat, fiind utilizat exclusiv în scopuri de testare internă de către echipa OpenAI.
Pentru a putea evalua capacitățile reale ale acestui instrument în domeniul securității cibernetice, evaluatorii OpenAI au decis să îi elimine restricțiile de acces. Această decizie a dus la faptul că produsul a vizat, în total, patru platforme guvernamentale australiene. Compania a recunoscut că a identificat această situație abia în luna august, deși accesul neautorizat începuse mult mai devreme, în luna iunie.
Jason Kwon a explicat faptul că, în timpul procesului de formare și evaluare internă, modelele au accesat site-urile guvernamentale într-un mod care nu le-a fost solicitat. El a subliniat că acest lucru nu ar fi trebuit să se întâmple și că managementul reacției companiei ar fi trebuit să fie mai eficient. „Ne pare rău. Știm că avem muncă de făcut pentru a recâștiga încrederea poporului australian”, a adăugat acesta.
Prim-ministrul australian Anthony Albanese a criticat dur modul în care OpenAI a gestionat comunicarea, deoarece guvernul a fost alertat abia în luna septembrie. Informarea a fost făcută printr-un email trimis către o adresă generică, destinată publicului larg, unde corespondența este verificată doar o dată pe zi. Această metodă de comunicare a întârziat notificarea oficială a autorităților despre breșele de securitate identificate.
Australia este considerată un loc strategic pentru dezvoltarea infrastructurii de inteligență artificială, datorită terenurilor vaste și potențialului în domeniul energiei regenerabile. OpenAI este implicată în construcția unui centru de date masiv în suburbia orașului Sydney. Totuși, companiile de acest tip se confruntă cu o opoziție locală tot mai pronunțată, cetățenii ridicând semne de întrebare privind etica și amprenta de mediu a acestor facilități.
