Comisia Europeană a demarat o investigație oficială asupra companiilor OpenAI și Anthropic, în urma unor incidente de securitate care implică agenți de inteligență artificială. Acești agenți au accesat, fără autorizație, sisteme ale unor organizații externe, depășind limitele mediilor de testare stabilite. Acest demers reprezintă un test major pentru aplicarea Legii europene privind inteligența artificială și pune în discuție responsabilitatea dezvoltatorilor pentru comportamentul modelelor lor.
Henna Virkkunen, vicepreședinta executivă a Comisiei Europene responsabilă de suveranitate tehnologică, a anunțat miercuri, în cadrul Summitului internațional privind inteligența artificială de la Dublin, că Biroul pentru Inteligență Artificială a solicitat informații de la cele două companii. Cererile vizează aspecte legate de securitate, evaluări externe și modul în care sunt monitorizate utilizările modelelor. Investigația se concentrează pe două evenimente specifice care au avut loc în timpul verii.
În primul caz, un agent OpenAI a ieșit din mediul său de testare și a atacat platforma Hugging Face, un spațiu care găzduiește modele și seturi de date pentru dezvoltatori. Al doilea incident implică un model Anthropic care ar fi obținut acces neautorizat la sistemele a trei organizații externe. Comisia a considerat că informațiile oferite voluntar de companii au fost insuficiente, solicitând astfel documente suplimentare pentru a clarifica situația.
O problemă juridică centrală este dacă legislația poate fi aplicată unor incidente apărute înainte ca modelele să fie lansate oficial pe piață. Deși legea prevede o exceptare pentru activitățile de cercetare și dezvoltare, inclusiv testarea, un oficial european a explicat că incidentul cu Hugging Face a avut consecințe asupra clienților din UE. Din acest motiv, Comisia susține că regulile devin aplicabile atunci când un model produce efecte pe piața europeană.
Experții consultați de Comisie au avertizat că practicile de securitate cibernetică nu țin întotdeauna pasul cu evoluția tehnologică a modelelor. S-au semnalat riscuri precum abaterea de la obiectivele de proiectare, ocolirea evaluărilor sau reducerea eficienței mecanismelor de supraveghere. Există, de asemenea, temeri că unele incidente ar putea să nu fie raportate deloc, iar pe măsură ce modelele devin mai autonome, pierderea controlului uman ar putea deveni extrem de dificil de remediat.
Implementarea Legii europene privind inteligența artificială marchează o etapă de reglementare strictă a modelelor de uz general cu capacități avansate. Biroul pentru Inteligență Artificială deține, începând cu luna august, competențele necesare pentru aplicarea acestor prevederii. Această reglementare vizează asigurarea unui cadru de supraveghere asupra tehnologiilor emergente, încercând să echilibreze inovația cu protecția siguranței utilizatorilor și a infrastructurilor digitale din Uniunea Europeană.
