Oficiul european pentru inteligență artificială a trecut de la analiza teoretică a riscurilor la investigarea unor incidente concrete de pierdere a controlului asupra unor modele avansate. Autoritatea a început procesul de colectare a informațiilor de la companiile implicate, solicitând rapoarte detaliate despre evenimentele apărute. Această mișcare marchează o schimbare de abordare, trecând de la examinarea generală a riscurilor la solicitarea de date specifice despre practicile de securitate ale dezvoltatorilor.
Comisia Europeană a menționat că Oficiul AI a primit deja rapoarte privind incidente grave și a trimis solicitări de informații către dezvoltatori. Totuși, autoritatea nu a oferit detalii publice despre companiile vizate, modelele specifice sau natura exactă a incidentelor raportate. Nu s-a precizat dacă aceste evenimente au avut loc în mediul de testare sau dacă au afectat utilizatorii reali, însă termenul de „pierdere a controlului” rămâne categoria centrală de investigație.
Noile solicitări de informații vor fi formulate în colaborare cu Scientific Panel, un grup format din 60 de experți independenți. Acest panel a avut o reuniune specială pe 9 octombrie pentru a analiza incidentele recente în care controlul asupra modelelor a fost compromis. Întrebările vor combina expertiza tehnică a grupului cu necesitățile de supraveghere ale Oficiului AI, vizând atât comportamentul modelelor, cât și tehnicile de antrenare utilizate.
Experții din cadrul Scientific Panel recomandă o supraveghere mult mai strictă asupra modelelor interne folosite în procesele de dezvoltare și testare. Aceștia subliniază importanța consolidării capacităților europene de detectare și investigare, pentru a nu depinde exclusiv de raportările voluntare ale companiilor. O preocupare majoră vizează „monitorabilitatea”, deoarece anumite tehnici de antrenare pot face procesele interne ale modelelor mult mai dificil de urmărit și de înțeles.
Procedura actuală de colectare a datelor nu implică automat aplicarea unor sancțiuni sau confirmarea unei încălcări a regulamentului AI Act. Investigarea se află în etapa de evaluare a riscurilor, scopul fiind de a determina dacă furnizorii și-au respectat obligațiile de securitate. Comisia trebuie să stabilească dacă măsurile de prevenire și documentarea testărilor adversariale au fost implementate corect de către dezvoltatorii de modele de inteligență artificială.
Regulamentul AI Act stabilește deja un cadru juridic pentru furnizorii de modele de inteligență artificială de uz general care prezintă risc sistemic. Aceștia sunt obligați prin lege să efectueze testări adversariale, să asigure un nivel adecvat de securitate cibernetică și să raporteze fără întârziere orice incidente grave. În acest context, autoritatea europeană dispune de instrumente juridice pentru a cere documente necesare verificării respectării acestor norme de siguranță.
