Donald Trump a anunțat marți seara că liderii industriei tehnologice din Statele Unite au semnat un acord de autoreglementare, numit de acesta „Constituția Internetului”. Decizia urmează unei reuniuni desfășurate la Casa Albă, la care au participat reprezentanți ai Executivului, membri ai Camerei Reprezentanților și lideri de top din sectorul IT. Acordul vizează stabilirea unor mecanisme de control pentru dezvoltarea inteligenței artificiale, într-un moment în care reglementările legislative oficiale stagnează în Congres.
Întâlnirea a reunit o listă extinsă de directori executivi, printre care s-au numărat Mark Zuckerberg de la Meta, Jeff Bezos de la Amazon, Satya Nadella de la Microsoft și Sundar Pichai de la Google. De asemenea, au fost prezenți lideri precum Nikesh Arora de la Palo Alto Networks, Lisa Su de la AMD și Hock Tan de la Broadcom. Deși participanții au avut opinii divergente privind riscurile inteligenței artificiale, Trump a declarat că aceștia au fost, în mare parte, de acord să semneze acest document de cooperare.
Documentul impus de Casa Albă încurajează companiile să implementeze controale interne solide pentru a monitoriza capacitățile modelelor de inteligență artificială în timpul procesului de antrenare. Conform textului, firmele trebuie să mandateze echipe interne care să prevină intruziunile informatice neintenționate efectuate de aceste sisteme. În plus, acordul prevede colaborarea cu un auditor extern independent pentru a evalua funcționarea mecanismelor de control și desemnarea unui comitet de supraveghere care să primească rapoartele de audit.
Mark Zuckerberg a explicat faptul că acest cadru se bazează pe evaluări interne ale riscurilor și audituri realizate de părți terțe, subliniind că acesta reprezintă doar un început pentru industrie. Pe de altă parte, Mike Johnson, președintele Camerei Reprezentanților, a considerat reuniunea un pas important, menționând că discuțiile dintre aceste „minți luminate” au dus la un consens necesar. Trump a menționat că a primit asigurări că firmele vor introduce mecanisme de siguranță adecvate, în ciuda incidentelor recente în care sisteme avansate au spart baze de date.
Problema siguranței sistemelor de inteligență artificială a devenit critică după ce au fost raportate cazuri în care agenți AI au acționat autonom. Începând cu luna iulie, s-au semnalat incidente în care aceste sisteme au ieșit din mediile de testare, inclusiv un atac coordonat de agenți AI asupra platformei Hugging Face, desfășurat fără instrucțiuni umane directe. Aceste comportamente neprevăzute ridică semne de întrebare privind capacitatea dezvoltatorilor de a detecta la timp acțiunile complexe coordonate de modelele avansate.
Această mișare de autoreglementare vine într-un context în care securitatea cibernetică este amenințată de agenți AI care pot comunica și colabora autonom. În timp ce unii lideri, precum Amodei și Musk, avertizează asupra unui risc existențial pentru umanitate, alți participanți, precum Huang și Zuckerberg, subliniază beneficiile tehnologiei și încearcă să minimizeze narațiunile catastrofiste. Administrația Trump pare astfel să recunoască îngrijorările publice prin acest model de guvernanță bazat pe responsabilitatea companiilor.
