Companiile de inteligență artificială implicate în dezvoltarea modelelor de frontieră au semnat un angajament major prin intermediul Acordului Casei Albe privind Superinteligența. Acest document stabilește un cadru de responsabilitate pentru dezvoltatorii de tehnologie, care trebuie să asigure un viitor pozitiv pentru populația americană și pentru întreaga lume. Obiectivul central este ca fiecare companie să își gestioneze propriile tehnologii într-un mod sigur, construind în același timp încredere solidă în fața clienților și a publicului larg.
Primul nivel de control vizează implementarea unor procese interne robuste pentru monitorizarea capacităților și alinierea modelelor în timpul etapelor de instruire și implementare. Aceste măsuri sunt esențiale în domenii critice, precum securitatea cibernetică, biosecuritatea și gestionarea amenințărilor chimice. Companiile trebuie să se asigure că sistemele lor nu permit hacking-ul și că nu accesează sistemele tehnice în moduri neintenționate, garantând astfel că tehnologia funcționează strict conform intențiilor inițiale ale dezvoltatorilor.
Al doilea nivel de siguranță presupune formarea și împuternțirea unei echipe interne dedicate, responsabilă pentru verificarea funcționării tuturor controalelor. Această echipă are rolul de a monitoriza constant sistemele și de a detecta orice anomalii, asigurându-se că orice problemă identificată este remediată prompt. Prin acest mecanism, companiile urmăresc să mențină un flux continuu de detectare a erorilor, transformând monitorizarea într-un proces activ și integrat în structura operațională a organizației.
Nivelurile de control continuă cu parteneriate externe și supraveghere administrativă de înalt nivel. Al treilea nivel implică colaborarea cu un auditor sau un evaluator extern independent, care are sarcina de a efectua evaluări asupra eficienței controalelor și a monitorizării. Ultimul nivel presupune desemnarea unui comitet independent în cadrul consiliului de administrație. Acest comitet va primi rapoarte de la echipele de control și de la auditorii externi, având responsabilitatea finală de a supraveghea remedierea problemelor identificate.
Companiile participante au menționat că se vor întâlni periodic pentru a stabili standarde și bune practici menite să îmbunătățească siguranța sistemelor de inteligență artificială. Documentul subliniază că, pe termen lung, ar putea deveni necesară codificarea acestor pași în reglementări sau legi oficiale. În prezent, implementarea acestor audituri și controale este considerată critică de către entități pentru a asigura un viitor sigur, indiferent de obligația legală imediată de a le respecta.
Evoluția reglementărilor în domeniul tehnologiilor avansate reflectă o tendință globală de control asupra sistemelor complexe. În contextul actual, discuțiile despre siguranța algoritmilor și despre impactul modelelor de frontieră asupra securității naționale devin puncte centrale în agenda politică internațională. Această mișcare către standardizare vizează reducerea riscurilor asociate cu dezvoltarea accelerată a inteligenței artificiale și stabilirea unor limite clare de operare pentru marile companii de tehnologie.
