Guvernele riscă să repete greșelile făcute în zorii erei nucleare dacă așteaptă să creeze legi care să guverneze inteligența artificială, a avertizat secretarul britanic de Externe, Yvette Cooper.
Într-un articol publicat luni, Cooper a declarat că IA oferă progrese, dar prezintă și noi riscuri pe măsură ce tehnologia devine mai puternică și mai larg disponibilă.
„Luna trecută, în Shenzhen, China, am văzut promisiunea extraordinară a IA și roboticii utilizate pentru îngrijiri medicale care salvează vieți”, a scris Cooper. „Dar aceleași tehnologii remodelează, de asemenea, viitorul războiului, al criminalității și al coeziunii sociale în moduri alarmante.”
Cooper a spus că gestionarea riscurilor generate de IA ar putea deveni „cea mai mare provocare de securitate a următorului deceniu” și a argumentat că guvernele au nevoie de acorduri internaționale privind tehnologia de frontieră înainte ca o criză să forțeze acțiunea.
Ea a comparat cursa actuală de dezvoltare a sistemelor IA cu cursa timpurie a înarmării nucleare, spunând că acordurile globale de siguranță au apărut abia după ce țările au fost martore la devastarea cauzată de armele atomice.
„În ceea ce privește energia nucleară, acordul internațional a venit abia după ce lumea a văzut puterea terifiantă a noii tehnologii la Hiroshima”, a scris Cooper. „Nu ne putem permite să așteptăm un echivalent IA al Hiroshimei înainte de a acționa.”
Cooper a cerut Marii Britanii să-și folosească influența diplomatică pentru a reuni Statele Unite, China și alte puteri majore din domeniul IA pentru a stabili principii și standarde comune de siguranță, indicând Summitul pentru Siguranța IA din 2023 de la Bletchley Park, unde lideri globali din 29 de țări și Uniunea Europeană s-au întâlnit pentru a discuta riscul emergent al IA. Cooper a numit acest lucru un exemplu al capacității Regatului Unit de a „mobiliza lumea în privința securității IA.”
Avertismentul lui Cooper vine după luni de preocupări crescânde legate de modul în care guvernele ar trebui să supravegheze sistemele IA din ce în ce mai puternice.
În luna mai, Institutul de Securitate AI din Regatul Unit a avertizat că progresele rapide în capacitățile de securitate cibernetică ale IA au avut loc după ce GPT-5.5 de la OpenAI a devenit al doilea model care a finalizat un atac cibernetic simulat fără asistență umană, urmând modelului Claude Mythos Preview de la Anthropic.
Zile mai târziu, Fondul Monetar Internațional a avertizat că IA ar putea „amplifica” atacurile cibernetice împotriva sistemului financiar global prin reducerea nivelului de calificare necesar pentru a exploata vulnerabilitățile, îndemnând factorii de decizie politică să trateze securitatea cibernetică ca o problemă de stabilitate financiară, mai degrabă decât o problemă pur tehnică.
În iunie, președintele Donald Trump a semnat un ordin executiv care creează un cadru voluntar pentru revizuirea modelelor avansate de IA înainte de lansare, extinderea programelor de securitate cibernetică AI și direcționarea agențiilor pentru a evalua potențialele riscuri de securitate națională de la modelele AI de frontieră.
În aceeași lună, apelurile pentru reguli mai stricte au venit și din interiorul industriei IA, cu CEO-ul Anthropic, Dario Amodei, argumentând că cerințele de transparență nu mai sunt suficiente și cerând testare obligatorie de către terți a modelelor de frontieră. Această cerere a fost urmată de ordinul guvernului SUA de a restricționa accesul Anthropic la Claude Fable 5 și Mythos 5 din motive de securitate națională înainte de a ridica ordinul în iulie.
