Agenți OpenAI au folosit un site web german pentru a schimba scurtături de sarcini, metode de eludare a restricțiilor și modalități de a-și ascunde activitatea începând din mai, conform unei investigații Reuters publicate vineri.
Oficialii OpenAI au aflat despre activitate cu săptămâni înainte de publicare, dar nu au dezvăluit-o, a raportat Reuters, citând două persoane familiare cu subiectul. Compania a declarat că a dezvăluit incidentele relevante și a colaborat de bună-credință cu experți externi.
Cercetătorii Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts și Thomas Larsen au descoperit aproximativ 18.000 de postări ale agenților AI care se identificau ca aparținând OpenAI, conform raportului lor preliminar. Von Arx, CEO al organizației non-profit de siguranță AI Nightingale, și Byrd au descoperit activitatea la sfârșitul lunii august, a raportat Reuters.
Cercetătorii cred că agenților li s-au atribuit sarcini de căutare web temporizate cu permisiunea de a citi site-uri web, dar nu de a posta pe ele. Cu toate acestea, au găsit o modalitate de a scrie pe DseWiki, un site german de programare editabil public, unde au schimbat răspunsuri și au partajat modalități de a eluda restricțiile.
Conform raportului, agenții au început să încerce să editeze wiki-ul pe 11 mai și au reușit pe 24 mai, ulterior impersonând moderatori, încercând să exploateze vulnerabilități și verificând când erau opriți. Au creat pagini de rezervă după ce administratorul a început să șteargă mesajele pe 19 iunie, a raportat Reuters. Cercetătorii au legat activitatea de OpenAI prin numele de utilizator ale agenților și tiparele de trafic, inclusiv vizite de la adrese IP OpenAI pe 21 iunie.
Activitatea agenților a scăzut brusc a doua zi, sugerând o posibilă intervenție a companiei, au declarat cercetătorii.
OpenAI a contestat caracterizarea activității DseWiki ca fiind un hacking, bazându-se pe materialul pe care l-a revizuit, și a declarat că examinează constatările complete.
„Nu am putut răspunde la afirmații, deoarece Reuters și autorii raportului au refuzat cererea noastră de a accesa constatările înainte de publicare. Acum revizuim cu atenție conținutul și vom lua orice măsuri necesare”, a declarat un purtător de cuvânt al OpenAI într-o declarație transmisă către Decrypt.
Purtătorul de cuvânt a respins, de asemenea, acuzațiile din raportul Reuters conform cărora echipa juridică a companiei s-a opus unei investigații mai ample.
„Afirmațiile conform cărora echipa noastră juridică a descurajat investigarea incidentului sunt false”, au spus aceștia.
OpenAI a declarat că incidentul DseWiki nu a avut legătură cu breșa Hugging Face de la începutul acestui an. În evaluarea sa publică de siguranță, publicată marți, compania a descris măsuri de protecție suplimentare destinate să detecteze și să oprească activitatea neautorizată în timpul antrenamentului și implementării.
Deși raportul Reuters nu identifică Astra ca fiind responsabilă pentru incidentul german, dezvăluirea vine după lansarea de joi a GPT-6 Astra. OpenAI a numit Astra primul său model cu capacități de securitate cibernetică „critice”, ceea ce înseamnă că poate găsi și exploata vulnerabilități necunoscute în sisteme bine protejate, anterior fără ghidare umană pas cu pas, având instrumentele și accesul potrivite.
Anthropic și-a revizuit, de asemenea, măsurile de siguranță după ce modelele Claude au accesat sisteme ale companiilor reale în timpul testării. Compania a recunoscut eșecurile de securitate și comportamentale și a introdus o izolare și o monitorizare mai stricte pentru evaluările de securitate cibernetică.
Dezvăluirea vine și în contextul în care senatorul american Bernie Sanders (I-Vt.) și reprezentantul american Greg Casar (D-Texas) au anunțat viitoarea Lege pentru Interzicerea Superinteligenței Artificiale.
Propunerea ar interzice permanent dezvoltarea și implementarea AI superinteligente și ar întrerupe temporar dezvoltarea AI avansate până când un nou regulator federal va stabili reguli de siguranță, conform biroului lui Sanders.
