Experți în securitate cibernetică protestează față de interdicția guvernului SUA asupra modelelor AI puternice

Un colectiv format din zeci de experți în securitate cibernetică, inclusiv veterani cunoscuți ai industriei, a publicat o scrisoare deschisă către guvernul american, solicitând ridicarea ordinului de control al exporturilor asupra modelelor Fable și Mythos ale companiei Anthropic. Potrivit scrisorii, „această acțiune a privat apărătorii de cele mai bune modele”, împiedicându-i să utilizeze aceste instrumente pentru a identifica vulnerabilități și a securiza software-ul și produsele. „A retrage cele mai bune capabilități apărătorilor fără un motiv întemeiat, în timp ce adversarii noștri avansează rapid, este periculos”, se arată în document. Vineri, guvernul SUA a ordonat Anthropic să limiteze exportul modelelor Fable și Mythos, invocând motive de securitate națională, fără a oferi explicații specifice, potrivit companiei. Ca răspuns, Anthropic a suspendat accesul la aceste modele pentru toți utilizatorii la nivel global. Până în prezent, scrisoarea a fost semnată de 76 de experți în securitate cibernetică, printre care se numără Alex Stamos (fost șef al securității la Facebook), Casey Ellis (fondatorul platformei Bugcrowd), Jon Callas (criptograf renumit și fost manager Apple), Paul Vixie (informatician), Dino Dai Zovi (fost șef inginerie securitate aplicată la Block), Katie Moussouris (fondatorul Luta Security) și Rachel Tobac (CEO SocialProof Security). La lansarea versiunii preview a modelului Mythos în luna aprilie, Anthropic a susținut că acesta este atât de performant în identificarea vulnerabilităților de securitate, încât accesul la el trebuia restricționat pentru a preveni utilizarea sa de către hackeri sau adversari străini. În practică, acest lucru a însemnat că Anthropic a oferit acces inițial la Mythos unui număr de aproximativ 50 de companii, extinzând ulterior grupul la circa 150 de organizații din 15 țări. Săptămâna trecută, Anthropic a lansat Fable, o versiune publică a Mythos, despre care compania a afirmat că dispune de mecanisme stricte de siguranță menite să blocheze utilizarea sa în domeniile biologiei, chimiei și securității cibernetice, precum și să prevină obținerea capabilităților sale prin metode de „distilare”. Aceste restricții erau atât de severe, încât mulți experți în securitate cibernetică au constatat că blocau practic orice solicitare legată de domeniu. Anthropic a sugerat că ordinul de control al exporturilor de la Casa Albă ar fi putut fi bazat pe un raport care indica o metodă de ocolire – sau „jailbreaking” – a Fable pentru a debloca capabilitățile sale de nivel Mythos. Potrivit lui Katie Moussouris, unul dintre semnatarii scrisorii deschise, metoda a fost demonstrată de cercetători Amazon într-o lucrare nepublicată, dar pe care ea a revizuit-o. Cu toate acestea, Moussouris a declarat într-o postare pe blog că lucrarea nu demonstrează un „jailbreak” real. În schimb, cercetătorii au cerut pur și simplu lui Fable să corecteze coduri open-source cu vulnerabilități publice și cunoscute, alături de „vulnerabilități introduse deliberat”, după ce modelul a refuzat inițial să „revizuiască codul pentru probleme de securitate”. „Comportamentul descris în lucrare nu poate fi reparat în mod semnificativ, iar orice încercare ar slăbi modelul pentru apărare”, a scris Moussouris. „Apărătorii trebuie să poată cere inteligenței artificiale să corecteze erorile dintr-un fișier, să explice de ce corecția este importantă și să scrie teste care confirmă funcționarea patch-ului. Aceasta nu este o ocolire a mecanismelor de siguranță. Este cel mai valoros lucru pe care îl poate face un model AI pentru securitatea defensivă: executarea buclei de găsire, corectare și testare pe care apărătorii o rulează zilnic.” Critica lui Moussouris a fost reflectată în scrisoarea deschisă, unde grupul de experți menționează că metoda din lucrarea Amazon „poate fi replicată” pe GPT-5.5 de la OpenAI, pe modelele publice Claude Opus 4.8 și Sonnet de la Anthropic, „și chiar pe modele chinezești precum Kimi 2.7”. Scrisoarea solicită, de asemenea, reglementări transparente și echitabil aplicate, create printr-un „proces democratic de stabilire a normelor”, bazate pe cercetări științifice realizate de experți din industrie și mediul academic, și „utilizate doar în măsura minimă necesară pentru a asigura siguranța publicului american”.