Compania americană Anthropic a anunțat că va dezactiva "brusc" cele mai avansate modele de inteligență artificială (AI) pentru toți utilizatorii, după ce guvernul Statelor Unite a ordonat suspendarea accesului la acestea pentru cetățenii străini, invocând preocupări legate de securitatea națională.
Decizia companiei vine în urma unei directive de control al exporturilor primite de la autorități, care îi impune să suspende accesul la modelele Fable 5 și Mythos 5 pentru toți cetățenii străini, fără a oferi detalii specifice despre natura preocupărilor de securitate națională. Conform declarațiilor Anthropic, guvernul consideră că există o metodă de a "păcăli" sau a "jailbreak-ui" un sistem de protecție, permițând astfel utilizarea Fable 5 în identificarea vulnerabilităților software.
Acest ordin survine într-un moment în care tensiunile dintre administrația SUA și Anthropic, o companie pregătită pentru o ofertă publică inițială (IPO), dădeau semne de ameliorare. Relația dintre companie și guvern s-a deteriorat în acest an, după ce Anthropic a refuzat să permită armatei americane să-și folosească modelele AI pentru supraveghere internă și sisteme de arme complet autonome. Ca răspuns, guvernul a inclus Anthropic pe o listă neagră a lanțului de aprovizionare, care ar urma să intre în vigoare ulterior în cursul anului.
Acțiunea reprezintă o escaladare majoră a eforturilor SUA de a limita capacitățile AI ale adversarilor externi. Ani de zile, controalele la export din SUA s-au concentrat pe chip-urile și instrumentele care alimentează AI, mai degrabă decât pe restricționarea accesului străin la AI în sine.
Anthropic a precizat că guvernul i-a oferit doar "dovezi verbale ale unui potențial jailbreak îngust, non-universal". Compania a adăugat: "Nu suntem de acord că identificarea unui jailbreak potențial îngust ar trebui să fie un motiv pentru retragerea unui model comercial implementat la sute de milioane de oameni."
Directiva guvernamentală și răspunsul Anthropic subliniază tensiunile crescânde dintre dezvoltatorii de AI și autoritățile de reglementare cu privire la modul de evaluare a riscurilor asociate cu așa-numitele "jailbreaks" – metode utilizate pentru a ocoli sistemele de protecție ale modelelor. Recent, Anthropic a cerut o supraveghere mai mare din partea SUA în domeniul AI, inclusiv posibilitatea de a bloca modele cu riscuri inacceptabile. Cu toate acestea, compania consideră că acțiunea guvernamentală de vineri nu a respectat principiile unei reglementări corecte și bazate pe fapte.
Pentagonul, prin vocea directorului său de informații, Kirsten Davies, a transmis pe platforma X că Departamentul Apărării susține prioritizarea securității naționale, afirmând: "Anumite lucruri sunt pur și simplu mai importante decât ciclurile de venituri, clickbait-ul și evaluarea pre-IPO. America First. Întotdeauna."
Anthropic și-a depus confidențial cererea pentru o IPO în SUA luna trecută, concurând cu rivalul OpenAI pentru a ajunge pe piețele publice.
**Atacuri cibernetice sofisticate**
La începutul săptămânii, Anthropic a lansat un model AI numit Claude Fable 5, reprezentând un nou nivel de capabilitate pe care îl numește "clasa Mythos". Modelul dispune de bariere de protecție care interzic utilizarea sa în domenii riscante precum cibersecuritatea, considerate de unii utilizatori "excesiv de largi", a precizat compania. Experții au avertizat că modelele Mythos, dacă ajung pe mâini greșite, ar putea accelera dramatic atacurile cibernetice sofisticate, în special în sectoare precum cel bancar, care se bazează pe sisteme tehnologice complexe, interconectate și adesea vechi de decenii.
Anthropic a declarat că a colaborat cu guvernul SUA, printre alții, la măsuri de siguranță înaintea lansării Fable și că modelele de la alți furnizori AI au demonstrat o capacitate similară de a descoperi bug-uri minore în cod. "Efectul net al acestui ordin este că trebuie să dezactivăm brusc Fable 5 și Mythos 5 pentru toți clienții noștri pentru a asigura conformitatea. Accesul la toate celelalte modele Anthropic nu va fi afectat," a transmis compania.
Anthropic consideră că există un "neînțelegere" și lucrează pentru a restabili accesul la modele cât mai curând posibil. "Dacă acest standard ar fi aplicat întregii industrii, credem că ar opri practic toate implementările noi de modele pentru toți furnizorii de modele de frontieră," a concluzionat compania.
Unitatea cloud a Amazon, AWS, a anunțat vineri seară că Anthropic i-a cerut să revoce accesul la modele pentru "toți utilizatorii din toate regiunile". Un oficial american a confirmat că Departamentul de Comerț a emis o directivă de control al exporturilor pentru a suspenda tot accesul la Fable 5 și Mythos 5 de către cetățenii străini.
Dean Ball, un fost oficial de la Casa Albă, a postat pe X că ordinul sugerează că toți "non-americanii" vor fi restricționați de la utilizarea celor mai noi modele Anthropic, inclusiv cei care își au sediul în SUA. "Aceasta înseamnă că va trebui să dovediți cetățenia pentru a utiliza modelele Anthropic," a afirmat Ball. Mai mulți angajați cheie ai Anthropic, inclusiv co-fondatorul Chris Olah, cercetătorul AI Andrej Karpathy și filosoafa Amanda Askell, s-au născut în afara Statelor Unite. Reuters nu a putut determina statutul lor de cetățenie, iar un purtător de cuvânt al Anthropic a refuzat să comenteze dacă astfel de personal ar pierde accesul la modelele AI.