Compania Anthropic a dezactivat brusc modelele sale AI emblematice, Fable 5 și Mythos 5, în urma unei directive a guvernului Statelor Unite, invocând preocupări legate de securitatea națională. Conform unui comunicat publicat vineri, Anthropic a informat că a primit directiva la ora 17:21 ET, care îi cerea să suspende orice acces al cetățenilor străini, atât din interiorul, cât și din afara Statelor Unite, inclusiv angajații străini ai companiei, la modelele Fable 5 și Mythos 5.
Pentru a asigura conformitatea, Anthropic a dezactivat modelele pentru toți utilizatorii. Compania a precizat că celelalte modele ale sale, precum Opus 4.8, nu sunt afectate. "Respectăm directiva legală a guvernului și eliminăm accesul la Fable 5 și Mythos 5 pentru toți utilizatorii", a declarat compania.
Directiva survine la scurt timp după ce Anthropic a lansat Fable 5 și Mythos 5, două modele AI puternice construite pe baza Mythos Preview, un model lingvistic generalist despre care compania declarase anterior că a descoperit mii de vulnerabilități în software critic.
Anthropic a menționat că guvernul nu a oferit detalii specifice despre amenințarea presupusă, dar crede că autoritățile sunt preocupate de o posibilă metodă de "jailbreak" capabilă să ocolească mecanismele de siguranță ale Fable 5. "Până în prezent, guvernul ne-a oferit doar dovezi verbale despre un potențial jailbreak îngust, non-universal, care constă, în esență, în a cere modelului să citească un anumit codebase și să corecteze eventuale defecte software", a explicat Anthropic. Un jailbreak non-universal reprezintă o amenințare mult mai mică decât un "jailbreak universal", o metodă de a ocoli pe scară largă mecanismele de siguranță ale unui model.
"Nu suntem de acord că descoperirea unui potențial jailbreak îngust ar trebui să fie un motiv pentru retragerea unui model comercial, implementat la sute de milioane de oameni. Dacă acest standard ar fi aplicat în întreaga industrie, credem că ar opri practic toate implementările de noi modele pentru toți furnizorii de modele de ultimă generație", a adăugat compania.
Anthropic susține că ordinul guvernamental este rezultatul unei neînțelegeri și lucrează pentru a restabili accesul utilizatorilor cât mai curând posibil.