Administrația Trump a transmis un mesaj clar către compania Anthropic: dacă dorește să relanseze modelul său AI avansat, Claude Fable 5, va trebui să se asigure că "barierele de protecție" ale modelului nu pot fi ocolite. Această solicitare vine în urma luării offline a modelului săptămâna trecută, pe fondul unor îngrijorări legate de "jailbreaking" – o metodă prin care utilizatorii pot eluda restricțiile impuse de dezvoltatori pentru a accesa funcționalități nepermise.
**Vulnerabilități AI și Presiuni Guvernamentale**
Oficialii de la Casa Albă susțin că, dacă Anthropic vrea să readucă în uz Fable 5, compania trebuie să abordeze serios vulnerabilitățile semnalate. Pe de altă parte, Anthropic a replicat, afirmând că preocupările administrației sunt exagerate și că efectele "jailbreak-urilor" sunt minimale. O reuniune tehnică recentă a reiterat această poziție în fața Departamentului de Comerț și a Directorului Național al Cyber-securității, Sean Cairncross. Cu toate acestea, oficialii guvernamentali indică concluziile Agenției Naționale de Securitate (NSA), care a identificat modalități de a dezactiva "gardurile de protecție" ale Fable 5. Acestea sunt concepute pentru a împiedica accesul la capabilități legate de securitate cibernetică, chimie și biologie.
**Responsabilitatea Revine Dezvoltatorului**
Discuțiile indică o situație în care responsabilitatea principală cade pe umerii Anthropic. Departamentele guvernamentale implicate, precum Centrul pentru Standarde și Inovație AI din cadrul Departamentului de Comerț sau NSA, nu dispun de resursele necesare pentru a monitoriza și a combate fiecare potențial "jailbreak" pe toate modelele AI care ajung pe piață. Prin urmare, administrația așteaptă ca Anthropic să fie mai proactivă în testarea continuă a modelelor sale, inclusiv a celor de ultimă generație precum Fable 5, pentru a identifica și raporta vulnerabilitățile.
**Provocarea Tehnică a "Jailbreak-urilor"**
Întrebarea fundamentală rămâne însă: cum poate Anthropic, sau orice alt dezvoltator AI, să prevină efectiv "jailbreaking-ul"? Experții independenți în securitate cibernetică consideră din ce în ce mai mult că soluțiile de tip "gard de protecție" sunt doar paliative. Aceștia avertizează că utilizatorii pricepuți și viitoarele modele AI vor găsi întotdeauna modalități de a ocoli restricțiile. Practic, ceea ce pare a fi solicitarea Casei Albe ar putea fi, din punct de vedere tehnic, imposibil de realizat.
**Alte Subiecte din Administrație**
Articolul menționează și alte subiecte politice, precum nominalizarea pentru funcția de Director Național de Informații (DNI). Inițial, nominalizarea lui Bill Pulte a întâmpinat rezistență din cauza lipsei de experiență în securitate națională, iar ulterior, nominalizarea permanentă a lui Jay Clayton a fost amânată într-un context de dispute politice.
De asemenea, este evocată influența unor personalități și oameni de afaceri la evenimente organizate în preajma Casei Albe, inclusiv la un eveniment UFC, unde au fost prezenți lideri din industria tech și media, precum și membri ai familiei Trump.