Casa Albă își face propriile reguli pentru AI pe loc
Compania Anthropic încă nu poate distribui Claude Mythos sau Fable 5 după ce a intrat în conflict cu administrația Trump. Însă nimeni nu poate spune exact ce a greșit compania.
A trecut aproape o săptămână de când administrația Trump a trimis o directivă de control la export către Anthropic, forțând unul dintre cele mai importante laboratoare de AI din lume să își retragă cele mai avansate modele de pe piață. După zile de negocieri între Anthropic și Casa Albă, cele două părți rămân în dezacord cu privire la modul în care să readucă în circulație Claude Mythos și Fable 5. De ce? Ei bine, depinde pe cine întrebi.
Pe tot parcursul acestui întreg debacle, Anthropic nu crede că a încălcat vreunui proceduri sau reguli concrete stabilite de administrația Trump, potrivit unei persoane apropiate companiei. Dar Casa Albă susține că Anthropic s-a comportat nesăbuit, demonstrând că nu poate fi avută încredere pentru lansarea în siguranță a tehnologiei de frontieră.
Această saga mi-a dovedit că am intrat oficial în epoca "Vestului Sălbatic" a reglementării americane în domeniul AI. Deși există puține legi în vigoare care să guverneze dezvoltarea AI de frontieră, asta nu înseamnă că firmele nu vor ajunge în probleme cu Casa Albă a lui Trump atunci când depășesc linii nescrise.
„Problema aici este că Casa Albă a avut o postură extrem de anti-reglementară și acum se confruntă cu capacitățile reale ale AI pe care oamenii le prezic de mulți ani”, spune un fost oficial tehnologic al Casei Albe, care a dorit să rămână anonim pentru a nu-și periclita relațiile profesionale. „Ar fi trebuit să existe pregătire și politici pentru a gestiona sistematic acest lucru, gestionând beneficiile și riscurile, dar în schimb este doar o abordare haotică ce pune industria AI într-o dilemă reală.”
Administrația Trump a blocat în mod repetat eforturile de a impune bariere pentru industria AI, argumentând adesea că regulile ar putea împiedica inovația americană și ar putea face ca țara să rămână în urmă față de rivali precum China. De când a revenit la Casa Albă, președintele Trump a semnat ordine executive care au anulat un efort al administrației Biden de a crea un cadru național pentru AI și a creat o forță de lucru federală pentru a contesta legile statale considerate onerose.
În timp ce WIRED și alte publicații au făcut publice detaliile negocierilor dintre Anthropic și Casa Albă în ultima săptămână, disputa este încă definită de opacitatea sa. Niciodată guvernul SUA nu a declarat clar ce a greșit Anthropic – cel mai bun lucru pe care îl avem este o postare pe X care conturează situația generală din partea consilierului tehnologic al Casei Albe, David Sacks.
În mod ironic, acțiunile Casei Albe au subminat probabil chiar tipul de inovație pe care dorește să o protejeze. Administrația Trump a cerut ca Anthropic să interzică accesul tuturor cetățenilor străini la Mythos și Fable 5, împiedicând mulți dintre proprii angajați ai laboratorului AI să acceseze cele mai avansate modele ale sale, care, potrivit companiei, au accelerat cercetarea și dezvoltarea în ultimele luni. Toți clienții Anthropic sunt, de asemenea, blocați, inclusiv Apple, Meta și o mare parte din Fortune 500.
Casa Albă ar fi putut avea motive legitime să fie preocupată de modelele Anthropic. Așa cum am relatat eu și colegii mei miercuri, oficialii americani au devenit îngrijorați când au aflat la începutul acestei luni că Anthropic a partajat Mythos cu SK Telecom, un gigant al telecomunicațiilor sud-coreean despre care susțin că are legături cu China. Separat, CEO-ul Amazon, Andy Jassy, a ridicat preocupări în fața secretarului Trezoreriei SUA, Scott Bessent, că anumite bariere de protecție ale Claude Fable 5, o versiune protejată a Mythos, ar putea fi ocolite.
Chiar dacă aceste îngrijorări sunt legitime, asta nu înseamnă că Casa Albă le-a gestionat adecvat. În primul caz, Anthropic spune că a coordonat cu guvernul SUA lansarea Mythos, sugerând că ar fi existat o oportunitate pentru oficiali să ridice alarme cu privire la SK Telecom în avans. Anthropic lucrează, de asemenea, cu compania coreeană de ani de zile, iar aranjamentul aparent nu a cauzat probleme de securitate națională înainte. Iar când Casa Albă a ridicat preocupări legate de SK Telecom către Anthropic, acesta a revocat imediat accesul la model, am relatat.
În al doilea caz, WIRED și alte publicații au scris pe larg despre cum orice model lingvistic mare poate fi „jailbroken” în grade variate. Anthropic și cercetătorii independenți în securitate cibernetică susțin că rezolvarea „jailbreak-urilor” nu este o problemă ușoară sau izolată. Deoarece modelele AI sunt probabilistice, nu deterministe, companiile tehnologice nu pot garanta exact ce vor genera în răspuns la un anumit prompt. Dacă Casa Albă nu-i va permite Anthropic să lanseze Claude Fable 5 până când problema „jailbreaking-ului” nu va fi rezolvată, nu aș ține respirația.
Dar, în cele din urmă, problema aici nu este că guvernul SUA încearcă să se asigure că modelele avansate de AI au protecții adecvate sau nu ajung în mâinile dușmanilor Americii. Este că administrația Trump se află acum într-o poziție în care trebuie să ia aceste decizii de reglementare în timp real. Vă pot asigura că alte laboratoare AI precum OpenAI, Google și Meta au urmărit cu sufletul la gură misfortunele Anthropic.
Întreb AI executives aceeași întrebare toată săptămâna: Cum puteți evita un destin similar celui al Anthropic? Până acum, mulți lideri din domeniul AI ajung la aceeași concluzie: cred că vor trebui să ofere Casei Albe acces anticipat la cele mai noi modele AI. În plus, spun ei, trebuie să fie extrem de proactivi în partajarea informațiilor cu administrația Trump despre lansările viitoare de modele – riscul de a prinde oficialii nepregătiți este pur și simplu prea mare.
„Notificare prealabilă, acces anticipat. Cred că acestea sunt principalele solicitări pe care le-am auzit, nu doar din SUA, ci și din alte părți ale lumii”, a spus Aidan Gomez, CEO al laboratorului canadian de AI Cohere, într-un interviu la începutul acestei săptămâni. „Cred că sunt lucruri bune în multe privințe. Arată un angajament și o considerație puternică din partea autorităților față de o tehnologie super importantă.”
Președintele Trump a semnat un ordin executiv luna trecută care a creat un sistem „voluntar” pentru ca laboratoarele AI să trimită modele guvernului pentru testare timpurie. Acesta a inclus o excepție care stipula explicit că acest lucru nu va deveni un regim de licențiere obligatoriu, o preocupare majoră ridicată de industria tehnologică, care a împiedicat inițial ordinul executiv. Dar, după ce s-a întâmplat cu Anthropic, se pare că administrația Trump a creat efectiv o versiune ad-hoc a unui astfel de regim.
„Administrația Trump, sincer, nu ar fi trebuit să spună că acesta este un regim voluntar”, spune fostul oficial tehnologic al Casei Albe. „Este foarte clar că ceea ce fac acum este un regim de licențiere.”
Aceasta este o ediție a newsletter-ului Model Behavior al lui Maxwell Zeff. Citiți newsletter-ele anterioare aici.