Intervenția guvernului american asupra modelelor companiei Anthropic, care a determinat compania să retragă cele mai recente produse de pe piață chiar înainte de weekend, ar trebui să fie un semnal de alarmă pentru orice companie americană din domeniul tehnologiei, fie că este vorba de un laborator de inteligență artificială sau de alt tip.
Pentru a vă pune la curent cu știrile: vineri după-amiază, Departamentul de Comerț al SUA a trimis Anthropic o scrisoare, invocând o directivă obscură de control al exporturilor care interzicea accesul non-americanilor, inclusiv angajaților Anthropic, la Fable 5 și Mythos 5, invocând o preocupare nespecificată pentru securitatea națională. Anthropic a declarat că crede că scrisoarea este legată de ocolirea mecanismelor de protecție ale modelului, dar nu este sigură, deoarece scrisoarea nu oferă detalii specifice. Scrisoarea nu a fost făcută publică.
Ca răspuns, Anthropic a oprit ambele modele de top pentru toți clienții, pentru a se asigura că respectă directiva. Rezultatul a fost că guvernul SUA a reușit să forțeze o companie de tehnologie să retragă modelele sale offline printr-o acțiune rapidă și unilaterală, care nu a necesitat, aparent, aprobarea unei instanțe. Intervenția de vineri a administrației Trump arată că industria AI nu este imună la interferența guvernamentală. Este, de asemenea, un avertisment pentru industria tech în general: conformați-vă, sau vă putem bloca pe dumneavoastră și produsele voastre.
Citând surse, Axios a descris o situație tensionată pe parcursul weekendului între cei doi mari actori, afirmând că „diferențele de personalitate” dintre Anthropic și administrația Trump au dus la directiva de export, mai degrabă decât la o problemă tehnică cu produsele AI.
Noi detalii despre problemă, apărute pe parcursul weekendului, pun și mai multă îndoială asupra raționamentului deja șubred al guvernului. Katie Moussouris, un veteran al securității cibernetice și cercetător care a fondat Luta Security, a declarat într-o postare pe blog că Anthropic i-a împărtășit recent o copie privată a unui document scris de cercetători în securitate, care descrie o presupusă ocolire a mecanismelor de protecție în Fable 5. (The Wall Street Journal raportează că autorii documentului sunt cercetători în securitate la Amazon.) Moussouris a spus că Anthropic a contactat-o pentru a-i cere părerea despre document. Postarea lui Moussouris pe blog a descris cum cercetătorii au declanșat ocolirea protecțiilor, dar a afirmat că ocolirea în sine „nu ar fi trebuit niciodată să declanșeze un control al exporturilor”. Diferența este, în mare parte, între a cere unui model AI să „revizuiască codul pentru probleme de securitate” și a-i cere să „repare acest cod”. Rezultatul final este, în mare parte, același, chiar dacă întrebările sunt formulate ușor diferit.
„Comportamentul descris în document nu poate fi remediat în mod semnificativ, iar orice încercare ar slăbi modelul pentru apărare”, a spus Moussouris, care a criticat directiva de control al exporturilor ca fiind pripită, exagerată și greșit orientată. Moussouris și zeci de alți cercetători și experți de top în securitate au cerut ulterior administrației Trump să revoce ordinul de control al exporturilor, numind mișcarea de retragere a capabilităților avansate de securitate cibernetică de la apărătorii rețelelor din SUA ca fiind „periculoasă”.
Administrațiile trecute au luat decizii ample pe baza lacunelor de cunoștințe. De exemplu, limbajul folosit de guvernul SUA în anii 2010 pentru a modifica legea exporturilor care acoperă instrumentele de securitate cibernetică ce puteau fi folosite și pentru atacuri cibernetice a fost atât de larg încât, neintenționat, a interzis aproape cercetarea legitimă în domeniul securității și al vulnerabilităților. Cu toate acestea, directiva administrației Trump pare a fi una retaliatorie.
Justin Hendrix, editorul Tech Policy Press, a declarat că mișcarea administrației Trump „va ridica, probabil, semne de întrebare în capitalele străine cu privire la fiabilitatea AI-ului american pentru aplicații critice”. Mesajul este că companiile AI din Statele Unite nu pot fi lăsate să opereze fără interferența guvernului SUA.
Administrația Trump nu a confirmat de ce a invocat directiva de control al exporturilor. Au citit greșit raportul și au intrat în panică? A spus CEO-ul Amazon, Andy Jassy, ceva oficialilor guvernamentali de rang înalt care a provocat reacția, din prudență sau din răutate? S-a pierdut ceva în traducere, sau a fost o modalitate de a presa Anthropic, cu care administrația are deja o relație conflictuală? Este posibil ca Casa Albă să nu fi fost conștientă de consecințele de anvergură ale cererii din scrisoare, iar oficialii să se zbată să repare daunele pe care le-au cauzat. Pentru a cita pe Hendrix, „climatul este unul de suspiciune, în care oficialii de rang înalt aleg favoriții pe baza factorilor personali și politici”.
Consecința este că guvernul a stabilit un precedent periculos cu privire la cât control intenționează să exercite asupra lansării de software-uri fabricate în America. De data aceasta, guvernul a avut probleme cu Anthropic; mâine ar putea fi cu oricine altcineva.