Un avertisment din partea Amazon, alături de alte semnale din partea unor companii de tehnologie, a determinat administrația Trump să suspende accesul extern la modelele de inteligență artificială Fable 5 și Mythos 5 dezvoltate de Anthropic, vineri.
Decizia administrației de a restricționa accesul străin la cele mai puternice modele AI ale Anthropic ar fi fost declanșată de solicitările CEO-ului Amazon, Andy Jassy. Potrivit unui raport publicat de The Wall Street Journal, Jassy a contactat oficiali guvernamentali de rang înalt joi, după ce cercetătorii Amazon au descoperit o metodă de a determina modelul Fable 5 al Anthropic să returneze informații ce ar putea fi folosite în atacuri cibernetice.
Apelul lui Jassy, împreună cu avertismentele primite de la cel puțin alte cinci companii, a dus la o mobilizare rapidă la Casa Albă pentru a evalua amenințarea și a contacta CEO-ul Anthropic, Dario Amodei. Acesta din urmă ar fi respins preocupările administrației și cererile de a retrage voluntar modelul.
„Ca reacție, Administrația a emis controlul exporturilor. Administrația a făcut acest lucru cu reticență”, a declarat sâmbătă David Sacks, copreședinte al Consiliului Consultativ al Președintelui pentru Știință și Tehnologie. „A fost o surpriză mare faptul că Anthropic nu a dorit să coopereze cu o solicitare rezonabilă de siguranță (adică, remedierea problemei de jailbreak).”
Acest episod aruncă lumină asupra motivelor care au stat la baza directivei americane ce a forțat Anthropic să își retragă noul model din uz public vineri seara. Se estimează că Anthropic Claude are aproximativ 18.900 de utilizatori activi lunar.
Într-o postare pe blog, vineri, Anthropic a declarat că a considerat că directiva SUA a rezultat dintr-o neînțelegere cu privire la amenințarea reprezentată de un „jailbreak non-universal”, menționat într-un raport anonim.
Amazon nu a confirmat dacă a discutat cu oficiali guvernamentali despre modelele Anthropic. „În calitate de furnizor principal de cloud care deservește un număr mare de clienți din sectorul privat și public, nu este neobișnuit ca guvernele să solicite consultanța noastră cu privire la potențiale riscuri de securitate”, a declarat un purtător de cuvânt. „Când acestea apar, nu divulgăm detaliile acestor discuții.”
Anthropic a anunțat că lucrează pentru a restabili accesul utilizatorilor săi. „Speranța Administrației acum este că Anthropic va remedia problema de siguranță”, a spus Sacks, ceea ce ar duce la ridicarea controlului exporturilor și la revenirea modelului Fable în distribuție generală. „Administrația dorește ca tot acest proces să aibă loc cât mai curând posibil.”
Episodul a demonstrat, de asemenea, capacitatea guvernului SUA de a întrerupe rapid accesul la modelele AI bazate în SUA la comandă, ducând la o creștere a tokenurilor descentralizate AI vineri și sâmbătă. Tokenul nativ al Bittensor, un protocol AI descentralizat ce permite crearea și monetizarea modelelor de inteligență artificială, numit de unii „Bitcoin al AI”, a înregistrat o creștere de 23,9% în ultimele 24 de ore. Venice Token (VVV), monedă utilitară și de confidențialitate ce alimentează Venice AI, o platformă AI descentralizată și necenzurată fondată de Erik Voorhees, a crescut cu 16%. Near Protocol, un proiect blockchain ce construiește infrastructura pentru a susține o economie de agenți AI descentralizați, a înregistrat o creștere de 6,2%.