Se pare că Andy Jassy, directorul executiv al Amazon, ar fi fost cel care a ridicat semne de întrebare legate de securitatea modelelor AI dezvoltate de Anthropic, determinând compania să restricționeze accesul la două dintre acestea la nivel mondial vineri.
Potrivit informațiilor publicate de The Wall Street Journal, Jassy ar fi informat pe Scott Bessent, secretar al Trezoreriei SUA, și alți oficiali guvernamentali că cercetătorii Amazon au utilizat modelul Claude Fable 5 al Anthropic pentru a obține informații care ar putea fi folosite în atacuri cibernetice. Ulterior, guvernul american a impus o interdicție de control la export pentru modelele Fable 5 și Mythos 5.
Un purtător de cuvânt al Amazon a declarat pentru WSJ că, deși "nu este neobișnuit ca guvernele să solicite sfatul nostru cu privire la potențiale riscuri de securitate", compania "nu împărtășește detalii despre aceste discuții".
Publicațiile The Information și Reuters au raportat, de asemenea, că Amazon, un investitor major în Anthropic, a comunicat preocupări legate de securitatea modelelor companiei.
David Sacks, fost consilier pentru inteligență artificială al lui Donald Trump și co-președinte al Consiliului Consultativ al Președintelui pentru Știință și Tehnologie, a oferit propria versiune a discuțiilor, afirmând că "un partener de încredere, extrem de credibil, atât pentru Anthropic, cât și pentru Guvernul SUA [...] a prezentat informații despre un 'jailbreak' (metodă de eludare a restricțiilor de securitate)."
Sacks a adăugat: "Administrația a cerut [directorului executiv al Anthropic, Dario Amodei] să remedieze 'jailbreak-ul' sau să retragă modelul. Dario a refuzat."