Compania Anthropic și-a retras recent cele mai noi modele AI, Claude Fable 5 și Mythos 5, ca urmare a unei directive guvernamentale americane privind controlul exporturilor, care interzice accesul „oricărei persoane neamericane” la aceste servicii. Deși discuțiile cu Casa Albă sunt în desfășurare, nu s-a ajuns încă la un acord care să permită reinstaurarea acestor oferte.
De la lansarea sa în aprilie, Mythos a fost prezentat ca având capacități avansate, nu doar pentru identificarea vulnerabilităților software, ci și pentru a găsi modalități de a le exploata, potențial în scopuri malițioase. Anthropic a subliniat acest caracter „dual-use” al modelelor sale: „O mare parte din utilizarea avansată a modelelor AI este duală: aceleași interogări care sunt benefice în mâinile profesioniștilor în securitate cibernetică și cercetătorilor în biologie ar putea fi periculoase dacă sunt disponibile actorilor rău intenționați.”
Inițial, compania a lansat o versiune, Mythos Preview, unui grup select, iar Mythos 5 a fost disponibil privat aceleiași grup. Claude Fable 5, un model de calibru Mythos, a fost lansat publicului, dar cu restricții specifice privind răspunsurile legate de biologie și securitate cibernetică. Ulterior, administrația Trump a impus restricții asupra ambelor modele, invocând posibilitatea dezactivării barierelor de securitate ale Fable 5 pentru a accesa complet capabilitățile Mythos 5, considerând acest lucru un risc pentru securitatea națională.
Cu toate acestea, experții sugerează că această confruntare instituțională nu face decât să întârzie sau să mascheze o realitate: modele cu capabilități similare Mythos 5, atât de la Anthropic, cât și de la alte companii sau dezvoltatori open-source, sunt pe cale să apară sau chiar există deja. „Este miopic în extremă să credem că alți competitori ai Anthropic nu vor dezvolta capabilități similare cu Mythos sau că nu au făcut-o deja”, afirmă Tarah Wheeler, Chief Security Officer la TPO Group. „Există alte companii pe urmele Anthropic, care probabil dețin capabilitățile și le țin în rezervă, observând cum este tratat Anthropic în mediul de reglementare actual.”
Anthropic însăși a subliniat acest aspect, Logan Graham, liderul echipei de cercetare a companiei, declarând anterior: „Mesajul real este că nu este vorba despre model sau despre Anthropic. Trebuie să ne pregătim acum pentru o lume în care aceste capabilități vor fi larg disponibile în 6, 12, 24 de luni.” Chiar și alte companii mari, precum OpenAI, au realizat lansări private de modele axate pe securitate cibernetică și și-au extins strategiile în domeniu.
Cercetătorii avertizează că, chiar și înainte de apariția acestei noi generații de modele, instrumentele AI existente pot fi folosite pentru identificarea avansată de vulnerabilități și dezvoltarea de exploit-uri. Un grup numeros de lideri din domeniul securității cibernetice a evidențiat acest aspect într-o scrisoare deschisă adresată administrației, argumentând că directiva de control al exporturilor este greșit direcționată.
„Nu este vorba despre un singur model, ci despre tendința generală a tehnologiei”, explică Bruce Schneier, cercetător la Universitatea Harvard și Universitatea din Toronto. „Modelele mai mici, mai ieftine, open-source, uneori individual, alteori în combinație, pot egala performanța Mythos/Fable cu o tehnică de prompting mai sofisticată. Ne putem aștepta ca alte modele să egaleze creativitatea și tenacitatea Mythos/Fable în câteva luni – puțin mai mult pentru modelele open-source.”
Experții consideră că administrația de la Washington și guvernele din întreaga lume ar trebui să se concentreze pe dezvoltarea democratică a unor planuri mult mai ample și transparente pentru a face față avansurilor în capabilitățile AI, în special în domeniul securității cibernetice și al altor zone sensibile, pe măsură ce acestea vor apărea inevitabil. „Întrebarea de politică publică nu este dacă o tehnologie prezintă riscuri”, concluzionează Chris Wysopal, cofondator al firmei de securitate cloud Veracode. „Întrebarea este dacă o restricție specifică reduce semnificativ riscul sau dacă doar încetinește persoanele care încearcă să facă sistemele mai sigure.”