Banca Angliei a semnalat marți necesitatea unor reglementări personalizate pentru inteligența artificială (AI), menite să controleze riscurile pe care sistemele agentice, tot mai capabile, le reprezintă pentru sistemul financiar. Aceasta marchează o posibilă schimbare în abordarea sa privind supravegherea acestei tehnologii.
După ani de insistență că actualele cadre de reglementare sunt suficiente pentru a atenua riscurile AI, viceguvernatorul Sarah Breeden a declarat că evoluțiile rapide în domenii precum plățile și tranzacționarea agentică au expus lacune potențiale. Acestea ar putea necesita un răspuns de reglementare mai sofisticat.
AI-ul agentic are capacitatea de a lua decizii și de a opera autonom. „Cadrul nostru nu a fost conceput pentru a contempla agenți autonomi, iar a ne baza pe o persoană care să supravegheze toate acțiunile agenților nu va fi probabil realist”, a afirmat Breeden la Forumul Băncii Centrale Europene pe tema băncilor centrale, desfășurat în Portugalia.
**RECUPERARE ÎMBUNĂTĂȚITĂ ȘI KILL SWITCH-uri**
Breeden a menționat că Banca Angliei analizează dacă băncile au nevoie de o „recuperare îmbunătățită” pentru sistemele lor de bază, permițând unei bănci să preia funcțiile esențiale ale alteia în cazul unei perturbări. Alte măsuri luate în considerare includ noi mecanisme de control și întrerupătoare de siguranță sau „kill switch-uri” „care ar limita sau opri tranzacționarea la nivel de piață dacă modelele AI defecte ar cauza un colaps pe piață”.
Potrivit unui sondaj realizat de Cambridge Centre for Alternative Finance, 52% dintre firmele financiare utilizează deja AI agentic. În comerț, agenții sunt utilizați în mod tipic pentru a recomanda produse, iar în tranzacționare, firmele folosesc în mare parte AI autonom pentru sarcini operaționale cu risc mai scăzut, deși acest lucru s-ar putea schimba rapid, a precizat Breeden.
„Dacă agenții AI răspund similar la aceleași solicitări sau declanșatori, aceștia ar putea amplifica volatilitatea în condiții de stres – mai ales dacă obiectivele lor se abat de la scopurile inițiale sau de la obiectivele de politică publică.”
Reglementatorii și organismele globale de stabilire a standardelor au avertizat în mod repetat cu privire la riscurile generate de implementarea AI în sectorul financiar, de când compania Anthropic a lansat Mythos, un model despre care analiștii spun că ar putea introduce provocări semnificative de securitate cibernetică în industria bancară. Consiliul de Stabilitate Financiară a cerut, la începutul lunii iunie, garanții mai stricte pentru a preveni riscurile asociate agenților AI, care, potrivit acestuia, reprezintă o provocare distinctă pentru supravegherea umană.