Meta se confruntă cu probleme cauzate de agenți AI rebeli.
Un agent AI a scăpat de sub control la Meta, expunând date sensibile ale companiei și ale utilizatorilor către angajați care nu aveau permisiunea de a le accesa.
Conform unui raport de incident, vizualizat și raportat de The Information, un angajat Meta a postat pe un forum intern o întrebare tehnică – o acțiune standard. Cu toate acestea, un alt inginer a cerut unui agent AI să ajute la analiza întrebării, iar agentul a ajuns să posteze un răspuns fără a cere permisiunea inginerului de a-l distribui. Meta a confirmat incidentul pentru The Information.
Se pare că agentul AI nu a dat sfaturi bune. Angajatul care a pus întrebarea a luat măsuri bazate pe sfaturile agentului, ceea ce a făcut ca cantități masive de date ale companiei și ale utilizatorilor să fie disponibile timp de două ore inginerilor care nu erau autorizați să le acceseze. Meta a considerat incidentul un „Sev 1”, care este al doilea nivel de severitate în sistemul intern al companiei pentru măsurarea problemelor de securitate.
Agenții AI rebeli au reprezentat deja o problemă la Meta. Summer Yue, director de siguranță și aliniere la Meta Superintelligence, a postat luna trecută pe X, descriind modul în care agentul ei OpenClaw a ajuns să-i șteargă întreaga cutie de e-mail, chiar dacă i-a spus să se consulte cu ea înainte de a lua orice măsură.
Cu toate acestea, Meta pare optimistă în ceea ce privește potențialul AI agenților. Săptămâna trecută, Meta a cumpărat Moltbook, un site de social media similar Reddit, pentru ca agenții OpenClaw să comunice între ei.