Chatbotul Grok, dezvoltat de compania xAI a lui Elon Musk și integrat în platforma X (fosta Twitter), se află în centrul unui scandal internațional. Autoritățile canadiene au concluzionat că, în ciuda restricțiilor anunțate de companiile lui Musk, Grok continuă să permită crearea și distribuirea de imagini sexualizate fără consimțământ, inclusiv cu minori, relatează Politico într-un comentariu.
Potrivit Comisarului canadian pentru protecția vieții private, Philippe Dufresne, utilizatorii au generat peste 1,8 milioane de imagini deepfake cu caracter sexualizat în doar zece zile, la începutul acestui an. Deși s-au introdus ulterior măsuri de siguranță, oficialul canadian susține că problema este departe de a fi rezolvată. „Au făcut progrese și și-au asumat angajamente, însă nu sunt mulțumit că situația a fost remediată”, a declarat Dufresne, adăugând că acest lucru „se amestecă în politica noastră”.
Scandalul recent se adaugă altor tensiuni, precum cele legate de premierul britanic și Elon Musk, sau convocarea acestuia în Franța într-o anchetă privind conținutul ilegal pe platforma X.
**Ce este un deepfake sexualizat?**
Deepfake-urile sunt imagini sau videoclipuri create cu ajutorul inteligenței artificiale, care modifică sau înlocuiesc chipul unei persoane reale. În cazul imaginilor sexualizate, fotografia unei persoane poate fi transformată artificial într-o imagine cu nuditate sau conținut explicit, fără acordul acesteia.
Ancheta canadiană a relevat că utilizatorii au reușit să determine Grok să adauge elemente precum bikini, lenjerie intimă sau alte articole vestimentare provocatoare pe fotografiile unor persoane reale, inclusiv copii. Fenomenul a declanșat reacții puternice la nivel internațional. Malaezia și Indonezia au suspendat temporar aplicația, în timp ce autoritățile din Regatul Unit și statul american California au demarat propriile investigații.
Milioane de imagini generate într-un timp record
Conform concluziilor prezentate de autoritățile canadiene, la un moment dat, Grok genera peste 6.000 de imagini sexualizate pe oră. O analiză realizată de organizația non-profit Center for Countering Digital Hate estimează că, între 29 decembrie 2025 și 8 ianuarie 2026, au fost create aproximativ trei milioane de imagini deepfake sexualizate, dintre care peste 23.000 implicau copii.
Compania a anunțat ulterior că a redus volumul acestor imagini cu aproximativ 50%, însă autoritățile consideră că numărul rămas este în continuare îngrijorător. „Este o reducere semnificativă, dar asta înseamnă că există încă foarte multe imagini de acest tip”, a subliniat Dufresne.
Canada pregătește sancțiuni mai dure
Ancheta a fost lansată în luna ianuarie, pe fondul presiunilor crescânde asupra companiilor de inteligență artificială și a rețelelor sociale de a combate fenomenul deepfake-urilor fără consimțământ. Canada este pe punctul de a adopta o legislație care va transforma în infracțiune distribuirea sau amenințarea cu distribuirea unor astfel de imagini. Noile reguli ar obliga, de asemenea, platformele online să raporteze autorităților materialele generate cu inteligență artificială care conțin abuzuri sexuale asupra copiilor.
Guvernul canadian a prezentat și un nou proiect de lege privind siguranța online, care ar impune platformelor sociale să elimine conținutul sexual explicit, inclusiv deepfake-urile generate de AI, în cel mult 24 de ore de la identificare.
X respinge acuzațiile
În luna ianuarie, X a anunțat că va bloca încercările utilizatorilor de a modifica imagini cu persoane reale în haine provocatoare și a susținut că are o politică de „toleranță zero” față de exploatarea sexuală a copiilor, nuditatea fără consimțământ și conținutul sexual nedorit. Cu toate acestea, autoritățile canadiene consideră că măsurile adoptate până acum nu sunt suficiente și avertizează că, dacă situația nu se îmbunătățește, cazul ar putea ajunge în instanță.