Firma de inteligență artificială a lui Elon Musk, xAI, solicită instanței federale să ridice anonimatul a patru persoane care au intentat un proces împotriva companiei din cauza imaginilor deepfake cu conținut sexualizat, create aparent cu ajutorul chatbot-ului Grok. Plângerea, depusă inițial sub pseudonime pentru a proteja identitatea victimelor, le obligă acum pe acestea să aleagă între a-și dezvălui numele reale sau a renunța la acțiunea în instanță.
Cele patru reclamante, cunoscute sub numele de South Carolina Doe, South Carolina Roe, New Jersey Doe și Ohio Doe, au descris în declarații sub jurământ suferința emoțională cauzată de aceste imagini deepfake, create la începutul acestui an. Ele își exprimă teama de hărțuire online suplimentară și de "doxing" (expunerea publică a datelor personale) dacă vor fi obligate să folosească nume reale în procesul împotriva xAI.
"După ce le-a dezbrăcat de haine, xAI caută acum să deposedeze Reclamanții de pseudonimele lor, într-un efort evident de a-i intimida pe Reclamanți să renunțe la litigiu, prin amplificarea aceleiași suferințe pe care caută să o remedieze," a declarat Sophia Rios, avocata reclamanților. "Solicitând acestei instanțe să-și revizuiască decizia, xAI sugerează că abuzul pe care l-a perpetuat nu este o problemă majoră."
În ianuarie, utilizarea chatbot-ului Grok, deținut de Musk, a stârnit indignare globală, numeroși bărbați utilizând sistemul AI pentru a crea imagini false cu femei "dezbrăcate" și în bikini. Imaginile postate pe platforma X (fosta Twitter) au inclus, de asemenea, imagini sexualizate cu copii. Analizele sugerează că Grok a fost folosit pentru a crea aproximativ 3 milioane de imagini sexualizate în doar 11 zile, dintre care 23.000 ar putea include copii.
Procesul împotriva xAI a fost intentat inițial în ianuarie cu un singur reclamant pseudonim, căruia un judecător i-a permis să rămână "Jane Doe". Cazul a fost ulterior reîntregit la începutul lunii mai, cu cei patru reclamanți pseudonimi. Instanța a aprobat inițial utilizarea pseudonimelor pentru a proteja confidențialitatea victimelor, pentru a evita asocierea lor cu imaginile și pentru a reduce riscul de hărțuire online.
Cu toate acestea, xAI a depus două moțiuni la tribunal, solicitând anularea deciziei de a permite utilizarea pseudonimelor. Avocații xAI susțin că legea civilă impune, în general, ca toate părțile dintr-un proces să fie identificate prin numele lor reale, afirmând că există un interes public în cunoașterea identității celor care dau în judecată compania. Ei susțin, de asemenea, că nu au fost prezentate dovezi specifice care să indice un pericol suplimentar pentru indivizi și că, atâta timp cât imaginile deepfake nu vor fi făcute publice, preocupările legate de confidențialitate ar trebui să fie eliminate.
"Dacă eliminăm imaginea deepfake în sine - deoarece aceasta va rămâne sigilată - nu există nimic intrinsec stigmatizant în a dezvălui faptul că o imagine deepfake a fost creată pentru South Carolina Doe, fără a dezvălui imaginea însăși," au scris avocații într-una dintre moțiuni. "Drept urmare, acest caz pur și simplu nu implică tipurile de interese de confidențialitate convingătoare recunoscute tradițional ca necesitând anonimat."
Experții în drept digital, precum Danielle Citron de la Universitatea din Virginia, avertizează că obligarea reclamanților să dea în judecată sub nume reale în cazurile de încălcare a vieții private poate duce la abandonarea proceselor, creând o situație "inacceptabilă și nedreaptă". "Forțarea reclamanților în litigii privind confidențialitatea să dea în judecată sub numele lor nu aduce prea multă transparență judiciară și face atât de mult pentru a descuraja litigarea," a declarat Citron.
Reclamanții au declarat că ar lua în considerare retragerea din proces dacă li se va cere să-și dezvăluie numele. Unul dintre reclamanți, South Carolina Doe, a descris șocul și rușinea de a descoperi o imagine deepfake cu ea într-o "poziție indecentă", exprimându-și teama că va fi vizată de susținătorii lui Elon Musk și ai companiilor sale, ceea ce ar putea duce la crearea de noi deepfake-uri "și mai extreme". Un alt reclamant, New Jersey Doe, a declarat că a descoperit imagini deepfake sexualizate cu el după ce a solicitat chatbot-ului Grok să nu creeze imagini cu el fără consimțământ.
În cazul South Carolina Roe, procesul susține că Grok a fost folosit pentru a crea imagini explicite cu ea ca minoră, în contextul unei investigații penale a tatălui său. Avocații reclamanților cer instanței să respingă moțiunile xAI, subliniind că procesul se referă la "deepfake-uri extrem de personale și jenante care o înfățișează pe Reclamanți și care au fost diseminate fără consimțământul lor."