Compania xAI a lui Elon Musk ar trebui să fie trasă la răspundere pentru că a permis modelelor sale AI să producă imagini sexuale abuzive cu minori identificabili, au argumentat trei reclamanți anonimi într-un proces intentat luni în instanța federală din California.
Cei trei reclamanți doresc să intenteze un proces colectiv reprezentând pe oricine care a avut imagini reale cu ei ca minori, modificate în conținut sexual de Grok. Ei susțin că xAI nu a luat măsurile de precauție de bază utilizate de alte laboratoare de frontieră pentru a împiedica modelele lor de imagine să producă pornografie înfățișând persoane reale și minori. Cazul, Jane Doe 1, Jane Doe 2, un minor, și Jane Doe 3, un minor versus x.AI Corp. și x.AI LLC, a fost înregistrat în Curtea Districtuală a SUA din Districtul de Nord al Californiei.
Alți generatori de imagini cu învățare profundă folosesc diverse tehnici pentru a preveni crearea de pornografie infantilă din fotografii normale. Procesul susține că aceste standarde nu au fost adoptate de xAI. În special, dacă un model permite generarea de conținut nud sau erotic din imagini reale, este practic imposibil să se împiedice generarea de conținut sexual cu copii.
Promovarea publică de către Musk a capacității lui Grok de a produce imagini sexuale și de a înfățișa persoane reale în ținute sumare este prezentată puternic în proces. Compania nu a răspuns unei solicitări de comentarii de la TechCrunch.
Un reclamant, Jane Doe 1, a avut fotografii de la balul de absolvire și albumul de liceu modificate de Grok pentru a o înfățișa dezbrăcată. Un informator anonim care a contactat-o pe Instagram i-a spus că fotografiile circulă online și i-a trimis un link către un server Discord cu imagini sexualizate cu ea și cu alți minori pe care i-a recunoscut de la școală.
Un al doilea reclamant, Jane Doe 2, a fost informat de anchetatorii criminali despre imagini alterate, sexualizate cu ea, create de o aplicație mobilă terță parte care se bazează pe modelele Grok. Un al treilea, Jane Doe 3, a fost, de asemenea, notificat de anchetatorii criminali care au descoperit o imagine pornografică alterată a ei pe telefonul unui subiect pe care l-au arestat.
Avocații reclamanților spun că, deoarece utilizarea de către terți necesită în continuare codul și serverele xAI, compania ar trebui să fie considerată responsabilă.
Toți cei trei reclamanți, dintre care doi sunt încă minori, spun că se confruntă cu o suferință extremă din cauza circulației acestor imagini și a ceea ce ar putea însemna pentru reputația și viața lor socială. Ei cer sancțiuni civile în temeiul unei serii de legi menite să protejeze copiii exploatați și să prevină neglijența corporativă.