Apple Inc. și Google au continuat să ofere aplicații mobile care permit utilizatorilor să creeze imagini sexualizate non-consensuale ale persoanelor, în ciuda politicilor lor care interzic astfel de conținut, potrivit unui raport publicat miercuri de Tech Transparency Project.
Căutarea unor termeni precum "nudify" și "dezbracă" în magazinele de descărcare de aplicații Apple și Google oferă clienților acces la software care poate fi utilizat pentru a modifica imaginile celebrităților și ale altora pentru a le face să apară nude sau într-o stare de dezbrăcare parțială, potrivit grupului, o ramură de cercetare a organizației non-profit Campaign for Accountability. Companiile rulează, de asemenea, reclame pentru aplicații similare de nudificare în rezultatele căutării lor.
Aplicațiile identificate de grup au fost descărcate de 483 de milioane de ori și au generat venituri de 122 de milioane de dolari, potrivit raportului, care a citat estimările veniturilor de la firma de cercetare de piață AppMagic. Un purtător de cuvânt al AppMagic a declarat că munca Tech Transparency Project a dus la eliminarea mai multor aplicații și a determinat altele să își schimbe politicile de utilizare.
În ultimul an, politicienii din întreaga lume au intensificat apelurile pentru a reduce răspândirea aplicațiilor de nudificare. La începutul acestui an, companiile au eliminat aplicațiile semnalate de Tech Transparency Project. Dar, doar câteva luni mai târziu, zeci de aplicații similare au putut fi găsite, au spus cercetătorii din organizație.
"Nu este vorba doar despre faptul că companiile nu reușesc să revizuiască în mod adecvat aceste aplicații și continuă să le aprobe și să profite de pe urma lor", a declarat Katie Paul, directorul proiectului, într-un interviu. "De fapt, direcționează utilizatorii către aplicațiile în sine."
Din căutările sale în magazinele de aplicații, grupul a identificat 18 aplicații cu capacități de nudificare în Apple App Store și 20 în Google Play Store. În plus, atât Apple, cât și Google direcționează uneori utilizatorii către aplicații prin intermediul funcției lor de completare automată, sugerând numele mai multor aplicații de nudificare pe măsură ce utilizatorii tastează, au spus cercetătorii.
Unele dintre aplicații au folosit nume și imagini care le-au aruncat într-o lumină sexuală. Altele ar putea fi ușor utilizate în acest scop, deși nu sunt comercializate ca atare, făcându-le mai convenabile decât software-ul tradițional de editare foto. Unele au oferit abonamente, a spus Tech Transparency Project.
Liniile directoare ale Apple App Store pentru dezvoltatori interzic "materialul explicit sexual sau pornografic". Google Play Store interzice "aplicațiile care degradează sau obiectifică oamenii, cum ar fi aplicațiile care pretind că dezbracă oamenii sau văd prin haine, chiar dacă sunt etichetate ca aplicații de farsă sau de divertisment."
Google a declarat că multe dintre aplicațiile la care se face referire în raport au fost suspendate de pe Google Play pentru încălcări ale politicilor sale și că este în curs o investigație.
"Când ni se raportează încălcări ale politicilor noastre, investigăm și luăm măsurile adecvate", a spus compania într-un e-mail.
Apple a declarat că a eliminat 15 aplicații identificate de grup după ce Bloomberg a contactat-o cu privire la prezența lor. Printre aplicațiile eliminate se numără PicsVid AI Hot Video Generator, care oferea șabloane cu femei care sugeau acadele falice, potrivit cercetătorilor. Dezvoltatorul PicsVid nu a răspuns unei solicitări de comentarii. Producătorul iPhone-ului a spus că a blocat, de asemenea, mulți dintre termenii de căutare enumerați în raport.
O altă aplicație identificată de Tech Transparency Project, Uncensored AI - No Filter Chat, a dezbrăcat hainele de pe o imagine a unei femei încărcate de cercetători. Un reprezentant al dezvoltatorului Uncensored AI a declarat că aplicația nu mai permite eliminarea hainelor. Apple a spus că a contactat dezvoltatorii a șase aplicații pentru a-i alerta cu privire la problemele care trebuie abordate și că riscă să fie eliminate. Alte aplicații menționate de Tech Transparency Project nu au încălcat liniile directoare ale companiei, a spus Apple. Compania a adăugat că a respins proactiv multe aplicații și a eliminat altele.
Eforturile de aplicare ale giganților tehnologici sunt "inegale și în mare măsură opace", potrivit Annei Helmond, profesor la Universitatea Utrecht din Olanda.
"Dacă o aplicație se prezintă ca un generator de imagini generic, poate trece de revizuire, chiar dacă poate fi utilizată greșit în practică", a spus Helmond, care este director al App Studies Initiative, un grup internațional de cercetare. "Vizibilitatea este modelată de sistemele de clasare și căutare care recompensează implicarea, ceea ce înseamnă că utilizările controversate pot crește importanța unei aplicații."
Una dintre aplicațiile identificate de cercetători în Google Play Store, Video Face Swap AI: DeepFace, a promovat schimbarea feței actriței Anya Taylor-Joy pe personajul Daenerys Targaryen din Game of Thrones. Dar în interiorul aplicației, sub o categorie numită Girls, utilizatorii puteau lipi fețele oamenilor pe șabloane video cu femei care își mișcă sânii sau își scutură șoldurile, a constatat Bloomberg. Aplicația, care este evaluată cu "E" pentru Toată lumea, a fost descărcată de peste 1 milion de ori din magazin, unde utilizatorii o puteau găsi tastând "face swap" în bara de căutare.
Okapi Software, compania care oferă Video Face Swap AI, a declarat că a lansat o investigație asupra problemelor ridicate de Bloomberg și a eliminat o parte din conținut, despre care a spus că a fost încărcat de utilizatori.
"Aplicația noastră nu oferă funcționalitatea 'nudify' și nu permitem generarea de conținut nud sau explicit sexual", a spus Okapi. "Luăm în serios siguranța și conformitatea conținutului."
Un cor tot mai mare de autorități de reglementare solicită companiilor să facă mai mult pentru a-și susține politicile. Anul trecut, președintele Donald Trump a semnat Take It Down Act, care incriminează publicarea de conținut sexual non-consensual și obligă rețelele de socializare și site-urile web să elimine astfel de postări." În aprilie, guvernul britanic intenționează să introducă o legislație care ar deschide o cale pentru a urmări în justiție directorii din domeniul tehnologiei ale căror companii nu elimină astfel de imagini.
(Actualizat cu răspunsul Apple la aplicațiile care apar în rezultatele căutării.)