TikTok creează reclame rasiste cu AI pentru jocurile indie, fără permisiune Publicat de Tunic, Night in the Woods.
Night in the Woods, Usual June, printre jocurile afectate.
De Rebekah Valentine Actualizat: 20 Februarie 2026 4:04pm UTC
Finji, editorul de titluri indie îndrăgite, precum Night in the Woods și Tunic, și dezvoltatorul din spatele Overland și Usual June, spune că TikTok a folosit AI generativ pentru a modifica reclamele sale pe platformă fără permisiune și împinge aceste reclame către utilizatorii săi fără știrea Finji, inclusiv o reclamă care a fost modificată pentru a include un stereotip rasist, sexualizat al unuia dintre personajele Finji.
Acest lucru a fost adus pentru prima dată în discuție de CEO-ul și co-fondatorul Finji, Rebekah Saltsman, pe Bluesky, unde a distribuit o captură de ecran a unei postări de pe rețelele sociale de la un alt brand care părea să treacă prin același lucru, și a spus următoarele: „Dacă se întâmplă să vedeți reclame Finji care arată distinct UN-Finji-like, trimiteți-mi o captură de ecran.”
Potrivit lui Saltsman, care a vorbit cu IGN, contul oficial Finji de pe TikTok promovează reclame pentru jocurile sale, dar are „AI dezactivat complet”. Echipa a aflat pentru prima dată că reclamele generative AI erau create fără știrea lor datorită comentariilor de pe rețelele sociale la reclamele reale, obișnuite ale Finji, de la utilizatori îngrijorați de ceea ce vedeau. Saltsman a reușit să obțină capturi de ecran de la membrii publicului care arătau reclamele ofensatoare, ceea ce a determinat-o să escaladeze problema la asistența TikTok.
Reclamele originale în cauză par a fi videoclipuri care promovează jocurile Finji, unul arătând mai multe jocuri și celălalt axat pe Usual June. Versiunile „îmbunătățite” cu AI, care apar pe TikTok ca și cum ar fi postate direct de pe contul oficial Finji, par să constea în prezentări de diapozitive, mai degrabă decât videoclipuri, așa cum indică un număr de comentarii la ambele reclame. Finji a trimis IGN capturi de ecran trimise de spectatori care susțin că au văzut versiunea AI a acestor reclame. În timp ce mai multe dintre imaginile „îmbunătățite” cu AI par să fie relativ needitate în comparație cu omologii lor oficiali, o imagine văzută de IGN este modificată vizibil.
Imaginea ofensatoare prezintă o versiune editată a copertei oficiale, a cărei versiune originală este prezentată mai sus. În versiunea aparent editată de AI, personajul principal June (în centru în imaginea de mai sus) este prezentat singur, dar imaginea se extinde până la gleznele ei. Ea este prezentată cu un slip de bikini, șolduri și coapse incredibil de mari și cizme care se ridică peste genunchi, invocând aparent un stereotip dăunător. Acest lucru este extrem de distinct de reprezentarea reală a lui June în joc:
IGN a vizualizat o conversație între contul oficial Finji și asistența pentru clienți TikTok, inclusiv o parte a discuției în care agentul de asistență pentru clienți a confirmat că Finji a dezactivat opțiunea „Smart Creative” de la TikTok. „Smart Creative” este, în esență, o funcție TikTok care utilizează AI generativ pentru a crea mai multe versiuni ale reclamelor create de utilizatori. Așadar, dacă o companie face reclama A cu imaginea A și textul A și reclama B cu imaginea B și textul B, AI generativ va amesteca și va potrivi aceste combinații diferite pentru a testa care versiuni ale reclamelor funcționează cel mai bine cu utilizatorii, iar apoi va afișa cele mai bune mai frecvent.
Există, de asemenea, o funcție „Automate Creative” care utilizează AI pentru a „optimiza automat” activele, cum ar fi „îmbunătățirea” imaginilor, muzicii, sunetului și a altor lucruri pentru a face o reclamă presupus mai plăcută pentru un public. Saltsman confirmă că Finji are ambele opțiuni dezactivate și a arătat capturi de ecran ale backend-ului TikTok pentru mai multe dintre reclamele în cauză pentru a confirma acest lucru.
Finji spune, de asemenea, că nu poate vizualiza sau edita versiunile generate de AI ale propriilor reclame și este conștient doar de ele prin numeroase comentarii la reclame, precum și de utilizatorii din Discord-ul său oficial care raportează problema și partajează capturi de ecran. Saltsman spune că suspectează că există cel puțin o altă reclamă AI generativă necorespunzătoare care circulă pe baza comentariilor de pe unele dintre reclame cu privire la un alt personaj din Usual June, Frankie, dar nu poate vedea modificările ea însăși și, prin urmare, nu poate confirma.
Saltsman adaugă că de atunci a încheiat campaniile publicitare în cauză, crezând că este singura modalitate de a opri circularea imaginilor aparent modificate de AI. În aceeași conversație de asistență, agentul de asistență TikTok nu a putut găsi o soluție imediată pentru Finji. La un moment dat, agentul sugerează că una dintre reclamele Finji utiliza inadvertent funcția Automate Create, la care Finji răspunde: „Nu am activat niciodată asta” și a cerut agentului să confirme că opțiunea nu era activată pentru reclamele descrise mai sus. Mai târziu, în conversație, agentul a spus: „Verific toate cauzele posibile pentru care se poate întâmpla acest lucru, dar conform verificării, toate setările sunt clare și nu ar trebui să existe conținut generat de AI inclus.” Agentul oferă „să deschidă un tichet” pentru investigații suplimentare, dar a ignorat solicitările repetate ale Finji de a împărtăși un interval de timp pentru când s-ar putea răspunde la tichet.
Cercul de asistență al iadului
De la acest incident, personalul Finji a depus eforturi pentru a urmări și a obține răspunsuri, doar pentru a fi închis de asistența TikTok în mod repetat. Finji a trimis IGN capturi de ecran ale tuturor mesajelor următoare către TikTok și răspunsurile acestora.
Conversația de mai sus a avut loc pe 3 februarie. Pe 6 februarie, după un mesaj de urmărire către asistență de la Finji prin care cerea o actualizare, TikTok Ads Support a răspuns după cum urmează:
După verificarea materialelor creative, nu vedem nicio indicație că sunt utilizate active generate de AI sau formate de prezentare de diapozitive. Ambele reclame sunt confirmate ca materiale creative video provenite direct din Creative Library / postările TikTok și materialele creative apar neschimbate la nivel de reclamă. Nu există nicio dovadă că sistemul a adăugat conținut generat de AI sau active de prezentare de diapozitive auto-asamblate. [Toate accentuările sunt ale TikTok.]
Un reprezentant Finji a răspuns în aceeași zi cu captura de ecran a reclamei ofensatoare (pe care Finji o trimisese deja în timpul solicitării de asistență inițiale) și a cerut TikTok să escaladeze problema, ceea ce a determinat următorul răspuns de la TikTok:
Confirmăm primirea dovezilor pe care le-ați furnizat și înțelegem seriozitatea preocupărilor dumneavoastră. Pe baza materialelor și a contextului pe care le-ați împărtășit, recunoaștem că această situație ridică probleme semnificative, inclusiv utilizarea neautorizată a AI, sexualizarea și prezentarea greșită a personajelor dumneavoastră și prejudiciul comercial și reputațional rezultat adus studioului dumneavoastră. Vrem să fim clari că nu mai contestăm dacă acest lucru s-a întâmplat. Înțelegem că ați furnizat documentație și că comentariile publicului la reclame vă confirmă și mai mult afirmațiile. Această chestiune va fi escaladată imediat pentru o revizuire ulterioară la cel mai înalt nivel adecvat. Inițiem o escaladare internă pentru a ne asigura că această problemă este investigată amănunțit și vom lucra pentru a vă conecta cu un reprezentant senior care are autoritatea de a aborda situația și de a discuta pașii următori către rezolvare.
Pe 10 februarie, neprimind alte răspunsuri și nefiind conectat cu un „reprezentant senior”, Finji a urmărit din nou pentru a întreba unde este tichetul. A primit un mesaj care conținea următoarele:
Înțeleg cât de surprinzător a fost să vedeți conținut generat de AI sau creat automat să apară în reclamele dumneavoastră, mai ales când nu vă așteptați la nicio modificare a materialelor creative. Iată ce s-a întâmplat și de ce ați văzut acele active: Campaniile dumneavoastră au inclus recent o reclamă care a utilizat un format de reclame de catalog conceput pentru a demonstra avantajele de performanță ale combinării activelor de carusel și video în campaniile de vânzări. Aceasta face parte dintr-o inițiativă menită să ajute agenții de publicitate ca dumneavoastră să obțină rezultate mai bune cu mai puțin efort. Campaniile care utilizează aceste active mixte văd de obicei o creștere de 1,4x a ROAS [rentabilitate a cheltuielilor publicitare] și am vrut să ne asigurăm că aveți acces la această potențială îmbunătățire. [Toate accentuările sunt ale TikTok.]
Mesajul de la asistență a continuat să descrie îmbunătățirile revendicate obținute dintr-un format de reclame de catalog, urmat de o ofertă de a solicita să fie adăugat la o „listă de blocare de renunțare”, pentru care aprobarea „nu este garantată”. Finji a răspuns, în mod firesc destul de iritat în acest moment, cerând să știe de ce nu a fost pus în legătură cu un reprezentant senior, de ce nu abordează „reprezentarea SEXUALIZATĂ, RASISTĂ și SEXISTĂ a muncii [studioului]” [accentul Finji], de ce compania nu poate urmări versiunile generate de AI ale reclamelor, de ce a fost optat pentru aceasta fără consimțământul companiei și de ce TikTok nu poate garanta o renunțare.
Tiktok a răspuns din nou, afirmând că cel mai recent răspuns pe care l-a trimis a fost, de fapt, de la echipa sa de escaladare și că Finji nu va fi contactat de un „reprezentant senior” deoarece persoana care vorbește în prezent este „cea mai înaltă echipă internă disponibilă pentru acest tip de problemă”. Reprezentantul a continuat spunând că echipa de escaladare a revizuit deja situația și că „constatările lor au fost incluse în răspunsul anterior” și că feedback-ul „a fost luat în serios”. A spus că Finji a fost inclus în „o inițiativă automatizată mai largă” și a concluzionat că echipa de escaladare „și-a furnizat deja constatările și acțiunile finale cu privire la această chestiune”.
După un alt răspuns de la Finji, reprezentantul TikTok a promis să „re-escaladeze problema intern”, dar aceasta a fost comunicarea finală primită începând cu momentul publicării, chiar și după o altă verificare de la Finji pe 17 februarie.
Când a fost contactat de IGN, TikTok a refuzat să ofere comentarii oficiale.
„Trebuie să recunosc că sunt puțin șocat de lipsa completă de răspuns adecvat a TikTok la mizeria pe care au făcut-o”, a spus Saltsman într-o declarație pentru IGN astăzi. „Este un lucru să ai un algoritm rasist și sexist și un alt lucru să folosești AI pentru a produce conținut al partenerilor tăi de afaceri plătitori și un alt lucru să faci asta împotriva consimțământului lor și apoi să NU răspunzi niciuneia dintre aceste greșeli într-un mod coerent? Serios?
„Ceea ce este cu adevărat uluitor este ceea ce pare a fi un vid profund acolo unde bunul simț și simțul afacerilor locuiesc de obicei. Vrea TikTok să fiu recunoscător pentru maltratarea companiei mele și a jocului nostru? Pe baza răspunsului sălbatic din săptămânile de corespondență cu serviciile pentru clienți pe care le-am primit, cred că aceasta este poziția lor și abordarea tehnologiei și procesului lor evident ofensiv și rasist și modul în care îl folosesc în secret pe activele clienților lor plătitori fără consimțământ sau cunoștințe.
„Acesta este pur și simplu jenant, dar nu pentru mine ca individ. Pentru mine- sunt doar super enervat. Aceasta este munca mea, munca echipei mele și reputația mea și a companiei mele - pe care am petrecut peste un deceniu construind-o. Așteptarea mea a fost o scuză adecvată, schimbări sistemice în modul în care utilizează această tehnologie pentru clienții plătitori și o privire atentă asupra motivului pentru care tehnologia lor este atât de evident rasistă și sexistă. Evident că nu-mi țin respirația pentru niciunul dintre cele de mai sus.”
Rebekah Valentine este reporter senior pentru IGN. Ai un pont de poveste? Trimiteți-l la rvalentine@ign.com.