YouTube extinde detectarea deepfake-urilor AI pentru politicieni, oficiali guvernamentali și jurnaliști
YouTube își extinde tehnologia de detectare a similarităților, care identifică deepfake-urile generate de AI, la un grup pilot de oficiali guvernamentali, candidați politici și jurnaliști, a anunțat compania marți. Membrii grupului pilot vor obține acces la un instrument care detectează conținutul generat de AI neautorizat și le permite să solicite eliminarea acestuia dacă consideră că încalcă politica YouTube.
Tehnologia în sine a fost lansată anul trecut pentru aproximativ 4 milioane de creatori YouTube din Programul de parteneriat YouTube, în urma testelor anterioare. Similar cu sistemul existent Content ID de la YouTube, care detectează materialele protejate de drepturi de autor în videoclipurile încărcate de utilizatori, funcția de detectare a similarităților caută fețe simulate realizate cu instrumente AI. Aceste instrumente sunt uneori folosite pentru a încerca să răspândească dezinformarea și să manipuleze percepția oamenilor asupra realității, deoarece utilizează personajele deepfake ale unor figuri notabile - cum ar fi politicieni sau alți oficiali guvernamentali - pentru a spune și a face lucruri în aceste videoclipuri AI pe care nu le-au făcut în viața reală.
Cu noul program pilot, YouTube își propune să echilibreze libertatea de exprimare a utilizatorilor cu riscurile asociate cu tehnologia AI care poate genera o similaritate convingătoare a unei persoane publice.
"Această extindere se referă cu adevărat la integritatea conversației publice", a declarat Leslie Miller, vicepreședintele YouTube pentru afaceri guvernamentale și politici publice, într-o conferință de presă înaintea lansării de marți. "Știm că riscurile de impersonare AI sunt deosebit de mari pentru cei din spațiul civic. Dar, în timp ce oferim acest nou scut, suntem, de asemenea, atenți la modul în care îl folosim", a menționat ea.
Miller a explicat că nu toate potrivirile detectate vor fi eliminate la cerere. În schimb, YouTube va evalua fiecare solicitare conform liniilor directoare ale politicii sale de confidențialitate existente pentru a determina dacă conținutul este parodie sau critică politică, care sunt forme protejate de libertate de exprimare. Compania a menționat că susține aceste protecții și la nivel federal, cu sprijinul său pentru Legea NO FAKES din D.C., care ar reglementa utilizarea AI pentru a crea recreări neautorizate ale vocii și similarității vizuale a unui individ.
Pentru a utiliza noul instrument, testerii piloți eligibili trebuie mai întâi să își dovedească identitatea prin încărcarea unui selfie și a unui act de identitate guvernamental. Apoi, ei pot crea un profil, pot vizualiza potrivirile care apar și pot solicita opțional eliminarea acestora. YouTube spune că intenționează să ofere în cele din urmă oamenilor posibilitatea de a preveni încărcarea conținutului care încalcă regulile înainte ca acesta să fie publicat sau, eventual, să le permită să monetizeze acele videoclipuri, similar cu modul în care funcționează sistemul său Content ID.
Compania nu a confirmat care politicieni sau oficiali se vor număra printre testerii săi inițiali, dar a spus că scopul este de a face tehnologia disponibilă pe scară largă în timp.
Aceste videoclipuri AI vor fi etichetate ca atare, dar plasarea acestor etichete nu este consecventă. Pentru unele, eticheta apare în descrierea videoclipului, în timp ce videoclipurile axate pe "subiecte mai sensibile" vor aplica eticheta în partea din față a videoclipului. Aceasta este aceeași abordare pe care o adoptă YouTube cu tot conținutul generat de AI.
"Există o mulțime de conținut care este produs cu AI, dar această distincție nu este de fapt materială pentru conținutul în sine", a explicat Amjad Hanif, vicepreședintele YouTube pentru produse pentru creatori, cu privire la plasarea etichetei. "Ar putea fi un desen animat generat cu AI. Și, prin urmare, cred că există o judecată cu privire la faptul dacă este o categorie care merită poate o declinare a răspunderii foarte vizibilă", a spus el.
YouTube nu împărtășește în prezent câte eliminări de acest gen de deepfake-uri AI au fost gestionate de această tehnologie de detectare a deepfake-urilor în mâinile creatorilor, dar a menționat că cantitatea de conținut eliminată până acum a fost "foarte mică".
"Cred că pentru mulți [creatori], a fost doar conștientizarea a ceea ce este creat, dar volumul cererilor de eliminare este foarte, foarte scăzut, deoarece cea mai mare parte se dovedește a fi destul de benignă sau aditivă pentru afacerea lor generală", a spus Hanif.
Este posibil ca acest lucru să nu fie cazul deepfake-urilor cu oficiali guvernamentali, politicieni sau jurnaliști. În timp, YouTube intenționează să aducă tehnologia sa de detectare a deepfake-urilor în mai multe domenii, inclusiv voci vorbite recunoscute și alte proprietăți intelectuale, cum ar fi personajele populare.