OpenAI a anunțat joi că a suspendat capacitatea utilizatorilor de a genera videoclipuri care îl înfățișează pe regretatul activist pentru drepturile civile Martin Luther King Jr. folosind modelul său video AI, Sora.
Compania spune că adaugă această protecție la cererea moștenitorilor Dr. King, după ce unii utilizatori Sora au generat „reprezentări lipsite de respect” ale imaginii sale.
„Deși există interese puternice privind libertatea de exprimare în înfățișarea figurilor istorice, OpenAI consideră că figurile publice și familiile lor ar trebui să aibă, în cele din urmă, controlul asupra modului în care este folosită imaginea lor”, a declarat OpenAI într-o postare pe X de pe contul său oficial de știri. „Reprezentanții autorizați sau proprietarii moștenirii pot solicita ca imaginea lor să nu fie folosită în aparițiile Sora.”
Restricția vine la doar câteva săptămâni după ce OpenAI a lansat platforma sa video socială, Sora, care permite utilizatorilor să creeze videoclipuri realiste generate de AI care seamănă cu figuri istorice, prietenii lor și utilizatorii care aleg să li se recreeze imaginea pe platformă.
Lansarea a stârnit o dezbatere publică aprinsă cu privire la pericolele videoclipurilor generate de AI și la modul în care platformele ar trebui să implementeze măsuri de protecție în jurul tehnologiei. Dr. Bernice King, fiica Dr. King, a postat săptămâna trecută pe Instagram, cerând oamenilor să nu-i mai trimită videoclipuri AI care îl înfățișează pe tatăl ei. Ea s-a alăturat fiicei lui Robin Williams, care, de asemenea, a cerut utilizatorilor Sora să nu mai genereze videoclipuri AI cu tatăl ei. The Washington Post a raportat la începutul acestei săptămâni că utilizatorii Sora au creat videoclipuri generate de AI cu Dr. King făcând zgomote de maimuță și luptând cu o altă icoană a drepturilor civile, Malcolm X.
Derulând prin aplicația Sora a OpenAI, este ușor să găsești videoclipuri crude care seamănă cu alte figuri istorice, inclusiv artistul Bob Ross, cântăreața Whitney Houston și fostul președinte John F. Kennedy. Licențiatorul moștenirii Dr. King nu a răspuns imediat solicitării de comentarii a TechCrunch.
Dincolo de modul în care Sora reprezintă oamenii, lansarea a ridicat, de asemenea, o serie de întrebări despre modul în care platformele de social media ar trebui să gestioneze videoclipurile AI cu lucrări protejate de drepturi de autor. Aplicația Sora este, de asemenea, plină de videoclipuri care înfățișează desene animate precum SpongeBob, South Park și Pokémon.
OpenAI a adăugat alte restricții la Sora în săptămânile de la lansare. La începutul lunii octombrie, compania a declarat că intenționează să ofere deținătorilor de drepturi de autor un control mai granular asupra tipurilor de videoclipuri AI care pot fi generate cu imaginea lor. Aceasta ar fi putut fi un răspuns la reacția inițială a Hollywood-ului la Sora, care nu a fost grozavă.
Pe măsură ce OpenAI adaugă restricții la Sora, compania pare să adopte o abordare mai hands-off în moderarea conținutului în ChatGPT. OpenAI a anunțat în această săptămână că va permite utilizatorilor adulți să aibă conversații „erotice” cu ChatGPT în lunile următoare.
Cu Sora, se pare că OpenAI se confruntă cu preocupările care vin odată cu generarea video AI. Unii cercetători OpenAI s-au luptat public cu întrebări despre prima platformă de social media bazată pe AI a companiei în zilele de după lansare și despre modul în care un astfel de produs se încadrează în misiunea organizației non-profit. CEO-ul OpenAI, Sam Altman, a spus că compania a simțit „teamă” cu privire la Sora în ziua lansării.
Nick Turley, șeful ChatGPT, mi-a spus la începutul acestei luni că cea mai bună modalitate de a învăța lumea despre o nouă tehnologie este să o lansezi în lume. El a spus că asta a învățat compania cu ChatGPT și asta găsește și OpenAI cu Sora. Se pare că compania învață ceva despre modul de a distribui această tehnologie.