Adevărații Pierzători ai Procesului Musk v. Altman
Avocații au prezentat joi argumentele finale în procesul Musk v. Altman, într-o încercare finală de a convinge un judecător și un juriu că clienții lor, Elon Musk și Sam Altman, sunt cei mai bine intenționați și sinceri administratori ai misiunii nonprofit fondatoare a OpenAI. O sentință ar putea fi pronunțată chiar săptămâna viitoare, punând capăt unei bătălii de un deceniu între doi dintre cei mai influenți antreprenori din industria tehnologiei. Dar, indiferent de rezultat, există o gamă largă de pierzători în acest caz. Pe baza unei cantități mari de dovezi, se pare că cei mai afectați sunt angajații, factorii de decizie politică și membrii publicului care au crezut în misiunea unui laborator de cercetare nonprofit – și au sprijinit OpenAI din acest motiv. Ceea ce părea să aibă prioritate pentru Musk și ceilalți cofondatori ai OpenAI, aproape în fiecare moment, a fost construirea celui mai important laborator de IA din lume – chiar dacă asta însemna crearea unei companii cu scop lucrativ de miliarde de dolari în acest proces.
„Este greu de văzut cum interesul public este protejat de oricare dintre aceste părți și asta este, de fapt, ceea ce este în joc într-un caz despre o organizație nonprofit”, spune Jill Horwitz, profesor de drept la Northwestern University, cu expertiză în organizații nonprofit și inovare, care a ascultat argumentele finale. „Interesul public în organizația nonprofit este în pericol, indiferent cine câștigă.”
Misiunea declarată a OpenAI este de a se asigura că inteligența artificială generală (AGI) aduce beneficii umanității, dar umanitatea nu este parte în acest caz. În practică, OpenAI a petrecut ultimul deceniu încercând să rivalizeze cu companii de trilioane de dolari, precum Google, și să construiască AGI prima. În plus, Musk și Altman s-au luptat din greu pentru a fi cei care controlează OpenAI.
„Musk și Altman sunt practic blocați într-o cursă pentru a fi primii care construiesc superinteligența și amândoi se tem pe bună dreptate de ceea ce va face celălalt dacă vor câștiga. Restul dintre noi ar trebui să se teamă de amândoi”, spune Daniel Kokotajlo, un fost cercetător OpenAI care s-a alăturat în 2022 și și-a exprimat îngrijorări cu privire la cultura de siguranță a companiei. El a făcut parte dintr-un grup de foști cercetători OpenAI care au depus o notă amicus în acest caz împotriva conversiei cu scop lucrativ a OpenAI, argumentând că structura nonprofit a fost esențială în decizia lor de a se alătura companiei.
În proces, organizația nonprofit OpenAI a fost discutată ca și cum ar fi fost încă un investitor corporativ. Avocații OpenAI au argumentat că acordarea către organizația nonprofit a unei participații de 200 de miliarde de dolari în compania cu scop lucrativ este o dovadă că OpenAI își îndeplinește misiunea. Grupurile de advocacy public nu sunt de acord că finanțarea singură este suficientă. „Mă număr printre mulți oameni care se bucură să vadă câte resurse filantropice are la dispoziție fundația OpenAI pentru a face o treabă bună”, spune Nathan Calvin, vicepreședinte pentru afaceri de stat al organizației nonprofit pentru siguranța IA Encode, care a depus o notă amicus împotriva restructurării OpenAI mai devreme în acest caz. „Dar merită să ne amintim că organizația nonprofit are și un rol de guvernanță și că misiunea organizației nonprofit nu este cea a unei fundații tipice, ci anume de a se asigura că AGI aduce beneficii întregii umanități. Banii sunt importanți pentru acest obiectiv și sunt utili cu toate celelalte egale, dar nu sunt scopul în sine.”
**Originea**
Dovezile dezvăluite în acest caz sugerează că Altman și Musk au fost de acord cu lansarea OpenAI ca organizație nonprofit și funcționarea similară cu un startup tipic. Ei au împărtășit obiectivul de a învinge Google DeepMind în cursa pentru AGI. Dar crearea OpenAI ca organizație nonprofit s-a dovedit a fi un mijloc oribil de incomod pentru a câștiga acea cursă.
Musk l-a acuzat pe Altman, CEO-ul OpenAI, și pe Greg Brockman, cofondatorul și președintele său, că s-au îndepărtat de misiunea fondatoare a organizației nonprofit. El susține că fondatorii au folosit investiția sa de 38 de milioane de dolari pentru a transforma OpenAI într-o companie de 850 de miliarde de dolari și pentru a face câțiva dintre cofondatorii săi miliardari. Pentru a câștiga acest caz, Musk trebuie să convingă un juriu și un judecător că a atașat anumite condiții investiției sale, în special că OpenAI ar putea folosi banii doar în scopuri caritabile și că a depus cazul în timp util.
Ca răspuns, OpenAI a argumentat că Musk nu a reușit să dovedească niciuna dintre aceste acuzații și că pur și simplu are regrete că a pierdut controlul asupra laboratorului de IA. Într-unul dintre primele e-mailuri pe care Altman le-a trimis lui Musk despre înființarea „unui fel de organizație nonprofit” care a devenit în cele din urmă OpenAI, în mai 2015, el a scris că persoanele care lucrează la ea vor primi „o compensație de tip startup”. Musk a spus că „merită o conversație”. Practic, nimic din ceea ce a fost prezentat la proces nu a explicat ce plănuiau partenerii de afaceri să facă dacă organizația nonprofit ajungea cu mai mulți bani decât avea nevoie. Au existat unele discuții despre open-sourcing-ul tehnologiei, dar avocații OpenAI au argumentat că nu a existat niciodată niciun acord în acest sens. În practică, accentul părea să fie pus pe cumpărarea de servere scumpe pentru a genera modele de IA mai puternice, deși cu cercetări semnificative în dezvoltarea de garanții în jurul lor.
În argumentul ei final, avocata OpenAI, Sarah Eddy, a spus că a fost în esență „necontestat” printre cofondatori că în cele din urmă vor avea nevoie de mai mulți bani decât ar putea spera vreodată să strângă prin donații singure. Ea a citat mărturia lui Ilya Sutskever conform căreia „misiunea OpenAI este mai mare decât o structură”. Eddy a continuat spunând că, dacă OpenAI nu ar fi obținut fondurile de care avea nevoie, misiunea s-ar fi prăbușit.
Cofondatorii OpenAI au spus în mod repetat, în e-mailuri și mărturii, că au beneficiat de structura și misiunea nonprofit. Ei au argumentat că a dat OpenAI „un avantaj moral înalt”, care s-ar dovedi valoros din punct de vedere strategic în căutarea sa de a depăși Google DeepMind. Misiunea nonprofit a fost folosită pentru a atrage talente de cercetare, precum și pentru a câștiga bunăvoința factorilor de decizie politică și a publicului. Dar, de-a lungul istoriei OpenAI, structura nonprofit a fost aparent văzută ca un obstacol în calea transformării OpenAI într-o afacere masivă.
În decembrie 2016, Musk a scris un e-mail cofondatorilor OpenAI spunând că înființarea OpenAI „ca organizație nonprofit ar putea, retrospectiv, să fi fost mișcarea greșită”, adăugând că „sentimentul de urgență nu este atât de mare”. În anul următor, Musk și cofondatorii au încercat să creeze o ramură cu scop lucrativ și chiar s-au gândit să renunțe complet la organizația nonprofit. Cu toate acestea, discuțiile s-au întrerupt după ce Musk a solicitat controlul asupra companiei, iar Brockman și Sutskever au cerut participații mari la capitalul propriu. În jurul acestei perioade, Brockman a scris în jurnalul său despre modul în care OpenAI l-ar putea face miliardar.
La scurt timp după aceste discuții, în februarie 2018, Musk a sugerat includerea OpenAI în Tesla – compania sa de automobile cu scop lucrativ – și chiar a încercat să-l recruteze pe Altman pentru a conduce unitatea de IA, oferindu-i un loc în consiliul de administrație Tesla pentru a-l ademeni. Shivon Zilis, adjunctul lui Musk și mama a patru dintre copiii săi, a scris în mesaje text la momentul respectiv că Altman și Brockman nu au „internalizat avantajele îngropării acestui lucru în Tesla pentru un avantaj stealth”. Într-o FAQ pe care Zilis a scris-o pentru grupul propus Tesla AI, ea a spus că strategia sa nu a fost stabilită, dar că „ar putea fi profund proprietară”.
Kevin Scott, directorul tehnologic al Microsoft, s-a întrebat în jurul acelei perioade dacă donatorii timpurii OpenAI, cum ar fi investitorul tehnologic Reid Hoffman, erau de acord cu faptul că OpenAI devine în esență o companie cu scop lucrativ. „Nu-mi pot imagina că au finanțat un efort deschis de a concentra talentul [de învățare automată], astfel încât să poată construi apoi un lucru închis, cu scop lucrativ, pe spatele lui”, a scris el într-un e-mail către șeful său. Hoffman a transmis că nu-l deranjează, iar Microsoft a fost de acord mai târziu să-și aprofundeze sprijinul financiar și tehnic pentru OpenAI după ce a lansat o ramură cu scop lucrativ.
În timpul îndepărtării scurte a lui Altman de la OpenAI în noiembrie 2023, care a fost rehashed ad nauseum în acest proces, mesajele text arată că Altman și CEO-ul Microsoft, Satya Nadella, au ales manual noi membri ai consiliului de administrație nonprofit. Altman le-a prezentat acestora foștilor membri ai consiliului, care l-au concediat, ca condiții în care s-ar întoarce la companie. „Am fost dispus să alerg înapoi într-o clădire în flăcări”, a spus Altman.
William Savitt, un avocat al OpenAI, a subliniat joi că nicio altă companie de IA din lume nu se află sub o organizație nonprofit. „OpenAI rămâne o organizație de caritate... mai puternică ca niciodată”, a spus el.
În ciuda structurii unice a OpenAI, aceasta este afectată de capcanele oricărui gigant tehnologic. În mai multe procese de la utilizatorii ChatGPT și familiile lor, OpenAI a fost acuzată de neglijență și moarte wrongful pentru că ar fi contribuit la o sinucidere, o supradoză de droguri, un atac armat în masă și alte incidente mortale. Luna trecută, OpenAI a susținut un proiect de lege din Illinois care ar ajuta laboratoarele de IA să evite răspunderea dacă modelele lor contribuie la dezastrele societale (un rival, Anthropic, s-a opus). Companiile media au dat în judecată OpenAI pentru încălcarea drepturilor de autor. Angajații actuali și foști susțin că unitatea de cercetare economică a OpenAI s-a transformat într-o ramură de advocacy pentru companie.
OpenAI și-a apărat activitatea, lansând noi inițiative pentru a aborda impactul societal al IA și introducând garanții pentru a atenua pericolele modelelor IA. Google DeepMind, Meta și alți concurenți se confruntă cu multe dintre aceleași acuzații. De fapt, OpenAI este din ce în ce mai greu de distins de acele companii profitabile, tranzacționate public, pe măsură ce continuă să urmărească evaluări din ce în ce mai înalte. Organizația nonprofit a lustruit odată imaginea publică a OpenAI, dar Musk v. Altman pare să fi îndepărtat totul, cu excepția ultimului.