Recent, am fost în vacanță în Italia. Așa cum se face în zilele noastre, am rulat itinerariul meu prin GPT-5 pentru sugestii de obiective turistice și recomandări de restaurante. Bot-ul a raportat că cea mai bună alegere pentru cină lângă hotelul nostru din Roma era o scurtă plimbare pe Via Margutta. S-a dovedit a fi una dintre cele mai bune mese pe care mi le amintesc.
Când am ajuns acasă, am întrebat modelul cum a ales acel restaurant, pe care ezit să-l dezvălui aici, în cazul în care voi mai dori o masă acolo în viitor (Doamne, cine știe dacă mă voi mai întoarce vreodată: se numește Babette. Sunați din timp pentru rezervări). Răspunsul a fost complex și impresionant. Printre factori s-au numărat recenzii entuziaste din partea localnicilor, anunțuri în bloguri alimentare și presa italiană, precum și combinația celebră a restaurantului de bucătărie romană și contemporană. Ah, și scurta plimbare.
Ceva a fost necesar și din partea mea: încredere. Trebuia să cred în ideea că GPT-5 este un broker onest, alegându-mi restaurantul fără părtinire; că restaurantul nu mi-a fost arătat ca un conținut sponsorizat și nu primea o parte din cecul meu. Aș fi putut face o cercetare profundă pe cont propriu pentru a verifica recomandarea (m-am uitat pe site), dar scopul utilizării AI este de a ocoli această fricțiune.
Experiența mi-a întărit încrederea în rezultatele AI, dar m-a făcut și să mă întreb: pe măsură ce companii precum OpenAI devin mai puternice și pe măsură ce încearcă să-și plătească investitorii, AI va fi predispusă la eroziunea valorii care pare endemică aplicațiilor tehnologice pe care le folosim astăzi?
Scriitorul și criticul tech Cory Doctorow numește această eroziune „enshittification”. Premisa sa este că platforme precum Google, Amazon, Facebook și TikTok încep cu scopul de a mulțumi utilizatorii, dar odată ce companiile își înving concurenții, devin intenționat mai puțin utile pentru a obține profituri mai mari. După ce WIRED a republicat eseul pionieresc al lui Doctorow din 2022 despre fenomen, termenul a intrat în limbajul comun, mai ales pentru că oamenii au recunoscut că a fost total corect. Enshittification a fost ales drept Cuvântul Anului 2023 de Societatea Americană de Dialecte. Conceptul a fost citat atât de des încât transcende vulgaritatea sa, apărând în locuri care în mod normal și-ar ține nasul la un astfel de cuvânt. Doctorow tocmai a publicat o carte omonimă pe această temă; imaginea de pe copertă este emoji-ul pentru… ghici ce.
Dacă chatbot-urile și agenții AI devin enshittified, ar putea fi mai rău decât ca Google Search să devină mai puțin util, ca rezultatele Amazon să fie afectate de reclame și chiar ca Facebook să arate mai puțin conținut social în favoarea clickbait-ului care generează furie. AI este pe o traiectorie de a fi un companion constant, oferind răspunsuri unice la multe dintre solicitările noastre. Oamenii se bazează deja pe el pentru a-i ajuta să interpreteze evenimentele curente și să obțină sfaturi cu privire la tot felul de alegeri de cumpărare - și chiar și alegeri de viață.
Din cauza costurilor masive de creare a unui model AI complet, este corect să presupunem că doar câteva companii vor domina domeniul. Toate intenționează să cheltuie sute de miliarde de dolari în următorii câțiva ani pentru a-și îmbunătăți modelele și a le pune în mâinile a cât mai mulți oameni posibil. În acest moment, aș spune că AI este în ceea ce Doctorow numește faza „bună pentru utilizatori”. Dar presiunea de a recupera investițiile masive de capital va fi enormă – mai ales pentru companiile a căror bază de utilizatori este blocată. Aceste condiții, după cum scrie Doctorow, permit companiilor să-și abuzeze utilizatorii și clienții de afaceri „pentru a recupera toată valoarea pentru ei înșiși”.
Când cineva își imaginează enshittification-ul AI, primul lucru care îmi vine în minte este publicitatea. Coșmarul este că modelele AI vor face recomandări pe baza companiilor care au plătit pentru plasare. Asta nu se întâmplă acum, dar firmele AI explorează activ spațiul publicitar. Într-un interviu recent, CEO-ul OpenAI, Sam Altman, a spus: „Cred că probabil există un produs publicitar cool pe care îl putem face, care este un câștig net pentru utilizator și un fel de pozitiv pentru relația noastră cu utilizatorul”. Între timp, OpenAI tocmai a anunțat un acord cu Walmart, astfel încât clienții retailerului să poată face cumpărături în interiorul aplicației ChatGPT. Nu-mi pot imagina un conflict acolo! Platforma de căutare AI Perplexity are un program în care rezultatele sponsorizate apar în urmări clar etichetate. Dar, promite, „aceste reclame nu ne vor schimba angajamentul de a menține un serviciu de încredere care vă oferă răspunsuri directe și imparțiale la întrebările dumneavoastră”. Vor rezista aceste granițe? Purtătorul de cuvânt al Perplexity, Jesse Dwyer, îmi spune: „Pentru noi, garanția numărul unu este că nu o vom lăsa să se întâmple”. Și la recenta zi a dezvoltatorului OpenAI, Altman a spus că compania este „hiper conștientă de necesitatea de a fi foarte atenți” în a-și servi utilizatorii, mai degrabă decât a se servi pe sine.
Doctrina Doctorow nu acordă prea multă încredere unor astfel de declarații: „Odată ce o companie își poate enshittifica produsele, se va confrunta cu tentația perenă de a-și enshittifica produsele”, scrie el în cartea sa. Punerea de reclame în conversațiile chatbot-urilor sau în rezultatele căutărilor nu este singura modalitate prin care AI poate deveni enshittified. Doctorow citează exemple în care companiile, odată ce domină o piață, își schimbă modelul de afaceri și taxele. De exemplu, în 2023, Unity, cel mai popular furnizor de instrumente de dezvoltare a jocurilor video, a decis să perceapă o nouă „taxă de runtime”. Această abatere a fost atât de flagrantă încât utilizatorii s-au revoltat și au anulat taxa. Dar uitați-vă la ce s-a întâmplat cu serviciile de streaming precum Amazon Prime Video: era un serviciu fără reclame. Acum te pune să te uiți la reclame înainte și în timpul filmului. Trebuie să plătiți pentru a le dezactiva. Oh, și prețul Amazon Prime continuă să crească. Deci, ar putea fi o practică standard a marilor companii tehnologice să blocheze utilizatorii într-un serviciu și apoi să perceapă taxe din ce în ce mai mari. S-ar putea chiar ca, pentru a menține același nivel de inteligență în rezultatele unui chatbot, utilizatorii să fie nevoiți într-o zi să facă upgrade la un nivel mai înalt, chiar mai scump – un alt truc de enshittificare. Poate că companiile care odată au promis că activitățile dumneavoastră cu chatbot-ul nu vor fi folosite pentru a antrena modelele viitoare se vor răzgândi în privința asta – pur și simplu pentru că pot scăpa basma curată.
Doctorow nu a abordat AI în cartea sa, așa că l-am sunat pentru a vedea dacă crede că categoria este destinată să călătorească pe aleea defecării. M-am așteptat să contureze diferitele moduri în care companiile AI vor cădea pradă sindromului său urât mirositor. Spre surprinderea mea, el a avut o altă perspectivă. Nu este un fan al AI și susține că domeniul nici măcar nu a ajuns la etapa „bună pentru utilizatori” pe care am subliniat-o mai devreme. Cu toate acestea, spune el, s-ar putea ca procesul de enshittification să se întâmple oricum. Pentru că este atât de greu de văzut ce se întâmplă în interiorul „cutiilor negre” ale LLM-urilor, spune el, „au o capacitate de a-și deghiza enshittificarea într-un mod care le-ar permite să scape cu o cantitate îngrozitoare”. Mai presus de toate, spune el, „economia teribilă” a domeniului cere ca companiile să nu-și permită să aștepte și vor enshittifica chiar înainte de a oferi valoare. „Cred că vor încerca orice gambit transpirat pe care ți-l poți imagina pe măsură ce economia se învârte în chiuvetă”, a spus el.
Nu sunt de acord cu Doctorow cu privire la valoarea AI. Hei, mi-a găsit Babette! Dar mă tem că tehnologia ar putea fi predispusă la procesul de enshittificare pe care l-a identificat infailibil la giganții tehnologici actuali. Și ghici ce – GPT-5 este de acord cu mine. Când am adresat întrebarea chatbot-ului, acesta a răspuns: „Cadrul de „enshittificare” al lui Doctorow (platformele încep bine pentru utilizatori, apoi schimbă valoarea către clienții de afaceri, apoi o extrag pentru ei înșiși) se potrivește în mod tulburător cu sistemele AI dacă stimulentele nu sunt verificate”. GPT-5 a continuat apoi să prezinte o serie de metode prin care companiile AI ar putea degrada produsele lor pentru profit și putere. Companiile AI ne-ar putea asigura că nu vor enshittifica. Dar propriile lor produse au scris deja planul.