Inteligența Artificială Nu Va Fi Niciodată Conștientă
În noua sa carte, *A World Appears*, Michael Pollan argumentează că inteligența artificială poate face multe lucruri – pur și simplu nu poate fi o persoană.
Incidentul Blake Lemoine este amintit astăzi ca un punct culminant al hype-ului IA. A aruncat întreaga idee a IA conștiente în atenția publicului pentru un ciclu de știri sau două, dar a lansat și o conversație, atât printre oamenii de știință din domeniul calculatoarelor, cât și printre cercetătorii conștiinței, care s-a intensificat doar în anii de atunci. În timp ce comunitatea tehnologică continuă să minimalizeze public ideea (și pe sărmanul Lemoine), în privat a început să ia posibilitatea mult mai în serios. O IA conștientă ar putea să nu aibă o justificare comercială clară (cum monetizezi chestia asta?) și să creeze dileme morale delicate (cum ar trebui să tratăm o mașină capabilă să sufere?). Cu toate acestea, unii ingineri IA au ajuns să creadă că Sfântul Graal al inteligenței artificiale generale – o mașină care nu este doar super inteligentă, ci și înzestrată cu un nivel uman de înțelegere, creativitate și bun simț – ar putea necesita ceva de genul conștiinței pentru a fi atins.
Punctul de cotitură a venit în vara anului 2023, când un grup de 19 oameni de știință și filozofi de top în domeniul calculatoarelor au publicat un raport de 88 de pagini intitulat „Conștiința în inteligența artificială”, cunoscut informal sub numele de raportul Butlin. În câteva zile, se părea, toată lumea din comunitatea IA și a științei conștiinței îl citise. Abstractul proiectului de raport oferea această propoziție captivantă: „Analiza noastră sugerează că niciun sistem IA actual nu este conștient, dar sugerează și că nu există bariere evidente în construirea sistemelor IA conștiente.” Autorii au recunoscut că o parte din inspirația din spatele convocării grupului și a scrierii raportului a fost „cazul lui Blake Lemoine”. „Dacă IA-urile pot da impresia de conștiință”, a declarat un coautor pentru revista Science, „asta face din ea o prioritate urgentă pentru oamenii de știință și filozofi să intervină.” Dar ceea ce a atras atenția tuturor a fost acea singură afirmație din abstractul preprintului: „nu există bariere evidente în construirea sistemelor IA conștiente.”
Când am citit acele cuvinte pentru prima dată, am simțit că a fost depășit un prag important și nu era doar unul tehnologic. Nu, asta avea de-a face cu identitatea noastră ca specie. Ce ar însemna pentru umanitate să descopere într-o zi, în viitorul nu atât de îndepărtat, că o mașină pe deplin conștientă a venit pe lume? Presupun că ar fi un moment copernican, care ne-ar disloca brusc simțul centralității și al unicității. Noi, oamenii, am petrecut câteva mii de ani definindu-ne în opoziție cu animalele „inferioare”. Aceasta a implicat negarea animalelor a unor trăsături presupuse unice umane, cum ar fi sentimentele (una dintre cele mai flagrante erori ale lui Descartes), limbajul, rațiunea și conștiința. În ultimii câțiva ani, majoritatea acestor distincții s-au dezintegrat, deoarece oamenii de știință au demonstrat că o mulțime de specii sunt inteligente și conștiente, au sentimente și folosesc limbajul și instrumentele, contestând în acest proces secole de excepționalism uman.
Cu IA, amenințarea la adresa concepției noastre exaltate despre sine vine dintr-un cu totul alt sector. Acum, noi, oamenii, va trebui să ne definim în raport cu IA-urile, mai degrabă decât cu alte animale. Pe măsură ce algoritmii informatici ne depășesc în putere pură a creierului – bătându-ne cu ușurință la jocuri precum șahul și Go și diverse forme de gândire „superioară”, cum ar fi matematica – ne putem consola cel puțin cu faptul că noi (și multe alte specii de animale) avem încă pentru noi înșine binecuvântările și poverile conștiinței, capacitatea de a simți și de a avea experiențe subiective. În acest sens, IA poate servi drept adversar comun, apropiind oamenii și alte animale: noi împotriva lui, cei vii versus mașinile. Această nouă solidaritate ar face o poveste emoționantă și ar putea fi o veste bună pentru animalele invitate să se alăture echipei Conștiente. Dar ce se întâmplă dacă IA începe să conteste monopolul uman – sau animal, ar trebui să spun – asupra conștiinței? Cine vom fi atunci?
Ca umanist, mă lupt cu posibilitatea ca monopolul animalelor asupra conștiinței să poată cădea. Dar acum am întâlnit alte tipuri de oameni (unii dintre ei numindu-se transhumaniști) care sunt mai optimiști cu privire la acest viitor. Unii cercetători în IA susțin efortul de a construi mașini conștiente, deoarece, ca entități cu sentimente proprii, mașinile conștiente sunt mai susceptibile de a dezvolta empatie decât computerele care sunt doar inteligente. Construirea unei IA conștiente este un imperativ moral.
Raportul Butlin reprezintă un punct de vedere de consens în domeniu; majoritatea oamenilor de știință din domeniul calculatoarelor pe care i-am intervievat au susținut concluziile sale. Cu toate acestea, cu cât am petrecut mai mult timp citindu-l (și intervievând unul dintre coautorii săi), cu atât am început să pun la îndoială concluzia că conștiința artificială este chiar după colț.
Pentru scopurile raportului, „substratul material” al sistemului – adică, dacă este un creier sau un computer – „nu contează pentru conștiință ... Poate exista în mai multe substraturi, nu doar în creierele biologice.” Orice substrat care poate rula algoritmul necesar va face. „Presupunem provizoriu că computerele, așa cum le cunoaștem, sunt, în principiu, capabile să implementeze algoritmi suficienți pentru conștiință”, afirmă autorii, „dar nu pretindem că acest lucru este sigur.” Recunoașterea incertitudinii nu merge suficient de departe. Necunoscut în raport este metafora că creierele sunt computere – hardware-ul pe care rulează software-ul conștiinței.
Doar despre orice loc în care apăsați, metafora computer-ca-creier se defectează. Oamenii de știință din domeniul calculatoarelor tratează neuronii dintr-un creier ca și cum ar fi tranzistori pe un cip, porniți sau opriți de impulsuri de electricitate. Această analogie are un oarecare adevăr, dar este complicată de faptul că electricitatea nu este singurul factor care influențează activarea neuronilor.
Comparativ cu tranzistoarele de pe un cip, neuronii din creier sunt interconectați masiv, fiecare comunicând direct cu până la 10.000 alții într-o rețea atât de complicată încât suntem încă la zeci de ani distanță de a putea trasa chiar și cea mai crudă hartă a conexiunilor sale.
Există un al doilea aspect al raportului care mă face să mă întreb cât de serios să iau concluzia sa și anume standardul pe care îl propune pentru a decide dacă o IA este de fapt conștientă sau nu.
Până la sfârșitul digerării raportului Butlin, momentul copernican de care mă îngrijorasem părea mai îndepărtat decât mă făcuse să cred concluzia îndrăzneață a raportului. După ce am revizuit cele aproximativ șase teorii ale conștiinței acoperite de raport, părea clar că toate au măsluit cărțile luând de la sine înțeles că conștiința ar putea fi redusă la un fel de algoritm. Am fost, de asemenea, izbit de ceea ce lipsea din teoriile luate în considerare. Niciuna dintre ele nu avea nimic de spus despre întrupare – ideea că conștiința ar putea depinde de faptul că are atât un corp, cât și un creier – sau, de altfel, orice lucru biologic. Nici teoriile nu au avut nimic de spus despre subiectul conștient. Cine sau ce, exact, este destinatarul informațiilor care sunt difuzate în spațiul de lucru global? Sau informațiile care sunt integrate în teoria informației integrate (IIT)? Și ce zici de rolul sentimentelor în redarea conștientă a experienței?
„Orice entitate care este capabilă de suferință conștientă merită o considerație morală”, se arată în raport. (Dar nu este suferința întotdeauna conștientă?) „Aceasta înseamnă că, dacă nu reușim să recunoaștem conștiința sistemelor IA conștiente”, a continuat raportul, „putem risca să provocăm sau să permitem daune semnificative din punct de vedere moral”. Ce am datora mașinilor care pot suferi? Și chiar vrem să aducem mai multă suferință în lume? În afară de acest tip de discuție extrem de speculativă despre sentimente (ca un produs secundar supărător al conștientizării mașinilor), în comunitatea IA, conversația despre conștiință este la fel de implacabil abstractă – pe cât de lipsită de sânge, lipsită de corp și complet uitucă de biologie – pe cât s-ar aștepta cineva.
Adaptat din *A World Appears: A Journey into Consciousness* de Michael Pollan. Copyright ©2026 de Michael Pollan. Publicat prin aranjament cu Penguin Press, o amprentă a Penguin Publishing Group, o divizie a Penguin Random House LLC.