Grammarly Oferă Recenzii AI 'Expert' de la Autorii Tăi Preferati – Morți sau Vii
Instrumentul, oferit de compania recent redenumită Superhuman, oferă feedback bazat pe munca scriitorilor celebri, morți și vii – fără permisiunea lor.
Ai amintiri plăcute despre faptul că erai preferatul profesorului? Ți-ai dori să mai primești notițe de la profesorul tău preferat de la facultate? Visezi la o voce implacabilă a autorității care îți corectează fiecare alegere de cuvinte și semn de punctuație?
Ei bine, avem vești grozave: o anumită companie de software a conceput o modalitate de a simula critica nu doar de la autorii de succes și academicienii faimoși ai timpului nostru, ci și de la mulți care au murit cu zeci de ani în urmă – și compania, evident, nu a avut nevoie de permisiunea nimănui pentru a face acest lucru.
Odată folosit doar pentru a corecta gramatica și ortografia, instrumentul de scriere Grammarly a adăugat o serie de funcții generative AI în ultimii ani. În octombrie, CEO-ul Shishir Mehrotra a anunțat că întreaga companie se redenumește Superhuman pentru a reflecta o nouă suită de produse bazate pe inteligență artificială. Cu toate acestea, „partenerul” de scriere AI rămâne numit Grammarly.
„Când tehnologia funcționează peste tot, începe să se simtă obișnuită”, a scris Mehrotra în comunicatul său de presă. „Și asta înseamnă de obicei că se întâmplă ceva extraordinar sub capotă.”
Platforma extinsă Grammarly oferă acum o soluție AI pentru fiecare nevoie imaginabilă – și pentru unele pe care probabil că nu le-ai avut niciodată. Există un chatbot AI care va răspunde la întrebări specifice pe măsură ce compui o schiță, o funcție de „parafrazare” care sugerează modificări de stil, un „umanizator” care revizuiește în funcție de o voce selectată, un grader AI care prezice modul în care documentul tău ar obține un scor ca lucrare de curs universitar și chiar instrumente pentru semnalizarea și ajustarea frazelor produse frecvent de modelele lingvistice mari. (Sigur, folosești AI pentru a face totul aici, dar nu vrei să sune așa.)
Poate cel mai insidios, însă, Grammarly are acum o opțiune de „recenzie expert” care, în loc să producă ceea ce arată ca o critică generică de la un LLM anonim, enumeră o serie de academicieni și autori reali disponibili pentru a se pronunța asupra textului tău. Pentru a fi clar: acei oameni nu au nimic de-a face cu acest proces. După cum clarifică o declinare a răspunderii: „Referințele la experți din acest produs sunt doar în scop informativ și nu indică nicio afiliere cu Grammarly sau aprobarea acestor persoane sau entități.”
După cum se menționează pe o pagină de asistență, utilizatorii Grammarly pot solicita sfaturi de la versiuni virtuale ale scriitorilor și savanților în viață, cum ar fi Stephen King și Neil deGrasse Tyson (niciunul dintre ei nu a răspuns unei solicitări de comentarii), precum și de la cei decedați, cum ar fi editorul William Zinsser și astronomul Carl Sagan. Presupunând, acești diferiți agenți AI sunt antrenați pe operele oamenilor pe care sunt menite să îi imite, deși legalitatea acestei recoltări de conținut rămâne cel mult neclară și subiectul multor, multe procese de încălcare a drepturilor de autor.
„Agentul nostru de revizuire expert analizează scrierea la care lucrează un utilizator, fie că este vorba de un brief de marketing sau de un proiect studențesc despre biodiversitate, și folosește LLM-ul nostru de bază pentru a scoate la iveală conținut expert care poate ajuta autorul documentului să-și modeleze munca”, spune Jen Dakin, senior manager de comunicații la Superhuman. „Experții sugerați depind de substanța scrierii evaluate. Agentul de revizuire expert nu pretinde aprobarea sau participarea directă din partea acelor experți; oferă sugestii inspirate de lucrările experților și îndreaptă utilizatorii către voci influente a căror erudiție o pot explora apoi mai profund.”
Cineva ca King ar putea vedea avansul AI ca fiind de neoprit și ar putea să nu mai rămână nimeni să apere manualul lui Zinsser din 1976 On Writing Well de vulturii mari din domeniul tehnologiei, dar ce se întâmplă cu nenumărații alți luminari care încă doresc să-și păstreze materialul de a fi comprimat într-un algoritm?
Vanessa Heggie, profesor asociat de istorie a științei și medicinei la Universitatea din Birmingham, a apelat recent la LinkedIn pentru a împărtăși un exemplu deosebit de sumbru despre modul în care funcționează funcția, acuzând Superhuman de „crearea de LLM-uri mici” bazate pe „munca răzuita” a celor vii și morți deopotrivă, tranzacționând cu „numele și reputația lor”. Captura de ecran pe care a postat-o a arătat disponibilitatea analizei de la un agent AI modelat după David Abulafia, un istoric englez al perioadelor medievale și renascentiste care a murit în ianuarie. „Obscen”, a scris Heggie.
O revizuire independentă a instrumentului Expert Review de către WIRED a reprodus recomandările pentru feedback de la botul Abulafia, precum și de la modele bazate pe oamenii de știință cognitiviști în viață Steven Pinker și Gary Marcus. (Niciunul nu a returnat o solicitare de comentarii.) Pe măsură ce software-ul a procesat textul eșantion, a remarcat că se inspira din autorul Elements of Style, William Strunk Jr., și sociologul Pierre Bourdieu, în timp ce aplica „idei” de la autorul Gone With the Wind, Margaret Mitchell, și folosea „concepte” de la scriitorul și profesorul Virginia Tufte – toți morți, Tufte murind cel mai recent, în martie 2020. Ghidul de la agentul ei AI spunea: „Înlocuiește repetarea cu modele de propoziții vii, variate.”
C.E. Aubin, istoric și bursier postdoctoral la Universitatea Yale, care a distribuit postarea LinkedIn a lui Heggie pe Bluesky, spune pentru WIRED că sistemul „expert” al lui Grammarly „pare să valideze neîncrederea profundă pe care o au atât de mulți savanți din științele umaniste față de AI și utilizarea sa aparent constantă în moduri fundamental lipsite de etică.”
„Acestea nu sunt recenzii de experți, deoarece nu există „experți” implicați în producerea lor”, spune Aubin. „Și este destul de insultător să vezi erudiția folosită în acest fel, când științele umaniste academice sunt în prezent atacate din toate unghiurile posibile – ca și cum oamenii reali care gândesc și produc erudiția sunt reductibili la munca lor și pot fi eliminați în întregime din ecuație.”
Ea spune că această eliminare a personalității este „îngrozitoare” de una singură, în afară de „problema „reanimării” morților atât de cinic.”
Dincolo de etica îndoielnică, există întrebarea dacă aceste widget-uri AI proliferante sunt chiar eficiente sau utile. Detectorul de plagiat Grammarly, de exemplu, nu a detectat un citat direct pe care l-am folosit dintr-o scenă din The Simpsons, unde Bart improvizează o prezentare de geografie pentru care nu s-a pregătit, ceea ce a dus la un rezumat gol: „În concluzie, Libia este un tărâm al contrastelor.” (Grammarly a avertizat, totuși, că „un tărâm al contrastelor” este o secvență de cuvinte generate adesea de LLM-uri.)
În ultimii câțiva ani, profesorii și profesorii s-au luptat printr-un potop de eseuri scrise de AI, găsind dificil să-și dezvețe elevii de această scurtătură auto-înfrângătoare. Și chiar înainte ca Grammarly să aibă „experții” săi, cei care s-au bazat pe el pentru a-și corecta lucrările au fost ocazional acuzați de trișare după ce materialul a fost semnalat de serviciile de detectare AI.
Oferirea acestor utilizatori impresia că își pot evalua munca de către gânditori de frunte înainte de a o preda poate contribui la sentimentul lor că doar își verifică textul, nu încalcă niciun cod de conduită academic. Dar cel puțin studenții se pot bucura să își evalueze temele de către mentori iluzorii în loc de instructorii lor actuali, ceea ce poate sau nu să fie o pantă alunecoasă către eliminarea completă a facultății. N-ar trebui să dureze mult să aflăm!