Cea mai periculoasă cifră în adopția inteligenței artificiale nu este rata de eroare. Este rata de încredere. Un sistem care are dreptate în 98% din cazuri greșește și el 2% din timp. Prezintă ambele rezultate cu aceeași certitudine. Într-o firmă care procesează sute de declarații, aceasta nu este matematică abstractă. Este un pumn de livrabile, indistinguibile de restul, care poartă erori pe care sistemul nu știe că le-a făcut. Firma și partenerii săi dețin fiecare dintre ele.
Tehnologia AI este nouă, deci pare că ar trebui să necesite un nou tip de guvernanță. Nu este cazul. Profesia are deja răspunsul în casă. Managerii și-au petrecut carierele guvernând sisteme nedeterministe, altfel cunoscute sub numele de personal junior. Un practician începător este probabilistic. Are zile bune și zile proaste. Face greșeli într-o proporție aproximativă cu experiența sa, iar încrederea nu urmărește întotdeauna competența. Vă prezintă muncă pe care nu i-ați văzut-o făcând-o. O evaluați fără a fi fost în încăpere. Răspunsul profesiei nu a fost niciodată să ceară juniori perfecți. A fost revizuirea stratificată, disciplina de aprobare și căile de escaladare scalate în funcție de ce atingea munca. În spatele tuturor stă un partener care deține rezultatul, indiferent cine l-a produs. Aceasta nu este o soluție pentru personal slab. Este structura centrală de guvernanță a unei firme profesionale, rafinată de un secol pentru această problemă exactă. Această structură se transferă direct la AI.
Problema de bază este aceeași. Guvernați rezultate dintr-un sistem care poate greși în moduri imprevizibile, la un volum pe care nu îl puteți verifica linie cu linie. Piramida de revizuire nu se schimbă. Ceea ce se schimbă este primul strat al piramidei. Un junior nesigur pune întrebări. AI nu emite un astfel de semnal. Nu ezită, nu marchează și nu se oprește. Firma trebuie să proiecteze semnalul pe care îl primea gratuit, apoi să-l alimenteze în structura de revizuire pe care o deține deja.
**1. Faceți sistemul să vă spună când nu este sigur**
Eșecul principal este că AI separă încrederea de corectitudine. Soluția este să reconstruiți acea legătură prin design. Nu revizuiți un răspuns brut. Revizuiți un răspuns care poartă un scor de încredere și direcționați în funcție de acel scor. Încrederea scăzută se escaladează către un om. Încrederea ridicată curge mai departe. Puteți permite, de asemenea, sistemului să răspundă la aceeași întrebare în mai multe moduri și să tratați dezacordul ca pe un semnal de alarmă. Nimic din toate acestea nu se întâmplă de la sine. Este ceva ce specificați și construiți. Schimbarea de mentalitate contează mai mult decât mecanica. Nu cereți modelului să aibă dreptate mai des. Îi cereți să fie onest cu privire la momentele în care nu este. Această onestitate este o cerință de inginerie, nu o trăsătură pe care o puteți spera.
**2. Guvernați munca înainte ca aceasta să fie făcută, nu la finalizare**
AI are nevoie de onboarding și instruire, la fel ca personalul junior. Noii angajați nu au nevoie doar de sarcină. Ei au nevoie de limitele firmei, de procesele sale, de modul în care se fac lucrurile aici și de liniile pe care nu le traversezi. AI nu este diferit. Controlul cu levier mai mare se află în amonte, în ceea ce îi învățați sistemului înainte ca acesta să atingă munca live. Limitați ce i se permite să încerce și în ce condiții. Apoi oferiți sistemului reguli de lucru, așa cum ați da unui nou angajat o listă de verificare. Direcționați fiecare sarcină printr-un poartă simplă mai întâi. Poate fi făcută prin regulă? Dacă da, un sistem determinist o face, iar răspunsul este corect prin construcție. Instalația anterioară a subliniat acest lucru. O eroare pe care designul o exclude este una pe care nu trebuie să o prindeți niciodată. Aceeași logică se extinde dincolo de poartă. Unde este posibil, înlocuiți inspecția cu verificări pe care răspunsul trebuie să le treacă. Citații. Reconcilieri. Teste de interval. Un număr care nu se reconciliază se semnalează singur, indiferent cât de încrezător a sunat modelul. Nu mai încercați să prindeți un răspuns greșit citindu-l. Construiți munca astfel încât un răspuns greșit să nu poată trece fără a declanșa o verificare pe care nu o poate ocoli.
**3. Oferiți sistemului memoria pe care nu o are**
AI nu va aminti corectările pe care i le-am dat în martie anul trecut, decât dacă îl antrenăm explicit să o facă. Gândiți-vă cum am învățat meseria. O greșeală la o declarație, o notă a unui partener pe margine, o lecție care a durut suficient de mult încât să rămână cu noi pentru tot restul carierei. O ducem mai departe fără să încercăm. Sistemul nu poate, așa că memoria sa trebuie construită manual. O regulă înregistrată. Un caz de test. O nouă poartă. Construit astfel, fiecare corecție întărește procesul de revizuire în sine. Aceasta este fundația pentru o muncă ce se îmbunătățește an de an.
Partenerul a semnat întotdeauna pentru munca pe care nu a făcut-o personal. AI schimbă angajatul, nu semnătura. Acest lucru a fost adevărat de când a fost angajat primul asociat. Munca unui partener nu a fost niciodată doar să producă munca. Ei dețin relația. Ei revizuiesc ce nu poate fi delegat. Munca pleacă sub numele lor și ei răspund pentru ea. Deci, de unde începe o firmă? Începeți cu munca pe care nimeni nu vrea să o facă. Măcinatul administrativ, nu judecata. Sarcinile care se repetă, care urmează o regulă, care au puține cazuri limită și un răspuns clar corect. Acestea sunt locurile de muncă pentru care AI este construită și unde o greșeală este ieftin de prins și ușor de corectat. Câștigați acolo mai întâi. Dovediți că funcționează cu personalul dumneavoastră în buclă. Lăsați-i să vadă unde funcționează și unde nu, și construiți-le încrederea pe problemele ușoare înainte de a încerca ceva mai dificil. Apoi adunați victoriile. Fiecare câștigă următorul. Treceți la următorul proces doar când ultimul rulează curat. Rămâneți la curent cu fiecare dintre ele. Cineva deține rezultatul. Cineva îl verifică la un interval stabilit și confirmă că încă funcționează. Și urmele sunt capturate pe măsură ce munca rulează, astfel încât, atunci când un număr este contestat, puteți arăta cum a ajuns acolo. Omul rămâne în buclă pentru munca ce implică risc și se retrage de la munca ce rulează ca un calculator. Aceasta este întreaga metodă. Începeți mic, dovediți-o, mențineți un om responsabil și urcați doar pe măsură ce sistemul o merită.
Firmele care fac acest lucru corect nu au tratat AI ca pe un caz special. Ele au văzut ce aveau deja. O structură de guvernanță construită pentru această problemă exactă, suficient de puternică pentru a susține un nou instrument fără a se îndoi. Ceea ce au adăugat a fost singurul element nou: mecanismul care face un sistem tăcut să ridice mâna. Produsul profesiei este încrederea. Am produs-o întotdeauna în același mod, cu oameni probabiliști guvernați de un proces determinist. AI este un instrument nou și puternic, pentru firmele care îl plasează în interiorul acelui proces. Firmele care numesc AI ne-guvernabilă și firmele care au încredere în ea să se guverneze singură, fac aceeași greșeală în direcții opuse. Delegați cu atenție. Revizuiți riguros. Semnătura de dedesubt este încă a dumneavoastră, indiferent cine sau ce a produs munca de deasupra ei.