Probabil, o companie emergentă în domeniul inteligenței artificiale, a anunțat recent strângerea unei runde de finanțare de tip seed în valoare de 9 milioane de dolari, condusă de Andreessen Horowitz. Fondurile vor fi utilizate pentru dezvoltarea unei abordări mai riguroase în crearea unor modele AI mai fiabile, capabile să evite așa-numitele „halucinații” – erori ce apar chiar și în cele mai avansate modele lingvistice mari (LLM).
Peter Elias, fondatorul Probably, a subliniat obiectivul companiei: prevenirea apariției halucinațiilor și a erorilor factuale simple înainte ca acestea să ajungă la utilizatori. Ținta este atingerea unei acuratețe de 99,99%, un nivel comun în sistemele deterministe, dar mult mai greu de atins în cazul inteligenței artificiale. Elias a explicat că atingerea acestui nivel de fiabilitate necesită o regândire a unor principii fundamentale din ingineria AI.
Primul produs lansat de Probably este un instrument de data science, conceput pentru a oferi răspunsuri rapide din seturi complexe de date. Fiecare rezultat este însoțit de o citație și un istoric de audit al modului în care a fost generat, o practică ce devine din ce în ce mai frecventă în aplicațiile AI. Pentru a preveni erorile, a fost dezvoltat un sistem complex, descris de Elias ca un „mech suit pentru data science”. Răspunsurile inițiale ale LLM-ului sunt verificate de un sistem validator deterministic, care respinge orice rezultat ce nu corespunde setului de date. Sistemul a fost optimizat pentru viteză și acuratețe, LLM-ul fiind antrenat în raport cu validatorul.
"Am descoperit că, pe măsură ce ingineria sistemului de control devine mai bună, modelul în sine poate fi mai puțin performant," a declarat Elias. "Dacă reușești să rafinezi contextul suficient, modelul nu trebuie să depună un efort mare pentru a oferi rezultatul corect. Practic, este un exercițiu de reducere a ambiguității."
Această abordare permite instrumentului de data science al Probably să funcționeze pe modele AI semnificativ mai mici. Elias a menționat că versiunea curentă utilizează un model "cu patru clase mai slab decât modelele de ultimă generație", ceea ce permite rularea pe hardware local (un computer desktop, spre deosebire de un centru de date). Aceasta reduce costurile asociate cu utilizarea AI, un aspect important în contextul creșterii tarifelor pe token și a reevaluării bugetelor pentru AI de către clienți.
Elias consideră că această soluție nu se limitează la data science, ci poate fi extinsă la domenii precum contabilitatea sau serviciile medicale – "orice caz de utilizare sensibil la precizie". "Cred că este cu adevărat interesant că marile laboratoare de AI nici măcar nu au încercat să facă acest lucru," a adăugat Elias. "Sunt motivați să nu o facă, deoarece fac bani cu cât mai des trebuie să corectezi modelul."