Moxie Marlinspike, susținătorul confidențialității care a creat aplicația de comunicare securizată Signal și protocolul său de criptare open source utilizat pe scară largă, a declarat săptămâna aceasta că platforma sa AI axată pe confidențialitate, Confer, va începe să își integreze tehnologia în sistemele AI ale Meta.
În fiecare zi, miliarde de mesaje chat trimise prin Signal, WhatsApp al Meta și Messages al Apple sunt protejate prin criptare end-to-end. Funcția, care face imposibilă supravegherea mesajelor tale de către companiile de tehnologie și de oricine altcineva decât expeditorul și destinatarul, a devenit populară în ultimul deceniu. Pe măsură ce platformele AI generative explodează în popularitate, însă, oamenii schimbă acum și miliarde de mesaje pe zi cu chatbot-uri AI care nu oferă protecția criptării end-to-end - făcând ușor pentru firmele AI să acceseze ceea ce vorbești. Acest lucru este intenționat, având în vedere că platformele doresc adesea să își antreneze modelele AI pe cât mai multe date de utilizator posibil și au făcut dificilă renunțarea la utilizarea informațiilor tale ca date de antrenament. Dar, pe măsură ce chatbot-urile și agenții AI au devenit mai capabili, unii tehnologi și companii fac eforturi pentru a crea sisteme mai constrânse și axate pe confidențialitate.
„Pe măsură ce LLM-urile continuă să fie capabile să facă mai multe, ar trebui să ne așteptăm ca și mai multe date să curgă în ele”, a scris Marlinspike într-o scurtă postare pe blog despre colaborarea sa cu Meta, publicată marți. „În acest moment, niciuna dintre aceste date nu este privată. Este partajată cu companiile AI, angajații lor, hackeri, citații și guverne. Ca întotdeauna în cazul datelor necriptate, acestea vor ajunge inevitabil în mâinile greșite.”
Marlinspike a scris că va „lucra pentru a integra tehnologia de confidențialitate a Confer, astfel încât să stea la baza Meta AI”. El a subliniat, de asemenea, că Confer, care a debutat la începutul acestui an, va continua să funcționeze independent de Meta. Scopul proiectului, a adăugat Marlinspike, este de a oferi o tehnologie care „permite tuturor să obțină puterea deplină a AI împreună cu confidențialitatea deplină a unei conversații criptate”.
În 2016, Marlinspike a lucrat cu WhatsApp, care este deținută de Meta, pentru a implementa criptarea end-to-end la mai mult de un miliard de conturi simultan. În ultimul an, WhatsApp a introdus un chatbot Meta AI în aplicația sa, care nu este protejat de companie în același mod în care sunt protejate conversațiile individuale.
„Oamenii folosesc AI în moduri profund personale și necesită acces la informații confidențiale”, a scris șeful WhatsApp, Will Cathcart, miercuri, pe platforma de socializare X despre colaborarea cu Confer. „Este important să construim această tehnologie într-un mod care să ofere oamenilor puterea de a face acest lucru în mod privat.”
Adoptarea AI criptate este încă emergentă. Schemele criptografice utilizate în criptarea end-to-end pentru comunicarea digitală tradițională nu sunt ușor sau direct traductibile în protecții de date pentru AI generativă. La rândul său, Confer este încă un proiect nou, iar postarea pe blog a lui Marlinspike nu a oferit detalii specifice despre cum va funcționa exact colaborarea cu Meta sau care sunt obiectivele specifice pentru integrare. Nici Marlinspike, nici Meta nu au furnizat WIRED comentarii suplimentare înainte de publicare.
Mallory Knodel, cercetător în criptografie la Universitatea din New York, spune că ar fi „minunat pentru persoanele care utilizează chatbot-uri care utilizează Meta AI să aibă confidențialitate și intimitate în cadrul acelui schimb”. În mod crucial, asta înseamnă că Meta nu ar putea accesa datele chat-ului AI pentru antrenament, spune Knodel, care, împreună cu colegii, a publicat recent un studiu privind criptarea end-to-end și AI. „Sper cu adevărat că mai multe chatbot-uri AI vor adopta această abordare.”
Evaluările preliminare inițiale ale lui Knodel asupra Confer indică faptul că platforma nu este perfectă, dar este un exemplu important de cum să construiești un chatbot AI privat. Criptograful JP Aumasson, directorul de securitate al platformei de criptomonede Taurus, a ajuns la concluzii similare despre Confer până acum.
„Confer este probabil cea mai bună soluție AI privată, ținând cont de toate”, spune el pentru WIRED. „Nu este perfectă, desigur. Îi lipsesc documentația arhitecturii sale, modelul de amenințare și lanțul de aprovizionare. Dar Moxie știe ce face și are un istoric solid.”
Complexitatea dezvoltării schemelor de criptare pentru platformele AI este un obstacol major, iar o mare parte din activitatea de confidențialitate s-a concentrat până acum pe modele open source accesibile sau pe construirea de straturi de confidențialitate între companiile AI și utilizatorii finali. De exemplu, așa cum a scris Marlinspike marți, „tehnologia Confer a fost construită pe baza modelelor de greutate deschisă. În timp ce multor oameni le place să folosească Confer pentru o mare varietate de sarcini, altora le-au lipsit capabilitățile de frontieră de la modelele proprietare.”
Colaborarea cu Meta îi oferă lui Marlinspike ocazia de a lucra direct cu modele închise. „Meta construiește modele avansate de frontieră, așa că acest lucru va combina cea mai privată tehnologie de chat AI din lume cu cele mai capabile modele AI din lume”, a scris el.
Indiferent dacă proiectul va îndeplini în cele din urmă toate aceste superlative, cercetătorii au subliniat pentru WIRED că colaborarea este semnificativă.
„Propunerea lui Moxie de a utiliza calculul de încredere, un concept care datează cel puțin din anii 1990, mi se pare corectă”, spune Aumasson de la Taurus. „Ipotezele și limitările de bază sunt bine înțelese. Din nou, nu este perfect, dar probabil suficient pentru majoritatea utilizatorilor. Provocarea este de a suporta modele care sunt la fel de bune ca cele mai recente modele de frontieră de la Anthropic și Google și OpenAI.”