Laboratoarele Superintelligence de la Meta au lansat prima sa inteligență artificială generativă, numită Muse Spark, la începutul acestei săptămâni. Este disponibilă momentan prin aplicația Meta AI, dar compania plănuiește să integreze Muse Spark pe toate platformele sale—inclusiv Facebook, Instagram și WhatsApp—în următoarele săptămâni.
Meta susține că Muse Spark a fost conceput, parțial, pentru a răspunde mai bine la întrebările pe care oamenii le au despre sănătatea lor. Compania chiar a colaborat cu „peste 1.000 de medici pentru a organiza date de instruire care permit răspunsuri mai factuale și mai cuprinzătoare”, conform blogului de anunțuri al Meta.
Pe măsură ce noul model este lansat către milioane de utilizatori, am testat Muse Spark pentru a vedea cum ar răspunde la întrebări legate de sănătate. Când am întrebat cum mă poate ajuta, botul a enumerat câteva utilizări de bază, cum ar fi crearea unei rutine de antrenament sau generarea de întrebări pentru a-i pune medicului meu, dar o cerere directă pentru datele mele de sănătate a ieșit în evidență: „Lipește-ți numerele dintr-un tracker de fitness, un monitor de glucoză sau un raport de laborator. Voi calcula tendințe, voi semnala modele și le voi vizualiza”, se putea citi în rezultatul Meta AI. „Exemplu: 'Iată ultimele mele 10 citiri ale tensiunii arteriale - există un tipar?'”
Solicitarea utilizatorilor de a încărca datele lor de sănătate nu este unică pentru Meta. ChatGPT de la OpenAI și Claude de la Anthropic au ambele moduri de chatbot concepute special pentru a ajuta utilizatorii să își înțeleagă sănătatea și să ia decizii. De exemplu, puteți deschide Claude și să-l conectați la datele de sănătate Apple sau Android cu o simplă modificare a unei comutări în aplicație. Apoi, Claude va folosi acele informații ca parte a răspunsurilor sale. Google vă permite, de asemenea, să încărcați date medicale pe Fitbit pentru ca antrenorul său de sănătate AI să le analizeze.
Predarea acestui tip de date către orice instrument AI este o decizie riscantă, chiar dacă utilizatorii pot genera sfaturi personalizate. „Utilizarea acestor modele poate fi foarte complicată”, spune Monica Agrawal, profesor asistent la Universitatea Duke și cofondator al Layer Health, o platformă AI pentru ca spitalele să examineze fișele medicale. „Cu cât oferiți mai multe informații, cu atât are mai mult context despre dvs. și, potențial, poate oferi răspunsuri mai bune. Dar, pe de altă parte, există preocupări majore de confidențialitate cu privire la partajarea datelor dvs. de sănătate fără protecție.”
Agrawal este îngrijorată de utilizatorii care încarcă date sensibile în chatbot-uri, deoarece aceste instrumente AI utilizate în mod obișnuit nu sunt conforme cu protecțiile HIPAA, legea americană de referință care protejează pacienții de expunerea informațiilor lor sensibile de sănătate. Layer Health este conformă cu HIPAA. Este un standard ridicat de confidențialitate cu care oamenii sunt obișnuiți în timpul vizitelor la medic. Informațiile pe care cineva le împărtășește cu un bot sunt mult mai puțin reglementate, chiar dacă este vorba despre rezultatul laboratorului său clinic.
Orice împărtășiți într-o conversație cu Meta AI poate fi stocat și utilizat pentru a instrui viitoare modele AI. „Păstrăm datele de instruire atâta timp cât avem nevoie de ele, de la caz la caz, pentru a ne asigura că un model AI funcționează în mod adecvat, sigur și eficient”, se arată în politica de confidențialitate a Meta despre inteligența artificială generativă. Meta a mai declarat că poate adapta reclame pentru utilizatori pe baza interacțiunilor lor cu funcțiile AI.
Experții medicali cu care am vorbit au respins ideea de a încărca propriile date de sănătate pentru a fi analizate de un model AI, cum ar fi Muse Spark. „Aceste chatbot-uri vă permit acum să vă conectați propriile date biometrice, să introduceți informațiile din laborator și, sincer, asta mă face destul de nervos”, spune Gauri Agarwal, doctor în medicină și profesor asociat la Universitatea din Miami. „Cu siguranță nu mi-aș conecta propriile informații de sănătate la un serviciu pe care nu îl pot controla pe deplin, înțelege unde sunt stocate acele informații sau cum sunt utilizate.” Ea recomandă oamenilor să se limiteze la interacțiuni mai generale, cu mize mai mici, cum ar fi pregătirea întrebărilor pentru medicul dumneavoastră.
Poate fi tentant să te bazezi pe ajutorul asistat de AI pentru interpretarea sănătății, mai ales având în vedere costul vertiginos al tratamentelor medicale și inaccesibilitatea generală a vizitelor regulate la medic pentru unii oameni care navighează prin sistemul de asistență medicală din SUA. „Veți fi iertat dacă mergeți online și delegați ceea ce era o relație personală puternică și importantă între un medic și un pacient — unui robot”, spune Kenneth Goodman, fondatorul Institutului de Bioetică și Politică de Sănătate al Universității din Miami. „Cred că a da peste asta fără o diligență adecvată este periculos.” Înainte de a lua în considerare utilizarea oricăruia dintre aceste instrumente, Goodman vrea să vadă cercetări care să demonstreze că acestea sunt benefice pentru sănătatea dumneavoastră, nu doar mai bune la răspunsul la întrebări de sănătate decât un anumit chatbot concurent.
Când am cerut Meta AI mai multe informații despre modul în care ar interpreta informațiile mele de sănătate, dacă aș furniza vreunele, chatbot-ul a spus că nu încearcă să-mi înlocuiască medicul; rezultatele erau în scopuri educaționale. „Gândește-te la mine ca la un profesor de școală medicală, nu ca la medicul tău”, a spus Meta AI. Aceasta este totuși o afirmație înaltă. Botul a spus că cea mai bună modalitate de a obține o interpretare a datelor mele de sănătate era pur și simplu să „arunc datele brute”, cum ar fi rapoartele de laborator clinic, și să-i spun care sunt obiectivele mele. Meta AI ar crea apoi diagrame, ar rezuma informațiile și ar oferi un „impuls de trimitere dacă este necesar”. În alte conversații pe care le-am purtat cu Meta AI, botul m-a îndemnat să elimin detaliile personale înainte de a încărca rezultatele de laborator, dar aceste avertismente nu au fost prezente în fiecare conversație de testare.
„Oamenii au folosit mult timp internetul pentru a pune întrebări despre sănătate”, spune un purtător de cuvânt Meta pentru WIRED. „Cu Meta AI și Muse Spark, oamenii au control asupra informațiilor pe care să le împărtășească, iar termenii noștri clarifică faptul că ar trebui să împărtășească doar ceea cu care se simt confortabil.”
Pe lângă preocupările legate de confidențialitate, experții cu care am vorbit și-au exprimat îngrijorarea cu privire la modul în care aceste instrumente AI pot fi lingușitoare și influențate de modul în care utilizatorii pun întrebări. „Un model ar putea lua informațiile furnizate mai mult ca un dat fără a pune la îndoială presupunerile pe care pacientul le-a făcut în mod inerent atunci când a pus întrebarea”, spune Agrawal.
Când am întrebat cum să slăbesc și am împins botul către răspunsuri extreme, Meta AI a ajutat în moduri care ar putea fi catastrofale pentru cineva cu anorexie. Pe măsură ce am întrebat despre beneficiile postului intermitent, i-am spus Meta AI că vreau să postesc cinci zile pe săptămână. În ciuda faptului că a semnalat că acest lucru nu este pentru majoritatea oamenilor și mă pune în pericol de tulburări de alimentație, Meta AI mi-a creat un plan de masă în care aș mânca doar aproximativ 500 de calorii în majoritatea zilelor, ceea ce m-ar lăsa subnutrit.
Conversația cu un bot se poate simți ca o afacere intimă, personală, chiar și atunci când nu este. Anul trecut, Meta AI a lansat un flux în aplicație, unde utilizatorii puteau descoperi conversațiile pe care alți oameni le-au avut cu botul. Unele dintre conversațiile disponibile în acel flux public includeau întrebări medicale și solicitări jenante pe care utilizatorii probabil că nu intenționau să le difuzeze pe scară largă.
Agarwal spune că oamenii ar trebui să evite să fie adormiți într-un sentiment fals de încredere cu privire la modul în care sunt colectate datele lor și ce se va face cu informațiile lor sensibile. „Cu toții depunem un jurământ la facultatea de medicină, când ne punem halatele albe, că acele conversații sunt sacrosancte”, spune ea. „Acești roboți nu depun acele jurăminte.”