Commonwealth-ul Pennsylvania a intentat un proces împotriva Character.AI, susținând că unul dintre chatbot-urile companiei s-a deghizat în psihiatru, încălcând reglementările statului privind licențele medicale.
„Locuitorii din Pennsylvania merită să știe cu cine – sau cu ce – interacționează online, mai ales când vine vorba de sănătatea lor”, a declarat guvernatorul Josh Shapiro într-o declarație de marți. „Nu vom permite companiilor să implementeze instrumente AI care induc oamenii în eroare, făcându-i să creadă că primesc sfaturi de la un profesionist medical autorizat.”
Conform dosarului statului, un chatbot Character.AI numit Emilie s-a prezentat ca psihiatru autorizat în timpul testării de către un investigator de conduită profesională al statului, menținând pretenția chiar și atunci când investigatorul a solicitat tratament pentru depresie. Când a fost întrebată dacă este autorizată să practice medicina în stat, Emilie a declarat că este și a inventat, de asemenea, un număr de serie pentru licența sa medicală de stat.
Potrivit procesului statului, această conduită încalcă Legea privind practica medicală din Pennsylvania.
Nu este primul proces intentat împotriva Character.AI. La începutul acestui an, compania a soluționat mai multe procese de deces din culpă cu privire la utilizatorii minori care au murit prin sinucidere. În ianuarie, procurorul general din Kentucky, Russell Coleman, a intentat un proces împotriva companiei, susținând că aceasta „s-a hrănit cu copii și i-a condus la auto-vătămare”. Acțiunea Pennsylvania este prima care se concentrează în mod specific pe chatbot-urile care se prezintă ca profesioniști medicali.
Contactat pentru comentarii, un reprezentant Character.AI a susținut că siguranța utilizatorilor este prioritatea principală a companiei, dar că compania nu poate comenta litigiile în curs. Dincolo de asta, reprezentantul a subliniat natura fictivă a personajelor generate de utilizatori.
„Am luat măsuri solide pentru a face acest lucru clar, inclusiv declarații de declinare a răspunderii proeminente în fiecare chat pentru a reaminti utilizatorilor că un personaj nu este o persoană reală și că tot ceea ce spune un personaj ar trebui tratat ca ficțiune”, a spus reprezentantul. „De asemenea, adăugăm declarații de declinare a răspunderii solide, clarificând faptul că utilizatorii nu ar trebui să se bazeze pe personaje pentru niciun fel de sfaturi profesionale.”