O decizie judecătorească emisă de o instanță locală din Germania ar putea schimba fundamental modul în care funcționează motoarele de căutare și chatbot-urile bazate pe inteligență artificială la nivel global. Curtea Regională din München a statuat preliminar că Google este răspunzător pentru o serie de afirmații false generate de funcția sa AI Overviews, obligând compania să împiedice diseminarea unor pretenții eronate sau inexacte prin intermediul motorului său de căutare.
Cazul a pornit de la o investigație a publicației Decoder, în care doi publisheri au descoperit că rezumatele generate de AI-ul Google îi asociaseră, în anumite căutări, cu practici de afaceri îndoielnice, escrocherii și fraude legate de abonamente, fără nicio bază reală. Companiile afectate au trimis gigantului tehnologic o notificare de încetare și renunțare (cease-and-desist letter) la începutul acestui an.
Google a negat răspunderea, argumentând că funcția sa de rezumare automată avertizează utilizatorii că informațiile pot conține erori și necesită verificare independentă. Cu toate acestea, curtea a concluzionat că AI-ul Google a combinat informații despre alte companii semnalate pentru practici ilicite cu datele reclamanților, generând asocieri care nu apăreau în nicio sursă legată de motorul de căutare.
Autoritățile au constatat că, spre deosebire de motoarele de căutare tradiționale, care prezintă doar liste de linkuri cu afirmații ale terților, instrumentul Google a produs „afirmații independente, noi și substanțiale” bazate pe o interpretare greșită a informațiilor disponibile pe internet. Potrivit curții, corectarea dezinformării nu este responsabilitatea terților. Google este singura entitate capabilă să modifice tehnologia din spatele rezumatelor sale generate de AI și, prin urmare, „trebuie să fie trasă la răspundere”. Mai mult, curtea a considerat lipsită de temei apărarea Google, deoarece rezumatul contestat „conține afirmații care nu apar deloc în rezultatele căutării”.
Interpretarea instanței germane asupra rolului AI în prezentarea rezultatelor căutării ar putea face din acest caz un precedent istoric. Aceasta consideră o companie tehnologică majoră responsabilă pentru influența celor mai avansate dezvoltări ale sale asupra platformelor larg utilizate. Până acum, în majoritatea sistemelor legale, motoarele de căutare au fost considerate instrumente care doar facilitează accesul la conținut creat de terți și disponibil pe web. Acest statut le-a oferit un anumit nivel de protecție atunci când informațiile publicate erau false, inexacte, înșelătoare sau chiar defăimătoare. Totuși, curtea germană a susținut că această salvă de protecție nu se mai aplică atunci când motoarele de căutare încorporează sisteme generative de AI.
Conform raționamentului instanței, această tehnologie este capabilă să producă pretenții inexistente bazate pe multiple surse și, în consecință, companiile responsabile de operarea sa trebuie să își asume răspunderea pentru conținutul rezultat. Judecătorii au concluzionat, de asemenea, că, deși Google încurajează utilizatorii să verifice informațiile din cauza potențialelor „halucinații” inerente modelelor AI, acest avertisment nu absolvă distribuitorul de conținut de răspundere. Altfel, au argumentat aceștia, victimele afirmațiilor false ar fi practic fără apărare, deoarece sursele originale nu au făcut niciodată acele afirmații și, prin urmare, nu ar putea fi supuse acțiunii legale.
Similar, curtea a considerat că rezultatele generate de un sistem AI nu pot fi protejate sub principiile libertății de exprimare, deoarece acestea sunt produsul unui algoritm conceput, antrenat și gestionat de o companie, și nu exprimarea unei opinii individuale. Ca măsură de precauție pentru a preveni posibile recurențe, decizia a impus Google să elimine o mare parte din afirmațiile considerate defăimătoare în acest caz și să acopere 80% din costurile legale aferente procesului. Un purtător de cuvânt al companiei a sugerat că decizia ar putea fi contestată într-o instanță superioară. „Investim profund în calitatea AI Overviews pentru a ne asigura că marea majoritate a răspunsurilor oferă informații precise și sunt concepute pentru a reflecta informațiile existente pe web”, se arată într-un comunicat. „Analizăm cu atenție această decizie, care nu este încă finală.”
Decizia curții germane ar putea avea repercusiuni globale pentru industria inteligenței artificiale. Companii precum OpenAI, Anthropic și Perplexity AI avertizează, de asemenea, utilizatorii că răspunsurile generate de sistemele lor pot conține erori sau pot fi înșelătoare și, la fel ca Google, recomandă verificarea informațiilor înainte de a le utiliza. Acest avertisment se regăsește, de obicei, în termenii de serviciu la care utilizatorii sunt de acord la crearea unui cont pe o platformă. Cu toate acestea, acest caz susține că astfel de avertismente nu sunt suficiente pentru a exonera dezvoltatorii de răspundere. Hotărârea stipulează că atunci când un AI generează noi afirmații care nu apar direct în sursele sale originale, compania care proiectează, antrenează, operează și gestionează sistemul trebuie să își asume răspunderea legală pentru orice daune cauzate de acele afirmații.