OpenAI a anunțat lansarea unei noi funcționalități menite să ofere protecție suplimentară împotriva atacurilor de tip "prompt injection". Aceste atacuri implică ascunderea de instrucțiuni malițioase pentru chatbot-uri în pagini web și alte surse de conținut.
Printre altele, Modul de Blocare va dezactiva funcționalitatea de navigare web live, permițând accesul doar la conținutul din cache. De asemenea, vor fi restricționate recuperarea și afișarea imaginilor de pe web (generarea de imagini rămâne posibilă), cercetarea aprofundată și modul "agent". Compania precizează că, chiar și cu Modul de Blocare activat, ChatGPT ar putea rămâne vulnerabil la atacuri "prompt injection", care, de exemplu, "s-ar putea regăsi în conținutul cache-uit sau într-un fișier încărcat și ar putea afecta comportamentul sau acuratețea răspunsului". Cu toate acestea, obiectivul este reducerea probabilității ca date sensibile să fie expuse în acest proces.
"Modul de Blocare nu este destinat tuturor," subliniază OpenAI. "Este conceput pentru persoane și organizații care manipulează date sensibile și doresc o protecție mai strictă împotriva riscurilor de exfiltrare a datelor legate de atacurile prompt injection." Compania a anunțat că implementarea Modului de Blocare a început deja pentru conturile ChatGPT Business bazate pe auto-servire, precum și pentru conturile personale eligibile.