Practicile de siguranță ale companiilor AI nu respectă standardele globale, arată un studiu de Reuters
3 decembrie (Reuters) - Practicile de siguranță ale marilor companii de inteligență artificială, cum ar fi Anthropic, OpenAI, xAI și Meta, sunt „cu mult sub standardele globale emergente”, conform unei noi ediții a indicelui de siguranță AI al Future of Life Institute, lansată miercuri.
Institutul a declarat că evaluarea siguranței, efectuată de un grup independent de experți, a constatat că, în timp ce companiile erau ocupate să se întreacă pentru a dezvolta superinteligența, niciuna nu avea o strategie robustă pentru controlul unor astfel de sisteme avansate.
Studiul vine pe fondul îngrijorărilor publice sporite cu privire la impactul societal al sistemelor mai inteligente decât omul, capabile de raționament și gândire logică, după ce mai multe cazuri de sinucidere și auto-vătămare au fost legate de chatbot-urile AI.
„În ciuda agitației recente cu privire la hacking-ul alimentat de AI și la AI care îi determină pe oameni la psihoză și auto-vătămare, companiile americane de AI rămân mai puțin reglementate decât restaurantele și continuă să facă lobby împotriva standardelor obligatorii de siguranță”, a declarat Max Tegmark, profesor MIT și președintele Future of Life.
Cursele AI nu arată niciun semn de încetinire, marile companii de tehnologie angajând sute de miliarde de dolari pentru a-și îmbunătăți și extinde eforturile de învățare automată.
Future of Life Institute este o organizație non-profit care și-a exprimat îngrijorarea cu privire la riscurile pe care mașinile inteligente le reprezintă pentru umanitate. Fondată în 2014, a fost susținută de la început de CEO-ul Tesla, Elon Musk.
În octombrie, un grup format din oameni de știință, printre care Geoffrey Hinton și Yoshua Bengio, au cerut interzicerea dezvoltării inteligenței artificiale superinteligente până când publicul o va cere și știința va deschide o cale sigură de urmat.
XAI a spus „Minciuni mass-media legacy”, într-un răspuns care părea a fi automat, în timp ce Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, DeepSeek și Alibaba Cloud nu au răspuns imediat solicitărilor de comentarii cu privire la studiu.