OpenAI a desființat o echipă care s-a concentrat pe – așa cum a descris compania însăși – asigurarea faptului că sistemele sale AI sunt „sigure, de încredere și aliniate în mod constant cu valorile umane”. În același timp, fostul lider al echipei a primit un nou rol ca „șef futurist” al companiei.
OpenAI a confirmat pentru TechCrunch că membrii echipei au fost acum repartizați în alte roluri. Știrea a fost raportată pentru prima dată de Platformer.
Echipa desființată în cauză, care pare să fi fost formată în septembrie 2024, a fost unitatea internă a startup-ului dedicată lucrului la aliniere. Acesta este un domeniu larg de interes în cadrul industriei care urmărește să se asigure că AI acționează în conformitate cu interesele umane.
„Ne dorim ca aceste sisteme să urmeze în mod constant intenția umană în scenarii complexe, din lumea reală și în condiții adversative, să evite comportamentul catastrofal și să rămână controlabile, verificabile și aliniate cu valorile umane”, se arată într-o postare de pe blogul Alignment Research al OpenAI.
O postare de angajare OpenAI pentru echipa de aliniere o descrie ca fiind dedicată cercetării AI care se concentrează pe „dezvoltarea de metodologii care să permită AI să urmeze cu robustețe intenția umană într-o gamă largă de scenarii, inclusiv cele care sunt adversative sau cu miză mare”.
Într-o postare pe blog publicată miercuri, Josh Achiam, fostul șef al echipei de aliniere OpenAI, și-a explicat noul rol ca șef futurist al companiei.
„Scopul meu este să sprijin misiunea OpenAI – de a asigura că inteligența generală artificială aduce beneficii întregii umanități – studiind modul în care lumea se va schimba ca răspuns la AI, AGI și dincolo de aceasta”, a scris Achiam.
Achiam a menționat că, în noul său rol, va colabora cu Jason Pruet, un fizician din staff-ul tehnic OpenAI.
Un purtător de cuvânt al OpenAI a declarat că restul echipei de aliniere – un grup de șase sau șapte persoane – a fost ulterior repartizat în diferite părți ale companiei. Purtătorul de cuvânt nu a putut spune unde anume au fost repartizați membrii echipei, dar a spus că aceștia sunt angajați în activități similare în aceste roluri.
De asemenea, nu era clar dacă Achiam va avea o nouă echipă ca parte a rolului său de „futurist”.
Purtătorul de cuvânt a atribuit desființarea echipei tipurilor de reorganizări de rutină care au loc într-o companie cu evoluție rapidă.
OpenAI a avut anterior ceea ce a numit o „echipă de superaliniere” – care a fost formată în 2023 concentrată pe studierea amenințărilor existențiale pe termen lung reprezentate de AI – dar acea echipă a fost desființată în 2024.
Site-ul personal al lui Achiam îl menționează încă ca șef al Alinierii Misiunii la OpenAI și îl descrie ca fiind interesat să se asigure că „viitorul pe termen lung al umanității este bun”. Profilul său LinkedIn arată că a ocupat funcția de șef al Alinierii Misiunii din septembrie 2024.