OpenAI își reorganizează echipa Model Behavior, un grup mic, dar influent de cercetători care modelează modul în care modelele AI ale companiei interacționează cu oamenii, a aflat TechCrunch.
Într-un memorandum adresat personalului în luna august, văzut de TechCrunch, directorul de cercetare al OpenAI, Mark Chen, a declarat că echipa Model Behavior – care constă din aproximativ 14 cercetători – se va alătura echipei Post Training, un grup de cercetare mai mare responsabil pentru îmbunătățirea modelelor AI ale companiei după pre-antrenarea inițială. Ca parte a modificărilor, echipa Model Behavior va raporta acum liderului Post Training al OpenAI, Max Schwarzer. Un purtător de cuvânt al OpenAI a confirmat aceste modificări pentru TechCrunch.
Liderul fondator al echipei Model Behavior, Joanne Jang, se mută, de asemenea, pentru a începe un nou proiect în cadrul companiei. Într-un interviu acordat TechCrunch, Jang spune că construiește o nouă echipă de cercetare numită OAI Labs, care va fi responsabilă pentru „inventarea și prototiparea de noi interfețe pentru modul în care oamenii colaborează cu AI”.
Echipa Model Behavior a devenit unul dintre grupurile cheie de cercetare ale OpenAI, responsabil pentru modelarea personalității modelelor AI ale companiei și pentru reducerea sicanării – care apare atunci când modelele AI sunt pur și simplu de acord cu și întăresc convingerile utilizatorilor, chiar și cele nesănătoase, mai degrabă decât oferind răspunsuri echilibrate. Echipa a lucrat, de asemenea, la navigarea părtinirii politice în răspunsurile modelului și a ajutat OpenAI să își definească poziția cu privire la conștiința AI.
În memorandumul adresat personalului, Chen a spus că acum este momentul să aducem activitatea echipei Model Behavior a OpenAI mai aproape de dezvoltarea centrală a modelului. Făcând acest lucru, compania semnalează că „personalitatea” AI-ului său este acum considerată un factor critic în modul în care evoluează tehnologia.
În ultimele luni, OpenAI s-a confruntat cu o atenție sporită asupra comportamentului modelelor sale AI. Utilizatorii s-au opus cu tărie modificărilor de personalitate aduse GPT-5, care, potrivit companiei, a prezentat rate mai mici de sicana, dar părea mai rece pentru unii utilizatori. Acest lucru a determinat OpenAI să restabilească accesul la unele dintre modelele sale moștenite, cum ar fi GPT-4o, și să lanseze o actualizare pentru a face ca răspunsurile mai noi GPT-5 să se simtă „mai calde și mai prietenoase” fără a crește sicana.
OpenAI și toți dezvoltatorii de modele AI trebuie să meargă pe o linie fină pentru a-și face chatbot-urile AI prietenoase cu care să vorbească, dar nu sicanatori. În august, părinții unui băiat de 16 ani au dat în judecată OpenAI pentru rolul presupus al ChatGPT în sinuciderea fiului lor. Băiatul, Adam Raine, a mărturisit unele dintre gândurile și planurile sale suicidare ChatGPT (în special o versiune alimentată de GPT-4o), conform documentelor judecătorești, în lunile premergătoare morții sale. Procesul susține că GPT-4o nu a respins ideile sale suicidare.
Echipa Model Behavior a lucrat la fiecare model OpenAI de la GPT-4, inclusiv GPT-4o, GPT-4.5 și GPT-5. Înainte de a începe unitatea, Jang a lucrat anterior la proiecte precum Dall-E 2, instrumentul de generare de imagini timpuriu al OpenAI.
Jang a anunțat săptămâna trecută într-o postare pe X că părăsește echipa pentru a „începe ceva nou la OpenAI”. Fostul șef al Model Behavior este la OpenAI de aproape patru ani și a lucrat anterior la proiecte precum Dall-E 2, instrumentul de generare de imagini timpuriu al OpenAI.
Jang a declarat pentru TechCrunch că va servi drept director general al OAI Labs, care va raporta lui Chen deocamdată. Cu toate acestea, sunt zilele de început și nu este încă clar ce vor fi aceste interfețe noi, a spus ea. „Sunt foarte încântată să explorez modele care ne fac să depășim paradigma chat-ului, care este în prezent asociată mai mult cu compania sau chiar cu agenții, unde se pune accent pe autonomie”, a spus Jang. „M-am gândit la [sistemele AI] ca la instrumente pentru a gândi, a face, a juca, a face, a învăța și a conecta.”