Conform TechCrunch, Lilian Weng, un cercetător de frunte în domeniul siguranței la OpenAI, și-a anunțat plecarea din companie. Weng, care a deținut funcția de Vicepreședinte al Cercetării și Siguranței, și-a dezvăluit decizia vineri, afirmând că este pregătită să exploreze noi oportunități după șapte ani petrecuți la startup. Ultima sa zi va fi 15 noiembrie, deși nu a dezvăluit planurile sale viitoare. Weng a exprimat mândrie pentru realizările echipei de Sisteme de Siguranță și încredere în succesul lor continuu.

Ieșirea lui Weng face parte dintr-o tendință mai amplă de plecări de la OpenAI, cu mai mulți cercetători în domeniul siguranței și politicilor AI părăsind compania în ultimul an. Unii au criticat OpenAI pentru că prioritizează interesele comerciale în detrimentul siguranței AI. Weng se alătură altor figuri notabile, cum ar fi Ilya Sutskever și Jan Leike, care au părăsit de asemenea OpenAI în acest an pentru a se concentra pe siguranța AI în alte locuri. Weng a intrat inițial în OpenAI în 2018, contribuind la echipa de robotică care a dezvoltat o mână robotizată capabilă să rezolve un cub Rubik. Pe măsură ce OpenAI și-a schimbat focusul către paradigma GPT, Weng a trecut la construirea echipei de cercetare aplicată în AI în 2021 și a condus ulterior crearea unei echipe dedicate sistemelor de siguranță în 2023.

În ciuda creșterii unității de sisteme de siguranță a OpenAI, care acum include peste 80 de oameni de știință, cercetători și experți în politici, îngrijorările persistă cu privire la angajamentul companiei față de siguranță pe măsură ce dezvoltă sisteme AI mai puternice. Miles Brundage, un fost cercetător în politici, a părăsit OpenAI în octombrie, invocând dizolvarea echipei de pregătire AGI pe care o consilia. În plus, fostul cercetător Suchir Balaji a exprimat îngrijorări cu privire la potențialul prejudiciu societal al tehnologiei OpenAI. OpenAI a declarat că lucrează la un plan de tranziție pentru a-l înlocui pe Weng și a subliniat importanța echipei de Sisteme de Siguranță în asigurarea siguranței și fiabilității sistemelor sale AI.

Alte plecări recente de la OpenAI includ CTO-ul Mira Murati, Chief Research Officer Bob McGrew și VP-ul de Cercetare Barret Zoph. În august, cercetătorul proeminent Andrej Karpathy și co-fondatorul John Schulman au anunțat de asemenea plecările lor. Unii dintre acești indivizi, inclusiv Leike și Schulman, s-au alăturat competitorului OpenAI, Anthropic, în timp ce alții și-au urmărit propriile inițiative.