V júli minulého roka OpenAI oznámila vytvorenie nového výskumného tímu ktoré by sa pripravili na príchod superinteligentného umela inteligencia schopný prekabátiť a premôcť svojich tvorcov. Ilya Sutskever, hlavný vedec OpenAI a jeden zo spoluzakladateľov spoločnosti, bol vymenovaný za vedúceho tohto nového tímu. OpenAI uviedla, že tím získa 20 percent svojho výpočtového výkonu.
Teraz spoločnosť OpenAI potvrdzuje, že „tím superalignmentu“ už neexistuje. To prichádza po odchode niekoľkých zainteresovaných výskumníkov, Utorkové správy že Sutskever odchádza zo spoločnosti a výpoveď z druhého tímu colead. Práca skupiny bude začlenená do ďalších výskumných snáh OpenAI.
Sutskeverov odchod sa dostal na titulky, pretože hoci v roku 2015 pomohol generálnemu riaditeľovi Samovi Altmanovi spustiť OpenAI a určil smer výskumu, ktorý viedol k ChatGPT, bol tiež jedným zo štyroch členov predstavenstva, ktorí v novembri prepustil Altmana. Altman bol obnovený ako generálny riaditeľ o päť chaotických dní neskôr po masovej vzbure zamestnancov OpenAI a sprostredkovaní dohody, v ktorej Sutskever a ďalší dvaja riaditelia spoločnosti opustili predstavenstvo.
Niekoľko hodín po tom, čo bol v utorok ohlásený Sutskeverov odchod, Jan Leike, bývalý výskumník DeepMind, ktorý bol druhým vedúcim tímu superalignmentu, uverejnené na X že dal výpoveď.
Sutskever ani Leike nereagovali na žiadosti o komentár. Sutskever neponúkol vysvetlenie svojho rozhodnutia odísť, ale ponúkol podporu pre súčasnú cestu OpenAI v príspevku na X. „Trajektória spoločnosti bola zázračná a som presvedčený, že OpenAI vybuduje AGI, ktoré bude bezpečné aj prospešné“ pod jej súčasným vedením, napísal.
Uverejnil Leike vlákno na X v piatok vysvetlil, že jeho rozhodnutie pochádza z nezhody ohľadom priorít spoločnosti a množstva zdrojov, ktoré jeho tímu pridelili.
„Už nejaký čas nesúhlasím s vedením OpenAI o hlavných prioritách spoločnosti, až kým sme konečne nedosiahli bod zlomu,“ napísal Leike. „Počas posledných mesiacov sa môj tím plavil proti vetru. Niekedy sme mali problémy s výpočtom a bolo čoraz ťažšie uskutočniť tento zásadný výskum.“
Rozpustenie superalignment tímu OpenAI prispieva k nedávnym dôkazom otrasov vo vnútri spoločnosti v dôsledku krízy riadenia v novembri minulého roka. Dvaja výskumníci v tíme, Leopold Aschenbrenner a Pavel Izmailov, boli prepustený za prezradenie firemných tajomstiev, Informácie hlásené minulý mesiac. Ďalší člen tímu, William Saunders, opustil OpenAI vo februári príspevok na internetovom fóre v jeho mene.
Zdá sa, že dvaja ďalší výskumníci OpenAI pracujúci na politike a riadení AI nedávno opustili spoločnosť. Cullen O’Keefe opustil svoju úlohu vedúceho výskumu na hraniciach politiky v apríli, podľa LinkedIn. Daniel Kokotajlo, výskumník OpenAI, ktorý je spoluautorom niekoľkých článkov o nebezpečenstvách schopnejších modelov AI, „ukončil OpenAI kvôli strate dôvery, že sa bude správať zodpovedne v čase AGI,“ tvrdí uverejnenie na internetovom fóre v jeho mene. Žiadny z výskumníkov, ktorí zjavne odišli, nereagoval na žiadosti o komentár.