Vyřizování účtů v OpenAI. Jaké bude mít důsledky nejen pro vývoj umělé inteligence?

Čerstvý skandál se zneužitím hlasu Scarlett Johansson je v případě OpenAI jen pomyslná špička ledovce. Co se děje uvnitř lídra v oboru generativní umělé inteligence?

Lídr v oboru generativní umělé inteligence neplní mediální prostor jen díky svým technologickým úspěchům. Skandály, vyšetřování a zákulisní hry se staly nedílnou součástí image firmy s valuací osmdesát šest miliard. Co znamenají čerstvé odchody prestižních talentů?

Nedávno opustili společnost s velmi netradiční firemní strukturou dva zaměstnanci, které by si každá normální firma z oboru snažila udržet za každou cenu. V daném případě to ale spíš vypadá, jako kdyby byli vyhozeni.

Prvním z nich je spoluzakladatel a dnes již bývalý šéf vědeckého oddělení Ilja Sutskever, kterého nahradí současný ředitel výzkumu Jakub Pachocki. Jen pár hodin na to oznámil svou rezignaci také vědec Jan Leike, kterého magazín Times zařadil do stovky nejvlivnějších AI osobností světa.

Leike byl jedním z vedoucích skupiny OpenAI pro takzvaný superalignment – tým, který se zaměřoval na sladění systémů umělé inteligence s lidskými zájmy.

Jinými slovy tu součást původně neziskové organizace, která měla dohlížet, aby se vývoj umělé inteligence řídil jasnými etickými standardy, představujícími bezpečnostní záklopku pro případ, že se něco zvrhne hodně špatným směrem.

Ani jedna z odcházejících superhvězd nebyla k okolnostem svých odchodů příliš sdílná. Pokud jde o Sutskevera, ten na síti X pouze uvedl, že odchází po téměř deseti letech a že je „nadšený“ ze svých dalších kroků, o které se prý v pravý čas podělí s veřejností. Leike se ani nesnažil nic maskovat a jen lakonicky napsal, že rezignoval.

After almost a decade, I have made the decision to leave OpenAI. The company’s trajectory has been nothing short of miraculous, and I’m confident that OpenAI will build AGI that is both safe and beneficial under the leadership of @sama, @gdb, @miramurati and now, under the…

— Ilya Sutskever (@ilyasut) May 14, 2024

Ředitel Open AI Sam Altman se k Leikeho odchodu nevyjádřil a k odchodu kolegy spoluzakladatele Sutskevera později pronesl jen stručný komentář s velmi generickým dovětkem: „Ilja a OpenAI se rozcházejí. Je to pro mě velmi smutné…“

Nejde ovšem zdaleka o jediné nedávné odchody z firmy. Jen několik týdnů nazpátek skončili ve firmě další dva lidé z vedení společnosti, Diane Yoon a Chris Clark. Yoon byla personální šéfkou a Clark pro změnu vedl oddělení neziskových a strategických iniciativ.

Podle serveru The Information se OpenAI rozloučila také s dalšími dvěma VIP výzkumníky, Leopoldem Aschenbrennerem a Pavlem Izmailovem. Opět v naprosté tichosti.

Je to zajímavý paradox. ChatGPT minulý týden získal oficiálně schopnost mluvit přirozeně působícím lidským hlasem, a pokud máte přístup k placené verzi, tak si s vámi popovídá o čemkoli. Vrcholoví zaměstnanci, kteří OpenAI opouštějí rychleji než žížaly půdu za deště, jsou naopak dokonale skoupí na slovo.

Skoupá na slovo nicméně nebyla hollywoodská hvězda Scarlett Johansson. Tu před časem OpenAI oslovila s nabídkou, jestli by pro vyvíjenou umělou inteligenci neposkytla právě svůj hlas. Ne náhodou si Sam Altman a spol. vybrali zrovna ji – ve své filmografii má Johansson snímek Ona, kde podobnou AI namluvila. Herečka nabídku OpenAI podle svých slov zvážila, ale nakonec odmítla.

Jaké pak bylo její překvapení, když první verze mluvící ChatGPT přesto její hlas věrně napodobovala. Po vznesení právního protestu firma imitaci hereččina hlasu „neochotně“ stáhla.

Pokud jde o Altmanova kolegu Sutskevera, jeho samotná rezignace zase až takovým překvapením nebyla. Byl totiž jedním z iniciátorů převratu ve firemním představenstvu, který loni vedl k Altmanovu dočasnému propuštění.

Sutskever se prý tehdy soustředil na to, aby umělá inteligence neškodila lidem, zatímco jiní zaměstnanci OpenAI včetně samotného Altmana se naopak snažili prosadit rychlou komercializaci nové technologie. Události pak nabraly rychlý spád.

20. listopadu prohlásil šéf Microsoftu Satya Nadella, že Altman s Brockmanem povedou vývoj pokročilé umělé inteligence přímo v Microsoftu. Následně 738 ze 770 zaměstnanců OpenAI podepsalo otevřený dopis, v němž uvedli, že dají výpověď a připojí se k Microsoftu, pokud představenstvo nevezme Altmana zpět.

Hrozící kolaps vyděsil hlavní investory v čele s Microsoftem, kteří začali vyvíjet silný nátlak na představenstvo. Již následujícího dne se Altman i Brockman vracejí do svých předchozích funkcí spolu s novou správní radou tvořenou bývalým spolušéfem Salesforcu Bretem Taylorem coby předsedou a dále Lawrencem Summersem a Adamem D’Angelem.

Členové správní rady Helen Tonerová, Tasha McCauleyová a samotný Sutskever, kteří hlasovali pro Altmanovo odvolání, o své funkce v představenstvu přišli. Sutskever si sice následně veřejně posypal hlavu popelem, ale jednou ztracená důvěra byla pryč.

Letos v březnu navíc dorazily dozvuky kauzy v podobě vyšetřování, zahájeného americkou Komisí pro cenné papíry (SEC). Ta prověřuje, zda nebyli investoři společnosti uvedení v omyl, a také žaloby kvůli spojení s Microsoftem, podané jejím někdejším nejštědřejším mecenášem – Elonem Muskem.

Vyšetřování SEC bylo logickou reakcí na komentáře již neexistujícího představenstva při původním Altmanově vyhazovu. Společnost navíc již od ledna vyšetřuje také Americká Federální obchodní komise (FTC), která v lednu oznámila zahájení vyšetřování OpenAI, aby prověřila investice do umělé inteligence a zvážila, jak ovlivňují hospodářskou soutěž.

Již v prosinci přitom FTC spustila předběžné vyšetřování investic společnosti Microsoft do OpenAI, které se odhadují na třináct miliard dolarů. Akce FTC byla navíc oznámena jen několik dní poté, co britský Úřad pro hospodářskou soutěž a trhy uvedl, že chce transakci také prověřit. V lednu se pak investicí začala zabývat i Evropská komise – údajně k tomu opět přispělo listopadové drama.

Čistě z byznysového hlediska lze chápat, že OpenAI dala nakonec přednost klasickému zisku před vágně definovaným „blahem lidstva“, a že přestala poskytovat své AI modely jako otevřený zdrojový kód. Když ale rozpustí svůj elitní tým, který měl na dodržování zájmů lidstva dohlížet, těžko se věří, že tak učinila kvůli obavám o celospolečenskou bezpečnost, jak sama argumentuje.

Obzvláště, když jsou tito propuštění zaměstnanci tak skoupí na slovo a raději se omezují na lakonické prohlášení typu: „dal jsem výpověď“. Naopak se zdá, že jde o závod ve snaze udržet si nadvládu nad oborem, do kterého nyní investoři sypou nepředstavitelné sumy peněz.