Byznys vs. obavy z vývoje umělé inteligence. Vysvětlujeme chaos v OpenAI

Konec drama? Sam Altman odchází do Microsoftu.

Konec drama? Sam Altman odchází do Microsoftu. Zdroj: Profimedia.cz

Není to ani rok od chvíle, kdy se na veřejnost dostal ChatGPT, který vše změnil. Nyní celý svět v přímém přenosu sleduje, jak se strůjce tohoto milníku, společnost OpenAI, zmítá v nevídaném chaosu. Po pátečním vyhazovu šéfa a zakladatele společnosti Sama Altmana to přes víkend už vypadalo, že by mohlo dojít k triumfálnímu návratu. Místo toho ale na post šéfa jedné z nejdůležitějších firem současnosti přichází třetí CEO za poslední tři dny a zároveň člověk, který prosazuje mnohem obezřetnější rozvoj umělé inteligence. 

Nyní už bývalý šéf OpenAI Sam Atlman byl ze své funkce odvolán v pátek odpoledne ještě před uzavřením obchodování na burzách a dočasnou hlavou společnosti se stala dosavadní technologická ředitelka Mira Muratiová. „Náhlý zvrat,“ „šok v Silicon Valley“ – tak informovala o horké novince americká byznysová média. Není divu, ze šéfů tamních technologických firem byl Sam Altman rozhodně ten nejvíce oblíbený, za uplynulý rok se stal hlavním mluvčím AI průmyslu, mluvil na konferencích po celém světě a rozmlouval o možné regulaci s nejvýznamnějšími politiky na světě. 

O náhlosti celé situace vypovídají i zprávy o tom, že propuštění Altmana nebylo předem konzultováno ani s největším akcionářem společnosti, tedy společností Microsoft (MS), která v OpenAI vlastní 49procentní podíl. Šéf MS Satya Nadella se o konci Altmana měl dozvědět jen krátce předtím, než byl zveřejněn oficiální blogový příspěvek o této změně. Microsoft v minulosti investoval do OpenAI přes 13 miliard dolarů a zároveň využíval ve velkém rozsahu produkty OpenAI, do prohlížeče Bing například velmi rychle integroval ChatGPT. 

Na otázku, proč k tak rychlé výměně došlo, zřejmě neexistuje jednoznačná odpověď. V současné době se nejblíže pravdě blíží teorie, že Altmanův tlak na byznysový rozvoj a možná i na získání dalších peněz od externích investorů se dostal do přímého sporu se správní radou, která upřednostňovala pomalejší vývoj AI v rámci bezpečnosti, tedy aby se AI kvůli snahám o zisk nevymkla kontrole a neuškodila lidstvu. Směr, kterým se chtěl bývalý šéf OpenAI vydat, členy správní rady zřejmě vyděsil natolik, že jej urychleně vyhodili a uvedli přitom, že důvodem ukončení spolupráce je fakt, že Altman „nebyl upřímný, což mu bránilo plnit své povinnosti“.

Členové správní rady nejsou zároveň zástupci podílníků, jako tomu je u většiny ostatních firem, jelikož OpenAI má složitou strukturu odrážející původní misi firmy, tedy vývoj technologie, která prospěje lidstvu. Proto existuje nezisková část a firma s „omezeným ziskem“, což původně mělo aktivity celého subjektu uchránit před tlakem investorů. 

V klíčovém orgánu OpenAI tak usedli lidé, kteří nemají žádný zájem na byznysovém úspěchu, nerozhodují se tedy na základě tradičních metrik. Mimo Sama Altmana do správní rady patřil také Greg Brockman, který působil jako prezident firmy a který odešel společně s Altmanem. Kromě nich byli ve správní radě také Ilya Sutskever, hlavní vědec, a lidé mimo struktury OpenAI, kteří se ale pohybují v technologickém byznysu či vědeckém prostředí – Adam D’Angelo, Tasha McCauleyová a Helen Tonerová.

„Z Altmanova pohledu bylo nezbytné získat více peněz a najít další zdroje příjmů. Někteří členové správní rady s vazbami na hnutí efektivního altruismu, které je vůči umělé inteligenci skeptické, to však vnímali v rozporu s riziky, která pokročilá umělá inteligence představuje,“ shrnuje celý rozpor agentura Bloomberg. 

Nešlo však také jen o rozpor ve směřování, ukázalo se, že Altman měl v plánu založit další firmu, která by se věnovala vývoji procesorů pro AI, na niž chtěl vybrat od investorů peníze. „Altmanovy ambice se přenesly i mimo OpenAI, čímž se jeho zájmy dostaly do potenciálního konfliktu se společností,“ napsal list Financial Times. „Nebyl tu žádný velký problém. Správní rada dospěla do bodu, kdy nemohla věřit tomu, co jim Sam řekl,“ uvedl pro stejný list anonymní zdroj blízký správní radě společnosti. 

Proti teorii ohledně sporu o bezpečnost dalšího vývoje AI modelů se nicméně postavil nový, dočasný šéf OpenAI Emmet Shear, který v minulosti vedl platformu pro živá vysílání Twitch. „Před nástupem do práce jsem si ověřil důvody této změny. Správní rada neodvolala Sama kvůli nějakému konkrétnímu nesouhlasu s bezpečností, jejich důvody byly úplně jiné. Nejsem takový blázen, abych vzal tuto práci bez podpory představenstva pro komercializaci našich úžasných modelů,“ napsal na sociální síť X nový šéf společnosti. Ten se zároveň na stejné síti v minulosti vyjádřil, že pokud se v současné době AI vyvíjí rychlostí 10, on by byl pro zařazení rychlosti jedna až dva. 

Zatímco se bude Shear zabývat situací v OpenAI, Altman a Brockman se mezitím domluvili s Microsoftem, kde povedou oddělení vývoje AI. Šéf společnosti Satya Nadella uvedl, že partnerství s OpenAI pokračuje a že má jeho důvěru. 

Je ovšem otázkou, zda bude mít Shear k dispozici firmu, kterou by mohl řídit. V pondělí odpoledne se totiž objevila informace, že 505 z celkových 700 zaměstnanců OpenAI je připraveno rezignovat a přejít do týmu Altmana a Brockmana pod křídly Microsoftu. „Nemůžeme pracovat pro lidi, kterým chybí kompetence, úsudek a péče o naše poslání a zaměstnance, ani s nimi spolupracovat,“ zdůvodnili své plány. Své setrvání podmiňují rezignací správní rady a jmenováním nového vedení společnosti.