Český počítačový vědec Stanislav Fort má doktoráty z Cambridge a Stanfordu. Donedávna vedl vývoj umělé inteligence (AI) v americké společnosti Stability AI, která se snaží konkurovat OpenAI a jejímu programu ChatGPT. Proč podle něj Evropa v inovacích zaostává za Spojenými státy? A opravdu AI dokáže vyřešit všechny současné problémy světa? Na to Fort odpovídá v rozhovoru s e15, který vznikl během jeho účasti na pražském Týdnu inovací 2023.
Jak jste se od teoretické fyziky a astronomie dostal ke zkoumání umělé inteligence?
Moje intelektuální dráha se už od základní školy točila kolem oborů, jako je astronomie, fyzika, matematika a informatika. Nejsem ale fanouškem rozdělování vědění na tyhle škatulky, protože si myslím, že mezi těmito vědami existuje obrovský přesah. Metody a nápady z jednoho oboru mohou být snadno použitelné i v jiném a inspirovat nový typ řešení. Jedna z věcí, které mě přivedly ke zkoumání umělé inteligence, byla, když v roce 2016 počítačový program AlphaGo od společnosti DeepMind porazil v deskové hře go evropského šampiona, což se podle předpovědí nemělo stát ještě další desítky let. To mě přesvědčilo o tom, že v umělé inteligenci je extrémně velký a nevyužitý potenciál a dané technologie fungují mnohem lépe, než si lidé dosud mysleli.
Věříte, že takzvaná obecná umělá inteligence (AGI) bude schopna vyřešit i problémy, na které lidstvo zatím nestačí, jako je třeba klimatická krize?
Ano. Já jsem hodně přesvědčený, že cesta k řešení těch nejpalčivějších a největších problémů světa vede přes zlepšování naší kognitivní kapacity skrze umělou inteligenci. Lidský mozek je sice extrémně dobře navržený evolucí, je ale zároveň hodně limitovaný různými biologickými omezeními. Například tím, že se musí vejít do lebky. Evoluce také musí postupovat po malých krůčcích, aby ten organismus, který zdokonaluje, nezemřel za pochodu. To jsou věci, na které se při vývoji umělé inteligence nemusíme ohlížet. Je proto vysoce nepravděpodobné, že lidská inteligence je stropem toho, čeho se dá dosáhnout v prostoru inteligencí.
Je vývoj umělé inteligence, vzhledem ke svému obrovskému potenciálu, v současnosti podfinancovaný?
Určitě je. Množství investic, které směřuje do vývoje umělé inteligence, je relativně malé. Dokonce i některé veřejné vědecké projekty v jiných doménách jsou o hodně dražší než největší projekty v oblasti AI. Pro srovnání, Mezinárodní vesmírná stanice stála sto miliard dolarů. Největší investice do tréninku umělých inteligencí se pohybují v řádech stovek milionů dolarů. Přitom možné benefity, které může AI v budoucnu přinést lidstvu, jsou v porovnání s vesmírnou stanicí podle mě mnohem vyšší.
Čím to je?
Donedávna existovala opatrnost ohledně velkých investic do umělé inteligence, protože nebylo jisté, jestli budou tyto technologie fungovat. Jedni z mála, kteří věřili tomu, že fungovat budou, byli lidé, co založili společnost OpenAI. Teď už se naštěstí ukázalo, že měli pravdu.
VIDEO: Jazykový model ChatGPT
Generální ředitel společnosti Stability AI, ve které jste donedávna působil, Emad Mostaque, nicméně v létě řekl, že umělá inteligence „bude největší investiční bublinou všech dob“ a překoná i internetovou bublinu z počátku tisíciletí. S tím nesouhlasíte?
Já ani nesouhlasím s tím, že ta předchozí internetová bublina byla opravdu bublinou. Kdybyste na konci devadesátých let investoval do Googlu nebo Applu, nejspíš by vám to vykompenzovalo finanční ztráty z těch firem, které dodneška nepřežily. S umělou inteligencí to bude stejné. Hromada současných AI startupů nepochybně zkrachuje, ale najdou se i takové, které ty ztráty bohatě nahradí. Už dnes vidíme, že ty systémy fungují a jsou lidem užitečné. Není možné, aby to dopadlo špatně.
Vyplatí se tedy investovat do AI startupů?
Nejsem expert na investování. Podle mě se z AI stane něco jako kognitivní infrastruktura světa, podobně jako elektrická energie, která vede do každého domu a dneska už skoro i do každého auta. Bude to všudypřítomná věc, co změní civilizaci natolik, že si jí lidé úplně přestanou všímat. Ale z finančního hlediska to možná nebude něco, na čem by se vyráběli noví trilionáři. Na energetice lidé také obvykle nezbohatnou tak rychle jako v jiných sektorech.
Za jak dlouho bychom podle vás mohli obecné umělé inteligence dosáhnout?
Tady je otázka, co vlastně považujeme za obecnou umělou inteligenci (AGI). Už dnes máme systémy, se kterými můžeme mluvit v přirozeném jazyce, můžeme je programovat v přirozeném jazyce, ony nám rozumí, chápou naše záměry a emoce, ovládají všechny světové jazyky, četly všechny knihy a vědecké práce, které kdy byly napsány, a viděly o hodně více dat, než jakýkoliv člověk uvidí během celého svého života. Kdybych před pěti lety viděl nástroje, jako je GPT-4, myslel bych si, že je to AGI. Na druhou stranu, pro tyto systémy zatím neplatí korelace, které jsou typické pro lidský mozek. Třeba když nějaký člověk umí dobře hrát šachy, dá se předpokládat, že bude vynikat i v dalších intelektuálních činnostech. Takhle to zatím u umělé inteligence nefunguje.
Každopádně, když se podíváme na to, jak rychlým vývojem tyto systémy prošly za poslední dva roky, kdy jsme se od nástrojů, které neuměly skoro nic, dostali k GPT-4, dokážu si představit, že se AGI podaří vytvořit do konce dekády.
Jaký máte názor na studii amerických výzkumníků ze Stanfordovy univerzity a Kalifornské univerzity v Berkeley, která tvrdí, že ChatGPT hloupne?
Zaprvé, nevím, jestli jsou jejich závěry správné. Tu studii jsem nezkoumal. Mohl tam zapůsobit psychologický efekt, kdy na začátku byli všichni z toho systému nadšení, a tak mu spíš odpustili nějaké nedostatky, kterých si teď, když se z něj stává běžná komodita, více všímají. Zadruhé, pokud je to pravda, může to být dané tím, že se OpenAI jako komerční firma snaží své nástroje zlevnit, aby byly dostupné pro širší spektrum uživatelů, což má za následek, že se snižuje jejich výkon.
V souvislosti s rozmachem AI se objevuje také ostrá kritika, že tyto technologie usnadňují šíření dezinformací, způsobí zánik pracovních míst a podobně. Považujete ji za oprávněnou?
Každá nová technologie má své klady a zápory, přičemž ne u každé je to vybalancované na tu pozitivní stranu. Třeba u jaderných zbraní si nejsem jistý, zda jejich výhody převažují nad nevýhodami. U umělé inteligence jsem přesvědčen, že potenciální benefity přesahují možná rizika. To nicméně neznamená, že bychom ta rizika měli ignorovat. 
Která rizika považujete za nejzávažnější?
Ta rizika lze rozdělit na krátkodobá a dlouhodobá. Z těch krátkodobých je to hlavně to, co jste zmiňoval – šíření dezinformací, deepfake a podobně. U těch dlouhodobých je třeba si uvědomit jednu věc, a sice že při vývoji AI vlastně zdokonalujeme a automatizujeme schopnost, která dělá z našeho druhu dominantní druh na této planetě – inteligenci. Za celou historii lidstva jsme nikdy nepřišli do styku s entitou, která by byla chytřejší než my. Proto ta rizika mohou být potenciálně hodně nebezpečná. Například už dnes dokážou lidští hackeři napadat kritickou infrastrukturu. A nyní si představte, že je nahradí automatizovaný hacker s výrazně vyšší inteligencí, který přemýšlí v kódu a zná detaily všech výpočetních systémů na světě.
Jak můžeme těmto hrozbám předejít?
Je nesmírně důležité při realizaci té pozitivní stránky AI současně pracovat na omezení té negativní. Cesta je v pravidelném testování a ověřování toho, že ty systémy nechybují. Obecně si ale myslím, že jsou to všechno řešitelné inženýrské problémy. Skoro určitě to dobře dopadne, nicméně bude k tomu potřeba hodně aktivní práce. Nestane se to automaticky. Je třeba si rovněž uvědomit, že tyto nástroje brzy nahradí velkou část lidské ekonomiky a nerad bych viděl, aby se jejich benefity koncentrovaly jen mezi malé množství lidí. Proto je nutné vhodně nastavit naše politiky, a především sociální politiky tak, aby z těch výhod těžili všichni.
A co říkáte na tu klasickou obavu, že za dvacet let tady bude dělat rozhovor robot-novinář s robotem-vědcem?
Pokud současné trendy budou pokračovat dál, tak se opravdu musíme připravit na to, že zde budou za několik let všudypřítomné, levné entity, které budou ve všech doménách převyšovat i ty nejschopnější. Já bych se na to však díval pozitivně, protože hodně věcí, na které dnes využíváme sílu našich mozků, jsou typicky úkoly, které dělat nechceme. Je tu třeba hodně rutinní kancelářské práce, kterou člověk většinou nedělá proto, že by ho to nějak hluboce naplňovalo a chtěl by to dělat celý život, ale protože je to prostě způsob, jak získat finanční prostředky na jiné aspekty života, které ho naplňují. Já jsem velký technooptimista. Věřím ve velkou budoucnost lidstva, ve které bude o hodně více štěstí, spokojenosti a naplnění lidských ambicí než v současné době. Jediná cesta, která k tomuhle cíli vede, je skrz technologické inovace a dobře nastavené politiky.
Stanislav Fort (30)Už jako středoškolský student zvítězil na Mezinárodní olympiádě v astronomii a astrofyzice. Vystudoval fyziku na univerzitě v Cambridgi. Později získal ještě doktorát z teorie hlubokého strojového učení na Stanfordově univerzitě. Věnuje se výzkumu umělé inteligence. Jako vědec pracoval například v amerických firmách Google DeepMind nebo Anthropic. Naposledy vedl vývoj jazykových modelů ve společnosti Stability AI, která vyvinula například známý generátor obrázků Stable Diffusion. |
Jak se díváte na snahy některých evropských zemí AI regulovat? Například Itálie se snažila používání ChatGPT úplně zakázat.
O regulacích se obecně nedá říct, jestli jsou dobré, nebo špatné. Můžeme se bavit jen o jejich konkrétní podobě. Jak už jsem zmínil dříve, určité regulace umělé inteligence jsou potřeba, protože ti, kdo tyto technologie vytvářejí, jsou firmy jako každé jiné. Minimálně ochrana osobních údajů a nakládání s citlivými daty je něco, na co dohlížet musíme. Nicméně objevují se samozřejmě i některé nesmyslné reakce panického typu. Příkladem může být zbrklý zákaz ChatGPT v Itálii.
V poslední době často slýchávám, že Evropa je zbytečně přeregulovaná a ujíždí nám v inovacích vlak. Souhlasíte?
To je pravda, o inovační a technologickou budoucnost Evropy se docela bojím. Ve vývoji klíčových technologií výrazně zaostáváme za Spojenými státy a nejsem si úplně jistý, proč tomu tak je. Evropa má více obyvatel než USA, máme relativně vysoké HDP, dobré sociální sítě, které zachytí lidi v případě, že jim třeba nějaký ten startup nevyjde, respektive jsou tu minimálně lepší podmínky pro podnikání než v jiných částech světa, a přesto se ty nejzásadnější inovace, nezbytné pro budoucnost lidstva, dnes odehrávají mimo Evropu.
Není problém například ve školství?
Nemyslím si to. Pokud jde o produkci vědeckých článků a vědu obecně, ta v Evropě probíhá dobře. Je to opravdu zvláštní. Třeba u takové Tesly by dávalo mnohem větší smysl, kdyby vznikla na území Evropské unie. Evropa byla tradičně silná a inovativní v automobilovém průmyslu. Klade se tu velký důraz na ekologii, přesto Teslu vymysleli Američané. Nejsem z toho, že Evropa za USA pokulhává, vůbec nadšený, ale obávám se, že je to způsobeno i faktory, se kterými se nedá nic moc dělat. Určitě v tom hraje roli například lingvistická fragmentace Evropy, to, že jsme vlastně skupina malých zemí, které si navzájem nerozumí. Dokonce ani politická reprezentace často nemluví anglicky. Intelektuální prostor je roztříštěný a dobré nápady jím špatně pronikají. Před druhou světovou válkou se ty největší mozky v oborech jako fyzika či chemie učily německy, dnes to tak již není. Obávám se, že jejich masivní exodus do USA, který způsobila válka, Evropu také nenávratně poškodil.
V řadě oborů však Spojené státy dohání Čína. Udrží si Amerika své postavení největší technologické velmoci světa?
Minimálně ve vývoji umělé inteligence je náskok Spojených států tak veliký, že pravděpodobně ano. Centrálně řízené režimy jako Čína jsou dobré v dohánění existujících věcí, ale v čisté inovaci mají USA nesporně navrch.
Před měsícem jste odešel ze společnosti Stability AI, která vyvíjela konkurenční nástroj k ChatGPT. Proč?
Ve Stability AI jsem vedl tým, který vyvíjel open source jazykové modely a náš plán byl uvést na trh něco, co dokáže soutěžit s ChatGPT. Řekl bych, že jsme vytvořili poměrně dobré modely, které si nyní můžete stáhnout na internetu a pracovat s nimi. Není to nic tajného. Ten nástroj se jmenuje StableLM. Klidně ale přiznám, že náš systém není tak dobrý jako ChatGPT. GPT-4 je stále nejlepším jazykovým modelem na světě. Stability AI jsem opustil, protože ve stejné době odtamtud odešlo i hodně dalších lidí ze seniorního managementu, se kterými jsem úzce spolupracoval. Více se k tomu nechci vyjadřovat.
Na čem plánujete pracovat teď?
Nějaké plány pochopitelně mám, ale v tuto chvíli o nich ještě nechci mluvit. Mohu jen říct, že svého odchodu ze Stability AI teď využívám k dodělání nějakých vědeckých projektů, které jsem měl otevřené. Mám o hodně víc nápadů v AI, než času na nich pracovat.
Máte podobně jako Elon Musk nějaký ultimátní cíl, kterého chcete ve své kariéře dosáhnout?
Mou ultimátní aspirací pro AI je automatizace vědy a inovací. Věřím, že umělá inteligence je poslední zásadní vynález lidstva. Velkou část vědecké a inovační práce bude v budoucnu dělat právě AI, pravděpodobně ve spolupráci s lidskými vědci a vědkyněmi. Myslím, že AGI má potenciál najít meta-řešení všech velkých problémů. Můžeme také vytvořit systémy, které se pak podívají zpátky na nás a pomůžou nám pochopit, jak vlastně fungujeme my. To je něco, na co se hodně těším, nejen kvůli sobě, ale kvůli celému lidstvu.
