Jeho úkolem je propočítávat šance, zda propukne pandemie, anebo zanikne civilizace kvůli využívání některých technologií. „Pracuji jako prodejce pojistek. Ptám se, co bude, když se to stane,“ říká ředitel Centra pro studium existenčních rizik univerzity v Cambridge Seán Ó hÉigeartaigh, který dlouhodobě zkoumá dopady technologických změn a umělé inteligence na lidstvo.
Chápou lidé, když jim vysvětlujete, čím že se to přesně zabýváte?
Řeším největší globální rizika, kterým může lidstvo v příštích letech čelit. Zní to velmi široce, ale jakmile zajdu do detailů a začnu dávat příklady, tak se lidé „chytají“.
Jaké zmiňujete nejčastěji?
Třeba že Zemi může někdy v budoucnu zasáhnout asteroid. To pochopí každý. Potom se ale můžeme bavit o rizicích, která jsou poměrně nová, třeba změna klimatu nebo ztráta dostatečné biodiverzity druhů. Takřka každý o nich už asi někdy slyšel, ale sotva si dokáže představit z nich plynoucí dopady.
V tomto ohledu pracuji spíše jako prodejce pojistek a říkám: „Co když se to stane?“ A tak propočítáváme, jaká je šance, že vypukne pandemie, že způsobíme zánik civilizace využíváním nějaké technologie. Pravděpodobně se tak nestane, ale měli bychom mít připraveny analýzy a postupy pro případ, že k tomu přece jenom dojde.
Tu negativní konotaci nelze přehlédnout…
Ne vždy je to negativní trend. I tato problematika má dvě strany. Strojové učení a podrobná analýza dat samozřejmě přinesou řadu pozitivních změn, budeme lépe schopni modelovat změny životního prostředí, lépe předpokládat rizika. Tyto nové nástroje budou velmi nápomocné ke zlepšení kvality života. Stejně tak lze hovořit o změnách v biotechnologiích. Když jsem zmínil propočty šancí na vznik pandemie, je nutné uvést také pomoc technologií při designu nových typů vakcín.
Těšíte se někdy v rámci svého výzkumu na moment, kdy prohlásíte: Já jsem vám to říkal?
Popravdě doufám, že k tomu nikdy nedojde. Pokud vše půjde dobře, naše práce zůstane „neviditelná“, stejně jako u pojišťoven, bude to vypadat, jako bychom vlastně nic nedělali.
Ve vašem oboru často pracujete s pojmem umělá inteligence (AI). Jak ale vlastně lze definovat samotnou inteligenci, než jí přiřkneme to, že je „umělá“?
To je ta nejtěžší otázka na světě. Popravdě na toto téma nám aktuálně běží výzkumný projekt. Až bude hotový, možná vám budu schopen odpovědět přesněji. Snažíme se protnout řadu definicí, jak jednotlivé vědní obory inteligenci definují, třeba neurologové, inženýři či biologové mají rozdílné přístupy. Pokud se nám podaří nalézt nějaký styčný bod, bude to úspěch, a pak dostanete odpověď na vaši otázku.
Jak vznikne příští inteligence, s níž se setkáme? Navrhneme ji, nebo samovolně vzejde ze systému?
Pokud se na problematiku podíváte ze širokého úhlu, třeba jako biologie, tak lze tvrdit, že inteligence by se z daného systému mohla zrodit sama. Ale zabralo by to miliardy let a extrémní vytížení metody pokus−omyl, tedy evoluce. Tvrdím proto, že další inteligence, s níž se setkáme, bude inteligence navržená, uměle vytvořená. Je totiž mnohem snazší něco takového navrhnout než čekat, až se to objeví.
Pochybuji, že třeba internet někdy nabude vědomí. Možná zde časem vznikne prostor pro evoluční algoritmy, které se o emergentní vzestup inteligence budou snažit, ale to je věc daleké budoucnosti. Činíme za tímto účelem významný pokrok, neustále se zlepšujeme a zjišťujeme, jak funguje mozek či koncept vědomí…
Čeho se nejvíce bojíte, bavíme-li se o budoucích rizicích? Třeba ztráty práce, identity, nebo dokonce života?
Vždy skončím u přirozeného strachu ze ztráty života. Ostatní potíže, třeba nyní často diskutované ztráty zaměstnání či identity, lze překonat. V budoucnosti asi nebude nutné, aby měl každý práci. Ve společnosti je momentálně řada činností, které nejsou patřičně ohodnoceny a právě tyto sektory – třeba péče o děti, seniory či společenské aktivity – mohou být nadějí pro budoucí sociální strukturu. Vše se časem vyřeší, obavu je třeba mít z jevů, které proces změny budou provázet. Pokud se tyto změny budou dít příliš rychle, vyvolá to dost neklidu.
Podívejte se, jak pokročila komerční výroba robotů:
V budoucnosti asi nebude nutné, aby měl každý práci, říká expert z Cambridge • e15
Vezměte si třeba současnou míru nezaměstnanosti mezi mladými ve Španělsku. Žijeme stále v předpokladu, že je „správné“ mít práci, a pokud ji nemáte, je s vámi „něco špatně“. Pokud nás s největší pravděpodobností čeká budoucnost, o níž víme, že nenabídne příliš mnoho pracovních pozic, třeba kvůli vysoké automatizaci, tak je třeba začít uvažovat o jiných hodnotách, které mohou budoucí nezaměstnaní jedinci vytvářet.
Co bude hlavním zdrojem změn, které nás čekají? Měli by politici již nyní zohlednit některé futuristické koncepty ve svých programech, nebo je třeba ještě o všem dále hovořit?
Tohoto procesu by se měl zúčastnit každý. Bylo by chybou požadovat zrovna po politicích, aby veřejnosti vysvětlovali komplexi změn, které se blíží. Zároveň ale také nebude fungovat, když to necháte jen na nás, výzkumnících. Do politiky by ale určitě mělo zamířit víc vědců.
Je demokracie vhodným systémem k prosazování těchto změn?
Demokracie není dobrý systém, ale je tím nejlepším, který aktuálně máme. Technologické inovace však mohou do demokracie vnést mnohem větší diverzitu, umožní více lidem vyjádřit názor. Doufám, že vlády učiní více zodpovědné, naslouchající svým občanům. Samotný koncept demokracie se ale v daném slova smyslu také „posune“.
Pokud dosáhneme okamžiku, že někdo vyvine umělou inteligenci, bude podle vás záležet, jestli tak učiní korporace, vláda, nevládní organizace? Komu bude patřit?
Řekl bych, že takto významná technologie s tak extrémním potenciálem ke způsobení revoluce napříč obory by měla být předána do péče Spojeným národům nebo nějakému jinému „orgánu“, který bude schopný reprezentovat národy v co nejširším možném zastoupení. Spojené národy nejsou sice optimální strukturou, ale jsou tím nejlepším, čím zatím disponujeme.
Tvrdíte, že nadchází zlatý věk vývoje umělé inteligence. Z čeho tak soudíte?
Protože zatím nevidíme hranice možností u mechanismů, které využíváme. Big data a strojové učení jsou tak mocné a široce aplikovatelné, že nelze předpokládat pokles v jejich využívání. Navíc jsme již překonali několik kritických bodů, které z AI činí „mainstream“, třeba v podobě toho, že díky němu některé firmy již vydělávají peníze nebo jeho prostřednictvím řeší problémy.
V globální ekonomice kolem AI již vznikl efektivní cyklus vize−investice−výzkum−aplikace−zisk, který bude podle mého názoru dál pokračovat a sílit. Budeme dělat další pokroky, které změní svět a ospravedlní další investice.
| Působí jako výkonný ředitel Centra pro studium existenčních rizik a seniorní výzkumný pomocník v Leverhulme Centru pro budoucnost inteligence na University of Cambridge. Hlavní oblastí jeho výzkumu jsou nové technologie, rizika a politiky při zavádění technologií, předpověď budoucích rizik či genomika, syntetická biologie, evoluce a umělá inteligence. Ve volném čase rád hraje na piano, běhá a čte a poslouchá jazz, funk či blues. |
