Michal Pěchouček: Koronavirus by se dal skvěle zvádnout inteligencí. A nemusí být ani umělá | E15.cz

Michal Pěchouček: Koronavirus by se dal zvádnout inteligencí. A nemusí být ani umělá

Michal Pěchouček
Michal Pěchouček
• 
ZDROJ: Avast

Jan Vávra

Sdílet na Facebook Messenger Sdílet na LinkedIn
Vstoupit do diskuze
1

Pandemie koronaviru mění zavedené pořádky ve prospěch digitalizace. Technologické firmy bohatnou a roste jejich vliv. Pokrok spojený s technologiemi a umělou inteligencí ale zůstává nevyužit tam, kde by mohl pomoci zřejmě úplně nejvíce: při krocení pandemie. „Dala by se skvěle zvládat s inteligencí, kdyby se používala…,“ míní technický ředitel kyberbezpečnostní firmy Avast Michal Pěchouček, přední odborník na umělou inteligenci. Lidstvo se kvůli svému rozpornému přístupu chová výrazně hloupěji, než by se při řízení pandemie chovaly algoritmy s jasně daným zadáním, dodává Pěchouček. Je jedním z hostů panelové debaty „AI v Česku. Lepší, než si myslíte!,“ kterou ve spolupráci s Mall TV uspořádal ve středu deník E15 a Aspen Institute Central Europe.

Dokázala by umělá inteligence třeba sepsat pěknou glosu? Schválně říkám glosu, neboť ta počítá s uměním zkratky či ironie. A s tím může mít AI problém… Jinak z pozice E15 ještě doplňuji, že burzovní zpravodajství odebíráme v podobě vytvářené „robotem“.

Bude těžké stanovit nějaký benchmark, metu a říct si „takhle vypadá velký cíl v oblasti automatického generování textu.“ Je to něco, co pobaví a čemu se zasměje třicet procent čtenářů? Nebo je to něco, u čeho padesát procent čtenářů nerozpozná, zda to psal člověk nebo stroj? Zatím neexistuje nějaký svatý grál. Myslím si ale, že v automatickém generování textu dělá umělá inteligence ohromné pokroky. Je to jedno z těch hodně úspěšných témat podobně jako rozpoznávání obrazu.

Jednak proto, že trénovací data na výzkum jsou volně k dispozici, jednak proto, že práci s jazykem považují vědci za jeden z fundamentálních projevů lidské inteligence. Kvůli tomu si získává hodně pozornosti, možná více, než rozpoznávání obrazu, které je z pohledu AI spíš utilitární nežli kreativní činností. Čili v jazykové oblasti to půjde rychle a možná se budeme divit, kde všude dojde k nahrazování lidí píšících texty.

Takže kde by to mohlo být?

Lidská práce včetně té vaší jako novináře je drahá, musíte-li v Praze platit nějaké složenky… Pokud budou algoritmy schopné za minimální či nulovou cenu zastat práci člověka, tak se prostě budou používat. Dneska už tomu tak je v burzovním i sportovním zpravodajství, předpovědi počasí… Na druhé straně já jako posluchač Radia 1 jsem rád, že tam vždy je živý DJ a není nahrazen doporučujícím algoritmem. Proto i věřím, že vždycky budou čtenáři, kteří si pošmáknou na textech psaných člověkem a budou je vyžadovat.

Aktuálnější otázkou možná je, jestli by umělá inteligence nemohla vést boj proti covidové pandemii? Když už existují nejrůznější protiepidemické systémy a tabulky, které jako by jen stačilo automaticky zapínat a vypínat.

Pandemie by se dala skvěle zvládat s inteligencí, kdyby se používala… Ani by nemusela být umělá a mohlo by jít vše jako po drátku. Teď to ale nemyslím nějak pejorativně, že bych se chtěl navážet do něčí inteligence. Spíše mluvím o tom, že pandemie, ačkoliv se to nezdá, je relativně exaktně popsatelný jev. Na rozdíl třeba od ekonomické či geopolitické krize nebo domácího terorizmu a sociálního napětí. Tady každý kouká, jak je překvapený, jak za něco nemůže, jak se pořád vymlouvá, ale přitom se dá pomocí umělé inteligence a simulace předpovídat a namodelovat, co je potřeba v krizových situacích dělat.

Nechtěl bych dávat volant do rukou nějakému robotu, ale myslel bych si, že řízení krizí na základě přesných dat a konzistentní racionální a ze zpětného pohledu obhajitelné strategie je fantastická věc. Naopak pokus o její management na základě přání otcem myšlenky a snahy nechat obchodníkům před Vánocemi vydělat je přesně ten nesofistikovaný, lokálně pragmatický a ve svém důsledku chaotický způsob řízení. V žádném případě však neříkám, že bych sám dokázal pandemii řídit lépe než někdo jiný. Proto se také o to nepokouším.

Pomohla by tedy v pandemii umělá inteligence konkrétně tak, že by bylo mnohem více dat pro rozhodování, nebo by zvládala i exekutivní kroky?

Ta data jsou k dispozici. Jde spíš o to, že do rozhodování vstupuje lidský faktor spojený s emocemi. Umělá inteligence by měla konkrétní optimalizační funkci, například aby zemřelo co možná nejméně lidí. A ta optimalizační funkce „zachraň co nejvíce osob“ by byla zcela jednoznačná, podle ní by algoritmy dokázaly udělat rozhodnutí, která povedou k zachování nejvíce životů. Potřebuju k tomu umělou inteligenci? Ne, to umějí zvládnout i lidé, jen musejí umět pracovat s přesnými daty, musejí se jimi řídit a musejí mít před sebou právě tu jasnou, objektivní funkci.

Když ale bude jeden říkat, že je potřeba se promořit, další že musíme podpořit ekonomiku na úkor životů seniorů a třetí by doporučoval neomezovat svobodu nenosit roušku nebo hlásal nějaké podobné nesmysly, tak se pak lidstvo ve výsledku chová výrazně hloupěji, než by se při řízení pandemie chovala umělá inteligence s jasně danou optimalizační funkcí. Ta by pak dokázala zachránit více životů. 

Pak je otázka, jak jednoznačně lze nadefinovat nějaký cíl. Při snaze zachránit co nejvíce životů by se třeba umělá inteligence mohla snažit nějak omezovat automobilovou dopravu, protože při ní umírají lidé. Neobejde se nakonec právě takové stanovení priorit bez politického rozhodování?

To je falešný argument. Transatlantická civilizace má v sobě po druhé světové válce hluboce zakořeněnou úctu k lidskému životu a solidaritě se slabšími. Takže nadefinovat si tu funkci, aby na COVID-19 umřelo co nejméně lidí, není žádné velké šarlatánství. Když se do toho začne cpát třeba ekonomika, tak to nám dává prostor dělat si v podstatě, co chceme. Navíc je nesmysl si myslet, že by někdo, kdo preferoval ekonomiku, měl nakonec víc ekonomiky. Bez zdravých lidí a otevřených obchodů nám hospodářství stejně nebude nefungovat.


Debatu na téma AI v Česku budete moci sledovat v přímém přenosu, stejně tak pokládat dotazy panelistům. Akce začíná 27. ledna ve 14:30 >>>


Hluboce zkrátka věřím, že je pandemie koronaviru matematicky, datově, algoritmicky a po stránce predikcí jednodušší problém, než si myslíme. To se ale dívám pouze na epidemii, argument s automobily však za jiné situace dává velký smysl, tam to takhle nejde a umělá inteligence by tam fungovat nemohla. K tomu bych si dovolil ale obecnější poznámku.

A to?

Spoustu lidí debatuje, jestli nás může umělá inteligence ovládnout, jestli nastane nějaká technologická singularita (bod, odkud není návratu – pozn. aut.). Vizionáři z Kalifornie říkají, že umělá inteligence bude poslouchat člověka do té doby, dokud bude člověk zodpovědný za optimalizační funkce. Tedy dokud bude mít člověk v ruce stanovení té hodnoty, na kterou má algoritmus optimalizovat, tak pořád ještě dobrý. Byť se může stát, že ji stanoví špatně.

Můžete uvést příklad?

Optimalizace algoritmů v sociální síti na peníze vlastně ukázaly, že výsledkem je propagování lží a výzev k násilí. Což nikoho nenapadlo, když se ty algoritmy psaly. Dnes se řada velkých technologických firem, které u toho stály, stydí a přijímá svůj podíl viny.

Existuje od těchto nezamýšlených důsledků cesta zpět?

Jsou cesty jinam, ne zpět. Ten ekonomický model je zabetonován, navíc akcie technologických firem mají drobní střadatelé, penzijní fondy, vlády... Prostě nejde si říct, že by to najednou nebylo. Zároveň je tu ale regulátor, který má nějaké pravomoci v oblasti usměrňování bezpečí a svobody lidí. V neposlední řadě je tu ale poptávka lidí. Ti se můžou rozhodnout používat jinou sociální síť, a tím se začnou věci řešit. Ale že by někdo přišel Facebooku říct, ať jiným způsobem prodává reklamu, to úplně nejde.

Zmínil jste problém technologické singularity. Domníváte se, že lidstvu opravdu hrozí? Třeba v nejbližších padesáti letech?

To jste moc hodný, že jste zmínil konkrétní časový termín. Myslím, že v nadcházejícím půlstoletí to nehrozí. Existuje argument, že technologická singularita nemůže nikdy nastat? Podle mě ne, ale do doby, než by mohla nastat, se toho může odehrát ještě spoustu. Třeba i něco, co by singularitě zamezilo. Například ekologická katastrofa.

Jak velký problém představují limity takzvaného hlubokého učení, tedy jednoho ze způsobů strojového učení? Řada odborníků varuje, že AI je tak sice dokáže docházet k novým výsledkům a poznatkům, nikdo ale pak neví, jak k nim přesně došla.

Jak pro koho a jak kdy. To je dnes vědecké téma. Třeba v tom rozpoznávání obrazu při řízení automobilu je „nevysvětlitelných“ algoritmů hlubokého učení navigující auto relativně hodně a v podstatě nám to nevadí. Nezaznamenáváme kvůli tomu moc chyb ani úmrtí. Zároveň jsou jiné oblasti jako medicína, kde operovat, diagnostikovat nebo nasazovat léky podle komplikovaně ověřitelných kroků je něco, co jsme si ještě nevyzkoušeli. A je to něco, co podle mě regulační orgány nebudou chtít nikdy povolit.

Ze své práce v Avastu mám zkušenost, že kdy se snažíme pomocí umělé inteligence brutálním způsobem pomáhat bezpečnostním analytikům, kteří se zaměřují na síťový provoz a odhalování malware (škodlivý software – pozn. aut), jsou pro ně poprávu nedůvěryhodné hypotézy, které nemají jednoznačné zdůvodnění.

Pandemie ukázala na potřeby a přínosy digitalizace. Kde všude vidíte prostor k praktickým vylepšením technologií a způsobu jejich využití?

Pandemie je silný jev, který tlačí na to, že se spoustu věcí musí dělat jinak. Od nakupování přes chození na poštu a řízení státních úřadů po podepisování smluv. A s tím je spojen tlak na technologie, které něco takového umožňují. Ať už jde o uznatelné podpisy nebo komunikátory na společnou práci. Nám se zdá, že když jsme na Zoomu (na této platformě rozhovor probíhal – pozn. aut), tak je vše vyřešené.

Ale přitom u něj existuje spoustu nehotových věcí v oblastech spolehlivosti, bezpečnosti, nahrávání… Zlepšovat se dá také umocnění pocitu, že jsme tady všichni dohromady, stejně jako třeba možnost sdílet artefakty, o kterých se bavíme… je toho šíleně moc. Můžete mít třeba pět lidí v místnosti, pět lidí na Zoomu a snažit se dosáhnout toho, aby měli všichni stejný zážitek. Těžký, hrozně těžký technologický problém.

Vy jste možná čekal, že budu mluvit o nějakých raketách létajících na Měsíc. Ale udělat něco jako Zoom, kde si na tom mítinku budeme všichni rovni a budeme mít možnost na něm sedět a zároveň být mimo, to budou lidi chtít. To bude důležité, a to tady ještě není.

Michal Pěchouček (49)

Přední odborník na problematiku umělé inteligence a technický ředitel společnosti Avast. Před nástupem do Avastu působil více než dvacet let jako profesor na Fakultě elektrotechnické ČVUT v Praze, kde vedl Katedru počítačů a tamtéž v roce 2001 založil centrum umělé inteligence AI Center, které řídí dodnes. V roce 2009 založil spolu s Martinem Rehákem bezpečnostní startup Cognitive Security. Ten později koupila společnost CISCO Systems.

S předplatným můžete mít i tento exkluzivní obsah