Expert z Cambridge nastínil 7 rizik umělé inteligence. Brzy se má změnit svět, jak ho známe

Ilustrační foto

Ilustrační foto Zdroj: profimedia

CeBit 2017
2 Fotogalerie
Jan Vávra

Obavy, že technologický pokrok připraví lidi o práci, provází lidstvo dlouhá léta. Ředitel centra pro studium dopadů umělé inteligence při univerzitě v Cambridge Seán Ó hÉigeartaigh však upozorňuje, že současný rozmach umělé inteligence a robotizace probíhá natolik rychle, že pro lidstvo představuje zcela nové výzvy. A zdaleka se netýkají jen trhu práce.

"Před třinácti lety bylo vrcholem pokroku vozidlo, které v rámci dakarské rallye dokázalo samo ujet 18 kilometrů v poušti. Skutečnost, že v současnosti už autonomní vozy pronikají do běžného provozu, jenom podtrhuje, jak se věci hrozně rychle mění. Musíme ale například domyslet, co se stane s těmi miliony řidičů, které v důsledku těchto trendů přijdou o práci. Rychlost té změny zkrátka přestává být jen vědeckou záležitostí a má dopad na celou společnost," uvedl ve své přednášce na akci Innovation Summit Prague Seán Ó hÉigeartaigh.

Právě jeho pracoviště při univerzitě v Cambridge se snaží být příkladem toho, že k pochopení nastávajících změn jen technické vzdělání nestačí. Institut se snaží o interdisciplinární přístup propojováním odborníků na kybernetiku s filozofy a sociálními vědci. Část náhledu na to, které aspekty institut řeší, nastínil Ó hÉigeartaigh v rámci své přednášky.

Níže následuje výčet těch aspektů fungování zemí prvního světa, jež mohou s dalším rozvojem umělé inteligence projít zásadní změnou. A ne nutně k lepšímu, varoval vědec.

1. Redefinice osobních údajů

Umělá inteligence má potenciál výrazně změnit a zefektivnit mimo jiné fungování medicíny a výzkumu, například pomocí sofistikované analýzy lidského genomu a obrovských balíků sebraných dat o fungování organismu konkrétního jedince. Jak tato data uchovávat? Mají být strojově zpracovávána? Co vše spadá do sféry soukromých údajů? "Jde o klíčové otázky, o nichž se v současnosti vede v Británii debata," doplnil Ó hÉigeartaigh.

Podívejte se, co umělá inteligence zatím dokáže:

Video placeholder

CeBit 2017 • Michal Nosek, Jan Pavec

2. Obtížnější interpretace dat

Informační systémy na bázi neuronových sítí v důsledku své složitosti fungují jako černé skříňky, jejichž výstup je stále obtížnější kontrolovat. Mnohdy již neplatí, že vhodná úprava vstupních parametrů povede ke konkrétnímu očekávánému výsledku. Tato jistota zkrátka mizí."Jenže my potřebujeme vědět naprosto přesně, proč který systém funguje, respektive proč dělá chyby. Obzvláště nasadíme-li jej do otevřeného světa," míní vědec. Při řízení dopravy či dalších klíčových prvků měst a států by tak mohly vzniknout doslova nepředstavitelné škody.

3. Nároky na odhalování podjatosti a zkreslení (bias)

Bude nutné si lépe uvědomit, že přestože stroje jako takové mohou fungovat "objektivně", pracují s daty, která mohou být určitým způsobem zkreslená. "Zdaleka nejde jen o média a zpravodajský obsah, s nímž otázky neobjektivity často spojujeme. Problém se může týkat třeba i bankovnictví, kde algoritmy vyhodnocují solventnost klientů. A mohou tak učinit způsobem, co povede k větším nerovnostem ve společnosti. Při rozhodování o tom, komu dají úvěr, mohou například bezděčně upřednostňovat bílé muže středního věku," vysvětlil expert.

4. Nové hrozby spojené s hackováním

Umělá inteligence může výrazně zvýšit zabezpečení počítačových systémů a naučit se neustále hledat a zacelovat možné díry. Na druhou vyvstává otázka, zda nemůže také sloužit hackerům a systematicky vyhledávat slabá místa – nikoliv aby je zacelila, ale zneužila.

5. Nové způsoby manipulace informacemi

Pokročilé algoritmy umělé inteligence potenciálně zjednodušují cílenou manipulaci či šíření dezinformací. "Je například otázkou, do jaké míry ovlivnila personalizace reklamy a sdělení na sociálních sítí výsledek amerických prezidentských voleb či britské referendum o vystoupení z EU. Je to možná přehnaný příklad, nicméně stále jsme na začátku. Co se stane s demokracií, až politické kampaně dokáží 'ušít' propagační sdělení na míru úplně každému člověku? Svět je navíc plný informací, natolik, že je lidský mozek nedokáže vstřebat a musí mezi nimi třídit. A to nyní často dělá umělá inteligence - ať už jde o služby Googlu, Facebooku či dalších platforem," řekl Seán Ó hÉigeartaigh.

6. Ztráta pracovních míst v důsledku automatizace

"S dalším technologickým pokrokem samozřejmě vznikají i nová pracovní místa. Další otázkou ale je, jestli nakonec robotizace nepromění také ty pracovní pozice, o nichž se jako o ohrožených tolik nemluví. Typicky jde o práci takzvaných bílých límečků. Algoritmy ji mohou natolik zefektivnit, že v kancelářských či tvůrčích profesích bude potřeba výrazně méně lidí," argumentuje Ó hÉigeartaigh.

7. Zvýšení nerovnosti

S úbytkem významu lidské práce může dojít k rychlejšímu přesunu bohatství od pracujících k vlastníkům kapitálu.Podle vědce z Cambridge zároveň budou nabývat na důležitosti alternativní socioekonomické koncepce jako například nepodmíněný základní příjem.