Na nástup umělé inteligence nejsme připraveni, říká prorektor Masarykovy univerzity Polčák

Evropský akt o umělé inteligenci (AI Act) vstupuje do fáze ostré implementace. Od letošního srpna začíná platit klíčová povinnost explicitně označovat obsah vygenerovaný umělou inteligencí. Evropa se tak pokouší nastavit mantinely technologickým gigantům. „Je důležité vyzdvihnout, že jde o evropské nařízení. Kdyby šlo jenom o české právo, tak se s námi nikdo nebaví,“ zamýšlí se v rozhovoru pro e15 nad dodržováním nového pravidla přední český expert na technologické právo Radim Polčák, prorektor Masarykovy univerzity, který nedávno oznámil svou kandidaturu na rektora této brněnské vysoké školy. 

Vy jste založil a vedl na Právnické fakultě MU Ústav práva a technologií, což byla ve své době v Česku ojedinělá věc, v Evropě šlo o jeden z mála podobných počinů. Čím jste se tenkrát v roce 2010 inspiroval?

Ta inspirace přišla právě ze zahraničí. Podobný špičkový ústav fungoval v Norsku na univerzitě v Oslu a vynikající pracoviště vybudovali rovněž v Německu na univerzitě v Hannoveru. Nicméně nebylo to tak, že bychom se snažili někoho kopírovat, naše podmínky byly hodně specifické.

Co bylo tím důvodem pro vybudování ústavu? Společenská situace, nástup technologií?

Byla to praktická potřeba. Právu informačních technologií jsem se věnoval od začátku kariéry – na to téma jsem psal diplomovou práci a bylo předmětem i mého doktorského studia. Viděl jsem, jak je ta oblast perspektivní a jaký má obrovský potenciál. Pak začali přicházet ostatní kolegové a kolegyně, kteří se věnovali podobným tématům, a když jsme viděli vývoj v Evropě, bylo jasné, že musíme být konkurenceschopní.

Patnáct let poté si myslíte, že jsme připraveni jako společnost na nástup umělé inteligence?

Nejsme. Žádná společnost na to není připravená. Je to takové klišé říkat, že právo klopýtá za technologickým vývojem, ale ono je to úplně v pořádku. Právo musí jít trochu za ním, protože vždycky je dobré mít nejprve praktickou zkušenost, jak technologie fungují. Teprve potom můžeme přemýšlet o právní regulaci. Kdybyste po nás jako po právnících chtěli, abychom předvídali technologický vývoj, tak by to dopadlo velmi špatně.

Vláda otevírá cestu k české AI gigafactory za 100 miliard. Vyrůst má v Praze na Zbraslavi

Domácí

Vzhledem k dopadům do společnosti, o nichž jste mluvil, není to vlastně tak, že jako peníze udělaly chudé a bohaté, tak i schopnost osvojit si práci s umělou inteligencí bude tvořit rozdíly mezi lidmi? Že budou ti, kteří budou digitálně majetní, a na druhé straně ti, kteří nebudou čerpat výhody z digitálního věku?

Jednoznačně ano, ale to je fenomén digital divide, který už známe někdy z poloviny 90. let. Byla to právě otázka rozdílu mezi lidmi, kteří byli schopni získat digitální kompetence a měli přístup k technologiím, a lidmi, kteří ten přístup neměli. Je to realita, musíme s tím pracovat. Hlavní výzva s tím spojená míří směrem do vzdělávání. Jde o to, aby lidí schopných pracovat s technologiemi bylo co nejvíce.

Takže rozdíly už jsou?

Vezměme to prakticky. Rodiče mají přirozené schopnosti chránit svoje děti. Ale může to platit jen v oblastech, v nichž jsou schopni se sami zorientovat. Takže vědí, jak zabránit dětem, aby si neublížily v různých situacích doma nebo na hřišti, ale už nemají výbavu, aby byli schopni posoudit rizika umělé inteligence třeba v návykových aplikacích. Takže tím vzděláním jsem měl na mysli nejen vzdělání ve škole, ale potřebu hluboké edukace celé společnosti.

Nečekané výzvy

Jaké jsou tedy příležitosti rozvoje umělé inteligence? Co přinese v příštích letech, možná měsících?

Hrozby a příležitosti jsou vlastně jedna a tatáž kategorie. Nedávno byl u nás na návštěvě předseda kanadského Nejvyššího soudu Richard Wagner a v zahajovací přednášce konference CEELI v Praze říkal, že když v oblasti AI nebudeme sedět u stolu, tak budeme sami na jídelním lístku. Může jít o trh práce, stejně jako o vzdělávání, výchovu mládeže. Nejen hrozbou, ale i příležitostí mohou být stejně dobře i nejrůznější činnosti založené na perverzní kreativitě, tedy kriminalita a tak dále. Teď lze těžko předpokládat, kde všude se ty technologie uplatní.

Čili sami zatím přesně netušíme, kde nás umělá inteligence všude zasáhne?

Když začala jezdit v oblasti San Franciska v experimentálním provozu autonomní vozidla, zjistilo se až dodatečně, že si je často objednávají mladé páry na dlouhé cesty. Bylo to dáno cenou hotelů a dostupností bydlení, která jim oproti relativně dostupným autonomním autům bránila v trávení společného intimního času. Zrovna takovouto výzvu třeba nikdo nečekal.

České firmy chtějí z AI maximum. Narážejí ale na slabá data a chybějící strategii

Technologie a média

Evropské nařízení ohledně umělé inteligence (AI Act) na tom bylo vlastně podobně, když vzniklo dříve, než se tušilo, co bude potřeba regulovat?

Zažil jsem celý vývoj AI Actu a vím, že začal ještě za Junckerovy komise. Tehdy jsem měl i krátce možnost pro ni pracovat jako zvláštní poradce komisařky Věry Jourové. To bylo někdy v roce 2015. Od té doby se technologie AI vyvinuly obrovským způsobem a vždycky se ty změny projevily v chystané podobě nařízení. Víte, osobně beru s rezervou kritiku AI Actu. Její podstatná část přichází od velkých amerických firem, které evropský trh chápou jako Klondike. Ale je pravdou, že ta regulace přišla příliš rychle, protože jsme měli nedostatek zkušeností právě s tím, jak se technologie projeví v různých oblastech života.

Od jara panuje evropská shoda na takzvaném digitálním omnibusu, který některá pravidla upravuje, jiná odkládá. Jak se díváte na tuhle opravu?

Dívám se na ni jako na důkaz, že akt o umělé inteligenci přišel příliš brzy a byl košatější, než bylo nutné. Vlastně děláme novelu ještě předtím, než AI Act vůbec vstoupil v účinnost. Osobně jsem ale za ten takzvaný digitální omnibus rád.

Napadá mě, že vlastně mohou přijít v uvozovkách další omnibusy v příštím půlroce, roce a tak dál. Bude se AI legislativa tímhle způsobem vyvíjet organicky?

Myslím si, že už tak významné změny nepřijdou. Co ale lze očekávat, je fakt, že se bude měnit struktura AI systémů zařazených do takzvaného vysokého rizika, které mají v EU podléhat nejpřísnější kontrole. V AI Actu je možnost, aby Evropská komise legislativním procesem takové změny navrhovala. Spousta věcí je navíc napsaná tak, že vlastně nevíme, jak budou konkrétně fungovat, co od nich očekávat nebo jakým způsobem se mají implementovat v praxi. Takže budeme čekat na judikaturu soudů v členských státech a Soudního dvora Evropské unie. Na spoustu otázek nemáme dnes odpovědi.

Co třeba nevíme?

Když o nás třeba rozhoduje nějaký automat, máme právo na informace o logice toho rozhodování. A když to je systém, který je postavený na strojovém učení, tak je v praxi nevysvětlitelný. Tohle právo máme napsané přitom jak v aktu o umělé inteligenci, tak i v dávno účinném GDPR. Jakou informaci má člověk v takovém případě o logice rozhodování systému dostat, to ale stále konkrétně nevíme. 

Úkol pro giganty

Od srpna bude muset být obsah vygenerovaný umělou inteligencí explicitně označen. Bude to s ohledem na domicil technologických gigantů v USA, na Kajmanských ostrovech a podobně vůbec vymahatelné v EU?

Myslím si, že alespoň ty opravdu velké společnosti, které dělají legální byznys v Evropě, se na to adaptují. Je to proto, že i akt o umělé inteligenci má efektivní mechanismus vymáhání. Tady je důležité vyzdvihnout, že jde o evropské nařízení. Kdyby šlo jenom o české právo, tak se s námi nikdo nebaví. Evropská unie je jako celek velký hráč. Provideři mají sami zájem, aby byli v souladu s tím, co požaduje evropské právo. Problém ale je, že do toho aktu se dostala spousta výjimek. Takže třeba ve zpravodajství mohou být informace vygenerovány umělou inteligencí, aniž by byly označeny. Musí nad nimi být jen dohled člověka – editora, který je, doufejme, překontroluje.

AI Act v USA nikoho nezajímá, varuje vědec Matyáš Boháček, podle kterého už Evropa není velkým hráčem

Rozhovory

Z vašeho pohledu je dobře, že se odsunula platnost některých pravidel v takzvaném vysoce rizikovém systému do prosince příštího roku?

Ano, ale otázka je, jestli to vůbec bude stačit. V řadě oblastí, které spadají do kategorie vysoce rizikových, totiž stále nemáme konkrétní procesy a metodiky, jak k nim vlastně přistoupit. Jsem k tomu trochu skeptický. Když tyto postupy nemáme doteď, představa, že je během roku a půl najednou v daných oblastech zázračně vytvoříme, mi přijde trochu naivní.

Mluví se v této souvislosti o takzvaných sandboxech, tedy uzavřených „pískovištích“ pro vývoj citlivých nástrojů. Jde o ně, nebo v čem je hlavní problém?

Nejde jen o sandboxy. Zrovna Česká republika v jejich přípravě v poslední době hodně pokročila. Tuto agendu dostala na starost Česká agentura pro standardizaci (ČAS) a myslím, že se s tím velmi pohnulo – sandbox bychom tedy byli schopni dát dohromady. Problém je ale v technických podrobnostech. Mít sandbox je jedna věc, ale zajistit, aby opravdu fungoval a byl reálně užitečný pro investory a vývojářské firmy, je věc druhá. Tam si myslím, že bude trvat ještě velmi dlouho, než se vše upraví do prakticky funkčně použitelné podoby.

Dokáže Evropa vůbec ohlídat, aby na její trh proudily technologické produkty z této vysoce rizikové kategorie s evropským certifikátem kontroly, tedy s razítkem CE?

Bude to složité, stejně jako v jiných oblastech. Unie má ale souběžně s touto legislativou velký zájem budovat si své vlastní kapacity. Aktuálně nám například přišla k připomínkování nová legislativa, která je velmi čerstvá. Jde o CADA – Cloud and AI Development Act. Tato úprava má zásadně nakopnout technologický vývoj specificky v Evropě. Cílem je vybudovat kapacity, které budou provozovány evropskými firmami a financovány z evropských peněz. To považuji za podstatnější než samotné vymáhání regulací. Kontrola směrem do zahraničí bude vždycky problematická a plná komplikací. Pokud ale zároveň dokážeme vybudovat evropské kapacity konkurenceschopné vůči těm americkým nebo čínským, je to ta správná cesta.

EU je odtržená od reality, varuje český lobbista Mety. Nový balík regulací mu dává za pravdu

Názory a analýzy

Je to tak, že Amerika a Čína jsou šampioni v inovacích, zatímco Evropa v regulacích? Nezpomaluje nás tento přísný přístup k AI oproti globální konkurenci?

Něco na tom samozřejmě je. Na druhou stranu ta regulace není samoúčelná. Chráníme jí naše civilizační hodnoty. Totéž platí pro byrokracii – každý na ni nadává, ale když má jasný smysl, je užitečná. Je klíčové, abychom regulatorně chránili to, co se dotýká našich evropských hodnot, a abychom si o tom, co se jich může dotknout, mohli rozhodovat sami. Například o tom, jak má vypadat svoboda projevu, bychom měli rozhodovat v Evropě. Neměli bychom přebírat čínský model, kde svoboda projevu téměř neexistuje, ale ani ten americký, který je kulturně úplně odlišný a funguje v úplně jiných podmínkách. Jde tedy o uchování naší kulturní autonomie. A pokud za ni zaplatíme tím, že budeme v některých ohledech o něco pomalejší, je to daň, kterou lze akceptovat.

Držet krok s Evropou

Byl tento rychlý nástup technologií a změny ve společnosti i v právu jedním z impulzů, které vás přiměly kandidovat na rektora Masarykovy univerzity?

Ano, je to tak. Tyto změny se nás totiž bezprostředně dotýkají jako instituce. Ovlivňují naše fungování, to, co a jak učíme, i způsob, jakým organizujeme vědeckou práci. To byl jeden z hlavních důvodů. Je to ale samozřejmě ještě vzdálená budoucnost a takhle zásadní rozhodování ovlivňuje spousta faktorů včetně zdraví nebo rodiny, takže je to z mé strany zatím trochu předčasné.

Když jste záměr kandidovat oznámil, prohlásil jste, že univerzitu vidíte jako instituci, která má přijmout odpovědnost za to, že se Česká republika prosadí v mezinárodní konkurenci. Jakými konkrétními kroky toho chcete dosáhnout?

Jako univerzita máme tři základní role, kterými jsou vzdělávání, vědecká práce a společenská odpovědnost. Když budeme tyto role plnit naplno a využijeme náš potenciál, můžeme výrazně přispět k tomu, aby Česko i celá Evropa byly konkurenceschopné vůči USA a Číně. Uvedu modelový příklad z praxe. Naše univerzita se velmi intenzivně podílela na přípravě právního rámce pro kybernetickou bezpečnost, kde jsme spolupracovali s Národním bezpečnostním úřadem a vládou. Výsledkem bylo, že Česká republika měla legislativu na absolutní evropské špičce. Byli jsme v tom vůbec první v Evropské unii a ostatní státy i samotná unie od nás tento příklad postupně přebíraly. Díky tomu se u nás také mnohem rychleji rozvíjel průmysl zaměřený na nástroje kybernetické bezpečnosti.

To je přesně moment, kdy univerzita skvěle zafungovala díky multidisciplinárnímu výzkumu a spolupráci. Podobně můžeme a musíme pomáhat s dalšími společenskými výzvami – ať už jde o demografickou krizi, stárnutí populace, nebo o nové bezpečnostní hrozby. V těchto oblastech máme jako univerzita obrovské množství znalostí a schopností, které můžeme státu i společnosti nabídnout.