Evropský parlament chce významně omezit legální možnosti využití umělé inteligence. Z vyjednávacího postoje k zákonu o umělé inteligenci přijatého ve středu vyplývá, že chce například zcela zakázat systémy umožňující vzdálenou biometrickou identifikaci v reálném čase. Legislativa také vymezí vysoce rizikové druhy AI, na které se budou vztahovat přísnější podmínky.
Zákon obsahuje řadu regulací. Základní modely, jako jsou ChatGPT a Midjourney, dostanou speciální povinnosti, které se týkají posuzování rizik a možného zkreslování a opatření pro správu dat. Budou také muset informovat, že obsah je vytvořen umělou inteligencí, a pomáhat rozlišovat deep-fake snímky od skutečných.
Vznikne také kategorie vysoce rizikových umělých inteligencí. Nebudou zcela zakázané, ale výrazně se zvýší nároky na vstupy a vznikne pro ně přísnější legislativa. Na seznam přibyly třeba systémy využívané k ovlivňování voličů a výsledků voleb.
Zákon zcela zakáže kriticky rizikové systémy, jako jsou ty, které mohou působit diskriminačně nebo mohou zasahovat do soukromí. Jedná se například o prediktivní policejní systémy, systémy rozpoznávání emocí v oblasti prosazování práva nebo při přestupování hranic či systémy vzdálené biometrické identifikace v reálném čase na veřejných místech.
Právě v této oblasti nastává hlavní rozkol mezi jednotlivými evropskými frakcemi. Skupina Zelených, kam spadají například Piráti, pevně stojí za tím, že vzdálené biometrické sledování, tedy kamery rozpoznávající obličeje na veřejném prostranství, zásadně narušují soukromí a mohly by být zneužity.
Zato frakce Evropské lidové strany navrhovala, aby se do pozice parlamentu zahrnula výjimka. Kamery k rozpoznávání obličejů by tak podle nich bylo možné využívat k určení totožnosti pachatelů trestných činů, za které lze v dotčené členské zemi uložit trest v horní hranici sazby v délce nejméně tří let, k zabránění teroristického útoku nebo k vyhledávání pohřešovaných osob včetně dětí.
Europoslanci frakce Evropské lidové strany argumentují, že v určitých chvílích by využití v reálném čase možné být mělo. „Stane se teroristický útok, máme podezřelé a soud vyhodnotí, že můžete systém využít. Využijete software v reálném čase pouze po omezenou dobu,“ tvrdí Tomáš Zdechovský.
V takový moment například podle europoslankyně Michaely Šojdrové (KDU-ČSL) má bezpečnost přednost před možným zneužitím. „Jsme ve střetu s kolegy. Když je to otázka bezpečnosti, nebo ochrany bezpečnostních údajů, pro mě je důležitější bezpečnost,“ tvrdí. Připouští, že vzniká otázka u diktátorských režimů, které by toho mohly zneužít, v Evropské unii podle ní ale nic takového nehrozí.
„Sráží se zde dva světy, jeden svět maximálního soukromí, druhý svět bezpečnosti,“ říká místopředsedkyně evropského parlamentu Dita Charanzová (ANO). I podle ní by měla být možnost tuto AI v ojedinělých případech v reálném čase využívat a Evropský parlament jde podle ní v této oblasti se zákazy až příliš daleko.
Současný návrh počítá s tím, že zpětné rozpoznávání ze záznamu na příkaz soudu možné bude. „Nebylo by možné plošně na veřejném prostranství provádět rozpoznávaní obličejů. To by podle našeho názoru vedlo k plošnému šmírování,“ vysvětluje europoslanec Marcel Kolaja (Piráti).
„Když vidím, jak jsou tyto systémy zneužívané třeba v Rusku, kde režim zjišťuje, kdo jde na protiválečné demonstrace, a potom tyto lidi perzekvuje, tak se upřímně děsím toho, jak by tento systém mohl využívat třeba Viktor Orbán,“ popisuje Kolaja. Návrh je tak podle něj dobrým kompromisem, který využití systému umožňuje, ale také nastavuje jasnou bezpečnostní pojistku proti zneužití.
Výsledná podoba se tak zřejmě bude ladit v trialogu s jednotlivými národními vládami. Například Francie původně technologii rozpoznávání obličejů chtěla využít pro olympiádu v Paříži, ačkoli od toho ustoupila.
Skupina EPP podle zpravodaje návrhu Branda Benifeie (Progresivní aliance socialistů a demokratů) zmiňovaná opatření navrhuje pouze z volebních důvodů.
Mezi umělé inteligence s vysokým rizikem byla zařazena AI ve vzdělávání. Konkrétně v případech, kdy by měla být AI využita například k rozeznání předpokladů studenta ke studiu na dané škole nebo k rozeznání podvádění studenta při skládání zkoušek, tedy takzvaný systém e-proctoringu.
„Hodně se rozjel v době pandemie, kdy studenti museli zkoušky z logických důvodů skládat online. Tím pádem všechny vzdělávací instituce narazily na to, jak kontrolovat, jestli studenti nepodvádějí při zkoušce,“ říká Kolaja. V Česku tento systém využívá například Scio.
Někteří studenti by podle něj mohli být diskriminováni, pokud například žijí v hlučném prostředí nebo mají zdravotní handicap, protože systém může pochybit. Proto podle něj bude postatné u těchto technologií rozšířit a zkvalitnit vstupní data tak, aby umělá inteligence situace, kdy může skutečně docházet k podvádění, správně odlišila od jiných jevů.
Nyní začnou vyjednávání s členskými státy, podle Benifeie by úvodní trialog se švédským předsednictvím měl začít bezprostředně po hlasování. „V parlamentu vidím velkou podporu pro to, abychom zkrátili dvouletou lhůtu, která se nyní předpokládá pro celou implementaci zákona. Nemůže to trvat méně než jeden rok, to víme, ale potřebujeme trochu urychlit celý proces, abychom si byli jisti, že zákon o umělé inteligenci bude relevantní,“ vysvětluje Benifei. Domnívá se přitom, že by trialogy mohly být uzavřené do konce roku.
