Původně to vypadalo na přísná pravidla, nyní se ale zdá, že evropská regulace umělé inteligence může být ve výsledku velmi mírná. Proti dosavadnímu směru v přípravě legislativy se totiž postavily velké členské státy – Francie, Německo a Itálie. Je pravděpodobné, že Evropa nestihne legislativu schválit do červnových voleb, kdy se budou vybírat noví členové Evropského parlamentu a posléze i Evropské komise.
„Ano, jednání se dostala do kritické fáze. Pozice některých velkých států se v posledních týdnech změnila,“ potvrzuje zvrat v jednání europoslankyně Dita Charanzová, zvolená za hnutí ANO, se kterým ale v červnu ukončila spolupráci.
Jednání jsou aktuálně ve fázi trialogu, vyjednávají tedy mezi sebou Evropský parlament (EP), Evropská komise (EK) a Evropská rada na základě mandátů schválených v minulosti. Evropská komise na materiálu pracovala od roku 2019, Evropská rada pod taktovkou Ivana Bartoše na konci loňského roku v době českého předsednictví přijala společnou pozici navzdory kritice ze strany českého byznysu. Evropský parlament přijal svou pozici letos v červnu.
Velké státy prosazují princip samoregulace
Nyní se ale velké členské státy EU snaží protlačit přístup, podle něhož by se velké jazykové modely podobné ChatGPT od Open AI nebo Claude od Anthropicu měly samoregulovat, tedy jejich tvůrci by se měli zavázat k dodržování bezpečnostních pravidel na dobrovolné bázi. Jde o velký obrat, dosud se totiž jednalo o poměrně přísných pravidlech, která počítala s přístupem na základě vyhodnocování rizik – čím větší riziko konkrétní aplikace umělé inteligence pro lidi znamenají, tím náročnější podmínky by bylo nutné splnit. Několik využití, jako například použití AI pro obdobu čínského sociálního kreditního systému, který sleduje a skóruje chování lidí, by mělo být kompletně zakázáno.
„Španělské předsednictví a EK se pokusily o další vyjednávání. Nový návrh EK zachovává odstupňovaný přístup EP, ale nařízení podstatně zmírňuje. Ačkoli se očekává odpor EP, zdá se, že text bude nyní základem pro další jednání mezi institucemi,“ popisuje výzkumnice Silke Maes z organizace Europeum. Expertka se domnívá, že náhlá změna stanoviska tří velkých států jednání zcela určitě zdrží a je možné, že se vyjednávání nedotáhnou před červnovými volbami. Zároveň ale dodává, že z důvodu důležitosti legislativy nikdo nechce, aby vyjednávání dopadla fiaskem.
„Na příští středu je naplánován poslední trialog, zda na něm skutečně dojde k dohodě, ale v tomto okamžiku nedokážu odhadnout,“ říká pirátský europoslanec Marcel Kolaja, který se v Evropském parlamentu regulaci AI věnoval. „EU se považuje za průkopníka a globálního regulátora v oblasti umělé inteligence. Neuzavření dohody o tomto stěžejním právním předpisu by bylo pro unii hořkou pilulkou,“ hodnotí Maes.
Mike O’Sullivan, novinář magazínu Forbes, se domnívá, že pokud by nedošlo k finální dohodě příští středu, tedy 6. prosince, už se nepodaří legislativu dotáhnout do voleb v červnu. To by zřejmě znamenalo změnu přístupu jak Evropského parlamentu, tak i Evropské komise, jelikož se očekává, že se přeskupí politické síly v EU.
Protestují domovské země AI firem
Změna názoru u zmíněných zemí zřejmě nepřišla jen tak zčistajasna. Právě Francie a Německo jsou domovské státy zřejmě dvou nejdůležitějších původně evropských AI firem – Mistral AI a Aleph Alpha. Společně s nimi za jemnější regulaci lobbují i velké technologické firmy ze Spojených států, které buď vyvíjejí AI modely, či investovaly do firem, které v tomto ohledu patří k lídrům oboru.
Velké členské státy nyní prosazují, aby firmám provozujícím modely typu ChatGPT nehrozily žádné sankce a aby připravovaný Úřad pro umělou inteligenci místo dohlížení na dodržování pravidel pomáhal firmám dodržovat samoregulaci a vytvářel příklady dobré praxe. „Chceme-li hrát v nejvyšší světové lize umělé inteligence, musíme regulovat aplikace, a ne technologie,“ uvedl za navrhovatele německý ministr pro digitalizaci Volker Wissing.
Regulace ChatGPT a dalších modelů se do legislativy dostala až v červnu v Evropském parlamentu. V současné chvíli se také diskutuje o podmínkách, jak definovat pokročilé modely obecné umělé inteligence.
