Hlasování v klíčových výborech Evropského parlamentu určilo podobu Aktu o umělé inteligenci. Nová legislativa omezuje využití AI, stanovuje výjimky pro její výzkum a definuje systémy, které budou kvůli jejich rizikovosti zakázány. O finálním návrhu budou hlasovat europoslanci na červnové schůzi Evropského parlamentu.
„Vzhledem k tomu, že umělá inteligence bude mít hluboký transformační dopad na naši společnost a ekonomiku, je Akt o umělé inteligenci velmi pravděpodobně nejdůležitějším právním předpisem aktuálního volebního období,“ uvedl zpravodaj návrhu Dragos Tudorache z liberální frakce Renew. „Usilovali jsme o to, abychom podpořili inovace v oblasti AI v Evropě a poskytli začínajícím firmám, malým a středním podnikům a průmyslu prostor pro růst a inovace a zároveň chránili základní práva, posílili demokratický dohled a zajistili vyspělý systém správy a prosazování AI,“ doplnil.
Základním principem vznikající regulace je přístup, který hodnotí AI systémy na základě rizika pro lidi. Takové AI nástroje s „nepřijatelnou mírou rizika pro bezpečnost osob“ budou zakázané, do této skupiny patří i systémy, které záměrně manipulují, zneužívají zranitelnost lidí nebo by mohly sloužit k tzv. sociálnímu skóre, tedy klasifikaci lidí podle jejich chování nebo socioekonomického statusu.
Mezi takové systémy patří nástroje pro biometrickou identifikaci v reálném čase na veřejně přístupných místech, post biometrické rozpoznávání bude možné pouze v případě souhlasu soudu pro potřeby orgánů činných v trestním řízení. Stejně tak budou zakázány systémy, které například dle pohlaví, rasy, etnického původu, náboženství nebo politické orientace třídí lidi.
Stopku by nová legislativa znamenala také pro prediktivní policejní systémy, systémy rozpoznávání emocí v oblasti práva, ochrany hranic, na pracovišti nebo ve školách. Jako poslední rizikový systém byly identifikovány nástroje, které sbírají na sociálních sítích a na záznamech z veřejných kamer biometrická data pro vytváření databází pro rozpoznávání obličejů.
Europoslanci se také v reakci na rozvoj umělé inteligence typu ChatGPT od organizace Open AI zaměřili na tzv. primární modely. Tvůrci těchto systémů by se v případě schválení legislativy museli zavázat k ochraně základních práv, zdraví, bezpečnosti, životního prostředí, demokracie a právního státu. Také by museli posuzovat a zmírňovat rizika, dodržovat konkrétní podmínky a registrovat se v databázi EU. Na dodržování podmínek bude dohlížet EU AI Office.
Pro schválení pozice Evropského parlamentu hlasovalo 84 europoslanců, 12 se zdrželo a 7 bylo proti. Jedním ze zákonodárců, kteří se zdrželi hlasování, byla Dita Charanzová, česká europoslankyně zvolená za hnutí ANO.
„Obávám se, že návrh svazuje ruce inovacím a vývoji umělé inteligence v Evropě,“ vysvětlila pro E15 důvod, proč není spokojená s výslednou podobou návrhu. „Nesouhlasím se zákazy využívání umělé inteligence, jako je například zákaz používání technologií rozpoznávání obličejů. Doufám, že v nadcházejících jednáních Evropského parlamentu s členskými státy dojde ke změně této části textu,“ prohlásila.
Naopak spokojený je s výsledkem místopředseda EP Marcel Kolaja (Piráti). „Přes odpor konzervativců se nám do kompromisu podařilo dostat například zákaz systémů AI na rozpoznávání obličejů v reálném čase, zákaz systémů sociálního kreditu nebo zařazení tzv. e-proctoringu do kategorie vysoce rizikových technologií,“ uvedl český europoslanec.
Pro výzkum umělé inteligence by měla platit výjimka na základě otevřených zdrojů. Nová legislativa také od členských států požaduje vytvoření kontrolovaného prostředí, díky kterému bude možné testovat bezpečně AI systémy. Europoslanci také chtějí posílit práva občanů a jejich možnosti podání stížnosti na AI nástroje.
Jak funguje ChatGPT?
Finální hlasování v Evropském parlamentu proběhne na plenárním zasedání mezi 12. a 15. červnem. Po schválení přijde na řadu trialog, během kterého zástupci Evropského parlamentu, Evropské komise a členských států EU finalizují konkrétní podobu legislativy.
