Pravidla pro AI jsou nutná, zužují ale hrací plochu. Není to až příliš?
Svět se ještě ani nerozhodl, jestli je umělá inteligence nafouknutá bublina, nebo opravdová budoucnost, a Evropská unie už spustila první fázi její regulace. Zatím se většiny firem spíš nedotýká, ale co není dnes, může být zítra. Nová pravidla zasahují hlavně oblast lidských zdrojů, tedy přijímání a propouštění ze zaměstnání, hodnocení výkonů a další personalistické úkony.
AI Act, jak se evropská regulace jmenuje, zjednodušeně řeší hlavně to, aby se umělá inteligence nezneužívala ke sledování lidí, neškodila při jejich hodnocení, výběru potenciálních zaměstnanců či příjemců bankovních půjček nebo při vyhodnocování emocí. Něco bude zakázané, něco regulované. Zjednodušení je nutné, protože výčet, co se nesmí nebo bude regulováno jako takzvaně vysoce rizikové, je obří. A k tomu ještě mnohdy nejasný.
Jak říká advokát PRK Partners Daniel Vejsada, AI Act je poměrně dlouhý, komplikovaný a svým obsahem dost technicistní. „Jak je již obvyklé, mnoho pojmů a povinností zůstává bez detailního obsahu, který bude určen až následnou praxí dozorových orgánů,“ zdůrazňuje. Nebo závaznými pokyny.
Jak k tomu ta AI vlastně došla?
Složité je to i s postupnou účinností. Každopádně už od počátku února se měly firmy vzdát těch praktik, které jsou vysloveně zakázané. Jejich výčet je poměrně široký a opět místy ne zcela jasný. Naprosto nepřípustné bude například použití AI v systémech, které využívají třeba podprahových technik v komunikaci, vyhodnocující emoce na pracovišti nebo ve školách, vytvářejí či rozšiřují databáze obličejů, třídí lidi podle jejich fyzických schopností nebo vyhodnocují, zda by mohli spáchat trestný čin.
Velké firmy s touto fází nejspíš problém mít nebudou. „Aktuálně užívané nástroje nespadají do kategorií zakázané postupy ani vysoce rizikové systémy AI ve smyslu vámi zmíněného aktu o umělé inteligenci,“ uvedla tisková mluvčí ČEZ Alice Horáková.
Proč vlastně použití AI k takovým účelům považuje unie za škodlivé? Odpověď lze najít v úvaze, že na rozdíl od klasického algoritmu u AI nelze vždy jasně dopátrat, jak došla k výsledku. Tedy zda se například nerozhoduje podle kritéria, které by bylo diskriminační. Proto by se neměla používat pro rozhodování o lidech, a už vůbec ne k jejich sledování.
Časem regulace přitvrdí. Vedle zakázaných praktik bude postupně nabývat na důležitosti kategorie takzvaně vysoce rizikových. Ty budou povolené, ale například s nutností vytvořit systém k řízení rizik, zavést k použitým nástrojům technickou dokumentaci a výstupy AI systému zaznamenávat. A také zajistit lidský dohled. Mezi vysoce rizikové aktivity může typicky patřit třídění životopisů uchazečů o práci, eventuálně jejich hodnocení. Stejně tak může být problematické hodnocení výkonu a chování ze strany AI systému, pokud se použije pro nějaké rozhodnutí, třeba o kariérním postupu nebo rozvázání pracovního poměru.
„Firmy budou muset zajistit auditovatelnost, vysledovatelnost dat a splnit přísné požadavky na bezpečnost a transparentnost rozhodování AI systémů. To s sebou nese nejen vyšší administrativní a finanční náklady, ale i nutnost zavedení robustních procesů řízení rizik,“ upřesňuje Ivo Růžička, generální ředitel společnosti Unicorn Business Systems. Také zmiňuje důležitost transparentnosti. Společnosti budou muset například jasně označit, když AI ovlivňuje výběr uchazečů o zaměstnání.
Samozřejmě bude vždy záležet na konkrétním případu. Například v České spořitelně pilotně AI využili při třídění životopisů při výběrovém řízení pro takzvané stínové představenstvo. „Nicméně s ohledem na to, že AI byla pouze podpůrným nástrojem a po celou dobu analyzovali došlé přihlášky také naši HR experti, nebylo toto využití v rozporu s novým EU aktem,“ upozorňuje mluvčí Filip Hrubý. A zdůrazňuje, že pro vyhodnocení úvěrové kredibility klientů spořitelna AI nevyužívá. Naopak s ní pracuje u analýz velkých souborů anonymizovaných dat a poměrně intenzivně pak v kybernetické bezpečnosti. Právě oblast ochrany proti kyberkriminalitě u finančních služeb je výslovně uvedena jako ta, kde je využití AI povolené, připomíná Hrubý. Včetně například analýz typické haptiky (doteků) klientů při využívání bankovních aplikací.
Regulace AI by neměla brzdit inovace
Regulace vysoce rizikových aktivit bude přicházet postupně a lze předpokládat, že stejně tak i praxe, která porušení vyhodnotí. A vznikne i třetí kategorie nízkorizikových aktivit, její regulace ale bude mírná. Daniel Vejsada se domnívá, že na trhu už brzy mohou být nástroje, které nařízení porušují, a uživatelé ani jejich poskytovatelé si toho nebudou muset být vědomi. A uvádí příklad: AI systém, který analyzuje došlé životopisy a motivační dopisy, hodnotí uchazeče a automaticky třídí kandidáty do kategorií jako „vhodný k pohovoru“, „možná vhodný“ a „nevhodný“, nebo dokonce nevhodné uchazeče sám vyřadí. Případně AI chatbot, který vede počáteční rozhovory s uchazeči, analyzuje je a rozhoduje, kteří postoupí do dalšího kola.
To vše bude možné používat, ale za dodržení výše stanovených podmínek. Podle firem je pak důležité, aby regulace směřovala jen tam, kam má. Jak například uvádí společnost Siemens, musí se jasně odlišovat B2B (obchodníci mezi sebou) od B2C (obchodník ve vztahu k zákazníkovi). Zdůrazňuje také, že je důležité neregulovat umělou inteligenci jako takovou ani matematické modely, ale její využívání tak, aby neohrožovalo zdraví, bezpečnost ani jiná práva a nebylo možné ji zneužívat. Podle Siemensu by „regulace umělé inteligence neměla brzdit inovace, naopak by je měla stimulovat“.
A právě této brzdy se mnozí obávají. Růžička navíc zmiňuje, že regulace přinese i řadu nákladů, a připomíná, že transparentnost algoritmů klade důraz na vysvětlitelnost rozhodovacích procesů, což je u složitých modelů, jako jsou hluboké neuronové sítě, velký problém. Často totiž fungují jako black box a jejich rozhodování je podle něj obtížné vysvětlit i pro jejich tvůrce.
„Zavedení AI Actu zvyšuje úroveň zabezpečení informací a chrání uživatele před zneužitím umělé inteligence. Na druhou stranu mám ale obavy z další a další regulace, která klade na evropské firmy takové administrativní a finanční nároky, že se stávají neschopnými konkurovat zbytku světa. Zatímco USA a Asie inovují a rozvíjejí AI bez podobných omezení, Evropa se může dostat do situace, kdy se ‚ureguluje k chudobě‘. Pracujeme na vytváření prostředí tak složitého a nákladného, že se z Evropy stává skanzen,“ shrnuje generální ředitel Unicorn Business Systems Ivo Růžička. A dá se předpokládat, že s podobnými obavami nebude sám.
