Použití umělé inteligence při náboru zaměstnanců může přinést obří pokutu

„Už teď by si ale firmy měly zvážit, zda se jim její zavedení v regulovaných oblastech vyplatí,“ říká advokát. Nepřijatelně rizikové způsoby využití AI systémů nařízení zakáže, systémy s vysokou mírou rizika zatíží významnou právní regulací a některé požadavky klade i na systémy rizikové málo.

Mezi zakázané použití AI tak budou patřit například systémy využívající podprahových technik, systémy sociálního kreditu, nebo vytvářející databáze k biometrické identifikaci. Pikantní je zákaz tam, kde AI dokáže odvozovat emoce osob, a to na pracovišti nebo v rámci vzdělávání. „Z tohoto důvodu také není v Evropě dostupná funkce Chat GPT, jejímž prostřednictvím si s ní lze povídat. Protože umí právě reagovat na emoce,“ upozorňuje Vejsada.

Pokud by systémy AI někdo použil k zakázaným účelům, hrozí pokuty až do 35 milionů eur či sedmi procent ročního obratu. V případě porušení ostatních pravidel pak obecně až do 15 milionů eur nebo tří procent obratu.

V oblasti lidských zdrojů, tedy HR pak bude mezi vysoce rizikové patřit například využití AI k hodnocení a výběru uchazečů o zaměstnání nebo o nárocích zaměstnanců, jejich pracovním postupu, přidělovaných úkolech, ohodnocení pracovní výkonností či o jiných skutečnostech, který budou mít přímý dopad na jejich práva. S takovými vysoce rizikovými systémy se pak bude vázat velké množství povinností, například zavedení systému řízení rizik, lidského dohledu, evidence výstupů, hodnocení kvality a podobně.

„Zaměstnavatelé by si pak již dnes měli nastavit pravidla pro své zaměstnance týkající se využívání AI nástrojů,“ uvádí advokát s tím, že jejich živelné použití se v praxi významně rozšiřuje. Může to ovšem vést například k úniku citlivých či osobních údajů či pochybeních při výkonu práce. Pokud si zaměstnavatelé jasná pravidla nenastaví, půjde pak o to složitěji postihovat zaměstnance, který způsobí problém či přímo škodu.

Regulace je podle Vejsady dost složitá, což ale – jak připomíná – u evropských směrnic bývá. Nabývat účinnosti bude v průběhu dvou až tří let.

Zásadní otázka také zní, co to vlastně umělá inteligence je a co do této oblasti padá. Podle advokáta je hlavní rozdíl mezi ní a klasickým algoritmem dvojí. Za prvé mají algoritmy jasný postup a je u nich jasné, jak se od zadání dostaly k výsledku. Proto je také u nich relativně snadné najít a opravit chybu. Naopak u AI to jasné není a je tak poměrně nepředvídatelná. „My vlastně nevíme, jak udělala ze zadání výstup,“ říká. Za druhé má AI schopnost odvozování, pokud objeví i jiné, než předem naprogramované prvky pro své rozhodování.

Regulace dopadne primárně na poskytovatele produktu, ale může dopadnou i na zavádějící osoby, které takový produkt zabalí do některého svého.