Vyspělé státy se mají poprvé v historii dohodnout na pravidlech pro umělou inteligenci. Ta dokáže vyhrávat volby, rozpoznávat příslušnost k etnické menšině, povolovat či zamítat půjčky nebo také odhalovat sklony jedince k nemocem. Tento nástroj budoucnosti má teď přestat sloužit jako bič nedemokratickým režimům. Současně se ale budou muset uskromnit i technologičtí giganti. Česko patří ke špičce vývoje umělé inteligence a podnikatelé se obávají, že by je pravidla mohla omezovat.
Výbor pro umělou inteligenci Rady Evropy právě dokončil první výstupy sloužící jako základ připravované velké smlouvy. Dokument by po několikaletém diplomatickém vyjednávání mělo v roce 2024 podepsat 47 států včetně Ruska, Turecka nebo Gruzie.
Cíl je zřejmý: zabránit zneužívání umělé inteligence. Svět ostatně viděl praktiky společnosti Cambridge Analytica, jejíž systémy pomohly Británii opustit Evropskou unii nebo Donaldu Trumpovi opanovat Bílý dům. Stejně tak bezmocně lídři demokratických států přihlížejí, jak Čína pomocí umělé inteligence skóruje své obyvatele či odhaluje členy ujgurské menšiny.
„Složitost dohody bude v tomto případě větší než kdykoli předtím,“ usuzuje vysokoškolský pedagog a odborník na dezinformační kampaně Bohumil Kartous.
Pravidla pro umělou inteligenci mají být například taková, že lidé získají nárok vědět o nasazení systému při rozhodování o jejich záležitostech. Měli by také dostat na výběr, zda třeba v telefonních hovorech nebo jednáních s bankami či pojišťovnami s nimi bude jednat robotický systém, nebo živý člověk. Součástí návrhu je i právo se proti rozhodnutí umělé inteligence odvolat.
Stěžejní část pravidel ale míří proti nedemokratickým režimům a technologickým gigantům schopným manipulovat veřejným míněním. Online platformy by měly dostat zvláštní, dosud neupřesněnou kontrolu. Zakázány mají být také aplikace vyhodnocené jako rizikové pro lidská práva, jako jsou rozpoznávání emocí či sociální bodování.
Už nyní mají ale podklady pro smlouvu mezery, které dávají autoritativním režimům šanci uniknout. Na druhé straně díky oněm „dírám“ bude možné tyto režimy přimět smlouvu podepsat a mnohá pravidla pak vymáhat.
Jednou z únikových cest je zbrojní průmysl, který má mít volné pole působnosti. I zakázané aplikace tak budou moci státy kvůli „obraně“ používat. „Rusko v rukou vojensko-zpravodajského aparátu zcela nepochybně pracuje na využití umělé inteligence v konvenčním i hybridním konfliktu. Globální pozice Ruska je totiž závislá na schopnosti takový konflikt udržovat a těžit z něj vyjednávací pozici či vnitřní podporu obyvatelstva,“ říká Kartous.
Umělá inteligence zasáhne v příštích letech do většiny oborů lidské činnosti a Rada Evropy musí najít balanc mezi dohodou silných států a technologických hráčů na jedné straně oproti ochraně lidských práv a oprávněnému zájmu vědců na straně druhé.
V Česku vzniká řada světových aplikací pro umělou inteligenci a země se začíná řadit mezi nejsilnější hráče. Financial Times například zařadily českou aplikaci s online vědomostními testy ScioLink mezi top technologické šampiony.
Pražské startupy Rossum a Resistant AI letos oznámily několikamiliardové finanční injekce od významných investorů. V případě společnosti Rossum budující platformu pro mezifiremní sdílení dokumentů je to dokonce třetí nejvyšší investice do českého startupu. Dosáhla 2,2 miliardy korun.
Zástupci tuzemského byznysu se obávají, aby pravidla v touze omezit „temnou stranu“ nezasáhla i je. Jedním z kontroverzních témat je využívání umělé inteligence k sociálnímu bodování občanů, což je na úrovni států velmi kontroverzní.
„Otázka zůstává u soukromé sféry, kde by se tyto nástroje daly aplikovat ve finančním nebo pojišťovacím sektoru pro vyhodnocování rizika nesplácení nebo vzniku pojistné události,“ říká Jaroslav Menčík z advokátní kanceláře Mavericks specializující se na oblast IT práva.
Obdobnou výzvou je podle něj právo zvolit si interakci s člověkem místo umělé inteligence a rozsah tohoto práva. „Pokud by se v těchto oblastech přistoupilo ke striktnějším úpravám, mohly by zbytečně omezovat efektivitu a ekonomický rozvoj v soukromé sféře,“ míní.
Existenci nadnárodních pravidel ale podle něj české startupy využívající umělou inteligenci ocení, protože rozdílné úpravy mohou tento byznys výrazně brzdit.
