Brzy bude mít AI kolegu každý z nás, je to velká příležitost i riziko v jednom, říká Aleksandar Pantelič

Umělá inteligence postupně mění firmy i celý svět, velkým milníkem je příchod AI agentů. „Některá rozhodnutí zvládnou samostatně a možná i lépe než člověk,“ říká šéf české pobočky společnosti Atos Aleksandar Pantelič. Dodává, že to ovšem nikdy nebude jen o umělé inteligenci, nýbrž o kombinaci několika nástrojů a lidí, kterým nesmí chybět kritické myšlení.

V čem se dnes mění působení IT oddělení a technologických firem?

Počítače poprvé v historii mluví naším jazykem, což je podobná změna jako nástup internetu nebo cloudu. Nebál bych se to dokonce přirovnat k zavedení elektřiny. Spolu s tím se posouvá i role IT. Sníží se množství kódu, který píšeme pro zákazníky, i jeho podstata, protože to si teoreticky dokážou udělat sami. My budeme muset zajistit, aby to bylo bezpečné. S umělou inteligencí stejně jako s každou velkou technologickou změnou přicházejí jak příležitosti, tak i rizika.

Jaká?

Programovat dnes může takřka každý, stejně tak vytvářet jazykové modely nebo agenty. S jejich nástupem se objevují potenciální hrozby, protože dokážou měnit data a dělat vlastní rozhodnutí. Ve stínovém IT často vznikají stovky malých aplikací, které nad sebou nemají potřebný dohled.

Co to může znamenat v praxi?

Agenti nefungují ve vakuu, vzájemně komunikují a řetězí si úkoly. Ze zákaznické podpory předají požadavek na reklamace, následně zruší objednávku ve skladu. Stačí, aby jeden článek nefungoval, a chyba se lavinově šíří celou firmou. Navíc pokud by se k takovému agentovi dostal hacker, může mu potenciálně posloužit jako univerzální klíč k datům z celého propojeného systému. V tisících vzájemně propojených agentů pak může být nesmírně těžké dohledat, kde vznikla chyba a kdo za ni nese odpovědnost.

Existuje řešení?

Soustředíme se na takzvanou suverénní AI, kdy jednotlivé modely běží pouze v zabezpečeném prostředí s jasně vymezenými hranicemi. Vše je plně pod kontrolou, dobře řízené, auditovatelné a žádná citlivá data ani know-how neopouštějí firmu. Ale nikdy to nebude jen o umělé inteligenci, vždy je to o kombinaci několika nástrojů a člověka. Proto se musíme neustále vzdělávat, lidem nesmí chybět kritické myšlení.

Podle poradenské firmy Gartner budou za dva roky autonomní agenti zodpovědní minimálně za patnáct procent běžných pracovních rozhodnutí. Jde to dohromady s bezpečností a odpovědností?

Pokud se nastaví tak, aby dělali rozhodnutí jen na základě dat, informací a pravidel, která jim firma sama poskytne, nevidím zásadní problém. Některá rozhodnutí zvládnou samostatně a možná i lépe než člověk.

Jaká například?

Skladové zásoby a jejich predikci. To už dnes umějí některé softwary postavené na bázi strojového učení, což je poměrně blízká oblast. AI agent půjde ještě dál, protože se dokáže rychle napojit na víc systémů, posbírá data a na základě nastavených pravidel a procesů objedná, co je potřeba.

Takže by si firmy měly v tomto ohledu pospíšit, aby jim neujel vlak?

Menší startupy a firmy, které potřebují účetního, právníka a řadu dalších rolí mimo hlavní předmět podnikání, by si pospíšit měly. Dnes mají k dispozici nástroje, které jim pomohou k rychlejšímu rozvoji a díky kterým se mohou soustředit na svůj hlavní byznys. U velkých korporací a firem, které pracují s citlivějšími daty, už podle mého názoru transformace probíhá. Ale obě skupiny se musejí soustředit na bezpečnost a také na byznysový dopad. Návratnost investice do AI se na začátku hůř měří, protože jestli vytvořím prezentaci za pět, nebo za dvacet minut, nemá pro firmu až takový efekt. Jakmile ovšem máme víc zpracovaných požadavků, rychleji odpovídáme klientům a stoupá nám zákaznická spokojenost, to už jsou měřitelné věci.

Co obnáší samotné nasazení?

Vždy začínáme pilotním projektem, abychom nástroje ověřili v reálném prostředí. AI agenty nejprve testujeme sami na sobě uvnitř firmy. Pro klienty je potom trénujeme v laboratoři a do skutečného provozu se dostanou, až když je všechno vyzkoušené. Přehnaná rychlost bez kontroly a expertizy může být spíš na škodu.

Kde už se dnes na agenty můžeme spolehnout?

Obecně jsou nejdál v programování, zvládají podporu na helpdesku, úpravy textu nebo smluv, hodně se rozvíjejí v marketingu, zkrátka v oblastech, kde se pracuje s jazykem, jedno jestli programovacím, nebo lidským. Myslím, že třeba překladatelé a jim podobné profese do budoucna zcela zaniknou.

A co programátoři?

Není to o jejich nahrazování, spíš o posouvání na vyšší úroveň. Zaměří se na kvalifikovanější práci, stanou se manažery, a i když třeba nebudou řídit přímo lidi, pár agentů pod sebou mít budou.

Nejsou v ohrožení juniorní pozice?

Když se podíváme na jejich současné role, do určité míry ano. Vidíme to ve Spojených státech, kde potřeba juniorních lidí klesla přibližně o třetinu, nejen u programátorů, ale i právníků a dalších profesí. V Evropě to zatím tak markantní není, ale i tady platí, že jasně definované a popsané postupy se nahrazují nejlépe. Často jde o věci, které lidé ani dlouhodobě dělat nechtějí. Většina programátorů nechce kódovat, chce se posouvat na úroveň analytiků a dál. Riziko snižování počtu zaměstnanců jistě existuje, ale pravděpodobně se vyrovná tím, že budeme potřebovat spoustu lidí na řízení a kontrolu agentů.

Jak se do takové role dostat?

Klíčové bude naučit se novým dovednostem, abychom dokázali logicky přemýšlet, chápali zadání, uměli komunikovat se zákazníkem, zadali úkol agentovi a následně ověřili, jestli vše funguje. Umělá inteligence nás přiměje k učení, používání nových nástrojů a k osvojení jiných způsobů práce.

Řada skeptiků říká, že se tyto technologie vymykají kontrole a je třeba je regulovat. Jak se k tomu stavíte?

Bez určité míry regulací se můžeme dostat do potíží, pokud jí ale bude příliš, omezí náš vývoj a sebere nám konkurenční výhodu. Je třeba najít rozumnou hranici. Málokdo si uvědomuje, že u umělé inteligence máme jen jeden pokus. Když se u sociálních sítí ukázalo, jaká přinášejí rizika, přikročilo se k jistým omezením. Impulzem byl konkrétní problém, na který se reagovalo. U umělé inteligence to bude složitější, rizika je třeba řešit předem.

Jak se díváte na AI Act? Je dobře nastavený?

Je to dobrý základ, ale musí se rychle vyvíjet a adaptovat. Nemůžeme čekat roky, než směrnici nasadíme, AI se mění každým dnem. Evropa se musí naučit větší flexibilitě.

Nebojíte se, že jde jen o další technologickou bublinu?

Technologické bubliny tady byly a budou, protože investoři přirozeně hledají nové příležitosti a platí, že čím větší riziko, tím vyšší potenciální zisk. Ale neřekl bych, že umělá inteligence je klasická bublina. Má skutečně velký potenciál ovlivnit nás všechny a přinést obrovskou změnu. Jsem přesvědčený, že to nastane. Otázkou je jen to, jak rychlá bude návratnost a co všechno technologie přinese. Osobně věřím, že se před námi otevírají velké příležitosti.