Konec tajné AI. Za nepřiznané chatboty hrozí od srpna miliony
- Firmy musí zákazníky jasně informovat, že komunikují s AI. Označeny musí být i „deepfakes“ včetně produktových fotografií.
- Za porušení nových pravidel hrozí pokuty až 15 milionů eur nebo 3 procenta z celosvětového obratu společnosti.
- Novela zveřejněná koncem července upřesnila pravidla a zavedla centrální dohled nad největšími technologickými hráči.
Od 2. srpna 2026 vstupují v účinnost klíčové části evropského nařízení o umělé inteligenci (AI Act). V Úředním věstníku EU byl zveřejněn tzv. digitální omnibus, který novelizuje AI Act z roku 2024.
Pro firmy to znamená konec vágních formulací v obchodních podmínkách a nástup přísných pravidel pro transparentnost. Zaměřují se především na to, aby spotřebitel vždy věděl, kdy před ním stojí stroj a kdy člověk.
Chatbot se musí představit
Jednou z nejvýraznějších změn je povinnost transparentnosti u zákaznických systémů. Pokud firma využívá virtuální asistenty nebo hlasové roboty, musí to uživateli přiznat včas a srozumitelně.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci. Podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ shrnuje advokát Jaroslav Kuba z poradenské společnosti Rödl.
Deepfakes v reklamě
Pravidla se dotknou i marketingu. Jakýkoliv obsah vytvořený AI, který připomíná reálné osoby či události, musí být označen jako syntetický a navíc opatřen strojově čitelným kódem. To se týká i produktových fotografií, pokud by mohly klamat o skutečných vlastnostech zboží.
Pokud organizace publikuje texty o veřejném zájmu generované AI bez lidské kontroly, musí tuto skutečnost rovněž uvést. Cílem je zabránit šíření dezinformací a zajistit férový přístup k informacím.
Jedna věta v podmínkách už nestačí
Mnoho firem se dosud snažilo splnit regulatorní požadavky strohou zmínkou v rozsáhlých obchodních podmínkách. To však od srpna nebude stačit. Informace o využití AI musí být tam, kde k interakci se zákazníkem skutečně dochází.
„Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ upozorňuje advokát Jaroslav Kuba. „Jak přitom vyplývá z průzkumů, více než třetina společností řeší problematiku AI jen povrchně. Sankce za jejich porušení rozhodně nejsou symbolické, pokuty mohou jít až do milionů eur.“
