Policisté odvádějí Donalda Trumpa v želízkách. Proroctví, že bude zatčen, se prozatím nenaplnilo. To se jen někdo inspiroval exprezidentovým příspěvkem na sociálních sítích. Napsal scénář umělé inteligenci a ta během pár sekund vygenerovala sérii reálně působících fotek.
Když se na obrázky pozorně zadíváte, spatříte drobné detaily, které prozrazují falzifikát. Ruce mají několik prstů. Nohy jsou nepřirozeně pokroucené, ve tvářích scházejí podrobnosti a výrazy působí jako grimasy. Na vyvolání nejistoty a výbuch emocí, což některé uživatele donutilo obrázky lajkovat a sdílet, to však bohatě stačí.
Vzpomeňme na případ z roku 2015, kdy velmi nekvalitní fotografie vlaku obsypaného uprchlíky vyvolala v Česku paniku. Manipulátor k tomu využil dvě fotky, které spojil do jedné koláže. Tyto dvě fotografie pak přispěly k tomu, že nepravdu šlo snadno vyvrátit. Něco podobného bude nyní kvůli umělé inteligence mnohem těžší. Rozpoznávání falešných fotografií patrně v budoucnu zvládne jen další umělá inteligence specializovaná na odhalování manipulací.
Na glosování nějaké události či její zkreslování stačí díky službám typu Midjourney několik sekund. Během setkání čínského a ruského prezidenta k válce na Ukrajině se téměř ihned objevila fotografie Vladimira Putina klečícího před Si Ťin-pchingem. Začala se bleskově šířit po středoevropském regionu jako ukázka Putinova ponížení a vztahů dvou velmocí. Obdobně jako u fotografií s Trumpem to byla falešná konstrukce. Neodpovídala místnost, kde se státníci setkali, ani proporce účastníků. K zásahu milionů uživatelů na Twitteru to ale stačilo.
Dezinformace bývají v Česku často spojovány s proruskými aktivisty. Pokud je obsah dostatečně lákavý a zapadá do vidění světa příslušného jedince, stoprocentně odolný manipulaci není nikdo. Terčem přitom nemusí být jen politika a zpravodajské události. Umělá inteligence z fotografie oblečeného člověka dokáže udělat naháče, což může sloužit k vydírání, diskreditaci nebo k šikaně.
Vteřiny na reakci
Manipulacím nahrává také skutečnost, že se sociální sítě zrychlují. Časové osy jsou nastavené tak, aby uživatelům servírovaly stále nový obsah. Instagram i Twitter už připomínají TikTok, na kterém je klíčové zaujmout v několika prvních sekundách. Za tak krátkou chvíli se v mozku může odehrát řada procesů, ale žádný se neblíží analytickému rozboru toho, zda je daný materiál reálný.
Kromě toho je debata o nebezpečích spojených s umělou inteligencí teprve na počátku. V Česku už roky běží programy zvyšující mediální gramotnost například u seniorů a studentů. Umělá inteligence ale mění pravidla hry, takže lidé budou muset opět měnit své návyky. Vývoj jde ale tak rychle dopředu, že se hranice nového světa teprve formují a budoucí formy manipulace si lze jen stěží představit.
VIDEO: Donald Trump s manželkou opouštějí Bílý dům
Bude to horší
Ztráta důvěry ve fotografie a obrázky je pouhý začátek. Už roky se mluví o deepfake, kdy se ve videu vymění něčí obličej i hlas. Výsledky jsou zatím nedokonalé, ale to se brzy jistě změní.
Snadno lez pozměňovat i zvuk, k čemuž jsou určené služby typu Descript. Když pak manipulátor v textu vymění či vymaže nějaká slova, upraví se i audiozáznam. Změnit politikovo „ne“ na „ano“ je záležitostí chvíle a na první poslech nikdo nic nerozpozná, neboť umělá inteligence přesně napodobí i hlas. Jistotu začneme ztrácet také u náhodných konverzací přes e-mail a messengery. Investiční podvodníci na Instagramu už běžně používají chatboty, aby z lidí vymámili peníze.
Umělá inteligence nás vrhla do světa, kde rozpoznat manipulaci bude výzvou i pro profesionály. Ti teď budou mít za úkol provést lidi velmi dynamickým obdobím, které bude děsivě připomínat dystopickou knihu.
