Umělá inteligence se stále rychleji zdokonaluje v detekování spamu či lživých zpráv. Zároveň se ale pro svou schopnost vytvořit dezinformace, které jsou k nerozeznání od skutečnosti, stává mocným nástrojem například pro šíření online propagandy. Sama sobě si tak technologie podkopává nohy a sama sebe vyzývá na souboj. V roce 2022 může zvítězit „temná strana” – a v rozvinutých ekonomikách bude kolovat více lživých informací než pravdivých. Uvedl to Daryl Plummer z americké firmy Gartner, která se zabývá výzkumem a poradenstvím v oblasti technologií.
Fake news se tvoří i šíří rychleji než skutečné zpávy, což by v budoucnu mohlo mít vážné následky. Do čtyř let může být online svět zahlcen takovým množstvím naprosto přesvědčivých, avšak falešných informací vytvořených počítači, že průměrní lidé těžko rozeznají, čemu věřit, míní Plummer.
V souvislosti se lživými zprávami vznikl pojem „deepfake” označující techniku užívanou na poli strojového učení, která umí nahradit obsah v obrázku nebo ve videu.
Překrytím obličeje či celého těla jiným obličejem nebo tělem tak dojde k naprosto věrohodné záměně osob. Existující programy si dokážou poradit i s mimikou a gesty. Dostupné jsou takřka všem i jako mobilní aplikace, píše server neurosciencenews.com.
Vědci jsou ovšem již připraveni se těmto případům bránit a využít umělou inteligenci, která deepfakes rozpozná. Lze kupříkladu možné zvětšit osobu ve videu natolik, že naučený program identifikuje změnu pulsu srdce dané osoby a označí ji za skutečnou. V případě, že pulsování nedetekuje, nahlásí ji jako generovanou počítačem. Video magnifikací, jak se odborně nazývá vizualizace lidského pulsu, se zabývají badatelé na MIT.
Jak "deepfake" vypadá v praxi, můžete zhlédnout ve videu výše. Tvůrci v něm apelují skrze postavu Baracka Obamy na veřejnost, aby nevěřila všemu, co vidí nebo slyší na internetu.
