Speciální aplikace, která umí odhalit deepfake, je dílem české společnosti Synhawk; vymyslel ji teprve sedmnáctiletý Matyáš Boháček.
Cílem bylo mít detekční systém pro hlas, obraz a pro video.
S technologii nyní přichází na trh Vodafone.
S videem, které nevytvořil člověk, ale umělá inteligence, se v Česku setkali tři lidé z deseti, vyplývá z průzkumu Univerzity Karlovy. Číslo je pravděpodobně vyšší; čím je člověk starší, tím méně si uvědomuje, že se dívá na něco podvodného. Nemusí se přitom jednat jen o video, ale o psaný text, fotografii, video meeting nebo i o telefonní hovor. Jedná se o takzvaný deepfake, díky němuž se podvodníkům daří lákat z lidí citlivé údaje i peníze. Operátor Vodafone nyní přichází s technologií, která pomůže tyto podvody odhalit.
Za unikátním nástrojem stojí česká technologická společnost Synhawk, která se zabývá kybernetickou bezpečností. Řešení uvádí na trh společně s Vodafonem, jehož ambicí je pomoci lidem odhalit podvody. „Setkáváme se s nimi už řadu let, dlouhodobě se proto zabýváme i bezpečností nejen svou, ale i našich zákazníků. Když jsme se tak loni dozvěděli, jakou technologii Synhawk má, hned jsme o ni měli zájem,“ říká viceprezidentka Vodafonu pro firemní zákazníky Veronika Brázdilová.
Spolupráce mezi firmami začala na festivalu v Karlových Varech. Obě společnosti následně podepsaly memorandum o spolupráci, letos na debatě pořádané webem e15 a klubem elite15 v hotelu Thermal představily výsledné řešení. To je zhmotněné v aplikaci Vodafone Verify. Když bude mít člověk podezření, že obdržel podvrženou zprávu, bude ji moci jednoduše do aplikace nahrát. Týká se to textových, hlasových i video zpráv. Totéž bude možné udělat také s fotografií nebo s videem, obsahem webu i na sociálních sítích. Jinými slovy zkontrolovat bude možné jakýkoli online i offline obsah.
Veronika Brázdilová z Vodafonu a Lukáš Foreal ze Synhawku | Zdroj: e15
Druhou vrstvou ochrany bude služba Vodafone Verify Meetings, která umožní detekci deepfakes v komunikačních platformách, jako je například Microsoft Teams. I v tomto případě se může stát, že na druhé straně nesedí člověk, nýbrž obraz vytvořený umělou inteligencí. Třetí vrstva ochrany spočívá v dohledu nad samotnou sítí Vodafonu. „Technologie nehodnotí obsah hovoru, ale signál. Na základě různých specifických prvků, které za sebou AI zanechává, je pak schopná vyhodnotit, zda jde o reálný, nebo o syntetický hovor,“ líčí Veronika Brázdilová.
Například největší veřejně známý útok za pomoci deepfake stál britskou inženýrskou společnost Arup 25 milionů dolarů. Leccos se ale stává i běžným uživatelům. Aplikace tak může odhalit například zprávu, kterou pošle příbuzný s tím, že ztratil mobil a žádá, aby dotyčný poslal peníze na nějaké jiné číslo, nebo hovor, v němž údajná banka žádá o kliknutí na nějaký odkaz, případně falešné kompromitující video, které je součástí kyberšikany.
Unikátní technologie nemá v Evropě obdobu. Reaguje na nový rozměr podvodů, které přinesl rozvoj umělé inteligence. „Deepfakes, syntetické identity a AI generované podvody představují jednu z největších bezpečnostních výzev digitální éry. Ochrana autenticity lidské komunikace se stává novou kategorií digitální bezpečnosti,“ říká k tomu spoluzakladatel Synhawku Lukáš Foral.
Vymyslel ji teprve sedmnáctiletý kluk
Za technologií stojí jeho společník Matyáš Boháček, výzkumník zabývající se umělou inteligencí a deepfake na Stanfordově univerzitě ve Spojených státech. V době, kdy projekt vymyslel, mu bylo teprve sedmnáct let. Cílem bylo mít detekční systém pro hlas, obraz a pro video.
Podle Boháčka podvody s využitím umělé inteligence mění to, jak byla ochrana komunikace až doteď postavená. „Efektivní obrana musí být založena na neustálém výzkumu, integrována přímo do vrstvy infrastruktury, kde komunikace probíhá. To z Vodafonu dělá přirozeného partnera,“ líčí Boháček.
O technologii projevila zájem i globální šéfka Vodafonu Margherita Della Valle, která by ji ráda viděla i v dalších zemích, kde firma působí. Jednání jsou ale teprve na začátku, fungovat tak bude zatím jen v Česku. Aplikace bude dostupná zákazníkům Vodafonu, a to jak fyzickým osobám, tak i celým firmám či veřejným institucím. Ke stažení bude od podzimu.
