USA mají v ruce AI superzbraň. Čas na obranu se pro Evropu dramaticky zkracuje

Nový AI model Mythos dokáže v řádu minut zanalyzovat miliony řádků kódu a najít cestu i do nejstřeženějších sítí. Asymetrie v přístupu k technologii, kterou USA drží pod pokličkou a Evropě ji zatím odpírají, vyvolává bezpečnostní vakuum a napětí. 

Evropské politické i finanční špičky zachvátila panika. Zatímco se za Atlantikem budují obranné valy, Evropa zůstává od testování nebezpečně výkonného, a proto zatím utajovaného AI modelu Mythos nadále odříznuta. Evropská digitální infrastruktura včetně finančního systému se tak může stát snadným terčem pro kohokoli, komu se tato nová digitální superzbraň dostane do rukou. 

Znepokojivé zprávy o schopnostech modelu, představeného americkou společností Anthropic před měsícem, oživily nejhorší noční můry manažerů: v éře AI může katastrofa pro byznys přijít odkudkoli, nečekaně a s drtivou rychlostí. Mythos totiž není jen dalším chatbotem pro generování textů, ale doslova predátorem schopným vyhledávat dosud neznámé chyby v samotném jádru operačních systémů a prohlížečů. Může se tak snadno stát nástrojem kyberzločinců, kteří pronikají do digitálních systémů, aby je ovládli. 

Napětí kolem Mythosu umocňuje právě extrémně nerovnoměrný přístup k modelu. Zatímco Amerika svou infrastrukturu na nástup tak mocného a zneužitelného nástroje už aktivně připravuje, zbytek světa včetně Evropy nechává čekat v předsálí. 

V pondělí proto Evropská komise vstoupila do jednání s Anthropicem, aby umožnil testování modelu i evropskými společnostmi v souladu s evropským kodexem pro AI. Došlo k tomu na pozadí jednání ministrů financí eurozóny svolaného právě kvůli rizikům, jež Mythos představuje pro evropskou digitální infrastrukturu a finanční systém. 

Evropští představitelé, včetně Christine Lagarde z European Central Bank, už dříve varovali, že bez přístupu k tomuto modelu nemohou evropské banky a kritická infrastruktura testovat svou odolnost a přizpůsobit se novým hrozbám. Že tyto obavy nejsou plané, dokládá zpráva, že se přes externího dodavatele k modelu dostala skupina neautorizovaných uživatelů. 

Bolestná asymetrie

Přestože evropské banky měly podle dřívějších informací agentury Reuters získat přístup k Mythosu v řádu dnů či týdnů, spolu s vládami a regulátory i nadále klepou na dveře marně. Evropská centrální banka už proto kvůli Mythosu svolala mimořádná jednání s řediteli rizik největších bankovních domů v eurozóně a německá centrální banka Deutsche Bundesbank spolu s německým úřadem pro dohled nad finančním trhem BaFin institucím nařídily, aby se okamžitě připravily na rychlé zavádění softwarových záplat.  

V Americe přitom Mythos v rámci elitního Projektu Glasswing testují američtí giganti jako Apple, Google či největší banka JPMorgan Chase už týdny. Americké úřady využívají Mythos k prověření odolnosti svých sítí, včetně ministerstva financí, Federálního rezervního systému (Fed) nebo Národní bezpečnostní agentury (NSA). 

Obdobně si počínají také účastníci testování ze soukromého sektoru. Telekomunikační skupina Cisco Systems nasadila Mythos na vlastní infrastrukturu, aby prověřila zranitelnost svých síťových zařízení po celém světě. „Mám pocit, že bude existovat svět před Mythosem a svět po něm,“ prohlásil podle agentury Bloomberg Jeetu Patel, prezident a produktový ředitel společnosti. 

Zdá se, že tato asymetrie mezi USA a zbytkem světa bude pokračovat. Bílý dům v úterý oznámil, že se společnosti Google, Microsoft a xAI připojí k firmám OpenAI a Anthropic, aby americké vládě poskytovaly přednostní přístup ke svým modelům umělé inteligence ještě před jejich veřejným představením. 

Asijské trhy v první linii

Údajné schopnosti Mythosu se už v polovině dubna staly hlavním tématem jarního zasedání Mezinárodního měnového fondu (IMF) ve Washingtonu. Tam dokonce zastínily téma ekonomických dopadů války na Blízkém východě a uzavření Hormuzského průlivu, které blokuje světové dodávky paliv a dalších komodit. „Rozdíl oproti vojenskému napětí v Hormuzském průlivu je ten, že tam víme, kde hrozba leží a jak je velká, zatímco u Anthropicu máme co dělat s něčím naprosto neznámým,“ popsal situaci kolem Mythosu kanadský ministr financí François-Philippe Champagne. 

Nedostatek přímého přístupu k modelu vyvolává nejistotu také na dalších trzích. Zařazení na seznam oprávněných uživatelů se proto u Anthropicu domáhají například indické platební startupy a finančně-technologické platformy jako Razorpay, které každodenně zprostředkovávají miliony transakcí. 

Kybernetická hrozba vyděsila úřady v Asii, jež plošně stupňují dohled nad finančním sektorem. Singapurský měnový úřad ve spolupráci s národní kybernetickou agenturou nařídil bankám okamžité prověření obrany a včasné záplatování systémů. 

Australský regulátor finančního systému upozornil tamní banky, že jejich bezpečnostní procesy nestíhají s AI držet krok. Předseda bezpečnostního výboru jihokorejské národní rady pro AI I Wŏn-tche situaci popsal lapidárně: „Vstoupili jsme do éry, kdy iniciativu v hackování drží umělá inteligence, a nikoli lidé.“ 

Digitální zloděj, který nečeká

Nervozita kolem nejpokročilejšího modelu Anthropicu je odrazem obav, jež budí šéfy firem ze spaní stále častěji. Skokový vývoj umělé inteligence znamená nejen silnější nástroj pro posílení kybernetické bezpečnosti, ale i to, že jej mohou využít hackeři pro hledání děr v dosavadní obraně. Čas, který dosud instituce měly na opravu chyb ve svých softwarech, se tak dramaticky zkrátí. 

Dosavadní praxe funguje tak, že když tvůrce softwaru objeví v programu bezpečnostní chybu, upozorní na ni uživatele a zákazníky – třeba banky nebo úřady. Ti pak mají týdny na nasazení potřebných bezpečnostních záplat. Mythos tento proces narušuje – nevytváří sice žádné nové viry, ale umí bleskově procházet miliony řádků stávajícího kódu a vyhledávat v něm drobné chyby zanechané programátory. Tyto izolované defekty model zanalyzuje a dokáže je využít k získání kontroly nad systémem. A to dřív, než stačí zareagovat člověk.  

Lze to jednoduše popsat analogií s bytovým zlodějem: jedna chyba v kódu funguje jako pootevřené okno, kterým se model dostane do systému, poté najde druhou chybu k odemknutí pomyslných hlavních dveří a pomocí třetí chyby nakonec vyřadí alarm. Jednotlivé kroky samy o sobě nepředstavují přímé ohrožení, ale dohromady v rychlém sledu poskytnou útočníkovi plný přístup k síti. Finanční svět, historicky postavený na rigidních a zdlouhavých procesech testování IT systémů, tím ztrácí schopnost včas reagovat. 

Tento posun jasně ilustrují oborová data. Zatímco podle specializované platformy zerodayclock.com trvalo v roce 2018 v průměru 771 dní, než útočníci dokázali proměnit veřejně oznámenou softwarovou trhlinu ve funkční nástroj pro kybernetický útok, dnes se tato doba zkrátila na méně než čtyři hodiny. To představuje hrozbu zejména pro velké banky, protože zásah do kritických systémů vyžaduje vícestupňové schvalování. 

Ti, kdo už mají model k dispozici, varují před bagatelizací situace. Podle Bloombergu provedl dosud jediný nezávislý audit Mythosu britský Institut pro bezpečnost AI (AISI). Jeho analytici zjistili, že model skutečně objevuje trhliny a provádí vícestupňové útoky autonomně, zároveň však upozornili, že nejvíce ohrožuje starší a zranitelné systémy. 

Globální konglomeráty si špičkovou obranu IT systémů dříve či později nakoupí. Hlavní obětí nové kybernetické reality se tak pravděpodobně stanou střední podniky a lokální instituce, pro které bude udržení kroku s autonomními útoky personálně i finančně mimořádně náročné.