Vznikl další potenciální investiční hit spojený s AI. Nvidii začínají doplňovat nenápadní hráči
- Nvidia vsadila 20 miliard na Groq a otevřela nový boj o rychlost umělé inteligence.
- Další AI bitva se přesouvá k inferenci a investoři hledají příští Groq.
- Nvidia ukázala nový směr a startupy kolem AI čipů míří do centra pozornosti.
Společnost Nvidia na přelomu roku uzavřela licenční spolupráci s americkým startupem Groq ve výši 20 miliard dolarů. Šlo o největší akci svého druhu, kterou kdy světová jednička v dodávkách čipů pro umělou inteligenci udělala. Nvidia pár měsíců poté začlenila technologii Groqu do své nabídky. Jde o potenciálně velmi důležitý krok, kolem něhož se na pozadí odehrává mnohem větší hra. Groq má zajímavé konkurenty, přičemž jeden z nich se brzy chystá na burzu. Celá tato situace by mohla zajímat investory, kteří se dívají za roh a zkoušejí se postavit tam, kde bude puk.
Groq vyvíjí specializovaný čip používaný pro chod AI, konkrétně pro takzvanou inferenci. Zjednodušeně řečeno jde o způsob, jakým již natrénované velké jazykové modely (LLM) pracují s daty a předkládají uživatelům výsledky. Do budoucna bude klíčové co nejvíce srazit cenu tohoto běžného chodu AI a zároveň celý proces inference zrychlit, aby zákazníci dostávali výsledky pokud možno okamžitě. Za tímto se teď velké AI firmy typu OpenAI, Anthropic, Google a tak dále poženou.
Groq pro účely inference používá paměti označované jako SRAM. Běžné AI čipy jako ty od Nvidie používají hlavně paměti HBM, které nabízejí velkou kapacitu a slušnou rychlost, ale ne bleskovou. SRAM jsou mnohonásobně rychlejší a dokážou s inferencí pracovat výrazně svižněji. Nevýhodou je, že SRAM zatím lze používat pouze v malých kapacitách, takže slouží jako doplněk k HBM, ne jako náhrada.
SRAM je každopádně jednou z budoucností celkové infrastruktury pro AI, což velká investice Nvidie do Groqu dokládá. Čipy se SRAM se budou používat vedle těch tradičních od Nvidie nebo AMD, a to právě pro urychlení velmi důležité inference. „Role SRAM bude větší a větší. Uživatelé při interakci s AI nechtějí čekat na odpovědi, chtějí je hned,“ potvrdil pro e15 Bill Jia, jeden z hlavních strůjců AI v Googlu. Také Google v cloudu nasadil své nové AI čipy, které už SRAM používají.
Roli v rostoucí důležitosti hraje i velmi rychlý nástup AI agentů, tedy automatizovaných nástrojů, kteří dokážou autonomně vykonávat řadu úloh a procesů (a stojí za aktuální vlnou propouštění bílých límečků). Agenti musejí být svižní a k tomu se SRAM hodí. Komunikace agentů s okolím zároveň bude generovat nová data. „Ta se budou používat pro trénování dalších generací AI modelů, klasická data už totiž docházejí,“ doplnil Jia.
SRAM má i nevýhody. Vít Vondrák, ředitel národního superpočítačového centra IT4Innovations v Ostravě, které provozuje superpočítače včetně čipů Nvidie, pro e15 uvedl, že do projektu zvažoval nákup SRAM. Ovšem v tomto případě by to nevycházelo provozně, protože tyto čipy při nečinnosti spotřebovávají hodně energie. U gigantů typu OpenAI nebo Google ale nečinnost nehrozí, tam infrastruktura jede pořád.
Každopádně do Groqa už investoři peníze poslat nemohou, veškerá jednání firma vede se zmíněnou Nvidií. Za prozkoumání ale stojí další příležitosti. Tou nejvíce viditelnou je společnost Cerebras, která dodává největší čip na světě. Ten nedávno na konferenci v Las Vegas vystavovala zájemcům a pro představu: je velký jako lidská hlava. Cerebras je jedním z pionýrů SRAM, který běží například v největším cloudu světa Amazon Web Services. OpenAI s Cerebrasem podepsala spolupráci za 20 miliard dolarů.
Cerebras se zároveň letos chystá vstoupit na burzu. Rizikový kapitál, který doposud do podniku natekl, Cerebras ocenil na 23 miliard dolarů. Prospekty S-1 určené pro americké burzovní regulátory zatím nemluví o částce, kterou by podnik chtěl při úpisu akcií vybrat.
Pak jsou zde další hráči v SRAM. Třeba Intel krouží kolem firmy SambaNova, ve hře je akvizice nebo strategická investice. Čipy od SambaNovy zkoumají například České Radiokomunikace, tuzemský zájemce o vybudování evropské AI gigafactory. Tenstorrent, kterou založila čipová legenda Jim Keller, už má hodnotu přes dvě miliardy dolarů. Nizozemská Axelera AI od investorů vybrala 450 milionů dolarů, posledního kola se zúčastnil například BlackRock.
Boj o zefektivnění inference s sebou přinese i další pohyb na trhu. AI doprovází nedostatek pamětí, protože AI firmy vykoupily kapacity. Teď začaly zdražovat i procesory, které jsou v inferenci a provozu agentů rovněž potřeba. I zde jsou kapacity omezené. Morgan Stanley spočítala, že právě inference a nástup AI agentů vyženou trh se serverovými procesory o 60 miliard dolarů nahoru.
Rostoucí zájem se projevil i na posledních výsledcích Intelu jakožto dodavatele procesorů. Jeho akcie za posledních pár dní vystřelily o zhruba 20 procent.
Tento článek je součástí balíčku PREMIUM.
Odemkněte si exkluzivní obsah a videa!
