Americká umělá inteligence je příliš drahá. Do kurzu přichází „made in China“

Ilustrační snímek.

Ilustrační snímek. Zdroj: Profimedia

Jakub Mašek , 11am
Diskuze (0)
  • Firmy kvůli rostoucím účtům přesouvají jednodušší úkoly k levnějším čínským modelům.
  • Ty lze často provozovat na vlastních serverech a lépe kontrolovat data.
  • Americká AI si drží náskok hlavně u nejsložitější práce, píše businessový newsletter 11am.

S širším využíváním umělé inteligence (AI) začínají firmy zjišťovat, že provoz nejvýkonnějších amerických modelů může být mimořádně drahý. Stále častěji proto sahají po levnějších čínských modelech, které na řadu běžných úkolů bohatě stačí.

Společnosti jako DoorDash, Siemens či Airbnb využívají podle listu Financial Times AI nástroje vyvinuté čínskými firmami DeepSeek, Alibaba, Moonshot AI nebo Z.ai. Nejnáročnější úkoly sice nadále svěřují špičkovým modelům od předních amerických vývojářů, přesto ale šetří miliony dolarů tím, že jednodušší práci přenechávají levnějším modelům „made in China“.

Čínské nástroje umělé inteligence se totiž velmi rychle zlepšují. Například nejnovější open-source model Kimi K3 od čínské společnosti Moonshot AI je výkonnostně na podobné úrovni jako nejlepší americké modely od OpenAI či Anthropicu. Rostoucí zájem o čínskou AI potvrdil i pondělní veleúspěšný vstup na burzu výrobce paměťových čipů CXMT, jehož akcie vylétly o 500 procent.

Využívání čínských modelů ukazuje, že v další fázi rozvoje AI nemusí rozhodovat jen to, kdo vytvoří absolutně nejvýkonnější model, ale rovněž jeho cena a možnost provozovat jej na vlastní infrastruktuře. Rostoucí účty za výpočetní výkon nutí firmy vybírat pro každý úkol jiný nástroj, přičemž čínské modely jsou levnější a lze je nasadit na vlastních serverech. 

Náklady na AI se totiž v některých případech začínají vymykat kontrole. Jedna nejmenovaná společnost měla podle serveru Axios za jediný měsíc utratit půl miliardy dolarů za používání modelů Claude, protože zaměstnancům nenastavila limity na spotřebu tokenů (základních jednotek, pomocí nichž poskytovatelé AI účtují používání svých modelů).

Dřív experiment, dnes velká položka

Ještě před několika lety byla generativní AI pro většinu podniků především experimentem. Zaměstnanci používali chatboty k vyhledávání informací, shrnování dokumentů nebo psaní jednoduchých textů.

Situace se však změnila s nástupem takzvaných AI agentů, kteří dokážou samostatně vykonávat složitější úkoly, pracovat s firemními systémy či samostatně programovat. Na rozdíl od běžného chatbota mohou pracovat nepřetržitě, při plnění zadání ale mohou spotřebovat obrovské množství výpočetního výkonu.

Hlavní americké AI firmy OpenAI a Anthropic, které se nyní připravují na vstup na burzu, navíc pro některé firemní služby zrušily paušální předplatné a místo něj začínají účtovat skutečnou spotřebu tokenů. Podniky tak vidí cenu každého dotazu či automatizovaného pracovního postupu.

Důsledky pocítil například Uber, který podle Financial Times vyčerpal celý rozpočet na AI pro letošní rok už koncem dubna. Firma následně stanovila zaměstnancům u jednotlivých nástrojů limit 1500 dolarů měsíčně. Omezení zavedl rovněž obchodní řetězec Walmart, zatímco Amazon začal své zaměstnance zrazovat od používání AI jen proto, aby vykázali práci s ní.

Softwarová firma Workato podle Financial Times zaznamenala po přechodu Anthropicu na účtování podle spotřebovaných tokenů sedminásobný nárůst nákladů během jediného dne. Firmy proto začínají při používání umělé inteligence mluvit o „finanční odpovědnosti“.

Nejlepší model není potřeba na všechno

Řešením není přestat AI používat, ale vybrat vhodný model podle náročnosti konkrétního úkolu. Podobně jako firma nepotřebuje nejvýkonnější počítač pro každého zaměstnance, nemusí ani všechny činnosti zpracovávat ten nejlepší, a tím pádem i nejdražší model.

Rozvážková firma DoorDash například začala jednodušší úkoly svěřovat výše zmíněnému čínskému modelu Kimi. Ten byl podle šéfa Úřadu Bílého domu pro vědu a technologickou politiku Michaela Kratsoise vytvořen za pomoci procesu takzvané destilace, kdy byl při jeho vývoji použit už existující model Fable od firmy Anthropic. Nejnáročnější práci ovšem firma nadále ponechává modelu Fable. Podle spoluzakladatele DoorDash Andyho Fanga je tato kombinace levnější než předchozí řešení založené pouze na amerických modelech.

Obdobně postupuje i německý průmyslový koncern Siemens. Vedle amerických nástrojů a modelů od francouzské společnosti Mistral využívá také čínské modely DeepSeek a Z.ai. Cílem je zachovat si flexibilitu a nebýt odkázán na jediného dodavatele.

Podle dat platformy OpenRouter už čínské modely předstihly americké konkurenty v celkovém množství zpracovaných tokenů, což ukazuje, že jim uživatelé svěřují stále větší část každodenní práce. Firmy navíc mohou čínské nástroje provozovat na vlastní infrastruktuře, upravovat je podle svých potřeb a pracovat s citlivými daty, aniž by je musely posílat americkému poskytovateli.

Pro evropské firmy má přechod k čínským a dalším otevřeným modelům i geopolitický význam. Dočasné americké omezení vývozu některých nástrojů Anthropicu letos ukázalo, že přístup k AI mohou bleskově ovlivnit politická rozhodnutí ve Washingtonu.

Přestože bylo opatření později zrušeno, evropské podniky si začínají uvědomovat rizika závislosti na několika málo amerických firmách. Některé z nich proto vytvářejí záložní řešení pro případ obchodního či politického konfliktu se Spojenými státy.

Používání čínských modelů samozřejmě přináší svá vlastní bezpečnostní a geopolitická rizika. Pokud je však firma provozuje na vlastních serverech, získává nad jejich fungováním větší kontrolu než u uzavřeného modelu, k němuž přistupuje pouze prostřednictvím systémů zahraničního dodavatele.

Vývoj tak směřuje k prostředí, ve kterém nebude existovat jediný vítězný model pro všechny druhy práce. Nejdražší americké nástroje si pravděpodobně udrží náskok u nejsložitějších úkolů. U velké části běžného firemního provozu však bude rozhodovat především cena, možnost přizpůsobení a kontrola nad daty, což může být pro americké firmy OpenAI a Anthropic varovným signálem.

Začít diskuzi

Články z jiných titulů