Že má OpenAI problémy s nedostatkem počítačového výkonu, už na vlastní klávesnici pocítil každý uživatel ChatGPT včetně předplatitelů, kteří každý měsíc utrácejí nemalé peníze. Robot bývá často přetížený a občas vyskakují systémové chyby.
Situace se ještě zhoršila po nedávné vývojářské konferenci, na které sice šéf společnosti Sam Altman představil kupu novinek, laboratoř si pro ně ale zjevně nezajistila další zdroje. A tak došlo na nejhorší a Altman na síti X oznámil stopku.
Až do odvolání nebude firma přijímat žádné další předplatitele. Klíčové novinky, které jsme si vyzkoušeli v článku, v němž ChatGPT napojujeme na chytrou domácnost, jsou přitom dostupné výhradně těm, kteří si po přepočtu zhruba za 500 korun měsíčně pořídí ChatGPT Plus.
OpenAI začíná omezovat i komerční API
Nedostatek železa je cítit i při používání komerčního aplikačního rozhraní. Firma sice na zmíněné konferenci oznámila, že je skrze API k dispozici konečně i obrázkový generátor DALL-E 3, nicméně můžete vyrobit pouze jeden obrázek. Ostatně i ChatGPT Plus už kreslí jen po jednotkách, ačkoliv dříve vygeneroval rovnou čtyři varianty, ze kterých jsme si mohli lépe vybrat.
A tak se opět nabízí otázka, jestli není celý segment GenAI přepálený a softwarově nepředběhl dobu. OpenAI se možná opravdu dostává ke stropu svých možností, a proto utichla i šuškanda okolo hypotetického GPT-5. Ještě v létě si mnozí mysleli, že dorazí do konce roku, OpenAI se ale místo toho vrhlo spíše na rozšiřování ekosystému služeb okolo stávající AI.
Pokud OpenAI neutáhne současnou poptávku, nemá (zatím) vůbec smysl mluvit o GPT-5
Pokud totiž servery neutáhnou při vyšší poptávce už současné (byť vylepšené) technologie postavené na generaci velkého jazykového modelu GPT-4, o nějaké Pětce nebo vzdáleném AGI nemůže být vůbec řeč.
Jen připomeneme, že OpenAI hostuje na infrastruktuře Microsoft Azure, ale ani její škálovatelnost není bezedná, protože ji Microsoft před lety budoval spíše pro běžnou podnikovou poptávku a ne pro centrální mozek lidstva. Poslední dobou sice Azure stejně jako ostatní veřejné cloudy investuje do GPU akcelerátorů, ty ale nerostou na stromě a zájem je ohromný ze všech stran.
Nvidia každý rok představuje nové a nové generace serverových GPU čipů pro akceleraci AI, nikdo ale nemá nekonečnou pokladničku, výrobní kapacity jsou nízké a principiálně tyto problémy vyřeší snad jen nějaké úplně nové architektury specializovaných ASIC obvodů šitých na míru velkým jazykovým modelům LLM.
