Rozvoj jazykových modelů naráží na limity, umělá inteligence se vydává novým směrem
Společnosti zabývající se umělou inteligencí čelí zpožděním při vývoji sofistikovanějších jazykových modelů, než jsou variace GPT 4. Po uvedení ChatGPT přede dvěma lety technologické firmy veřejně prohlašovaly, že větší modely s více daty a výpočetním výkonem povedou ke zlepšení výsledků. To vedlo k obrovským výdajům za nové čipy a datová centra a udělalo ze společnosti Nvidia největší firmu na světě dle tržní kapitalizace. Dnes však někteří přední odborníci v oblasti AI upozorňují na limity přístupu „čím větší, tím lepší“.
Jeden z nejuznávanějších odborníků na umělé inteligence Ilya Sutskever, spoluzakladatel a bývalý člen OpenAI, tvrdí, že škálování tréninkových dat dosáhlo svého limitu. „Poslední dekáda byla obdobím škálování; nyní jsme zpět ve věku nových objevů“.
Svět umělé inteligence se navíc potýká s dalšími problémy, jako je nedostatek nových, dostupných dat nebo vysoká energetická náročnost. Microsoft dokonce rozběhl plány na znovuotevření jaderné elektrárny pro svá datová centra.
Vědci hledají cestu skrze nové tréninkové techniky, které umožňují algoritmům „uvažovat“ způsobem blízkým lidskému myšlení. Například namísto okamžitého výběru jediné odpovědi by model mohl generovat a vyhodnocovat více možností v reálném čase a nakonec zvolit nejlepší cestu vpřed.
VIDEO: Nejlepší investice? Najdete je v Číně, Indii i Turecku, říká slavný finančník Guy Spier v pořadu FLOW.
Tato metoda umožňuje modelům věnovat více výpočetního výkonu náročným úkolům, které vyžadují lidské uvažování a rozhodování. Noam Brown z OpenAI uvádí, že „když má bot v pokerové hře dvacet sekund přemýšlení, má stejný výkon, jako když stotisíckrát zvětšíte model a stotisíckrát déle trénujete.“
Tyto nové techniky by mohly zásadně ovlivnit dynamiku konkurence v oblasti AI a změnit způsob, jakým jsou využívané výpočetní zdroje. Také by mohly sebrat vítr z plachet zmíněné Nvidii a dalším firmám jedoucím na AI vlně.
Autor je analytik J&T Investiční společnosti.
