Český ChatGPT už využívá půl milionu lidí. Seznam teď testuje, jak na něm vydělat
- Chatovací nástroj na bázi umělé inteligence (AI), vyvinutý společností Seznam, využívá již přes půl milionu uživatelů měsíčně.
- Firma nyní začíná testovat možnosti, jak jeho provoz monetizovat, ale zároveň ho pro uživatele udržet zdarma.
- Seznam dál zdokonaluje své velké jazykové modely AI, do jejichž vývoje již investoval stovky milionů korun.
Společnost Seznam zdokonaluje svůj AI chatovací nástroj nazvaný Seznam Asistent. Půl roku po jeho spuštění využívá tuto službu půl milionu uživatelů měsíčně. Jeho současná beta verze je již nyní dostupná všem, kteří jsou na Seznamu přihlášeni.
„Asistenta jsme otevřeli všem uživatelům a nabídli jim ho kromě zvláštní webové stránky i na domovské stránce Seznamu a ve vyhledávání. Podařilo se nám výrazně zvýšit kvalitu a zpřesnit odpovědi Asistenta, což je vidět na vysokém podílu uživatelů, kteří Asistenta používají opakovaně,“ říká ředitel divize Seznam AI Tomáš Pergler. Aktuálně podle něj uživatelé provedou s Asistentem téměř dva miliony konverzací za měsíc.
Testování monetizace
Seznam nyní vymýšlí, jakým způsobem svého Asistenta zpeněžit, a to tak, aby za něj nemuseli platit samotní uživatelé. „Asistenta chceme držet pro uživatele zdarma,“ uvádí Pergler. I tak ale má používání služby limity. Lidé se standardním účtem na Seznamu mohou položit maximálně 40 dotazů denně a celkem 100 v jednom týdnu. Uživatelé s placeným účtem pak mají týdenní limit 400 otázek.
Společnost tak v současné době začíná zkoušet model, kdy Asistenta zaplatí firmy tím, že si v něm koupí zviditelnění. „Začínáme testovat monetizaci za pomoci existujících obchodních modelů služeb jako Firmy.cz, Zboží.cz nebo Vyhledávání s důrazem na to, aby do odpovědi pasovala a ideálně i doplňovala uživatelský zážitek. Nakupování bude pro uživatele s Asistentem snazší, e-shopům Asistent přivede lépe zorientované a rozhodnuté zákazníky, vydělají na tom všechny strany,“ vysvětluje Pergler.
Seznam tak chce využít osvědčené metody ze svých jiných služeb, kdy například v Skliku inzerenti platí za přivedené zákazníky, na portálu Firmy.cz zase za zviditelnění. „Oba zmíněné mechanismy mohou mít své místo i v Asistentovi, ale potřebujeme ověřit, jak v konverzačním prostředí fungují. Výhodou pro inzerenty je, že Asistent se prostě stane dalším prostorem, kde se jejich reklama objeví. Zatím interně testujeme, jak jednotlivé varianty ovlivňují celkový zážitek z Asistenta,“ popisuje Pergler.
Hlas i nutnost zvýšit rychlosti
Asistent podle Perglera těží hlavně z napojení na celý ekosystém služeb Seznamu, z něhož je schopný čerpat velké množství informací. „Slabinou je zatím délka trvání odpovědi Asistenta, na tom pracujeme velice intenzivně s cílem rychlost násobně zvýšit,“ komentuje Pergler.
Seznam také pracuje na hlasové verzi Asistenta. Zatím je k dispozici pouze možnost hlasem zadávat dotazy, odpověď však uživatel dostane písemně. „Těžíme z toho, že převod textu na řeč už máme v Seznamu připravený pro čtení článků na Seznam Zprávách a dalších obsahových webech,“ dodává Pergler. Možnost dostávat odpovědi hlasem má přijít brzy. Firma nyní vybírá hlas, kterým bude chatbot komunikovat.
Držet krok s americkou konkurencí
Asistent běží na velkých jazykových modelech umělé inteligence, takzvaných LLM, s názvem SeLLMa, které si Seznam sám vyvíjí, respektive dotrénovává. Základ tvoří modely od společností Meta a Mistral, u nichž česká firma provádí fine-tuning, tedy obohacování modelu o vlastní části a data.
Zároveň však zatím Asistent částečně běží i na komerčních modelech od OpenAI. Seznam však již dříve uvedl, že jeho dlouhodobým cílem je provozovat ho výhradně na interních LLM a ve vlastních datových centrech. „Tento plán stále platí a postupně nahrazujeme různé části procesů Asistenta pomocí SeLLMy, například kontrolu výsledků z pohledu bezpečnosti odpovědi nebo různé specializované kroky konverzace. Míříme k plnému provozu Asistenta na interně provozovaných modelech v horizontu nejbližších měsíců,“ uvádí Pergler.
Seznam SeLLMu vyvíjí od roku 2023 a aktuálně provozuje třetí generaci těchto velkých jazykových modelů. Kromě zmiňovaného Asistenta je používá v desítkách dalších služeb, například na stránkách Sreality.cz či Zboží.cz. Cílem firmy je, aby schopnosti jejích modelů držely krok se zahraniční konkurencí. „Obecné schopnosti našich modelů porovnáváme s modely řady mini od OpenAI, se kterými jsou přibližně na stejné úrovni, co se týká kvality,“ komentuje Pergler.
V čem chce Seznam se svými AI modely vynikat, je výborná znalost češtiny. Podle Perglera právě v tomto aspektu vynikají v porovnání se zmiňovanou modelovou řadou nástroje ChatGPT, zároveň také dobře znají české prostředí a reálie. Společnost pracuje i na dalších zlepšeních. „Aktuálně aktivně rozvíjíme jiné schopnosti našich modelů, např. dlouhý kontext nebo agentní chování,“ říká Pergler.
Vývoj za stovky milionů
Na samotném vývoji a související infrastruktuře LLM modelů pracují v Seznamu nižší desítky lidí, další lidé pak řeší implementaci AI do konkrétních produktů. Do vývoje umělé inteligence Seznam investuje nemalé peníze. „Když započítáme náklady na nákupy a provoz výpočetního výkonu a na výzkumný a vývojový tým v průběhu těch tří let, vyjde celkové číslo v řádu stovek milionů korun,“ uvádí Pergler. Ke trénování modelů využívá firma čipy od Nvidie, ve svých datových centrech podle svých slov aktuálně provozuje stovky pokročilých grafických procesorů.
Právě velké investice vedly k tomu, že se Seznamu v loňském roce snížila ziskovost. Oproti předchozímu roku klesl zisk před zdaněním firmy o 11,2 procenta na 1,33 miliardy korun. Naopak tržby vzrostly o 3,7 procenta na rekordních 6,45 miliardy korun.
