Holky, co léčí boty. Tým žen v české technologické firmě pracuje na vylepšování halucinující AI

Měla by to být vševědoucí technologie, která dokáže odpovědět úplně na všechno. Realita ale často vypadá úplně jinak. Ať už virtuální asistent na zákaznické lince, nebo chatbot často neumějí odpovědět na jednoduchou otázku a člověka to dohání k vzteku. Podobné pocity měli i ve společnosti Agnostix. Zcela náhodně tady pak vznikl tým, kde naprostou většinu tvoří ženy a který opravuje jazykové modely tak, aby napříště rozuměly. Říká se jim holky, co léčí boty.

Agnostix je česká technologická firma, která se zabývá vývojem chatbotů a voicebotů. Nedávno například představila nástroj, který dokáže monitorovat a analyzovat hovory mezi člověkem a virtuálním asistentem a hlídat, zda chatbot například nepoškozuje dobré jméno firmy, nebo dokonce nevynáší informace.

Ve společnosti ale existuje také tým, který se stará, aby šla konverzace mezi chatbotem a člověkem hladce. Jeho součástí je kromě dvou mužů hned osm mladých žen, jimž je povětšinou do třiceti let a zdánlivě nemají navzájem nic společného. Alespoň co se pracovního zaměření týče. Jedna je totiž softwarová inženýrka, druhá matematická lingvistka, další jazykovědkyně, tlumočnice nebo datová trenérka. Tým pomáhá firmám či institucím, jejichž chatbot vykazuje nějaké potíže.

Chatbot, který se točí v kruhu

„Určitě jste se s nějakým nemocným virtuálním asistentem potkali. Nerozumí vašim dotazům, odpovídá na něco jiného, než jste se ptali, dává příliš odborné odpovědi, točí se v kruhu a vy jen čekáte, až se přes něj doboucháte na člověka. To jsou symptomy nemocného asistenta,“ vysvětluje pro e15 Karolína Chalupová. Je softwarová vývojářka se specializací na umělou inteligenci. Živí se tím, že staví AI řešení; vytvořila tak například umělou inteligenci, která umí sama obchodovat na burze, nebo tu, která umí číst faktury a pomáhá účetním. V Agnostixu pátrá po tom, co je s chatbotem špatně, když nedodává správnou odpověď.

Tým musí u chatbota vykazujícího chyby nejdřív diagnostikovat příčinu. Na vině může být špatně natrénovaný jazykový model, nevhodný design konverzací nebo nedostatečná integrace asistenta do zbytku služeb. Pak vytipuje oblasti, kde má asistent potíže, a navrhne cesty, jak ho „uzdravit“. To může udělat firma, která asistenta provozuje, sama. Případně jí tým pomůže.

„Je to opravdu velmi podobné komplexnímu lékařskému vyšetření. Často jsou patrné povrchové symptomy, asi jako když vás dlouho bolí hlava a lékař vám vypíše žádanku na různá vyšetření. Stejně tak to chodí i u botů,“ vysvětluje další z týmu Dagmar Husárová. Vystudovala mediální studia a žurnalistiku a později také počítačovou lingvistiku. Pracovala na různých pozicích, posledních pár let se ale věnuje datové analýze a trénování modelů pro konverzační asistenty.

Ze žvanilů pomocníky

„Je vcelku jasné, že virtuálních asistentů bude přibývat. A všechny nás štve, když se musíme v osobním životě potýkat s chatboty, kteří jsou celkem vzato k ničemu a jenom zdržují a rozčilují,“ líčí Chalupová. V Agnostixu si přitom všimli, že podobné problémy se neustále opakují. Důvodem je například to, že firmy málo sledují, co se děje s asistentem v realitě. Nevědí, jak lidé na chatbota mluví, co je štve, kde se ztrácejí nebo co od něj doopravdy chtějí. Nebo to vědí, ale nevědí si s tím rady. „Věříme, že časem přeměníme dementní žvanily, jak někteří své asistenty oslovují, ve skutečné pomocníky,“ dodává.

Tým vznikl díky tomu, že v Agnostixu měli při práci na virtuálních asistentech obvykle k dispozici obrovské množství dat, z nichž mohli získat cenné znalosti o očekávání uživatelů a jejich potřebách. „Chyběly nám ale vhodné a komplexní nástroje, jak s těmito informacemi pracovat. Těžko pak tvořit asistenty, s nimiž budou lidé spokojení. Postupně jsme tak na sebe nabalovali lidi, kteří tohle uvažování vzali za své,“ líčí Husárová.

V týmu si uvědomovali, že k tomu potřebují lidi se širokou škálou expertiz. Kromě IT bylo například potřeba rozumět tomu, jak uživatelé na asistenta mluví. Proto jsou v týmu expertky na jazykovou analýzu a zpracování přirozeného jazyka. Jednou z nich je i Veronika Volná. Je to lingvistka a fonetička, která v Agnostixu pracuje jako dialog designérka, což znamená, že se věnuje tomu, aby byl dialog s AI efektivní. Jazykem se ostatně zabývá i Daniela Shephard, jež vystudovala translatologii. V minulosti se podílela například na vytvoření unikátního hlasu virtuálního asistenta.

Hodil by se i hacker

Dita Fejlová má zase za sebou bohemistiku, anglistiku, tlumočnictví a fonetiku. Živila se překladem i copywritingem, nyní analyzuje nemocné uživatelské konverzace. V týmu je rovněž. Členkou týmu je také Tereza Smetanová, která je odbornicí na fonetiku a lingvistiku. Nyní dělá AI trenérku. Analyzuje tedy konverzace uživatelů s boty a na základě potřeb trénuje jazykové modely tak, aby co nejlépe rozuměly.

Docela jiné zaměření do týmu přináší Han Diem Huong Nguyen, která vystudovala informatiku se zaměřením na datové vědy na ČVUT. Nyní se věnuje softwarovému vývoji se zaměřením na umělou inteligenci a v Agnostixu spolupracuje na návrhu, integraci a na revizi AI systémů. Poslední v týmu je Helena Hubková, absolventka oboru Language Technology na univerzitě ve švédské Uppsale. Zabývá se počítačovou lingvistikou a technickým zpracováním přirozeného jazyka.

A kdo by se do týmu ideálně ještě hodil? Například hacker. „Myslím, že s tím, jak bude přibývat řešení postavených na velkých jazykových modelech, bude se hodit někdo, kdo je donutí, aby se chovaly jinak, než jejich autoři zamýšlejí. Takový útok totiž musíte umět sami provést, abyste se před ním uměli i bránit. My to sice umíme taky, ale ideální je, když to někdo dělá na plnou kapacitu,“ uvádí Chalupová.