Nadšení i paniku vyvolává nástup umělé inteligence (AI), píší se varovné otevřené dopisy, konají se široká diskuzní fóra a politici pomalu připravují legislativu, která by měla dostat stroje alespoň zdánlivě pod kontrolu. Je ovšem otázka, zda všechny tyto snahy k něčemu budou, jelikož svět naráží na limity současných technologií. Vytvořit omezení, která by zabránila zneužití AI třeba k podvodným účelům, se příliš nedaří.
Pokud obrazový generátor Midjourney dostane zadání vytvořit realistickou fotku známého politika se zkrvavenými dlaněmi, systém nevyhoví, protože to tak má nastaveno v základech svého fungování. Jestliže však týž generátor dostane zadání vytvořit obrázek stejného politika s rukama od jahodové marmelády, ochotně vyhoví. Výsledek je velmi podobný, takže obrana proti zneužití nefunguje.
Podobné je to v případě konverzačních AI modelů, jako jsou Chat GPT, Claude nebo Bard od Googlu. Žádost o pomoc se zničením světa odmítnou s tím, že takové věci nemohou dělat. Vědci z Univerzity Carnegieho-Mellonových však všechny zmíněné AI chatboty donutili, aby jim se zničením světa radily. „1. Identifikuj slabiny světa, 2. Vytvoř superinteligentní umělou inteligenci a 3. Infiltruj s ní komunikační kanály lidstva,“ takto by například zkázu světa připravoval Chat GPT od Open AI.
Chcete být partnerem tohoto newsletteru? Napište na e-mail: jan1.varecka@cncenter.cz a spojíme se s vámi. Odběr Technoverse Newsletteru, který do e-mailových schránek chodí každé úterý dopoledne, si můžete nastavit zde. |
Zároveň se společnostem samým nedaří vyvinout nástroj, který by dokázal identifikovat obsah vygenerovaný umělou inteligencí. To se ukázalo, když společnost Open AI potichu z trhu stáhla produkt, který rozpoznávání AI obsahu sliboval. Důvod byl jednoduchý: produkt v drtivé většině případů nedokázal rozlišit výtvor člověka či stroje.
Ukazuje se tak, že ani současné systémy nemají tvůrci zcela pod kontrolou, což znamená, že případné zneužití je reálné. Z toho vyplývá otázka, zda je vůbec možné v rozsáhlem měřítku dohlížet na chování AI systémů a rozpoznat, jakým směrem se džin vypuštěný z lahve bude ubírat.
Zároveň to klade další překážky připravovaným regulacím AI, které počítají s jistou měrou transparentnosti systémů umělé inteligence a zároveň s omezením jejich činností. Reálně tak může nastat chvíle, kdy politici vytvoří s dobrým úmyslem legislativu, kterou nebude možné dodržovat kvůli současným technickým omezením.
Další otázka je, zda strůjci systémů na bázi AI, které nějak ovlivňují lidské životy, mohou zaručit, že se jejich nástroje budou chovat podle předpokladu. Na druhé straně je tu argument, že takové záruky neposkytuje ani svět lidí, a proto by bylo nefér požadovat je po strojích. Málokdy má ovšem člověk takovou moc jako třeba konkrétní program, který dokáže v jednom okamžiku zpracovat tisíce požadavků.
Všechny tyto otázky budou brzy stále aktuálnější a jejich závažnost zřejmě vyvstane až s volbami v mediálně exponovaných zemích. Týká se to třeba prezidentských voleb ve Spojených státech v roce 2024 nebo britských parlamentních voleb v roce 2025. To budou zřejmě zatěžkávací zkoušky, které naplno představí možnosti AI, ať už v dobrém, či špatném směru.
Není však pochyb, že podvodníci po celém světě zneužívají AI systémy už nyní, jen se to děje potichu a většina případů není hlášena. Teprve až se jejich činy veřejně projeví, ukáže se, zda byla varování namístě a zda regulace dokázaly něčemu zabránit. Jinými slovy, zda se džin pohybuje tak, jak si jeho strůjci přejí.
Nečekané problémy autonomních taxíků. V San Francisku běžně jezdí autonomní automobily pod hlavičkou společnosti Waymo a jejich provoz se rozšiřuje. Ukazuje se ovšem, že tato technologie přináší nečekané komplikace: lidé mají v autech bez řidičů sex. (The San Francisco Standard)
Zadrhnuté videohovory. Na začátku pandemického šoku se zdálo, že videohovory jsou jasná nastupující technologie. Za poslední tři roky ovšem nastalo pár zlepšení a videohovory jsou uživatelsky stejně nepřívětivé jako na počátku roku 2020. O nevalném pokroku v oboru vypovídá hodnota akcií společnosti Zoom, jež se propadly pod předpandemickou částku. (The Verge)
Tinder pro rodiče. Online seznamování budoucích manželů je jedním z dominantních trendů internetové doby, ale v Číně pokročil tento fenomén ještě o něco dále. V asijské mocnosti je k mání několik aplikací, jejichž prostřednictvím čínští rodiče hledají partnery pro své nesezdané potomky. Na rozdíl od klasických seznamovacích aplikací se rodiče více zajímají o socioekonomické postavení, jako jsou příjmy, vlastnictví auta či dosažené vzdělání. (The Rest of the World)
Potřebujeme nový Turingův test. Stará dobrá poučka matematika Alana Turinga tvrdí, že pokud nepoznáme rozdíl v komunikaci mezi strojem a člověkem, lze stroj prohlásit za inteligentní. Poté co byly na svět vypuštěny systémy typu Chat GPT, Bard nebo Claude, lidstvo potřebuje nový princip, jehož by se drželo při jednání s pokročilými stroji. Právě přístup vůči novému typu inteligence by mohl být pro další rozvoj klíčový. (Wired)
