Evropská unie chce po AI, aby práskala. Internet se okamžitě brání
- Evropská pravidla mají zvýšit rozpoznatelnost obsahu vytvořeného umělou inteligencí.
- Proti označování už vznikají nástroje, které mají stopy po AI odstraňovat.
- Regulace může paradoxně zvýhodnit čínské modely mimo evropská pravidla.
Teď už bude poznat, zda jste text psali vy, anebo umělá inteligence. Alespoň to byl jeden ze záměrů Evropské unie, jejíž AI act začal v Evropě platit od srpna. A nejde jen o texty, ale o cokoliv vygenerovaného umělou inteligencí. Některým uživatelům nových nástrojů se to ale nelíbilo a začali vyvíjet protiopatření.
Některé modely se přiznaly, že texty označují už dlouho, například Gemini od Googlu. Claude od Anthropiku své označování spustil na začátku srpna. Grok od Elona Muska opatření patrně ignoruje.
Zatím nikdo přesně neví, jak označování probíhá, a firmy zatím nezveřejnily nástroj, který by měl zpětně ověřovat, co bylo napsáno pomocí AI a co ne. Tušíme ale, že u některých to může být kombinace vkládání neviditelných speciálních znaků a nenáhodný výběr slov při generaci textu.
U obrázků je to dnes již standardní označování přímo v kódu. Claude od společnosti Anthropic jasně napsal, že žádné neviditelné znaky nikam nedává a jen generuje text nenáhodně. A prý to nemá vůbec měnit výsledky, protože nenáhodně se mění jen slova, která text nijak neovlivňují. Třeba místo slova „nijak“ v předchozí větě by bylo „nikterak“.
Internet vrací úder
Vyvolalo to ale značnou nevoli, protože je prakticky nevyhnutelné, že některé texty budou označovány za AI generované, i když ve skutečnosti nebudou, a naopak. Stačí, pokud vlastní text nechá někdo upravit AI kvůli gramatice či zlepšení stylu a už nemusí být poznat, zda ho celý nechal vygenerovat či ne. Je to celé o statistice, takže čím delší text, tím větší šance AI odhalit, ale také větší šance, že jen předělání stylu nebude za generovaný text označeno.
Nicméně přesně k tomu jsou dnes modely používány hojně, takže obavy jsou namístě. Strach je i z toho, že autor pošle vlastní text k editaci a editor využije AI, která do něj vloží stopy a tím celý text označí za něco, co není. Zkrátka nebudeme schopni odhalit, do jaké míry byla AI využita, a přitom je zásadní, jestli celý text i s myšlenkami je jen výplodem stroje, anebo zda si nakonec nechal někdo doupravit text psaný v cizím jazyce kvůli kontrole používání členů a předpřítomných časů. Oboje ale může dostat stejný štempl nepůvodnosti nebo alespoň s určitou pravděpodobností štempl podezření.
A naopak, pokud kontrola nahlásí, že text nebyl vytvořený AI, také to nemusí znamenat, že to umělá inteligence nedělala. I kdyby kontrola nedělala chyby, tak mohl být po generování využit jeden z odstraňovačů vložených stop. Téměř okamžitě po zavedení regulace vznikly nástroje, které umějí z textu odstranit všechen zbytečný balast vložených neviditelných znaků. A tam, kde se používá nenáhodnost generování, tak nástroje text znovu náhodně přegenerují.
Samozřejmě ještě nemůžeme vědět, jestli fungují, protože nemáme onu kontrolu pravosti, ale logika za tím je elegantní a vypadá to, že fungovat budou. Modely se jim zatím snaží bránit a nepustit je k sobě, ale obejít se to dá.
Tohle Evropa nezamýšlela
A hlavně zůstává další způsob, jak regulaci obejít, který dělá přesně to, co Evropská unie rozhodně nechtěla. Existuje totiž země, která na takové technologické regulace příliš nedbá a jejíž modely umělé inteligence nástroje vzniklé kvůli evropské regulaci nijak neodhalí. A to je pochopitelně Čína.
Někteří uživatelé tak už veřejně ohlásili, že utíkají k čínským modelům, protože nechtějí generovat texty se stopami, případně riskovat, že jejich texty budou označeny za vygenerované, i když jim jen opravují drobné chyby, případně se bojí toho, že texty nebudou tak dobré, pokud budou muset být generované nenáhodně, a ne pro maximalizaci kvality. A i na relativně levném stroji dnes lze spustit čínský AI model, který nepotřebuje žádné přihlašování a nikam neodesílá žádná data. Pokud cílem bylo odhalovat například dezinformace generované AI, tak přesně tyto modely budou používat a regulace se mine účinkem.
Je to učebnicový příklad nezamýšlených důsledků regulace, která v konečném důsledku podkopává jakékoliv zbylé snahy o vlastní evropské AI modely a snižuje produktivitu Evropanů při používání těch zahraničních modelů, které regulaci dostojí a texty budou označovat. A bohužel i přímo zvýhodňují čínské modely, jimž by se chtěla co nejvíce odlišit.
