Rozšíření nástrojů na bázi umělé inteligence (AI) rozproudilo debatu o tom, jak lidé na internetu poznají obsah, který vytvořily chytré programy. Společnost Open AI, která na veřejnost vypustila zřejmě nejznámější AI systém svého druhu, nyní z trhu stáhla svůj nástroj AI classifer, který toho měl být schopen. Důvodem je, že nefunguje, nedokáže s vysokou přesností odhalit příspěvky vytvořené umělou inteligencí.
„Od 20. července 2023 již není klasifikátor AI k dispozici kvůli nízké míře přesnosti,“ uvádí na svých stránkách společnost Open AI, která nástroj na veřejnost uvedla v lednu letošního roku.
„Pracujeme na zapracování zpětné vazby a v současné době zkoumáme efektivnější techniky prokazování původu textu. Zavázali jsme se vyvinout a nasadit mechanismy, které uživatelům umožní pochopit, zda je zvukový nebo vizuální obsah vytvořen umělou inteligencí,“ stojí dále v textu. Stažení AI classiferu firma aktivně nekomunikovala, pouze na stránky vložila toto krátké prohlášení.
Závažnost detekce obsahu vygenerovaného AI systémy vzrostla zejména ve spojitosti se školstvím, právě studenti mohou nástroje typu Chat GPT nebo konkurenční Bard od Googlu využít jako způsob, jak si ulehčit například domácí úkoly. Riziko zneužití AI existuje ovšem i v dalších oborech, americká média například před časem informovala o tom, jak dva právníci dostali pokutu za použití AI při výkonu zaměstnání, jelikož při procesu argumentovali smyšlenými případy.
Nicméně Open AI od začátku uvádí, že AI classifer není dokonalý, obsah vytvořený umělou inteligencí dokáže identifikovat jen v případě 26 procent případů, naopak v devíti procentech případů chybně označuje obsah, který napsal člověk, za produkt umělé inteligence. Jinými slovy, nástroj nemá ponětí, v jakých případech se jedná o text, který napsal člověk a kdy jde pouze o vygenerované odstavce umělou inteligencí.
Svým způsobem se tak jedná o Turingův test naruby. Tato metoda je pojmenována podle britského matematika Alana Turinga, který se během druhé světové války podílel na dešifrování nacistické komunikace a stál u zárodků informačních věd.
Turingův test je v podstatě pokus, podle kterého je možné určit, zda jsou stroje inteligentní. Tento moment dle Turinga nastává ve chvíli, kdy není možné produkty stroje rozpoznat od lidské práce.
Na trhu existuje celá řada podobných nástrojů jako je AI classifer, žádný z nich ovšem nedosahuje uspokojivých výsledků díky kterým by byly použitelné v praxi. V budoucnu přitom bude rozpoznání obsahu vygenerovaného AI klíčovou schopností, neboť legislativa regulující použití AI pravděpodobně bude vyžadovat, aby text, obrázky či videa vzniklé pomocí umělé inteligence nesly náležité označení.
VIDEO: Co je ChatGPT a jak funguje?
