Zastavme dočasně vývoj AI, společnost není připravena, žádají Musk, Wozniak, Harari a další

Společnost OpenAI nedávno představila novou verzi svého přelomového chatbota, část společnosti se obává, kam rozvoj AI povede.

Společnost OpenAI nedávno představila novou verzi svého přelomového chatbota, část společnosti se obává, kam rozvoj AI povede. Zdroj: OpenAI

„Výkonné systémy umělé inteligence by se měly vyvíjet až poté, co si budeme jisti, že jejich účinky budou pozitivní a rizika zvládnutelná,“ píše na začátku výzvy, kterou podepsal Elon Musk, Steve Wozniak nebo Yuval Noah Harari. Signatáři prohlášení, které dal dohromady Future of Life Institute, vyzývají technologické firmy, aby na šest měsíců přerušily vývoj AI systémů, které jsou pokročilejší než populární Chat-GPT4 od organizace OpenAI. 

Umělá inteligence ukázala svůj potenciál na konci minulého roku, když byla na veřejnost vypuštěna nová verze konverzačního modelu ChatGPT. Od té doby se vedou intenzivní debaty o tom, zda je toto průlomová technologie, která navždy změní životy lidí podobně, jako tomu bylo v případě internetu nebo chytrých telefonů.

Objevují se ale i názory, které varují před překotným pokrokem, na který není společnost připravena. Hrozba automatizace, který se dosud dotýkala spíše málo kvalifikovaných manuálních prací, postoupila do oblasti tzv. bílých límečků, které zatím byly v bezpečí.

„Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Měli bychom vyvinout nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit, zastarat a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?“ klade otázky výzva od Future of Life Institute. 

Na otázky text rovnou odpovídá: „Taková rozhodnutí nelze svěřovat nevoleným technickým vůdcům.“ Kromě Elona Muska podepsaly dokument i další osobnosti technologického světa, jako jsou zakladatelé technologických firem nebo akademici z oblasti strojového učení. Mezi podepsanými odborníky jsou i zástupci Česka, například spoluzakladatel startupu Rossum Petr Baudiš nebo Petr Hudeček z Microsoftu.  

„Pokud to neuděláme, tak se začneme vystavovat nebezpečí zásahu státu a může se stát něco podobného, jako tomu bylo u jaderné energie, tedy že ten obor stát přereguluje a ohrozí tím rozvoj," vysvětluje Baudiš podporu dočasného zastavení vývoje. „To by neprospělo nikomu, proto je dobré ukázat nějakou míru zodpovědnosti,“ doplňuje.

Podle Baudiše totiž kvůli rychlé adopaci nové technologie hrozí informační asymetrie. „Kdyby se ten půl rok využil jen na edukaci lidí, co všechno AI umí, tak by to bylo prospěšné. Taky bychom se měli zamyslet nad bezpečností, aby nebylo tak snadné to zneužít," domnívá se.

„Vyzýváme proto všechny laboratoře umělé inteligence, aby okamžitě alespoň na šest měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4,“ vyzývají signatáři. Pokud by se nepodařilo dohodnout na rozšířené stopce, měly by dle výzvy zakročit vlády a vynutit zmrazení vývoje. V době pauzy by měli odborníci vytvořit protokoly a postupy, které by zajistily, že nové AI systémy nebudou pro lidstvo škodlivé. Zároveň by i vlády měly vytvořit systém, díky kterým by mohly na rozvoj AI dohlížet. 

Izraelský historik Juval Noach Harari, jeden ze signatářů, rozsáhle popsal svůj postoj k rozvoji AI v eseji pro New York Times. „Ovládnutím jazyka se umělá inteligence zmocňuje hlavního klíče od civilizace, od bankovních trezorů až po svaté hrobky,“ napsal v americkém listu. Podle něj prvotní kontakt lidí s AI v podobě algoritmů na sociálních sítí dopadl špatně, jelikož došlo k polarizaci společnosti, podrytí demokracie a zhoršení psychického zdraví. 

V posledních týdnech se ovšem objevili i silní zastánce rozvoje AI. Zakladatel Microsoftu a filantrop Bill Gates ve svém textu vkládá do umělé inteligence velká očekávání, podle něj by se AI mohla podílet na potírání chudoby nebo osvobození od repetitivních činností. „Rozvoj umělé inteligence uvolní lidem ruce, aby mohli dělat věci, které software nikdy dělat nebude – například učit, pečovat o pacienty a pomáhat starším lidem,“ předpovídá Gates.