S dynamickým rozvojem umělé inteligence se množí obavy, co její využití přinese a zda to vůbec bude příznivé pro lidstvo. Světové špičky v oboru AI se shodly, že prioritou dalšího rozvoje odvětví by měla být minimalizace rizik, jež by mohla vést až k vyhynutí lidstva. Výzvu podepsali například šéfové Open AI a Anthropiku, respektovaní akademici i osobnosti mimo obor.
Výzva je dlouhá, ale v českém překladu vystačí s 21 slovy: „Zmírnění rizika vyhynutí způsobeného umělou inteligencí by mělo být globální prioritou vedle dalších celospolečenských rizik, jako jsou pandemie a jaderná válka.“ Strohé sdělení bylo pravděpodobně zvoleno proto, aby se podařilo pod petici získat podpisy co nejvíce uznávaných osobností z oboru, což akci dodává na důležitosti. Výzvu iniciovalo Center for AI Safety.
Dokument podepsali zejména lidé, kteří mají největší globální vliv na to, kam se budou debata i vývoj AI v dalších letech ubírat. Netýká se to jen šéfa OpenAI Sama Altmana, ale také Daria Amodeia z konkurenčního Anthropiku, který vyvíjí podobný jazykový model Claude, jenž v některých ohledech předčí i opěvovaný ChatGPT. Svůj podpis připojil také Demis Hassabis, vedoucí AI výzkumu Googlu, který v posledních měsících představil několik novinek založených na umělé inteligenci.
K signatářům se řadí také osobnosti mimo technologický svět, například bývalý estonský prezident Kersti Kaljulaid nebo environmentalista Bill McKibben. „Když jsem před 35 lety sledoval, jak svět ignoruje varování před klimatickými změnami, doufal jsem, že některou z výzev tohoto typu skutečně včas vyřešíme,“ vyjádřil se McKibben pro magazín Fortune.
Nynější výzva není první svého druhu, před pár týdny vzbudila rozruch petice byznysmenů, kteří vyzývali k půlročnímu zastavení vývoje AI systémů srovnatelných s ChatGPT-4.
Podepsali ji například šéf Twitteru Elon Musk, spoluzakladatel Applu Steve Wozniak nebo historik Yuval Noah Harari. Není ovšem známo, že by někdo v reakci na výzvu skutečně zastavil vývoj. „Pokročilá umělá inteligence by mohla představovat zásadní změnu v historii života na Zemi a měla by být plánována a řízena s odpovídající péčí a prostředky,“ stálo v březnové výzvě.
