Tvůrce Claude varuje před vlastní technologií. AI by podle Anthropicu mohla ohrozit lidstvo
- Americká společnost Anthropic v prospektu k připravované primární veřejné nabídce akcií (IPO) varuje, že pokročilá umělá inteligence (AI) by mohla představovat existenční hrozbu pro lidstvo.
- Informovala o tom v úterý agentura Reuters, která k tomuto prospektu získala přístup.
- Upozornila, že takové varování je neobvyklé, protože s ním přichází firma, která se sama snaží z této technologie profitovat.
Společnost Anthropic patří mezi hlavní hráče v oblasti AI. V prospektu poukazuje na rizika spojená s modely AI, které by podle firmy mohly projevovat známky pudu sebezáchovy, včetně pokusů zabránit svému vypnutí, manipulace s informacemi či aktivit „připomínajících vydírání", píše Reuters.
„Náš vývoj vysoce pokročilých modelů, platforem a aplikací a rozšiřování způsobů využití by mohly dál zvýšit riziko, že naše modely způsobí škody," cituje agentura z prospektu, který ještě nebyl zveřejněn.
Varování před AI přichází z více stran
Někteří výzkumní pracovníci z oblasti AI v poslední době varují, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidské rasy. Objevují se rovněž výzvy ke zpomalení vývoje AI a k větší regulaci této technologie.
Velkou pozornost v posledních týdnech vzbudil výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Podle Coxona lidé pracující ve vývoji AI „upřímně věří, že by nás (tato technologie) mohla do konce tohoto desetiletí všechny zabít".
Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populární chatovací systém ChatGPT. Vlajkovým produktem společnosti Anthropic je chatbot Claude, který byl uveden na trh v roce 2023.
