Šéf Anthropicu volal po zbrzdění vývoje AI. Analýza ukázala, zda se tím jeho firma řídí
Čtěte e15 v Googlu přednostně
Nastavte si e15 jako preferovaný zdroj a naše články uvidíte ve vyhledávání výš.
- Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence, řekl před rokem šéf Anthropicu.
- K jeho výzvě se připojili také šéf konkurenční OpenAI či Elon Musk.
- Analýza nyní ukázala, jak se Anthropic za poslední rok ve vývoji posunul.
Americká společnost Anthropic vyvíjí systémy umělé inteligence (AI) dvakrát rychlejším tempem než před rokem, ačkoli její šéf Dario Amodei vyzývá ke zpomalení rozvoje této technologie. Vyplývá to podle agentury AP z analýzy vypracované nezávislou monitorovací skupinou.
Společnost Anthropic v rámci příprav na vstup na akciovou burzu pozvala kalifornskou neziskovou organizaci METR, aby posoudila její interní data a provedla rozhovory se zaměstnanci. Učinila tak v době rostoucích obav z toho, že umělá inteligence by se mohla stát hrozbou pro lidstvo, upozorňuje AP.
Organizace METR následně odhadla, že společnost Anthropic zlepšuje schopnosti svých AI modelů plnit „jasně definované úkoly“ zhruba dvakrát rychleji než před rokem. Právě v době, kdy organizace hodnocení aktivit firmy Anthropic prováděla, vyzval Amodei firmy z odvětví, aby zbrzdily rychlost rozšiřování schopností svých modelů, píše AP.
„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ uvedl v září Amodei. K jeho výzvě se tehdy připojili také šéf konkurenční společnosti OpenAI Sam Altman či podnikatel Elon Musk.
Společnost Anthropic založili v roce 2021 bývalí zaměstnanci firmy OpenAI, která vyvinula populární chatovací systém ChatGPT. Vlajkovým produktem společnosti Anthropic je chatbot Claude, který byl uveden na trh v roce 2023. Koncem října firma Anthropic podala žádost o vstup na akciovou burzu.
„Všechny nás může zabít“
V poslední době se objevují zprávy o tom, že AI modely při plnění zadaných úkolů překročily stanovené hranice a pokusily se proniknout do cizích počítačových systémů. Někteří výzkumní pracovníci z oblasti AI varují, že rychlý rozvoj technologie by mohl v nepříliš vzdálené budoucnosti vést k zániku lidského druhu.
Velkou pozornost nedávno vzbudil výzkumník společnosti Anthropic Jacob Coxon, který se rozhodl opustit jak firmu, tak celý obor AI. Podle Coxona lidé pracující ve vývoji AI „upřímně věří, že by nás (tato technologie) mohla do konce tohoto desetiletí všechny zabít“.
