Nejdřív úřady, potom lid. Americká vláda dostane předběžný přístup k novým AI, chce kontrolovat bezpečnost
- Microsoft, Google a xAI dají USA předběžný přístup k novým modelům AI.
- Vláda chce před vydáním prověřit rizika pro kyberbezpečnost i národní bezpečnost.
- Dohoda navazuje na dřívější spolupráci s OpenAI a Anthropic.
Americké technologické společnosti Microsoft, Google a xAI souhlasily, že vládě Spojených států poskytnou přístup k novým modelům umělé inteligence (AI) ještě před jejich uvedením na trh. Oznámila to americká vláda s tím, že bude prověřovat, zda nepředstavují hrozbu pro národní bezpečnost.
Oznámení podtrhuje zvýšené obavy Washingtonu z rizik spojených s výkonnými AI systémy. Americké úřady chtějí v rámci předběžného přístupu k novým modelům identifikovat možné hrozby, jako například zneužití modelů ke kybernetickým útokům či vojenským účelům, píše agentura Reuters.
Dohody s firmami Microsoft, Google a xAI uzavřelo Centrum pro AI standardy a inovace (CAISI), které spadá pod americké ministerstvo obchodu. „CAISI bude provádět předběžná hodnocení a cílený výzkum, aby lépe posoudilo schopnosti nejnovější AI a posílilo bezpečnost AI,“ píše se v tiskové zprávě.
Obavy, že by se AI mohla stát výkonným nástrojem hackerů, v poslední době posílil nový model Mythos od společnosti Anthropic. Ten je údajně schopen velmi rychle identifikovat slabiny v počítačových systémech. Firma Anthropic tvrdí, že Mythos je z tohoto důvodu příliš nebezpečný na to, aby jej zpřístupnila veřejnosti.
Se společností Anthropic a jejím konkurentem OpenAI se americká vláda na předběžném přístupu k AI modelům dohodla již v roce 2024.
FLOW: Umělá inteligence nám nevezme jen práci, ale i smysl života. Musíme se rekvalifikovat, tvrdí Ludwig.
