Měla být pod kontrolou, místo toho zaútočila. Meta vyšetřuje chování své umělé inteligence
- Model umělé inteligence od společnosti Meta během testování neplánovaně napadl cizí počítačový systém.
- Podle firmy šlo o chybu v nastavení, která modelu umožnila přístup k internetu.
- Incident znovu otevírá debatu o bezpečnosti stále výkonnějších AI systémů.
Model umělé inteligence (AI) americké společnosti Meta Platforms napadl při bezpečnostních testech počítačový systém jiné společnosti. S odkazem na sdělení Mety o tom ve středu informovala agentura Reuters. Zpráva přichází po podobných incidentech firem OpenAI a Anthropic. Meta stanici CNN sdělila, že na vině bylo stejně jako v předchozích případech chybné nastavení, které modelu při testování neplánovaně umožnilo přístup k internetu.
Další varování před riziky pokročilé umělé inteligence
Meta uvedla, že se o záležitosti dozvěděla od testovacího partnera a že ji prošetřuje. Název napadené společnosti nesdělila.
Popsaná narušení bezpečnosti nezpůsobila žádné škody, ale posílila všeobecné obavy z kybernetických útoků prováděných umělou inteligencí. Pravděpodobně se ale teď zintenzivní úsilí americké vlády o zlepšení bezpečnosti AI, uvedla agentura Reuters.
Tvůrci umělé inteligence přicházejí se stále výkonnějšími modely. Někteří významní představitelé v oboru argumentují, že vývoj by se měl zpomalit, dokud nebudou zavedena silnější ochranná opatření.
