Itálie zablokovala Chat GPT, regulátor se obává o osobní údaje občanů

Chat GPT čelí první vážnému problému.

Chat GPT čelí první vážnému problému. Zdroj: Profimedia.cz

Jazykový model Chat GPT americké organizace Open AI čelí prvnímu vážnému problému. Italský regulátor, který dohlíží na ochranu osobních údajů, zablokoval systém založený na bázi umělé inteligence. Podle názoru tamních úředníků není chatovací rozhraní v souladu s GDPR, evropskou legislativou na ochranu osobních údajů. Open AI má dvacet dnů na odpověď, jak chce nedostatky řešit, poté ji hrozí pokuta až do čtyř procent z celosvětového obratu. 

Současně se zákazem služby italský regulátor zahájil vyšetřování. Mezi důvody, proč k tomu kroku přistoupil, úřady uvádějí loňský únik údajů z databáze Open AI, mezi kterými byly například platební údaje. Italský úřad také tvrdí, že neexistuje právní základ, jenž by umožňoval „masivní shromažďování osobních údajů za cílem tréninku algoritmů“.

Úřad v prohlášení zdůrazňuje, že Open AI nedostatečně informuje uživatele o tom, co se s jejich daty děje, a zároveň jsou jejich data zpracována nedokonale, kvůli čemuž jsou v některých případech odpovědi z dílny Chat GPT nesprávné. Také podle italských úředníků nedochází při registraci a přihlášení do chatovacího rozhraní k dostatečnému ověření věku uživatelů, a to navzdory tomu, že služba není určena pro lidi mladší osmnácti let a pro mladší děti mohou být některé odpovědi nevhodné.

Podle experta na ochranu osobních údajů Jana Vobořila z organizace Iuridicum Remedium je postup italského úřadu v pořádku. „GDPR je třeba respektovat u jakéhokoliv zpracování,“ říká. „Informace o zpracování osobních údajů na jejich stránkách nenacházím, už to je problém. Nejsou tedy známé žádné parametry zpracování – kdo, co, jak dlouho a kde fyzicky zpracovává, pro jaký účel, na základě jakého právního titulu a podobně,“ vysvětluje Vobořil v čem je problém.

Odborník doplňuje, že italský úřad pro ochranu osobních údajů patří k aktivním institucím, například jako jedna z prvních udělila pokutu firmě Clearview, která se zaměřuje na rozpoznávání obličejů

Open AI nemá na evropském kontinentu kanceláře ani zastoupení, i tak pro ni platí lhůta dvaceti dnů, do které se musí podle evropského práva vyjádřit k tomu, jak vytčené problémy vyřeší. 

Rozhodnutí o zablokování přichází poté, co přední osobnosti technologického světa napsaly otevřený dopis, v němž doporučují pozastavit na šest měsíců vývoj AI, která je pokročilejší než jazykový model Chat GPT4. Podle nich by totiž měly být stanovena pravidla, která by umožňovala další bezpečný vývoj AI. Výzvu podepsali například Elon Musk, historik Yuval Noah Harari nebo technologický ředitel českého startupu Rossum Petr Baudiš. 

„Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa včetně těch, která nás naplňují? Měli bychom vyvinout nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit, zastarat a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?“ klade otázky výzva od Future of Life Institute. 

„Pokud to neuděláme, tak začneme se vystavovat nebezpečí zásahu státu a může se stát něco podobného, jako tomu bylo u jaderné energie, tedy že ten obor stát přereguluje a ohrozí tím rozvoj,“ vysvětluje Baudiš podporu dočasného zastavení vývoje. „To by neprospělo nikomu, proto je dobré ukázat nějakou míru zodpovědnosti,“ doplňuje.

Podle Baudiše kvůli rychlé adopci nové technologie hrozí informační asymetrie. „Kdyby se ten půlrok využil jen k edukaci lidí, co všechno AI umí, bylo by to prospěšné. Také bychom se měli zamyslet nad bezpečností, aby nebylo tak snadné to zneužít,“ domnívá se.