Evropská komise už před více než rokem představila návrh nové legislativy, která by měla zabránit šíření dětské pornografie. Jako jeden z nástrojů chce zavést sledování soukromé online komunikace v dosud nebývalém měřítku. Kritici však návrhu vyčítají, že nepřípustně narušuje osobní svobodu občanů Evrospké unie. O návrhu se mělo hlasovat 28. září, členské státy se ale zatím neshodly ani v tom, jestli je nutné legislativu vůbec zavádět. Hlasování tak bylo zatím odloženo.
„Jako dospělí máme povinnost chránit děti. Sexuální zneužívání dětí představuje reálné a stále sílící nebezpečí: nejenže počet oznámení roste, ale týkají se i mladších dětí,“ uvedla eurokomisařka pro vnitřní záležitosti Ylva Johanssonová při loňském jarním představení legislativy přezdívané CSAM (Child Sexual Abuse Material, volně česky materiály zachycující sexuální zneužívání dětí).
Oznámení, o kterých komisařka mluvila, už dnes dodávají a snaží se řešit nejrozšířenější platformy jako Facebook, Google a další poskytovatelé online služeb. Důvodem zavedení nové, přísnější legislativy je i to, že drtivá většina oznámení pochází z Facebooku, což ale podle navrhovatelů neznamená, že se dětská pornografie distribuuje hlavně na této sociální síti, Facebook je pouze aktivnější než jiné platformy.
„Navrhovaná pravidla uloží poskytovatelům služeb povinnost v rámci svých platforem odhalovat, oznamovat a odstraňovat dětskou pornografii. Poskytovatelé budou muset posuzovat a snižovat riziko zneužití svých služeb a přijatá opatření musí být úměrná tomuto riziku a podléhat přísným podmínkám a zárukám,“ uvádí Evropská komise. Sledování by mohl nařídit také soud.
V praxi by měly platformy dohlížet na to, aby se skrze jejich kanály nešířil obsah, který by se dal kvalifikovat jako pohlavní zneužívání dětí. Evropská komise na podporu své legislativy uvádí výsledky průzkumu veřejného mínění, podle kterého unijní občané z téměř 90 procent podporují automatickou detekci i zásah do soukromí uživatelů. Dále komise uvádí, že jen za rok 2021 bylo nahlášeno 85 milionů obrazových materiálů a videí zobrazujících pohlavní zneužívání dětí.
Nová pravidla chtěla uzákonit i možnost prolomení koncového šifrování, které pro zabezpečení soukromé komunikace využívají například aplikace Signal, Facebook Messenger nebo WhatsApp. Ve zmíněném průzkumu s jeho prolomením souhlasilo 83 procent občanů EU. Tento princip ale nakonec během letních měsíců z návrhu vypadl, jak potvrdila mluvčí ministerstva vnitra Hana Malá. „Česko požadovalo zakotvení ochrany koncového šifrování v návrhu. Španělské předsednictví tento požadavek akceptovalo a aktuální znění návrhu již zahrnuje dotčenou garanci koncového šifrování,“ uvedla Malá pro e15.
Jenže mnozí odpůrci návrhu tento ústupek nepovažují za dostatečný. Podle informací e15 někteří vyjednavači nepovažují záruky za dostatečné, protože ostatek návrhu je podle nich nevyvážený a v podstatě „směřuje k prolamování šifrování“. Podle nich hrozí, že by se pasáž o garanci šifrování dala interpretovat i jiným způsobem a ve výsledku by ji úřady mohly obejít.
Neshody ohledně možného prolomení šifrování a plošné detekce komunikačních služeb se nakonec staly jedním z důvodů, proč bylo zatím odsunuto hlasování na úrovni členských států v Radě EU. Podle Malé španělské předsednictví usiluje o to, aby se hlasovalo už na příštím zasedání 19. října. Právě španělská vláda patří k největším podporovatelům návrhu a prolomení šifrování naopak prosazuje.
Kritici ale varují, že návrh, který chce zapojit do sledování umělou inteligenci, přinese více škody než užitku. „Jako vědci máme z toho návrhu vážné obavy, a to z několika důvodů: má hluboké technické nedostatky, které nelze vyřešit, a je velmi pravděpodobné, že technologie, na které je založen, je zneužitelná,“ vyjádřili se akademici Bart Preneel a Carmela Tronscosová na webu Euronews.
Upozorňují zejména na riziko, že kvůli nedokonalosti technologií by mohlo být narušeno soukromí lidí, kteří by navíc mohli být chybně označeni za šiřitele dětské pornografie. Nejde přitom jen o komunikační služby, ale také o fotografie a videa uložená na internetových serverech nebo v počítačích a mobilních telefonech. Detekci by měly provádět soukromé společnosti, byť s nástrojem, který by jim dodalo nové středisko Evropské komise.
„Plošně všem bez výjimky kontrolovat zprávy by bylo porušením základních práv na soukromí a ochranu údajů,“ myslí si poslankyně Klára Kocmanová (Piráti), která společně se svými stranickými kolegy usiluje o to, aby česká vláda namísto současného neutrálního stanoviska návrh přímo odmítla. „Všechno by mělo projít přes automatický filtr, který rozhodne, zda jde o závadný obsah. Přitom systém může chybovat a detekovat i naprosto nevinné věci. Pak i ty nejintimnější zprávy či fotografie dětí z dovolených můžou lehce skončit v rukou cizích lidí,“ vysvětluje Kocmanová. Ministr vnitra Vít Rakušan (STAN) na otázky deníku e15 do uzávěrky textu neodpověděl.
Plošné sledování online komunikace by navíc pravděpodobně bylo v rozporu s evropským právem a se stávajícími rozhodnutími soudů. „Je třeba zdůraznit, že Soudní dvůr se už ve svých rozsudcích sledování provozních a lokalizačních údajů v komunikaci věnoval. V návrhu je požadováno skenování veškerého obsahu elektronické komunikace, což je ještě invazivnější zásah než ten, který soudní dvůr EU označil opakovaně za nepřípustný,“ domnívá se právník neziskové organizace Iuridicum Remedium, která poslala počátkem září otevřený dopis ministru vnitra Vítu Rakušanovi a vyzvala ho, aby Česko předložený návrh nepodpořilo.
Vobořil také upozorňuje, že jakmile budou komunikační služby donuceny vytvořit v systémech zadní vrátka, kudy by mohly být kontrolovány, hrozí jejich zneužití. „Pokud dojde k technologické implementaci systému schopného analyzovat soukromé zprávy, není nemožné, aby národní vlády rozšířily detekční příkazy o povinnost zachycovat například informace ohrožující národní bezpečnost a posléze třeba komunikaci politické opozice. Zneužití hrozí i ze stran samotných poskytovatelů, kteří mohou tento nástroj využívat k vytěžování klientských dat,“ myslí si právník.
Odpor vůči regulaci je ve svém rozsahu nevídaný, upozorňuje nezisková organizace European Digital Rights. Ta dala dohromady seznam všech lidí a organizací, které se proti CSAM legislativě vymezují. Konkrétně jde například o skupiny zabývající se ochranou dětí, skupiny těch, kteří sexuální násilí sami zažili, o technologické experty, bezpečnostní složky některých evropských států, soukromé podnikající společnosti i mezinárodní organizace.
Zároveň vyšlo najevo, že pozadí celé regulace a organizace, které za ně lobbují, vzbuzují pochybnosti. Společná práce novinářů Giacomi Zandoniniho, Apostolise Fotiadise a Luďka Stavinohy odhalila, že mezi těmi, kdo podporují CSAM legislativu, nejsou ani tak nezávislé neziskové organizace jako technologické firmy, které nástroje na detekci závadného obsahu vyvíjejí a prodávají.
Přímo na legislativě s eurokomisařkou Ylvou Johanssonovou například spolupracuje organizace Thorn. Na jejím založení a propagaci se podíleli i známí američtí herci jako Ashton Kutcher nebo Demi Moore. Organizace se prezentuje jako charitativní, se zaměřením na ochranu dětí, jenže zároveň benefituje z prodeje nástrojů na detekci tohoto typu obsahu.
„Skupiny jako Thorn dělají všechno, co jen můžou, aby tuto legislativu prosadily, a to nejen proto, že se domnívají, že znamená cestu vpřed v boji proti sexuálnímu zneužívání dětí, ale také proto, že na tom mají komerční zájem,“ uvádí Arda Gerkensová, bývalá šéfka nizozemské organizace, která se zaměřuje na nahlašování šíření dětské pornografie. „Kdo bude mít z legislativy prospěch?“ ptá se Gerkensová. „Děti určitě ne.“
Eurokomisařka Ylva Johanssonová zjištění novinářů a jejich výklad kauzy odmítá. „Jsem hrdá na to, že se mohu postavit na stranu těch, kteří sexuální násilí přežili, a organizací, jež bojují proti pohromě sexuálního zneužívání dětí online. Navzdory pokusům o dezinterpretaci naší práce budeme i nadále dělat to, co je správné pro naše děti,“ uvedla na sociální síti X.
