Internetové platformy se budou muset zpovídat z moderování obsahu, říká expert na svobodu internetu

Martin Husovec je docentem práva, působí na London School of Economics and Political Science

Martin Husovec je docentem práva, působí na London School of Economics and Political Science Zdroj: Repro E15

Martin Husovec je docentem práva, působí na London School of Economics and Political Science
2
Fotogalerie

Martin Husovec je docentem práva, působí na London School of Economics and Political Science (LSE). Dlouhodobě se zabývá otázkami regulace internetových platforem, duševního vlastnictví a svobodou vyjadřování na internetu. A nyní především Aktem o digitálních službách, který zásadně promění fungování velmi velkých internetových platforem. „Pokud platforma učiní rozhodnutí, které omezí obsah, jejž tam uživatel vložil, budete mít právo na vysvětlení, které musí být individuální, specifické a musí být možné se proti němu bránit formou odvolání,“ uvádí Husovec v rozhovoru.

Akt o digitálních službách (DSA) je bezpochyby nejzásadnější regulací, která se dotkne platforem, jako jsou Facebook, Instagram nebo Twitter. Jaké budou v nejbližší době jejich povinnosti?

Platformy musejí do února zhodnotit, kolik mají uživatelů a tuto informaci zaslat Evropské komisi. DSA v první fázi dopadne na platformy, které mají více než 45 milionů měsíčních uživatelů v Evropské unii. Do dvou měsíců poté komise stanoví, které jsou „velmi velké online platformy“ či „velmi velké vyhledávače“. Některé firmy jako Google, Bing, Facebook a Instagram či YouTube patrně tuší, že tak budou označeny, a připravují se na to. U některých je to méně jasné.

U kterých?

Jde o to, jak se budou počítat uživatelé, na to není metodika. Například u Twitteru je otázka, zda to budou přispívající uživatelé, což je jedno číslo, nebo také uživatelé, kteří jen čtou tweety vložené v rámci článků v médiích. Twitter ve velkých státech, jako jsou Španělsko, Francie a Německo, používá od deseti do dvaceti procent populace, ale například na Slovensku zřejmě méně než pět procent, takže překročení hranice 45 milionů uživatelů v rámci EU může být těsné.

Hraniční jsou služby jako třeba Google Maps, které také umožňují uživatelům nahrávat obsah, například ukládat recenze. Také se tak mohou stát velmi velkou online platformou. Na ně myslel málokdo. A další zajímavý případ jsou některé messengery. V případě Signalu nebo WhatsAppu, které běžně nefungují přes cloud, ale jen na koncových zařízeních, tak to nebudou platformy. Ale třeba Telegram, který má kanály, kde se publikuje uživateli generovaný obsah, jenž je i veřejně přístupný, tak ten pod platformovou regulaci v DSA může spadat také.

Jaký vliv na obchodní model platforem bude DSA mít?

Základní dopad je, že dosud ty služby fungovaly „freestyle“ způsobem. Právo jim říkalo, že mají určitou záruku, že nebudou zodpovídat za obsah, který jejich prostřednictvím šíří uživatelé, pokud budou řešit oznámení na nelegální obsah. Vše nad tím bylo fakticky na jejich dobrovolnosti a na tom, co si od nich vymohli obchodní partneři, například inzerenti. Nyní z platforem, jako jsou YouTube, Facebook, Amazon, či Apple App Store, bude v podstatě regulovaná služba, na kterou budou čtyři druhy zákonných požadavků.

První je na moderaci obsahu. Nyní, jak vidíme v případě Twitteru, se lehce může stát, že platforma moderuje a občas i blokuje podle pocitů, neexistujících pravidel a do značné míry úplně arbitrárně. Uživatelé nemají šanci se proti tomu reálně bránit.

A díky DSA tuto šanci dostanou?

Ano. Pokud jste občasný uživatel, tak vás to možná zase tolik nezajímá, ale třeba pro novináře s desítkami či stovkami tisíc sledujících na Twitteru či youtubery s mnoha zhlédnutími to může být otázka živobytí. DSA přinášejí povinnosti. Online služby si mohou určovat pravidla, ale už nemají takovou moc nad jejich interpretací, protože do procesu vstupují další aktéři.

Platformy tak budou muset věnovat uživatelům mnohem více času a zdrojů než nyní. Například teď není možné se proti moderačním rozhodnutím velkých platforem „odvolat“. Samozřejmě vždy bylo možné jít na soud, ale to ve většině zemí a případů nikdo nedělal, mimo jiné proto, že šance na úspěch byly minimální. Podle DSA budou muset mít platformy několikastupňový systém „odvolání“ proti rozhodnutím, jako je zmrazení účtu a podobně. To moderování obsahu zformalizuje.

Druhá změna je, že regulátor bude poprvé mluvit do samotné podoby služby, kterou platforma nabízí. Už nebude možné pro velmi velkou platformu postavit produkt, vypustit ho do ostrého provozu za dva dny a neotestovat ho na negativní dopady. Regulátor nebude přímo předepisovat vlastnosti služeb, ale bude mít vhled do toho, co se děje, protože platformy budou muset služby navrhovat s ohledem na to, jaká mohou přinést rizika různým skupinám uživatelů. Třetí změna je zásadní zvýšení transparentnosti. A čtvrtá je, že pravidla bude možné různě vymáhat.

Co konkrétně myslíte onou transparentností?

Pokud si jako příklad vezmeme sociální sítě, tak budou k dispozici různé reporty typu, jak tyto platformy moderují obsah, jaké technologie používají, jak jsou moc či málo přesné, kolik lidí provádí moderaci obsahu, kolik jich je vyčleněno na který úřední jazyk EU. A kolik obsahu bylo z platformy staženo, kolik takových odstranění obsahu uživatelé rozporovali a kolik mimosoudních řízení platformy prohrály.

Transparentnější bude také proces moderace obsahu. Základní je, že pokud platforma učiní rozhodnutí, jež omezí obsah, který tam uživatel vložil, máte právo na vysvětlení, které musí být individuální, specifické a musí být možné se proti němu bránit formou odvolání. Zdá se to banální, ale v mnoha případech to platformy dosud nenabízely. Například pokud vaše příspěvky z nějakého důvodu „blacklistují“ a přestanou je nabízet v rámci algoritmu, je to forma moderace a musejí vám to vysvětlit.

Takže mi to musí říct nějaký konkrétní platformou pověřený člověk, proč a co udělal s mým příspěvkem?

Nemusí to být člověk, očekávám, že většina vysvětlení budou automatizované zprávy, protože na obrovské šíři obsahu, který platformy moderují, není možné všechno odůvodnit na lidské úrovni. Ale člověk musí podle DSA rozhodovat o odvolání. Specifické odůvodnění, které DSA vyžaduje, znamená, že musíte mít jasno, proč k zásahu došlo. Nejen říct, „porušili jste pravidla“, ale řádně zásah zdůvodnit. To znamená, že prostředí bude stabilnější. Zároveň je možné požádat třetí stranu, aby vás zastupovala ve vztahu k platformě. To dá příležitost řadě neziskových organizací zastupovat uživatele, kteří se cítí dotčeni rozhodnutími, jež považují za příliš tvrdá. Celé rozhodování tak bude mít podobu konkrétního procesu.

Uvidí uživatelé nějakou změnu v tom, jak budou platformy nabízet obsah, tedy změny jejich algoritmů?

Uživatelé na velmi velkých platformách budou mít možnost nebýt profilováni za účelem zobrazení doporučených příspěvků, ale nemusí to být součást základního nastavení platformy. Ale je to otázka přístupu na základě zhodnocení rizik. Pokud třeba interní zhodnocení rizik určité platformy ukáže, že zobrazování příspěvků na základě nějaké formy personalizace je příliš rizikové – z různého důvodu – tak je možné, že standardní bude nepersonalizované zobrazování příspěvků. To teprve uvidíme. Ale uživatelé si budou moci přečíst, proč platformy dělají, co dělají, jak konkrétně řeší rizika například s nenávistnými projevy v Česku, jak konkrétně chrání děti a podobně.

Takže se opět vracíme k transparentnosti jako k největší změně.

Ano – nový bude „spravedlivý proces“, pokud jde o váš obsah a jak s ním platformy nakládají, a dále bude možné se zamýšlet nad tím, jaká rizika platformy vytvářejí, jak fungují a jak rizika řeší.

Jaká jsou to rizika?

Nejrůznější. Rizikem je samozřejmě nelegální obsah, obsah problematický z hlediska procesu demokratických voleb nebo z hlediska dopadu na zdraví lidí. Ale je tu také riziko dopadu na různá základní práva. Tedy riziko, že dojde k odstranění obsahu, který není závadný, jen proto, že jsou špatně nakalibrované mechanismy a procesy k rozpoznání nelegálního či jinak pro platformu škodlivého obsahu. To je také novinka, kterou nyní bude moci Evropská komise posuzovat, jaký je dopad moderace obsahu platformami na svobodu projevu.

Například v autorském právu jsou mechanismy typu nahrávacích filtrů pro odhalení nelegálního obsahu, ale není způsob, jak je auditovat, jak vyhodnocovat jejich účinnost a jak je kalibrovat. To je aspekt, který dosud nebyl příliš akcentován. Předpokládám, že se budou také vyhodnocovat rizika spojená s propagandou a hybridními hrozbami. Mechanismus hodnocení rizik je každopádně otevřený, protože každá platforma je jiná a lidé ji používají na různé účely, z čehož také pramení různá rizika.

Pokud jsme se dotkli filtrů obsahu, tak DSA obsahuje i institut takzvaných důvěryhodných oznamovatelů. Kdo to bude?

DSA je postavená na podobném systému, na jakém je postaveno poskytování služeb už od roku 2000 a směrnice o elektronickém obchodu. Subjekty tedy mohou nahlašovat nelegální obsah a poskytovatelé se ho pak snaží odstraňovat. Je to logický důsledek toho, že jde o internet, a ne o média, kde je editoriální kontrola před zveřejněním obsahu. Nyní platformy posuzovaly stejně hlášení od subjektu, který nahlásil nelegální obsah jednou a který nahlásil třeba devět tisíc porušení autorského práva denně.

Důvěryhodní oznamovatelé mají být institucionalizovaní hráči, kteří mají poskytovat kvalitní přístup k nahlašování, a jejich hlášení má mít tím pádem prioritu. Je to motivace různých držitelů práv, aby jimi pověřené firmy na podchycování nelegálního obsahu dělaly svou práci důkladněji. Stejně tak neziskovky, které případně nahlašují nenávistné projevy – DSA chce podpořit entity, které dělají pečlivou práci a nedělají chyby.

Další novinkou jsou „prověření výzkumní pracovníci“. Co si od nich můžeme slibovat?

To by měli být hlavně vědci v oboru sociálních věd, kteří dělají datovou analýzu. Takoví výzkumníci získají možnost navrhnout projekty, ve kterých budou zkoumat rizika a způsob intervence proti těmto rizikům. Vědci navrhnou ad hoc projekt prostřednictvím národních regulátorů, předloží ho platformě a ta má omezenou možnost odmítnout přístup k požadovaným datům. Problém je, že k vytvoření takového projektu je nutné mít předběžné informace, abyste vůbec věděl, co zkoumat. Což není vždy snadné.

Každopádně Achillovou patou v tomto jsou peníze. Tyto projekty jsou obvykle finančně náročné a měl by na to pamatovat hlavně stát a mít dotační mechanismus k podpoře podobných projektů. Aby mohli vědci dělat výzkum typu „Facebook je v naší zemi populární a jde o velmi silné zrcadlo naší společnosti, může být rizikem z důvodu šíření dezinformací, propagandy nepřátelského státu nebo násilného obsahu“. Považuji takové výzkumy za společensky nevyhnutelné a měly by se na ně dát peníze od lokálních nadací a státu. Například na hybridní hrozby nebo nenávistné projevy v češtině nebude dávat českým výzkumníkům peníze německá grantová agentura, ale zájem by měl mít český stát.

DSA je zásadní regulace, která, jak už jsme uvedli, přinese významné změny. To se nutně bude pojit s náklady na plnění regulatorních povinností. Lze odhadnout, kolik bude implementace DSA stát?

Dá se to těžko odhadnout, ale určitě budou mít vyšší náklady než dnes. Jak nám ukázala whistleblowerka Frances Hoganová, firmy jako Facebook investují hodně úsilí do moderace obsahu v rámci velkých a politicky senzitivních trhů, jako jsou USA nebo Německo, ale v zemích, jako je Česko, nebo na rozvíjejících se trzích už tolik ne. Slovenští nebo čeští inzerenti přitom platí stejné peníze, ale neprojevuje se to v tom, že by moderace obsahu byla kvalitnější.

Pamatuji si, že byl pokus na Slovensku zjistit, jaká jsou konkrétní čísla, tedy kolik lidí moderuje obsah ve slovenštině, kolik příspěvků je nějak postiženo a podobně, ale nepodařilo se to. Důvod je podle mě ten, že ta čísla by byla neuvěřitelně nízká. DSA přinese to, že tyto kapacity budou muset být významně posíleny z výše uvedených důvodů. Navíc moderace obsahu v češtině se dá těžko outsourcovat, na rozdíl od angličtiny, kde platformy mohou využívat zaměstnance třeba v Indii nebo na Filipínách. Zvláště když o odvolání proti moderačnímu zásahu musí vždy rozhodovat člověk.