Evropská unie v posledních měsících intenzivně diskutuje o návrhu označovaném jako ChatControl. Jeho cílem je automaticky kontrolovat soukromou online komunikaci a odhalovat materiály spojené se sexuálním zneužíváním dětí. Návrh ale čelí rozporuplným názorům napříč unijními státy. Hlasování o něm se nakonec kvůli nedostatečné podpoře odložilo. Co konkrétního by zavedení takového mechanismu znamenalo pro běžného uživatele sociálních sítí a existují limity mezi ochranou dětí online a ochranou osobních údajů? Odpovídá analytik Asociace pro mezinárodní otázky Pavel Havlíček.

Přibližte prosím, co to vlastně tzv. Chat Control je. Jaký hlavní přínos by podle navrhovatelů mělo jeho zavedení?

Chat Control je soubor nástrojů, který by měl primárně potírat šíření dětské pornografie. Je to mechanismus, který funguje na technickém přístupu ke screenování online komunikace. Měl by za pomoci primárně AI nástrojů využívat příležitostí k označování a identifikování závadného obsahu za účelem toho, aby k šíření dětské pornografie nedocházelo. Finální podoba návrhu byla podle mnohých nešťastně formulována, což vyvolalo rozsáhlou veřejnou i politickou diskusi. Ta nakonec vedla k tomu, že návrh byl stažen kvůli nedostatečné podpoře a nebude předložen k dalšímu hlasování.

Na jakém principu by mechanismus detekoval nezákonný obsah v soukromé komunikaci?

Tento mechanismus by měl fungovat na základě soudních příkazů, které by umožnily monitorování celých informačních a komunikačních systémů – ať už jde o jednotlivé platformy jako Facebook, Messenger, WhatsApp, Signal a další, nebo o cloudová úložiště typu Google Disk či iCloud. Docházelo by ke screenování, řešení a prověřování online komunikace (vizuální obsah a odkazů) na základě určitých algoritmů, a identifikovaných slov nebo typu obsahu. Na základě toho by docházelo k označení podezřelých zpráv a jejich následnému lidskému prověřování.

Kámen úrazu představuje skutečnost, že by se toto monitorování vztahovalo i na komunikaci chráněnou tzv. koncovým šifrováním – tedy na komunikaci, která má zůstat výhradně mezi odesílatelem a příjemcem a má být nejen soukromá, ale i ale i chráněná ze strany jednotlivých platforem. Na základě soudních rozhodnutí by tak společnosti mohly být tlačeny k tomu takto chráněnou komunikaci do určité míry sdílet a následně prověřovat, což je jeden z hlavních bodů kritiky.

Pokud se na to podíváme z pohledu běžného uživatele sociálních sítí, co by to pro něj znamenalo? Co konkrétního by se změnilo v praxi, pokud by toto nařízení bylo zavedeno?

Pokud by se v nejrozsáhlejším návrhu tato norma aplikovala, tak bychom viděli jednu z těch zásadních věcí, a to prolomení soukromí online komunikace a fungování v online prostředí. Došlo by k oslabení důvěry v digitální prostředí i k narušení principu anonymity. A kdyby skutečně došlo k prolomení toho tzv. koncového šifrování, bylo by to opravdu zásadní. Konkrétně v tom ohledu, že by veřejné autority dostaly přístup k typu informací, ke kterému dříve nemohly. V demokratických společnostech je snaha najít určitý balanc mezi tím, jaké informace například orgány činné v trestním řízení potřebují pro vyšetřování zločinů. Otázkou je, co vlastně potřebuje běžný uživatel k běžnému fungování, aniž by do těchto věcí musel zasahovat stát.

Dá se tedy definovat, jaké by měly být ty limity mezi ochranou dětí online a ochranou osobních údajů?

To je velmi vážná a seriózní společenská diskuse, která bohužel toto téma spíše neprovázela, protože byla podle mého názoru hodně radikální. Evropská komise představila kodex zásad pro ochranu dětí v online prostředí. Je to v zásadě návodný dokument pro poskytovatele služeb, jak se mají v online prostředí o ochranu práv dětí starat. Práva dětí jsou dnes v digitálním prostoru často ohrožována – nejen kvůli trestné činnosti, jako je šíření dětské pornografie, ale i kvůli obsahu, který může negativně ovlivnit psychiku dětí, například v souvislosti s poruchami příjmu potravy nebo online šikanou. Je tedy opravdu nezbytné tuto oblast zásadním způsobem posunout kupředu, ale musíme k tomu opravdu volit správné nástroje. Ale pokud se mě ptáte, jaké je to jedno správné rozhodnutí, tak nejsem přesvědčen o tom, že ho známe.

Pokud se zaměříme na tu politickou perspektivu tohoto návrhu, tak Vy sám jste zmiňoval, že poprvé se návrh na zavedení takzvaného kontrolu objevil už v květnu roku 2022. Nicméně k projednání na Radě EU mělo dojít 14. října, což se nakonec odložilo kvůli nedostatku podpory mimo jiné i ze strany Česka. Co podle Vás stojí za tím, že návrh nezískal podporu a jaký to může mít dopad na vývoj té legislativy?

Myslím si, že tato i některé další otázky při pohledu na online regulaci a prostředí ukazují, že podobné debaty jsou velmi citlivé na kontext, ve kterém se projednávají. Pokud se podíváme na to, jaká debata se například právě ohledně ochrany práv dětí odehrává v Dánsku, jehož předsednictví na tomto plánu velmi tvrdě pracovalo, nebo například ve Francii, tak ta debata je daleko dále než u nás. Česká republika je v tomto ohledu poměrně zdrženlivá. Klade důraz spíše na odpovědnost jednotlivce, roli rodiny a vzdělávací systém, než na přímé zásahy státu či plošnou kontrolu. Tento rozdíl v národních přístupech se naplno projevil i v diskusi o Chat Control.

Česká republika zpočátku zaujímala spíše vyčkávací postoj, ale v poslední době se postavila proti návrhu poměrně jednoznačně. Podobně se vyjádřily také Estonsko, Slovensko a několik dalších států, které sdílely skepsi k navrhovanému řešení. A na tento popud byl návrh nyní z pořadu jednání stažen. Dánské předsednictví si uvědomilo, že přestože potřeba řešit tuto problematiku reálně existuje, zvolené prostředky a přístup možná nejsou adekvátní. Efekt a cíl, kterého mělo být dosaženo, byl vlastně příliš draze vykoupen některými dalšími otázkami právě třeba na straně svobod a práv občanů a uživatelů. Návrh je diskutován déle než 3 roky a zatím ještě nejsme u konce.

Co se pro to tedy dá udělat? Jak se dobrat toho Vámi zmíněného konce?

Domnívám se, že nyní máme před sebou dvě možné cesty. První z nich je pokračovat v debatě a pokusit se nalézt kompromisní řešení, které by získalo širší podporu. To by ale pravděpodobně znamenalo určité ústupky – například omezení zásahů do koncového šifrování, které je mimořádně citlivou otázkou. Namísto plošného screeningu by se mohlo uvažovat o cílených opatřeních zaměřených na specifické případy či podezřelé komunikační kanály. Takový přístup by umožnil zaměřit se na organizovaný zločin, aniž by docházelo k plošnému sledování všech uživatelů.

Druhá cesta je tento návrh, který je někdy až démonizován, stáhnout úplně pryč a vydat se jinou cestou. Mluví se v této souvislosti právě o principech prevence a zlepšení informování uživatelů v online prostředí, ale také třeba o daleko vyšší míře součinnosti mezi národními a evropskými orgány. Tato varianta je v tuto chvíli podle mě realističtější.

V posledním průzkumu Eurobarometru z letošního jara na otázku „Jakou představu ve vás vyvolává EU“ odpověděla kladně jen třetina českých občanů. Přineslo by podle Vás zavedení tohoto mechanismu ještě větší propast mezi euroskeptickými Čechy a EU?

Myslím si, že by tato otázka ve specifickém českém kontextu, nepřinesla žádnou další podporu evropské integraci, ani pro fungování Evropské unie a jejích institucí. Naopak, mohla by debatu ještě více polarizovat a prohloubit euroskepticismus, který je v české společnosti stále poměrně zakořeněný. Mám za to, že tento nástroj by znovu spíše rozbouřil vody.

Foto: AMO.cz