Pokud jde o ochranu osobních údajů, v Evropě naštěstí rozhodují nestranné soudy, ne politici. Naštěstí proto, že evropští politici často zkoušejí svými neadekvátními návrhy zákonů, co vše je ještě možné. V případě sporu o uchovávání údajů u poskytovatelů komunikačních služeb (data retention) to došlo tak daleko, že generální advokát Evropského soudního dvora (ESD) u příležitosti pátého dohadovacího jednání podrážděně poznamenal, že všechny odpovědi lze „snadno odvodit z předchozí judikatury ESD“.
I po takovém jasném odmítnutí nemají zákonodárné orgány co ztratit, snad kromě své dobré pověsti. Mohou si však být jisty, že vyčerpaly veškerý prostor, který jim evropské právo poskytuje.
Další kolo této pokerové hry již začalo a pravděpodobně přeroste všechny předchozí spory. Evropská komise chce uložit poskytovatelům online služeb povinnost odhalovat a hlásit materiály o zneužívání dětí v soukromých komunikačních účtech svých zákazníků.
Nová éra hromadného sledování
Bruselský projekt, který se tváří jako opatření proti obzvláště odporné kategorii trestné činnosti, neznamená nic jiného než trvalé sledování všech chatů a e-mailů všech uživatelů v Evropě. Pokud se plán uskuteční, budou tyto kanály automaticky skenovány na podezřelý obsah. Tato automatická kontrola v reálném čase by nebyla podmíněna žádným podezřením a už vůbec ne soudním rozhodnutím: probíhala by vždy a ukončila by důvěrnost soukromé komunikace v digitálních kanálech. Pokud by byl návrh Komise přijat, nastala by nová éra masového sledování: Poprvé v demokraciích západního typu by existovala povinnost sledovat obsah komunikace bez výjimky a bez mezer.
Zpravodajské služby, jako je NSA nebo BND (německá Spolková zpravodajská služba), již dlouho tajně vyšetřují v šedé zóně to, co je přípustné, a neváhají sledovat i obsah, například při skenování pomocí selektorů, tj. klíčových slov a vyhledávacích výrazů.
Velké sledovací projekty, jako je data retention (ukládání provozních a lokalizačních údajů u poskytovatelů telekomunikačních služeb), které jsou určeny k oficiálnímu a širokému nasazení, však zatím počítaly pouze s metadaty. Už tato spojovací data jsou považována za vysoce produktivní zdroj, pokud jde o interpretaci digitální komunikace – dokonce tak produktivní, že Evropský soudní dvůr z velké části bezdůvodné uchovávání těchto dat zakázal.
Konečná stanice Lucemburk
Komise bojuje za kontroly: Evropská komise pod vedením Ursuly von der Leyenové se domnívá, že kontroly chatu jsou správným způsobem boje proti zneužívání dětí. | Zdroj: Guillaume Périgois/Unsplash
Jak hodlá uspět se svým daleko ambicióznějším projektem sledování chatů tváří v tvář tomuto dlouhodobě ustálenému postoji ESD v Lucemburku, zůstává tajemstvím Evropské komise vedené Ursulou von der Leyenovou.
To, co by se zpočátku oficiálně vztahovalo pouze na dětskou pornografii, by se mohlo po stisknutí tlačítka rozšířit i na další trestné činy. Komise chce zavázat velké webové služby, aby vytvořily vhodné technické struktury pro odhalování příslušného materiálu. Konkrétně by se jednalo o porovnávání klíčových slov a hash hodnot indexovaného obsahu s obsahem uživatele. Vzhledem k tomu, že má být detekován i neznámý materiál, byla by k detekci obrázků a textů využita i umělá inteligence.
AI má také rozpoznat tzv. grooming, tedy nábor dětí za účelem zneužití. Podle plánu EU to vyžaduje určitou formu ověření věku, aby bylo možné určit, zda dospělá osoba skutečně kontaktuje dítě. To by pro anonymitu na síti nebyla dobrá zpráva.
Pokud menší poskytovatelé nebudou schopni potřebné nástroje zavést, má jim poskytnout podporu plánované Centrum EU pro prevenci a boj proti sexuálnímu zneužívání dětí.
Provideři z USA jako zprostředkovatelé
Potenciální partner EU: americká organizace Thorn vyvíjí technologie pro boj proti zneužívání dětí na internetu a chce být aktivnější i v Evropě. | Zdroj: Thorn.org
Vznikla by tak dohledová infrastruktura, jejíž hlavní břemeno by nesly soukromé internetové společnosti. Ty by převzaly úkoly, které jsou součástí výsostných práv státu. Některé z nich to ostatně již nějakou dobu dělají. Američtí poskytovatelé Google, Microsoft a Facebook již léta, někdy s přestávkami, skenují své služby, zda neobsahují materiály o zneužívání dětí.
V právní oblasti EU skutečně není automatické filtrování pošty a zpráv messengerových služeb povoleno. EU však dala takovému přístupu přechodnou zelenou v roce 2021. I toto rozhodnutí bylo kontroverzní. Pokud však bude nyní skenování povinné pro všechny kanály, žádný z jejich uživatelů nebude moci této kontrole uniknout a později bude možné s pomocí infrastruktury EU stíhat i další trestné činy.
Poslanec Evropského parlamentu Patrick Breyer se již řadu let aktivně angažuje v hnutí za digitální občanská práva. Člen německé Pirátské strany je hlavní postavou odporu proti kontrole chatu. Poměrně názorně říká, co může automatická kontrola chatu spustit: „Pokud automatická kontrola získá podezření, zobrazí se následně soukromé fotografie a videa zaměstnancům mezinárodních korporací a policejním orgánům. Dokonce i intimní nahé fotografie si pak budou prohlížet neznámí lidé po celém světě, v jejichž rukou nebudou v bezpečí.“
Sexting, tedy posílání odhalujících fotografií a explicitních zpráv, může také vést k nesprávným interpretacím, pokud je chat zkoumán stroji. Výměna erotických zpráv, která je mezi staršími teenagery a mladými dospělými poměrně populární, je totiž legitimní soukromou záležitostí, pokud nikomu ze zúčastněných neubližuje.
Podle Breyera cílí filtry pro rozpoznávání textů právě na takové intimní konverzace, a dokonce i na neškodné flirtování. Celkově vzato by v podmínkách kontroly chatů velká část Evropanů pravděpodobně musela počítat s tím, že je Gmail, WhatsApp a spol. někdy odhalí a nahlásí vyšetřujícím orgánům.
Podle Breyera existuje mnohem více příležitostí, jak se dostat do podezření nevinně. „Je známo, že filtry pro rozpoznávání obrazu zasáhnou i zcela legální fotografie z dovolené s dětmi na pláži. Podle švýcarské spolkové policie se 86 procent všech strojově nahlášených podezření ukáže jako neopodstatněných.“ Breyer se zde odvolává na statistiky z roku 2020. V následujícím roce se tento poměr poněkud zlepšil, ale počet falešných podezření ve Švýcarsku stále činí 80 procent.
Konkrétní případ z USA ukazuje, kam může vést neustálé sledování. Poté, co otec objevil infekci v genitální oblasti svého malého syna, poslal fotografie infekce ošetřujícímu lékaři. Případ popsaný deníkem New York Times se stal v době pandemie koronaviru, kdy mnoho lékařských ordinací upřednostňovalo konzultace online a diagnostiku na dálku. Na základě fotografií bylo dítěti předepsáno antibiotikum.
Konsekvence jako od Franze Kafky
Centrum pro pohřešované a zneužívané děti provozuje horkou linku, která přijímá a vyhodnocuje aktuální hlášení. Bylo to i v případě údajně pornografických fotografií, které zaslal otec dítěte jako dokumentaci pro konzultaci s lékařem ohledně kožního onemocnění. | Zdroj: Missingkids.org
O dva dny později obdržel otec oznámení, že jeho účet Google byl deaktivován kvůli škodlivému obsahu. Fotografie, které byly pravděpodobně před odesláním nahrány do cloudové služby Googlu jako automatická záloha, představovaly prý závažné porušení zásad společnosti Google a byly pravděpodobně nezákonné.
Algoritmy Googlu si fotografie vyložily jako materiál svědčící o zneužívání, načež byl otcův účet zablokován a Centru pro pohřešované a zneužívané děti (Center for Missing and Exploited Children – NCMEC) bylo zasláno hlášení, což vedlo k nepříjemnému policejnímu vyšetřování.
Přestože bylo vyšetřování proti otci zastaveno, Google se choval, jako by scénář napsal Franz Kafka: Zrušil muži přístup k jeho fotografiím, e-mailům, kontaktům a telefonnímu číslu Google Voice. Tyto zákazy nebyly zrušeny, bezúhonný muž již nemá ke svým datům přístup.
Ylva Johanssonová, komisařka EU pro vnitřní záležitosti, přesto na kontrole komunikace trvá: „Jako dospělí máme povinnost chránit děti. Sexuální zneužívání dětí je skutečným a rostoucím nebezpečím: nejenže je hlášeno stále více případů, ale oběti jsou také stále mladší a mladší.“
Podle švédské sociální demokratky obsahuje plán Komise nejen jasné povinnosti poskytovatelů zveřejňovat informace o zneužívání dětí. Mnohem více také údajně zajišťuje ochranu soukromí všech zúčastněných stran prostřednictvím silných ochranných opatření.
Toto hodnocení vyvolává otázky. Podle plánu Evropské komise by se totiž povinnost skenovat soukromou komunikaci týkala všech poskytovatelů e-mailových a online komunikačních služeb a také videokonferencí a chatů, které jsou běžné například na seznamovacích portálech nebo v počítačových hrách.
Mnohé z těchto služeb, například Signal, WhatsApp a Threema, pracují s end-to-end šifrováním, které znemožňuje sledování. Pokud by však sledovatelé získali kopii šifrovacího klíče, aby mohli zprávy analyzovat, ztratilo by šifrování smysl, protože má právě takovému skenování zabránit. Navíc by se zvýšilo také riziko šíření tajného šifrovacího kódu.
Odhalení ještě před odesláním
Messenger se stává špionem: bezpečná komunikace pomocí služeb, jako je Facebook Messenger, je kvůli plánům Evropské komise ohrožena. | Zdroj: Asterfolio/Unsplash
Komise má však v šuplíku i plán, jak kontrolu chatu prosadit bez prolomení šifrování. Předběžný dokument, který není určen ke zveřejnění, hovoří o „řešeních souvisejících se zařízením“ (device related solutions). To by se týkalo skenování dat na soukromých koncových zařízeních, například chytrých telefonech.
Toto takzvané skenování na straně klienta (Client-Side-Scanning – CSS) se provádí ještě před zašifrováním souborů pro komunikaci. K tomu je nutné CSS nainstalovat do všech zařízení, například implementací do operačního systému. Pokud nástroj najde podezřelé soubory, nahlásí je Centru prevence EU nebo národním policejním orgánům.
End-to-end šifrování by tímto trikem bylo formálně zachováno, ale jeho funkce by byla dovedena do absurdity, protože digitální zpráva by byla jednoduše odhalena ještě před odesláním.
O návrhu Komise musí rozhodnout členské státy a Parlament EU. Rakousko již prohlásilo, že jej odmítne, a k nesouhlasu se přiklání i Německo. Pokud však nakonec projde jakýkoli kompromis s kosmetickými úpravami, bude hra pokračovat jako obvykle: rozhodnou soudy.
Zdroj: Thorn.org, NCMEC, TechCrunch
video
