Desítky tisíc falešně podezřelých z šíření dětského porna. Rozhoduje se o návrhu, který nabourá soukromí lidí

Kritici návrhu na slídění v soukromých konverzacích bijí na poplach. Nová verze předložená belgickým předsednictvím má už ve čtvrtek zamířit na jednání zástupců členských států a může se tak po měsících „u ledu“ posunout dál. Počítá s tím, že samotné uživatele donutí k souhlasu se skenováním fotografií či videí v jejich soukromých konverzacích, jinak jim bude hrozit omezení funkcí. Podle kritiků pak hrozí, že to bude znamenat konec soukromí v konverzacích, navíc osobní fotografie či videa desetitisíců zcela nevinných lidí mohou končit v rukou úřadů.

Myšlenka za tímto i předchozím návrhem, který v minulém roce taktéž vzbudil kritiku odborníků i některých politiků, je reagovat na celosvětový trend rostoucího počtu příspěvků zobrazujících sexuální zneužívání dětí. Jen za rok 2021 jich podle Evropské komise bylo na 85 milionů, což je zhruba dvoutřetinový nárůst proti předloňsku. Za deset let tato trestná činnost v EU narostla o tisíce procent. Dosud fungovalo hlášení a odstraňování závadných snímků dobrovolné.

A právě z těchto dat lze usuzovat, že automatická detekce nepadá vždy na úrodnou půdu. Jak ukázala čísla, která zveřejnil německý magazín Der Spiegel, se snahou dobrovolně detekovat ilegální obsah dramaticky narostl počet falešných hlášení. Pro desítky tisíc lidí to znamená, že se k úřadům dostaly kupříkladu jejich intimní fotografie, případně zcela neškodné fotografie dětí.

Spiegel pracuje s daty Spolkového kriminálního úřadu. Společnosti jako Meta, která provozuje Facebook a Instagram, dobrovolně hlásí podezření americkému Národnímu centru pro pohřešované a zneužívané děti, které pak informuje úřady v jednotlivých zemích. Tato organizace tak podle Spiegelu německému kriminálnímu úřadu zaslala v roce 2022 přes 136 tisíc podezření, z nichž se 46 tisíc ukázalo falešných. V roce 2023 pak narost celkový počet hlášení na 180 tisíc. Jenže tentokrát nenarostl počet relevantních záchytů, ten naopak lehce klesl na necelých 90 tisíc. Jenže dalších téměř 91 tisíc podezření bylo falešných, tedy dvojnásobek oproti předchozímu roku.

Nynější návrh pak oproti předchozímu vylučuje skenování hlasové komunikace, podle serveru Euractiv v něm tedy zůstává „pouze“ možnost nařídit společnostem provozujícím komunikační nástroje skenovat v konverzacích audiovizuální obsah. Návrh podle serveru také uvádí, že nová regulace nemá narušit bezpečnostní prvky ani koncové šifrování aplikací. To však podle kritiků zkrátka není technologicky možné.

📣Official statement: the new EU chat controls proposal for mass scanning is the same old surveillance with new branding.

Whether you call it a backdoor, a front door, or “upload moderation” it undermines encryption & creates significant vulnerabilitieshttps://t.co/g0xNNKqquA pic.twitter.com/3L1hqbBRgq

— Meredith Whittaker (@mer__edith) June 17, 2024

“Belgické předsednictví používá termín moderace nahrávání (“upload moderation”). Reálně se tím však myslí, skenování fotek, videí a adres webových stránek v okamžiku, kdy je uživatel ve své komunikaci použije. To by ale s ohledem na to, že většina komunikačních platforem používá tzv. koncové šifrování, bylo možné jen skenováním na straně zařízení klienta. Tato technika by však fakticky znamenala prolomení šifrování i velké bezpečnostní riziko například pro uživatele mobilních telefonů. Soukromé zprávy by pak už jednoduše řečeno nebyly soukromé,” uvedl k návrhu advokát nevládní organizace Iuridicum Remedium (IuRe) Jan Vobořil.

To by zasáhlo populární platformy jako je WhatsApp či Signal. Šéfka Signalu Meredith Whittekerová se v prohlášení proti návrhům ostře ohradila s tím, že snaha o jakýkoliv bezpečný přístup je jen slovíčkařením. „Řekněme si to zcela jasně: umožnění masového skenování v soukromé komunikaci zásadně poškodí šifrování. Tečka,“ uvedla Whittekerová. Narušení šifrování přitom podle kritiků otevře kromě úřadů „dveře“ k soukromým konverzacím i hackerům či nepřátelským státům.

Podle IuRe se tak nynější návrh od toho předešlého příliš neliší. „Plán kritizuje i organizace European Digital Rights (EDRi). Podle té návrh v podstatě nutí lidi k tomu, aby ,souhlasili‘ se skenováním svých často citlivých zpráv. Skenování přitom v řadě případů přináší ,falešnou pozitivitu‘ a tedy falešné obvinění,“ upozorňuje na úskalí návrhu IuRe.