Ochráníme děti cíleně, plošné šmírování je neúměrné, říká Pirátka. Co bude s Chat Control 2.0?

Slavila velký úspěch u problematiky Chat Control 1.0, kdy svým pozměňovacím návrhem zastavila výjimku, díky které mohly platformy dobrovolně šmírovat uživatele od roku 2021. Nyní se europoslankyně České pirátské strany Markéta Gregorová zabírá pokračovatelem šmírovací výjimky, tzv. Chat Control 2.0. V rozhovoru pro Echo nejen vysvětluje, proč se musí proti sexuálním predátorům bojovat stejně jako s teroristy, ale také na sebe prozradila, jak v minulosti oblafla Facebook. Co hodnotí jako „trapas“ Evropské komise?

Nyní se řeší Chat Control 2.0, který má být trvalý, nejen dočasný, jak fungovala jednička na základě výjimky. Je ten tlak na přijetí o to větší, když teď u některých převládá ten pocit, že děti nejsou chráněny vůbec?

Je samozřejmě otázkou, jak k tomu vyjednávací tým přistoupí. Panuje drobná neshoda v tom, že pozice Evropského parlamentu je nějaká, ale je vytvořena všemi stranami kromě evropských lidovců, EPP. Nicméně zpravodaj návrhu je právě z EPP, a musí tak v rámci toho vyjednávání jít proti vlastním postojům. Nicméně je to zkušený vyjednavač, dokonce předseda výboru pro občanské záležitosti, Javier Zarzalejos ze Španělska, takže se snaží různými fintami nám to nedávat úplně zadarmo, i když ta pozice je jasná. Zkrátka: pouze cíleně a jenom na základě žádosti soudu, a pouze na známý CSAM (Child Sexual Abuse Material - obsah zachycující sexuální zneužívání dětí – pozn. red.).

Proč to říkám? Protože to je vlastně ten největší kámen úrazu při jednáních, protože ve výsledku, s tím precedentem u Chat Control 1.0, jsme tu bitvu precedentů vyhráli. Parlament ze své pozice neustoupí ani o píď. Rada EU a Komise – což jsou ti, co panikaří, že nemají žádný režim – by měly ustoupit. Akorát Komise i Rada doufají, že právě skrze EPP si prosadí svou. Takže je to právě o tom, jak moc dokážeme my ostatní zůstat pozorní a ve střehu, jak budeme hlídat, že nás pan Zarzalejos neobchází a podobně. Já se snažím, ale musím teda na rovinu říct, že jsem trošku nespokojená s výkony svých kolegů, kteří teď poslední dobou ani nechodí na ta jednání a nechávají mě v tom samotnou. Je sice fajn, že tu pozici máme všichni, ale když si tam potom Zarzalejos vymýšlí různé kličky, tak já potřebuju mít za sebou sílu celého Parlamentu. Já to samozřejmě sama s frakcí Zelených, což je jen nějakých 50 hlasů, neutáhnu.

Co to vlastně znamená, když říkáte, že tam ani nechodí. Už to téma není tak žhavé?

Pochopitelně to je na zodpovědnosti každého jednoho europoslance, proč prioritizoval třeba nějakou jinou schůzku, nebo proč tam nebyl. Teď došlo již dvakrát po sobě k tomu, že jsem tam byla sama. Částečně si ale myslím, že tomu tak je, prostě e-maily přišly, všichni si řekli: Jistě, jistě, Chat Control nebude, chráníme naše soukromí. A teď to zase zmizelo z jejich pozornosti. Ale to se jen domýšlím, to byste se musel zeptat jich.

Chodí tam za ně samozřejmě asistenti, ale ona existuje určitá hierarchie toho, jak kdo mluví v místnosti. První mluví europoslanci, takže teď to typicky vypadá tak, že první něco řekne Zarzalejos, potom něco řeknu já a potom až mluví jednotliví asistenti ze socialistů, Patriotů, Renew, ECR a tak. Nicméně je důležité vysvětlit, že asistenti nejsou politici, takže oni se musí pohybovat v mantinelech toho, co si s tím politikem domluvili. Ale pokud, jak už jsem zmínila, pan Zarzalejos přijde s nějakou novou věcí, tak ti asistenti mohou pouze zopakovat to, co mají nadiktované a nemohou, pokud nejsou velmi asertivní, kreativně něco sami vymýšlet. To pak logicky snižuje naši akceschopnost.

Jaké je časové ohraničení trialogu, ve kterém se teď Chat Control 2.0 nachází? A platí stále, že největším strašákem je prolomení kryptovaných komunikačních zařízení?

Ano, prolomení soukromí u konverzací, které jsou takzvaně koncově zašifrované, je jeden ze tří hlavních problematických bodů, tedy dále plošnost skenování a otázka, jestli bude vyhledáván jenom známý obsah, nebo i ten nový, typicky třeba grooming (navazování kontaktu dospělého s dítětem za účelem zneužití, u Chat Control 2.0 se řeší předcházení zneužití ještě dřív, než k němu dojde – pozn. red.). Jestli něco z těch tří bude pravděpodobně uchráněno, bude to právě šifrování, protože to je obří priorita pro úplně všechny. Frakce neustále opakují, že přes to nejede vlak. U těch ostatních věcí se bojím, že to bude postupná salámová metoda. U toho šifrování to tímto způsobem úplně nejde: buď ho prolomíte, nebo neprolomíte. Zatímco u těch ostatních věcí můžete říct, že to nebude plošně, ale že to mohou platformy plošně dělat dobrovolně a povinně to bude jenom na základě například toho povolení soudu, čímž jim de facto stejně vytváříte prostředí pro vznik nástrojů umělé inteligence k detekci. A tím zaděláváte třeba na to, že po zase dalších třech, čtyřech, pěti letech řeknete: No, stejně už to funguje, tak to schválíme. Navíc stačí, když se třeba i lehce změní politická nálada v Evropské unii.

Co se termínů týče, tak kyperské předsednictví by si samozřejmě velmi přálo mít toto jako svůj velký úspěch, ale podle mě nemají absolutně šanci to stihnout, protože mají nízké kapacity. To není o jejich kvalitě – myslím si, že jsou vždy velmi dobře připraveni –, ale prostě mají málo lidí na řadu probíhajících trialogů a nejsou schopni jakožto malinká země pokrýt tolik jednání jako třeba Německo. Mají strašně moc práce se všemi omnibusy (legislativní balík, který najednou mění více existujících předpisů, v současnosti se řeší například u tématu reportování firem – pozn. red.).

Očekávám tedy, že to určitě přejde ještě na následující irské předsednictví, od něj pak ale anticipuji velké pohnutí. Jakým to ale bude směrem? Irové jsou v tomto poměrně přísní a říkají, že taky vlastně chtějí striktní ochranu dětí v podobě Chat Control. Parlament má ovšem svou jasnou pozici. Netuším, jak to dopadne, může to taky opět skončit šachovým patem, ale v současnosti sledujme, kam to potáhne pan zpravodaj.

Dříve jste pro média říkala, že z miliard naskenovaných komunikací vzešly desítky tisíc nahlášení a z nich nemáme od trestněprávních složek žádná další data o prokázání trestné činnosti. Kde jste data sbírala a jak dlouho?

Mně to žádný čas nestálo, protože je sbíraly samotné firmy a daly to Komisi. Následně nám je na slyšení výboru pro občanské svobody Komise představila. Z těch skutečně 11,7 miliard obrázků a videí vzešlo konkrétně pouze 32 000 nahlášení. Právě ten zakopaný pes celého problému je, že firmy nahlásily počet naskenovaných konverzací a počet nahlášení policii, ale policie už Komisi nepředala žádná data o tom, kolik z nich tedy bylo falešných, kolik bylo skutečně pravdivých, kolik z nich prošetřili, kolik z nich například dotáhli až k soudu, kolik dětí bylo ochráněno. Tady data nemám. Někteří europoslanci tvrdili, že jim policie nějaká data dala, ale nepřišlo mi moc uvěřitelné, že by policie něco poskytla náhodnému europoslanci, ale ne Evropské komisi na základě oficiální žádosti, na kterou má Komise upřímně právo a měla je dostat.

Každopádně i z těch dat, která máme, jasně vyplývá, že jde o disproporční záležitost. Pokud je něco disproporční, co se zásahů do soukromí týče, tak je to podle Evropského soudu pro lidská práva ilegální. Právě ESLP rozhodl, že tato legislativa by byla nelegální už v roce 2021, ale tehdy právě řekli, že protože je dočasná, je to výjimka, tak to není v tomto smyslu disproporční, byť nelegální to je. Udělali trošku takovou byrokratickou kličku. Ale to se pak vymstilo u situace s Chat Control 1.0, kdy jsme měli prodlužovat něco, co je nelegální, protože prodlužování výjimky logicky znamená, že to není výjimka.

Pustila jste pedofily do pokojíčků? Zaznívalo to u některých europoslanců z EPP, v českém prostředí například od Tomáše Zdechovského (KDU-ČSL) či Jana Farského (STAN).

Nedávno jsem uvažovala nad takovým příkladem: jako společnost jsme se shodli, že jsou pro nás do určité míry přijatelné kamery na ulicích. Kdybychom dali kamery do bytů všech lidí, tak určitě snížíme domácí násilí či násilí na dětech na nulu, případně by bylo marginální. Proč jsme to ale neudělali? Protože jsme se jako společnost také shodli, že existují nějaké hranice soukromí a snížení násilí za tuto cenu by bylo disproporční, tedy by to mělo být nelegální. Když si nakreslíme tu hranici u Chat Control, tak ta je u  0,0001 % nahlášených případů ze skenování v takhle obřím množství vidět zcela jasně. Jednoduše, do konverzací všech plošně bychom lézt neměli. Naopak máme i čísla, že by to policii přehlcovalo a to, co oni spíš potřebují, je mít kapacity chodit do vybraných konverzací cíleně. A to, co my v současnosti navrhujeme, čemuž řada lidí nevěnuje pozornost, ale je to opravdu důležité, by byly takzvaní trusted flaggers, tedy důvěryhodní oznamovatelé.

Obdobně jako v legislativě Digital service act (DSA)?

Přesně tak. V podstatě by se jednalo o školy, různé organizace chránící oběti násilí, na které by se ty oběti mohly důvěrně obrátit a ony by následně měly možnost označit nějakou konverzaci a policie by pak do ní na základě tohoto označení mohla získat přístup. Takže to jsou všechno věci, kde nejde o plošnost, ale právě o cílenost v případech, kde dochází k ubližování. Často to přirovnávám k zákonu o terorismu, respektive o teroristickém obsahu online. U něj taky nezkoumáte každého člověka, který někam napíše: „bomba“. Ale když se chystal onen plánovaný útok v roce 2024 ve Vídni na koncert Taylor Swift a policie ho zachytila, tak k tomu došlo na základě velmi kvalitní práce kriminalistů v konkrétních skupinách na síti Telegram, které týdny a měsíce sledovali na základě podezření na konkrétní osoby. Stejně tak nepotřebujete zachytit, že někdo poslal fotku svého dítěte z dovolené v plavkách babičce, ale potřebujete zachytit lidi, kteří mají síť, v níž zneužívají děti, vytváří s nimi pornografický materiál a skutečně ubližují.

Čtvrtého dubna přestal Chat Control 1.0 platit ale některé digitální platformy oznámily, že v tom budou pokračovat, nyní se proti nim chystají nějaké žaloby. Takový vývoj jste očekávala?

Docela ano, protože to samé už ony platformy říkaly v minulosti. Zároveň mě tedy ale překvapilo, že to v podstatě přiznaly veřejně. Ony samozřejmě neřekly napřímo: Nadále porušujeme zákon. Samozřejmě nejsou hloupí. Nicméně uvedly, že budou používat veškeré dostupné metody. Mně se to samozřejmě nelíbilo a tak jsem se alespoň v rámci toho, co můžu udělat jako česká občanka, obrátila na Český telekomunikační úřad právě kvůli DSA a kvůli výjimce z ePrivacy a taktéž na Úřad pro ochranu osobních údajů kvůli GDPR. A z ČTÚ už mi dokonce odpověděli s tím, že to budou řešit u všech těch nahlášených společností, což byl Google, Microsoft, Snap a Meta.

Šmírování, tedy vstup do soukromí, se řeší opakovaně na národní i evropské úrovni u řady záležitostí, mimo jiné u digitální evropské peněženky, eID. Když vezmeme v potaz to současné technologické řešení, jsou obavy oprávněné?

Jedna z hlavních vyjednávacích podmínek za Parlament pro schválení celé evropské digitální peněženky bylo, že bude dobrovolná. Jinak bychom to před třemi roky neschválili. A pokud podmiňujete použití nějakých sociálních sítí nebo zkrátka obecně služeb tím, že člověk tu občanku má, tak ho v podstatě nutíte, aby ji přijal. A to na rovinu říkám i jakožto někdo, kdo je osobně velký zastánce Evropské unie. Možná právě proto, že jsem velkou zastánkyní, tak nechci antagonizovat některé lidi, kteří najednou budou mít pocit, že se musí registrovat. To je nebezpečný precedent pro společenskou kohezi, protože to množství dezinformací a nepravd, co by kolem toho vyrostlo, by bylo samozřejmě velké.

Druhá věc je, že tu francouzskou verzi (evropská digitální peněženka ještě jako celek nefunguje, nicméně Francie, která téma hodně tlačí, představila konkrétní systém, který lze zatím využít u ověřování věku a do budoucna s eID splyne – pozn. red.) minulý týden Evropská komise představila a ještě ten den to na základě pouze textového souboru někdo hacknul a zveřejnil všechna data, včetně těch velmi citlivých z občanky, adresy a podobně. Takže, co se technologického řešení týče, to zatím není nějaká planá panika antisystémových lidí. Je to reálný problém. Dosud neexistují technologická řešení ověřování věku, která by byla zároveň chránící soukromí. Samozřejmě mám za to, že technologicky se můžeme posunout o několik úrovní a zachovat princip dobrovolnosti. Pokud někdo chce, aby jeho banka viděla, na jaké porno stránky jde, budiž. Já mezi těmito lidmi rozhodně nebudu a rozhodně nechci, aby to bylo povinné.

Hodně se to týká debaty o zákazu sociálních sítí pro děti do určitého věku, ke kterému by mohla být také používána evropská peněženka, že?

Ověřování věku se obecně provádí několika různými způsoby. To, co navrhuje Komise, je takzvaně hybridní. Buď tam jednou nahrajete svou občanku a biometrickým skenem obličeje to pak vždycky ověří, že jste to skutečně vy, anebo se tam právě připojíte vždycky nějakou například bankovní identitou. Ve chvíli, kdy se bavíme primárně o dětech, tak oni z podstaty věci nic jako bankovní identitu nebo občanku, byť tu digitální, mít nebudou. Museli by to udělat jejich rodiče a pak by za to nesli odpovědnost. Nicméně v tomto případě by mohla fungovat právě třeba ta biometrika.

Zde ale vidím problém u toho, že v Austrálii, kde už zákaz sociálních sítí pro děti do 16 let platí, tak sedm z deseti dětí na těch sociálních sítích stejně je a nedokáží tomu zabránit. Proč? Protože ta děcka si prostě v umělé inteligenci vygenerují nějaké ID, nastaví na sebe AI postaršovací filtr, ať to souhlasí s biometrikou, a je to. A stejně budou vždycky první, kdo to obejde. Já jsem taky byla v 16 letech early adopter (člověk, který se snaží přebírat trendy jako jeden z prvních, dřív, než se stanou mainstreamem – pozn. red.) všeho možného. Mohu tady na sebe prozradit, že v roce 2009, když jsem se přidala na Facebook, tak také požadoval ověření občanky. Tehdy to bylo kvůli tomu, zda jméno, pod kterým na síti budete vystupovat, je vaše pravé. Na tom si v té době platforma ještě hodně zakládala. A já jsem tam chtěla být jako Markétka Gregorová, tak jsem si to v programu malování, představte si to, v banálním malování, upravila a prošlo to. Technologicky jde doba dopředu, sítě se posunuly, ale bavíme se o tom, kdo to bude ověřovat. Pokud tady nemůžeme věřit Komisi, necháme biometriku na těch sociálních sítích? Sociální sítě chtějí především uživatele. Takže to nejspíš samy ty sociální sítě udělají tak, aby si je udrželi. U TikToku, který je od 13 let, už proběhly studie, ve kterých výzkumníci nechávali devíti a desetileté kluky se na tuto síť přihlašovat. Biometrika všechny označila za třináctileté.

Mluvila jste o zkušenosti z Austrálie. Nedá se to vnímat i obráceně, že se k tomu 3 z 10 mladších nedostanou? Zaslechl jsem i takovou interpretaci minulý týden na odborném semináři v Poslanecké sněmovně.

Podívejte, kdyby to byl úspěch, tak Austrálie nedělá to, co dělá. Austrálie panikaří a snaží se donutit Evropskou unii, respektive země Evropské unie, aby se k ní přidaly, protože ona sama v tom selhává, protože vidí, že nedokáže Metu a ostatní platformy přesvědčit, aby s ní nějakým způsobem kooperovaly. Jenže ony ve výsledku nebudou kooperovat, pokud my nepřijdeme s tím řešením. A to technologické my nemáme. To, co představila Komise minulý týden, byl naprostý trapas.