Vést soukromou konverzaci patří mezi základní lidská práva. Stejně jako u ostatních lidských práv bychom o něj při přechodu do online prostoru neměli přijít. Nový návrh Evropské komise by mohl naše právo na soukromí znemožnit.
Autory komentáře jsou Joe Mullin a Filip Lukáš z Electronic Frontier Foundation, neziskové organizace zaměřené na ochranu digitálního soukromí, svobody slova a inovací. Evropská komise v rámci boje proti pohlavnímu zneužívání dětí navrhuje povinné monitorování každé soukromé zprávy, fotky a videa. Intimní údaje z našich digitálních životů by měly být podrobeny kontrole státními orgány schváleným monitorovacím systémem, a následně porovnány s celoevropskými databázemi snímků zneužívaných dětí.
Zásadním problémem je i fakt, že tyto
detekční technologie nefungují. Vkládání
softwarových „štěnic“ do našich telefonů a počítačů není ospravedlnitelné ani za účelem ochrany dětí. Použití těchto detekčních technologií představuje nepřiměřený zásah do našich práv na soukromí.
Proto naši partneři z organizace European Digital Rights (EDRi – Evropská digitální práva) spustili webovou stránku
Stopscanningme.eu (Přestaň mě skenovat), na které tento návrh, včetně jeho problémů a
detailní právní analýzy, vysvětlují. Na této webové stránce je také zveřejněn otevřený dopis Evropské komisi volající po stažení tohoto návrhu. Celkem byl dopis podepsán 118 organizacemi.
Odposlech soukromých konverzací skrze detekční příkazy
Ať už se jedná o Obecné nařízení o ochraně osobních údajů (GDPR) nebo o Směrnici o soukromí a elektronických komunikacích (e-Privacy), šla Evropská komise v posledních letech směrem podpory práv občanů na soukromí.
Je proto nepochopitelné, že nyní Komise přišla s návrhem nařízení o „stanovení pravidel pro předcházení pohlavnímu zneužívání dětí a boji proti němu” (CSAR), který nerespektuje Listinu základních práv EU ani nedávno přijatý
Akt o digitálních službách (DSA). Paradoxní je, že právě DSA přitom dává státním orgánům pravomoci nelegální obsah na internetu odstraňovat.
Návrh CSAR vyžaduje, aby poskytovatelé chatovacích služeb a online platformy vyhodnotili riziko zneužití svých služeb lidmi šířícími materiál zobrazující sexuální zneužívání dětí a následně se tomuto riziku snažili předejít. To ovšem motivuje poskytovatele těchto služeb ke sledování komunikace uživatelů. Pokud však i po snahách ze strany poskytovatelů stále přetrvávají „významná“ rizika šíření materiálu znázorňujícího sexuálního zneužívání dětí, přičemž není zcela jasné, co v praxi znamená „významné riziko“, mohou státní úřady zasílat poskytovatelům služeb takzvané „detekční příkazy“.
Obdržením detekčního příkazu by daná společnost mohla být povinna skenovat zprávy, fotografie, videa a další data pomocí státními úřady schváleného softwaru. V praxi to může vést k častému vydávání detekčních příkazů službám, u nichž není možné vyhodnotit, zda se na nich materiál zobrazující sexuální zneužívání dětí šíří. To se týká například poskytovatelů chatů s koncovým šifrováním (tj. chatů, jejichž obsah může číst pouze odesílatel a příjemce zpráv, nikoliv poskytovatel) nebo šifrovaných cloudových úložišť. Vydávání detekčních příkazů tak zamezí skutečně soukromým konverzacím online.
Autoři návrhu se však nespokojili pouze se zkoumáním soukromých zpráv a údajů a jejich následným porovnáním s celoevropskými databázemi existujícího materiálu zobrazujícího sexuální zneužívání dětí. Návrh totiž také vyzývá k použití algoritmů i na detekci „nového“ materiálu, tj. snímků které algoritmus odhadl jako materiál potenciálně zobrazující sexuální zneužívání dětí. Dokonce je v plánu vyhledávat pomocí umělé inteligence i „grooming“. Automatizovaný systém by tak prověřoval textové zprávy lidí a snažil se odhadnout, jaká komunikace by mohla vést k budoucímu zneužití dětí.
Detekce nefunkční technologií
Je obtížné vyhodnotit přesnost softwaru, který se používá na detekci materiálu zobrazující sexuální zneužívání dětí. Dostupné údaje nicméně vyvolávají o funkčnosti a přesnosti těchto systémů zásadní pochybnosti.
- Studie společnosti Facebook zjistila, že 75 % zpráv označených jejím detekčním systémem pro odhalování materiálu zobrazujícího sexuální zneužívání dětí nebylo škodlivých. Mezi falešně pozitivními zprávami, tj. zprávami které detekční systém špatně vyhodnotil jako materiál zobrazující sexuální zneužívání dětí, zahrnovalo zprávy, jako jsou „špatné” vtipy nebo internetové memy.
- Společnost LinkedIn v roce 2021 nahlásila orgánům EU 75 případů podezření na materiál zobrazující sexuální zneužívání dětí. Po ručním přezkoumání bylo pouze 31 z těchto případů (přibližně 41 %) opravdu materiálem zobrazujícím sexuální zneužívání dětí.
- Nově zveřejněné údaje z Irska, publikované ve zprávě EDRi, ukazují další nepřesnosti. V roce 2020 obdržela irská policie 4192 hlášení od amerického Národního centra pro pohřešované a zneužívané děti (NCMEC). Ze všech hlášení bylo 852 hlášení (20,3 %) potvrzeno jako skutečný materiál zobrazující sexuální zneužívání dětí. Dalších 409 hlášení (9,7 %) bylo vyhodnoceno jako potenciálně závadný materiál s nutností dalšího přezkumu. Pouze 265 hlášení (6,3 %) bylo irskou policií označeno jako dokončené.
Rozsáhlé skenování povede ke značnému počtu falešných obvinění. Jakmile Rada EU a Evropský parlament odhlasují spuštění softwaru na miliardách zpráv, které se v EU běžně posílají, povede to k dalším milionům falešných obvinění.
Falešně pozitivní výsledky detekce způsobují skutečné škody. Nedávný článek v
New York Times (v Česku o případu informovaly
Novinky) informoval o dvou případech otců vyšetřovaných pro šíření materiálu zobrazujícího sexuální zneužívání dětí. Oba muži byli požádání pediatry o zaslání fotek svých nemocných batolat. Fotky ovšem chybně vyhodnotil skenovací software společnosti Google, který na ně upozornil policii. Vyšetřování potvrdilo nevinnost obou mužů a policií zproštěni obvinění z jakéhokoliv protiprávního jednání. Navzdory jejich nevině společnost Google trvale odstranila jejich Google účty a postavila se za přesnost svého detekční systému.
Jako hledat jehlu v kupce sena
Pokud je digitální technologie použita k výměně snímků sexuálního zneužívání dětí, jedná se o závažný trestný čin, který si zaslouží vyšetřování a trestní stíhání. Právě proto by se nemělo plýtvat silami na akce, které jsou nejen neúčinné ale dokonce škodlivé. Obzvlášť pokud vezmeme v potaz že velká většina online interakcí mezi uživateli není protiprávní.
Policie vyšetřující trestné činy na internetu je již v pozici, kdy hledá příslovečnou „jehlu v kupce sena“. Zavedení povinného skenování našich fotografií a zpráv jim nepomůže zúžit hledaný cíl, naopak „kupku sena“ masivně rozšíří.
