Americká nátlaková organizace Heat Initiative, jež hájí bezpečnost dětí, plánuje kampaň proti rozhodnutí výrobce elektronických hraček Apple zrušit nástroj ke skenování fotografií, původně určený právě k boji s šířením dětské pornografie. Apple, který obvykle přezíravě nekomunikuje s nikým, s kým nechce, vydal tento týden vzácně podrobnou veřejnou odpověď.

Apple projekt skenování fotografií na iCloudu představil v srpnu roku 2021. Měl sloužit k odhalování materiálů týkajících se sexuálního zneužívání dětí a zároveň měl zachovávat soukromí uživatelů řečené platformy. Již o měsíc později však Apple oznámil, že snahu o vytvoření nástroje pozastavil v obavě z tvrzení výzkumných pracovníků a politiků (ale také některých příčetných lidí), že takový nástroj bude nevyhnutelně zneužit k ohrožení soukromí a bezpečnosti všech uživatelů služby iCloud. Loni v prosinci pak program ukončil úplně.

Mlýnské kameny

Projekt od svého vzniku vyvolával spory mezi lidmi, kteří jako hlavní prioritu vidí zachování soukromí, a těmi, kteří za nejdůležitější považují institucionalizaci ochrany před sexuálním zneužíváním. Ti druzí o sobě nechali slyšet na konci letošního srpna.

Nová vlivová skupina hájící bezpečnost dětí Heat Initiative Applu sdělila, že organizuje kampaň, v níž požaduje, aby společnost „zjistila, nahlásila a odstranila“ z iCloudu materiály týkající se sexuálního zneužívání dětí. Zároveň chce, aby Apple nabídl uživatelům více nástrojů, pomocí nichž by mohli zneužívání hlásit úřadům. 

Apple v reakci na to porušil své zvyklosti a iniciativě odpověděl. To samo o sobě stojí za zmínku, stejně jako způsob, jímž je odpověď vedena: je věcná a je z ní patrná snaha dobrat se správného řešení věci. To je postoj, který u velkých technologických společností nebývá zvykem.

Apple uvedl, proč upustil od vývoje funkce skenování materiálů konstituujících sexuální zneužívání mladistvých (v Americe se pro ten jev rozšířila zkratka CSAM) na iCloudu. Vysvětluje, proč se namísto toho zaměřil na „soubor opatření“, jejž nazývá Communication Safety, tedy na nástroje dostupné přímo v každém zařízení (mobilní telefon, tablet, laptop atd).

Apple svoji odpověď pro Heat Initiative poskytl časopisu Wired, který se takovými věcmi zabývá. Nabídl tak vzácný pohled nejen na důvody, proč se společnost přeorientovala na Communication Safety, ale obecněji na vytváření mechanismů, které umožňují obcházet ochranu soukromí uživatelů (například šifrování) za účelem monitorování dat. 

Čas důležitých rozhodnutí

Co si o tom Apple – coby největší hardwarový hráč v branži s obrovskou tržní silou – myslí, je z definice relevantní. Je součástí velice aktuální debaty o šifrování: země jako Británie zvažují přijetí zákonů, které by vyžadovaly, aby technologické společnosti mohly přistupovat k uživatelským datům, a mohly tak v případě potřeby vyhovět žádostem orgánů činných v trestním řízení.

„Materiály se sexuálním zneužíváním dětí jsou odporné a my jsme odhodláni přerušit řetězec nátlaku a ovlivňování, kvůli němuž jsou děti k takovému zneužívání náchylnější,“ napsal v reakci na Heat Initiative Erik Neuenschwander, šéf Applu přes ochranu soukromí uživatelů a bezpečnost dětí. Dodal však, že firma dospěla (ve spolupráci s experty v oblasti ochrany soukromí a bezpečnosti, zastánci digitálních práv a obhájci bezpečnosti dětí) k závěru, že ve vývoji mechanismu sledování CSAM nemůže pokračovat. To i přesto, že její projekt se snažil brát ochranu soukromí v potaz.

„Skenování soukromě uložených dat každého uživatele iCloudu by vytvořilo nové hrozby, které by zloději dat mohli najít a využít,“ napsal Neuenschwander. „Také by to otevřelo dveře spoustě nezamýšlených důsledků. Skenování jednoho typu obsahu by otevřelo dveře hromadnému sledování a mohlo by vyvolat touhu prohledávat další systémy šifrovaných zpráv v různých typech obsahu.“ Přeloženo do lidské řeči – když bude existovat mechanismus, jímž se poctivý policista spolehlivě dostane na kobylku úchylovi s dětskou pornografií, může se každý (s dostatečně tučným bankovním kontem) dostat ke všemu, co na síti existuje.

Z chvály je zklamání

Iniciativu Heat vede Sarah Gardnerová, bývalá viceprezidentka pro vnější vztahy neziskové organizace Thorn, která se snaží využívat nové technologie v boji proti zneužívání dětí na internetu a obchodování se sexem. V roce 2021 společnost Thorn plán Applu na skenování CSAM na iCloudu chválila. Minulý týden však Gardnerová v e-mailu generálnímu řediteli Applu Timu Cookovi napsala, že rozhodnutí firmy program ukončit je „zklamáním“. 

„Apple je jednou z nejúspěšnějších společností na světě s armádou prvotřídních inženýrů,“ napsala Gardnerová. „Je jejich odpovědností navrhnout bezpečné prostředí, které zajistí ochranu soukromí a umožní odhalit fotografie a videa sexuálního zneužívání dětí. Dokud budou lidé moci sdílet a ukládat známý snímek znásilněného dítěte v iCloudu, budeme po těchto inženýrech požadovat, aby svoji práci dělali lépe.“

Dobrý úmysl nestačil

Apple naopak tvrdí, že ani jeho vlastní dobře míněný mechanismus nemohl být v praxi dostatečně zabezpečen. „Dospěli jsme k závěru, že není prakticky možné jej realizovat, aniž by to v konečném důsledku ohrozilo bezpečnost a soukromí našich uživatelů,“ napsal Neuenschwander iniciativě Heat. Firma dává přednost detekci nahoty přímo v každém přístroji a jejich aplikacích (například FaceTime nebo AirDrop). 

Apple také začal nabízet rozhraní své funkce Communication Safety, aby ji vývojáři třetích stran mohli začlenit do svých aplikací. Firma tvrdí, že například komunikační platforma Discord tyto funkce už zapracovala do svého systému a že vývojáři jsou s tím spokojeni.

Nejdůležitější bod si Apple nechal na konec odpovědi. Řekl, že vidí cestu spíš v přímém propojování zranitelných uživatelů (či rovnou obětí CSAM) s lokálními a regionálními orgány činnými v trestním řízení než v těsnějším angažování Applu. Taková aktivnější role by prý mohla mít více smyslu třeba u provozovatelů interaktivních platforem, jako jsou sociální sítě.

Komunikace mezi Applem a Heat Initiative je dostupná v angličtině na stránkách časopisu Wired.