Apple končí s ochranou soukromí, z iPhonu je udavač ve vaší kapse

Problémem policie a tajných služeb je spíše neschopnost zpracovat množství informací, které již mají, než jejich nedostatek. End to end šifrování se nelíbí ani (některým) provozovatelům, kteří by rádi analýzu obsahu konverzace využívali pro lepší poznání uživatele, cílení reklamy a podobně.

Bezpečnost a funkčnost end to end šifrování závisí na bezpečnosti a důvěryhodnosti koncových zařízení, tedy například mobilních telefonů. Jedním z oblíbených návrhů, jak šifrování vykastrovat, je kompromitace těchto zařízení. Zpráva půjde po síti šifrovaně, ale malý udavač v telefonu ještě před odesláním a zašifrováním (nebo naopak po obdržení a dešifrování) zkontroluje, zda nejde o nějaký „závadový“ obsah. A pokud ano, nahlásí se to vyšším místům. No a přesně touto cestou se hodlá vydat společnost Apple, která se chystá takového udavače vestavět do systému iOS.

„Některé reklamy prostě nezestárnou dobře."

Samozřejmě ve jménu vyššího dobra: ochrany nezkaženosti mládeže a boje proti dětské pornografii. Proti dětské pornografii se bojuje, zejména verbálně, velice dobře. V rámci dlouhodobě udržovaného stavu morální paniky si málokdo dovolí zvednout hlas proti čemukoliv, co má nálepku boje proti zneužívání dětí. Výsledkem jsou mimo jiné absurdní situace, jako že puberťák posílající svou nahou fotku byl stíhán za šíření dětské pornografie a byl současně označen za oběť a současně donucen k zapsání do registru sexuálních zločinců.

Ve skutečnosti je šíření skutečné dětské pornografie jenom o málo víc než chiméra, kapka v moři, naprosto nepodstatná vzhledem k neúměrným nákladům všeho druhu, vynakládaným na řešení tohoto „problému“.

Co by se asi tak mohlo pokazit?

První oznámená technologie slibuje, že na iOS zařízeních bude software, který bude na klientovi sledovat uložená data a porovnávat je se seznamem závadových materiálů. Obvykle se používá zkratka CSAM (Child Sexual Abuse Material) a hovoří se o databázi dvou set tisíc známých pornografických obrázků, kterou zpracuje americký úřad NCMEC (National Center for Missing & Exploited Children). Nicméně použité algoritmy a technologie nic o dětech a dětské pornografii nevědí, umí jenom (se značnou mírou chybovosti) posoudit, zda je obrázek podobný nějakému, který je na černé listině. Nebo tomu můžeme v duchu moderních zásad politické korektnosti říkat třeba index. Až na to, že Index Librorum Prohibitorum katolická církev až do jeho zrušení v roce 1966 veřejně publikovala. Moderní index nikde publikován není.

Jak celý mechanismus funguje? Z obrázku se spočítá hash (unikátní otisk dat zpracovaných pomocí specifické matematické funkce) a ten se porovná s hashem na indexu. Ovšem nepředstavujte si kryptografické hashe, které mají za úkol detekovat přesnou shodu a stačí drobná změna, aby hash přestal platit. Zde použitý algoritmus funguje přesně opačně. Jeho úkolem je detekovat obrázek i poté, co byl různým způsobem modifikován. To samozřejmě zvyšuje šance na falešná pozitiva a negativa. Nejedná se přitom o žádnou novinku.

Už kolem roku 2014 přišel Microsoft s technologií PhotoDNA, která dělá přesně totéž. Začala s oblíbeným tématem dětské pornografie, ale už v roce 2016 byl index rozšířen o „extremistická zobrazení“, ať už to znamená cokoliv. PhotoDNA používá Microsoft na svém cloudovém úložišti OneDrive, ale není sám. Stejnou technologii používá Facebook, Twitter, Gmail nebo třeba Reddit. Rozdíl oproti současnému záměru Apple je ovšem v tom, že PhotoDNA sleduje materiály, které uživatel aktivně sdílí, nejenom je má pasivně uložené na svém zařízení.

Mechanismus posuzování s databází již známých obrázků může mít i další nechtěný efekt – posílí poptávku po výrobě nových materiálů, které zatím na indexu nejsou.

Apple chce uživatelům prohlížet fotky kvůli dětské pornografii. Ztrácí kvůli tomu aureolu ochránce soukromí

9. 8. 2021 ▪ 3 min. čtení

Zákony zakazující samotné držení digitální informace jsou nešťastné všude na světě (včetně ČR). Podstrčit někomu, klidně i bez jeho vědomí, digitální data libovolného charakteru je úkol triviální. Své o tom víme v případě bývalého šéfa ŘSD Michala Haly, který byl za údajné držení dětské pornografie pět let stíhán, když bylo třeba ho realizovat a nic jiného se nenašilo, a dalších pět let se soudil o odškodné. Zásadní posun je v případě iOS 15 a jeho nové funkce v tom, že zatímco dosud bylo po podstrčení dat nutné dotyčného udat a upoutat na něj pozornost orgánů, teď to udělá Apple za vás.

Pokud se totiž závadového materiálu objeví na jednom zařízení příliš (co je příliš, to nikdo neví), začne to Apple řešit za pomoci lidské kontroly a případně informuje úřady. Jak přesně, když je obsah na zařízení uživatele šifrován? To nikdo neví a všechny možnosti jsou dost hrozné. Buďto bude mít Apple nějaký backdoor, kterým dokáže data rozšifrovat, nebo bude na iOS zařízení malware, který dokáže data dešifrovat lokálně a exfiltrovat je v otevřené podobě ven. Problém je, že jakmile bude jednou tento mechanismus na místě, bude možné z jakéhokoliv iOS zařízení získat jakákoliv data. Na dálku, bez vědomí uživatele.

Státní moc dlouhodobě a opakovaně prokazuje, že jakákoliv jí dostupná data použije proti svým občanům. Někdy pro jejich přímé vyvraždění jako v Nizozemsku za druhé světové války nebo při novější genocidě ve Rwandě. Někdy jenom pro plošné sledování občanů, jak opakovaně předvedla americká NSA. Prohlášení a sliby nic neznamenají, jak se přesvědčili třeba v Austrálii nebo Singapuru, kde data z trasovacích aplikací viru covid-19 dostaly k dispozici bezpečnostní složky. Jedinou obranou proti špiclujícím organizacím je právě nenapadnutelné šifrování. Pokud se k uživatelským datům bezpečnostní složky mohou dostat, je jen otázkou času, kdy ke zneužití dat dojde.

Velké technologické firmy se, se střídavými úspěchy, těmto praktikám brání. Ale třeba Apple se poté, co se začal profilovat jako ochránce soukromí zákazníků, dohodl s čínskými úřady na tom, že data čínských uživatelů bude uchovávat u čínského partnera, a to tak, aby byla dostupná čínským mocenským orgánům.

S nástrojem schopným rozpoznat, co má uživatel uložené v telefonu nebo na počítači, je pak snadné rozšířit index závadového materiálu o věci, které vadí momentální vládě. Není to otázka technické proveditelnosti, jen záležitost vyžadující překonání morální integrity firmy, která již v minulosti prokázala, že je morálně hodně flexibilní.

Umělá inteligence pro nahotinky

Další změna se bude týkat zpráv přenášených přes iMessage. Apple se dlouhodobě snaží propagovat ideu, že jeho uživatelé jsou ctnostné asexuální bytosti. Zůstává věrný výroku Steva Jobse, který řekl, že cítí morální povinnost nepustit na iPhone porno, a že kdo ho chce, má si pořídit Android. Nejnověji se to nebude projevovat cenzurou v App Storu, ale filtrováním zpráv pro nezletilé uživatele.

Apple plánuje analyzovat příchozí a odchozí zprávy umělou inteligencí, a pokud v nich najde sprosté obrázky, zabrání jejich odeslání anebo, pokud na odeslání bude uživatel trvat, je pošle i jejich rodičům. S oběma zavřenýma očima, vzácně inteligentními rodiči a výborným vztahem dětí k nim by to za určitých okolností mohla být přijatelná funkce (a taky půjde v rodičovském nastavení vypnout).

Jenomže zatímco předchozí funkce má porovnávat obsah proti (relativně) malému vzorku pevných dat, zde má analýzu provádět jakási proprietární umělá inteligence. Snahy o automatické rozpoznávání porna jsou stejně staré a četné, jako notoricky neúspěšné. Všechny předchozí pokusy monumentálně selhaly, když jako porno označovaly cokoliv od nevinných obrázků přes štěňata po – například – vzdělávací materiály týkající se sexuality, antikoncepce či pohlavních nemocí. Nebo třeba obrázky pouště.

Je otázkou, co si Apple slibuje, že výměnou za oslabení soukromí uživatelů od Bidenovy administrativy dostane. Jisté ale je, že se vzdal jako první.