Bylo jenom otázkou času, která z velkých technologických firem hodí ručník do ringu a pod jakou záminkou naruší aureolu ochrany soukromí. Nakonec to byl Apple a záminka je nejklasičtější možná: bezpečnost dětí.

End to end (E2E) šifrování je postup, kdy se zpráva zašifruje na zařízení odesílatele a dešifruje na zařízení příjemce. Kdokoliv mezi nimi, mobilní operátor, poskytovatel k připojení k internetu, provozovatel služby pro zasílání zpráv atd., není principiálně schopen dešifrovat obsah komunikace. Neví, co přenáší. Jedná se o jediný způsob, jak zachovat opravdovou důvěrnost vzájemné komunikace.

E2E je ovšem tak trochu nechtěné dítě. Hodí se uživatelům, samozřejmě, ale komu by na nich záleželo? Nemožnost číst cizí zprávy leží už dlouho v žaludku bezpečnostním složkám všeho druhu všude na světě a snaží se tedy bezpečnost komunikačních aplikací všemožně oslabovat nebo je rovnou zakázat. Záminkou bývá obvykle boj proti terorismu, ačkoliv nic nenasvědčuje tomu, že by teroristé skutečně kvalitní E2E šifrování používali.

Nedávno jste již předplatné aktivoval

Je nám líto, ale nabídku na váš účet v tomto případě nemůžete uplatnit.
Pokračovat na článek

Tento článek pro vás někdo odemknul

Obvykle jsou naše články jen pro předplatitele. Dejte nám na sebe e-mail a staňte se na týden zdarma předplatitelem HN+ i vy!

Navíc pro vás chystáme pravidelný výběr nejlepších článků a pohled do backstage Hospodářských novin.

Zdá se, že už se známe

Pod vámi uvedenou e-mailovou adresou již evidujeme uživatelský účet.

Děkujeme, teď už si užijte váš článek zdarma

Na váš e-mail jsme odeslali bližší informace o vašem předplatném.

Od tohoto okamžiku můžete číst neomezeně HN+ na týden zdarma. Začít můžete s článkem, který pro vás někdo odemknul.

Na váš e-mail jsme odeslali informace k registraci.

V e-mailu máte odkaz k nastavení hesla a dokončení registrace. Je to jen pár kliků, po kterých můžete číst neomezeně HN+ na týden zdarma. Ale to klidně počká, zatím si můžete přečíst článek, který pro vás někdo odemknul.

Pokračovat na článek

Problémem policie a tajných služeb je spíše neschopnost zpracovat množství informací, které již mají, než jejich nedostatek. End to end šifrování se nelíbí ani (některým) provozovatelům, kteří by rádi analýzu obsahu konverzace využívali pro lepší poznání uživatele, cílení reklamy a podobně.

Bezpečnost a funkčnost end to end šifrování závisí na bezpečnosti a důvěryhodnosti koncových zařízení, tedy například mobilních telefonů. Jedním z oblíbených návrhů, jak šifrování vykastrovat, je kompromitace těchto zařízení. Zpráva půjde po síti šifrovaně, ale malý udavač v telefonu ještě před odesláním a zašifrováním (nebo naopak po obdržení a dešifrování) zkontroluje, zda nejde o nějaký „závadový“ obsah. A pokud ano, nahlásí se to vyšším místům. No a přesně touto cestou se hodlá vydat společnost Apple, která se chystá takového udavače vestavět do systému iOS.

„Některé reklamy prostě nezestárnou dobře."

Samozřejmě ve jménu vyššího dobra: ochrany nezkaženosti mládeže a boje proti dětské pornografii. Proti dětské pornografii se bojuje, zejména verbálně, velice dobře. V rámci dlouhodobě udržovaného stavu morální paniky si málokdo dovolí zvednout hlas proti čemukoliv, co má nálepku boje proti zneužívání dětí. Výsledkem jsou mimo jiné absurdní situace, jako že puberťák posílající svou nahou fotku byl stíhán za šíření dětské pornografie a byl současně označen za oběť a současně donucen k zapsání do registru sexuálních zločinců.

Ve skutečnosti je šíření skutečné dětské pornografie jenom o málo víc než chiméra, kapka v moři, naprosto nepodstatná vzhledem k neúměrným nákladům všeho druhu, vynakládaným na řešení tohoto „problému“.

Co by se asi tak mohlo pokazit?

První oznámená technologie slibuje, že na iOS zařízeních bude software, který bude na klientovi sledovat uložená data a porovnávat je se seznamem závadových materiálů. Obvykle se používá zkratka CSAM (Child Sexual Abuse Material) a hovoří se o databázi dvou set tisíc známých pornografických obrázků, kterou zpracuje americký úřad NCMEC (National Center for Missing & Exploited Children). Nicméně použité algoritmy a technologie nic o dětech a dětské pornografii nevědí, umí jenom (se značnou mírou chybovosti) posoudit, zda je obrázek podobný nějakému, který je na černé listině. Nebo tomu můžeme v duchu moderních zásad politické korektnosti říkat třeba index. Až na to, že Index Librorum Prohibitorum katolická církev až do jeho zrušení v roce 1966 veřejně publikovala. Moderní index nikde publikován není.

Jak celý mechanismus funguje? Z obrázku se spočítá hash (unikátní otisk dat zpracovaných pomocí specifické matematické funkce) a ten se porovná s hashem na indexu. Ovšem nepředstavujte si kryptografické hashe, které mají za úkol detekovat přesnou shodu a stačí drobná změna, aby hash přestal platit. Zde použitý algoritmus funguje přesně opačně. Jeho úkolem je detekovat obrázek i poté, co byl různým způsobem modifikován. To samozřejmě zvyšuje šance na falešná pozitiva a negativa. Nejedná se přitom o žádnou novinku.

Už kolem roku 2014 přišel Microsoft s technologií PhotoDNA, která dělá přesně totéž. Začala s oblíbeným tématem dětské pornografie, ale už v roce 2016 byl index rozšířen o „extremistická zobrazení“, ať už to znamená cokoliv. PhotoDNA používá Microsoft na svém cloudovém úložišti OneDrive, ale není sám. Stejnou technologii používá Facebook, Twitter, Gmail nebo třeba Reddit. Rozdíl oproti současnému záměru Apple je ovšem v tom, že PhotoDNA sleduje materiály, které uživatel aktivně sdílí, nejenom je má pasivně uložené na svém zařízení.

Mechanismus posuzování s databází již známých obrázků může mít i další nechtěný efekt – posílí poptávku po výrobě nových materiálů, které zatím na indexu nejsou.

Související

Zákony zakazující samotné držení digitální informace jsou nešťastné všude na světě (včetně ČR). Podstrčit někomu, klidně i bez jeho vědomí, digitální data libovolného charakteru je úkol triviální. Své o tom víme v případě bývalého šéfa ŘSD Michala Haly, který byl za údajné držení dětské pornografie pět let stíhán, když bylo třeba ho realizovat a nic jiného se nenašilo, a dalších pět let se soudil o odškodné. Zásadní posun je v případě iOS 15 a jeho nové funkce v tom, že zatímco dosud bylo po podstrčení dat nutné dotyčného udat a upoutat na něj pozornost orgánů, teď to udělá Apple za vás.

Pokud se totiž závadového materiálu objeví na jednom zařízení příliš (co je příliš, to nikdo neví), začne to Apple řešit za pomoci lidské kontroly a případně informuje úřady. Jak přesně, když je obsah na zařízení uživatele šifrován? To nikdo neví a všechny možnosti jsou dost hrozné. Buďto bude mít Apple nějaký backdoor, kterým dokáže data rozšifrovat, nebo bude na iOS zařízení malware, který dokáže data dešifrovat lokálně a exfiltrovat je v otevřené podobě ven. Problém je, že jakmile bude jednou tento mechanismus na místě, bude možné z jakéhokoliv iOS zařízení získat jakákoliv data. Na dálku, bez vědomí uživatele.

Státní moc dlouhodobě a opakovaně prokazuje, že jakákoliv jí dostupná data použije proti svým občanům. Někdy pro jejich přímé vyvraždění jako v Nizozemsku za druhé světové války nebo při novější genocidě ve Rwandě. Někdy jenom pro plošné sledování občanů, jak opakovaně předvedla americká NSA. Prohlášení a sliby nic neznamenají, jak se přesvědčili třeba v Austrálii nebo Singapuru, kde data z trasovacích aplikací viru covid-19 dostaly k dispozici bezpečnostní složky. Jedinou obranou proti špiclujícím organizacím je právě nenapadnutelné šifrování. Pokud se k uživatelským datům bezpečnostní složky mohou dostat, je jen otázkou času, kdy ke zneužití dat dojde.

Velké technologické firmy se, se střídavými úspěchy, těmto praktikám brání. Ale třeba Apple se poté, co se začal profilovat jako ochránce soukromí zákazníků, dohodl s čínskými úřady na tom, že data čínských uživatelů bude uchovávat u čínského partnera, a to tak, aby byla dostupná čínským mocenským orgánům.

S nástrojem schopným rozpoznat, co má uživatel uložené v telefonu nebo na počítači, je pak snadné rozšířit index závadového materiálu o věci, které vadí momentální vládě. Není to otázka technické proveditelnosti, jen záležitost vyžadující překonání morální integrity firmy, která již v minulosti prokázala, že je morálně hodně flexibilní.

Umělá inteligence pro nahotinky

Další změna se bude týkat zpráv přenášených přes iMessage. Apple se dlouhodobě snaží propagovat ideu, že jeho uživatelé jsou ctnostné asexuální bytosti. Zůstává věrný výroku Steva Jobse, který řekl, že cítí morální povinnost nepustit na iPhone porno, a že kdo ho chce, má si pořídit Android. Nejnověji se to nebude projevovat cenzurou v App Storu, ale filtrováním zpráv pro nezletilé uživatele.

Apple plánuje analyzovat příchozí a odchozí zprávy umělou inteligencí, a pokud v nich najde sprosté obrázky, zabrání jejich odeslání anebo, pokud na odeslání bude uživatel trvat, je pošle i jejich rodičům. S oběma zavřenýma očima, vzácně inteligentními rodiči a výborným vztahem dětí k nim by to za určitých okolností mohla být přijatelná funkce (a taky půjde v rodičovském nastavení vypnout).

Jenomže zatímco předchozí funkce má porovnávat obsah proti (relativně) malému vzorku pevných dat, zde má analýzu provádět jakási proprietární umělá inteligence. Snahy o automatické rozpoznávání porna jsou stejně staré a četné, jako notoricky neúspěšné. Všechny předchozí pokusy monumentálně selhaly, když jako porno označovaly cokoliv od nevinných obrázků přes štěňata po – například – vzdělávací materiály týkající se sexuality, antikoncepce či pohlavních nemocí. Nebo třeba obrázky pouště.

Je otázkou, co si Apple slibuje, že výměnou za oslabení soukromí uživatelů od Bidenovy administrativy dostane. Jisté ale je, že se vzdal jako první. 

Související

Líbil se vám článek? Chcete víc takových článků?

Kupte si předplatné a můžete si je číst všechny. Navíc bez reklam a s možností odemykat placené články pro přátele.

Vyzkoušejte předplatné HN+

Komentáře ke článku

Luděk Šafář 12.08.2021 09:31
Problematika soukromí mě zajímá a článek působí trochu tendenčně "poplašně". Upřímně řečeno nedozvěděl podstatné atributy celého problému (například že se kontrola týká fotografií uložených na iCloud, nikoliv na za zařízení) a další. Myslím, že by bylo skvělé pro referenci uvádět přímé zdroje - například https://www.apple.com/child-safety/pdf/Expanded_Protections_for_Children_Frequently_Asked_Questions.pdf
Felix Hampapa 09.08.2021 12:38
Super článek, děkuji za Váš pohled
Dominik Zunt-Radot 09.08.2021 12:14
Očekával jsem článek, který komplexně zhodnotí rizika a přínosy nove oznámených změn v systému iOS. Místo toho jsem se dočetl tuto perlu: "Státní moc dlouhodobě a opakovaně prokazuje, že jakákoliv jí dostupná data použije proti svým občanům." Toto tvrzení nemá oporu v historii ani současnosti a divím se, že editor HN takovou vetu pustí na web. Zvlášť pokud jako první příklady (!) dává vyvraždění židovských občanů Nizozemí nacistickymi okupanty či genocidu ve Rwandě. Osobně bych použil slovo "může" nebo "občas". Pevné věřím, že data nutná pro svoz popelnic stát nezneužíva: jméno, adresa, objem, frekvence, druh. Přitom bez svozu popelnic by naše obce brzy byly zamořené nemocemi. Další, vlastně ještě víc šokující tvrzení je použití uvozovek okolo slova problém ve spojitosti s problematikou šíření obrazového materialu dětské pornografie. Ano, problém to je. Ano, ničí životy velkého počtu dětí na celém světě. A ne, nelze jak autor implicitně navrhuje prostě nic nedělat, protoze to zas tak velký problém není. S autorem souhlasim, že je třeba dávat velký pozor na přiměřenosti navrhovaných opatření a dobře kontrolovat rizika, která otvírá. To ale nevyžaduje excesivni deklarace na účet státní správy ani implicitní bagatelizování problému sireni dětské pornografie a jeho společenský náklad. Budu se těšit na komplexnější články, možná psané méně horkou jehlou. Autorovo rozčilení je z textu patrne.
Martin Labuť 09.08.2021 11:45
Omezování sexuálního obsahu online je obvykle záležitost republikánů (např. FOSTA-SESTA, vydaná pod záminkou boje proti sexuálnímu vykořisťování), stejně rozšiřování pravomocí bezpečnostních složek (např. patriot act, záminkou byl boj proti terorismu) (i když v tom se často obě strany shodnou). Snaha vykreslit tuto změnu jako nějaký tlak z Bidenovy administrativy mi tedy nepřijde příliš objektivní.
Jan Korbel 09.08.2021 11:06
Mám pocit, že v článku nezazněly podstatná fakta: 1. Celá detekce se zapíná *volitelně*, tj. rodič se musí rozhodnout, že chce, aby se na telefonu dítěte aktivovala. Sama se nezapne. 2. Týká se to jen telefonů ve Family Sharingu (explicitně si musíte u Apple zadat, že jste rodina a zadat, nastavit si kdo je rodič a kdo dítě) a pak se — když si to dobrovolně zapnete — aplikuje pouze na telefonu dítěte. 3. Celá detekce se děje jen na telefonu, nic se nikam neposílá, Apple nedostane žádné info, takže ho nemůže ani případně vydat nějakému státnímu orgánu. https://daringfireball.net/2021/08/apple_child_safety_initiatives_slippery_slope Zdá se mi tedy, že je článek napsán záměrně zkresleně, aby šokoval.
Newsletter

Týden s technologiemi Otakara Schöna

Události posledního týdne ve světě technologií podle Otakara Schöna

Editor rubriky Tech Otakar Schön pro Vás vybírá nejzajímavější nebo nejzásadnější události ze světa moderních technologií, které se odehrály v uplynulém týdnu. Každý pátek v podvečer najdete ve své mailové schránce.

Přihlášením k newsletteru beru na vědomí, že mé osobní údaje budou zpracovány dle Zásad ochrany osobních a dalších zpracovávaných údajů, a souhlasím se Všeobecnými obchodními podmínkami vydavatelství Economia, a.s. Z odběru se můžete kdykoli odhlásit.

Přihlásit se k odběru