Můžu říkat směšné věci. Třeba že si nechávám do žil vpíchnout sluneční svit, aby byla moje tvář oranžová. Místo toho ale řeknu, že se vám omlouvám za svou neschopnost. Proto zítra rezignuji na svůj prezidentský úřad," řekl letos v květnu Donald Trump. V podobném vyjádření z roku 2018 pak jeho předchůdce Barack Obama bez obalu uvedl, že je současný prezident USA "naprostý blb".

Slova obou politiků byla natočená na kameru a zveřejněná na internetu. Diváci tak měli v první chvíli za to, že k nim opravdu promlouvají Trump a Obama. Ve skutečnosti se ale jednalo o podvrh nastrojený dvojicí komiků – Jordanem Peelem a Gregem Shapirem. Ti použili reálné záběry politiků, za pomoci umělé inteligence ale nechali jejich ústa otevírat tak, aby to vypadalo, že slova, která Obama ani Trump nikdy nevyřkli, jejich hlasem skutečně zaznívají. Podvržená vyjádření přitom namluvili Peele a Shapiro, kteří jsou zdatnými imitátory.

Komici, kteří se k oběma akcím hned přiznali, tím chtěli upozornit na fenomén takzvaných deep fakes – falešných videí či hlasových záznamů, jimiž lze manipulovat veřejnost. "Technologie pro vytváření deep fakes se neustále zdokonalují a zlevňují. Ty méně zdatné podvrhy jsme schopní odhalit, třeba když si všimneme, že není správně časově sladěné otvírání pusy s tím, co daný člověk vyslovuje. Existují už ale deep fakes, které od skutečnosti nerozeznají ani zkušení odborníci," říká pro HN Hany Farid, profesor z prestižní univerzity v kalifornském Berkeley.

Nedávno jste již předplatné aktivoval

Je nám líto, ale nabídku na váš účet v tomto případě nemůžete uplatnit.

Pokračovat na článek

Tento článek pro vás někdo odemknul

Obvykle jsou naše články jen pro předplatitele. Dejte nám na sebe e-mail a staňte se na týden zdarma předplatitelem HN+ i vy!

Navíc pro vás chystáme pravidelný výběr nejlepších článků a pohled do backstage Hospodářských novin.

Zdá se, že už se známe

Pod vámi uvedenou e-mailovou adresou již evidujeme uživatelský účet.

Děkujeme, teď už si užijte váš článek zdarma

Na váš e-mail jsme odeslali bližší informace o vašem předplatném.

Od tohoto okamžiku můžete číst neomezeně HN+ na týden zdarma. Začít můžete s článkem, který pro vás někdo odemknul.

Na váš e-mail jsme odeslali informace k registraci.

V e-mailu máte odkaz k nastavení hesla a dokončení registrace. Je to jen pár kliků, po kterých můžete číst neomezeně HN+ na týden zdarma. Ale to klidně počká, zatím si můžete přečíst článek, který pro vás někdo odemknul.

Pokračovat na článek

Čtyřiapadesátiletý Američan je jedním z předních světových IT odborníků na zkoumání falešných zpráv (fake news) a zmíněných deep fakes. V minulosti například s Microsoftem vytvořil systém na odhalování dětské pornografie na internetu. Podílel se také na tvorbě softwaru, který umožňuje rychle vyhledávat a mazat příspěvky teroristů či různých dalších extremistů ze sociálních sítí. Farid byl nedávno hostem on-line konference CyberSec&AI, kterou uspořádaly antivirový Avast spolu s pražským ČVUT. Při té příležitosti HN poskytl rozhovor.

"Hlavní problém dezinformací spočívá v tom, že lidé věří tomu, čemu chtějí věřit, bez ohledu na fakta. Myslí si tak, že za pandemií covidu stojí Bill Gates nebo jejímu šíření napomáhají mobilní 5G vysílače. Dokonce tvrdí, že koronavirus ani neexistuje a jde o smyšlenku elit," zmiňuje americký expert.

Podle něj je třeba s fake news bojovat na více frontách. Důležité je, aby se lidé vzdělávali a nevěřili hned všemu, co si na Facebooku či Twitteru přečtou. "Problémem je ale fenomén odměňování v podobě sdílení, lajků či retweetů. Uživatelé chtějí danou informaci rozšířit co nejdřív, aby takovou odměnu získali. Už je ale nezajímá, jestli je zpráva pravdivá, nebo ne."

Lidé se na sociálních sítích uzavírají do názorových bublin, kvůli čemuž se pak společnost rozděluje na nesmiřitelné tábory. "Za to všechno mohou samy platformy. Mark Zuckerberg se nestará o to, jak z uživatelů udělat informované občany. Jeho firma vydělává miliardy dolarů na reklamě, která se na Facebooku zobrazuje. Zuckerbergovou snahou je proto lidi na své síti udržet co nejdéle. A to dělá hlavně tím, že konkrétnímu uživateli zobrazuje jen to, co chce vidět, takže volně šíří i fake news," říká Farid.

Sociální sítě bych zrušil

Facebook či Twitter na svou obranu často uvádějí, že jsou jen volným tržištěm názorů, na kterém se mohou objevovat i nepodložené zprávy. Kdyby se fake news začaly omezovat, šlo by pak podle nich o cenzuru. Proti dezinformacím lze prý bojovat seriózními zprávami, které dostávají stejný prostor. "To jsou férové argumenty. Ale jen v případě, že se k vám různé informace dostávají stejnou měrou. To se ale neděje a falešné zprávy, které lidi matou nebo v nich probouzejí nenávist k druhým, se na sociálních sítích objevují v mnohem větší míře než ty solidní a podložené." Farid například připomíná, že Facebook teprve před pár dny ohlásil, že začne blokovat příspěvky popírající holokaust. Kritici se přitom podivovali, proč to firma udělala tak pozdě.

Kdyby to bylo pouze na profesorovi z Berkeley, veškeré sociální sítě by zakázal. "Upřímně si myslím, že svět by byl bez Facebooku, Twitteru nebo YouTube daleko lepším místem. Negativa nashromážděná za roky jejich existence rychle převážila nad vším dobrým, co nám přinášejí," míní expert. Jako realista ale ví, že takto extrémní přístup by neprošel. Proto je podle něj vhodné přistoupit k regulaci.

"Sítě prostřednictvím svých algoritmů lidem říkají, na co mají koukat, co poslouchat a co si číst. Proto bychom je měli brát jako vydavatele, jakými jsou tradiční média. Ta jsou odpovědná za to, zda zveřejňují nepravdy. Stejnou odpovědnost by tak měl mít Facebook i všechny ostatní platformy," říká Farid. Podle něj by měly pro technologický sektor platit obdobné regulace jako ve všech dalších odvětvích.

"Když jste někdy v 70. letech havarovali s autem, bylo dost pravděpodobné, že vůz vybuchne. Dnes je takových případů mnohem méně. Proč? Protože lidé za to žalovali automobilky, zavedla se regulace a zvýšily se bezpečnostní standardy. Proč tedy obdobně nevystoupíme vůči škodlivým efektům sociálních sítí a nezkrotíme je podobně jako tabákový, alkoholový nebo jakýkoliv jiný průmysl?"

V regulaci technologických firem je podle amerického akademika Evropská unie mnohem dál než Spojené státy. Připomíná třeba unijní nařízení GDPR na ochranu osobních údajů, jehož obdobu USA doposud nezavedly. Zvláště v americkém případě je navíc problémem neznalost politiků, kteří mají o regulaci technologického sektoru rozhodovat. "Když Mark Zuckerberg před dvěma lety vystoupil před vyšetřovací komisí amerického Senátu, bylo na senátorech vidět, že netuší, jak vůbec Facebook funguje. Ptali se třeba na to, jakým způsobem firma vydělává peníze," připomíná IT expert.

Podle něj je ve vztahu k technologickým firmám mezi americkými demokraty i republikány shoda v tom, že by se měl tento sektor začít regulovat. "Oba tábory pro to ale mají naprosto odlišné důvody," říká Farid. "Republikáni mají dojem, že sociální sítě cenzurují jejich konzervativní hlas, proto volají po nějakém zásahu. Demokraté naopak upozorňují na sociální funkci těchto platforem, které podle nich ve společnosti rozdmýchávají nenávist. Když se ale obě strany nedokážou shodnout na příčinách problému a jeho řešení, těžko může přijít nějaká smysluplná a všeobecně respektovaná regulace."

Státy šířící fake news by se měly trestat

Dezinformace ve velkém šíří například Rusko. "Existují docela pádné důkazy o tom, že právě Rusové ovlivňovali svými dezinformačními kampaněmi předchozí prezidentské volby v USA. Do fake news se ale pouštějí i jednotlivci. Za částí takových nepravdivých zpráv třeba před čtyřmi lety v amerických prezidentských volbách stála i skupina makedonských teenagerů. Fake news na sociální sítě dávali v podobě reklam, na kterých vydělávali. Nebylo to přitom nic ideologického. Prostě lživě očerňovali buď Trumpa, nebo Hillary Clintonovou – podle toho, na čem zrovna získali více peněz," připomíná Farid.

Uznává ale, že tvůrci fake news jsou hlavně státy. "Ostatní viděli, že Rusům vměšování do americké politiky prošlo bez nějakých postihů, takže se inspirovali. Fake news se teď šíří z Číny nebo Íránu a nedělám si iluze ani o tom, že by se k téhle praktice neuchylovaly i Spojené státy," říká profesor z Berkeley. Podle něj lze manipulaci s veřejným míněním jiné země považovat za vyhlášení války. "OSN by proto mělo na viníky z řad států, u kterých se to prokáže, uvalovat hospodářské sankce. Dobře ale víme, že Spojené národy v tomhle směru moc rázné nejsou. Lepší řešení, jak se s tímhle problémem vypořádat, ale bohužel nemám," přiznává Farid.

Za zásadní tak považuje hlavně regulaci sociálních sítí. "Můžeme se přít o tématech potratů, daní nebo rozvodů. Pokud se ale neshodneme na základních pravdách, jako je třeba probíhající globální oteplování, nemohou naše demokracie přežít. Právě proto je třeba technologické podniky zkrotit. I když jde o silné multimiliardové společnosti, které vládnou velkou mocí," dodává profesor Farid.

Hany Farid
"Sítě prostřednictvím svých algoritmů lidem říkají, na co mají koukat, co poslouchat a co si číst. Proto bychom je měli brát jako vydavatele, jakými jsou tradiční média," tvrdí Farid.
Foto: archiv Hanyho Farida