TLDR: Jakmile člověk jednou vidí kompromitující video, část negativního dojmu zůstane v hlavě i po vysvětlení, že šlo o fake. Efekt byl znám i dříve, na dnešním internetu je ale stále častější.

Mno a máme to potvrzené – samotné označení „tohle je fake“ našemu primitivnímu opičímu mozku prostě nestačí!

Jakmile člověk jednou vidí kompromitující video, část negativního dojmu zůstane v hlavě i po vysvětlení. Jak to funguje, ukázalo už vícero studií, ale ta nejnovější explicitně demonstrovala, že cílit čistě na logiku a fakta je bohužel nedostačující…

„Nečetl jsem o tom už někde?“

Výzkumů na totok téma je, překvapivě, vícero! Jiná o fous starší práce třeba už analyzovala textové fake news, jednodušší „cheapfake“ videa a pokročilejší deepfaky. Mno a ukázalo to, že ne všechny fejky jsou si rovny – největší problém nebylo totiž nutně to, že manipulace vznikla umělou inteligencí, ale že divák dostal audiovizuální důkaz. Video prostě působí jako realita, i když realitou není.

Pak tu byla legrační studie, v níž bylo lidem vyloženě před ukázáním deepfaku vysvětleno, že to, co sledují, není realita – a lidi přesto následně při hodnocení postavy ve videu vycházeli z toho, co v deepfaku viděli.

Náš. Mozek. To. Vyloženě. Není. Naučený. Zpracovávat.

„Proč to funguje, i když tomu nevěříme?“

Protože deepfaky neútočí jen na víru ve fakta, ale i na emoce. Mozek si na logické notě zapamatuje samotnou asociaci – člověk + kompromitující výrok + nepříjemný pocit. Je to stejný mechanismus jako u pomluv – i když ji později vyvrátíte, část lidí si pořád pamatuje hlavně původní obvinění. Rozumově si tedy řeknou „jasně, fake“, ale v hlavě už zůstane bordel.

Mno a podobný efekt popsala i nová práce v Communications Psychology. V další části novějších experimentů šlo například o zmanipulované video Nancy Pelosiové. Uměle upravený zvuk tu vytvářel dojem, že „sympatizuje s útočníky na Kapitol“ a podporuje „boj za získání země nazpět“. Výsledky uvádějí, že podpora kandidátů klesala i tehdy, když respondenti sami video označili za podezřelé nebo falešné.

Fact-checking část škod zmírnil, ale reputaci úplně neopravoval.

„Proč je to horší než staré pomluvy?“

To už nakouslo to srovnání deepfakes vs. cheapfakes, ale v zásadě platí, že video řekne víc než tisíc slov – a video dnes lze ve formě pomluv doslova weaponizovat na průmyslové škále. Kdysi bylo vytvoření přesvědčivého falešného videa drahé a technicky náročné. Dnes to generativní AI zvládne během minut. A sociální sítě navíc odměňují rychlost, šok a emoce – ne pomalé ověřování…

Máme tendenci relativizovat řady „novinek“ s tím, že „to tu už bylo v menší míře dřív“, ale to je dle mého cesta do pekel. Kdyby na vesnici stará Blažková mohla šířit pomluvu nikoliv rychlostí svých úst pronášejících pomluvu před krámem náhodným kolemjdoucím (a ještě jen těm, kteří se zastaví na kus řeči), bylo by to také zjevně méně efektivní šíření informace, než když by stejnou pomluvu mohla posílat do telefonu všem nikoliv jen vesničanům, ale všem lidem v okresu.

A i textová pomluva by zjevně byla méně efektivní, než kdyby rovnou rozeslala tisícům lidem video deepfake…

„Co se s tím dá dělat?“

Vědátoři upozorňují na další problém, totiž že ani transparentnost není kompletní řešení. Specifické varování může dopad omezit, ale ne vynulovat – obecná varování zase mohou zvyšovat cynismus a nedůvěru ke všem videím obecně. To otevírá prostor pro tzv. „liar’s dividend“ – tedy situaci, kdy skutečně usvědčující video někdo odmítne slovy „to je určitě deepfake“.

Už i jiné práce deepfakes označily vyloženě za hrozbu pro demokracii, ale nejde rozhodně jen o politiku. Stejný princip může fungovat u firem, vědců, novinářů nebo veřejně známých lidí. Kyberšikana se taky stále častěji páchá deepfaky.

A nemyslím si, že se to zlepší, dokud se s tím něco nerozhodneme udělat na nadnárodní úrovni.

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]