TLDR: Koordinované roje AI agentů dokážou vytvářet iluzi většinového názoru a manipulovat veřejnou debatu bez nutnosti šířit lži – stačí simulovat „normálnost“. Zdroj tuna.

Jakoby dneska nedostávala demokracie už tak dost na solar, novým rizikem je podle výzkumu i umělá inteligence…

Představte si, že vstoupíte do online diskuse a zjistíte, že „všichni“ si myslí totéž. Stejný názor, podobné formulace, zdánlivě nezávislé účty. Jenže tihle lidé nejsou lidé – jde o koordinované AI agenty, jejichž úkolem není přesvědčit vás jedním argumentem, ale přesvědčit vás, že většina už rozhodla.

„A to se už děje?”

Minimálně v rámci výzkumu ano – vědátoři z Institutu Maxe Plancka to zkusili nasimulovat v kontrolovaných podmínkách. Ve svých modelech testovali roje falešných účtů, které dokázaly infiltrovat online komunity. Nejefektivnější taktikou nebylo masové spamování ani agresivní propaganda, ale nenápadné zapojení do skupiny. AI agenti si „získali důvěru“, komunikovali jazykem cílové komunity, reagovali na aktuální témata a postupně posilovali určité narativy.

Klíčovým pojmem byl syntetický konsensus. Nejde o výrobu lží, ale o výrobu dojmu, že mnoho nezávislých lidí sdílí stejný názor. Lidská psychologie funguje tak, že sociální důkaz má obrovskou váhu. Pokud něco „říkají všichni“, začíná to působit normálně. A pokud je něco normální, je to snadněji přijatelné…

„Nehrozilo tohle i dosud bez AIček?”

Jasně, ale doposud to byli aspoň lidi s mulťákama – anebo mnohem primitivnější mašiny. Zásadní rozdíl oproti tradičním botům spočívá v koordinaci. Staré botnety často jen opakovaly stejné zprávy. Nové AI roje mohou fungovat jako strategicky řízený sociální systém. Jednotliví agenti mají různé role, načasování, komunikační styl. Dokážou analyzovat síťové struktury, identifikovat klíčové komunity a adaptovat se podle reakce publika. Nejde tedy jen o generování lepšího textu, ale o adaptivní kolektivní strategii.

To, co činí situaci obzvlášť problematickou, je samotná architektura sociálních sítí. Platformy jsou navrženy tak, aby maximalizovaly zapojení, nikoli autenticitu. Emočně nabitý obsah se šíří rychleji než umírněné argumenty. V prostředí polarizace a nízké důvěry v instituce je pak manipulace ještě snazší. Roj může zesilovat selektivní pravdy, opakovat určité interpretace a zaplavit diskusi tak, aby se některé názory jevily jako dominantní.

„Ještě nějaká deprese?“

Nebezpečí se podle výzkumu navíc násobí tím, že politické strany sledují nálady na sociálních sítích. Pokud by jejich komunity byly infiltrovány koordinovanými AI agenty, mohlo by to nepřímo ovlivnit formulaci programů či volebních strategií. Demokratické rozhodování by pak reagovalo na simulované veřejné mínění.

Obrana podle vědců vyžaduje především přístup k datům pro nezávislé výzkumníky. Bez transparentního přístupu k platformním datům je obtížné odhalit koordinované chování. Detekce by se měla zaměřovat na vzorce synchronizace, síťovou strukturu a časování interakcí, nikoli jen na obsah. Navrhují také využití ochranných AI „štítů“, které by uživatele varovaly před podezřelými vzorci koordinace, a vznik observatoře vlivu AI, která by umožnila rychlé sdílení informací o manipulativních kampaních.

„A už se to děje i mimo výzkum?“

To jaksi nevíme, ale podle autorů rozhodně nejde o vzdálenou budoucnost – základní technologie už existují. Klíčová změna spočívá v rostoucí schopnosti koordinovat mnoho přesvědčivých digitálních osobností najednou. Nečekejme dramatický okamžik, kdy „AI převezme volby“. Spíše postupné, téměř neviditelné nasazování těchto nástrojů do polarizujících debat.

Demokracie je postavena na předpokladu, že veřejná diskuse je tvořena nezávislými hlasy. Pokud však jeden aktér dokáže mluvit prostřednictvím tisíců syntetických identit, může se stát, že společnost začne reagovat na něco, co nikdy nebylo skutečné veřejné mínění. Jak říkala Padmé: Takhle umírá demokracie – za ohlušujícího potlesku. A zdá se, že ten potlesk ani nemusí být od živých bytostí…

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]