TLDR: Extremistické a povstalecké skupiny zkoušejí mašiny pro propagandu, plánování, technickou podporu i obcházení pravidel. Oznámení tuna a tuna.

Říká se, že když nějakou technologii adoptuje p0rnografie, je to znak všeobecnosti jejího přijetí. Možná se sluší ale definici aktualizovat – stejně tak směrodatné totiž mohou být i okamžiky, kdy ji adaptují různé skupiny praktikující asymetrickou válku. Lidověji: teroristi.

Právě na to podle sporadických, leč přibývajících reportů stále častěji dochází – a byť dosavadní příklady působí mnohdy kuriózně, byla by chyba si myslet, že takové budou napořád…

„Jak ji používají dneska?“

AI se totiž nešíří jen do firem, škol a armád. Začínají ji používat i extremistické a povstalecké skupiny. Často komicky špatně – například proislámské účty po útoku v moskevském Crocus City Hall publikovaly AI „zpravodajství“, které používalo staré a nesedící záběry. ISIS-K zase zkoušel AI moderátory, kteří působili technicky nepřesvědčivě a vyvolali i náboženské spory uvnitř vlastního publika.

Asi nejlegračnější (aspoň pro nás) příklad je využití AI pro tréník pro plánován útoku, který provedla Book Haram v Nigérii. Pro překonání obranných příkopů totiž mašina extrémistům poradila plán, jak je překonat s využitím motorek. AI přímo navrhla postup na základě váhy strojů a dalším technikáli, což vedlo k tréninku útočných motorkářů nad vlastními hořícími jámami… Při němž údajně skoro 20 extrémistů zahynulo…

Přesto platilo těžce na cvičišti, lehce na bojišti! Nakonec totiž teroristé skutečně provedli úspěšný úder na cílové opevnění!

„Proč se tomu nestačí smát?“

Tahle story je vlastně výstižná jako shrnutí pro celé téma – přešlapy, které extrémisté páchají při testování AI, jsou zábavné, avšak jde o (pun not intended) extrémy, u kterých nejspíše nezůstane dlouho. Jen se tak povstalcům vysmát, by bylo krátkozraké.

Některé skupiny už AI využívají jako poradní nástroj pro taktické rozhodování, propagandu, výběr cílů, opravy zbraní, údržbu techniky nebo výrobu obsahu šířícího nedůvěru a konspirační narativy. Z bezpečnostních důvodů nemá smysl rozepisovat konkrétní postupy; důležitá je obecná pointa – AI zlevňuje know-how. A to neplatí jenom pro legální firmy…

AI pravděpodobně nepřemění terorismus přes noc na hollywoodský kyberpunk, ale může snížit bariéry u propagandy, náboru, dezinformací, plánování a organizační podpory. Jinými slovy, neudělá z každého extremisty génia. Spíš dá průměrnému blbci lepší textařský, překladatelský, analytický a technický šroubovák. A v asymetrickém konfliktu může i levný šroubovák vadit, pokud ho začne používat dost lidí.

„Dá se tomu zabránit?“

Bez nějakého typu silné regulace přístupu k AI, která by postihla i velkou část běžných uživatelů (a která jde proti současnému byznysplánu AI providerů) asi jen těžko. I kdyby se totiž podařilo mašiny naučit, že nemají „ani pro fiktivní román vymyslet plán útoku přes příkop“, mnohé rady mohou být ve své podstatě perfektně legální – jenom je problém, že se na ně zrovna ptají teroristi.

Znepokojivé je tak třeba obcházení pravidel. Některé skupiny se učí používat různé techniky, jak se dostat k odpovědím, které by jim systémy správně dávat neměly – třeba maskováním dotazů jako akademických, fiktivních nebo bezpečnostních. Pokud jeden chatbot odmítne, lze přejít k jinému. AIčka mohou radit i s využitím VPN a jinými podobnými srandami.

Největší problém je přitom právě asymetrie. Bohaté státy investují miliardy do vojenské AI a bezpečnosti. Povstalecké skupiny dosud neměly úplně kapacity na podobné výdaje – využití AI to ale může výrazněji měnit. Mašiny tak mohou umenšit rozdíl mezi dosavadními garanty světové bezpečnosti vs. těmi, kterým jde z různých důvodů spíše o chaos.

Tak ještěže se ti garanti chovají přehršle odpovědně, chce se dodat!

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]