TLDR: Ukrajinský výrobce dronů tvrdí, že při jednorázovém testu AI řízené drony bez spojení s operátorem samostatně vyhledaly a zasáhly cíle na bojišti. Úvaha tuna.

Svět je složitá věc. 42 let zpátky v době premiéry původního Terminátora si lidi mysleli, že když se objeví vojenští bojoví roboti, bude to zřejmě vlivem nějakého maniakálního programu top supervelmocí, který se vymkne z kloubů! A když se tak stane, konec bude díky rychlosti mašin tak prudký, že si konce civilizace ani nestihneme všimnout!

Fskutečnosti ale na jeden z prvních konkrétně popsaných případů, kdy měl stroj samostatně vyhledat a zabít lidi na bojišti, došlo zřejmě již před dvěma lety – a nikoliv od supervelmoci, ale na Ukrajině, jejíž obraně před ruskou agresí příčetnější část populace typicky fandí…

Jak říkám – svět je složitý!

„Co se teda přesně stalo?“

Podle New Scientist, shrnutého i dalšími médii, mělo jít o jednorázový test deseti kvadrokoptér. Drony měly doletět do určené oblasti, přejít do režimu autonomního vyhledávání cílů a zaútočit bez videopřenosu, bez řízení a bez možnosti lidského zásahu…

Tedy ne „pilot viděl cíl a zmáčkl tlačítko“, ale scénář typu „člověk určí prostor, vypustí systém, systém v něm hledá cíl sám“. Právě tahle poslední část – výběr a zásah cíle bez člověka ve smyčce – je ten historicky i eticky výbušný detail. Ne že by válka předtím byla nějaká rytířská besídka, ale mění se tím otázka odpovědnosti. Kdo přesně rozhodl, že konkrétní člověk má zemřít? Jak víme, že v lokaci nebude nějaký civil?

Atakdále, atakdále…

„Jak jisté to je?“

Není to nicméně ofiko oznámení ukrajinské armády – tvrzení pochází od Alexandra Kokhanovského, který technologii dodal, ale u testu osobně nebyl. Výsledek prý následně ověřovaly lidsky řízené drony a mezi zasaženými cíli měli být ruští vojáci a nákladní vůz. Není to tedy stopro potvrzená informace – to by ale bylo taky velmi překvapivé. Zároveň je to cosi, co se od dnešního dronového válčiště všeobecně očekávalo.

Navíc to není úplně první zpráva o podobném problému. Už v roce 2020 se v Libyi podle zprávy OSN objevily drony Kargu-2, které měly být naprogramované k útoku bez datového spojení s operátorem – v režimu „fire, forget and find“. Tam ale zůstalo nejasné, jestli skutečně někoho zabily. Ukrajinský případ je tak spíš další, konkrétnější a morálně hlasitější stupeň na schodišti, po kterém lidstvo bohužel kráčí celkem svižně…

„Je to Terminátor?“

Aby bylo jasno, není to tedy pořád systém řízený nějakou centrální AI jako v tom Terminátorovi. A půjdeme-li dostatečně blízko k tématu autonomních zbraní, hranice se začnou rozmazávat – století staré torpédo se po svém vypuštění taky navádělo na cíl samo, takže taky mohlo zasáhnout jiný než zamýšlený cíl. Je to tedy autonomní zbraň?

Zjevně ne v tom smyslu, jak o Terminátorech uvažujeme dneska – drony se taky ovšem směrem k cíli „nevypustily samy“, takže je to prostě o dost mlhavější, než analogické příklady z fikce…

„Takže jsme to překročili už s torpédama?“

Rozdíl je hlavně v rozpoznávání. Starší zbraně často sledovaly jednoduchý signál – zvuk lodního šroubu, radarový odraz, teplo motoru. Moderní AI systémy se ale blíží tomu, že vyhodnocují obraz scény, hledají typ objektu, porovnávají vzory a rozhodují v prostředí, které je bordelózní, zakouřené, chaotické a plné civilistů, vojáků, strojů, ruin a omylů. Což je přesně prostředí, kde by člověk chtěl méně automatizované sebevědomí, ne víc.

Nicméně, bičování se tím co chceme a co dostaneme, je zjevně ve 20. letech 21. století hodně ohraný song. Každopádně máme zřejmě jeden historický milník za sebou, osobně bych teda ale radši ve 20. letech chtěl zažít i nějaký jiný, než jaký předpověděly sci-fi dystopického rázu!

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]