TLDR: Bílý dům uzavřel s Metou, Nvidií, Googlem, OpenAI, xAI a Anthropikem dobrovolnou dohodu o bezpečnostních kontrolách pokročilé AI. Není právně závazná, nemá pokuty a firmy si do značné míry samy určují, jak ji provedou. Oznámená tuna.

Pokud někdy nedejbože budete mít pocit, že jste k ničemu, můžete se uklidňovat tím, že jste zcela jistě užitečnější než nová americká dohoda o „samoregulaci“ umělé inteligence!

Americký prezident se v Bílém domě sešel se šéfy velkých AI firem a oznámil dobrovolný pakt nazvaný White House Accord on Super Intelligence. Podškrtly mu to firmy Meta, Nvidia, Google, OpenAI, xAI a Anthropic. Akorát je výsledek cokoliv, jenom ne skutečnou regulací…

„V čem je zas problém?“

Dohoda slibuje čtyři vrstvy kontroly – interní bezpečnostní opatření, interní tým, který je bude hlídat, spolupráci s nezávislými auditory a nezávislý výbor ve správní radě, který bude výsledky kontrolovat. Na první pohled to je fajn přístup – tedy do chvíle, než dojde na skutečnost, že je to celé vlastně jen dobrovolné…

Pakt není právně závazný, nestanovuje tresty za nedodržení, nevyžaduje veřejné zveřejňování auditů a nedává vládě přímou vynucovací roli. Firmy si navíc nechávají kontrolu nad tím, jak konkrétně budou bezpečnostní opatření zavádět. Trump to popsal jako „morálně závazné“ a mluvil o silné roli sebeřízení. Což v praxi znamená asi jen to, že je to na dvě věci.

„Aha, no a nechtěly ty firmy poslední dobou nějakou reguli?“

No tvrdily, že jo. V posledních týdnech některé stejné firmy současně volají po tvrdších pravidlech. OpenAI v září mluvila o potřebě povinných federálních bezpečnostních standardů, Anthropic opakovaně volal po vážnější a závaznější regulaci a šéf Google DeepMind Demis Hassabis podporoval americky vedený dohled nad AI.

Jenže ve výsledku s touhle „úmluvou“ to pak jaksi vypadá, že průmysl veřejně říká „regulujte nás“, ale u stolu zatím podepisuje nařízení, které je bezzubé senior na piku…

„No a co by mohlo být namísto toho?“

Když přeskočíme Trumpovu novou obsesi s rebrandem AI na SI (Super Inteligence), platí v zásadě furt stejná skutečnost – ať už hypotetická budoucí AGI nebo i dnešní „roje“ AI agentů jsou buďto fakt potenciálně rizikové, a pak je nutné volat po mezinárodních regulacích včetně silných penalizací tak, jako je to třeba u jaderné energie…

Anebo jsou/budou bezzubé a pak je klidně možné to nechat na „samoregulaci“, protože je to jen taková hra na skutečné mantinely. V zásadě ale lze říct, že když si dneska otevřu pekárnu, budu mít na krku ostřejší regulace než když si založím firmu produkující mašiny, které údajně mají nenulový potenciál zničit svět.

„Najs. Něco pozitivního tam nemáš?“

Pozitivní je, že i nynější dohoda může být první krok k reálným normám, auditům a pozdějším zákonům. Zatím furt – i po nedávných incidentech započatých Hugging Face – pořád mašiny nezpůsobily (pomineme-li jejich roli ve válce) přímé ohrožení životů. Třeba to tak i zůstane. Ale třeba nikoliv – a pak bude nejspíše volání po skutečné regulaci o to hlasitější.

Ale aktuální úmluva sama o sobě je to spíš novoroční předsevzetí než reálná pojistka. A všichni víme, jak to s těmi předsevzetími rychle dopadá!

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]