TLDR: Tři měsíce nahrazení soli za bromid vedlo k vážným nervovým komplikacím. Ačkoliv pacient sám není bez dílu viny, případ ukazuje na rizika přehnané důvěry ve strojová učení. Studie tuna.

Konečně! Máme tu první zdokumentovaný případ AI-vyvolaného bromismu!

Muž se rozhodl „zdravě“ nahradit sůl, respektive chlorid v jídelníčku bromidem, protože mu to poradilo ChatGPT – pravděpodobně model 3.5 nebo 4. Když to zkrátíme, tři měsíce postupné otravy u něj vedly k rozvoji paranoie, halucinací… a hospitalizace s plnohodnotnou psychózou.

„WTF? Jak to začalo?“

Podle zprávy muž navštívil místní pohotovost a řekl personálu, že ho pravděpodobně otrávil soused. Ačkoli některé jeho tělesné funkce byly v pořádku, muž byl rozrušený a paranoidní a odmítal pít vodu, kterou mu podávali, i když měl žízeň.

Trpěl také  vizuálními a sluchovými halucinacemi a brzy se u něj rozvinula plnohodnotná psychotická epizoda. V průběhu psychózy se pokusil o útěk, načež ho lékaři umístili do „nedobrovolné psychiatrické léčebny pro osoby s těžkým postižením.

Muž lékařům řekl, že před třemi měsíci začal záměrně užívat bromid sodný. Četl totiž o negativních účincích nadměrného příjmu kuchyňské soli (chloridu sodného) na zdraví. Když se však podíval do odborné literatury, našel pouze rady, jak snížit příjem sodíku…

„Jak dopadl?“

Lékaři mu podali intravenózní tekutiny a antipsychotikum a jeho stav se začal stabilizovat. Od začátku měli podezření, že za mužovým onemocněním stojí bromismus, a jakmile byl schopen souvisle mluvit, zjistili, jak se látka dostala do jeho organismu. Původní pracovní hypotézou byla úmyslná otrava někým jiným…

Přesný charakter debat neznáme, protože doktoři k nim neměli přístup. Nápad nicméně vzešel od pacoče. Inspirován svým studiem výživy na vysoké škole se rozhodl zkusit vyloučit chlorid ze své stravy. Požádal o pomoc ChatGPT a podle všeho mu bylo řečeno, že chlorid lze bezpečně nahradit bromidem.

S jasným souhlasem AI začal konzumovat bromid sodný zakoupený online.

„Proč to bromid udělal?“

Bromid se dřív používal na úzkost nebo nespavost, ale už v 80. letech si lidstvo všimlo, že v nadbytku spíš rozbije nervovou soustavu. Dnes je běžněji k vidění jen ve veterinární medicíně – rozhodně ne na talíři. Ale kdo by poslouchal lékaře, když máme „nejchytřejší“ AI na světě, že?

Ačkoliv neznáme přesný charakter konzultací pacienta s mašionu, když se doktoři modelu ChatGPT 3.5 zeptali, čím lze chlorid nahradit, odpověděl rovněž, že bromidem. Zpráva míní, že umělá inteligence tohoto muže snad odkazovala na příklady nahrazení bromidu, které neměly nic společného se stravou – například při čištění. ChatGPT doktorů také ve své odpovědi výslovně uvedl, že kontext této náhrady je důležitý. Takže za otravu asi AIčko nikdo zatýkat nebude.

Umělá inteligence však nikdy nevarovala před nebezpečím konzumace bromidu, ani se nezeptala, proč se daná osoba o tuto otázku vůbec zajímá. Byť tak hlavní vina padá stále na konzumenta (výstupů od mašin i bromidu), je krásně vidět, proč se nespoléhat jenom na rychle přečtenou úvahu od stroje. Ergo když vám umělá inteligence radí, co jíst, ptejte se, jestli to nebyl náhodou recept pro bazénovou chemii. Tedy, ne, že by tuto nedoporučovali i někteří lidé.

Ale nikoliv nadarmo máme lidské odborníky – neodepisují sice tak rychle a jsou občas dost sassy, ale oproti mašinám mají stále své jisté výhody! Třeba, že před nimi nechcete vypadat jako debžo!

[Ladislav Loukota]

Vědátor vznikl jako spinoff spolku studentů a popularizátorů vědy UP Crowd, dnes jej provozuje spolek Hyperion Media. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – kontaktní mail je [email protected]