Koncept vytváření digitálních kopií zesnulých avatářů pomocí umělé inteligence přináší fascinující možnosti, ale také představuje značné etické a technické výzvy. Společnosti jako Somnium Space a HereAfter AI se pokoušejí o vývoj těchto avatarů na základě existujících videí, což však vyvolává otázky ohledně autenticity, emocionálního dopadu na pozůstalé a ochrany soukromí. Zdroj hír.

Věčný něco-jako-život

Přemýšlíte někdy nad smrtí? Bláhová otázka, já vím – ale co kdyby vaše/naše tíživé existenciální chvíle mohlo ukonejšit vědomí, že po vaší smrti zůstane existovat… váš digitální avatar? Tím nemyslím profilovku na X-chatu nebo Facebooku, ale A.I. bota, který by komunikoval co možná nejpřesněji vašemu živému já? Přemýšlíte teď nad tím, jestli to není zrůdnost? Nejste jediní…

Mnozí se domnívají, že v budoucnu by s námi mohli „žít“ avataři zesnulých vytvořených pomocí umělé inteligence. Tento koncept se týká digitálních otisků, které zanecháváme za sebou a mohou být použity ke vytvoření digitální kopie, která vypadá, mluví a pohybuje se jako my. Lze odtušit, že ve vzdálené budoucnosti bude něco takového možné – ale jsme na pokraji podobné revoluce už nyní s GPT?

Některé společnosti jako Somnium Space a HereAfter AI pracují na vývoji takových avatarů, kteří by mohli být vytvořeni na základě videí s určitým obsahem, které dodají příbuzní zesnulých. Avšak vzhledem k etickým a technickým problémům, je tato myšlenka předmětem kontroverze.

Ještě než se ale budeme bičovat etickými úskalími, je potřeba si říct, že v dohledné době – dle mého – nic takového nehrozí. Jeden z hlavních problémů spojených s vytvářením digitálních kopií zesnulých totiž spočívá v tom, že není jisté, zda by taková technologie byla schopna uspokojit potřeby lidí, kteří truchlí nad ztrátou svých blízkých…

DeadGPT

To možná zní odvážně, protože GPT přece všem vyrazil dech? Inu, ano – jde o objektivně užitečný nástroj. Ale také jde o nástroj, který stále čas od času halucinuje. A platící zákazníci ho častěji využívají k práci, spíše než že by s ním vedli polemiky tak zábavné, že za ně vysolíte peníze.

I když je idea lákavá, neexistuje žádný způsob, jak zajistit, aby avatary byli věrným zrcadlem zesnulých. Naopak v okamžiku, kdy hypotetický DeadGPT simulující mého mrtvého otce začne halucinovat (což začne brzy, protože otcova digitální stopa byla nevelká), by exponování divné digitální kopii spíše mohlo vést k dalšímu zhoršení emocionálního stavu pozůstalých.

Nemluvíte přitom jenom o textové složce – nasimulovat gramatické chyby a nemluvnost zrovna u mého otce v komunikaci skrze SMS (Messenger neměl) by jistě šlo poměrně dobře. Ale nynější plány výše zmíněných společností mluví také o rozpohybování obrázků do animací tváře! A tady už narážíme na vše, co víme o jevu uncanny valley – tedy o tom, že i velmi draze vytvořené digitální animace obličejů lidi děsí, spíš než že by jim přišly milé. U pozůstalých vytvořených autonomní technologií bude takový jev přítomný ještě zřejmě hodně dlouho…

Zatím spíše ne

Navíc, i když technologie rychle pokročila v posledních letech, není jasné, zda jsou v současné době jazykové modely, které jsou základem umělé inteligence, dostatečně vyvinuty, aby byly schopny reprodukovat náš jedinečný způsob mluvy, chování a myšlení.

V neposlední řadě, existuje i etický problém ohledně toho, zda by bylo správné vytvářet digitální kopie zesnulých bez jejich vlastního souhlasu. Pokud by bylo takové vytváření avatara předmětem dohody, musel by být zohledněn také fakt, že tyto kopie by mohly být využity k napadení soukromí a bezpečnosti pozůstalých, popřípadě vyloženě k podvodům v rámci dědických řízení, půjček a podobných zábavných záležitostí…

Tím neříkám, že za 50 let, až skutečně i důchodci budou mít svou celoživotní digitální stopu – a A.I. bude zřejmě dost dál než dnes jak technologicky, tak svou společenskou přijatelností – něco takového nebude možné. Hranice mezi člověkem a strojem může být tou dobou také mnohem mlhavější, takže digitální avataři nebudou jenom nápodobou původního já, ale mohou v sobě mít i něco skutečného ze zesnulé osoby…

Alespoň prozatím jsou ale digitální klony zemřelých spíše chimérou – která se možná bude hodit podvodníkům či hrstce technických nadšenců – ale společenským trendem se v nejbližších generacích zřejmě nestane!

[Ladislav Loukota]

Vědátor vzniká v dílně spolku studentů a popularizátorů vědy UP Crowd za podpory MUDRstart, který tvoří přípravné testy pro studenty vysokých škol. Krom různých autorů projekt jako šéfredaktor vede Ladislav Loukota – jeho kontaktní mail je vedatororg@seznam.cz