Ochočí si nás umělá inteligence? „Místo spílání USA je čas se zamyslet nad životem v době robotů“

Téma umělé inteligence a její postavení v dnešním světě je čím dál častěji ve středu zájmu. Neustále se vedou debaty, zda umělá inteligence nahradí lidskou práci a myšlení. Jak se tedy dnešní přebujelé technologie promítnou do našeho světa? Na tyto otázky a řadu dalších se snaží nalézt odpověď i technologický a finanční analytik Dalibor Vavruška ve své knize Život v době robotů. Nakladatelství Grada vydalo ilustrovanou knihu, která je inspirovaná dílem Karla Čapka, krátce před prezidentskými volbami ve Spojených státech. Jejím tématem je hledání rovnováhy mezi technologií a přírodou, mezi mechanickým a duchovním přístupem k životu, upřesňuje autor v rozhovoru pro deník Echo24.

Západní civilizace podle matematika a analytika Dalibora Vavrušky prakticky završila svou sekularizaci, včetně téměř dokonalého vytěsnění duše a duchovních principů z veřejné debaty. To vede k „mechanizaci“ myšlení a řízení společnosti, a sbližování s čínským technokratickým modelem. Z mnoha kroků prezidenta USA Donalda Trumpa můžeme být oprávněně rozpačití, tvrdí. "Nic ale nezměníme na tom, že světový technologický a AI lídr, na němž jsme v mnohém závislí, dnes za podpory významné části svých technologických elit zařazuje kulturní zpátečku. Možná jde o počátek epochální společenské změny. Téma kulturní rovnováhy v době robotů se tak stává klíčovým i pro nás," doplňuje.

Neoliberální technokracie ztrácí dech a s umělou inteligencí přijde doba post-technokratická. "AI zamíchá kartami vojenského, ekonomického, akademického, a duchovního vlivu. Rapidně rozvine poznání i technologie. Zároveň ukáže na jejich nebezpečí - od manipulace a zotročení lidí orwellovskou technokracií, až po choré nápady nasazovat roboty všude kde je to „efektivní“, bez ohledu na důsledky pro lidi. Duchovní převaha člověka nad strojem je podmínkou civilizačního úspěchu," domnívá se Vavruška.

Knihy si všiml i bývalý guvernér ČNB Miroslav Singer. "Není to návod k tomu jak na AI zbohatnout, zato je to asi nejlepší podnět k zamyšlení nad tím, co přichází, jak o tom přemýšlet, ale i jak se k tomu můžeme postavit,“ uvedl Singer.

Kniha Život v době robotů sklidila pozitivní recenze i v zahraničí. Například bývalý technologický redaktor agentury Reuters Eric Auchard uvedl, že kniha formuluje konkrétní kroky, které nás mají vést směrem k budoucnosti zaměřené na člověka. „Dalibor Vavruška je jedním z nejoriginálnějších finančních analytiků této generace. Jeho kniha Život v době robotů překračuje rámec dnešních někdy fádních debat o umělé inteligenci. Pracuje s fikcí i filozofickým přístupem, aby upozornil na řadu zásadních politických, ekonomických, environmentálních, zdravotních a sociálních otázek, jimž čelíme a budeme čelit v nadcházejících letech,“ uvedl.

Vaše kniha se zabývá tematikou, která dnes zásadně hýbe světem. Co bylo prvotním impulzem k sepsání knihy?

Přes čtvrt století jsem v londýnské city předpovídal technologické trendy. Byl jsem nadšený z inovací. Pak přišel covid. O nákupu inovativních vakcín najednou nerozhodovali spotřebitelé, ale stát. A mně tenkrát došlo, že nejde jen o virus. Roztrhl se pytel s inovacemi jako systémy pro analýzu dat z internetu, ulic, aut, ale také 5G sítě, elektroauta, high-tech zbraně a podobně. Vše se zavádělo primárně ne z vůle spotřebitelů, ale pro „dobro“, které určil stát nebo velké firmy. To samo o sobě nevadí. Jaderné elektrárny se také stavěly pro dobro. Šokoval mně ale rozsah vyšachování spotřebitelů a agresivita potírání opozice proti technologiím, které stát považuje za dobro. Další inovací budou humanoidní roboti. Chceme je na ulicích? Chceme nad hlavami houfy dronů? Pokud ano, kdo zajistí naše bezpečí? Budeme mu věřit? Stát není neomylný. Jsem přesvědčen, že v takto zásadních věcech mají mít významné slovo všichni, koho se to týká. Má kniha inspirovaná Karlem Čapkem usiluje o to, aby se lidé nad budoucností s roboty nejen zamysleli, ale také v těchto otázkách hledali porozumění mezi sebou.

Můžete přiblížit vaši knihu čtenářům v pár větách...

Kniha začíná příběhem Tomáše a Gábiny, kteří pochopí, že život v přetechnizovaném světě je lidsky nenaplní. Jenomže přírodní ráj, do kterého by chtěli utéct, ve skutečnosti neexistuje. Je jim tak souzeno žít v rovnováze mezi přirozeností a technickou mechanizací. Další kapitoly vnáší do hry současnou technologickou revoluci a umělou inteligenci, a zasazují je do kontextu společnosti, která se opírá o sdílené ideály. Kniha apeluje na konstruktivní debatu a zdravou rovnováhu mezi progresivním a konzervativním myšlenkovým proudem. Následuje fiktivní rozhovor mezi dospívajícím Tomášem a filozofem Dalileem, kteří spolu řeší klíčové otázky života, pravdy a cesty v době robotů. Kniha předkládá řešení, deset principů takzvané AI pro lidi, AI 4P. Končí zamyšlením o budoucí prosperitě, což vlastně znamená, jakou roli v ní bude hrát AI 4P, ale třeba i plynoucí čas, a harmonie mezi materiálními a duchovními prioritami.

Na obálce se skví označení "Sapiens Roboticus." Co to znamená?

Jde o protiklad k Homo Deus od izraelského autora Yuvala Harariho. Ten ve svých knihách brilantně popisuje historii lidského druhu, stejně jako technologické výzvy, kterým dnes čelíme. V jedné věci se s ním však zásadně neshodnu. Harari se domnívá, že druh Homo Sapiens v podstatě zanikne, splyne s AI, a bude nahrazen dokonalejší formou existence, kterou nazývá Homo Deus, tedy božským člověkem. Má teze se naopak točí okolo zachování současného lidského druhu, jeho duchovních ideálů, ale i přirozené evoluce. Sapiens Roboticus je Homo Sapiens, který vyvine roboty a podřídí je své svobodné vůli.

Pracoval jste jako investiční analytik a stratég. Jak vám pomohly zkušenosti z financí a telekomunikací při práci na knize

Akciové trhy jsou ideálním příkladem toho, že mechanické robotické myšlení nenahradí to lidské, respektive jeho holistickou část. Mně to došlo poměrně brzo, a zásadně mně to pomohlo v mé práci. Roboti nás již překonávají v krátkodobém obchodování. Pracují rychleji, a s více daty. Nevidí ale kontext, dlouhodobé souvislosti. Respektive nechápou je tak, jako je chápeme my. Myslím, že to souvisí s evoluční podstatou lidského mozku. Podobné je to s digitální komunikací. Technologie přináší kvantitu, tedy rychlost a množství přenesených dat. Nám by ale mělo jít o kvalitu, například o zdraví, nalezení a naplnění smyslu života. Z AI a digitálních sítí si musíme udělat sluhu. To lze jen když nepřistoupíme na falešnou hru – čím víc dat, tím lepší výsledek. Tak to v přírodě nefunguje. Nesmíme AI dovolit aby záplavou dat narušila, ovládla nebo manipulovala naše přirozené intuitivní myšlení.

Zaujalo mě, že varujete před umělou inteligencí, ale zároveň ji srovnáváte s náboženstvím...

Zkusím to vysvětlit na jedné ilustraci z knihy. Když jsme se jako lidé naučili vzájemně komunikovat, vznikla kultura. Naše chování už neurčovaly jen přírodní pudy, ale i sdílené informace. Lidé však chtěli víc. Prahli po příčinách, ptali se proč věci fungují tak jak fungují, kdo to tak zařídil? Chtěli příběhy, kterým se dá uvěřit, a vše ostatní z nich plyne. Ty jim dalo náboženství, které následně formovalo morálku a přístup k poznávání. Takto to fungovalo tisíce let. S AI v podstatě hrozí kolaps takového fungování společnosti. Klíčová změna, před kterou varoval Karel Čapek, nastane v okamžiku kdy uvěříme robotům víc než lidem. Přesvědčí nás, že loajalita k nim je výhodná. Nabídnou užitek a požitek výměnou za kontrolu. V knize to nazývám, že si nás ochočí. To pro nás může být fatální. Jediným řešením je nadřadit víru v něco jiného nad důvěru v AI.

Kousavá otázka. Používáte sám umělou inteligenci a máte nějaké hranice?

Samozřejmě že ano. Umělá inteligence už plíživě pronikla do sociálních sítí, zákaznických služeb, softwaru, systémů v autech a do mnoha dalších míst. Zajímavější je to s těmi hranami. Dám příklad. Takový malý zázrak přírody. Víte, že želví krunýř zobrazuje kalendář, který používali severoameričtí indiáni? Krunýř tak můžete vnímat buď jako kalendář, živého tvora, jeho ochranný či maskovací štít, anebo třeba sběratelský artefakt. Když si vyberete co pro vás ten krunýř znamená, ChatGPT s Vámi o něm povede inteligentní debatu, která vás obohatí. Nikdy si ale od AI nenechte vnutit jak a proč se na věci chcete dívat. Nehledejte v AI čistou pravdu, dobro, duchovní obohacení, umělecký zážitek, ani náhradu vztahu s živou bytostí. To jsou věci, které souvisí s holistickým vnímáním, chcete-li s duší. Lidé, kteří se toto nenaučí dobře rozlišovat, budou možná čelit problémům, jaké si dnes ani neumíme představit.

PODCAST: Trumpova politika těžkého pragmatismu: Já vás přinutím, že si sednete a dohodnete se

Kde podle vás bude AI za pomyslných pět, deset let?

Jsem opatrný optimista. Myslím, že se nakonec vyhneme přetechnizovanému orwellovském světu čínského stylu, ale i AI apokalypse. Změn vidím hned několik. Zaprvé, AI urychlí pokrok ve vědě a efektivitě vzdělávání. To povede k ohromným nárůstům produktivity, což zvýší dostupnost výrobků a služeb. Rozšíří se jejich nabídka, naše obzory a možnosti. Za druhé, AI posílí kreativitu umělců, designérů, vědců a dalších profesionálů. Ale jen těch, kteří budou AI používat jako podpůrný nástroj, a zdrojem kreativity zůstanou sami. Zatřetí, během pár let se nám snad podaří AI zkrotit, tedy vyřešit klíčová bezpečnostní a existenční rizika. A nakonec za čtvrté, v delším horizontu AI patrně promění společenský řád. Vzhledem k nadbytku zboží a služeb by mohla být role peněz v řízení společnosti částečně nahrazena jiným mechanismem.

Pod názvem knihy je heslo: "Jak udržet vládu nad AI a zachovat svět pro lidi." Na co si tedy máme dávat pozor, aby nás roboti neporazili?

Představa, že věc vyřeší zákony mně přijde naivní. Roboti se časem vyznají v právu lépe než lidé. Striktní vymáhání lokálních AI regulací v době satelitů je utopie, podobně jako naděje na globální shodu jak AI regulovat. Když nechceme, aby roboti nebo špatní hráči zvítězili, musíme udělat dvě věci. Za prvé, připusťme vznik dominantní AI mocnosti, která vytvoří nejvyspělejší AI systém, obrazně řečeno s ním svede souboj člověka se strojem, zkrotí jej, a zbytku světa nabídne některé jeho služby i ochranu. Zároveň si vynutí, aby jiní hráči nevyvíjeli AI systémy, které by mohly existenčně ohrozit lidstvo. Za druhé, bude třeba oprášit koncepty odpovědnosti a morálky tak, jak je chápali naši předkové. Dominantní AI mocnost nesmí zneužít svou pozici. Z morálních důvodů, i kdyby mohla. Podobně, každý jednotlivec by měl využívat AI odpovědně vůči sobě a jiným, i když má možnost ji zneužít. Je to jako s bezpečím ve městech. To se také nedá vynutit jen zákony. Většina lidí neohrožuje ostatní, protože se to v jejich kultuře prostě nedělá. Z kultury vznikají zákony. Ty pak donutí se přizpůsobit i ostatní, kteří původní kulturu neuznávají. Podobně by to mělo fungovat i pro AI.

KOMENTÁŘ: Kdo je proti EU, nemá právo žít

Nyní trochu politiky. Mluvíte o souvislostech mezi AI a kulturními změnami po nástupu prezidenta USA Donalda Trumpa, včetně odklonu od takzvaného neoliberalismu...

V minulých letech v Americe dominoval poměrně vyhraněný neoliberalismus, který za pravdu uznává jen „vědecká fakta“, a odstup člověka od stroje moc neřeší. Vyšší moci nebo posmrtného soudu se obávat nelze, a tak je těžké apelovat na svědomí. Morálka se proto dá vynucovat hlavně represí. Ta se často opírá o AI systémy, které hříšníky nejdřív hledají, pak jim ruší účty, blokují transakce a podobně. Technokratická represe ale nereprezentuje ty nejsvětlejší chvíle v historii. Ani její současná čínská podoba nebudí obdiv. Jedním z problémů je nutnost slepě důvěřovat AI. Američanům, včetně miliardářů, kteří podpořili Donalda Trumpa, a záleží jim na budoucnosti USA jako světového technologického a AI lídra, zřejmě postupně dochází, že další úspěšný rozvoj inteligentních strojů je podmíněn lepší rovnováhou mezi materiálním a duchovním zaměřením ve společnosti.

Jak by na tuto situaci měla reagovat Evropa?

Evropa byla po staletí světovou studnicí duchovního, kulturního a vědeckého rozvoje. I dnes udává tón v debatě o zásadních otázkách včetně ochrany dat nebo omezování rizikových AI systémů. Evropa má potenciál světu nabídnout mnoho, ale musí si pár věcí uvědomit. Pravidla hry na světové šachovnici se zásadně změní, do velké míry kvůli AI. Stavět se do role ochránce pravidel a hodnot z konce 20. století je předem prohraná bitva. To ale neznamená, že původní pravidla dnes neplatí. Jedním z nich například je, že vítěz v AI ekonomice bere vše. A tím vítězem bude Evropa jen těžko.

Není to ale až taková katastrofa jak se zdá. Hra o AI dominanci je jen bitva, ne celá válka. Vítěz sice získá ohromnou moc, ale pokud by ji použil neuváženě, zničí společenský a ekonomický řád, možná i sebe. Skutečná síla vzejde až ze schopnosti budovat řád nový. A tam má Evropa opřená o svou historii příležitost co nabídnout. Museli bychom se ale zbavit své technokratické posedlosti, fixace na dluhy, deficity, a drahou byrokracii.

I přes momentální nálady, rozkolísanost politiky v USA, a problémy ve světě, vidím jako téměř vyloučené, že bychom se se Spojenými státy zásadně rozešli, a de facto tak vsadili na čínskou nebo těžko představitelnou evropskou či multilaterální AI dominanci. Nevidím jinou cestu než časem otupit ideové extrémy a rozdíly v rámci Západu. Před léty jsme čelili covidu, teď vojenským hrozbám. To jsou vážné věci. Uvědomme si ale, že AI bude pravděpodobně hrát v mocenském boji prim, i ve srovnání s armádami. Soužití lidí s roboty bude existenčně mnohem zásadnějším tématem než soužití s koronavirem. Potřebujeme proto budovat efektivnější, dlouhodobě odolnější a svobodnou civilizaci, opřenou o technologie, ale zároveň silně rezonující se zájmy lidí. Je těžké si představit, jak bychom toho dosáhli bez vazeb na USA jako na technologického lídra. Ale také bez morálky, která se v rozumné míře opírá o duchovní principy. O té míře a vzájemném porozumění je má kniha.