Jak zůstat člověkem v době algoritmů: Dalibor Vavruška o svobodě a umělé inteligenci

Žijeme v době, kdy technologie formují náš svět rychleji, než mu stíháme rozumět. Umělá inteligence slibuje pohodlí, efektivitu a pokrok – ale zároveň otevírá otázky, které se dotýkají samotné podstaty člověka. Kde leží hranice mezi tím, co nám slouží, a tím, co nás začíná ovládat?

Právě o tom jsem mluvil s dalším hostem podcastu Talks 21 Daliborem Vavruškou – vystudovaným matematikem, držitelem titulu MBA a technologickým analytikem, který více než 25 let působil v předních světových finančních institucích, jako jsou Citigroup, ING či Credit Suisse.

V našem rozhovoru jsme se dotkli témat, která přesahují ekonomii i technologii: proč se společnost dostala na hranici materialismu, jakou roli hraje spiritualita v éře algoritmů a co může znamenat zachovat si „lidskost“ v době, kdy se svět řídí daty. Mluvili jsme o plíživé technokratické totalitě, o zdraví lidského mozku i o tom, proč je dnes důležitější než kdy dřív pěstovat svobodu, víru a schopnost kriticky přemýšlet.

To nejdůležitější, co v rozhovoru zaznělo

●      Proč potřebujeme nové osvícenství

●      Proč algoritmy nikdy nenahradí lidské vědomí

●      Jak se z analytika stal průvodce světem umělé inteligence

●      Kde začíná plíživá technologická totalita

●      Proč potřebujeme zůstat nedokonalí

●      Jak se pohodlí může stát pastí civilizace

●      Kdy se ekonomika začne hroutit sama do sebe

●      Jakou roli hraje spiritualita v době nadbytku

●      Jak chránit svobodu v digitálním světě

Proč potřebujeme nové osvícenství

Karel:

Milí přátelé, vítám vás u sledování dalšího dílu podcastu Talks 21. Dnešním hostem je technologický analytik Dalibor Vavruška.

Dalibor je vystudovaný matematik a držitel titulu MBA, který více než 25 let působil jako investiční analytik a stratég v předních světových finančních institucích – například Citigroup, ING či Credit Suisse. Vedl mezinárodní týmy zaměřené na investiční výzkum v oblasti telekomunikací a digitálních technologií a za svou práci získal řadu prestižních ocenění od institucí, jako jsou Institutional Investor či Thomson Reuters.

Jako analytik se podílel na významných veřejných nabídkách akcií telekomunikačních firem v Evropě, Asii i Africe. Patří také k průkopníkům myšlenky oddělení telekomunikační infrastruktury, kterou mezi prvními na světě realizoval operátor O2 v České republice – a která se později stala součástí evropské legislativy i běžné praxe.

V posledních letech se věnuje poradenské a výzkumné činnosti v oblasti digitálních strategií, umělé inteligence a regulace dat, kde spolupracuje mimo jiné s oxfordským think tankem Regulatory Policy Institute. Je také autorem knihy Život v době robotů: Jak udržet vládu nad AI a zachovat si svět pro lidi.

Dalibore, já tě moc vítám u našeho podcastu.

Dalibor:

Děkuji za pozvání.

Karel:

Rád bych na úvod otevřel naši diskusi trochu historicko-filozofickým pohledem na téma víra versus materialismus – tedy jak se tento vztah vyvíjel v historii. Vím, že je to téma, které tě zajímá i mimo oblast umělé inteligence. A možná to dává smysl, protože právě AI je určitým výsledkem naší evoluce.

Já osobně vnímám situaci tak, že lidé měli odjakživa víru – hlubokou víru. Postupně vznikla církev, která se ale jako instituce časem začala zneužívat. Lidé kvůli tomu ztráceli svobodu a docházelo k různým excesům a nespravedlnostem.

Zákonitě pak přišlo osvícenství a s ním přechod k tomu, co bychom mohli nazvat materialistickou kauzální filozofií – filozofií propojenosti založené na příčině a následku, na logice a racionalitě. Tento posun přinesl obrovský pokrok: vznikla věda, rozvíjela se schopnost racionálně uvažovat, posuzovat argumenty a poznatky na základě logických důkazů. To byl velký krok vpřed.

Jenže, jako u všech systémů, i tady časem došlo ke zneužití a degeneraci. Z vědy se stala další mocenská instituce. Podobně jako kdysi církev. Viděli jsme to i během covidu, kdy byla věda využívána k manipulaci a politickým cílům.

Dnes se svět dál vyvíjí a já vnímám, že lidé se postupně odklánějí od čistě materialistického a kauzálního přístupu a začínají znovu objevovat spiritualitu a víru. Zároveň si uvědomujeme, že i materialistická filozofie má na pozadí víru – jen jiného druhu. Je to víra v kauzalitu, v náhodnost dějů.

A právě tato víra v náhodnost podle mě nefunguje. Dnešní svět je extrémně rozdělený a pokud nadále budeme dávat absolutní pravdu jen vědě a kauzalitě, dostaneme se do slepé uličky – do té, v níž se právě nacházíme.

Takže otázka je: co s tím dál? Jak to podle tebe bude pokračovat? A jaký máš návod na naši další strategii?

Dalibor:

Když už jsi zmínil ten Regulatory Policy Institute, což je oxfordský think tank, který navazuje na myšlenky skotského osvícenství, napadá mě jeden příklad, který jsme tam diskutovali asi před rokem nebo dvěma.

Mluvili jsme o tom, že osvícenství a materialismus, který z něj vzešel, už dnes zachází příliš daleko. Na půdě tohoto think tanku jsem potkal jednoho z nejvýznamnějších současných britských filozofů Iaina McGilchrista, který mě mimochodem inspiroval i k napsání mé knihy Život v době robotů.

McGilchrist se jako vědec, psychiatr a neurolog, zabývající se fungováním lidského mozku, snaží vrátit téma spirituality a víry zpět do veřejné debaty – aniž by přitom používal slova jako Bůh nebo jiná, která v materialistické společnosti příliš nerezonují.

Znovu oživil teorii pravé a levé mozkové hemisféry a tvrdí, že pravá hemisféra reprezentuje holistické myšlení, které nelze redukovat na algoritmy. Je to schopnost, kterou v nás vyvinula evoluce, ale jejíž činnost se nedá popsat ani napodobit čistě algoritmicky.

A to má zásadní důsledky. Pokud chceme dál rozvíjet umělou inteligenci, musíme si položit otázku, jak se k ní postavíme – za co ji budeme považovat, jaké jí dáme pravomoci a jakou roli jí dovolíme hrát ve společnosti.

Pokud bychom McGilchristovu teorii odmítli a zůstali čistými materialisty, kteří se snaží emulovat veškeré lidské myšlení pomocí algoritmů, potlačili bychom právě tu část mozku, kterou on – a nejen on – považuje za klíčovou pro naše přežití.

Myslím, že jako společnost narážíme na určitý strop, kam jsme se s materialismem dostali, a že se celá situace – ideologicky i filozoficky – začíná postupně obracet.

Proč algoritmy nikdy nenahradí lidské vědomí

Karel:

Takže vlastně ta druhá hemisféra je hemisféra intuice a pocitů. A já to vím i ze své vlastní zkušenosti – když se člověk otevře intuici, dokáže vnímat a vidět věci, o kterých cítí, že jsou pravdivé, i když pro ně nemá striktní vědecký důkaz. Když se ale tomu pocitu otevře a následuje ho, často se časem ukáže, že to bylo správné rozhodnutí – i když třeba z nečekaných důvodů. A to je podle mě něco, co stojí mimo čistě materialistické paradigma náhodnosti a kauzality.

Dalibor:

Ono je to trochu složitější. Teorie dvou mozkových hemisfér není nijak nová – první zmínky o ní se objevují už v 19. století a později byla znovu oživena v 60. letech 20. století. Současný vědecký konsensus však tuto teorii v podobě, v jaké byla tehdy prezentována, odmítá.

Mozek totiž nefunguje jednoduše na principu emoce versus racionalita. Hemisféry jsou do určité míry komplementární, to samozřejmě ano, ale McGilchrist o nich mluví v jiném kontextu. Nejde tam o emoce a intuici v tom smyslu, jak je běžně chápeme, ale o způsob vnímání světa.

Hemisféry mají mimochodem i zvířata – většina druhů, které mají mozek, ho má rozdělený na dvě části. Uvedu příklad: Představme si kočku. Když loví – a platí to i pro jiné dravce – používá při tom redukcionistické myšlení, například k odhadu vzdálenosti od kořisti. Funguje v podstatě jako biologický počítač, který na základě zkušeností a instinktů vyhodnocuje situaci.

Zároveň ale vnímá celé prostředí kolem sebe – rizika, která mohou přijít (například jiný predátor, který ji sám loví), i příležitosti, které se nemusí opakovat. A právě tuto širší citlivost k realitě zajišťuje pravá hemisféra.

A to je přesně ta část, kterou neumíme algoritmicky popsat ani napodobit. Vyvinula se evolucí a naše vědomí zatím nedokážeme rozložit do takové podoby, abychom ho mohli převést do algoritmů.

Mimochodem, to samé říká i profesor Vladimír Mařík, jeden z předních českých odborníků na umělou inteligenci. Měl jsem s ním nedávno příležitost vystoupit na konferenci Víra v době robotů, kde mluvil právě o tomto tématu. Je autorem dvou knih o AI a ta druhá se zaměřuje na vědomí. Jeho hlavní teze zní, že vědomí nelze zjednodušit na algoritmické myšlení. A zároveň velmi jasně říká, že umělá inteligence je v jádru pouze algoritmické myšlení – nic víc. Samozřejmě ne každý s tímto pohledem souhlasí, a právě proto je to téma, o kterém má smysl dál debatovat.

Karel:

Určitě. Minimálně s dnešními počítači je to tak, že umělá inteligence je čistě výpočetní proces – práce s nulami a jedničkami. Pokud v systému nedochází k chybě, pak je to zcela deterministický výpočet – bez jakéhokoli prvku náhody. Teprve v okamžiku, kdy budeme mít kvantové počítače, se do toho může dostat i určitý prvek náhody. Tam už to bude složitější, protože kvantové procesy samy o sobě pracují s pravděpodobnostmi. Ale z mého pohledu – ať už AI vypadá jakkoli úžasně a mocně – není to nic jiného než matematický výpočet.

Dalibor:

Na to existují různé názory. Samozřejmě v okamžiku, kdy by se nám to vymklo z kontroly a už bychom nebyli schopni ověřovat, co daný algoritmus dělá, stává se situace mnohem složitější. Už Alan Turing si všiml, že u žádného algoritmu nelze dopředu říct, jestli skončí s výsledkem, nebo ne – tedy zda něco vyprodukuje, nebo se zacyklí.

Karel:

Takže tam může být výsledek natolik složitý, že jedinou možností, jak ho vyhodnotit, je ho skutečně aplikovat v praxi.

Dalibor:

Přesně tak. Jen jsem tím chtěl říct, že v tom vlastně existuje určitý prvek náhody – ta nepředvídatelnost.

Jak se z analytika stal průvodce světem umělé inteligence

Karel:

Jaká byla tvoje cesta od financí – od finančního analytika, člověka, který predikoval vývoje na světových finančních trzích – k umělé inteligenci?

Dalibor:

No… já bych to asi tak přesně nenazval. Pokud jsme se shodli, že AI jsou programy a algoritmy, tak já jsem s nimi vlastně začal už dávno. Možná bych ještě dodal, že jsem výsledkem zajímavého propojení dvou světů – můj táta byl bohém, operní zpěvák a umělec, zatímco ze strany mámy pocházím z prostředí akademické vědy. Můj děda byl statik a navrhoval některé z nejvýznamnějších staveb své doby – například Ještěd nebo Nuselský most.

Takže já jsem byl od začátku spíše technicky a materialisticky zaměřený. Až do univerzity jsem měl čistě technický pohled na svět a věci, které ho přesahují, jsem spíše odmítal.

Už v osmdesátých letech jsem měl první programovatelnou kalkulačku Hewlett-Packard. Tehdy to bylo poměrně složité, protože existovalo embargo na dovoz amerických technologií. Přesto se mi ji podařilo získat – a byl jsem z toho naprosto nadšený. Jako student na gymnáziu jsem dělal digitalizaci geodézie a díky té kalkulačce jsem mohl převádět měření na data. Spolupracoval jsem tehdy se švýcarskou firmou, která byla světovým lídrem v oblasti měřicích přístrojů.

To pro mě byla obrovská zkušenost – poprvé jsem na vlastní kůži zažil sílu digitalizace, jak dokáže zvýšit efektivitu a změnit způsob práce.

Později jsem začal studovat matematiku, a i když už si přesně nevybavím, na co všechno jsem se tehdy zaměřoval, fascinovala mě krása matematických vět – to, jak je možné pomocí vědy a logiky pochopit strukturu světa. A tehdy jsem si poprvé uvědomil, že to přesahuje čistě technický, mechanický pohled.

Poté jsem začal pracovat – nejprve jsem dělal expertní systémy pro investování. A tím jsem se dostal do investiční branže. Zabýval jsem se různými obory – telekomunikacemi, ropnými společnostmi, digitálními technologiemi – a u každého z nich jsem po nějaké době zjistil, že začínám chápat věci jinak. Najednou to „cvaklo“ a začal jsem vidět souvislosti, které nejsou jen materialistické nebo kauzální.

To je moment, kdy začneš vnímat i to neviditelné, něco, co se nedá přesně vysvětlit, ale přitom ti to pomáhá dosahovat lepších výsledků. A podobně je to i v umění – třeba ve zpěvu. Je to proces, při kterém člověk zapojuje podvědomí nebo části mozku, které běžný materialista, zaměřený jen na logiku, nedokáže aktivovat.

Zjistil jsem, že tohle platí i v investování. My jsme tehdy nedělali krátkodobý algoritmický trading, ale střednědobé a dlouhodobé předpovědi trendů – nejdříve v telekomunikacích a později v digitálních technologiích obecně. A právě tam jsem pochopil, že lidský nadhled – možná i spirituální rozměr – umožňuje formulovat předpovědi mnohem lépe. Pak ale přišly dvě důležité věci.

Za prvé, v osobní rovině jsem narazil na limity zdravotnictví. Měl jsem určité zdravotní potíže a dostal jsem se do situace, kdy mi lékaři doslova řekli: „My už nevíme.“ A já zjistil, že řešení existuje, ale mimo materialistický systém. Měl jsem štěstí, že jsem se dostal k odborníkům, kteří přemýšleli jinak – holisticky – a to mi zásadně pomohlo. A když něco takového člověk zažije na vlastní kůži, změní to jeho pohled na svět.

A druhá věc byla, že jsem začal vidět extrémy materialistického přístupu – jak v technologickém světě, tak ve financích. Tam už se začínají objevovat skrytá dogmata, která se přes materialismus tlačí dál a dál. A v určitém bodě jsem si řekl, že tudy cesta nevede.

Začal jsem proto psát – a moje kniha Život v době robotů je vlastně výsledkem této snahy otevřít mysl. Chtěl jsem se o své poznatky, které jsem dříve sdílel jen s investory nebo manažery velkých firem, podělit i s širším publikem.

Kde začíná plíživá technologická totalita

Karel:

Ty jsi ve své knize formuloval desatero pro život v době robotů – tedy jak žít s umělou inteligencí, a přitom si uchovat svobodu a vlastní bytí.

Já totiž vnímám, že všechno má dvě strany. Technologie může být buď nástrojem totality, který nám vezme svobodu a bude nás absolutně kontrolovat – a to by podle mého názoru byla katastrofa. Protože technologická diktatura by mohla být věčná – na rozdíl od lidského diktátora totiž technologie neumírá.

Na druhou stranu ale může být technologie naším spojencem a štítem, který svobodu chrání. Třeba právě díky asymetrickému šifrování – což je nádherný matematický princip, díky němuž dokážeme uchovávat objektivní informace a soukromí i v digitálním světě.

Takže – kdybys měl ze svého desatera pro AI vypíchnout to nejdůležitější, na co bychom se měli zaměřit, abychom z technologií dokázali vzít to pozitivní? Co by to bylo?

Dalibor:

Myslím, že se v tomhle s tvými myšlenkami docela shodneme. Jako první bod jsem ve své knize zdůraznil zdraví lidského mozku.

Když jsem ji psal a mluvil s lidmi, často zaznívala otázka: „V čem nám umělá inteligence pomůže a v čem nám uškodí?“ Dokonce to měl být původně i název knihy – vydavatelé mě k tomu trochu tlačili, že by to mělo být „na obě strany“.

Já jsem ale začal přemýšlet hlavně nad tím, v čem nám může uškodit. A samozřejmě existují různé apokalyptické scénáře – a ty bych rozhodně nepodceňoval. Pak jsou tu i scénáře technologické kontroly a totality, které jsou pro mě možná ještě horší než ta apokalyptická varianta. Protože žít v otroctví je podle mě horší než zánik.

Ale existuje ještě něco horšího – plíživá totalita.

Ta je zrádná právě tím, že si na ni postupně zvykneme. A začíná to nenápadně – narušováním našeho podvědomí. To je problém, protože vědomá část naší mysli tvoří možná jen pět až deset procent veškeré činnosti mozku. Zbytek je podvědomý proces, který nemáme pod kontrolou.

A pokud by umělá inteligence začala do těchto hlubších vrstev zasahovat – a tím narušovat holistické myšlení – mohli bychom ztratit kontrolu nad vlastním životem.

Neříkám, že jsme ji někdy měli úplně. Vždycky existovaly různé vnější vlivy – dříve to byla církev, později třeba marketing. Ten je vlastně také formou manipulace. Stejně jako organizovaná víra, i marketing hraje na pravou hemisféru, tedy na podvědomí.

Ale pokud by došlo k zásadnímu průlomu v AI, který by umožnil manipulovat lidský mozek na úplně jiné úrovni, než jak to dokázaly předchozí civilizace, pak si myslím, že by to bylo jedno z největších rizik. Ne-li vůbec to největší.

Protože bychom o tom nevěděli. Když víme, že existuje totalita nebo hrozí apokalypsa, můžeme se bránit, připravit se. Ale pokud by šlo o něco, co z principu nebudeme schopni rozpoznat, a věděla by o tom jen malá skupina lidí, která by tím mohla manipulovat ostatní, pak to podle mě představuje největší možné riziko pro lidstvo.

Proč potřebujeme zůstat nedokonalí

Karel:

No a jak se proti tomu vlastně… nechci říct „bránit“, ale jak si uvědomovat realitu tak, abychom tomu dokázali předejít? Abychom nepodlehli ničemu takovému – a ideálně, aby to ani nikdo nezkoušel, pokud vůbec může.

Dalibor:

Tak zkoušet to asi někdo bude… to je jasné. Podle mě je v tomhle klíčové si definovat, kým chceme být – co vlastně znamená být člověkem.

Tuhle otázku otevírá i Juval Noah Harari, izraelský historik a myslitel. Podle něj bychom se měli posunout k „božskému člověku“, k takzvanému homo deus. Jeho knihy jsou plné velmi podnětných myšlenek, zejména pokud jde o historii druhu homo sapiens. Ale v jeho pohledu na budoucnost se s ním úplně neshoduji. Harari mluví o homo deus, já jsem přišel s pojmem „sapiens roboticus“. A důležité je právě to sapiens – tedy že zůstaneme lidmi rozumnými, těmi, kdo nepodléhají systémům, které by považovali za intelektuálně nadřazené.

A jak toho dosáhnout? Myslím si, že je potřeba – a v tom se naše dnešní debata o osvícenství a spiritualitě vlastně potkává – přijít s určitými axiomy. Nechci používat slovo dogma, protože vím, že ho nemáš rád, ale ono to k tomu svým způsobem směřuje. Musíme axiomaticky postavit člověka nad technologie.

Například v křesťanství, ale nejen v něm, se říká, že člověk je stvořen k obrazu Boha. A dlouho jsem si říkal, proč se to tolik zdůrazňuje – co je na člověku tak jedinečného? Tehdy to třeba nedávalo tak velký smysl, ale teď, když vytváříme technologie, to získává zcela nový význam.

Proto si myslím, že pokud se jako společnost neshodneme na základních hodnotách – nebo axiomech – které člověka staví nad technologie, riskujeme, že se v tom vývoji ztratíme. A jedním z těchto axiomů by podle mě mělo být: přežití a rozvoj druhu homo sapiens.

Karel:

Ano, přesně tak – v určité nezávislosti. Ne tak, že si necháme implantovat do mozku čipy nebo něco, co už nelze odstranit. Za mě je to poměrně jasné: jakákoli technologická pomoc je v pořádku, pokud je vratná. To znamená – nezasahovat do mozku nevratným způsobem. To by podle mě bylo už za hranou.

Dalibor:

Ono je tohle téma opravdu velmi tenký led. Samozřejmě – něco jiného je, když jde o nemoc, to je pochopitelné. Ale může se stát, že se dostaneme do situace jako lidstvo, kdy někdo prohlásí, že právě tyto technologie nás zachrání. A podle mě je to právě to skutečné nebezpečí.

Současný trend, který směřuje k technokracii a datové centralizaci, totiž prolamuje bariéry, které dosud nikdy prolomeny nebyly. Ať už jde o fungování lidského těla, náhrady orgánů, implantáty, nebo dokonce umělou výrobu orgánů – to je jedna oblast.

Druhá se týká imunity a očkování. Tam samozřejmě myšlenka je dobrá, ale v okamžiku, kdy…

Nejde ani tak o zneužití, dokonce ani o záměrné zneužití – ale spíš o to, že se můžeme dostat do situace, kdy se staneme závislými na technologii podobně jako počítače na aktualizacích Windows. Pokud bychom nedostali pravidelný update, nebyli bychom schopni dál fungovat. Říkám to samozřejmě jako extrémní příklad, ne že bych tvrdil, že v takové fázi už jsme – ale jde o filozofii.

Pokud se díváme na svět – a tedy i na zdraví – redukcionisticky, tedy optikou jednotlivých nemocí a diagnóz, pak logickým řešením je připravit se na konkrétní problém. A to může znamenat například očkování.

Karel:

Anebo zvyšování imunity a zdravý životní styl.

Dalibor:

Přesně tak. Ale právě tam jde o to, jestli se na to díváš holisticky – tak jako ty.Tedy v celkovém kontextu zdravého života, což je mimochodem v medicíně velmi těžké přesně definovat, ale my jako lidé můžeme mít intuitivní představu, co to pro nás znamená.

Karel:

Anebo naopak redukcionisticky – tedy zaměřit se na jednotlivé aspekty a řešit každý zvlášť. Problém ale je, že nevíme, co to znamená v celkovém souhrnu. Když totiž vyřešíme každý aspekt izolovaně, může to mít důsledky, které nejsme schopni předem predikovat.

Dalibor:

Což vlastně u technologií bylo vždycky. A situace, ve které jsme dnes, je, že vytloukáme klín klínem. Ve 20. století to nebylo jiné – měli jsme auta, chemický průmysl, docházelo ke znečištění a pak jsme dělali odsiřování elektráren, katalyzátory a podobně. Nemyslím si, že to je nutně špatně. To je prostě součást technologického pokroku. Bez toho, abychom dělali chyby a pak je zlepšovali, bychom se nikam neposunuli. „Správné řešení“ neexistuje. Je to evoluční proces.

Problém ale vidím v tom, že dogmaticky předpokládáme, že problém, který přinese současná technologie, vyřeší ta další. A právě v tom je podle mě hlavní riziko. Pokud by se ukázalo, že nová technologie problémy nevyřeší, ale naopak ještě zhorší, celý ten systém – který bych už dnes nenazval tržní ekonomikou, i když z ní historicky vyšel – se může začít otřásat a potenciálně zkolabovat. Protože stojí na dogmatickém předpokladu, že inovace vždy vyřeší naše problémy.K tomu bych ještě přidal jednu osobní zkušenost. Uvědomil jsem si ji během covidu. Jak jsem už říkal, byl jsem vždycky nadšenec do technologií. Měl jsem první programovatelnou kalkulačku, která u nás vůbec existovala. Vždycky jsem chtěl mít nejlepší možnou technologii – ať už šlo o počítače, nebo o audio zařízení. Později jsem dělal IPO – tedy uvádění akcií na burzu – především pro mobilní operátory po celém světě. Viděl jsem, jak kapitál proudící do těchto odvětví přináší lidem reálné výhody. A skutečně jsem věřil, že technologie pomáhají lidstvu růst. Například jsme tehdy měli analýzy, že rozvoj mobilních sítí v Africe zvyšuje HDP o 5 %. Říkal jsem si: „To je fantastické. To opravdu lidem pomáhá.“ Jenže koncem minulé dekády – a zvlášť v době covidu – jsem si uvědomil jeden zásadní posun. Technologie jsou čím dál méně o volném trhu.

Vidíme to už u operačních systémů mobilních telefonů – nejde jen o kontrolu, ale i o vnucování. Společnosti už neříkají: „Kupte si nový telefon.“ Říkají: „Abyste mohli používat naše bankovní služby, musíte mít určitou verzi systému nebo konkrétní zařízení.“ A ten konkrétní telefon už v sobě obsahuje technologie, kterých se uživatel nemůže jednoduše zbavit – a pokud chce fungovat ve společnosti, musí se jim přizpůsobit. Bez nich už dnes nepoužije banku, nepřivolá si Uber, nezaplatí online. A tím se všechno začíná propojovat.

Dalším klíčovým momentem je, že součástí této hry se stávají i vlády. Všiml jsem si toho už před zhruba 15 lety v Londýně, kdy se začaly rozvíjet sociální sítě jako Twitter. Vláda tehdy dělala kampaně právě na sociálních sítích – z veřejných peněz, aby podporovala jejich používání. Nebyl to tedy čistě spontánní proces, ale vědomě řízený komunikační kanál.

A čím víc čas postupoval, tím víc je vidět, že velké technologické transformace – například dnes v oblasti zelených technologií a čisté energetiky – už neřídí trh ani poptávka lidí, ale ideologické a politické cíle. A na závěr chci zdůraznit: vůbec nezlehčuji problémy, které se tím řeší. Je jasné, že dopad lidské činnosti na ekosystém je obrovský. Ale myslím si, že existují i jiné cesty, méně technokratické, které by mohly být stejně účinné – nebo dokonce efektivnější. Současnost ale, jak jsme viděli právě od doby covidu, tlačí technokratická řešení extrémně silně. A často na úkor jiných přístupů, které by mohly nabídnout stejný výsledek. A ještě efektivněji.

Karel:

Ano, přesně tak. A hlavně – pořád je tam ten předpoklad, že technokratické řešení bude fungovat. Jenže zákonitě, protože jde většinou o nové věci, obsahují spoustu proměnných, které nedokážeme dohlédnout. Je tedy logické očekávat, že to prostě nemůže fungovat dokonale.

Mně osobně nejvíce otevřel oči covid – ta situace, kdy bylo vidět, jak snadno lze vědu zneužít. To byla opravdu šílená zkušenost. A když se na to dívám s odstupem, je na tom něco extrémně zajímavého.

My jsme jako lidé začínali v malých kmenech, postupně jsme se sdružovali do větších společenství a nakonec jsme se stali globalizovanou společností – obrovsky propojenou. A pak přišly technologie. A co se stalo dál? Začali jsme být masivně manipulováni. Dnes už máme technologie jako deepfake, které jsou tak dokonalé, že nelze rozeznat, co je pravé a co ne. Člověk si už nemůže být jistý vůbec ničím. Na první pohled to působí děsivě, ale na druhý pohled v tom vidím i pozitivní efekt. Pokud si rozumný, moudrý a přemýšlivý člověk chce být jistý tím, s kým mluví a čemu věří, nezbývá mu nic jiného, než se s tím druhým setkat osobně.

A tím se vlastně dostáváme zpět k osobnímu kontaktu, k mezilidské komunikaci a komunitnosti. Zároveň ekonomické tlaky nutí lidi být aktivní, spolupracovat a tvořit komunity. Takže paradoxně – právě v době největší globalizace – se lidé začínají znovu soustředit na lokální věci, na blízké vztahy a své okolí. A to považuji za nesmírně pozitivní. Že se tímto kruhem můžeme vrátit zpět k větší lidskosti – k té přirozené, nikoliv technologické. K lidskosti, která je spojená s přírodou, se skutečným prožíváním a vzájemností. A pokud to dokážeme – pokud se naučíme technologie vnímat jako nástroj, ne jako pán – pak je můžeme spojit s tou lidskou stránkou. A právě v tom vidím velkou naději do budoucna.

Dalibor:

To je přesně ono. Jeden z argumentů, o kterých v poslední době často mluvím, je, že umělá inteligence urychlí vývoj – ale to zároveň znamená, že nás rychleji dovede i do slepých uliček. Respektive nás dovede do bodů, kdy si uvědomíme věci, které by nám za normálních okolností trvalo mnohem déle pochopit. A právě proto je nesmírně důležité, aby lidé přemýšleli, aby si zachovali své kritické – a do jisté míry i emoční – ale hlavně přirozené myšlení.

To jsem se snažil podnítit i v té své knize. To byl vlastně její hlavní cíl – stimulovat přemýšlení. Vím, že ne každý rád přemýšlí. Když dáme lidem mnoho podnětů, často utečou k něčemu jednoduššímu, zábavnému, pohodlnému. Ale je potřeba si říct, že evoluce je o překonávání překážek. A my jsme homo sapiens – tedy bytosti myslící. Naším úkolem není překážky obcházet, ale překonávat je myšlením. To „sapiens“ vyjadřuje právě to lidské myšlení, ne robotické. A proto si myslím, že umělá inteligence nás posune dál – že nám ukáže hranice, hranice poznatelnosti i naše vlastní limity. A pokud bude dobře naprogramována a budou ji tvořit lidé s dobrými úmysly, může nám sama odhalit i rizika, která s sebou nese. Nicméně – nevěřím v iluzi totálního dobra. Nevěřím, že pasivní jedinci, kteří jen čekají, až dobro přijde, něco zásadního změní.

Karel:

To v principu nejde jinak. Aby člověk vůbec mohl chápat a vnímat, co je dobro, musí být zároveň schopen poznat i to špatné. Žijeme ve světě duality – a právě díky tomu, že prožijeme to špatné, dokážeme opravdu ocenit to dobré. A to je samozřejmě další nesmírně zajímavá otázka – jak dosáhnout toho, aby člověk poznal to špatné, aby ho pochopil a dokázal ocenit kontrast, ale zároveň aby v tom nezůstal příliš dlouho. Aby ho to zasáhlo co nejméně a on se mohl snáze otevřít tomu dobrému.

Dalibor:

To je samozřejmě otázka, jak definujeme dobro a zlo. Ale myslím si, že jedna z myšlenek, které se v tomto směru často objevují – třeba o tom mluví i Elon Musk – je, že člověk musí projít určitým utrpením. Je to i součást náboženských tradic – že člověk má překonávat překážky a že odměna, kterou získá, musí být nějakým způsobem zasloužená. Pokud bychom ale technologie, včetně umělé inteligence, začali chápat jako prostředek k přeskočení překážek a dosažení cíle bez úsilí, tak přestaneme fungovat přirozeně. Právě proto se ve své knize tolik věnuji přirozené evoluci. Protože zachování principů evoluce znamená zachování druhu homo sapiens.

Máme k dispozici technologické prostředky, ale nesmíme zapomínat, že jsme živý druh. A měli bychom fungovat podobně jako ostatní živé organismy – jen s tou nadstavbou, že jsme sapiens, tedy myslící bytosti. Jak o tom mluví i Harari, dokážeme sdílet abstraktní myšlenky, příběhy a víru – ať už jde o Boha, nebo třeba o víru v hodnotu bitcoinu. Podstatné je, že se dokážeme shodnout na tom, čemu věříme, a společně tyto hodnoty uznávat. A právě to nás odlišuje od ostatních druhů. Teď se ale začínáme lišit ještě jinak – tím, že jsme vytvořili technologii, která dokáže přemýšlet. Ale musíme si dát pozor, abychom ji nikdy nenadřadili nad sebe.

Karel:

Ano. A není náhoda, že všechny starobylé civilizace měly své rituály přechodu do dospělosti. Podle mého názoru je právě v tom velké nebezpečí moderní civilizace – v tom, že se lidé snaží žít v absolutním pohodlí, bez starostí, bez nepohodlí. Ale takhle to zkrátka nefunguje. Jsem hluboce přesvědčen, že je nezbytné vystavovat naše děti i nekomfortu. Aby opouštěly svou komfortní zónu – ať už skrze sport, výzvy, nebo jiné formy úsilí. Protože právě to úsilí je naprosto zásadní. A chci to zdůraznit ještě jednou, protože je to podle mě jedna z klíčových myšlenek: Nemůžeme chtít pohodlný život plný jistot. To je ta nejhorší možná „objective function“ – ta nejnebezpečnější cesta, po které se můžeme vydat.

Jak se pohodlí může stát pastí civilizace

Dalibor:

Teď ti řeknu jednu věc – ten pohodlný život s jistotami je přesně to, co nám velké technologické firmy slibují. To je jejich hlavní prodejní argument. A právě v tom je ta faleš.

Všiml jsem si, že podobná debata se už vedla ve 20. letech minulého století. A právě Karel Čapek se tímto tématem hluboce zabýval – nejen ve svých známých dílech, ale i v esejích a kratších textech. Přesně o tom psal. Do své knihy jsem proto zařadil několik jeho citátů. Někteří lidé mi to dokonce vytýkali, že prý Čapka cituji příliš často – ale já si myslím, že v tomto směru byl naprosto geniální. Viděl do podstaty věcí, a to už v době, kdy technologie teprve začínaly formovat moderní svět.

A teď je otázka: Pokud nám technologie nepřinesou skutečné pohodlí ani jistotu, tak co nám vlastně dávají? Jako člověk, který se jimi celý život zabývá, si tu otázku kladu znovu a znovu.

Karel:

Užívat naplno krásy života. A součástí té krásy je i to, že člověk občas zabere, že vyvine úsilí, že se třeba i zapotí. To k tomu prostě patří. A zároveň je důležité umět přijmout i nepohodlí. Jsem přesvědčený, že jednou z našich společných lidských vizí by mohlo být právě tohle – naučit se přijímat nepohodlí i bolest s otevřenou myslí, a dokonce i s radostí. Brát to jako velkou školu, která nám může pomoci růst. A když to dokážeme, už to nebude působit tak hrozně. Naopak – otevře se nám i ta pozitivní stránka života, ta schopnost opravdu si ho užívat, ne jen pohodlně přežívat.

Dalibor:

Karle, my možná nejsme úplně typičtí. Já jsem třeba po operaci nebral prášky na bolest, protože jsem si říkal, že tím si člověk musí projít. Ale svět dnes funguje jinak.

V dnešní době hraje klíčovou roli ekonomika – peníze, finance, trh. A tržní ekonomika by měla být postavená na určité rovnováze: člověk vyvine úsilí, překoná nějaké nepohodlí a to mu následně přinese odměnu, tedy jistou formu pohodlí nebo zisku. To je přirozený princip ekonomiky. Jenže právě tady se dostáváme k zásadnímu problému – nebo spíš k bodu zlomu. A o tom už dnes otevřeně mluví i lidé jako Elon Musk nebo další v Silicon Valley. Ekonomika, jak ji známe, přestává fungovat. Začíná se zadrhávat.

Jak jsme mluvili dříve – je tu mnoho regulací, ale i technologie, které ekonomiku narušují nebo ničí, často disruptivním způsobem. Ten, kdo vytvoří nejlepší technologii, si vytvoří monopol. Ostatní hráči z trhu mizí a jedna platforma pak dominuje dalším trhům. Obrovské zisky odtékají jedním směrem, zatímco zbytek systému slábne. Myslím si, že řešení spočívá v tom, že se musíme zamyslet nad samotným principem ekonomiky a pokusit se vytvořit něco, čemu pracovně říkám „ekonomika širší racionality“. Bude to jiný typ ekonomiky – ale stále musí fungovat jako ekonomika, tedy systém, kde lidská práce a přínos jednotlivce mají reálnou hodnotu pro většinu lidí. Pokud tomu tak nebude, dostaneme se do stavu, kdy se ekonomika stane privilegiem malé skupiny, zatímco ostatní budou dostávat jen „drobky“ v podobě univerzální podpory – a to nemůže dlouhodobě fungovat.

Představme si to takto: Společenský řád byl vždy postavený na víře, vojenské moci a ekonomice. Ve 20. století a na počátku 21. století ekonomika jednoznačně dominovala. Ale pokud se začíná rozpadat, pokud je přeregulovaná a musí se neustále přerozdělovat, aby vůbec udržela rovnováhu, dostáváme se do velmi nebezpečné situace. Protože máme společnost založenou na systému, který se nám rozpadá pod rukama. A já nechci příliš spekulovat, ale myslím si, že návrat spirituality, nebo dokonce i nárůst válečných konfliktů, může být přímým důsledkem toho, že ekonomika už nefunguje tak, jak by mohla a měla fungovat.

Kdy se ekonomika začne hroutit sama do sebe

Karel:

Já myslím, že to v zásadě odpovídá teoriím vývoje civilizací. Každá prosperující civilizace a rostoucí ekonomika s sebou dříve či později přináší i vedlejší důsledky – byrokracii, rozdělování lidí, vzrůstající konflikty. A ty nakonec často vyústí v určitý druh kolapsu. A tím kolapsem může být klidně i válka.

Dalibor:

Ano, přesně tak – o tom už mluvil ekonom Joseph Schumpeter. A určitě stojí za zmínku i práce Miroslava Bárty, který má na vývoj civilizací vynikající pohled.

Schumpeter mě ale vždy fascinoval i tím, že jeho myšlenky získaly popularitu v technologických kruzích, dokonce i v Silicon Valley. Mluvil o tom, že po určité době – myslím, že jeho cykly měly zhruba 70 až 80 let – se ekonomika vyčerpá, přestane být skutečně tržní, systém se začne korumpovat a je potřeba ho nějak „pročistit“. Problém dnešní doby je ale v tom, že bychom se asi všichni shodli, že systém očistu potřebuje, jenže – co když právě ti, kdo by měli být pročištěni, jsou zároveň těmi, kdo celý proces ovlivňují? A to nás dostává do velmi složité situace. Takové, která už nemusí skončit jen malou disrupcí a přesměrováním, ale může přerůst v mnohem hlubší krizi – v kolaps, který by zasáhl nejen ekonomiku, ale i samotné fungování společnosti.

Karel:

Na nějakou totalitu? Protože pokud to „pročištění“ řídí ti, kdo systém kontrolují, tak ho samozřejmě pročistí tak, aby ten systém ovládali ještě víc.

Dalibor:

Tak to se samozřejmě snaží každý – každý, kdo má možnost, se pokouší systém nějak ovládat. Ale teď mluvím především o ekonomickém a finančním systému, který je postavený na určitých předpokladech. Jeden z nich je například priorita materiálního blahobytu pro spotřebitele. V okamžiku, kdy by se velká část spotřebitelů rozhodla žít jinak – tedy oddělit se od spotřebního systému a dát přednost jinému způsobu života – tak by se celý ekonomický systém, včetně bankovního, dostal pod obrovský tlak.

Myslím si, že už teď probíhá několik trendů – a zmínil bych minimálně dva z nich. První je, že lidé si to začínají uvědomovat. Tedy že návrat ke spiritualitě už v jisté míře probíhá. A druhý trend je technologický – technologie se koncentrují, což znamená, že velká část lidí přestává v ekonomice hrát smysluplnou roli.

Vzpomínám si na řadu debat, často s podobně smýšlejícími lidmi, kde jsme se bavili o byrokracii – například v českém kontextu. Je tu spousta úředníků, nefunkční systémy a často se říká, že je potřeba to všechno „pročistit“. S tím se dá jistě souhlasit – ale pak přichází ta druhá, mnohem zásadnější otázka: Co budou ti lidé dělat? Pokud systém pročistíme a zároveň budou existovat technologie, které vezmou práci velké části populace, jakým způsobem bude společnost dál fungovat? To je otázka mnohem filozofičtější, nadčasová – a týká se všech civilizací napříč historií. Není to vůbec jednoduché téma.

Vzpomínám si, že na první konferenci o umělé inteligenci v Římě, kde se sešli zástupci katolické církve, judaismu i islámu, se právě tohle řešilo velmi intenzivně. A jeden z řečníků tam poznamenal, že podobná dilemata řešily i starší civilizace, například v islámském světě, konkrétně v Turecku. Když se tehdy objevila nová technologie, která by mohla zásadně narušit fungování společnosti, rozhodli se tehdy – i přes velký potenciál a přebytek, který nabízela – že ji v této podobě prostě nevyužijí.

Karel:

A jaký druh technologie to byl?

Dalibor:

Já si teď nejsem jistý. Myslím, že se to týkalo textilií, ale přesně si nevzpomenu...

Podle mě tam vždycky stojí dvě roviny: otázka nadbytku a otázka rizik. Když jsme po průmyslové revoluci vstoupili do 20. století, už nešlo jen o přebytek, ale i o nová rizika – například atomové zbraně a nebezpečí nukleárních nehod. Později jsme si začali uvědomovat, že zasahujeme velmi razantním způsobem do biosféry – a to je dnes už otevřeně přiznané téma. Nejde jen o ekosystémy, ale i o zásahy do imunitního systému lidí – a to nejen prostřednictvím očkování, ale třeba i různých léčebných protokolů.

Vzpomínám si, že mi jeden primář české nemocnice řekl, že víc než polovina lidí, kteří tam zemřou, umírá nikoli na původní nemoc, ale proto, že se jim neustále přidávají další a další léky – a ten poslední je nakonec zabije. Neříkám tím, že je všechno špatně – určitě ne. Ale myslím, že právě tohle krásně ukazuje, jak křehká rovnováha mezi pokrokem a odpovědností může být.

Karel:

Podle mě je potřeba minimalizovat spotřebu těch léků a těchto věcí, maximálně to minimalizovat.

Dalibor:

No právě proto je podle mě potřeba určitý reset – nějaký systémový zásah. Protože ten současný systém je už tak provázaný, že se v něm prolínají byznysové, vládní i investorské zájmy. A dokonce i spirituální či nezávislé organizace, které by měly být mimo tento rámec, už dnes mohou být pod vlivem těchto struktur. Všechno se to často skrývá pod pojmy jako „spolupráce“ nebo „řešení civilizačních rizik“. A právě tenhle narativ – že „čelíme civilizačním rizikům“, a proto musíme všichni spolupracovat – se dnes stává nástrojem moci. Vzniká z toho něco, čemu se říká stakeholder kapitalismus. A s ním přichází jednotná agenda, která se tváří jako globální dobro. Jenže to má i svůj vedlejší efekt – že jakýkoli skutečný reset systému téměř nemůže nastat, protože všechno je vzájemně provázané. A tak se nakonec změna často děje až skrze disrupci – tak, jak jsi to říkal ty.

Jakou roli hraje spiritualita v době nadbytku

Karel:

Ještě k té ekonomice nadbytku – to je extrémně zajímavé téma. Jsem přesvědčen, že některé technologie už existují, jen jsou skryté – například teorie volné energie a podobně. A podle mého názoru to není fikce, ale velmi reálná možnost. A teď si představme, že bychom měli přístup k volné energii. V takovém případě by se spousta práce, kterou dnes lidé dělají, stala zbytečnou. A tady se dostáváme k jádru věci – podle mě je to hlavně otázka filozofie lidské činnosti. Protože o co tu vlastně jde? O to, aby člověk měl v životě smysl, aby dělal věci, které ho naplňují a inspirují, aby dokázal být kreativní. A to může být cokoliv – člověk může pěstovat zahradu, může vytvářet hodnoty nejrůznějšího druhu. A ty nemusí mít nutně ekonomický význam ve smyslu spotřeby nebo zisku.

Když si představíme model, kde jsou základní životní potřeby naplněné – kde máme třeba i volnou energii – pak je klíčové, aby lidé byli motivováni učit se, rozvíjet, poznávat a tvořit. A právě tady vidím hlavní nebezpečí – riziko degenerace společnosti. Protože pokud by bylo všechno zadarmo, celý systém by se zhroutil. Lidé by ztratili motivaci, smysl, pohon.

Ale věřím, že je možné nastavit systém jinak. Tak, aby měl každý zajištěné základní potřeby, ale zároveň byl motivován k aktivitě. Například: kdo chce podporu, ať ji klidně dostane – ale musí zároveň něco dělat, něco studovat, na něčem pracovat. Zkrátka, aby tam zůstala motivace a smysl. A právě to považuji za cestu k prosperitě i k obraně před vlastní degenerací.

Zároveň je to podle mě přirozené pokračování evoluce, kterou jsme prošli. Dříve jsme museli bojovat o přežití, čelit nedostatku – a dnes stojíme před úkolem naučit se žít v nadbytku, aniž by nás zničil. Protože spirituální cesta, cesta poznání a kreativity, je nekonečná. To je ten skutečný svět, ve kterém žijeme – svět fraktálu, kde můžeme neustále objevovat víc a víc, do větší hloubky i šířky bytí.

Dalibor:

A nemyslím si, že tím objevujeme něco úplně nového. Podle mě už kultury a společnosti v dávných dobách – možná už ve starém Řecku nebo Římě – docházely k podobným závěrům. Tehdy lidé sice neměli roboty, ale využívali práci otroků. A v zásadě ten princip byl podobný – lidé měli určitý nadbytek, který jim umožňoval přemýšlet o světě a o smyslu života.

Karel:

Pořád tam ale existoval konflikt. Bylo jasné, že když se ta situace nebude hlídat, dříve či později vypukne vzpoura. Nebyl to tedy dlouhodobě vyvážený systém.

Dalibor:

Ty technologie nikdy nepracovaly úplně čistě v náš prospěch. A myslím si, že to ani není nic nového. Upozorňoval na to už Karel Čapek – jak ve hře R.U.R., tak především v románu Válka s Mloky a v Továrně na absolutno. Právě Továrna na absolutno krásně ukazuje, jak neomezená energie a technický pokrok mohou být v úzkém propojení s náboženstvím, mocí a řízením světa.

Čapek tomu rozuměl velmi dobře. Upozorňoval, že současný svět nabízí hojnost – nadbytek hojnosti. A jak jsi říkal, člověk potřebuje všechno potřebné k životu, ale ne nutně nadbytek hojnosti. S tím naprosto souhlasím.

Takže si myslím, že řešení není tak jednoduché, jak by se mohlo zdát. Je to především otázka motivace. A tady bych doplnil i svou osobní zkušenost z práce v londýnském City. Postupem času jsem si vytvořil možná trochu kontroverzní názor – totiž že velká část podvědomých procesů v lidském mozku by vlastně ani nemusela existovat a že by je v mnoha oblastech mohly převzít technologie.

Pamatuju si období finanční krize. Tehdy se obchodování i výzkum rychle digitalizovaly. Samozřejmě tomu chyběla jistá holistická složka, ale přesto v celém finančním sektoru docházelo k masivní digitalizaci práce. A co se stalo? Dvě věci.

Zaprvé se práce začala outsourcovat – třeba do Indie – čímž se vytvořil určitý polštář proti ztrátě pracovních míst v Evropě nebo ve Spojených státech. Zadruhé po bankovní krizi prudce vzrostl počet regulátorů a regulací. S nimi i počet právníků v jednotlivých institucích, kteří se regulacemi zabývali. Jenže víme, k čemu to vedlo. Mělo to přinést větší konkurenci a oslabit velké hráče, ale výsledek byl přesně opačný. Velcí hráči si mohli dovolit obrovské právní týmy – a tím svou pozici ještě posílili. Vytvořil se tak systém v systému. A takhle to funguje ve financích, v realitách i jinde. Přinesete silnou ideologii, na ní se postaví regulace, ty přitáhnou lidi a vznikne nová umělá ekonomika. Můžeme dokonce zákonem určit, že v některých oblastech musí pracovat lidé a rozhodovat nesmí roboti. Tím ale přesouváme lidi z reálné ekonomiky, kde jde o skutečné přežití – třeba o vypěstování potravin – do umělého, uzavřeného systému. A já si myslím, že tohle dlouhodobě fungovat nebude.

Příroda, nebo chcete-li vyšší moc, podle mě zasáhne. Ty umělé konstrukce se dříve či později zhroutí a reálné problémy se vrátí. A právě na ně bychom se měli připravit – investovat do schopnosti lidí řešit skutečné problémy vlastní prací a přičiněním.

A úplně největší problém, o kterém jsme už mluvili, vidím v tom, že by mohl degenerovat náš mozek, naše myšlení. Proto jsem rád, že vznikají různé iniciativy, které lidi vedou zpátky k přemýšlení, k samostatnému úsudku a ke komunitnímu životu. To je podle mě cesta, jak udržet mozek v rovnováze – jak levou, tak pravou hemisféru – a dál ji trénovat. Ale i tady je rozdíl mezi umělým trénováním a tím skutečným.

Naše tělo má například evolučně dané procesy – třeba tvorbu adrenalinu při reálném stresu. Otázkou je, do jaké míry lze tyto procesy přenést do umělého prostředí. Samozřejmě to už částečně děláme – třeba ve videohrách vznikají adrenalinové situace. Ale jde o to, kam až jsme ochotni zajít při vytváření umělého světa, který přesměrovává přirozené reakce těla na pseudoproblémy.

A právě v tom vidím velké riziko. Těch rizik je víc, ale jedno zásadní je, že umělý systém může být zcentralizován. Pokud se centrální myšlenka ukáže jako chybná, nahackujeme sami sebe – naše instinkty, tělesné procesy, přirozené reakce. A pak už se nebudeme umět bránit. Dokonce si ani neuvědomíme, že jsme se vydali špatným směrem.

Karel:

Já si myslím, že to, co říkáš, je vlastně argument pro skutečný trénink mozku. Věřím, že se to už i děje – návrat k větší přirozenosti. Společně s technologiemi můžeme nacházet lepší vztah k přírodě – prostě jít na procházku do lesa, vylézt na skálu, skočit do vody. Vrátit se k přirozenějšímu způsobu života je podle mě ta správná cesta, která na to všechno odpovídá.

Dalibor:

Přesně tak. Ale právě tady vzniká problém. Pokud bychom se rozhodli určité technologie zničit nebo vůbec nepoužívat, samozřejmě bychom se vrátili k přirozenějšímu způsobu života – ale zároveň by to mohl někdo jiný zneužít.

Zároveň existuje část světové populace, která je na technologiích zcela závislá a nemá možnost žít tím, co my nazýváme přirozeným způsobem života. My jsme teď tady na krásném místě, máme všechno, co potřebujeme, ale musíme myslet i na lidi, kteří žijí ve velkých městech, kde je obyvatelstvo koncentrované na malé ploše a kde tahle možnost prostě není.

Myslím si ale, že by se to mělo postupně měnit. Ta koncentrace populace a extrémní urbanizace by se měla obracet opačným směrem. A v některých oblastech už to tak dokonce je – třeba během covidu lidé zjistili, že mohou pracovat mimo město a že to má své výhody.

Na druhou stranu to jde proti tvému argumentu, že by se lidé měli víc setkávat a sdílet. A to je další rozpor – protože ve městě je setkávání jednodušší, zatímco když lidé žijí rozprostřeně, vzniká větší vzdálenost, nejen fyzická, ale i společenská.

Karel:

No ano, jedna věc je žít úplně na samotě, a druhá věc je mít přístup k přírodě – to se nevylučuje. A zároveň to neznamená vzdát se komunitního způsobu života.

Ale to už je další nádherné téma. O tom bychom tu mohli mluvit ještě dva dny – nebo spíš dvacet jedna dní.

Dovol mi na závěr otevřít ještě jedno z tvých témat – svobodu jednotlivce. Já ji vnímám jako naprosto klíčovou hodnotu, kterou bychom si měli střežit jako oko v hlavě, zvlášť ve spojení s technologiemi, aby nás nezačaly ovládat. Velké varování nebo obrovská škola byl například covid. Tehdy se objevovali lidé, kteří říkali: „Chceme zachránit lidské životy, svoboda je nepodstatná.“ Podle mě jsou to postoje, které by mohly společnost dovést na zcela scestnou cestu – k totální kontrole a ztrátě osobní svobody.

Takže na závěr – slovo svoboda. Jak ji podle tebe chránit ve spojení s umělou inteligencí?

Jak chránit svobodu v digitálním světě

Dalibor:

To je velmi složitá otázka – možná na dalších jednadvacet minut.

Abychom o svobodě mohli mluvit, musíme ji nejprve nějak definovat. My sami jsme složeni z buněk, ty buňky mají svou funkci a jsou zase složeny z částic. Nic z toho není úplně svobodné – každá část má určitou roli v celku. Stejně tak i my pravděpodobně máme svou roli v širších systémech, o kterých třeba vůbec nevíme. Můžeme si představit, že jsme buňkami jakéhosi globálního organismu.

Aby ta debata dávala smysl, je dobré ji posunout na úroveň svobodné vůle. To je totiž téma, které například Juval Harari vůbec neuznává. Materialisté obecně tvrdí, že všechno je deterministické – tedy kauzální. A podle mě to není jen hra se slovy.

V současnosti probíhají různé experimenty, které to do určité míry potvrzují. Dnes už má většina lidí, dokonce i v chudších zemích, mobilní telefony – a díky nim lze sbírat obrovské množství dat. Komerční společnosti tato data využívají k cílenému prodeji. Zároveň ale i veřejné infrastruktury – například dopravní systémy – mají zájem vědět, kdy, kdo a kam chce jet, aby mohly fungovat efektivněji. A tak vznikají projekty po celém světě, které ukazují, že lidské chování lze ovlivňovat – přímo i nepřímo, často na velmi hluboké úrovni.

A teď je zásadní otázka: Kde leží hranice svobody? Je to až tam, kde k někomu přijde policista domů a zatkne ho? Nebo už v okamžiku, kdy je člověk ovlivňován, aniž by o tom vůbec věděl?

Karel:

Já bych řekl, že transparentnost je v tomhle klíčovým a rozhodujícím prvkem. Pokud se lidé nějakým způsobem ovlivňují, budiž – ale mělo by to být transparentní, aby měl každý možnost se svobodně rozhodnout, jestli se toho chce účastnit, nebo ne.

Dalibor:

No a právě v tom je ten problém. Nevzpomenu si teď na jméno, ale jeden z řečníků na minulé konferenci H21 o tom mluvil velmi trefně – že je potřeba lidi sledovat tak, aby o tom nevěděli. Protože jakmile vědí, že jsou sledováni, začnou se chovat jinak.

Karel:

To je pro nějaké testování?

Dalibor:

Nejde jen o testování. Třeba kamery na ulicích nebo na dálnicích určitě pomáhají zadržet pachatele závažných trestných činů. Takže ano, všichni říkají: Dejme kamery. Dneska se montují prakticky každých pár set metrů.

Problém je ale v tom, že si mnoho lidí vůbec neuvědomuje, co se s těmi daty děje. Když jedou po dálnici, vidí kamery, ale nezajímá je, co přesně se s těmi záznamy děje. Pokud by se kamerové systémy využívaly jen v mezních případech a nesnímaly lidi do podoby identifikovatelných obličejů pro komerční nebo manipulativní účely, je to v pořádku.

Jenže pokud má systém zároveň sloužit k odhalování pachatelů a k dalšímu využití, tak aby fungoval efektivně, často vyžaduje, aby lidé o tom nevěděli – aby necítili, že jsou sledováni. A to je právě komplikace.

Karel:

Jasně, ale prostě – nějaký pachatel může uniknout. To se může stát. Jenže raději to přijmu, než abychom ztratili svobodu a všechno zasekali ve jménu bezpečnosti. Podle mě to takhle prostě nefunguje.

Vnímám to jednoznačně tak, že nemůžeme chtít dokonalost. Svět nikdy nebude perfektní – a to je naprosto v pořádku. Ale naše svobodná vůle je ten klíčový prvek, který musíme chránit.

Dalibor:

Určitě, ale společnost musí mít nějaký řád. Pokud by žádný řád neexistoval, vraceli bychom se zpět k druhům, o nichž tvrdíme, že jsme je dávno překonali. A právě o tom dnes vede hlavní debata – zda má být řád technokratický, nebo teokratický.

Dnes bývá teokracie považována za špatnou a technokracie za dobrou, ale když se na to podíváme holisticky, tak to není tak jednoznačné. Ve skutečnosti jde o to, zda jsme jako lidé ochotni přijmout určité sdílené principy – například morální – a považovat je v zásadě za dogmata. Nemusíme je dokazovat vědecky, nemusíme mít pro všechno logický důkaz. Pokud tyto principy přijmeme napříč společností – ve školství, vzdělávání i každodenním životě – povede to k tomu, že si budeme více důvěřovat. Protože víme, co od druhého můžeme očekávat, čemu věří a jaké hodnoty uznává. A tím pádem nemusíme všechno kontrolovat, nemusíme se tolik dohadovat.

Potřebujeme se ale na těchto principech shodnout. Nechci použít slovo vnucovat, ale právě shoda je tu klíčová. Otázkou však je, co dělat, když se někdo shodnout nechce. A to je v pořádku – systém pak sice nebude dokonalý, ale i tak je nutné usilovat o co nejširší společenskou shodu.

Já osobně to považuji za podstatu západní civilizace – právě to, co nás dovedlo ke svobodě. A svoboda je přece jedním z hlavních důvodů, proč západní civilizace dokázala obstát v globální konkurenci. Bohužel, dnes se mnoha lidem – i odborníkům – zdá, že když se utáhnou technokratické šrouby, pomůže to rychleji rozvíjet technologie nebo získat vojenské a jiné výhody. A krátkodobě to možná funguje, protože krátkodobé efekty bývají jiné než dlouhodobé. Jenže je to vždy na úkor budoucnosti – na úkor rizika, že v delším horizontu takový systém přestane fungovat.

Nechci dělat žádné velké predikce, i když jsem se většinu života právě predikcím věnoval. Ale domnívám se, že systémy směřující k tvrdé technokracii, což je dnes vidět třeba na Číně, mohou krátkodobě získat určitou výhodu, ale dlouhodobě udržitelné nebudou.

Karel:

Hlavně – otroctví je ta nejhorší představitelná forma společnosti. Pro mě osobně nejhorší možná varianta života.

Dalibor:

Když se o tom bavím s investory ve Spojených státech, často říkají: „Ano, my to všechno vidíme, ale realita je, že čínské technologie nám konkurují.“ Pokud bychom to nechali být a vůbec se tím nezabývali – s tím, že náš systém je přece lepší – Čína by mohla získat převahu, a to vojensky i ekonomicky. A než by náš systém znovu dosáhl své dřívější dominance, mohl by se mezitím zhroutit.

Ten tlak je v posledních letech, zejména od doby covidu, opravdu obrovský. Jde o globální konkurenční tlak, kde hráči nespolupracují, ale snaží se vytvářet jednostranné výhody. A to je sice přirozené z evolučního hlediska – příroda také nefunguje na principu naprosté spolupráce – ale v tomto případě je to mimořádně nebezpečné. Podle mě je to jedna z hlavních výzev pro naši západní společnost: Jak se postavit čínskému modelu, který může krátkodobě nabídnout technologickou i ekonomickou výhodu, ale z dlouhodobého pohledu představuje velké riziko.

Otázka tedy zní: Jak se ochránit v takovém světě, aby krátkodobá výhoda jednoho systému nezničila ten náš, dřív než se stihne přizpůsobit? Protože kdyby se to stalo, mohlo by to vést buď k zániku, nebo alespoň k zásadní přestavbě celé civilizace. A my přece nechceme být obětí této změny.

Věřím ale, že se situace může vyvíjet pozitivně – i díky tomu, že myšlenky Iaina McGilchrista, tedy duchovní a filozofické principy, se šíří i v Číně. A to je dobře. Možná si i Čína nakonec uvědomí, že tvrdá technokracie není jediným správným řešením. To by nám mohlo pomoci – protože bychom se pak mohli soustředit na skutečný růst a transformaci místo toho, abychom se neustále báli konkurenta, který může naši civilizaci zničit.

Karel:

Na závěr bych rád vyjádřil přání, na kterém se, myslím, shodneme. Abychom se jako lidská společnost dokázali otevřít základním myšlenkám svobody, spolupráce a duchovního rozměru života. Pokud se nám podaří transformovat naši ekonomiku tak, aby nebyla příliš omezující, věřím, že další krok naší existence může proběhnout na galaktické úrovni. Máme šanci propojit se s dalšími civilizacemi a obohatit se o jejich zkušenosti. A věřím, že jakmile si uděláme své domácí úkoly tady na Zemi, projdeme tímto porodem lidské civilizace – a pak nás čeká další úroveň, další „hra“ ve fraktálu existence.

Dalibor:

Tak to je velká myšlenka.

Karel:

To by vyřešilo ty motivační záležitosti.

Dalibor:

To by samozřejmě ve velkém smyslu vyřešilo spoustu věcí. A myslím si, že by to předčilo i Elona Muska – ten se sice snaží dostat na Mars, ale my bychom mířili rovnou do galaxie.

Karel:

Přesně tak. Dnes už cestování hyperprostorem není jen fantazie. Fyzika k tomu skutečně postupně směřuje.

Dalibor:

Jasně, s tím naprosto souhlasím. Ale zároveň si myslím, že je důležité začít u každého jednotlivce. Protože svoboda není jen abstraktní pojem – je to i o tom, že každý člověk ji skutečně chce a rozumí tomu, co pro něj znamená. Musí si umět odpovědět, co pro něj představuje svobodná vůle a osobní odpovědnost. To jsou principy, které lidstvo zná už stovky či tisíce let – že za své činy neseme následky, jenom se to neprojevuje okamžitě. Není to tak, že když uděláme něco špatného, systém nás hned „odpojí“. Svět funguje složitěji a s jistým zpožděním. Ve chvíli, kdy si to člověk uvědomí a začne nad těmito věcmi přemýšlet, pochopí, že v některých situacích je zcela v pořádku přemýšlet materialisticky – řešit konkrétní problém, zaměřit se, jako kočka lovící myš, která se nemůže rozptylovat vším kolem.

Ale zároveň ta spirituální složka našeho vědomí musí zůstat přítomná. Stejně jako pravá mozková hemisféra nikdy nespí, i naše vědomí musí zůstat aktivní – ať bdíme, nebo spíme. Protože právě ono nás udržuje živé a v kontaktu se smyslem existence. A z toho pak vyplývá všechno ostatní.

Pokud bychom přijali čistý determinismus a považovali se jen za stroje bez vůle a kauzality, pak bychom vlastně ani žádnou svobodu nezasloužili.

Karel:

Ano, souhlasím. My deterministé nejsme. Věřím, že jsme bytosti s hlubším smyslem existence, než jaký nabízí čistě materialistický pohled na život. A rád bych všem, kdo nás sledují, doporučil knihu Život v době robotů, která mnoho z těchto témat rozvíjí do hloubky. Dalibore, moc ti děkuji za velmi podnětnou a inspirativní diskusi.