Cesta lidského pokroku vede přes co největší množství správných rozhodnutí co největšího množství lidí. Člověk je vybaven svobodnou vůlí, která mu umožňuje taková rozhodnutí přijímat.

Z existence takové individuální svobodné vůle plyne odpovědnost každého člověka za kvalitu jeho rozhodnutí. To implikuje zájem každého člověka na tom, aby jeho rozhodnutí byla co nejkvalitnější.

Svobodná vůle má nejlepší předpoklady dospívat ke správným rozhodnutím, když je co nejlépe informovaná. Čím více informací má k dispozici, tím lépe se rozhoduje.

Úspěšnost společenství měříme schopností předávat co nejlepší předpoklady ke správným rozhodnutím (znalosti, dovednosti a normy) z generace na generaci.

Společenství, jež dospívá k rozhodování decentralizovaně, má lepší předpoklady k úspěšnosti než společenství, jehož rozhodování je řízeno vertikálně.

Existence soukromí je základním kamenem, o nějž jednotlivec opírá svoji svobodnou vůli ve vztahu k okolnímu světu. K nejdůležitějším projevům existence takového soukromí patří právo na vlastnictví a právo na neveřejnost informací o sobě samém.

Bezpečnost a svoboda jsou do jisté míry vzájemně exkluzivní. Svoboda implikuje jistou míru nebezpečí, stejně jako bezpečnost implikuje jistou míru nesvobody. Ideální je, když se lidské rozhodování neubírá skokově ve prospěch jednoho na úkor druhého; když malý zisk na jedné misce vah neznamenal neúměrně razantní propad na misce druhé.

Tyto teze by neměly být kontroverzní. Jsou generacemi prověřené; vycházejí z osvícenských ideálů, jež formují intelektuální život Západu od počátku 17. století a v praxi vládnou zhruba 200 let. Jsou myšlenkovým základem demokracie a tržní ekonomiky; John Locke a Adam Smith si v něm podávají ruku s Charlesem Darwinem i Ježíšem Kristem. I oba zvrhlé režimy 20. století, nacismus a komunismus, jsou jen nepovedenými variacemi na osvícenská témata.

Tak to platilo ještě před, bratru, 25 lety. Technologický pokrok, jejž jsme na sebe od té doby s nadšením seslali, však většinu těchto tezí staví úplně na hlavu, nebo alespoň důkladně zpochybňuje. A to jsme teprve na samém začátku.

Vezměme to popořádku. Svobodná vůle jednotlivce vždycky byla filozofickou, právní či ekonomickou fikcí. Jen tehdy je člověk svobodný, když si volí svá vlastní dilemata; víme, že tomu tak mnohdy nebývá. Je to však fikce i tak užitečná, protože na ní například stojí naše představy o odpovědnosti, vině i zásluhách, od nichž se zase odvíjejí pravidla našich psaných i nepsaných norem – etických, právních, ekonomických…

Algoritmus to ví lépe

To však platí pouze do chvíle, než narazíte na algoritmus, který vás zná lépe než vlastní matka. Dokáže vám podstrčit věci, které vás emocionálně rozpálí. To může znamenat jen to, že si koupíte boty, které vlastně nepotřebujete. Nebo že na dané facebookové stránce zůstanete o něco déle a Mark Zuckerberg bude moci prodat více vaší pozornosti inzerentům. Nebo vás to může postrčit k tomu, že si nasadíte na hlavu kravské rohy a půjdete vysvětlit lidem na Capitol Hillu, že Donald Trump vyhrál volby. Nebo cokoli podobně nesmyslně zhoubného.

Inu, což, můžete si teď říct. Reklama a přesvědčování všelikého druhu existovaly i před Facebookem, tak proč kolem toho teď dělat takový cirkus? Částečná odpověď je skryta v detailu. Například reklamní slogan československých bolševiků „Za socialistickou železnici“ umístěný na kterékoli rozpadající se zdi pražského Starého Města naložil svou dávku kretenismu všem svým čtenářům stejně a ve stejných kulisách. Oněch čtenářů zaprvé nebylo mnoho a zadruhé každý viděl, že si kdosi na ÚV udělal čárku k plnění osvětového boje v ideologické oblasti, v níž, jak známo, nebylo míru.

Pokud vám však podobně absurdní sdělení naloží do vašich facebokoových zpráv lidé Jevgenije Prigožina, Putinova člověka pro špinavou práci, nepoznáte to tak snadno, protože pan Zuckerberg a jeho algoritmus se postarali o to, aby tomu odpovídal i kontext informací ostatních, které dostáváte. Podstatné na tom je, že onen kontext je jiný, než jaký má k dispozici váš soused, kolega i milenka. Nesdílíme-li s nimi stejnou realitu, jsou naše reakce na ni pochopitelně odlišné; a kdo ovládá, jakou realitu vidíme, ovládá do značné míry i naše činy. Schopnost šít realitu podle uvážení každému člověku na míru je digitální novum. Jedním z jeho důsledků je postupující společenská – kulturní i politická – polarizace, jež již byla na těchto stránkách mnohokrát popsána.

Kudy do Pardubic?

To je Facebook, který se vyostřováním lidských emocí živí a v posledních letech na to začal doplácet – zprvu reputací, poté i (částečně) komerčně. Vedle něj tu však stojí i méně konfliktní Google, jenž je vinen prakticky týmž. Jeho ambicí je vědět lépe než vy, co hledáte; když tedy do jeho vyhledávače zadáte „nejhorší blb“, objeví se vám buď jméno Joea Bidena, nebo Donalda Trumpa, podle toho, co o vás algoritmus Googlu ví. Příklad je fiktivní, ale ilustrativní. (Chtělo by se říci, že v tomto smyslu byl prvním Googlem světa Josif Stalin, který nechal vydávat pro Vladimira Lenina na sklonku jeho života zvláštní noviny. Ty lakovaly vývoj věcí na růžovo, Lenin byl spokojen a Stalin rostl.)

Tím se řeč stáčí na tezi o větším množství informací, jež má vést k lepší informovanosti recipientově, a tím pádem ke zkvalitnění jeho rozhodování. S tímto efektem jsme dobře seznámeni. Pokud zabloudím na cyklistickém výletě, mohu si rychle najít, že mám na nejbližší vlakové spojení jet do Pardubic, že je to po silnici odsud doleva a že to musím stihnout do půl šesté. Až sem je online svět k nezaplacení. Když se však z téhož zdroje potřebuji dozvědět, jak je nejlepší bránit se proti nákaze covidem, pomáhej mi v orientaci pánbůh: najdu mnoho vzájemně si protiřečících polopravd, v nichž se lze vyznat pouze s profesionální průpravou a dávkou štěstí navrch.

To platí i v případě, že byste chtěli rozklíčovat, co pravda je a co pravda není. Existuje však slušná pravděpodobnost, že to ani nebudete chtít vědět, protože vás k tomu nic nenutí. Jsme svědky paradoxního jevu, že v době informačního přebytku (či „zaplavení prostoru sračkami“, jak to půvabně nazývá mediální guru Donalda Trumpa Steve Bannon) bychom potřebovali plošně zdokonalovat kritické myšlení. Ve jménu spotřebitelského pohodlí jsme však obklopeni nástroji sestrojenými právě za účelem zbavit nás nutnosti kriticky (a téměř jakkoli jinak) myslet. A mnohdy nám v tom aktivně brání.

Optimista Adams

Pravdu dnes plus minus dvěma miliardám lidí definuje nikoli to, co vám řekne zdroj, jemuž věříte, nýbrž to, co se objeví na začátku řady výsledků vyhledávání v Googlu (jestli už se nadechujete k námitce, Google sám zdrojem není). To se děje na základě algoritmu, jejž neznáme, a i kdybychom jej znali, drtivé většině z nás to nebude nic platné. Co je správné, určuje namísto konfrontace s vlastní zkušeností konsenzus ve vaší podskupince uživatelů Facebooku. Nač za takových okolností zkoumat, hloubat, hledat pravdu o věčnosti?

Druhý prezident Spojených států John Adams kdysi řekl: „Musím studovat politiku a válku, aby moji synové mohli svobodně studovat matematiku a filozofii. Moji synové by měli studovat matematiku a filozofii, zeměpis, přírodopis, námořní architekturu, mořeplavbu, obchod a zemědělství, aby dali svým dětem právo studovat malířství, poezii, hudbu, architekturu, sochařství, tapiserii a porcelán.“

Byl to velký optimista, tenhle Adams. Nejspíš by se divil, kdyby viděl, jak o 200 let později, v době blahobytu, je potřeba studovat vojenství stále stejně naléhavá, zato lidská touha studovat umění mizí. V letech 1999 až 2012 přišli Američané o 41 procent hudebníků (definovaných jako lidé, kteří se živí nebo hodlají živit provozováním hudby). Tapiserie a porcelán na tom nejspíš nebudou o mnoho lépe; v letech 2015–2021 zaznamenaly tvůrčí obory na amerických univerzitách průměrný roční pokles zájmu o 6,5 procenta. Adamsův ušlechtilý omyl poté zopakovala řada mocných mužů různého kalibru, když počítali do budoucna s člověkem takovým, jakým by podle jejich soudu měl být, a podcenili jeho přizpůsobivost podmínkám. Je-li toho třeba, dokáže člověk rychle věci skvělé a úžasné; není-li však toho třeba, dokáže zvlčit ještě rychleji.

Slunce, nebo hvězdičky?

Ale budiž. Až sem jsou námitky vůči vlivu technologií na svět neseny v odstínech šedi. Dál to tak milosrdné nebude. Co vás při pohledu na následující obrázek napadne jako první? Hvězdička, nebo slunce? (Odpověď „obojí“ neplatí.)

Nejspíš řeknete slunce. Alespoň pokud má pravdu studie mezinárodní Alpha Generation Lab publikovaná na serveru studyfinds.org. Když však tentýž obrázek ukážete příslušníkovi generace alfa, tedy dítěti maximálně dvanáctiletému, nejspíš se doslechnete odpověď opačnou, o hvězdičkách. Vidí napřed detail, až poté celek. Studie to přičítá snížené schopnosti abstraktního myšlení – zde v podobě schopnosti vidět nejen stromy, nýbrž také les – u lidí vystavených působení digitálních displejů denně de facto od narození. „Nejenže to mění způsob nahlížení na jejich okolí, nýbrž to také ovlivňuje jejich kognitivní, emocionální a sociální vývoj,“ píše server.

A to všechno je jen zahřívací kolo, jen předstupeň onoho nejděsivějšího poznatku, který jsme o digitálních technologiích museli chtě nechtě vzít na vědomí. Je to radikální převrácení způsobu, jímž jsme dosud uvažovali o řízení společenských systémů. „Máme sklon uvažovat o konfliktu mezi demokracií a diktaturou jako o konfliktu mezi dvěma různými etickými systémy, ale ve skutečnosti je to konflikt mezi dvěma různými systémy zpracování dat. Demokracie rozděluje zpracování informací a rozhodovací moc mezi mnoho lidí a institucí, zatímco diktatura soustřeďuje informace a moc na jednom místě,“ píše historik a filozof Yuval Noah Harari z Hebrejské univerzity v Jeruzalémě v knize 21 lekcí pro 21. století.

Vojtěch Velický

„Vzhledem k technologiím dostupným ve 20. století bylo neefektivní soustředit příliš mnoho informací a moci na jedno místo. Nikdo nebyl schopen dostatečně rychle zpracovat všechny dostupné informace a učinit správná rozhodnutí. To je jeden z důvodů, proč se Sovětský svaz rozhodoval mnohem hůře než Spojené státy a proč sovětská ekonomika za americkou ekonomikou výrazně zaostávala,“ cituje Harariho list The Atlantic.

Jestliže tedy je horizontálně řízený systém najednou méně výkonný než systém řízený centrálně, jsme s celou svou demokracií, volným trhem a láskou k bližnímu v háji. To není šedá akademická teorie. Je to syrová, krvavá realita ekonomická i politická. Na těchto stránkách mnohokrát zaznělo, že internetová ekonomika produkuje málo vítězů, kteří zato berou vše. Osmdesát procent trhu s online reklamou v USA si dělí Facebook a Google. Amazon ovládá téměř čtyřicet procent veškerého internetového obchodu (loni v hodnotě třináct bilionů dolarů). A tak dále – ale to je pořád jen ten nejnevinnější výsledek.

It’s the data, stupid

Uvedené firmy jsou úspěšné proto, že mají k dispozici obrovské množství dat o lidech, kteří jejich služby využívají – ať už k vyhledávání informací, ke koupi zboží, nebo ke sdílení slaboduchých videoklipů. Najednou zjišťujeme, že jestliže v minulosti byla politika soubojem o nadvládu nad územím a později nad stroji, dnes se těžiště onoho souboje přesouvá směrem k digitálním datům. Kdo jich bude vlastnit obrovské, běžnou myslí nepředstavitelné kvantum, bude vládnout.

To má za následek razantní proměnu všech v úvodu vyjmenovaných kategorií poznání o sobě samých, jehož jsme od dob Galileových či nejpozději Napoleonových dosáhli. Nečiní nám potíž pochopit analogové soukromé vlastnictví: ačkoli nám patří ojetý Volkswagen Golf, kdežto sousedovi nablýskaný VW Touareg, je nám zřejmý smysl, původ i charakter takového vlastnictví. Ale co informace, že si potrpíme na lískové oříšky, narodili jsme se v Praze, na účtu máme neustále částku nebezpečně se blížící nule a sledujeme fotbalovou Ligu mistrů? Mají tyto informace nějakou hodnotu? A pokud mají, jakým způsobem nám patří? Kam až jsme ochotni zajít ve snaze, aby nepatřily nikomu jinému? Ty otázky znějí našemu uchu nesmyslně – a přesto absence jasných odpovědí na ně již dnes rozhoduje o tom, co zítra uvidíme na svých displejích, tedy do značné míry o tom, jak bude vypadat náš svět.

Je-li takto nevyhovující naše povědomí o soukromém vlastnictví, sám pojem soukromí (ve smyslu práva na neveřejnost informací o sobě samých) jako by ztratil význam. Dobrovolně tomu sami nahráváme: nosíme Apple Watch, které do éteru vysílají podrobnosti našeho zdravotního stavu; naše telefony přesně udávají dnem i nocí naši polohu; v obavě před terorismem jsme se smířili s existencí špiclovacích kamer (podle deníku The New York Times má jen na newyorském Manhattanu tamní policie nainstalováno 35 tisíc kamer vlastních plus má přístup k nejméně dvaceti tisícům kamer soukromých).

Mučení netřeba

Koncentrace těchto dat v jakýchkoli rukou má za následek omezení svobody, aniž by to přinášelo nějaká významná pozitiva. Všudypřítomnost sledovací techniky de facto ruší presumpci neviny. Každý má co skrývat, a je tudíž tak či onak vydíratelný. Ještě před čtvrtstoletím jsme čítali citace z Orwellova románu 1984 jako odstrašující příklad toho, kam bychom neradi dospěli. Dnes jsme nepoměrně dál než Winston Smith: naše životy jsou profízlovány nejméně stejně dobře jako ten jeho, ale na rozdíl od něho jsme ani nepotřebovali mučení, abychom se naučili Velkého bratra milovat.

A to mluvíme pouze o statu quo. Umělá inteligence má potenciál to všechno ještě podstatně zdokonalit. Zjišťujeme, že bezprostřední nebezpečí nespočívá ve spiknutí strojů, které najednou získají vlastní vědomí a vůli. Spočívá v tom, že se ony stroje nikdy nevzepřou vůli těch, kteří je mají v moci.

Již dnes důvěřujeme Netflixu a doporučení jeho relativně primitivní AI při rozhodování, jaký film chceme sledovat. Proč bychom neměli stejně důvěřovat doporučení, kam se máme hlásit na školu, jaké povolání si máme zvolit a koho pojmout za životního partnera? Dokáže-li AI spolehlivě předpovědět délku našeho života, nemoci, jimiž budeme trpět, a přestupky, jichž se budeme dopouštět, pak je mimo hru nejen abstrakce naší svobodné vůle, nýbrž i zcela konkrétní prvky našich životů, přijímacím řízením do zaměstnání počínaje a zdravotním pojištěním konče. Čínský systém sociálního kreditu takto pracuje zcela otevřeně již dnes; západní systém zjišťování bonity se mu blíží.

Tu cestu jsme již nastoupili – a sejít z ní bude každým dnem obtížnější. Jednak proto, že software každým dnem rozhoduje o větším podílu našich životů. Také proto, že úměrně s tím klesá naše připravenost k myšlenkové samostatnosti. A konečně proto, že mocným onoho právě se rodícího světa vertikálně řízených masových dat bude velmi užitečné nová pravidla nepustit z ruky.