Yuval Noah Harari v Praze: Umělá inteligence změní i to, koho milujeme

Máme svobodnou vůli? Otázka, kterou zahájila moderátorka Terezie Tománková rozhovor s Yuvalem Noahem Hararim v pražském Foru Karlín, byla úvodem k debatě o budoucnosti lidstva. Izraelský historik a filozof totiž považuje přesvědčení o vlastní svobodě rozhodování za iluzi a jednu z našich největších slabin. Pokud věříme, že všechna naše rozhodnutí vycházejí výhradně z nás samotných, přestáváme se zajímat o to, co je ve skutečnosti ovlivňuje. 

Právě toho už řadu let využívají algoritmy sociálních sítí. Naučily se upoutat naši pozornost vyvoláváním hněvu, strachu či závisti a postupně získaly značný vliv na to, jak vnímáme svět. „Myslíte si, že sledujete to, co sami chcete. Ve skutečnosti ale sledujete to, co vám ukazují algoritmy,“ upozornil Harari. Paradoxně se přitom nejlépe manipuluje s těmi, kteří jsou přesvědčeni, že žádné manipulaci nepodléhají.

S tím souvisí další znepokojivý jev. Zatímco důvěra v novináře, vědce, univerzity nebo vlády slábne, algoritmům, které nám předkládají informace, věříme často bezvýhradně. „Důvěra nezmizela. Jen se přesunula od lidí k algoritmům.“ A právě tento přesun může podle Harariho zásadně změnit fungování celé společnosti.

Pro své varování před novou podobou světového uspořádání si Harari nemohl přát příznačnější místo než Prahu. Střední Evropa má za sebou staletí habsburské nadvlády, nacistickou okupaci i sovětskou dominanci. Období skutečné nezávislosti byla v jejích moderních dějinách poměrně krátká. A dnes podle něj vstupujeme do další imperiální éry, tentokrát ovládané technologiemi. „Vznikají nová impéria umělé inteligence. V současnosti existují dvě: Spojené státy a Čína,“ prohlásil. Obě mocnosti soustřeďují nejpokročilejší modely i rozhodující část výpočetních kapacit, zatímco ostatní země výrazně zaostávají. Na rozdíl od historických impérií mohou ta technologická soustředit ekonomickou moc na jediném místě. Římané nemohli přestěhovat egyptská obilná pole do Říma a Britové nedokázali přesunout irácká ropná naleziště do Anglie. Data a software však lze spravovat a ovládat odkudkoli.

Ještě závažnější je podle Harariho závislost vojenské a civilní infrastruktury. Technologie řízené umělou inteligencí mohou být na dálku vyřazeny z provozu, a země tak může ztratit kontrolu nad systémy, na nichž závisí její každodenní fungování. „Co zbude z nezávislosti země, pokud veškerá její infrastruktura, vojenská i civilní, závisí na americké nebo čínské umělé inteligenci?“

Pro Českou republiku nastínil tři možné scénáře. Prvním je přijetí závislosti na Spojených státech. „Pokud neuděláte nic, za několik let už nebudete nezávislou zemí. Stanete se vazalem amerického impéria. Ne spojencem, ale vazalem,“ varoval. Druhou možností je vybudování vlastní infrastruktury umělé inteligence, což považuje pro zemi velikosti Česka za ekonomicky nereálné. Třetí cestu představuje společný evropský projekt s odhadovanými náklady kolem 500 miliard eur. Evropa má podle Harariho potřebné vědecké i technologické zázemí, musela by se však odhodlat k mnohem hlubší integraci.

Jedno z nejsilnějších témat večera se týkalo migrace. „Skuteční přistěhovalci, kterých bychom se dnes měli obávat, nejsou lidé. Je to umělá inteligence,“ prohlásil Harari. Zatímco tradiční obavy z migrace souvisejí se ztrátou pracovních míst, kulturními změnami a politickou loajalitou, umělá inteligence podle něj zasáhne všechny tři oblasti současně. „Nepřichází na lodích uprostřed noci bez víz. Vnikají k nám rychlostí světla prostřednictvím našich počítačů, telefonů, bank a vládních systémů.“

A především promění pracovní trh. Nejnáchylnější k nahrazení přitom nemusí být manuální profese, ale zaměstnání založená na zpracování informací. „Pro umělou inteligenci je obtížné nahradit zdravotní sestru. Mnohem jednodušší je nahradit investičního bankéře, nebo dokonce generálního ředitele.“ 

Podobně ohroženi jsou podle něj právníci, účetní, novináři či úředníci. Harari však odmítá přirovnávat nástup AI k předchozím technologickým revolucím. Parní stroj, nůž nebo jaderný reaktor jsou nástroje, o jejichž použití rozhoduje člověk. Umělá inteligence se od nich liší schopností samostatně rozhodovat a vytvářet nová řešení. „Vytváříme entity, které mohou být mnohem inteligentnější než my. A lidstvo nemá žádnou zkušenost ani plán, jak s nimi žít.“

Zatímco dosud algoritmy soupeřily především o naši pozornost, nyní pronikají do mnohem citlivější oblasti. „Boj o naši pozornost se přesouvá k intimitě. A ta je ještě důležitější než pozornost,“ upozornil Harari. Technologické společnosti mají silnou ekonomickou motivaci vyvíjet systémy, které s uživateli navazují hluboké citové vztahy. Chatboti se tak stávají poradci, důvěrníky, přáteli, a dokonce romantickými partnery. 

Zvláštní obavy má Harari o generaci dětí, které už budou považovat soužití s umělou inteligencí za samozřejmost. Sám připomněl, že jeho představy o vztazích utvářeli rodiče, sourozenci, přátelé a také manžel, s nímž žije čtyřiadvacet let. Dnešní děti však mohou získávat své první zkušenosti s blízkostí prostřednictvím AI. „Představte si dítě, které bude trávit více času se svým AI společníkem než s kterýmkoli člověkem. Právě tento vztah se pro něj může stát základním modelem toho, jak mají vztahy vypadat.“ 

První romantickou zkušeností tak může být vztah s umělou inteligencí. Jak ovlivní pozdější schopnost navazovat vztahy se skutečnými lidmi, zatím nikdo neví. „Nacházíme se uprostřed největšího psychologického experimentu v lidských dějinách,“ prohlásil Harari. Vývoj však podle něj stále lze regulovat. Vlády by například mohly zakázat nabízení romantických AI společníků dětem, podobně jako omezují přístup nezletilých k pornografii. Prosazuje také zákaz vydávání umělé inteligence za skutečného člověka. „Práva mají chránit lidi, ne roboty.“

Ani vlastní profesi nepovažuje Harari za bezpečnou. Na otázku, zda umělá inteligence dokáže v budoucnu psát knihy lépe než on, odpověděl překvapivě otevřeně: „V současnosti vím, že dokážu psát lépe než AI. Za pět let? Nevím.“ Shromažďování informací, jejich analýza, hledání souvislostí i vytváření příběhů – žádná z těchto činností podle něj není vůči technologickému pokroku imunní. 

Ještě znepokojivější však považuje možnost, že umělá inteligence začne vytvářet matematické či finanční systémy natolik složité, že jim lidský mozek už nebude schopen porozumět. Použil přitom nečekané přirovnání. Krávy a slepice žijí ve světě ovládaném lidskou ekonomikou, ale o penězích, dluhopisech nebo bankrotech nemají nejmenší ponětí. Přesto právě finanční rozhodnutí často určují jejich osud (farma zbankrotuje a celý chov je utracen). „Tohle můžeme být za deset let my,“ poznamenal Harari. O investicích, zaměstnávání nebo rozdělování zdrojů by tak jednou mohly rozhodovat systémy, jejichž logika nám zůstane nepřístupná. A lidstvo by se ocitlo v podobném postavení jako zvířata, jejichž životy ovládáme, aniž by dokázala pochopit proč.

Po všech varováních před geopolitickými otřesy a technologickou převahou se Harari v závěru rozhovoru vrátil k překvapivě prosté lidské potřebě: času. „Co potřebujeme? Čas,“ řekl. „Lidé jsou biologické bytosti. Potřebujeme spát, trávit čas s rodinou, odpočívat, jezdit na dovolenou. Umělá inteligence nic z toho nepotřebuje.“ AI může nepřetržitě obchodovat, analyzovat informace a rozhodovat. Člověk však takové tempo dlouhodobě nevydrží. 

Neustálé zrychlování podle Harariho už dnes dopadá na média, politiku i finanční svět. Lidé, kteří v těchto oblastech působí, ztrácejí prostor k přemýšlení o důsledcích vlastních rozhodnutí. Zpomalení technologického závodu by přitom vyžadovalo něco, čeho se současnému světu stále více nedostává: vzájemnou důvěru. Harari považuje za zásadní chybu, že lidstvo investuje astronomické částky do vývoje superinteligence, zatímco nedokáže obnovit důvěru mezi lidmi a státy. „Rozumné by bylo nejprve vyřešit problém důvěry a teprve potom společně, pomaleji a bezpečněji vyvíjet superinteligenci. My děláme přesný opak.“

Navzdory všem pochmurným scénářům však Harari odmítá představu, že o budoucnosti už bylo rozhodnuto. To je rétorika úzké skupiny technologických podnikatelů, které nikdo nezvolil a kteří nereprezentují ani zdaleka celou společnost. Rozhodnutí, jejichž důsledky ponesou miliardy lidí, by však neměla zůstávat výhradně v jejich rukou. Právě proto Harari vyzývá k návratu demokratické diskuse o technologickém vývoji, dokud o něm ještě můžeme rozhodovat.