Yuval Noah Harari’s Homo Deus schetst een toekomst waarin de mensheid streeft naar onsterfelijkheid, geluk en goddelijkheid. Het is een ambitieus boek, soms briljant in zijn historische analyses, soms frustrerend in zijn voorspellingen. Harari begint ironisch genoeg met de bewering dat voorspellen hoe de wereld eruitziet in de toekomst onzin is – om vervolgens 400 pagina’s aan voorspellingen te wijden. De thematiek van mens, technologie en toekomst kwam ook aan bod in deze VPRO documentaire over mensen, goden en technologie.
Hier mijn aantekeningen en kanttekeningen.
De drie doelen van de moderne mens
Harari stelt dat de moderne mens drie doelen nastreeft: onsterfelijkheid, geluk en goddelijkheid. Dit laatste vereist enige uitleg. Harari bedoelt dat de mens de hele wereld, alle leven, naar zijn hand wil zetten en vormen zoals hij dit wil. De mens heeft zich boven de rest van de wereld gesteld. Belangen van de mens gaan boven de belangen van elk ander wezen.
De portee van dit boek draait om wat er gebeurt als er een intelligentie ontstaat met vergelijkbare of grotere capaciteiten dan de mens. Dan kan het met de mens afgelopen zijn.
Harari illustreert hoe diep onze ambities in de cultuur zitten met een verrassend voorbeeld: het gazon. Het strak bijgewerkte grasveldje dat onze voor- en achtertuinen domineert, is ontstaan als statussymbool. Alleen de rijken konden zich in vroeger tijden een perfect onderhouden gazon permitteren. Nu streeft iedereen ernaar.
Religie breed gedefinieerd
Harari definieert religies opvallend breed. Ook communisme, liberalisme en nazisme ziet hij als religies. Hij legt dit uit aan de hand van het concept intersubjectieve entiteiten – zaken die alleen bestaan in de gedeelde fantasie. De EU, de Wereldbank, geld, naties: ze bestaan alleen omdat we er met zijn allen in geloven. Als we er niet meer in zouden geloven, zouden deze instituten in elkaar storten.
Religie is volgens Harari geloof in morele wetten. Dus ook communisme en liberalisme zijn in die zin religies, al hebben ze geen goden. Religie wil de wereldorde versterken. Een spirituele reis daarentegen is juist loskomen van de wereldorde.
Wetenschap kan de feiten waarop religieuze beweringen zich baseren onderzoeken en relativeren. Zo kan je ethische oordelen tegen feitelijke beweringen afwegen. Maar niet alle ethische disputen kunnen met wetenschappelijke feiten worden beslecht. Als een doel van de mens het streven is naar maximaliseren van menselijk geluk, hoe kun je dan feitelijk beoordelen of je dat doel bereikt? Daarom is volgens Harari altijd een religie nodig voor sturende ethische principes.
In de moderne maatschappij vormen humanisme en wetenschap de fundamenten. Wetenschap geeft macht over oorlog, voedsel, technologie. Religie – of in moderne vorm: humanisme – zorgt voor orde en sociale structuren. Ze werken hand in hand.
Het liberalisme en zijn alternatieven
Marktkapitalisme maakt groei heilig. Het kapitalisme is een succes gebleken – we hebben meer macht dan ooit. De keerzijde is een gebrek aan zingeving. Daarvoor kwam het humanisme op.
Binnen het humanisme zijn verschillende stromingen ontstaan. Het liberalisme stelt wat goed is voor het individu centraal. De vrije wil van het individu is het hoogste goed. Het nationalisme daarentegen streeft naar uniciteit van naties en collectieve identiteit. Het socialisme houdt rekening met de gevoelens van anderen, met als gevolg dat collectivistische instellingen het voor het zeggen hebben. Het evolutionair humanisme tenslotte ziet oorlog als essentieel omdat het de zwakken uitroeit. Dit leidde naar het nazisme.
Succesvolle religies, stelt Harari, zijn religies die de technologische realiteit erkennen en erop anticiperen. In eerste instantie was dit de reden voor het succes van het socialisme. Later raakte het socialisme de relatie met de realiteit kwijt en ging het ten onder. Het liberalisme daarentegen heeft technologie omarmd. Maar dit is ook zijn eigen valkuil, en dat is het belangrijkste beeld dat Harari wil weergeven in dit boek.
De vrije wil als illusie
Harari stelt dat de vrije wil een illusie is. Bewustzijn is een stroom van processen. De wil is een uitkomst, geen stuurmechanisme. Dit is te manipuleren, met transcraniale simulatoren bijvoorbeeld.
Ons zelf bestaat uit twee delen: een ervarende ik en een verhalende ik. De verhalende ik maakt een verhaal van onze werkelijke ervaringen. Dit verhaal is niet noodzakelijk accuraat.
De verhalende mens kan losgelaten worden en overgedragen aan statistische diensten als Google, die ons kunnen sturen op basis van gegevens over ons gedrag, DNA, etc. Zo kan het liberalisme ondergraven worden. Het verhalende zelf kan worden vervangen door een algoritme dat mijn mening beter kent en beter weet wat goed voor mij is.
Dataisme: de nieuwe religie
Harari voorspelt dat mensen hun economische waarde verliezen. Veel vormen van intelligentie worden overgenomen door computers. Taken die patroonherkenning vereisen. Volgens Harari kunnen uiteindelijk alle vormen van intelligentie door computers worden overgenomen. Wat is het nut nog van de mensheid?
Er dreigt een gevaar voor het ontstaan van elites: technologie alleen voor de waardevolle elite, inclusief bijvoorbeeld gezondheidszorg. Hierdoor ontstaat een “geüpgrade” supermens en een massa nutteloze mensen.
Harari identificeert twee nieuwe religies. Het dataisme stelt dat het stokje van de mensheid aan nieuwe entiteiten moet worden overgedragen. Het hoogste goed is vrijheid van informatie. Wat maakt mensen waardevol in dataisme? Ze kunnen bijdragen aan de datastroom. Het techno-humanisme daarentegen stelt dat een geüpgrade mens relevant blijft, maar zich moet blijven upgraden met nanotechnologie, computerinterfaces en genetische modificatie.
Het dilemma van techno-humanisme: hoe mensen upgraden zonder menselijke wil en beleving weg te reduceren? Gevaren zijn het kwijtraken van menselijke eigenschappen als dromen en fantaseren, omdat dit afleidt en inefficiënt is.
De mensheid als dataverwerkend systeem heeft tot doel een nóg efficiënter dataverwerkend systeem te maken. Zodra dat klaar is, is de betekenis van de mens verdwenen.
Waar Harari het mis heeft over AI
Hier kom ik bij mijn voornaamste kritiek op Harari’s betoog. Hij gaat eraan voorbij – en veel mensen weten dat niet – dat de huidige AI en machine learning hype geen fundamenteel nieuwe wetenschap tot basis heeft. Het enige waarop de ontwikkeling nu drijft is rekenkracht.
De leermechanismen zijn gebaseerd op geavanceerde stochastische berekeningen die al in de jaren negentig zijn bedacht. Deze algoritmen hebben nooit grote toepassingen gekend tot op heden omdat de rekenkracht van computers te laag was. Hardware-ontwikkelingen, zoals GPU’s, zorgen ervoor dat deze algoritmen nu wel bruikbaar zijn geworden.
De basis van deze mechanismen is een stochastisch leerproces. Door proberen van uitkomsten leert een algoritme wat de beste uitkomsten zijn. Dit is krachtig, maar men moet zich realiseren dat deze processen dus geen nieuwe algoritmen bedenken. Ze weten bestaande algoritmen dieper door te rekenen, waardoor bepaalde zaken met meer gegevens beter voorspeld kunnen worden.
De uitkomsten zijn waarschijnlijkheden. Door meer data en dieper rekenen kan de waarschijnlijkheid van een antwoord nauwkeuriger worden bepaald. Dat is iets fundamenteel anders dan een algoritme verbeteren, laat staan creëren. Er komen dus door AI en machine learning niet meer slimme algoritmen. Daarvoor is tot op heden nog steeds de mens nodig. En daar is nog geen begin van een alternatief voor in de computerwetenschap. Ik schreef hier eerder over in AI considered not so harmful.
Waar de mens en zijn wetenschap goed in zijn, is het bedenken van regels voor processen: de algoritmen. Het hoogst denkbare is in de natuurkunde een geünificeerde theorie die geldt op grote schaal en ook op kleine schaal – zowel voor astronomie als voor deeltjestheorie. Een algoritme bepaalt niet een waarschijnlijkheid, een algoritme berekent exact een uitkomst. Een fundamenteel verschil.
Overigens, ook algoritmen kunnen zeer onvoorspelbaar gedrag laten zien. De chaostheorie heeft dit laten zien. Een prachtig eenvoudig algoritme vertoont zeer complex gedrag, soms zelfs volkomen chaotisch gedrag. Ook Wolfram heeft hier uitgebreid verslag van gedaan in zijn “A New Kind of Science“.
Wat ontbreekt: doelen
Harari begint met de definitie van drie doelen die de mens nastreeft, en die de drijfveer vormen voor alle technologische ontwikkelingen: onsterfelijkheid, geluk en goddelijkheid. Alle datastromen die op gang zijn gebracht zijn middelen om deze doelen te bereiken.
Het dataisme van Harari stelt dat andere intelligenties deze middelen op een gegeven moment verder zouden kunnen ontwikkelen zonder dat daar voor de mens nog een rol is weggelegd.
Wat in het beeld van Harari echter ontbreekt zijn de doelen die deze intelligenties dan zouden nastreven. Hij definieert vrijheid van informatie als grootste goed, maar waar moet die vrijheid van informatie zich dan naartoe bewegen?
Nog een vraag die Harari niet beantwoordt: Is intelligentie los te koppelen van een bewustzijn? En als een andere niet-menselijke intelligentie een bewustzijn heeft, gaat deze dan niet aan dezelfde uitdagingen ten onder als de mens in het verhaal van Harari?
Bewustzijn en de ziel
Harari’s redenering over bewustzijn is curieus. Hij schrijft: “Het bestaan van de ziel is dus niet in overeenstemming te brengen met de evolutietheorie.” Wat een bijzondere betoogtrant. Ik zie niet in waarom hetzelfde niet zou opgaan voor bewustzijn.
Na de verhandeling die concludeert dat de ziel speculatie is, verdwijnt ook het bewustzijn inderdaad naar de prullenmand. “Het bewustzijn is het biologisch nutteloze nevenproduct van onze hersenen,” schrijft Harari. Het heeft morele waarde. En dat maakt ons juist menselijk.
Wat ons mensen uniek maakt is volgens Harari het vermogen om te kunnen samenwerken in grote groepen. Niet ons bewustzijn. Betekenis ontstaat door een web van verhalen. Betekenis kan langzaam uit elkaar vallen – ontkerkelijking bijvoorbeeld.
Tot slot
Harari’s definitie van een werkelijk bestaande entiteit: als het kan lijden. Bedrijven, geld, naties bestaan alleen in de verbeelding. Het wordt steeds moeilijker het onderscheid te blijven maken tussen wat echt is en wat we verzinnen.
Menselijke verzinsels worden vertaald naar genetische en biologische codes en veranderen zo de objectieve realiteit. Schrift beschrijft en vervormt de werkelijkheid.
Harari sluit af met een observatie die het hele boek samenvat: “Tegenwoordig ben je machtig als je weet wat [welke informatie] je kunt negeren.” In een wereld van oneindige datastromen is selectie macht.
Homo Deus is een fascinerend boek dat belangrijke vragen stelt over onze toekomst. Harari’s historische analyses zijn vaak scherpzinnig. Zijn voorspellingen over AI en dataisme zijn minder sterk, omdat ze voorbijgaan aan fundamentele beperkingen van huidige technologie. Toch blijft de kernvraag die hij stelt relevant: wat gebeurt er met de mensheid als we onze economische en misschien zelfs culturele waarde verliezen?
Homo Deus is de moeite waard voor iedereen die geïnteresseerd is in waar technologie ons naartoe brengt. Harari schrijft helder en toegankelijk. Zijn historische analyses zijn vaak verhelderend. Zijn voorspellingen neem je met een korrel zout, maar ze prikkelen wel tot nadenken. En dat is uiteindelijk waar een goed boek voor dient.
Heb je Homo Deus gelezen? Wat vond jij van Harari’s voorspellingen? Laat je gedachten in een reactie achter.
