Homo Deus recensie: Harari’s visie op AI en dataisme

Yuval Noah Harari’s Homo Deus schetst een toekomst waarin de mensheid streeft naar onsterfelijkheid, geluk en goddelijkheid. Het is een ambitieus boek, soms briljant in zijn historische analyses, soms frustrerend in zijn voorspellingen. Harari begint ironisch genoeg met de bewering dat voorspellen hoe de wereld eruitziet in de toekomst onzin is – om vervolgens 400 pagina’s aan voorspellingen te wijden. De thematiek van mens, technologie en toekomst kwam ook aan bod in deze VPRO documentaire over mensen, goden en technologie.

Hier mijn aantekeningen en kanttekeningen.

De drie doelen van de moderne mens

Harari stelt dat de moderne mens drie doelen nastreeft: onsterfelijkheid, geluk en goddelijkheid. Dit laatste vereist enige uitleg. Harari bedoelt dat de mens de hele wereld, alle leven, naar zijn hand wil zetten en vormen zoals hij dit wil. De mens heeft zich boven de rest van de wereld gesteld. Belangen van de mens gaan boven de belangen van elk ander wezen.

De portee van dit boek draait om wat er gebeurt als er een intelligentie ontstaat met vergelijkbare of grotere capaciteiten dan de mens. Dan kan het met de mens afgelopen zijn.

Harari illustreert hoe diep onze ambities in de cultuur zitten met een verrassend voorbeeld: het gazon. Het strak bijgewerkte grasveldje dat onze voor- en achtertuinen domineert, is ontstaan als statussymbool. Alleen de rijken konden zich in vroeger tijden een perfect onderhouden gazon permitteren. Nu streeft iedereen ernaar.

Religie breed gedefinieerd

Harari definieert religies opvallend breed. Ook communisme, liberalisme en nazisme ziet hij als religies. Hij legt dit uit aan de hand van het concept intersubjectieve entiteiten – zaken die alleen bestaan in de gedeelde fantasie. De EU, de Wereldbank, geld, naties: ze bestaan alleen omdat we er met zijn allen in geloven. Als we er niet meer in zouden geloven, zouden deze instituten in elkaar storten.

Religie is volgens Harari geloof in morele wetten. Dus ook communisme en liberalisme zijn in die zin religies, al hebben ze geen goden. Religie wil de wereldorde versterken. Een spirituele reis daarentegen is juist loskomen van de wereldorde.

Wetenschap kan de feiten waarop religieuze beweringen zich baseren onderzoeken en relativeren. Zo kan je ethische oordelen tegen feitelijke beweringen afwegen. Maar niet alle ethische disputen kunnen met wetenschappelijke feiten worden beslecht. Als een doel van de mens het streven is naar maximaliseren van menselijk geluk, hoe kun je dan feitelijk beoordelen of je dat doel bereikt? Daarom is volgens Harari altijd een religie nodig voor sturende ethische principes.

In de moderne maatschappij vormen humanisme en wetenschap de fundamenten. Wetenschap geeft macht over oorlog, voedsel, technologie. Religie – of in moderne vorm: humanisme – zorgt voor orde en sociale structuren. Ze werken hand in hand.

Het liberalisme en zijn alternatieven

Marktkapitalisme maakt groei heilig. Het kapitalisme is een succes gebleken – we hebben meer macht dan ooit. De keerzijde is een gebrek aan zingeving. Daarvoor kwam het humanisme op.

Binnen het humanisme zijn verschillende stromingen ontstaan. Het liberalisme stelt wat goed is voor het individu centraal. De vrije wil van het individu is het hoogste goed. Het nationalisme daarentegen streeft naar uniciteit van naties en collectieve identiteit. Het socialisme houdt rekening met de gevoelens van anderen, met als gevolg dat collectivistische instellingen het voor het zeggen hebben. Het evolutionair humanisme tenslotte ziet oorlog als essentieel omdat het de zwakken uitroeit. Dit leidde naar het nazisme.

Succesvolle religies, stelt Harari, zijn religies die de technologische realiteit erkennen en erop anticiperen. In eerste instantie was dit de reden voor het succes van het socialisme. Later raakte het socialisme de relatie met de realiteit kwijt en ging het ten onder. Het liberalisme daarentegen heeft technologie omarmd. Maar dit is ook zijn eigen valkuil, en dat is het belangrijkste beeld dat Harari wil weergeven in dit boek.

De vrije wil als illusie

Harari stelt dat de vrije wil een illusie is. Bewustzijn is een stroom van processen. De wil is een uitkomst, geen stuurmechanisme. Dit is te manipuleren, met transcraniale simulatoren bijvoorbeeld.

Ons zelf bestaat uit twee delen: een ervarende ik en een verhalende ik. De verhalende ik maakt een verhaal van onze werkelijke ervaringen. Dit verhaal is niet noodzakelijk accuraat.

De verhalende mens kan losgelaten worden en overgedragen aan statistische diensten als Google, die ons kunnen sturen op basis van gegevens over ons gedrag, DNA, etc. Zo kan het liberalisme ondergraven worden. Het verhalende zelf kan worden vervangen door een algoritme dat mijn mening beter kent en beter weet wat goed voor mij is.

Dataisme: de nieuwe religie

Harari voorspelt dat mensen hun economische waarde verliezen. Veel vormen van intelligentie worden overgenomen door computers. Taken die patroonherkenning vereisen. Volgens Harari kunnen uiteindelijk alle vormen van intelligentie door computers worden overgenomen. Wat is het nut nog van de mensheid?

Er dreigt een gevaar voor het ontstaan van elites: technologie alleen voor de waardevolle elite, inclusief bijvoorbeeld gezondheidszorg. Hierdoor ontstaat een “geüpgrade” supermens en een massa nutteloze mensen.

Harari identificeert twee nieuwe religies. Het dataisme stelt dat het stokje van de mensheid aan nieuwe entiteiten moet worden overgedragen. Het hoogste goed is vrijheid van informatie. Wat maakt mensen waardevol in dataisme? Ze kunnen bijdragen aan de datastroom. Het techno-humanisme daarentegen stelt dat een geüpgrade mens relevant blijft, maar zich moet blijven upgraden met nanotechnologie, computerinterfaces en genetische modificatie.

Het dilemma van techno-humanisme: hoe mensen upgraden zonder menselijke wil en beleving weg te reduceren? Gevaren zijn het kwijtraken van menselijke eigenschappen als dromen en fantaseren, omdat dit afleidt en inefficiënt is.

De mensheid als dataverwerkend systeem heeft tot doel een nóg efficiënter dataverwerkend systeem te maken. Zodra dat klaar is, is de betekenis van de mens verdwenen.

Waar Harari het mis heeft over AI

Hier kom ik bij mijn voornaamste kritiek op Harari’s betoog. Hij gaat eraan voorbij – en veel mensen weten dat niet – dat de huidige AI en machine learning hype geen fundamenteel nieuwe wetenschap tot basis heeft. Het enige waarop de ontwikkeling nu drijft is rekenkracht.

De leermechanismen zijn gebaseerd op geavanceerde stochastische berekeningen die al in de jaren negentig zijn bedacht. Deze algoritmen hebben nooit grote toepassingen gekend tot op heden omdat de rekenkracht van computers te laag was. Hardware-ontwikkelingen, zoals GPU’s, zorgen ervoor dat deze algoritmen nu wel bruikbaar zijn geworden.

De basis van deze mechanismen is een stochastisch leerproces. Door proberen van uitkomsten leert een algoritme wat de beste uitkomsten zijn. Dit is krachtig, maar men moet zich realiseren dat deze processen dus geen nieuwe algoritmen bedenken. Ze weten bestaande algoritmen dieper door te rekenen, waardoor bepaalde zaken met meer gegevens beter voorspeld kunnen worden.

De uitkomsten zijn waarschijnlijkheden. Door meer data en dieper rekenen kan de waarschijnlijkheid van een antwoord nauwkeuriger worden bepaald. Dat is iets fundamenteel anders dan een algoritme verbeteren, laat staan creëren. Er komen dus door AI en machine learning niet meer slimme algoritmen. Daarvoor is tot op heden nog steeds de mens nodig. En daar is nog geen begin van een alternatief voor in de computerwetenschap. Ik schreef hier eerder over in AI considered not so harmful.

Waar de mens en zijn wetenschap goed in zijn, is het bedenken van regels voor processen: de algoritmen. Het hoogst denkbare is in de natuurkunde een geünificeerde theorie die geldt op grote schaal en ook op kleine schaal – zowel voor astronomie als voor deeltjestheorie. Een algoritme bepaalt niet een waarschijnlijkheid, een algoritme berekent exact een uitkomst. Een fundamenteel verschil.

Overigens, ook algoritmen kunnen zeer onvoorspelbaar gedrag laten zien. De chaostheorie heeft dit laten zien. Een prachtig eenvoudig algoritme vertoont zeer complex gedrag, soms zelfs volkomen chaotisch gedrag. Ook Wolfram heeft hier uitgebreid verslag van gedaan in zijn “A New Kind of Science“.

Wat ontbreekt: doelen

Harari begint met de definitie van drie doelen die de mens nastreeft, en die de drijfveer vormen voor alle technologische ontwikkelingen: onsterfelijkheid, geluk en goddelijkheid. Alle datastromen die op gang zijn gebracht zijn middelen om deze doelen te bereiken.

Het dataisme van Harari stelt dat andere intelligenties deze middelen op een gegeven moment verder zouden kunnen ontwikkelen zonder dat daar voor de mens nog een rol is weggelegd.

Wat in het beeld van Harari echter ontbreekt zijn de doelen die deze intelligenties dan zouden nastreven. Hij definieert vrijheid van informatie als grootste goed, maar waar moet die vrijheid van informatie zich dan naartoe bewegen?

Nog een vraag die Harari niet beantwoordt: Is intelligentie los te koppelen van een bewustzijn? En als een andere niet-menselijke intelligentie een bewustzijn heeft, gaat deze dan niet aan dezelfde uitdagingen ten onder als de mens in het verhaal van Harari?

Bewustzijn en de ziel

Harari’s redenering over bewustzijn is curieus. Hij schrijft: “Het bestaan van de ziel is dus niet in overeenstemming te brengen met de evolutietheorie.” Wat een bijzondere betoogtrant. Ik zie niet in waarom hetzelfde niet zou opgaan voor bewustzijn.

Na de verhandeling die concludeert dat de ziel speculatie is, verdwijnt ook het bewustzijn inderdaad naar de prullenmand. “Het bewustzijn is het biologisch nutteloze nevenproduct van onze hersenen,” schrijft Harari. Het heeft morele waarde. En dat maakt ons juist menselijk.

Wat ons mensen uniek maakt is volgens Harari het vermogen om te kunnen samenwerken in grote groepen. Niet ons bewustzijn. Betekenis ontstaat door een web van verhalen. Betekenis kan langzaam uit elkaar vallen – ontkerkelijking bijvoorbeeld.

Tot slot

Harari’s definitie van een werkelijk bestaande entiteit: als het kan lijden. Bedrijven, geld, naties bestaan alleen in de verbeelding. Het wordt steeds moeilijker het onderscheid te blijven maken tussen wat echt is en wat we verzinnen.

Menselijke verzinsels worden vertaald naar genetische en biologische codes en veranderen zo de objectieve realiteit. Schrift beschrijft en vervormt de werkelijkheid.

Harari sluit af met een observatie die het hele boek samenvat: “Tegenwoordig ben je machtig als je weet wat [welke informatie] je kunt negeren.” In een wereld van oneindige datastromen is selectie macht.

Homo Deus is een fascinerend boek dat belangrijke vragen stelt over onze toekomst. Harari’s historische analyses zijn vaak scherpzinnig. Zijn voorspellingen over AI en dataisme zijn minder sterk, omdat ze voorbijgaan aan fundamentele beperkingen van huidige technologie. Toch blijft de kernvraag die hij stelt relevant: wat gebeurt er met de mensheid als we onze economische en misschien zelfs culturele waarde verliezen?

Homo Deus is de moeite waard voor iedereen die geïnteresseerd is in waar technologie ons naartoe brengt. Harari schrijft helder en toegankelijk. Zijn historische analyses zijn vaak verhelderend. Zijn voorspellingen neem je met een korrel zout, maar ze prikkelen wel tot nadenken. En dat is uiteindelijk waar een goed boek voor dient.

Heb je Homo Deus gelezen? Wat vond jij van Harari’s voorspellingen? Laat je gedachten in een reactie achter.

Machine, Platform, Crowd by authors by McAfee and Brynjolfsson

Machine, platform, crowd

In Machine, Platform, Crowd, authors McAfee and Brynjolfsson describe three major developments that led to the enormous economic change we have seen over the past decades.The rapid developments in technology (machine) led to possibilities of the forming of powerful new layers that bring consumers and producers closer together (platforms), and how these platform thrive through direct involvement of the consumer in the production and dissemination of the product and services provided through the platforms.

How can companies like Uber, Facebook, Amazon have become so big and influential, considering they are only thin layers? These platforms do not produce goods, and have no or little assets (at least at the outset).

In the book many aspects around these developments are brought together. The authors contrast the old world and the new world: machines versus human intelligence, platform versus product, crowd versus core (core meaning something driven by an organisational structure).

McAfee and Brynjolfsson
Picture by New America

Machines have developed that can crunch the new large volumes of data that the Internet era has enabled. Here we see that technological developments create their own new opportunities. The authors go into why these things are so hard to predict, and have no good answer. New technology enables things we can not foresee. We can dream, but technology continues to surprise us.

The developments of AI have been an important factor. But why computers are better than humans at making (some) decisions.The book goes back to the literature of Kahneman and others. Kahneman has learned us that our decision making is highly subjective and prone to errors. Fast decision making is done by our System 1 thinking, which is impulsive and subjective. Our System 2 is more thoughtful and slow, but tends not to correct System 1 decisions but rather justify those decisions.Our biases make us bad decision makers. And computers can ignore all the subjective crap that clutters our decision making. And of course they can very fast go through last piles of data.

Afbeeldingsresultaat voor kahneman
Kahneman

Though McAfee also shows that if the AI is fed with “biased” data, the computer will also make biased decisions. But, the computer can be easily corrected, while for humans that is a lot more difficult.

In the end, the computer is better at doing specific things. (The worst are Hippo based decisions: Highest Paid Person’s Personal View. A problem common in organisations with narcissistic leaders.) AI is increasingly efficient at making decisions for “narrow” problems.Scientists however indicate that Artificial General Intelligence (AGI) – is a stage we now even getting close to.

The authors do not go into the hypes that are created around AGI. People like Harari in Homo Deus write extensive and interesting perspectives on what the world may become when AI takes over. But these are, I believe, not based on realistic views on the state on AI, or even on what AI might brings us in the future.McAfee and Brynjolfsson do not elaborate on this humbling perspective. They even ignore it later on, where the describe their believe that when given enough data, engineering knowledge, and requirements, computers will be able figure out novel ways to do things. This statement remains unsubstantiated and even contradicts their earlier statements about AGI from an MIT scientist.It is also contradictory to the Polanyi paradox: we do not know what we know. So that engineering knowledge may very well remain buried in human brain mass.Finally, to end this tangent, the claim itself seems somewhat circular. If I rephrase the statement: if we know what to do, how to do it, and have the right inputs, we can program a computer to do it. Well, of course, I would say, because that is as much as the definition of automation.

So how come we see this rise of AI technology now? McAfee and Brynjolfsson summarize:

  • The availability of computing power. The power of CPUs and specially GPUs has reached a level that enabled and boosted the usability of neural network performance.
  • The drastically decreased cost of computing.
  • The availability of large amounts of data.

When will robots be used and when humans? Robots for Dull, Dirty, Dangerous work (DDD) and/or where Dear/Expensive resources are used.But coordination, teamwork, problem solving and very fine hand/foot/senses work is needed. These are all things computer and robot are not good at.Creative and social jobs are safe from robotisation.

Platforms have appeared that killed or diminished existing often large industries. Where products become digital, the fact that these are free (zero cost to copy) and perfect (no loss off quality when copying), economies have radically changed.Two ways are left to make money with these products:

  • Unbundle products – like iTunes sells songs instead of albums.
  • Rebundle products – like Spotify creates subscriptions instead of selling albums/songs.

Complements increase the sales of goods. Like apps increase the sales of iPhones. Free products can be bundled to make money out of them:

  • Freemium products
  • Put ads in free products
  • Add customer service (open source products)
  • Provide a public service (for public organisations)
  • Pairing with products

For platforms, curation of products and reputation systems become crucial to filter and make products find-able to clients.Characteristics of successful platforms:

  • Early – attract a crowd before others do
  • Use economy of complementary products
  • Open up the platforms
  • Guarantee experience through curation/reputation like mechanisms.

Online-to-Offline platforms have emerged. these bring together products and consumers for a market that optimises asset utilisation. When their is a 2-sided market, demand want low prices from multiple suppliers, and supplier want their products in as many consumers as possible.Both sides want economies of scale.Is a product in undifferentiated, prices will come down. Such products are vulnerable for platform destruction.What is less vulnerable: complex services, markets with few participants.

How to make successfully use of crowd-sourced information?

  • Make information findable and organise it
  • Curate bad content

Crowd sourced platforms can only be successful when

  • They are open
  • Everyone can contribute (no credentials needed)
  • Contributions can be verified and reversed (prevent destruction of the asset)
  • They are self organising (distributed trust)
  • They have a geeky leadership

The volume of the crowd knows more than a few experts.Crowd beats core.The core nowadays uses the crowd:

  • To get things done (upwork)
  • For finding a resource
  • For market research
  • To acquire new customers
  • For acquiring innovation

Distrust in organisations leads to a wish for Decentralization of Everything. But “The Nature of the Firm” describes why organisations exist and why their is always a place for them.

The cost of linking parts of the supply chain in more expensive when it needs to be done with different players all the time.In an organisation that handles larger parts of the supply chain, cheap communication drives down costs.More importantly contracts are never complete.

There is always a thing called Residual Rights of Control over assets. The concept is not further elaborated. But in a distributed model the ownership of the produced assets poses problem: who owns the right over the assets.The problem seems incomplete and drives construction of firms.

Firms drive group work and management:

  • To coordinate more complex work: transmission belts for coordination and organisational problem solving
  • Human/social skills
  • People want to work together
  • Best way to get things done

They end with the question: what will we do with all that technology – that is the question we should answer, not: what will technology do with us.

Apply technology to solve real-word problems – in a combination of technology, humans, and other resources.

Sapiens – Harari

Harari beschrijft in Sapiens hoe de mens (“Sapiens”) de laatste duizenden jaren tot het meest dominante wezen op aarde is uitgegroeid. De zoogdier Sapiens ontwikkelde cognitieve vaardigheden en daarmee communicatieve en technologische hulpmiddelen waarmee het alle andere dieren kon overheersen.

De menselijke samenleving groeit uit van een lokale tot de mondiale die we nu kennen.
Een belangrijk kenmerk van de mens is dat ze gedreven wordt door religie: de intersectie van menselijke waarden en normen en het geloof in een bovenmenselijke orde. Ook kapitalisme, humanisme en communisme zijn in die zin religies (we zien dit ook in Hariri’s latere boek Homo Deus).

Ook een veelal neutraal te boek staande instelling als de wetenschap wordt gerechtvaardigd en gedreven door een religie of ideologie, betoogt Hariri. De prioriteiten die wetenschappelijke instellingen sturen zijn religieus bepaald. In onze maatschappij is dat het liberaal humanisme, en kapitalisme.

Hariri beschrijft het kapitalisme en stelt de vraag of de basis van het kapitalisme, een altijd voortdurende groei, vol te houden is. Ook het doel van het kapitalisme: het toenemend welzijn, wordt door Hariri bevraagd: Worden we gelukkiger van meer spullen? Hariri betwijfelt dit.

De wetenschap raast door en de mens modificeert zichzelf. Ultimo lijken alle zaken die mensen ongelukkig maken te kunnen worden weggenomen. Als dat is bereikt, wat is dan het doel van de mens.

Wellicht is het Boeddhisme de oplossing: geluk is niet te vinden in externe successen, maar ook niet in het najagen van prettige gevoelens. Deze kunnen observeren en voorbij laten gaan.

M.a.w. wat willen we willen. Een goddelijke vraag, die Hariri oproept in het laatste hoofdstuk “Het dier dat god werd”.