Homo Deus – Harari

Aantekeningen en commentaar bij Homo Deus.  

P 58 Voorspellen hoe de wereld er uit ziet in de toekomst is onzin. Moedig er dan vervolgens toch een heel boek aan te wijden.  

P73… Interessante geschiedenis van het gazon – ja het goed onderhouden grasveldje dat onze voor- en achtertuinen domineert. Het gazon is ontstaan als statussysmbool, blijkt. Alleen de rijken konden zich in vroeger tijden een straks bijgewerkt gazon permitteren.   De moderne mens streeft drie doelen na: onsterfelijkheid, geluk, goddelijkheid. Dit laatste vereiste enige verklaring: Harari bedoelt waarschijnlijk dat de mens de hele wereld, alle leven, naar zijn hand kan zetten, en vormen zoals hij dit wil.   Over het verlies van menselijkheid door versmelting van mens en technologie.   De mens heeft zich boven de rest van de wereld gesteld. Belangen van de mens gaan boven de belangen van elk ander wezen. Een niet-mens zou hetzelfde kunnen nastreven. Onstaat er een intelligentie met vergelijkbare intelligentie, dan kan het met de mens afgelopen zijn. De portee van dit boek.   Harari definieert religies breed. Ook communisme en liberalisme en nazisme ziet Harari als religies. Hij legt dit uit. Vele entiteiten bestaan alleen in de gemeenschappelijk verbeelding. Daar geloven we met zijn allen in. Als we er niet meer in zouden geloven zouden deze instituten in elkaar storten.

P147 Harari schrijft “het bestaan van de ziel is dus niet in overeenstemming te brengen met de evolutietheorie.” Wat wel een bijzondere betoogtrant is. Ik zie niet in waarom hetzelfde zo niet zou opgaan voor bewustzijn. 128 Na de verhandeling die concludeert dat de ziel speculatie is verdwijnt ook het bewustzijn inderdaad naar de prullenmand. “Het bewustzijn is het biologisch nutteloze nevenproduct van onze hersenen.” Het heeft morele waarde. En dat maakt ons juist menselijk.

P142 Wat ons mensen uniek maakt is volgens Harari het vermogen om te kunnen samenwerken in grote groepen. Niet ons bewustzijn.

P156 Betekenis ontstaat door een web van verhalen. Betekenis kan langzaam uit elkaar vallen. Ontkerkelijking bijvoorbeeld.

P161 Intersubjectieve entiteiten zijn zaken die alleen bestaan in de gedeelde fantasie (versus objectieve entiteiten zoals een auto en een telefoon, en subjectieve entitieten die alleen in de verbeelding van een enkel persoon bestaan). Voorbeelden van intersubjectieve entiteiten zijn de EU, Wereldbank, religies.

P162 Menselijke verzinsels worden vertaald naar genetische en biologische codes en veranderen zo de objectieve realiteit. P176 Schrift: beschrijft en vervormt de werkelijkheid.

P186 Wat is een werkelijk bestaande entiteit? Definitie: als het kan lijden. Bedrijven, geld, naties bestaan alleen in de verbeelding. Het wordt steeds moeilijker het onderscheid te blijven maken.

P192 Religie is geloof in morele wetten. Dus ook communisme, liberalisme zijn in die zin religies. Geen goden maar wel religies.

P195 Religie wil wereldorde versterken. Een spirituele reis is los komen van de wereldorde. Reizen naar ‘de goede god’ uit het dualisme.

P205 Wetenschap kan de feiten waarop religieuze beweringen zich baseren onderzoeken en relativeren. Zo ethische oordelen tegen feitelijke beweringen afwegen.

P207 Echter niet alle ethische disputen kunnen met wetenschappelijke feiten worden beslecht. Als een doel is van de mens het streven naar meximaliseren van menselijk geluk, hoe kan je feitelijk beoordelen of je dat doel bereikt? Zo is altijd een religie nodig voor sturende ethische principes. P208 Wetenschap geeft macht over oorlog, voedsel, etcetera. Religie wil orde, sociale structuren. Wetenschap en religie aan daarin hand in hand in de maatschappij. In moderne maatschappij vormen humanisme en wetenschap de fundamenten.

P222 Marktkapitalisme: groei is heilig. Kapitalisme is een succes. We hebben meer macht dan ooit. Keerzijde is gebrek aan zingeving. Daarvoor kwam het humanisme op. P242 Wat goed is voor het individu wordt leidend. Zo ontstaat het liberalisme. Nationalisme streeft naar uniciteit van naties. Socialisme houdt rekening met de gevoelens van anderen met als gevolg dat collectivistische instellingen het voor het zeggen hebben. P264 Evolutionair humanisme: ooorlog is essentieel. Het roeit de zwakken uit. Leidt ook naar nazisme.

P271 In de 20e eeuw leek tot en met de jaren 70 het evolutionair humanisme te domineren in de socialistische successen.

P283 Succesvolle religies zijn die religies die de technologische realiteit erkennenen er op anticiperen. In eerste instantie reden voor het succes van het socialisme. Later raakt het socialisme de relatie met de realiteit kwijt en gaat ten onder. Het liberalisme daarentegen heeft technologie omarmd. Maar dit is ook zijn eigen valkuil. Belangrijkste beeld dat Harari wil weergeven in dit boek. P300 Vrije wil gevoel van vrije wil bewustzijn is een stroom van processen. De wil is een uitkomst geen stuurmechanisme. Is daarmee te manipuleren, met transcraniale simulatoren. Harari geeft voorbeelden.

P 308 Onze ik: een ervarende en een verhalende ik. De verhalende ik maakt een verhaal van onze werkelijke ervaringen.

P321 Mensen verliezen hun economische waarde. Veel vormen van intelligentie worden overgenomen door computers. Taken die patroonherkenning vereisen.

P338 Alle vormen van intelligentie worden door computers overgenomen. Wat is het nut nog van de mensheid. P348 De verhalende mens kan losgelaten worden en vergedragen aan de statistische diensten als Google die ons kunnen sturen op basis van gegevens over ons gedrag, DNA, etcetera. Zo kan het liberalisme ondergraven worden. Het verhalende zelf kan worden vervangen door een algoritme dat mijn mening beter kent en beter weet wat goed voor miij is.

P356 Besturing van logistieke en biologische zaken van de mens kan worden overgelaten aan technologie. Ook biologie is gebleken een algoritme te zijn.

P361 Er dreigt een gevaar voor het onstaan van elites: technologie alleen voor de waardevolle elite, incl bijvoorbeeld gezondheidszorg. Hierdoor ontstaat een “geüpgrade” supermens en een massa nutteloze mensen.

P362 Twee nieuwe religies: – datageloof: het stokje moet van de mensheid aan nieuwe entiteiten worden overgedragen. – techno-humanisme: een geupgrade mens blijft relevant, maar moet zich blijven upgraden. Mensen upgraden gebeurt met nanotechnologie, computerinterfaces, genetische modificatie.

P374 Gevaren van upgraden mens: kwijtraken van menselijke eigenschappen als dromen en fantaseren omdat dit afleidt en inefficient is.ook minder intelligentie, omdat te veel intelligentie ook de efficientie in de weg kan zitten. p378 Dilemma van techno-humanisme: hoe mensen upgraden zonder menselijke wil en beleving weg te reduceren?

P384 Kapitalisme is succesvoller dan communisme om het een efficienter informatieverwerkend systeem is dat m.a.w. beter data kan verwerken tot beslissingen. De economie in termen van dataverwerkig : dataisme.

P393 De mensheid als dataverwerkend systeem heeft tot doel een nog efficienter dataverwerkend systeem te maken. Zodra dat klaar is , is de betekenis van de mens ook verdwenen. P394 Hoogste goed van dataisme: vrijheid van informatie.

P399 Wat maakt de mensen waardevol in dataisme: ze kunnen bijdragen aan de datastroom.

P405 Steeds meer algoritmen die door AI en machine learning steeds worden aangescherpt en verbeterd. “Het basisalgoritme zal misschien nog door mensen ontwikkeld worden…”  

Harari gaat er aan voorbij, en veel mensen weten dat niet, dat de huidige AI en machnine learning hype geen fundamenteel nieuwe wetenschap tot basis heeft. Het enige waarop de ontwikkeling nu drijft is rekenkracht. De leermechanismen, gebaseerd zijn op geavanceerde stochastische berekeningen die al in de jaren 90 zijn bedacht, hebben nooit grote toepassingen gekend tot op heden omdat de rekenkracht van computer te laag was. Hardware ontwikkelingen (GPUs oa) zorgen ervoor dat deze algoritmen nu wel bruikbaar zijn geworden.

De basis van deze mechanismen is een stochastisch leerproces. Door proberen van uitkomsten leert een algoritme wat de beste uitkomsten zijn. Dit is krachtig maar men moet zich realiseren dat deze processen dus geen nieuwe algoritmen bedenkken, maar deze dieper weten door te rekenen waardoor bepaalde zaken met meer gegeven beter voorspeld kunnen worden. De uitkomsten zijn waarschijnlijkheden. Door meer data en dieper rekenen kan de waarschijnlijkheid van een antwoord nauwkeuriger worden bepaald. Dat is iets fundamenteel anders dan een algoritme verbeteren, laat staan creeren. Er komen dus door AI en machine learning niet meer slimme algoritmen. Daarvoor is tot op heden nogsteeds de mens nodig. En daar is nog geen begin van een alternatief voor in de computer wetenschap.

Waar de mens, en haar wetenschap goed in is, is het bedenken van regels voor processen, de algoritmen. Het hoogst denkbare is in de natuurkunde een geuniformeerde theorie die geld op grote schaal, en ook op kleine schaal – zowel voor astronomie als voor deeltjestheorie. Een algoritme bepaalt niet een waarschijnlijkheid, een algoritme berekent exact een uitkomst. Een fundamenteel verschil. Overigens, ook algoritmen kunnen zeer onvoorspelbaar gedrag laten zien. De choastheorie heeft dit laten zien. Een prachtig eenvoudig algoritme vertoont een zeer complex gedrag, soms zelf volkomen chaotisch gedrag. Ook Wolfram heeft hier uitgebreid verslag van gedaan in zij “A New Kind of Science”.  

Harari begint met de definitie van drie doelen die de mens nastreeft, en die de drijfveer vormen voor alle technologisch ontwikkelingen die de mens heeft voortgebracht: onsterfelijkheid, geluk en goddelijkheid. Alle datastromen die op gang zijn gebracht zijn middelen om deze doelen te bereiken.  

Het dataisme van Harari stelt dat andere intelligenties deze middelen op een gegeven moment verder zou kunnen ontwikklen zonder dat daar voor de mens nog een rol is weggelegd. Wat in het beeld van Harari echter ontbreekt zijn de doelen die deze intelligenties dan zouden nastreven. Hij definieert vrijheid van informatie als grootste goed, maar waar moet die vrijheid van informatie zich dan naartoe bewegen?  

P408 Al die kennis en informatie. “Tegenwoordig ben je machtig als je weet wat [welke informatie] je kunt negeren”   Tenslotte nog een opmerking: Intelligentie is niet hetzelfde als het algoritme aanscherpen op basis van data en stochastische processen. Harari geeft geen duidelijke definitie van intelligentie, maar spreekt wel van mogelijk intelligente entiteiten anders dan de mens.   Is intelligentie los te koppelen van een bewustzijn? En als een andere niet-menselijke intelligentie een bewustzijn heeft, gaat deze dan niet aan dezelfde uitdagingen ten onder als de mens in het verhaal van Harari?  

Machine, Platform, Crowd by authors by McAfee and Brynjolfsson

Machine, platform, crowd

In Machine, Platform, Crowd, authors McAfee and Brynjolfsson describe three major developments that led to the enormous economic change we have seen over the past decades.The rapid developments in technology (machine) led to possibilities of the forming of powerful new layers that bring consumers and producers closer together (platforms), and how these platform thrive through direct involvement of the consumer in the production and dissemination of the product and services provided through the platforms.

How can companies like Uber, Facebook, Amazon have become so big and influential, considering they are only thin layers? These platforms do not produce goods, and have no or little assets (at least at the outset).

In the book many aspects around these developments are brought together. The authors contrast the old world and the new world: machines versus human intelligence, platform versus product, crowd versus core (core meaning something driven by an organisational structure).

McAfee and Brynjolfsson
Picture by New America

Machines have developed that can crunch the new large volumes of data that the Internet era has enabled. Here we see that technological developments create their own new opportunities. The authors go into why these things are so hard to predict, and have no good answer. New technology enables things we can not foresee. We can dream, but technology continues to surprise us.

The developments of AI have been an important factor. But why computers are better than humans at making (some) decisions.The book goes back to the literature of Kahneman and others. Kahneman has learned us that our decision making is highly subjective and prone to errors. Fast decision making is done by our System 1 thinking, which is impulsive and subjective. Our System 2 is more thoughtful and slow, but tends not to correct System 1 decisions but rather justify those decisions.Our biases make us bad decision makers. And computers can ignore all the subjective crap that clutters our decision making. And of course they can very fast go through last piles of data.

Afbeeldingsresultaat voor kahneman
Kahneman

Though McAfee also shows that if the AI is fed with “biased” data, the computer will also make biased decisions. But, the computer can be easily corrected, while for humans that is a lot more difficult.

In the end, the computer is better at doing specific things. (The worst are Hippo based decisions: Highest Paid Person’s Personal View. A problem common in organisations with narcissistic leaders.) AI is increasingly efficient at making decisions for “narrow” problems.Scientists however indicate that Artificial General Intelligence (AGI) – is a stage we now even getting close to.

The authors do not go into the hypes that are created around AGI. People like Harari in Homo Deus write extensive and interesting perspectives on what the world may become when AI takes over. But these are, I believe, not based on realistic views on the state on AI, or even on what AI might brings us in the future.McAfee and Brynjolfsson do not elaborate on this humbling perspective. They even ignore it later on, where the describe their believe that when given enough data, engineering knowledge, and requirements, computers will be able figure out novel ways to do things. This statement remains unsubstantiated and even contradicts their earlier statements about AGI from an MIT scientist.It is also contradictory to the Polanyi paradox: we do not know what we know. So that engineering knowledge may very well remain buried in human brain mass.Finally, to end this tangent, the claim itself seems somewhat circular. If I rephrase the statement: if we know what to do, how to do it, and have the right inputs, we can program a computer to do it. Well, of course, I would say, because that is as much as the definition of automation.

So how come we see this rise of AI technology now? McAfee and Brynjolfsson summarize:

  • The availability of computing power. The power of CPUs and specially GPUs has reached a level that enabled and boosted the usability of neural network performance.
  • The drastically decreased cost of computing.
  • The availability of large amounts of data.

When will robots be used and when humans? Robots for Dull, Dirty, Dangerous work (DDD) and/or where Dear/Expensive resources are used.But coordination, teamwork, problem solving and very fine hand/foot/senses work is needed. These are all things computer and robot are not good at.Creative and social jobs are safe from robotisation.

Platforms have appeared that killed or diminished existing often large industries. Where products become digital, the fact that these are free (zero cost to copy) and perfect (no loss off quality when copying), economies have radically changed.Two ways are left to make money with these products:

  • Unbundle products – like iTunes sells songs instead of albums.
  • Rebundle products – like Spotify creates subscriptions instead of selling albums/songs.

Complements increase the sales of goods. Like apps increase the sales of iPhones. Free products can be bundled to make money out of them:

  • Freemium products
  • Put ads in free products
  • Add customer service (open source products)
  • Provide a public service (for public organisations)
  • Pairing with products

For platforms, curation of products and reputation systems become crucial to filter and make products find-able to clients.Characteristics of successful platforms:

  • Early – attract a crowd before others do
  • Use economy of complementary products
  • Open up the platforms
  • Guarantee experience through curation/reputation like mechanisms.

Online-to-Offline platforms have emerged. these bring together products and consumers for a market that optimises asset utilisation. When their is a 2-sided market, demand want low prices from multiple suppliers, and supplier want their products in as many consumers as possible.Both sides want economies of scale.Is a product in undifferentiated, prices will come down. Such products are vulnerable for platform destruction.What is less vulnerable: complex services, markets with few participants.

How to make successfully use of crowd-sourced information?

  • Make information findable and organise it
  • Curate bad content

Crowd sourced platforms can only be successful when

  • They are open
  • Everyone can contribute (no credentials needed)
  • Contributions can be verified and reversed (prevent destruction of the asset)
  • They are self organising (distributed trust)
  • They have a geeky leadership

The volume of the crowd knows more than a few experts.Crowd beats core.The core nowadays uses the crowd:

  • To get things done (upwork)
  • For finding a resource
  • For market research
  • To acquire new customers
  • For acquiring innovation

Distrust in organisations leads to a wish for Decentralization of Everything. But “The Nature of the Firm” describes why organisations exist and why their is always a place for them.

The cost of linking parts of the supply chain in more expensive when it needs to be done with different players all the time.In an organisation that handles larger parts of the supply chain, cheap communication drives down costs.More importantly contracts are never complete.

There is always a thing called Residual Rights of Control over assets. The concept is not further elaborated. But in a distributed model the ownership of the produced assets poses problem: who owns the right over the assets.The problem seems incomplete and drives construction of firms.

Firms drive group work and management:

  • To coordinate more complex work: transmission belts for coordination and organisational problem solving
  • Human/social skills
  • People want to work together
  • Best way to get things done

They end with the question: what will we do with all that technology – that is the question we should answer, not: what will technology do with us.

Apply technology to solve real-word problems – in a combination of technology, humans, and other resources.

Sapiens – Harari

Harari beschrijft in Sapiens hoe de mens (“Sapiens”) de laatste duizenden jaren tot het meest dominante wezen op aarde is uitgegroeid. De zoogdier Sapiens ontwikkelde cognitieve vaardigheden en daarmee communicatieve en technologische hulpmiddelen waarmee het alle andere dieren kon overheersen.

De menselijke samenleving groeit uit van een lokale tot de mondiale die we nu kennen.
Een belangrijk kenmerk van de mens is dat ze gedreven wordt door religie: de intersectie van menselijke waarden en normen en het geloof in een bovenmenselijke orde. Ook kapitalisme, humanisme en communisme zijn in die zin religies (we zien dit ook in Hariri’s latere boek Homo Deus).

Ook een veelal neutraal te boek staande instelling als de wetenschap wordt gerechtvaardigd en gedreven door een religie of ideologie, betoogt Hariri. De prioriteiten die wetenschappelijke instellingen sturen zijn religieus bepaald. In onze maatschappij is dat het liberaal humanisme, en kapitalisme.

Hariri beschrijft het kapitalisme en stelt de vraag of de basis van het kapitalisme, een altijd voortdurende groei, vol te houden is. Ook het doel van het kapitalisme: het toenemend welzijn, wordt door Hariri bevraagd: Worden we gelukkiger van meer spullen? Hariri betwijfelt dit.

De wetenschap raast door en de mens modificeert zichzelf. Ultimo lijken alle zaken die mensen ongelukkig maken te kunnen worden weggenomen. Als dat is bereikt, wat is dan het doel van de mens.

Wellicht is het Boeddhisme de oplossing: geluk is niet te vinden in externe successen, maar ook niet in het najagen van prettige gevoelens. Deze kunnen observeren en voorbij laten gaan.

M.a.w. wat willen we willen. Een goddelijke vraag, die Hariri oproept in het laatste hoofdstuk “Het dier dat god werd”.