Homo Deus recensie: Harari’s visie op AI en dataisme

Yuval Noah Harari’s Homo Deus schetst een toekomst waarin de mensheid streeft naar onsterfelijkheid, geluk en goddelijkheid. Het is een ambitieus boek, soms briljant in zijn historische analyses, soms frustrerend in zijn voorspellingen. Harari begint ironisch genoeg met de bewering dat voorspellen hoe de wereld eruitziet in de toekomst onzin is – om vervolgens 400 pagina’s aan voorspellingen te wijden. De thematiek van mens, technologie en toekomst kwam ook aan bod in deze VPRO documentaire over mensen, goden en technologie.

Hier mijn aantekeningen en kanttekeningen.

De drie doelen van de moderne mens

Harari stelt dat de moderne mens drie doelen nastreeft: onsterfelijkheid, geluk en goddelijkheid. Dit laatste vereist enige uitleg. Harari bedoelt dat de mens de hele wereld, alle leven, naar zijn hand wil zetten en vormen zoals hij dit wil. De mens heeft zich boven de rest van de wereld gesteld. Belangen van de mens gaan boven de belangen van elk ander wezen.

De portee van dit boek draait om wat er gebeurt als er een intelligentie ontstaat met vergelijkbare of grotere capaciteiten dan de mens. Dan kan het met de mens afgelopen zijn.

Harari illustreert hoe diep onze ambities in de cultuur zitten met een verrassend voorbeeld: het gazon. Het strak bijgewerkte grasveldje dat onze voor- en achtertuinen domineert, is ontstaan als statussymbool. Alleen de rijken konden zich in vroeger tijden een perfect onderhouden gazon permitteren. Nu streeft iedereen ernaar.

Religie breed gedefinieerd

Harari definieert religies opvallend breed. Ook communisme, liberalisme en nazisme ziet hij als religies. Hij legt dit uit aan de hand van het concept intersubjectieve entiteiten – zaken die alleen bestaan in de gedeelde fantasie. De EU, de Wereldbank, geld, naties: ze bestaan alleen omdat we er met zijn allen in geloven. Als we er niet meer in zouden geloven, zouden deze instituten in elkaar storten.

Religie is volgens Harari geloof in morele wetten. Dus ook communisme en liberalisme zijn in die zin religies, al hebben ze geen goden. Religie wil de wereldorde versterken. Een spirituele reis daarentegen is juist loskomen van de wereldorde.

Wetenschap kan de feiten waarop religieuze beweringen zich baseren onderzoeken en relativeren. Zo kan je ethische oordelen tegen feitelijke beweringen afwegen. Maar niet alle ethische disputen kunnen met wetenschappelijke feiten worden beslecht. Als een doel van de mens het streven is naar maximaliseren van menselijk geluk, hoe kun je dan feitelijk beoordelen of je dat doel bereikt? Daarom is volgens Harari altijd een religie nodig voor sturende ethische principes.

In de moderne maatschappij vormen humanisme en wetenschap de fundamenten. Wetenschap geeft macht over oorlog, voedsel, technologie. Religie – of in moderne vorm: humanisme – zorgt voor orde en sociale structuren. Ze werken hand in hand.

Het liberalisme en zijn alternatieven

Marktkapitalisme maakt groei heilig. Het kapitalisme is een succes gebleken – we hebben meer macht dan ooit. De keerzijde is een gebrek aan zingeving. Daarvoor kwam het humanisme op.

Binnen het humanisme zijn verschillende stromingen ontstaan. Het liberalisme stelt wat goed is voor het individu centraal. De vrije wil van het individu is het hoogste goed. Het nationalisme daarentegen streeft naar uniciteit van naties en collectieve identiteit. Het socialisme houdt rekening met de gevoelens van anderen, met als gevolg dat collectivistische instellingen het voor het zeggen hebben. Het evolutionair humanisme tenslotte ziet oorlog als essentieel omdat het de zwakken uitroeit. Dit leidde naar het nazisme.

Succesvolle religies, stelt Harari, zijn religies die de technologische realiteit erkennen en erop anticiperen. In eerste instantie was dit de reden voor het succes van het socialisme. Later raakte het socialisme de relatie met de realiteit kwijt en ging het ten onder. Het liberalisme daarentegen heeft technologie omarmd. Maar dit is ook zijn eigen valkuil, en dat is het belangrijkste beeld dat Harari wil weergeven in dit boek.

De vrije wil als illusie

Harari stelt dat de vrije wil een illusie is. Bewustzijn is een stroom van processen. De wil is een uitkomst, geen stuurmechanisme. Dit is te manipuleren, met transcraniale simulatoren bijvoorbeeld.

Ons zelf bestaat uit twee delen: een ervarende ik en een verhalende ik. De verhalende ik maakt een verhaal van onze werkelijke ervaringen. Dit verhaal is niet noodzakelijk accuraat.

De verhalende mens kan losgelaten worden en overgedragen aan statistische diensten als Google, die ons kunnen sturen op basis van gegevens over ons gedrag, DNA, etc. Zo kan het liberalisme ondergraven worden. Het verhalende zelf kan worden vervangen door een algoritme dat mijn mening beter kent en beter weet wat goed voor mij is.

Dataisme: de nieuwe religie

Harari voorspelt dat mensen hun economische waarde verliezen. Veel vormen van intelligentie worden overgenomen door computers. Taken die patroonherkenning vereisen. Volgens Harari kunnen uiteindelijk alle vormen van intelligentie door computers worden overgenomen. Wat is het nut nog van de mensheid?

Er dreigt een gevaar voor het ontstaan van elites: technologie alleen voor de waardevolle elite, inclusief bijvoorbeeld gezondheidszorg. Hierdoor ontstaat een “geüpgrade” supermens en een massa nutteloze mensen.

Harari identificeert twee nieuwe religies. Het dataisme stelt dat het stokje van de mensheid aan nieuwe entiteiten moet worden overgedragen. Het hoogste goed is vrijheid van informatie. Wat maakt mensen waardevol in dataisme? Ze kunnen bijdragen aan de datastroom. Het techno-humanisme daarentegen stelt dat een geüpgrade mens relevant blijft, maar zich moet blijven upgraden met nanotechnologie, computerinterfaces en genetische modificatie.

Het dilemma van techno-humanisme: hoe mensen upgraden zonder menselijke wil en beleving weg te reduceren? Gevaren zijn het kwijtraken van menselijke eigenschappen als dromen en fantaseren, omdat dit afleidt en inefficiënt is.

De mensheid als dataverwerkend systeem heeft tot doel een nóg efficiënter dataverwerkend systeem te maken. Zodra dat klaar is, is de betekenis van de mens verdwenen.

Waar Harari het mis heeft over AI

Hier kom ik bij mijn voornaamste kritiek op Harari’s betoog. Hij gaat eraan voorbij – en veel mensen weten dat niet – dat de huidige AI en machine learning hype geen fundamenteel nieuwe wetenschap tot basis heeft. Het enige waarop de ontwikkeling nu drijft is rekenkracht.

De leermechanismen zijn gebaseerd op geavanceerde stochastische berekeningen die al in de jaren negentig zijn bedacht. Deze algoritmen hebben nooit grote toepassingen gekend tot op heden omdat de rekenkracht van computers te laag was. Hardware-ontwikkelingen, zoals GPU’s, zorgen ervoor dat deze algoritmen nu wel bruikbaar zijn geworden.

De basis van deze mechanismen is een stochastisch leerproces. Door proberen van uitkomsten leert een algoritme wat de beste uitkomsten zijn. Dit is krachtig, maar men moet zich realiseren dat deze processen dus geen nieuwe algoritmen bedenken. Ze weten bestaande algoritmen dieper door te rekenen, waardoor bepaalde zaken met meer gegevens beter voorspeld kunnen worden.

De uitkomsten zijn waarschijnlijkheden. Door meer data en dieper rekenen kan de waarschijnlijkheid van een antwoord nauwkeuriger worden bepaald. Dat is iets fundamenteel anders dan een algoritme verbeteren, laat staan creëren. Er komen dus door AI en machine learning niet meer slimme algoritmen. Daarvoor is tot op heden nog steeds de mens nodig. En daar is nog geen begin van een alternatief voor in de computerwetenschap. Ik schreef hier eerder over in AI considered not so harmful.

Waar de mens en zijn wetenschap goed in zijn, is het bedenken van regels voor processen: de algoritmen. Het hoogst denkbare is in de natuurkunde een geünificeerde theorie die geldt op grote schaal en ook op kleine schaal – zowel voor astronomie als voor deeltjestheorie. Een algoritme bepaalt niet een waarschijnlijkheid, een algoritme berekent exact een uitkomst. Een fundamenteel verschil.

Overigens, ook algoritmen kunnen zeer onvoorspelbaar gedrag laten zien. De chaostheorie heeft dit laten zien. Een prachtig eenvoudig algoritme vertoont zeer complex gedrag, soms zelfs volkomen chaotisch gedrag. Ook Wolfram heeft hier uitgebreid verslag van gedaan in zijn “A New Kind of Science“.

Wat ontbreekt: doelen

Harari begint met de definitie van drie doelen die de mens nastreeft, en die de drijfveer vormen voor alle technologische ontwikkelingen: onsterfelijkheid, geluk en goddelijkheid. Alle datastromen die op gang zijn gebracht zijn middelen om deze doelen te bereiken.

Het dataisme van Harari stelt dat andere intelligenties deze middelen op een gegeven moment verder zouden kunnen ontwikkelen zonder dat daar voor de mens nog een rol is weggelegd.

Wat in het beeld van Harari echter ontbreekt zijn de doelen die deze intelligenties dan zouden nastreven. Hij definieert vrijheid van informatie als grootste goed, maar waar moet die vrijheid van informatie zich dan naartoe bewegen?

Nog een vraag die Harari niet beantwoordt: Is intelligentie los te koppelen van een bewustzijn? En als een andere niet-menselijke intelligentie een bewustzijn heeft, gaat deze dan niet aan dezelfde uitdagingen ten onder als de mens in het verhaal van Harari?

Bewustzijn en de ziel

Harari’s redenering over bewustzijn is curieus. Hij schrijft: “Het bestaan van de ziel is dus niet in overeenstemming te brengen met de evolutietheorie.” Wat een bijzondere betoogtrant. Ik zie niet in waarom hetzelfde niet zou opgaan voor bewustzijn.

Na de verhandeling die concludeert dat de ziel speculatie is, verdwijnt ook het bewustzijn inderdaad naar de prullenmand. “Het bewustzijn is het biologisch nutteloze nevenproduct van onze hersenen,” schrijft Harari. Het heeft morele waarde. En dat maakt ons juist menselijk.

Wat ons mensen uniek maakt is volgens Harari het vermogen om te kunnen samenwerken in grote groepen. Niet ons bewustzijn. Betekenis ontstaat door een web van verhalen. Betekenis kan langzaam uit elkaar vallen – ontkerkelijking bijvoorbeeld.

Tot slot

Harari’s definitie van een werkelijk bestaande entiteit: als het kan lijden. Bedrijven, geld, naties bestaan alleen in de verbeelding. Het wordt steeds moeilijker het onderscheid te blijven maken tussen wat echt is en wat we verzinnen.

Menselijke verzinsels worden vertaald naar genetische en biologische codes en veranderen zo de objectieve realiteit. Schrift beschrijft en vervormt de werkelijkheid.

Harari sluit af met een observatie die het hele boek samenvat: “Tegenwoordig ben je machtig als je weet wat [welke informatie] je kunt negeren.” In een wereld van oneindige datastromen is selectie macht.

Homo Deus is een fascinerend boek dat belangrijke vragen stelt over onze toekomst. Harari’s historische analyses zijn vaak scherpzinnig. Zijn voorspellingen over AI en dataisme zijn minder sterk, omdat ze voorbijgaan aan fundamentele beperkingen van huidige technologie. Toch blijft de kernvraag die hij stelt relevant: wat gebeurt er met de mensheid als we onze economische en misschien zelfs culturele waarde verliezen?

Homo Deus is de moeite waard voor iedereen die geïnteresseerd is in waar technologie ons naartoe brengt. Harari schrijft helder en toegankelijk. Zijn historische analyses zijn vaak verhelderend. Zijn voorspellingen neem je met een korrel zout, maar ze prikkelen wel tot nadenken. En dat is uiteindelijk waar een goed boek voor dient.

Heb je Homo Deus gelezen? Wat vond jij van Harari’s voorspellingen? Laat je gedachten in een reactie achter.

Sloppy Lifebox print, excellent read from Rudy Rucker

lifeboxcover

Annoying: pages 237 through 240 are shuffled in my print of The Lifebox, the Seashell and the Soul. Though not entirely surprising, the crumbly paper was an indicator of a sloppy edition. Maybe it is a collector’s item now. Mail me and you can have it.

I bought it about ten years ago, and recently reread Rudy Rucker’s The Lifebox, the Seashell and the Soul It is a very interesting book, although it smells odd here and there.  

Rucker writes about Alan Turing that Turing ‘apparently was given to bringing home sexual partners he met in the streets.’ What does he mean with that phrasing? For historical facts on Turing, I prefer to rely more on Turing’s biographer Andrew Hodges who wrote the respectable biography Alan Turing: The Enigma. Hodges pictures Turing as naive in confessing his homosexuality (for that time), but also describes him to be rather restraint in getting involved in sexual relationships. What I am sure I haven’t read anywhere is that Turing would go skimming the streets looking for ‘sexual partners’ (sexual partners – is that really correct English?).

Also the idolizing references to Stephen Wolfram’s A New Kind of Science are unnecessary. Wolfram generously takes care of that himself.

Also, Rucker’s habit of regularly quoting his own Science Fiction stories to illustrate his theories begins to annoy me at some point. I understand his frame of reference, but he is not very scientific in this way of providing ‘proof’.

But, as said, the book offers a number of very interesting ideas and visions. I realize I sound so negative, but I really enjoyed the book.

Rucker confirms that Artificial Intelligence – the discipline in Computer Science – has not achieved a lot. After my personal introduction to scientific AI, I became very suspicious. I found it odd that AI was dealing with decision rules, (fuzzy) logic, and the like. And used this awful programming language Prolog. Wasn’t there anything better to focus on in Artificial Intelligence? Cognitive is hot these days, but is it really Artificial Intelligence? A step forward, probably.

Rucker describes the life box—a device that captures every aspect of your life. I’m not sure if he invented the concept, but it is the first time I saw it described in such a realistic, predictive way.

This book has become history. The lifebox is there. People like Cathal Gurrin are walking around with cameras and devices recording everything they do all day.

Douglas Adams’ Salmon of Doubt on Beatles, Bach, Wodehouse, technology, Apple, atheism and hurling the chairs around.

Douglas Adams died young. Aged 49, in 2001.

But in his short life he wrote The Hitchhiker’s Guide to the Galaxy. Enough for a meaningful life.

The Salmon of Doubt bundles the unpublished work he left on his Mac when he died.

When I read about this book first, it promised to be the unfinished sequel to The Hitchhiker’s Guide to the Galaxy. But it is not. At best a very very little bit.

The hitchhiker's guide to the galaxy

The first number of stories are articles Adams wrote for different newspapers and magazines. After 2 thrids into it, the book finally gets to the proposed draft for the 6th sequel of the Hitchhikers Guide. But this part is prefaced with a remark by Adams saying a lot of the material in The Salmon does not work and could be yanked out.
Most of the stories following are unfinished Dirk Gently chapters. Dirk Gently is a bizar detective novel series created by Adams. A different topic than the Hitchhiker’s Guide, very amusing though.

The book starts right off with an introduction by Terry Jones (Monty Python, yes that Terry Jones).

“You are, without doubt, holding in your hands one of the best-introduced books in the English language. We hope you enjoy the Introduction to the New Edition that follows this Introduction to it and continue to read on even into the book itself. “

He is referring to the fact this is the third introduction in sequence to the new edition of the book.

“But with this handsome volume, I hope that Douglas’s work has finally achieved the full complement of Introductions that it deserves. Perhaps future editions might even boast a Foreword and a Foreword to the Foreword, so as to keep Douglas’s wonderful writing to the forefront of properly prefaced literature. Please enjoy this book and, when you have finished it, do not leave it on the train.”

The books has gathered published and unpublished articles and parts of books that are very entertaining but also provide a peak into the mind of the man who created The Hitchhiker’s Guide to the Galaxy, giving the number 42 its special meaning.
He talks about his love for The Beatles.

“It bewildered me that no one else could hear it: impossible harmonies and part playing you had never heard in pop songs before. The Beatles were obviously just putting all this stuff in for some secret fun of their own, and it seemed exciting to me that people could have fun in that way.”

To Adams the English writer P.G. Wodehouse is just as important to English literature as Milton, Shakespeare and Keats.

PG. Wodehouse

“Shakespeare? Milton? Keats? How can I possibly mention the author of Pearls, Girls and Monty Bodkin and Pigs Have Wings in the same breath as these men? He’s just not serious! He doesn’t need to be serious.”

And Bach.

“The familiarity of the Brandenburgs should not blind us to their magnitude. I’m convinced that Bach is the greatest genius who ever walked among us, and the Brandenburgs are what he wrote when he was happy.”

Technology becomes almost an obsession for Adams. He can be real nerdy, is a gadget freak and a life long Apple adept. He writes about the limitations of the technology at that time and the improvements he wants to see. Some are quite predictive. He fulminates about how the different technologies on his Mac do not integrate, and how he wants to see improvements.

“What I want to be able to do is this:

– Turn on the machine.
– Work.
– Have a bit of fun provided I’ve done enough of 2, which is rarely, but that’s another issue.”

(That latter refers to his reputation of being unable to deliver in time and missing deadlines. “I love declines, I love the whooshing noise they make as they go by.” But that’s another issue.)

“What I’m talking about is the death of the “application.” I don’t mean just when they “unexpectedly” quit, I mean it’s time we simply got rid of them.”

He wants his problem of having different devices and still share everything he does on any device. Today IT nerds will start yelling CLOUD immediately before he could have finished his sentence.

“All I want to do is print from my portable. (Poor baby.) That isn’t all I want, in fact. I want to be able regularly to transfer my address book and diary stacks backward and forward between my portable and my IIx. And all my current half-finished chapters. And anything else I’m tinkering with, which is the reason why my half-finished chapters are half-finished. In other words, I want my portable to appear on the desktop of my IIx.”

He wants to get rid of “technology”. His definition of technology is interesting.

“We are stuck with technology when what we really want is just stuff that works. How do you recognize something that is still technology? A good clue is if it comes with a manual.”

The world changes rapidly and Adams describes the need for a vision on what the world will look like in the no so far future, as well as our inability to do so. His reasoning precedes the scientific works of Daniel Gilbert – Stumbling On Happiness – who writes about his scientific findings in similar terms.

“Trying to predict the future is a mug’s game. But increasingly it’s a game we all have to play because the world is changing so fast and we need to have some sort of idea of what the future’s actually going to be like because we are going to have to live there, probably next week.”

“We were wrong about trains, we were wrong about planes, we were wrong about radio, we were wrong about phones, we were wrong about . . . well, for a voluminous list of the things we have been wrong about”

Relating the inability to predict the future to the application of technology, we all have heard some of the horrible technology predictions, for example Worst Tech Predictions).

The one Douglas Adams mentions I had not heard yet, but is equally amusing. Followed by a fabulous prediction from himself.

“One such that I spotted recently was a statement made in February by a Mr. Wayne Leuck, vice-president of engineering at USWest, the American phone company. Arguing against the deployment of high-speed wireless data connections, he said, “Granted, you could use it in your car going sixty miles an hour, but I don’t think too many people are going to be doing that.” Just watch. That’s a statement that will come back to haunt him. Satellite navigation. Wireless Internet. As soon as we start mapping physical location back into shared information space, we will trigger yet another explosive growth in Internet applications. At least—that’s what I predict. I could, of course, be wildly wrong.”

Adams defines himself as an radical Atheist. And he is very serious about this.

“So, I do not believe-that-there-is-no-god. I am, however, convinced that there is no god, which is a totally different stance and takes me on to my second reason.”

He has given this a lot of thought and the chapter on the topic in this book is a logical flow of reasoning that brings Adams to the conclusion that there is no real god, but there is an artificial god.
Adams argues (deduces) that god is what defines life.

“So, in the end, in the absence of an intentional creator, you cannot say what life is, because it simply depends on what set of definitions you include in your overall definition. Without a god, life is only a matter of opinion.”

He links his view on god to his insight in technology and computers. He argues that the complexity of life is not something specific to life itself, but that this can be seen in other forms as well, such as computer programs.

“The computer forms a third age of perspective, because suddenly it enables us to see how life works. Now, that is an extraordinarily important point because it becomes self-evident that life, that all forms of complexity, do not flow downward, they flow upward, and there’s a whole grammar that anybody who is used to using computers is now familiar with, which means that evolution is no longer a particular thing, because anybody who’s ever looked at the way a computer program works, knows that very, very simple iterative pieces of code, each line of which is tremendously straightforward, give rise to enormously complex phenomena in a computer—and by enormously complex phenomena”

Adams of course does not give references to his information source, but Mandelbrot and others have shown (read James Gleick’s Chaos: Making a New Science) that from very simple mathematics, extremely complex phenomena emerge.

It is also unclear of Adams may have been aware of the work of Stephen Wolfram, who published his bible A New Kind of Science on this topic, in 2002, one year after Adams’ death. (Just noticed that, interestingly, both Gleick and Wolfram books refer to the field they  describe in their books as a new science. I am not sure either of them is right in that respect.)

And since there is no longer a God needed to explain the origin of the complexity of life, God in Adams’ definition becomes the explanation of the complexity itself.

“I suspect that as we move farther and farther into the field of digital or artificial life, we will find more and more unexpected properties begin
to emerge out of what we see happening and that this is a precise parallel to the entities we create around ourselves to inform and shape our lives and enable us to work and live together. Therefore, I would argue that though there isn’t an actual God, there is an artificial God, and we should probably bear that in mind.”

Adams realizes his vulnerable position as an atheist and as a person discussing the existence or even necessity of god. His friend Richard Dawkins was heavily criticized at the time about his opinions on religion (this was years before The God Delusion). And he finds this incomprehensible.

“So we are used to not challenging religious ideas, but it’s very interesting how much of a furor Richard creates when he does it! Everybody gets absolutely frantic about it because you’re not allowed to say these things. Yet when you look at it rationally, there is no reason why those ideas shouldn’t be as open to debate as any other, except that we have agreed somehow between us that they shouldn’t be.”

Hence he ends his reasoning on this typic in typical Douglas Adams style.

“That is my debating point, and you are now free to start hurling the chairs around!”