Homo Deus – Harari

Aantekeningen en commentaar bij Homo Deus.  

P 58 Voorspellen hoe de wereld er uit ziet in de toekomst is onzin. Moedig er dan vervolgens toch een heel boek aan te wijden.  

P73… Interessante geschiedenis van het gazon – ja het goed onderhouden grasveldje dat onze voor- en achtertuinen domineert. Het gazon is ontstaan als statussysmbool, blijkt. Alleen de rijken konden zich in vroeger tijden een straks bijgewerkt gazon permitteren.   De moderne mens streeft drie doelen na: onsterfelijkheid, geluk, goddelijkheid. Dit laatste vereiste enige verklaring: Harari bedoelt waarschijnlijk dat de mens de hele wereld, alle leven, naar zijn hand kan zetten, en vormen zoals hij dit wil.   Over het verlies van menselijkheid door versmelting van mens en technologie.   De mens heeft zich boven de rest van de wereld gesteld. Belangen van de mens gaan boven de belangen van elk ander wezen. Een niet-mens zou hetzelfde kunnen nastreven. Onstaat er een intelligentie met vergelijkbare intelligentie, dan kan het met de mens afgelopen zijn. De portee van dit boek.   Harari definieert religies breed. Ook communisme en liberalisme en nazisme ziet Harari als religies. Hij legt dit uit. Vele entiteiten bestaan alleen in de gemeenschappelijk verbeelding. Daar geloven we met zijn allen in. Als we er niet meer in zouden geloven zouden deze instituten in elkaar storten.

P147 Harari schrijft “het bestaan van de ziel is dus niet in overeenstemming te brengen met de evolutietheorie.” Wat wel een bijzondere betoogtrant is. Ik zie niet in waarom hetzelfde zo niet zou opgaan voor bewustzijn. 128 Na de verhandeling die concludeert dat de ziel speculatie is verdwijnt ook het bewustzijn inderdaad naar de prullenmand. “Het bewustzijn is het biologisch nutteloze nevenproduct van onze hersenen.” Het heeft morele waarde. En dat maakt ons juist menselijk.

P142 Wat ons mensen uniek maakt is volgens Harari het vermogen om te kunnen samenwerken in grote groepen. Niet ons bewustzijn.

P156 Betekenis ontstaat door een web van verhalen. Betekenis kan langzaam uit elkaar vallen. Ontkerkelijking bijvoorbeeld.

P161 Intersubjectieve entiteiten zijn zaken die alleen bestaan in de gedeelde fantasie (versus objectieve entiteiten zoals een auto en een telefoon, en subjectieve entitieten die alleen in de verbeelding van een enkel persoon bestaan). Voorbeelden van intersubjectieve entiteiten zijn de EU, Wereldbank, religies.

P162 Menselijke verzinsels worden vertaald naar genetische en biologische codes en veranderen zo de objectieve realiteit. P176 Schrift: beschrijft en vervormt de werkelijkheid.

P186 Wat is een werkelijk bestaande entiteit? Definitie: als het kan lijden. Bedrijven, geld, naties bestaan alleen in de verbeelding. Het wordt steeds moeilijker het onderscheid te blijven maken.

P192 Religie is geloof in morele wetten. Dus ook communisme, liberalisme zijn in die zin religies. Geen goden maar wel religies.

P195 Religie wil wereldorde versterken. Een spirituele reis is los komen van de wereldorde. Reizen naar ‘de goede god’ uit het dualisme.

P205 Wetenschap kan de feiten waarop religieuze beweringen zich baseren onderzoeken en relativeren. Zo ethische oordelen tegen feitelijke beweringen afwegen.

P207 Echter niet alle ethische disputen kunnen met wetenschappelijke feiten worden beslecht. Als een doel is van de mens het streven naar meximaliseren van menselijk geluk, hoe kan je feitelijk beoordelen of je dat doel bereikt? Zo is altijd een religie nodig voor sturende ethische principes. P208 Wetenschap geeft macht over oorlog, voedsel, etcetera. Religie wil orde, sociale structuren. Wetenschap en religie aan daarin hand in hand in de maatschappij. In moderne maatschappij vormen humanisme en wetenschap de fundamenten.

P222 Marktkapitalisme: groei is heilig. Kapitalisme is een succes. We hebben meer macht dan ooit. Keerzijde is gebrek aan zingeving. Daarvoor kwam het humanisme op. P242 Wat goed is voor het individu wordt leidend. Zo ontstaat het liberalisme. Nationalisme streeft naar uniciteit van naties. Socialisme houdt rekening met de gevoelens van anderen met als gevolg dat collectivistische instellingen het voor het zeggen hebben. P264 Evolutionair humanisme: ooorlog is essentieel. Het roeit de zwakken uit. Leidt ook naar nazisme.

P271 In de 20e eeuw leek tot en met de jaren 70 het evolutionair humanisme te domineren in de socialistische successen.

P283 Succesvolle religies zijn die religies die de technologische realiteit erkennenen er op anticiperen. In eerste instantie reden voor het succes van het socialisme. Later raakt het socialisme de relatie met de realiteit kwijt en gaat ten onder. Het liberalisme daarentegen heeft technologie omarmd. Maar dit is ook zijn eigen valkuil. Belangrijkste beeld dat Harari wil weergeven in dit boek. P300 Vrije wil gevoel van vrije wil bewustzijn is een stroom van processen. De wil is een uitkomst geen stuurmechanisme. Is daarmee te manipuleren, met transcraniale simulatoren. Harari geeft voorbeelden.

P 308 Onze ik: een ervarende en een verhalende ik. De verhalende ik maakt een verhaal van onze werkelijke ervaringen.

P321 Mensen verliezen hun economische waarde. Veel vormen van intelligentie worden overgenomen door computers. Taken die patroonherkenning vereisen.

P338 Alle vormen van intelligentie worden door computers overgenomen. Wat is het nut nog van de mensheid. P348 De verhalende mens kan losgelaten worden en vergedragen aan de statistische diensten als Google die ons kunnen sturen op basis van gegevens over ons gedrag, DNA, etcetera. Zo kan het liberalisme ondergraven worden. Het verhalende zelf kan worden vervangen door een algoritme dat mijn mening beter kent en beter weet wat goed voor miij is.

P356 Besturing van logistieke en biologische zaken van de mens kan worden overgelaten aan technologie. Ook biologie is gebleken een algoritme te zijn.

P361 Er dreigt een gevaar voor het onstaan van elites: technologie alleen voor de waardevolle elite, incl bijvoorbeeld gezondheidszorg. Hierdoor ontstaat een “geüpgrade” supermens en een massa nutteloze mensen.

P362 Twee nieuwe religies: – datageloof: het stokje moet van de mensheid aan nieuwe entiteiten worden overgedragen. – techno-humanisme: een geupgrade mens blijft relevant, maar moet zich blijven upgraden. Mensen upgraden gebeurt met nanotechnologie, computerinterfaces, genetische modificatie.

P374 Gevaren van upgraden mens: kwijtraken van menselijke eigenschappen als dromen en fantaseren omdat dit afleidt en inefficient is.ook minder intelligentie, omdat te veel intelligentie ook de efficientie in de weg kan zitten. p378 Dilemma van techno-humanisme: hoe mensen upgraden zonder menselijke wil en beleving weg te reduceren?

P384 Kapitalisme is succesvoller dan communisme om het een efficienter informatieverwerkend systeem is dat m.a.w. beter data kan verwerken tot beslissingen. De economie in termen van dataverwerkig : dataisme.

P393 De mensheid als dataverwerkend systeem heeft tot doel een nog efficienter dataverwerkend systeem te maken. Zodra dat klaar is , is de betekenis van de mens ook verdwenen. P394 Hoogste goed van dataisme: vrijheid van informatie.

P399 Wat maakt de mensen waardevol in dataisme: ze kunnen bijdragen aan de datastroom.

P405 Steeds meer algoritmen die door AI en machine learning steeds worden aangescherpt en verbeterd. “Het basisalgoritme zal misschien nog door mensen ontwikkeld worden…”  

Harari gaat er aan voorbij, en veel mensen weten dat niet, dat de huidige AI en machnine learning hype geen fundamenteel nieuwe wetenschap tot basis heeft. Het enige waarop de ontwikkeling nu drijft is rekenkracht. De leermechanismen, gebaseerd zijn op geavanceerde stochastische berekeningen die al in de jaren 90 zijn bedacht, hebben nooit grote toepassingen gekend tot op heden omdat de rekenkracht van computer te laag was. Hardware ontwikkelingen (GPUs oa) zorgen ervoor dat deze algoritmen nu wel bruikbaar zijn geworden.

De basis van deze mechanismen is een stochastisch leerproces. Door proberen van uitkomsten leert een algoritme wat de beste uitkomsten zijn. Dit is krachtig maar men moet zich realiseren dat deze processen dus geen nieuwe algoritmen bedenkken, maar deze dieper weten door te rekenen waardoor bepaalde zaken met meer gegeven beter voorspeld kunnen worden. De uitkomsten zijn waarschijnlijkheden. Door meer data en dieper rekenen kan de waarschijnlijkheid van een antwoord nauwkeuriger worden bepaald. Dat is iets fundamenteel anders dan een algoritme verbeteren, laat staan creeren. Er komen dus door AI en machine learning niet meer slimme algoritmen. Daarvoor is tot op heden nogsteeds de mens nodig. En daar is nog geen begin van een alternatief voor in de computer wetenschap.

Waar de mens, en haar wetenschap goed in is, is het bedenken van regels voor processen, de algoritmen. Het hoogst denkbare is in de natuurkunde een geuniformeerde theorie die geld op grote schaal, en ook op kleine schaal – zowel voor astronomie als voor deeltjestheorie. Een algoritme bepaalt niet een waarschijnlijkheid, een algoritme berekent exact een uitkomst. Een fundamenteel verschil. Overigens, ook algoritmen kunnen zeer onvoorspelbaar gedrag laten zien. De choastheorie heeft dit laten zien. Een prachtig eenvoudig algoritme vertoont een zeer complex gedrag, soms zelf volkomen chaotisch gedrag. Ook Wolfram heeft hier uitgebreid verslag van gedaan in zij “A New Kind of Science”.  

Harari begint met de definitie van drie doelen die de mens nastreeft, en die de drijfveer vormen voor alle technologisch ontwikkelingen die de mens heeft voortgebracht: onsterfelijkheid, geluk en goddelijkheid. Alle datastromen die op gang zijn gebracht zijn middelen om deze doelen te bereiken.  

Het dataisme van Harari stelt dat andere intelligenties deze middelen op een gegeven moment verder zou kunnen ontwikklen zonder dat daar voor de mens nog een rol is weggelegd. Wat in het beeld van Harari echter ontbreekt zijn de doelen die deze intelligenties dan zouden nastreven. Hij definieert vrijheid van informatie als grootste goed, maar waar moet die vrijheid van informatie zich dan naartoe bewegen?  

P408 Al die kennis en informatie. “Tegenwoordig ben je machtig als je weet wat [welke informatie] je kunt negeren”   Tenslotte nog een opmerking: Intelligentie is niet hetzelfde als het algoritme aanscherpen op basis van data en stochastische processen. Harari geeft geen duidelijke definitie van intelligentie, maar spreekt wel van mogelijk intelligente entiteiten anders dan de mens.   Is intelligentie los te koppelen van een bewustzijn? En als een andere niet-menselijke intelligentie een bewustzijn heeft, gaat deze dan niet aan dezelfde uitdagingen ten onder als de mens in het verhaal van Harari?  

Sloppy Lifebox print, excellent read from Rudy Rucker

lifeboxcover

Annoying: pages 237 through 240 are shuffled in my print of The Lifebox, the Seashell and the Soul. Though not entirely surprising, the crumbly paper was an indicator of a sloppy edition. Maybe it is a collector’s item now. Mail me and you can have it.

I bought it about ten years ago, and recently reread Rudy Rucker’s The Lifebox, the Seashell and the Soul It is a very interesting book, although it smells odd here and there.  

Rucker writes about Alan Turing that Turing ‘apparently was given to bringing home sexual partners he met in the streets.’ What does he mean with that phrasing? For historical facts on Turing, I prefer to rely more on Turing’s biographer Andrew Hodges who wrote the respectable biography Alan Turing: The Enigma. Hodges pictures Turing as naive in confessing his homosexuality (for that time), but also describes him to be rather restraint in getting involved in sexual relationships. What I am sure I haven’t read anywhere is that Turing would go skimming the streets looking for ‘sexual partners’ (sexual partners – is that really correct English?).

Also the idolizing references to Stephen Wolfram’s A New Kind of Science are unnecessary. Wolfram generously takes care of that himself.

Also, Rucker’s habit of regularly quoting his own Science Fiction stories to illustrate his theories begins to annoy me at some point. I understand his frame of reference, but he is not very scientific in this way of providing ‘proof’.

But, as said, the book offers a number of very interesting ideas and visions. I realize I sound so negative, but I really enjoyed the book.

Rucker confirms that Artificial Intelligence – the discipline in Computer Science – has not achieved a lot. After my personal introduction to scientific AI, I became very suspicious. I found it odd that AI was dealing with decision rules, (fuzzy) logic, and the like. And used this awful programming language Prolog. Wasn’t there anything better to focus on in Artificial Intelligence? Cognitive is hot these days, but is it really Artificial Intelligence? A step forward, probably.

Rucker describes the life box—a device that captures every aspect of your life. I’m not sure if he invented the concept, but it is the first time I saw it described in such a realistic, predictive way.

This book has become history. The lifebox is there. People like Cathal Gurrin are walking around with cameras and devices recording everything they do all day.

Douglas Adams’ Salmon of Doubt on Beatles, Bach, Wodehouse, technology, Apple, atheism and hurling the chairs around.

Douglas Adams died young. Aged 49, in 2001.

But in his short life he wrote The Hitchhiker’s Guide to the Galaxy. Enough for a meaningful life.

The Salmon of Doubt bundles the unpublished work he left on his Mac when he died.

When I read about this book first, it promised to be the unfinished sequel to The Hitchhiker’s Guide to the Galaxy. But it is not. At best a very very little bit.

The hitchhiker's guide to the galaxy

The first number of stories are articles Adams wrote for different newspapers and magazines. After 2 thrids into it, the book finally gets to the proposed draft for the 6th sequel of the Hitchhikers Guide. But this part is prefaced with a remark by Adams saying a lot of the material in The Salmon does not work and could be yanked out.
Most of the stories following are unfinished Dirk Gently chapters. Dirk Gently is a bizar detective novel series created by Adams. A different topic than the Hitchhiker’s Guide, very amusing though.

The book starts right off with an introduction by Terry Jones (Monty Python, yes that Terry Jones).

“You are, without doubt, holding in your hands one of the best-introduced books in the English language. We hope you enjoy the Introduction to the New Edition that follows this Introduction to it and continue to read on even into the book itself. “

He is referring to the fact this is the third introduction in sequence to the new edition of the book.

“But with this handsome volume, I hope that Douglas’s work has finally achieved the full complement of Introductions that it deserves. Perhaps future editions might even boast a Foreword and a Foreword to the Foreword, so as to keep Douglas’s wonderful writing to the forefront of properly prefaced literature. Please enjoy this book and, when you have finished it, do not leave it on the train.”

The books has gathered published and unpublished articles and parts of books that are very entertaining but also provide a peak into the mind of the man who created The Hitchhiker’s Guide to the Galaxy, giving the number 42 its special meaning.
He talks about his love for The Beatles.

“It bewildered me that no one else could hear it: impossible harmonies and part playing you had never heard in pop songs before. The Beatles were obviously just putting all this stuff in for some secret fun of their own, and it seemed exciting to me that people could have fun in that way.”

To Adams the English writer P.G. Wodehouse is just as important to English literature as Milton, Shakespeare and Keats.

PG. Wodehouse

“Shakespeare? Milton? Keats? How can I possibly mention the author of Pearls, Girls and Monty Bodkin and Pigs Have Wings in the same breath as these men? He’s just not serious! He doesn’t need to be serious.”

And Bach.

“The familiarity of the Brandenburgs should not blind us to their magnitude. I’m convinced that Bach is the greatest genius who ever walked among us, and the Brandenburgs are what he wrote when he was happy.”

Technology becomes almost an obsession for Adams. He can be real nerdy, is a gadget freak and a life long Apple adept. He writes about the limitations of the technology at that time and the improvements he wants to see. Some are quite predictive. He fulminates about how the different technologies on his Mac do not integrate, and how he wants to see improvements.

“What I want to be able to do is this:

– Turn on the machine.
– Work.
– Have a bit of fun provided I’ve done enough of 2, which is rarely, but that’s another issue.”

(That latter refers to his reputation of being unable to deliver in time and missing deadlines. “I love declines, I love the whooshing noise they make as they go by.” But that’s another issue.)

“What I’m talking about is the death of the “application.” I don’t mean just when they “unexpectedly” quit, I mean it’s time we simply got rid of them.”

He wants his problem of having different devices and still share everything he does on any device. Today IT nerds will start yelling CLOUD immediately before he could have finished his sentence.

“All I want to do is print from my portable. (Poor baby.) That isn’t all I want, in fact. I want to be able regularly to transfer my address book and diary stacks backward and forward between my portable and my IIx. And all my current half-finished chapters. And anything else I’m tinkering with, which is the reason why my half-finished chapters are half-finished. In other words, I want my portable to appear on the desktop of my IIx.”

He wants to get rid of “technology”. His definition of technology is interesting.

“We are stuck with technology when what we really want is just stuff that works. How do you recognize something that is still technology? A good clue is if it comes with a manual.”

The world changes rapidly and Adams describes the need for a vision on what the world will look like in the no so far future, as well as our inability to do so. His reasoning precedes the scientific works of Daniel Gilbert – Stumbling On Happiness – who writes about his scientific findings in similar terms.

“Trying to predict the future is a mug’s game. But increasingly it’s a game we all have to play because the world is changing so fast and we need to have some sort of idea of what the future’s actually going to be like because we are going to have to live there, probably next week.”

“We were wrong about trains, we were wrong about planes, we were wrong about radio, we were wrong about phones, we were wrong about . . . well, for a voluminous list of the things we have been wrong about”

Relating the inability to predict the future to the application of technology, we all have heard some of the horrible technology predictions, for example Worst Tech Predictions).

The one Douglas Adams mentions I had not heard yet, but is equally amusing. Followed by a fabulous prediction from himself.

“One such that I spotted recently was a statement made in February by a Mr. Wayne Leuck, vice-president of engineering at USWest, the American phone company. Arguing against the deployment of high-speed wireless data connections, he said, “Granted, you could use it in your car going sixty miles an hour, but I don’t think too many people are going to be doing that.” Just watch. That’s a statement that will come back to haunt him. Satellite navigation. Wireless Internet. As soon as we start mapping physical location back into shared information space, we will trigger yet another explosive growth in Internet applications. At least—that’s what I predict. I could, of course, be wildly wrong.”

Adams defines himself as an radical Atheist. And he is very serious about this.

“So, I do not believe-that-there-is-no-god. I am, however, convinced that there is no god, which is a totally different stance and takes me on to my second reason.”

He has given this a lot of thought and the chapter on the topic in this book is a logical flow of reasoning that brings Adams to the conclusion that there is no real god, but there is an artificial god.
Adams argues (deduces) that god is what defines life.

“So, in the end, in the absence of an intentional creator, you cannot say what life is, because it simply depends on what set of definitions you include in your overall definition. Without a god, life is only a matter of opinion.”

He links his view on god to his insight in technology and computers. He argues that the complexity of life is not something specific to life itself, but that this can be seen in other forms as well, such as computer programs.

“The computer forms a third age of perspective, because suddenly it enables us to see how life works. Now, that is an extraordinarily important point because it becomes self-evident that life, that all forms of complexity, do not flow downward, they flow upward, and there’s a whole grammar that anybody who is used to using computers is now familiar with, which means that evolution is no longer a particular thing, because anybody who’s ever looked at the way a computer program works, knows that very, very simple iterative pieces of code, each line of which is tremendously straightforward, give rise to enormously complex phenomena in a computer—and by enormously complex phenomena”

Adams of course does not give references to his information source, but Mandelbrot and others have shown (read James Gleick’s Chaos: Making a New Science) that from very simple mathematics, extremely complex phenomena emerge.

It is also unclear of Adams may have been aware of the work of Stephen Wolfram, who published his bible A New Kind of Science on this topic, in 2002, one year after Adams’ death. (Just noticed that, interestingly, both Gleick and Wolfram books refer to the field they  describe in their books as a new science. I am not sure either of them is right in that respect.)

And since there is no longer a God needed to explain the origin of the complexity of life, God in Adams’ definition becomes the explanation of the complexity itself.

“I suspect that as we move farther and farther into the field of digital or artificial life, we will find more and more unexpected properties begin
to emerge out of what we see happening and that this is a precise parallel to the entities we create around ourselves to inform and shape our lives and enable us to work and live together. Therefore, I would argue that though there isn’t an actual God, there is an artificial God, and we should probably bear that in mind.”

Adams realizes his vulnerable position as an atheist and as a person discussing the existence or even necessity of god. His friend Richard Dawkins was heavily criticized at the time about his opinions on religion (this was years before The God Delusion). And he finds this incomprehensible.

“So we are used to not challenging religious ideas, but it’s very interesting how much of a furor Richard creates when he does it! Everybody gets absolutely frantic about it because you’re not allowed to say these things. Yet when you look at it rationally, there is no reason why those ideas shouldn’t be as open to debate as any other, except that we have agreed somehow between us that they shouldn’t be.”

Hence he ends his reasoning on this typic in typical Douglas Adams style.

“That is my debating point, and you are now free to start hurling the chairs around!”