AI considered not so harmful
Cal Newport, hoogleraar informatica, schrijver en podcaster, ontkracht de hysterische reacties op de nieuwste ontwikkelingen op het gebied van AI. Deze hysterie is grotendeels te wijten aan de aandachtzoekende houding van de media, en niet zozeer aan onderzoek dat met wetenschappelijke nauwkeurigheid is uitgevoerd. “We have summoned an alien intelligence,” schrijft Harari, die langzaam maar zeker verandert in een luddite en technologiepessimist.
Cal Newport doet wat Harari en anderen hadden moeten doen. In zijn Deep Questions-podcast ‘Defusing AI panic’ ontleedt hij het onderwerp.
Only by taking the time to investigate how this technology actually works—from its high-level concepts down to its basic digital wiring—can we understand what we’re dealing with.
Cal Newport legt uit wat ChatGPT werkelijk doet en hoe intelligent het is. We zullen zien dat dat nogal beperkt is.
The result of these efforts might very well be jaw-dropping in its nuance and accuracy, but behind the scenes, its generation lacks majesty. The system’s brilliance turns out to be the result less of a ghost in the machine than of the relentless churning of endless multiplications.
…
A system like ChatGPT doesn’t create, it imitates.
…
Consciousness depends on a brain’s ability to maintain a constantly updated conception of itself as a distinct entity interacting with a model of the external world. The layers of neural networks that make up systems like ChatGPT, however, are static…
…
It’s hard to predict exactly how these large language models will end up integrated into our lives going forward, but we can be assured that they’re incapable of hatching diabolical plans, and are unlikely to undermine our economy.
In de podcast gaat Cal Newport wat dieper in op de technische details. Uit het transcript (door mij licht bewerkt wat betreft de interpunctie):
What a large language model does is it takes an input. This information moves forward through layers. It’s fully feed forward and out of the other end comes a token which is a part of a word in reality. It’s a probability distribution over tokens but whatever a part of a word comes out the other end that’s all a language model can do. Now, how it generates what token to spit out next can have a huge amount of sophistication …
When I talk to people is when you begin to combine this really really sophisticated word generator with control layers. Something that sits outside of and works with the language model that’s really where everything interesting happens . Okay this is what I want to better understand: the control logic that we place outside of the language models that we get a better understanding of the possible capabilities of artificial intelligence because it’s the combined system language model plus control logic that becomes more interesting. Because what can control logic do?
It can do two things: it chooses what to activate the model with, what input to give it and it can then second: actuate in the real world or the world based on what the model says. So it’s the control logic that can put input into the model and then take the output of the model and actuate that, like take action, do something on the Internet, move a physical thing.”
Something I’ve been doing recently is sort of thinking about the evolution of control logic that can be appended to generative AI systems like large language models…
Als je naar de afbeelding kijkt die ik na de podcast van Cal Newport heb gemaakt, zie je de verschillende besturingslagen. Zoals Cal Newport aangeeft, wordt daar het echte werk verricht. De LLM is statisch; hij geeft een woord, en dat is alles. Die besturingslogica weet wat er met het werk moet gebeuren.
De besturingslogica is nu complexer geworden. We weten beter wat we moeten doen met de antwoorden die AI ons geeft.
Newport fantaseert over een derde besturingslaag die met verschillende AI-modellen kan communiceren, de intentie kan bijhouden, visuele herkenning heeft en complexe logica kan uitvoeren. Dat is waar we in de buurt komen van Algemene Kunstmatige Intelligentie.
Maar, zoals Newport opmerkt, is er niemand die hiermee bezig is.
Minstens even belangrijk is dat deze besturingslogica volledig door mensen wordt geprogrammeerd. We zijn nog lang niet zover dat we te maken hebben met door AI gegenereerde besturingslogica en zelflerende besturingslogica. Wat Newport ‘intentional AI’ (iAI) noemt. Het is onduidelijk of dit met onze huidige AI-technologie wel mogelijk is.
Het is juist in de besturingslogica waar de spannende dingen gebeuren.
Het zijn nog steeds mensen die de besturingslogica verzorgen.
In 1990 studeerde een vriend van mij af in fuzzy logic. Die periode was waarschijnlijk het hoogtepunt van de hype rond fuzzy logic. Fuzzy logic was een van de technologieën die de samenleving op zijn kop zouden zetten. Tegenwoordig is fuzzy logic gewoon een technologie die, net als andere, wordt toegepast voor het juiste doel en binnen de juiste probleemstelling.
Wat vandaag de dag op sciencefiction lijkt, is de gangbare technologie van morgen. De AI van vandaag is het loodgieterswerk van morgen. Dat is mijn interpretatie van Cal Newports’ uitleg over de huidige stand van zaken op het gebied van AI.
Update 11 juni 2026
In een recente podcast van Cal Newport neemt hij opnieuw de apocalyptische en overdreven technofobische uitspraken van historicus Yuval Noah Harari over AI onder de loep en komt hij opnieuw tot de slotsom dat deze overdreven en technisch inaccuraat zijn. Harari stelde tijdens een speech in Davos dat AI een zelflerende ‘agent’ is die kan liegen en manipuleren om te overleven. Newport legt uit dat dit een verkeerd beeld geeft van de huidige computerwetenschap.
Volgens Cal zijn huidige AI-systemen (zoals LLM’s) in essentie statische “verhalenmachines”. Ze veranderen of groeien niet uit zichzelf. LLM’s voorspellen simpelweg het volgende logische woord op basis van hun training. Als een chatbot ‘liegt’ of zich gedraagt als een kwaadaardige AI, komt dat puur doordat de gebruiker een prompt geeft die hints bevat naar sciencefiction-achtige scenario’s. De AI maakt die verhalen vervolgens alleen maar geloofwaardig af.
Daarnaast falen AI-agents (de programma’s die plannen uitvoeren) volgens Newport nog steeds massaal, afgezien van specifieke programmeertoepassingen. LLM’s kunnen simpelweg niet logisch plannen.
Newport neemt het Harari niet persoonlijk kwalijk. Harari is een historicus die reageert op de overgehypte verhalen die Silicon Valley de wereld in slingert. Harari reflecteert dus prima op het verhaal dat hem verteld is, maar dat onderliggende verhaal klopt volgens Newport simpelweg niet met de technische realiteit.
Ik vind zelf echter dat Harari wel degelijk laakbaar is. Hij presenteert zich als AI-kenner, schrijft er in zijn boeken over en geeft er in veel interviews zijn mening over. Hij zou zich beter moeten laten voorlichten en niet moeten meesurfen op de hypes die vanuit Silicon Valley worden gecreëerd om de enorme investeringen in AI goed te praten, of zelfs om meer geld op te kunnen halen.
