Quantum at Qutech and IBM

scientist at work at a white board

The University of Delft has a great introduction to Quantum Computing at Qutech Academy. (Buckle up if you want to follow, get your linear algebra skills dusted of and some physics.) Quantum computing is slowly becoming a reality. Today, It is somewhere between research and reality. Like the state of classical computing in the 1950s / 1960s, the difference is that today, we are better able to assess the potential of such technology than we could imagine what computing would mean in the 1950s.

And it will be big. It’s more impactful and real than the current AI hype.

I dug into the Qutech Academy after attending the Qiskit Summer School by IBM, which was somewhat over my head. But it’s an extremely interesting space well worth digging into.

The cost of AI and other challenges

I stumbled upon this fascinating article by Stuart Mills looking at the challenges that further development and operations of AI models face.

The costs of model development and operation are increasing. Efficiencies in development and operation are challenging but may be addressed in the future. However, model quality remains a significant challenge that is more difficult to solve.

Data is running out. Solutions such as synthetic data also have their limitations.

There is also a severe challenge around chips. There is a supply shortage in the context of geopolitical tensions between China, the US, and the EU. Also, the environmental costs of running large AI models are significant.

The costs of model development and operation are increasing. Efficiencies in development and operation are challenging but may be addressed in the future. However, model quality remains a significant challenge that is more difficult to solve.

Data is running out. Solutions such as synthetic data also have their limitations.

There is also a severe challenge around chips. There is a supply shortage in the context of geopolitical tensions between China, the US, and the EU. Also, the environmental costs of running large AI models are significant.

Two revenue models may emerge in the AI industry, each with its own take on the cost aspects highlighted above. The first is the ‘foundation model as a platform’ (OpenAI, Microsoft, Google), which demands increasing generality and functionality of foundation models.

The second is the ‘bespoke model’ (IBM), which focuses on developing specific models for corporate clients.

Government action can support and undermine the AI industry. Investment in semiconductor manufacturing in the US and China may increase the supply of chips, and strategic passivity from governments around regulations such as copyrights is suitable for the industry. Government interventions should regulate the AI industry in areas related to the socially and environmentally damaging effects of data centers, copyright infringement, exploitation of laborers, discriminatory practices, and market competition.

Portret van een jongeman – J.M. Coetzee

Portret van een jongeman - J.M. Coetzee

In Portret van een jongeman (Youth) vertelt Coetzee het verhaal van een Zuid-Afrikaanse jongeman die schrijver wil worden, maar gevangen zit in zijn angsten.

John is een zorgelijke student die zichzelf veel vragen stelt en niet veel antwoorden heeft. Hij komt niet voor zichzelf op, mensen walsen over hem heen, en als hij ze zat is heeft hij niet het lef om er iets aan te doen. Zelfs zijn studie getuigt van een halfslachtige aanpak: hij studeert wiskunde, maar wil eigenlijk literatuur studeren.

Hij leest veel en kent veel schrijvers. Hij denkt na over de schrijvers die hij bewondert en in het verhaal zijn korte essayistische innerlijke monologen over het werk van deze schrijvers en dichters verweven.

John wil zelf schrijver, kunstenaar worden, maar hij blijft uitstellen en excuses verzinnen.

De kunstenaar hoeft niet moreel bewonderenswaardig te zijn. Die koorts van de kunstenaar maakt de kunst. Dezelfde koorts die hen slecht en immoreel maakt. Het wordt niet duidelijk wat hij precies bedoelt met slecht. Soms spreek hij zichzelf tegen.

Om de dienstplicht in Zuid-Afrika te ontlopen verlaat John Zuid-Afrika en gaat naar Londen. (Hij bezoekt er de boekhandel Foyle’s aan de Thames. Dezelfde Foyle’s uit mijn artikel over What Is The What? Mooi webje.)

Hij vindt zichzelf niet goed genoeg, zijn kijk is niet uniek, daarom ziet hij af van publicatie, en geeft zijn drang om kunst te maken op.

Hij is initiatiefloos. De wereld overkomt hem. Ook in Londen vallen relaties met vrouwen hem in de schoot, maar hij beleeft ze zonder passie, zonder zelf iets te willen van een relatie. Hij laat met zich sollen en is nog steeds niet in staat de relaties maar niet beëindigen als hij er geen heil meer in ziet. Hij is kruiperig en laf.

Hij verandert steeds meer in iemand die zijn ambities heeft verloren.

Zich hechten aan iemand vind hij vernederend.

Zolang zijn moeder leeft behoort zijn leven hemzelf niet toe.

Hij krijgt een baan bij IBM maar laat die na enige tijd achter zich om dichter te worden. Tegen zijn baas bij IBM zegt hij dat hij weg gaat omdat hij geen vriendschappen bij IBM kan maken. Hoewel hij nu de gewenste vrije tijd maakt hij geen gedichten. Hij houdt zichzelf en anderen voor de gek. Ook hier weer spreekt John’s angst voor een mogelijke vernedering.

Na een tijd te hebben gelanterfant gaat hij weer bij een computerbedrijf werken om te programmeren. Hij smacht er niet meer naar om dichter te worden. Maar ook zijn programmeerwerk vind hij betekenisloos. Hij vergelijkt zich met de wetenschappers die volgens hem echt werk doen. De wetenschappers zijn aardig tegen hem, omdat, zo denkt hij, ze hem geen gezichtverlies willen laten lijden.

Hij weet dat hij niet doet wat hij zou moeten doen om dichter te worden. Hij maakt zichzelf wijs dat hij saai zou moeten zijn, maar hij is nu gewoon slecht. Hij zou moeten schrijven maar kan zich er niet toe brengen. Hij heeft niet de wilskracht. Hij accepteert zijn mislukking als schrijver. Bang voor schrijven, bang voor vrouwen. Bang om vernederd te worden. Hij weet dat hij niet de koppigheid heeft om mislukking te incasseren. Daarmee wordt zijn leven voor zichzelf ook betekenisloos. Waarmee de roman eindigt. Hij heeft zichzelf niet kunnen overwinnen. Hij

… speelt zich met iedere zet verder de hoek en de nederlaag in.

EDW 37 – a review of the new IBM 1620

In EWD 37 Dijkstra records a product review of the the new IBM 1620 computer, which came to the market in 1959.
As often, the article starts with a wonderful Dijkstra-esk introduction.

It is a good custom that scientific articles are reviewed and that no publisher ever thinks about starting a lawsuit or any other measures of vengeance against the author of a very unfavourable review of one of his publications.

He continues,

With this in mind it is somewhat curious that it is not customary to review digital computers. Reviews of these scientific instruments are in some respects much more important: it is a pity if you have bought the wrong book, but it is much, much worse if you have bought the wrong computer.

Photo of the IBM 1620 computer

Foto from https://www.columbia.edu/cu/computinghistory/1620.html.

I am not sure if it is the first review of a new computer ever, but it is an interesting one, and it goes quite deep into the technical aspects.
(BTW for the historians amongst us, the 1620 was considered the first “mini-computer”.)

It is my considered opinion, however, that this machine embodies some very fundamental mistakes and certainly after the publication of the two letters mentioned above I regard it as my duty not to remain silent any longer. Manufacturers should be warned for these mistakes in order not to be tempted to incorporate them in their future designs, also machine users should be warned for these mistakes in order to help them in not chosing the wrong machine and in order to create a climate where machines will be judged more by their fundamental properties.

Dijkstra surfaces two major flaws in the design of this computer.
An instruction for constructing subroutines (Branch And Transmit) that is basically unusable because it is impossible to use in nested subroutines.

Another problem Dijkstra identifies is with the design of the paper tape processing. And it wouldn’t be Dijkstra if he would not illustrate this shortcoming with a great metaphor.

But now a curious problem arises: the terminal Record XXX Mark which has been stored is indistinguishable from previous Record Marks which might have been read from the tape, and therefore the machine is faced with a problem that shows a striking resemblance to the prototype of an improper algorithm: a man asking the way and getting the answer “You go straight on and turn to the right just before the last steel bridge.”

Dijkstra goes on to criticize the implementation of the variable field addressing method. He proves the implementation in not only very uneconomic (wasting memory – “cores”), but also severely limiting memory management. So severe that he questions the intelligence of the designers of the computer.

I always wonder whether the designers of such machines have been aware of the restrictive consequences of the technique in question; if so, it is hard to respect their conscious decision to stick to it, if not, are they the people that should have been designing machines? I always wonder……

Looking at these shortcomings they seem quite hilarious, but these were the early days of computing.

Dijkstra concludes his review with a final scathing verdict. Not only the buyers must have been totally ignorant to have bought such a machine, also the manufacturer is to blame.

As the reader will understand, my recent study of the IBM 1620 has been a shocking experience: I knew that it was a rather small machine but I had never suspected that it would embody so many basic blunders. Personally, I cannot undergo such an experience without asking myself what its morals are.
One of the facts we have to face is that this machine, despite of its poor qualities, has been bought or rented. Either the customer is incompetent to judge what he is buying, or the contracts are signed by the wrong persons; in both cases the conclusion is that the fact, that other people have chosen a particular machine, is no guarantee whatsoever as far as its quality is concerned.
…
The next fact that we have to face is that this machine, despite of its poor qualities, has been produced, in this case even by a big firm with a long and considerable experience. The straightforward conclusion is, that nor the size nor the experience is a guarantee as far as the quality of the product is concerned. Well, we can think of various explanations for this apparent inconsistency, but the most obvious explanation predicts still more blunders in the more ambitious and more complicated products of the manufacturer in question.

Thank you very much. There you go, IBM.