Toen ik eind 2009 bezig was aan de laatste loodjes van dit boek, stuitte ik op een klein krantenbericht. Edexcel, de grootste Engelse firma die zich bezighoudt met het maken van schooltoetsen, kondigde aan dat het zou beginnen met een ‘geheel geautomatiseerde, op kunstmatige intelligentie gebaseerde correctie van examenessays’. Het gecomputeriseerde beoordelingssysteem zou de essays die Britse studenten schrijven als onderdeel van een taalvaardigheidstest ‘lezen en beoordelen’. Een woordvoerder van Edexcel, onderdeel van de mediagigant Pearson, verklaarde dat het systeem ‘de nauwkeurigheid van menselijke correctoren garandeerde en tegelijkertijd menselijke elementen als vermoeidheid en subjectiviteit uitschakelde’, zo stond te lezen in The Times Education Supplement. Een deskundige op het gebied van toetsen vertelde de krant dat de gecomputeriseerde beoordeling van essays een onvermijdelijke ontwikkeling was. ‘De vraag is niet “of” het systeem ingevoerd gaat worden, maar “wanneer”.’¹

Hoe, zo vroeg ik me af, zou de software van Edexcel die zeldzame studenten eruit weten te pikken die afwijken van de conventies voor het schrijven van een essay, niet omdat ze geen essay kunnen schrijven, maar juist omdat ze toevallig briljant zijn? Het antwoord wist ik al: de software zou dat niet kunnen. Computers volgen regels, zoals Joseph Weizenbaum al opmerkte; ze geven geen oordeel. In plaats van subjectiviteit geven ze ons formules. Het verhaal maakte eens te meer duidelijk dat Weizenbaum een vooruitziende blik had toen hij tientallen jaren geleden waarschuwde dat naarmate we meer gewend raken aan en afhankelijk worden van onze computers, we in de verleiding komen hun ‘taken toe te vertrouwen die wijsheid vergen’. En als we dat eenmaal doen, is er geen weg meer terug. De software zal voor die taken onmisbaar worden.

De verleidingen van de technologie zijn moeilijk te weerstaan, en in dit tijdperk van instantinformatie lijkt het alsof iedereen opgetogen is over zaken als snelheid en efficiency. Niemand zet daar vraagtekens bij. Maar ik blijf hopen dat wij niet zonder slag of stoot een toekomst tegemoet gaan die computeringenieurs en programmeurs voor ons hebben uitgestippeld. Zelfs al geven we geen direct gehoor aan Weizenbaums woorden, dan nog zijn we het aan onszelf verplicht om erover na te denken en ons af te vragen wat er op het spel staat. Het zou triest zijn, zeker wanneer we denken aan de opvoeding van onze kinderen, als we zonder meer het idee zouden aanvaarden dat ‘menselijke elementen’ verouderd en overbodig zijn.

Het verhaal over Edexcel deed me ook weer denken aan de slotscène van 2001. Het is een scène die me is blijven achtervolgen sinds ik de film voor het eerst zag in de jaren zeventig, halverwege mijn analoge jeugd. Wat de scène zo schrijnend en bizar maakt, is de emotionele reactie van de computer wanneer zijn brein onttakeld wordt: zijn wanhoop als het ene na het andere circuit op zwart gaat, de smekende, bijna kinderlijke manier waarop hij tegen de astronaut zegt: ‘Ik kan het voelen. Ik kan het voelen. Ik ben bang’, en zijn uiteindelijke terugkeer naar wat alleen maar een toestand van onschuld genoemd kan worden. De manier waarop HAL zijn gevoelens uit, staat in schril contrast met de gevoelloosheid van de menselijke figuren in de film die hun taken met een bijna robotachtige efficiëntie uitvoeren. Hun gedachten en gevoelens lijken uitgeschreven als een script, alsof ze de stappen van een algoritme volgen. In de wereld van 2001 zijn mensen zozeer op machines gaan lijken dat de meest menselijke figuur een machine blijkt te zijn. Dat is de kern van Kubricks sombere voorspelling: naarmate we vertrouwen op computers als middel om de wereld te begrijpen, vervlakt onze eigen intelligentie tot een kunstmatige.