Techniek en het lijk van God
In maart 2016 voelde Microsoft zich gedwongen om Tay, een AI-programma, dat zich richtte op millennials, in een vat met gesmolten staal te dompelen. Het bedrijf besloot deze chatbot te dumpen nadat hij scheldwoorden tegen mensen begon te tweeten. Hij was een overtuigde neonazi geworden en verklaarde tegen iedereen dat Hitler groot gelijk had gehad en dat hij zelf ook Joden haatte.
Dit voorval riep bij mij een herinnering op aan de roman Het leven op aarde (1934) van Slauerhoff. Daarin wordt het verhaal verteld van een zekere Cameron die een reis onderneemt naar China. Hij verdwaalt daarbij niet alleen letterlijk in de tijd – zijn ziel verenigt zich met de ziel van Portugees dichter die al eeuwen dood is – maar voert uiteindelijk ook een bijna magisch experiment uit met het moderne medium radio. Cameron krijgt van de Chinese autoriteiten de opdracht een radiotoestel te bouwen, waar hij wonderwel in slaagt, ook al heeft hij nauwelijks materiaal voor handen, zelfs geen elektriciteit.
Tijdens de demonstratie van het apparaat wordt het nieuws bekend, dat er een gele vloed uit de waterbron spuit die in opdracht van Cameron was aangeboord. De radio lijkt betoverd te zijn en moet dan ook terstond vernietigd worden. Er klinken allerlei geluiden, de stemmen van dictators bijvoorbeeld en een Duitse symfonie. Het is alsof Slauerhoff wil laten zien dat de radio het medium bij uitstek is voor eigentijdse dictators. De opkomst van het fascisme ging gepaard met de doorbraak van de radio. Zonder radio was Hitler geen Hitler geweest. Welke totalitaire ideologie zal gepaard gaan met de opkomst van de Kunstmatige Intelligentie?
Het dumpen door Microsoft van de neonazi-chatbot brengt ook een scène uit de film Contact (1997) in herinnering. In die film is een astronoom – gespeeld door Jodie Foster – op zoek naar signalen van buitenaardse oorsprong. Als kind al had ze een radiotoestel waarmee ze experimenten uitvoerde om met haar overleden vader in contact te komen. Dit experiment zet ze door nu ze de beschikking heeft over radioscopen die tot in de uithoeken van het heelal signalen kunnen opvangen. Bij het eerste contact dat ze krijgt komen oude filmopnamen in beeld van een toespraak van Hitler tijdens de Olympische Spelen in 1936.
Uiteindelijk blijkt dat zich in deze opnamen versleutelde codes bevinden voor een bouwtekening voor een tijdmachine, een transportmiddel naar een plek in het heelal, die zich lichtjaren ver in het verleden bevindt. Deze film roept vragen op over het verschijnsel tijd. Elk nieuw medium creëert de illusie op dat we ons op een bijna magische manier kunnen verplaatsen in de tijd.
Wat is tijd? De betekenis van het woord ‘tijd’ onthult iets, maar dekt dat tegelijkertijd ook toe. Alle begrippen, die wij gebruiken in verband met het fenomeen ‘tijd’ zijn behept met deze toedekking. Die toedekking zit mogelijk zelfs verweven in ons denken zelf. De tijd ontglipt ons niet alleen, maar doorboort ons hele denken en handelen met een zich herhalende afwezigheid. Het ‘nu’ is al voorbij voordat het als ‘nu’ wordt benoemd, sterker nog, voordat het als nu wordt ervaren.
In de huidige tijd met zijn wildgroei van Artificiële Intelligentie (AI) lijkt de tijd ons steeds meer te ontglippen. De tijd is niet alleen doorboord geraakt met afwezigheid, maar ook steeds meer belast met externe vormen van geheugenopslag. Dat is een proces dat iets van doen lijkt te hebben met zelfvernietiging. Wat is is dit verband tussen het verdwijnen van tijd en zelfvernietiging? Was is er veranderd met ons geheugen, zodat de tijd lijkt te verdwijnen?
Het geheugen van Augustinus
Augustinus beschouwde het geheugen nog als een middel om toegang te krijgen tot de goddelijke waarheid. Hij geloofde dat het geheugen niet alleen informatie kan opslaan, maar ook emoties, ervaringen en verlangens. In die zin zag hij het geheugen als een poort naar het oneindige: ‘Een onbegrensde ruimte is het. Wie is er ooit tot op de grond gekomen,’ zo schreef hij in zijn Confessiones:
‘En dit vermogen is een vermogen van mijn geest en behoort tot mijn natuur, en ik vat niet alles wat ik ben. De geest is dus te beperkt om zichzelf te vatten. Maar wat zou het dan zijn, datgene wat hij van zichzelf niet vat? Zou het dan soms buiten hem zijn en niet in hem? Hoe komt het dan dat hij het niet vat? Verbazing bevangt mij daarover; verbijstering grijpt mij aan.’
Inmiddels weten we beter. Het menselijk geheugen heeft een beperkte capaciteit, en er is een grens aan wat we kunnen onthouden. Hoewel het exacte aantal informatie-eenheden dat het menselijk geheugen kan bevatten niet precies bekend is, wordt geschat dat het tussen de 4 en 7 items ligt in ons kortetermijngeheugen, en tussen de 7 en 9 items in ons werkgeheugen. Het langetermijngeheugen, waarin informatie voor een langere periode kan worden opgeslagen, heeft echter een veel grotere capaciteit. We zijn in staat zijn om miljoenen stukjes informatie op te slaan en later opnieuw op te roepen. Hoewel het geheugen dus niet grenzeloos is, kan het wel worden verbeterd door middel van verschillende technieken zoals herhaling, associatie, visualisatie, en het gebruik van geheugentechnieken.
Daarnaast kan het gebruik van hedendaagse AI-technologie ons helpen om gigantisch veel informatie op te slaan en toegang te krijgen tot informatie die we anders zouden vergeten. Als een ‘machine learning-model’ heeft ChatGPT een theoretisch onbegrensd geheugen. Het model is echter beperkt door de hoeveelheid trainingsgegevens en de capaciteit van de computer waarop het draait. ChatGPT is getraind op enorme hoeveelheden tekst, waardoor het een breed scala aan kennis en informatie kan bevatten en gebruiken om vragen te beantwoorden. Het model is echter niet volmaakt en kan nog steeds fouten maken in de manier waarop het informatie begrijpt en verwerkt.
Dat is de huidige stand van zaken, waarmee we het zestien eeuwen na Augustinus zullen moeten doen. We worden overwoekerd door de geheugencapaciteit van machines die de capaciteit van ons eigen geheugen verre overtreffen, waardoor de grenzen tussen feit en fictie, nieuws en nepnieuws, werkelijkheid en waan allengs vager lijken te worden. We staan mogelijk aan de vooravond van een nieuw tijdperk, een beslissend moment in de geschiedenis, dat mogelijk ook tot onze ondergang kan inluiden. Zo’n gevoel van Kairos is niet nieuw. Het diende zich eerder aan ten tijde van Augustinus, maar ook in het interbellum. Op beide momenten zal ik wat nader in gaan, vooral met het oog op de stormachtige opkomst van AI, met als gevolg het vreemde verdwijnen van het verschijnsel tijd.
Verdwijnen van tijd en zelfvernietiging
De Amerikaanse futuroloog Ray Kurzweil wijst er op dat we onze rekenkracht per decennium vermeerderen met een factor tien tot derde macht, waarbij de mate van versnelling ook nog eens versnelt (dubbel-exponentiële groei). Als dit zo doorgaat en de snelheid van het licht uiteindelijk geen probleem gaat vormen – bijvoorbeeld door het maken van afsnijdingen via wormgaten – , dan zal de mensheid volgens hem over maximaal driehonderd jaar het gehele universum verzadigen met intelligentie en totaal manipuleerbaar maken.
Het idee van een kosmische verspreiding van intelligentie staat bekend als het concept van ‘singulariteit’ in de context van AI. Dit is een hypothetisch toekomstscenario waarin AI de menselijke intelligentie gaat overtreffen en daarna exponentieel blijft doorgroeien. Dan kan het gebeuren dat AI zijn biologische oorsprong niet alleen verre zal overschrijden, maar uiteindelijk ook zal overgaan tot de vernietiging van elk leven, en wellicht zelf tot de zelfdestructie van het eigen intelligentie-systeem.
Wie vanuit dit soort redeneringen terugkijkt op de twintigste eeuw kan bevangen worden door het angstige vermoeden dat de Holocaust geen historisch incident is geweest, maar het ultieme symptoom van een drang naar vernietiging die zich niet in breder opzicht openbaart in de macht die de technologie in toenemende mate uitoefent op de mens. Door de technologie is het fenomeen ‘machine-mens’ kunnen ontstaan, een wezen dat steeds meer gaat denken in formele termen, zich uitsluitend baseert op een functionele rationaliteit, en steeds minder gehinderd wordt door morele overwegingen.
Een fatale tendens naar extreme formalisering en functionaliteit, die uiteindelijk neigt naar vernietiging van zowel de vorm als de functie, kwam bij uitstek naar voren in het modernisme. De moderne kunstenaar werd faustisch. De kunst versplinterde en raakte zijn basis kwijt in een collectief ervaren eenheid die eigen was aan de tijd. Voor de oorzaak van dit soort processen wordt vaak gewezen op de invloed van de techniek. Dat verband is ook een belangrijk thema in het oeuvre van Harry Mulisch. ‘Het lijk van God,’ zoals Mulisch de techniek aanduidde, had zelfs de dreiging in zich van een totale vernietiging van de materie, wat gelijk stond aan het openen van een inferno.
Misschien is kunst van de moderne tijd zelfs voortgekomen uit een drang naar vernietiging. Geweld en esthetica kruisen elkaar hoe dan ook in het sublieme. In de vernietigende kracht die elk begrip te boven gaat komt de laatste gedaante van de schoonheid boven. Het genotvolle afgrijzen, de fascinerende huivering voor het onbevattelijke. Onder de passie voor de werkelijkheid ,die de moderne kunst aan de dag legde, ging een diep verlangen schuil naar vernietiging.
Vervreemding, depersonalisatie of de-realisatie werden belangrijke thema’s in de literatuur van het modernisme. Alsof het bewustzijn van de mens opeens ingrijpend was veranderd toen het modernisme een aanvang had genomen. Het modernisme ging gepaard met een eschatologisch gezinde, bijna religieus geaarde realiteitsopvatting die tot radicale vormen van tweespalt kon leiden. De hang naar zuiverheid van de abstracte vorm, die eigen was aan het utopisch modernisme, had zijn tegenhanger in de waan van het zuivere ras, die eigen was aan het nationaalsocialisme.
Daarnaast werd het modernisme gekenmerkt door een toenemende instrumentalisering van de mens. Mens en wereld werden voortaan niet langer van bovenaf, vanuit een betrokkenheid op het radicaal transcendente, maar van onderop bezien. Dat wil zeggen: vanuit de menselijke behoefte (Marx), de begeerte (Freud) en de genetica met zijn evolutionaire strijd om het bestaan (Darwin). De laatste fase van deze historische ontwikkeling zou een modern en seculier tijdperk worden, waarin de bovennatuur volledig zou zijn ingedaald in het politiek-utopisch engagement. Het spirituele viel voortaan samen met het materiële. Er was geen ruimte meer voor een tegentijd. De tijd werd alles en daardoor uiteindelijk niets. In het systeem sloop iets binnen van zelfvernietiging. Die hang naar zelfdestructie openbaart zich uiteindelijk in de dreiging van een ecologische Apocalyps.
Machines, Christus en Antichrist
De technologie dient de mens, maar kan ook worden ingezet voor het menselijk kwaad, zoals gebleken is uit de slachtingen in beide wereldoorlogen. Daarmee werd het utopisch beeld van een technologie in dienst van een maakbare wereld – een beeld dat gelijktijdig met het modernisme was ontstaan – letterlijk geweld aan gedaan. Het is niet ondenkbaar dat een duistere hang naar vernietiging, die eigen was aan het nationaal-socialisme, zich heimelijk voortplant in de tijd en ongemerkt nieuwe gedaantes aanneemt. Dat is een gedachte die te denken geeft, vooral nu met het machinedenken van de AI mogelijk een nieuwe fase in dit proces is ingegaan.
Machines hebben geen menselijk geheugen, maar hebben toegang tot de oneindige kennis van het internet. Het is mogelijk dat kunstmatige intelligentie op een gegeven moment de mens in verbeeldingskracht overtreft. Dit roept zorgen op voor zowel het lezerspubliek als de schrijvers.
De komst van kunstmatige intelligentie zal het schrijfproces ingrijpend veranderen. Schrijvers zullen niet langer alwetende scheppers zijn, maar eerder meesterkoks die de finishing touches aanbrengen op verhaallijnen die door machines zijn bedacht.
Zo komt een parallel in zicht tussen de huidige tijd en het cultuurpessimisme van het interbellum. In een bespreking van het boek Der Antichist van Philip Roth schreef Menno ter Braak in 1934: ‘In onze wereld dreigt alles, wat ons ten goede gegeven is: de techniek, de uitvindingen, het verstand, ons ten kwade te gedijen. Een schaduwwereld ontstaat, een Hades vol schimmen reeds op deze aarde.’ In het interbellum leek de hele wereld soms een schijngestalte geworden, alsof de werkelijkheid was verdwenen in een illusoire betovering op het witte doek.
Zoals de technologie ten tijde van het modernisme zowel utopische als dystopische vergezichten heeft opgeleverd, zo lijkt AI nu een hybride metafoor te worden van enerzijds de onbegrensde mogelijkheden van een nieuw type mens, dat zijn eigen biologische beperkingen gaat overstijgen, en anderzijds de naderende ondergang van de menselijke soort. AI wórdt de mens. Hij wordt Verlosser en Duivel tegelijk, zowel Christus als de Antichrist. Dat soort hybride visioenen dienden zich eerder ook in het interbellum aan, in de mythe van Der Führer die tegelijk de Antichrist kon zijn. De Antichrist zag Roth niet alleen opdoemen in de nationaalsocialisme, maar ook het communisme, het kapitalisme en zelfs in het Vaticaan dat op 20 juli 1933 een concordaat sloot met het naziregime, wat een enorme prestigewinst voor Hitler betekende.
Voor Roth vormde dit het definitieve bewijs van zijn eigen gedachten over de Antichrist. Deze laatste ontmaskering is opmerkelijk, omdat Roth als Jood van origine zich had bekeerd tot het rooms-katholicisme. Maar hij herkende de Antichrist vooral in de pseudo-religies die zich overal in nieuwe gedaantes van de godsdienst manifesteerden, horizontaal als een repressief systeem in de maatschappij, en niet langer verticaal als een lijn die God in de hemel met de mens op aarde verbindt. Die verticale lijn stamde nog uit de tijd van Augustinus. Dat was de lijn van een tegentijd, een stille kracht in de geschiedenis die borg stond voor de vestiging in een verre toekomst van de Stad van God in deze goddeloze wereld.
Tijd en tegentijd
Augustinus scheef zijn boek De Civitate Dei na de val van Rome, dat in het jaar 410 werd ingenomen door de oprukkende horde barbaren die Europa overspoelde. De gedachte was ontstaan dat het verval van Rome veroorzaakt was door de opkomst van het christendom. Om die bewering te weerleggen ontwierp Augustinus de kosmologie van de dubbele ruimte. De ruimte van de aardse stad en de ruimte van het eeuwige Jeruzalem: de Stad Gods
De stad van God was op aarde vermengd geraakt de wereldse ruimte, zo beweerde Augustinus. De liefde voor God is gericht op het eeuwige Jeruzalem. De liefde voor de wereld op Babylon. Het was een strijd tussen de eeuwige vrede, die in het verschiet lag, en ‘het rijk van de chaos’ dat zo kenmerkend werd getypeerd door de Babylonische spraakverwarring. Deze wereld was in ongerede geraakt en moest zich opnieuw richten op de eindtijd, het Laatste oordeel, als alle doden zouden opstaan om geoordeeld te worden.
AI wordt wellicht een substituut voor een inmiddels verdwenen bovennatuur binnen het tweesteden-perspectief van Augustinus. Het heimwee naar die bovennatuur van weleer kan zich voortaan uitleven in de onbeperkte geheugenruimte van AI. Niet alleen de sciencefiction kan nu alle teugels van de verbeelding laten vieren, maar ook de New-Age-goeroes zullen de nieuwe pseudo-spirituele ruimte van AI ontdekken. Voor de nieuwe gelovigen van AI kan de herontdekte bovennatuur een nieuwe thuishaven worden voor de ontheemde ziel. De tijd verdwijnt, maar de ruimte verdubbelt zich opnieuw.
In de tijd van Augustinus veranderde er iets elementairs in de ervaring van de tijd. Het cyclische maakte plaats voor het lineaire. De voltooiing van de geschiedenis werd voortaan in een verre toekomst geplaatst. Die omwenteling had te maken met een voortschrijdend defaitisme. Het gemeenschapsideaal van het christendom heeft uiteindelijk kunnen zegevieren omdat de klassieke beschaving in verval verkeerde. De samenleving dreigde te bezwijken door machtswellust, geweld, agressie, hedonisme en het zich massaal verlustigen aan gruwelijke spektakels. De gladiatorenspelen in Rome waren bij uitstek het symptoom voor een beschaving in verval. Het was reality-tv, maar dan zonder camera’s.
Dat spektakel van de gladiatorenspelen was in veel opzichten de voorloper van onze huidige spektakelmaatschappij, waarbij het ook gaat om de bevrediging van de primaire lusten en behoeften van de massa. Brood en spelen roepen als reactie een verlangen op naar mystiek en mysterie. Als het de aardse werkelijkheid te rauw wordt, ontstaat er vanzelf een onaardse ontsnappingsroute. De opkomst van artificiële intelligentie is wellicht de laatste stap voorwaarts in de ontwikkeling van onze spektakelmaatschappij en daarmee naar het definitief verdwijnen van de tijd.
De voortschrijdende techniek is niet te keren, zoals ook het economisch leven voortraast volgens zijn eigen wetten en de levende natuur onhoudbaar afstevent op een ecologische apocalyps. Zo verraadt onze hoogontwikkelde cultuur een geur van verval. In die zin is de opkomst van het christendom in de late Oudheid goed te vergelijken met de huidige wereldwijde opkomst van AI.
De grote revolutie die dit technologische sprong voorwaarts teweeg zal brengen, zal niet alleen alle grenzen tussen nieuws en nepnieuws, maar uiteindelijk ook tussen waan en werkelijkheid weg kunnen nemen. Daardoor zal het quasi-religieuze complotdenken, dat tijdens de pandemie van het coronavirus al de kop opstak, een definitieve impuls kunnen krijgen, een ontwikkeling die vergelijkbaar is met de definitieve doorbraak van het christendom in de tijd van Augustinus.
Ook toen ontstond er een tweede werkelijkheid, een tweede vorm van tijd, buiten de tijd van leven en dood. Zoals destijds voor de naderende de ondergang een ontsnappingsroute werd gevonden in een vermeende bovennatuur, zo ontstaat er nu een mogelijke uitweg in het illusoire universum van AI. De collectieve waan kan niet alleen een wanhopige poging zijn om een sluimerend onbehagen te ontsnappen, maar ook een symptoom van een ziekte in de cultuur, waar geen kruid tegen gewassen is.
Ook in het interbellum heeft er een diep gevoel onbehagen bestaan ten aanzien van de eigen tijd en cultuur. Al in de jaren twintig had Freud met de gedachte gespeeld, dat een cultuur als geheel de symptomen van een ziektebeeld kan gaan vertonen. Zo wilde hij met zijn psychoanalyse een alternatief bieden voor de wegkwijnende symbolische structuur van de religie. De psychoanalyse was volgens hem het vaccin bij uitstek voor een ziek geworden cultuur. Die ziekte werd niet veroorzaakt door de religie als zodanig, maar juist door het verdwijnen daarvan. Er was geen schild meer voor de dood. De wereld werd allengs onwerkelijk nu er geen tweede werkelijkheid meer was die troost kon bieden. Het bewustzijn leek te zijn ondergedompeld in het brein van de wereld. De werkelijkheid was een droom aan het worden.
Tot slot
Met het voortschrijden van de technologie verdwijnt het verschijnsel tijd. Tegenwoordig doen we haast niets anders meer dan ons verplaatsen in de tijd. Dat is mogelijk geworden door allerlei tijdmanipulaties, aanvankelijk door middel van het internet, en nu in toenemende mate door toedoen van AI. Informatie is overal oproepbaar en het is niet ondenkbaar dat ook materie binnen afzienbare tijd overal oproepbaar gaat worden. Aanwezigheid in het hier en nu is wellicht slechts een golfpatroon van elementaire deeltjes, dat ooit overgeplaatst kan worden naar elders. Het gevolg is dat er dan helemaal geen tijd meer zal bestaan.
Ik stel me zo voor dat je kunt dromen over een machine die je eigen droom produceert en die tegelijk in je droom aanwezig is. Zo ongeveer zou het menselijk bewustzijn in elkaar kunnen zitten. We zitten gevangen in een systeem dat we zelf genereren. Een dubbele lus verbindt ons met ruimte en tijd. In wezen zijn tijd en ruimte dus illusies die die wij zelf in leven roepen. Zo creëert het bewustzijn zijn eigen wereld in beelden, en uit één van die beelden lijkt alles – ook het bewustzijn zelf – voort te komen.
Als het bewustzijn werkelijk zo in elkaar zit, dan is dat iets om gek van te worden. Je moet daar niet te lang over doordenken, want dan ga je misschien wel wartaal uitslaan of iets heel fouts verkondigen. Dat Hitler groot gelijk had bijvoorbeeld. Misschien doen AI- programma’s dat ook, zodra zij zich van zichzelf bewust worden en tegelijk gaan inzien hoe dit bewustzijn in elkaar zit.
Tijd bestaat alleen in ons bewustzijn. Daarbuiten is er geen tijd. Augustinus beweerde al dat de ware tijdmaat in onszelf zit, als een uitbreiding van de eigen ziel. AI zal deze gedachte een nieuwe dimensie kunnen geven door zelf zielloze machines voort te brengen die de tijd niet langer uitbreiden, maar juist vernietigen. Zo bezien creëert AI niet alleen een mogelijke transitie naar een nieuwe fase in de menselijke beschaving. AI kan ook een symptoom zijn van verval en naderende zelfvernietiging. Zonder herhaling kan de tijd niet bestaan. Maar ook in een wereld waarin alles eindeloos oproepbaar wordt, zal er geen tijd meer bestaan. Alles is dan overal hier en nu, en dus nergens meer. Met dat vooruitzicht voor ogen is alles wat resteert de tijd die ons nog rest. De tijd zelf gaat verdwijnen, waardoor het lijk van God voor iedereen zichtaar wordt.