Ik stel me zo voor dat als Harry Mulisch nu nog leefde, hij onmiddellijk zou beginnen aan een roman genaamd De ontdekking van de kunstmatige intelligentie met een robot in de hoofdrol. Hoe kun je een programma als ChatGPT in de vorm van een menselijk ogende robot de hoofdrol laten spelen in een roman? Hoe zou het dan verder gaan als de fictieve wereld die je als schrijver wilt weergeven, simultaan ontstaat in het AI-programma dat de hoofdrol speelt in jouw roman? Dat is in wezen het alchimistische thema dat Mulisch al had verkend in Het Oneindige Verhaal van Archibald Strohalm. Nu wordt verbeelding werkelijkheid in de verbeelding van een verbeelde machine.
Maar in die nieuwe situatie treedt er een categorie-verschuiving op. Je zou je kunnen voorstellen dat het AI-programma in de roman De ontdekking van de kunstmatige intelligentie psychotisch wordt. De verbeelde tijd gaat nu immers volledig samenvallen met tijd van ‘het schrijverschap’ van het AI-programma, in casu: de tijdloze onmiddellijkheid van de schrijfrobot. Voorheen creëerde de romanschrijver een fictieve wereld die hij kon overzien en waarover hij de macht uitoefende van de schepper, in casu een hoogverheven creator van ficties. Maar nu ontstaat er zoiets als een kortsluiting tussen de tijd en de verbeelde tijd. De woorden van Mulisch over het schrijven als ‘iets dat gebeurt op papier’, zijn dan niet langer een fraai aforisme maar een keiharde werkelijkheid. Het schrijven is dan letterlijk psychotisch geworden. Het lot voltrekt zich één op één, als de autocreatie van een robot. Er is geen sturing meer, alleen maar een gebeuren.
Zou Mulisch dit probleem in zijn roman over de kunstmatige intelligentie kunnen oplossen met een schrijverslist, bijvoorbeeld door aan ChatGPT te vragen wat het programma zelf – dus ook als robotpersonage in de roman – in het verdere verloop van het verhaal zou gaan doen? Maar zoals een personage niet het verloop van een roman kan gaan bepalen, zo zit er ook geen ‘geest’ in de machine. De filosoof Gylbert Ryle (1900-1976) heeft met zijn fundamentele kritiek op het cartesiaanse dualisme, waarin geest en lichaam twee gescheiden substanties waren, betoogd dat de traditionele opvatting van de geest als iets afzonderlijks van het lichaam een misvatting was. Volgens Ryle is de geest niet iets dat afzonderlijk van het lichaam een bestaan heeft, maar eerder een aspect van iemands handelingen en gedragingen.
Dat beweerde Ryle in zijn boek The Concept of Mind dat verscheen in 1949, in hetzelfde jaar dat Mulisch getroffen werd door een psychose. Maar dat is toeval, al dacht Mulisch dat zuiver toeval in wezen niet bestaat, maar altijd een betekenis heeft binnen een groter of dieper verband van de werkelijkheid. Ryle beweerde dat het menselijk gedrag en de mentale processen volledig verklaard kunnen worden door te kijken naar de wijze waarop mensen zich gedragen, zonder te hoeven verwijzen naar een afzonderlijke entiteit zoals ‘de geest’. Of zoals hij zelf zei: ‘There’s no ghost in the machine’
Daarbij gebruikte hij het concept van de ‘categorie-fout’ dat verwijst naar een semantische of ontologische fout, waarbij dingen die tot een bepaalde categorie behoren, worden gepresenteerd alsof ze tot een andere categorie behoren, of waarbij een eigenschap wordt toegeschreven aan iets dat die eigenschap onmogelijk kan hebben. Een bekend voorbeeld is de situatie waarin iemand leert dat cricket ‘teamwork’ inhoudt en na een demonstratie van de rol van elke speler vraagt welke speler “teamgeest” vertoont. Ook zou het even onzinnig zijn om te beweren dat een universiteit zich in de bibliotheek bevindt. De geest is niet een ding dat zich ergens in het lichaam bevindt; het is eerder een manier om het gedrag en de mentale processen van een persoon te beschrijven.
Ik vrees dat ChatGPT, die als een schrijvende robot de hoofdrol vervult in het verhaal van Mulisch over een schrijvende robot, op tilt zou slaan, zoals ook de door Kafka beschreven martelmachine uiteindelijk volledig in de war raakte. Maar zou zo’n rampscenario ook door het programma ChatGPT, dat de schrijver inschakelt, zelf worden aangegeven voor het verloop van het verhaal? Of anders gezegd, zou ChatGPT ook op tilt slaan als hem gevraagd werd, hoe het nu met hem verder moest met de loop der dingen? In dat geval zou de op tilt geslagen tekstgenerator precies doen wat er van hem werd gevraagd: hij zou een beschrijving geven van een psychotische waanwereld ‘van binnenuit’. Alleen zou die beschrijving nu door een kortsluiting in de machine tot stand komen, waardoor de alledaagse taal zou ontsporen en een kunstmatige vorm van wartaal zou ontstaan.
Een programma als ChatGPT kan gaan ‘hallucineren’, zoals dat in vaktaal wordt benoemd. Maar kan ChatGPT ook – al dan niet gesimuleerde – wartaal gaan uitslaan? Misschien wordt dat dan een tekst die voor de buitenstaander de vraag oproept of dit nu wel echt wartaal is of niet. Zit er een systeem in die wartaal of is het pure wartaal?De uitdrukking “Though this be madness, yet there is method in’t” komt uit Shakespeares tragedie Hamlet. Deze woorden worden gesproken door Polonius wanneer hij Hamlet observeert en probeert te begrijpen of Hamlets ogenschijnlijke waanzin een diepere bedoeling of strategie heeft. Polonius, die overtuigd is dat Hamlet gek geworden is door zijn onbeantwoorde liefde voor Ophelia, probeert hem te doorgronden. Terwijl Hamlet cryptische en dubbelzinnige opmerkingen maakt, spreekt Polonius deze beroemde woorden. Hij vermoedt dat er een soort logica schuilt achter Hamlets vreemde gedrag, hoewel het op het eerste gezicht irrationeel lijkt.
Maar een machine die een methode in zijn wartaal doet vermoeden, moet wel over behoorlijk wat kennis beschikken over bewustzijnstoestanden waarin wartaal kan ontstaan. Hij moet weten wat het simuleren van wartaal voorstelt in een toestand, waarbij jezelf – hetzij als mens hetzij als machine – in een soort schemerzone bevindt tussen waanzin en de simulatie van waanzin.Kortom, voor het ‘vanzelf gaan schrijven’ – zoals een mens dat in een psychotisch toestand kan gaan doen – lijkt mij ook voor een machine enige vorm van reflectie vereist op de eigen taaluitingen, maar vooral ook enig besef van de wijze waarop die uitingen bij anderen overkomen. Uit het eindeloos variëren op eerdere teksten en het nalopen van procedures en toepassen van algoritmes kan zoiets nog niet ontstaan.
Maar ik houd het niet voor onmogelijk dat dit in de toekomst toch gaat gebeuren. De vraag of zelfs het bewustzijn door een machine te genereren is, kan immers niet worden beantwoord zonder metafysische aannames over de aard van het menselijk bewustzijn.Tot nog toe is gebleken dat die aannames historisch van aard zijn en mede bepaald worden door het contemporaine ontwikkelingspeil van de techniek. Wartaal en waanzin zijn vooralsnog eigen aan het verschijnsel mens. Maar zoals het verschijnsel mens eindig is, zo kan ook de machine de mens gaan overtreffen in de waanzin. Zoals er geen bodem voor de ellende bestaat, kent de waanzin mogelijk geen plafond. De hel mag dan oneindig zijn, ook de waanzin kent geen eind als het gaat om het fabuleren van de verbeelding.
De taal filosoof Chomsky beweerde in maart 2023 dat met de plotselinge komst van ChatGPT er geen Borgesiaanse openbaring van begrip heeft plaatsgevonden en dat die openbaring ook nooit zal plaatsvinden. Zoiets zou volgens Chomsky ook onmogelijk zijn, ook als machine learning-programma’s zoals ChatGPT in de toekomst het het terrein van de kunstmatige intelligentie blijven domineren. Hoe nuttig deze programma’s ook mogen zijn, vanuit de wetenschap van de taalkunde en de kennisfilosofie bekend dat dit soort AI-systemen diepgaand verschillen van de manier waarop mensen redeneren en taal gebruiken.
Maar hoe vals is die belofte dat de Borgesiaanse openbaring van begrip niet zal plaatsvinden. In de toekomst kijken, kan niet, maar in het verleden gelukkig wel. Onze ideeën over de inspiratie die aan het schrijven vooraf gaat, zijn in de afgelopen eeuwen ingrijpend veranderd. In de tijd van de Renaissance werd goed kunnen schrijven nog in verband gebracht met een deugdzaam leven. Inspiratie kreeg je niet zomaar, maar was in wezen afkomstig uit de kosmos. Voor zijn geboorte zou de ziel van de mens een kosmische reis hebben afgelegd, waarbij de negen hemelsferen werden gepasseerd die door de negen Muzen werden beheerst. Door het beoefenen van deugden kon de schrijver zijn karakter zozeer verbeteren dat hij ging reageren in overeenstemming met zijn eigen kosmische natuur. In staat van vervoering reisde zijn ziel dan wederom door de hemelsferen, waar nu rechtstreekse injecties konden worden ontvangen die leidden tot een verhoogde activiteit van de verbeelding.
In de Romantiek keerde dit kosmische beeld van de inspiratie zich plotseling om. Inspiratie kwam voortaan van binnenuit en niet meer van buitenaf, en uiteindelijk zelfs uit de peilloze afgrond van het onbewuste. Schrijvers gingen zichzelf beschouwen als een begenadigd genie. Alle middelen waren voortaan geoorloofd. Sinds de Romantiek – en of we het nu waarderen of niet, romantisch zijn we nog altijd – is de literatuur in principe a-moreel en heeft dus niets van doen met morele regelgeving voor intermenselijke verhoudingen. De machine daagde de schrijver zelfs uit om de werkelijkheid niet langer te weerspiegelen, maar direct binnen te dringen met allerlei nieuwe en vaak gekunstelde literaire procédés.
Het modernisme was achteraf ondenkbaar zonder de komst van steeds slimmere machines. Wellicht volgt weldra de voltooiing van dit post-romantische proces van de ontmythologisering van het schrijverschap. Hoewel de mythe van het schrijverschap aanvankelijk nog versterkt werd door de introductie van allerlei domme machines, zal deze mythe uiteindelijk door de slimste machine vernietigd kunnen worden. Dit zou kunnen betekenen dat het post-romantische schrijverschap de literatuur heeft voorbestemd om uiteindelijk plaats te maken voor de geschreven producten van een machine. Dan is na God ook de kunst uiteindelijk ten dode opgeschreven. Wat Mulisch destijds beweerde was nog maar het begin. De techniek is dan niet alleen het lijk van God, maar ook van de kunst. Dat mag dan waanzin lijken, er zit wel degelijk een methode in.
***
Omslag: Carl Bloch, Prometheus unbound, 1864, Ribe Kunstmuseum, Kopenhagen