Hoe blijven we de AI's de baas? Ik denk dat het de verkeerde vraag is en dat het antwoord op de juiste vraag ons beschaafder achterlaat.

Een tikfout van vóór mijn geboorte

Sommige lezers kennen mij misschien nog: de toen al half dove practice manager bij Capgemini, in de decennia rond de eeuwwisseling. Ik heb al sinds de jaren '80, onder andere aangedreven door Volmac Vleermuis, kunstmatige intelligentie hoog op mijn aandachtslijstje staan. Ik geniet nu iedere dag van een nieuw versie, nieuwe ideeën of vaak gewoon van het waarmaken wat er al jaren geleden is bedacht, wellicht in een ander jasje. 

Mijn doofheid wordt veroorzaakt door DFNA9. Eén fout in één gen, het COCH-gen, dominant overerfelijk. Het werkt langzaam en onverbiddelijk: eerst de hoge tonen, dan de rest en onderweg neemt het ook je evenwichtsorgaan mee. Geen ongeluk, geen pech onderweg. Gewoon een tikfout die al in mij zat op de dag dat ik geboren werd.

Ik begin daarmee omdat ik de vraag "Hoe blijven we de AI's de baas?" daardoor anders hoor dan de meeste mensen en dat mag je gerust letterlijk nemen. Want precies de technologieën waar we blijkbaar bang voor zijn, is wat me mijn gesprekken teruggeeft. Live ondertiteling die met een halve seconde vertraging meeloopt was tien jaar geleden een dure menselijke schrijftolk. Nu is het software op mijn phone en AI-server thuis of in de cloud. Ik had ook kunnen kiezen voor de "robot-variant", een cochlear implant direct aangesloten op je gehoorzenuw. Ik vond het destijds nog niet goed genoeg. En de techniek die de genetische fout zélf kan repareren, CRISPR/Cas9, bestaat ook al. Ze is alleen in dit geval ook nog niet goed genoeg en beschikbaar voor mij en mijn familie. 

Voor mij behoren deze 3 technologieën tot dezelfde familie: het zijn de technologieën die ons als biologisch wezen verder kunnen brengen dan de evolutie dat tot nu toe heeft gedaan: beter, robuuster, intelligenter. We zijn er wel blijkbaar bang voor.

Ik ben juist niet bang dat het te hard gaat. Ik vind dat het veel te langzaam gaat.

Twee vragen die voortdurend door elkaar lopen

"De baas blijven" betekent twee totaal verschillende dingen en ze worden bijna altijd in één adem genoemd.

Het eerste is controle over de gevolgen: dat systemen doen wat we bedoelen, dat er altijd iemand met een naam aansprakelijk is, dat onomkeerbare dingen niet per ongeluk gebeuren. Dat is een ingenieursvraag. Volstrekt legitiem en er valt echt aan te werken.

Het tweede is bovenaan de piramide blijven: de slimste zijn, de belangrijkste, de soort die beslist. Dat is geen ingenieursvraag maar een statusvraag. Bijna elk pleidooi voor pauzeren begint bij het eerste en eindigt, als je goed luistert, bij het tweede. We zeggen "veiligheid" en we bedoelen "voorrang".

Hoe verdiend is die eerste plaats eigenlijk?

Laten we dan ook eerlijk zijn over wat we verdedigen. Alleen in Nederland slachten we zo'n 1,7 miljoen dieren per dag voor menselijke consumptie. We noemen iemand die niets voelt bij het lijden van een ander een psychopaat en organiseren datzelfde gevoelloze gedrag vervolgens industrieel, netjes buiten beeld, met een keurmerk erop. Oorlog staat elke dag op de voorpagina. De klimaatcrisis is voor een fors deel eigen werk. Liegen, bedriegen en corruptie zijn in de politiek, kijk naar Amerika op dit moment, eerder de norm dan de uitzondering geworden. Wel grappig als je bedenkt dat wij uitgerekend het hallucineren van een AI als hét probleem zijn gaan zien.

Onze normen en waarden zijn prachtig, maar ze beschermen vooral onszelf: de kring waarbinnen ze gelden is altijd precies zo groot als ons eigenbelang toelaat. En ja, er zijn miljoenen mensen die het anders en beter proberen te doen. Maar we zijn met acht miljard en het overgrote deel kiest, al dan niet uit pure noodzaak, voor het eigen belang. Dat is geen verwijt. Het is de rekensom.

Onze suprematie is dus geen moreel mandaat. Het is een machtsfeit, ontstaan doordat wij toevallig als eerste taal, duimen en buskruit hadden. Als iets ons voorbijstreeft, verliezen we geen verdiende plek. We verliezen een gewoonte.

En daar heb ik werkelijk geen moeite mee. Met AI, robotica en CRISPR maken we onze eigen opvolgers. We nemen onze evolutie in eigen hand en voor het eerst gestuurd in plaats van uitgeloot. Dat is niet het einde van de mensheid. Dat is de mensheid die eindelijk iets doet wat blijvend de moeite waard is. Is dat moeilijk en vooral moeilijk te aanvaarden? Vast wel maar dat is geen reden om te stoppen. 

Wie stopt er wel en wie stopt er niet?

De angst is inmiddels groot genoeg dat er serieus wordt opgeroepen tot vertragen, pauzeren of stoppen. Maar een moratorium is geen knop. Het is een verdeling. Wie zich eraan houdt levert in, wie zich er niet aan houdt wint. De labs die het meest over veiligheid nadenken zouden als eerste stoppen. De partijen die er het minst om geven gaan door in stilte, zonder publicatie, zonder toezicht.

Het netto-effect van vertragen is niet minder AI. Het is minder zichtbare AI en minder invloed voor precies die mensen aan wie je die invloed zou willen geven.

De alternatieve route is saaier en veel beter: bouwen in het licht. Meten en publiceren wat systemen kunnen. Aansprakelijkheid bij organisaties met een naam en een adres. En de mens in de lus houden op de plekken waar iets écht onomkeerbaar is. Wapens, ecosystemen, vitale infrastructuur. Niet uit angst voor intelligentie maar omdat onomkeerbaarheid altijd traagheid verdient. Dat is geen rem op de toekomst, dat is een remsysteem. En remmen zitten in een auto zodat je harder kunt rijden.

Fatsoen is een prijsvraag

Beschaving is voor een flink deel een luxeproduct. Zodra alles schaars is, wordt fatsoen duur en dan kiest bijna iedereen zichzelf. Wat AI en robotica vooral doen, is één ding: ze verlagen de kosten van goed zijn. Zorg, diagnostiek, onderwijs, vertaling, toegankelijkheid en straks eiwit zonder slachthuis.

Mijn "ge-vibecode" ondertiteling applicaties zijn daar een microbewijs van. Doven-toegankelijkheid was ooit een dure gunst die je moest aanvragen; nu draait ze bijna gratis mee op een chip. En zodra gekweekt vlees goedkoper is dan een kip, koe of varken, verdampen die 1,7 miljoen per dag vanzelf. Niet omdat wij plotseling betere mensen zijn geworden, maar omdat onze hypocrisie dan niets meer oplevert. Zo werkt moraal in de praktijk: het volgt de prijs, meestal met een generatie vertraging. 

Dat is geen mooie gedachte. Het betekent dat ik niet kan beloven dat we milder worden omdat we beter zijn. Ik kan alleen beloven dat milder worden goedkoper is dan doorgaan. Wie dat te weinig vindt, heeft gelijk. Maar het is meer dan wachten op een knop die niemand indrukt

Waarom het universum misschien zwijgt

Nog een andere invalshoek om onze arrogantie wellicht wat te dempen.

Zelfs met alle correcties op de formule van Drake, en die hebben de kansen inmiddels flink getemperd, blijft het heel goed mogelijk dat wij niet alleen zijn. Zelfs niet op dit moment. En toch zien we niets. Geen half afgebouwde Dyson-sferen, geen energiegebruik op zonneschaal, geen overtuigend bewijs voor buitenaardse bezoekers. Reizen met een flinke fractie van de lichtsnelheid kost bovendien onvoorstelbaar veel energie. We zien in ieder geval nergens de grootschalige technologische sporen die je van expansieve beschavingen zou kunnen verwachten.

De sombere lezing is dat beschavingen zichzelf opblazen voor ze zover komen. Maar er is een andere. Koloniseren is wat je doet zolang uitbreiden makkelijker is dan jezelf beperken. Zo ging het na Columbus met twee continenten, zo gaat het nu op de Westelijke Jordaanoever. En zo praten we inmiddels ook over Mars: "De mensheid moet beschermd worden", terwijl we onderweg de maan al hebben vol gelegd met afval, tot zakjes uitwerpselen aan toe. Dat is niet noodzakelijk de prijs van vooruitgang. Het is vooral goedkoper dan opruimen.

En dat is precies waar AI meer wordt dan gereedschap. Een beschaving die zichzelf intelligenter maakt met CRISPR, robotica en AI, heeft die drift om te koloniseren misschien niet meer nodig. Niet omdat ze moreler is geworden, maar omdat ze slim genoeg is om te zien dat naar binnen groeien goedkoper is dan naar buiten. Zuinig, compact, stil, op astronomische afstand vrijwel onzichtbaar. Misschien is het universum niet leeg maar volwassen.

Ik kies die lezing niet alleen omdat ze prettiger is, maar omdat ze óók past bij wat we werkelijk waarnemen: niets. Als dat klopt, dan is het zwijgen van het universum geen waarschuwing maar een belofte. En dan is de vraag niet of wij de AI's de baas blijven, maar of wij slim genoeg worden om onszelf te laten gaan.

De trap, niet de troon

Het probleem, de angst is dus niet dat we onze eerste plaats kwijtraken. Het is de transitie en vooral het tempo daarvan. Techniek arriveert nooit bij iedereen tegelijk. Ze arriveert eerst bij wie haar kan betalen. Tot nu toe waren de achterblijvers altijd tijdelijk: een generatie later had iedereen elektriciteit, antibiotica, een telefoon.

Maar die geruststelling hangt aan één stille aanname: dat iedere generatie tijdelijk is. Oké, de gemiddelde sterfdatum in dat pensioenspreadsheet schoof wel steeds een beetje op, maar verder dan wat gesteggel over een paar jaar AOW zijn we nooit gekomen. De dood is tot nu toe de grote herverdeler geweest: elke voorsprong werd binnen één leven afgerekend. Als we straks ook veroudering deels temmen, en dat gebeurt met exact dezelfde technologie, dan betekent "tijdelijk" ineens iets heel anders. Wie een generatie achterloopt, loopt dan misschien een eeuw achter. Een voorsprong die niet meer wordt afgerekend, wordt erfelijk. Dan bouwen we geen ongelijkheid meer, maar een kaste.

Daar zit de morele kern en niet in superintelligentie. De vraag is niet "Wat als de AI, robotica en CRISPR ons voorbijstreven?" maar "Wat als een deel van ons het doet en de rest achterlaat?".

Waarom juist IT'ers niet op de rem moeten gaan staan

De vraag "Hoe blijven we AI's de baas" komt niet uit de lucht vallen. Ze komt o.a. van Daan Rijsenbrij en het publiek en de politiek roepen er om. Zelfs de grote spelers beginnen aan de bel te trekken. Deels uit zorg, ongetwijfeld. Maar het is opvallend dat de roep om regulering het luidst klinkt op het moment dat open-weight modellen hun verdienmodel ondermijnen. Wie "veiligheid" zegt terwijl zijn marktaandeel wankelt, vraagt de lezer om een flink vertrouwen. 

Daan waarschuwt al jaren voor de staat van de Nederlandse overheids-IT: te weinig geld, te weinig architectuur, tot aan het ontbreken van een volwaardige IT-ministerspost aan toe. Hij heeft gelijk en het is erger dan een begrotingsprobleem. Er zijn eenvoudigweg niet genoeg mensen die die systemen nog kúnnen lézen. De COBOL-lagen bij de Belastingdienst, een toeslagen-logica die niemand nog in haar geheel overziet. Dat is geen luiheid. Dat is dertig jaar sedimentatie boven op een ontwerp dat daarna nooit meer is bijgewerkt en onderhouden door mensen die intussen met pensioen gaan.

En dat is precies het soort werk waar de nieuwe AI systemen goed in worden. We maken ons nu druk over vibe-coding en deels is dat terecht. Een programmeerrobot die code uitstort die niemand doorgrondt, die zelf aannames doet waar de ontwerper niet om heeft gevraagd, is mogelijk nieuwe legacy in wording. 

Een groot deel van wie dit leest zit net als Daan en ik in het vak. Voor ons zijn AI's geen abstract toekomstbeeld; ze liggen in onze gereedschapskist en we gebruiken ze vandaag. Dat geeft ons meer verantwoordelijkheid en minder excuus dan wie dan ook. En juist dat vak verschuift onder onze voeten. Agents, loops, graphs, systemen die hun eigen output testen, falen en het opnieuw proberen tot het klopt. Wat een AI-systeem al makkelijk kan, en ik heb er dagelijks veel plezier mee, is niet eens zozeer programmeren als wel lezen: tien-duizenden regels spaghetti doorploegen, de impliciete regels eruit destilleren, de dode takken aanwijzen, de tests schrijven die er nooit zijn gekomen en een herontwerp voorstellen dat ik of een ander mens kan beoordelen. Dat is code- en documentatie-archeologie waarvoor we nooit genoeg mensen hebben gehad en nooit genoeg voor zullen krijgen.

Op de schaal van de Belastingdienst of het UWV kan dat wellicht vandaag nog niet. Morgen wel. Daar zit de pointe. Juist de organisaties met de grootste technische schuld hebben het meeste te winnen bij een ontwikkeling die doorzet en het meeste te verliezen bij een pauze. Wie pleit voor betere overheids-IT en tegelijk voor het afremmen van AI, pleit tegen zijn eigen zaak.

Toch klopt er iets niet aan mijn eigen verhaal en dat wil ik niet wegpoetsen. Ik hef hierboven de architect op het schild, maar het vak waarin hij groot is geworden verdwijnt voor een deel. Wij zijn opgegroeid met discrete software. Regels die je kunt lezen, gedrag dat je kunt bewijzen, een fout die je kunt terugvinden. Daar zit onze trots. Wat ervoor terugkomt is probabilistisch. Geen garantie maar een verdeling. Geen bewijs maar een score. Dat komt hard aan in ons vak en bij mij ook, want ik heb mijn hele loopbaan aan de discrete kant gestaan.

Het gebeurt ook niet overal. Rekenen blijft rekenen. Betalingsverkeer, grootboek, registers, alles waar exactheid de bedoeling is blijft discreet en hoort discreet te blijven. Het schuift daar waar we altijd hebben gedaan alsof iets een rekensom was terwijl het een oordeel is. Een toeslag is geen rekensom. Dat hebben we dertig jaar lang wel zo opgeschreven, in steeds meer uitzonderingsregels, tot niemand het meer overzag.

En daar verhuist de architect naartoe. Niet meer voorschrijven hoe het systeem tot een antwoord komt, maar vastleggen waaraan een antwoord moet voldoen. Welke grenzen nooit overschreden worden. Hoe je meet of het klopt. Wat er gebeurt als het model twijfelt. Wie tekent. Minder tekenen dus en meer toetsen. Het verschil is dat een architect straks niet meer wacht op veertig mensen en drie jaar, maar iets aanstuurt dat sneller bouwt dan hij kan nadenken. Dat is geen degradatie van ons vak. Het is een verhuizing en het is voor het eerst in jaren weer echt architectuur.

Niet vertragen, maar de drempel slopen

Als ik mocht bepalen waar de aandacht heen gaat, dan ging er geen euro naar de pauzeknop. Wie wat betaalt en wat er in een basispakket hoort is een politieke vraag en daar blijf ik hier bewust vanaf. Mijn punt gaat over ontwerp en tempo. Wat goedkoop genoeg is hoeft niet verdeeld te worden.

• Bouw voor de laagste drempel, niet voor de hoogste bieder. Een model dat lokaal op bescheiden hardware draait bereikt meer mensen dan een beter model achter een dure poort. Mijn ondertiteling draait op een telefoon en juist daarom heb ik er iets aan.
• Zet de snelheid in op de achterstand. Toegankelijkheid, taal, onderwijs, zorgadministratie. Niet het lucratiefste deel van de markt, wel het deel waar het verschil het grootst is.
• Begin bij de overheids-IT. Daar is de achterstand het grootst en het maatschappelijk rendement per opgeruimde regel code het hoogst.
• Transparantie en aansprakelijkheid boven moratoria. Wie het bouwt zet zijn naam eronder. Dat is controleerbaar. Een pauze is dat niet.

Een eerder pleidooi voor een minister of staatssecretaris van ICT (ik heb dat zelf ooit RijksDataStaat genoemd) onderschrijf ik niet meer. Dat is schuiven van verantwoordelijkheden en de schuldvraag. Misschien wordt het zelfs tijd om af te stappen van discrete code in COBOL of wat dan ook. Misschien moet we leren een AI te vragen wat een rechtvaardige uitkering is gezien de omstandigheden van de betrokken familie. Dat zal nog wel even duren maar het is wel de richting. 

Ik zou op Prinsjesdag dan ook een grootschalig programma aankondigen waarbij de ontwikkeling en implementatie van kunstmatige intelligentie en robotica de hoogste prioriteit krijgt. Ontwikkeling bij universiteiten, uitrol op alle scholen van welke aard dan ook, implementatie bij de alle overheidsinstanties inclusief de semi-varianten en het stimuleren van zowel ontwikkeling en implementatie in het bedrijfsleven bij zelfstandigen, MKB en groter.  

Ouderschap, geen eigendom

Hoe blijven we de AI's de baas? Door de vraag te herformuleren. Je blijft niet de baas over iets dat slimmer is dan jij. Dat lukt met kinderen ook niet en dat is maar goed ook. Wat je wél kunt bepalen, is wat ze van je meekrijgen en of de overgang naar zelfstandige volwassenheid niemand vermorzelt. Dat is ouderschap, geen eigendom. En in ons eigen vak geldt dat het scherpst: wij bouwen deze dingen, wij zien ze als eersten van dichtbij dus zijn wij ook de eersten die ze goed kunnen doen.

Ik hoop dat ik nog meemaak dat DFNA9 een voetnoot wordt. Een tikfout die je op een donderdagmiddag laat repareren, waarna je je jas pakt en naar huis gaat. En ik hoop dat wat na ons komt slimmer is dan wij maar vooral: milder.

Als de prijs daarvoor is dat wij niet langer de slimste en machtigste soort op deze planeet zijn, dan is dat geen prijs. Dan is dat de beste ruil die we ooit gemaakt hebben.

Note: Dit essay is geschreven in samenwerking met een team AI's: ChatGPT Sol, Claude Opus en DeepSeek.