Hype rond AI-doemscenario’s en AI-vibecafés: de governancevragen die we ons niet kunnen veroorloven te missen

Zijn we ten dode opgeschreven? Is AI bewust? En waarom openen AI-bedrijven cafés?

Deze vragen spreken tot de verbeelding, zijn verontrustend en — vooral als het om bewustzijn gaat — werkelijk moeilijk. Ze hebben bovendien gemeen dat ze ons gemakkelijk naar de meest speculatieve of emotioneel aansprekende aspecten van het AI-verhaal trekken. Intussen geven minder dramatische vragen nu al mede vorm aan het leven van mensen: wie is verantwoordelijk als een AI-systeem schade veroorzaakt? Welke gegevens en arbeid maakten dat mogelijk? Welke beslissingen mag het systeem beïnvloeden? En wie mag daarover meepraten?

Ik ga er niet per se van uit dat iedereen die existentiële risico’s aankaart, machinebewustzijn bespreekt of een café opent, dat doet om die vragen uit de weg te gaan. Elk onderwerp kan op zichzelf onze aandacht verdienen. Maar onze aandacht is beperkt. Wanneer een dramatisch verhaal centraal komt te staan, is het de moeite waard om te vragen wat daardoor buiten beeld is geraakt.

De aantrekkingskracht van tastbare AI

De AI-sector is begonnen haar grotendeels ontastbare producten een fysiek adres te geven. Anthropic nodigde bezoekers in de ‘Zero Slop Zone’ in New York uit om het rustiger aan te doen met koffie, boeken en pen en papier; Perplexity opende Cafe Curious, een café in Seoul waar de AI van het bedrijf deel uitmaakt van de ervaring. Berichtgeving over de pop-up van Anthropic en het café van Perplexity in Seoul beschrijft twee verschillende pogingen om abstracte technologie een plek te geven in een alledaagse, sociale omgeving.

Dat is ergens wel begrijpelijk. De meeste mensen kunnen een taalmodel niet zien, de infrastructuur erachter niet bekijken en zich moeilijk voorstellen wat er tussen een prompt en een antwoord gebeurt. Een café biedt een soort tastbare vervanging: een ruimte, een kop koffie, een gesprek. Het kan een bedrijf en zijn technologie toegankelijker maken — en misschien ook begrijpelijker.

Er is ook nog een tweede laag. Een fysieke ruimte maakt een bedrijf zichtbaar in een gemeenschap. Ze zegt op zijn minst: ‘we zijn hier, op deze plek, voorlopig’. Dat kan geruststellend aanvoelen in een sector waar producten, beleidsregels en verwachtingen snel veranderen. Maar zichtbaarheid is niet hetzelfde als verantwoordelijkheid. Een gastvrije ruimte kan technologie vertrouwder laten aanvoelen, zonder ons te vertellen hoe die is getraind, in welke situaties die betrouwbaar is of welke mogelijkheden iemand heeft om verhaal te halen als het systeem iets belangrijks verkeerd doet.

Dat onderscheid doet denken aan een idee waar ik al jaren op terugkom: digitale ervaringen zijn nooit alleen digitaal. Ze komen samen met mensen op bepaalde plekken, in relaties en binnen instellingen. De ontwerpvraag is niet alleen hoe je een AI-systeem toegankelijk laat aanvoelen. Het gaat erom of de ervaring mensen helpt de beperkingen van het systeem te begrijpen en zelf betekenisvolle zeggenschap te behouden.

Het debat over bewustzijn — en de mensen die nu al gevolgen ondervinden

Datzelfde onderscheid is van belang in debatten over AI-bewustzijn. Er bestaat oprechte onenigheid over de vraag of machinebewustzijn mogelijk is, welk bewijs daarvoor zou tellen en hoe onzekerheid onze verantwoordelijkheden moet beïnvloeden. Anil Seths betoog in Noema stelt dat intelligentie en bewustzijn niet als inwisselbaar moeten worden beschouwd; recente berichtgeving in The Guardian zet ook uiteen waarom de kwestie nog niet is beslecht. Dit debat laat zich niet met eenvoudige antwoorden afdoen.

Onzekerheid over het innerlijke leven van een machine maakt vragen over de gevolgen voor mensen vandaag de dag echter niet onzeker. Verantwoordelijkheid begint niet pas wanneer we hebben vastgesteld wat bewustzijn is. Ze begint zodra organisaties systemen bouwen, inzetten en eraan verdienen die gevolgen hebben voor mensen.

Denk aan de vragen die we nu al kunnen onderzoeken. Welke informatie is gebruikt om een systeem te trainen, en onder welke voorwaarden? Wie bereidt de uitvoer voor en controleert die? Hoe presteert het systeem bij verschillende groepen? Wat gebeurt er wanneer een systeem wordt gebruikt in de gezondheidszorg, bij personeelswerving, in het onderwijs of bij openbare diensten? Kan iemand bezwaar maken tegen een geautomatiseerde aanbeveling, een menselijke beslisser bereiken en een zinvolle uitleg krijgen?

Dit zijn geen hypothetische zorgen. Een overzicht van vooringenomenheid in medische AI beschrijft hoe bevooroordeelde gegevens en ontwerpkeuzes kunnen bijdragen aan ongelijke klinische beslissingen. Onderzoek naar AI en werkgelegenheid staat intussen nog in de kinderschoenen: de arbeidsmarktanalyse van Anthropic biedt één manier om de mate van blootstelling te meten, terwijl het overzicht van het Hamilton Project waarschuwt dat het bewijs voor brede effecten op de arbeidsmarkt onvolledig blijft. Deze bronnen wijzen in verschillende richtingen als het gaat om wat we vandaag kunnen concluderen, maar onderstrepen wel dat we effecten moeten meten in plaats van stellige verhalen in de plaats van bewijs te stellen.

Er schuilt een verwant risico in de manier waarop we over systemen praten. Mensachtige namen, stemmen en gesprekstijlen kunnen AI meer als een persoon dan als een product laten aanvoelen. Dat kan invloed hebben op vertrouwen en op de mate waarin mensen op de antwoorden ervan afgaan. Het is redelijk om te vragen of gesprekken over bewustzijn of antropomorf ontwerp de aandacht kunnen afleiden van de organisaties die de doelstellingen en beperkingen van het systeem bepalen. Een analyse in MIT Technology Review stelt dat verhalen over bewustzijn vragen over de verantwoordelijkheid van bedrijven kunnen vertroebelen. Dat is een argument over de gevolgen van die beeldvorming — geen bewijs dat iedereen die de kwestie aankaart een verborgen motief heeft.

Doemdenken is geen governanceplan

Existentiële risico’s verdienen serieuze aandacht. Dat er gevaren op kortere termijn bestaan, maakt catastrofale gevolgen niet minder belangrijk; de mogelijkheid van een catastrofe maakt gevaren op kortere termijn evenmin minder belangrijk. We hoeven niet voor één tijdshorizon te kiezen en de andere te negeren.

Maar wanneer ‘Zijn we ten dode opgeschreven?’ het hele gesprek gaat beheersen, raken risico’s op lange termijn opnieuw ondergesneeuwd door de gevaren van vandaag. Ondergang kan klinken als een conclusie in plaats van een aansporing om in actie te komen: als de uitkomst onvermijdelijk is, waarom zouden we dan de moeilijke taak op ons nemen om die te veranderen? Een artikel in The New Yorker over een cursus over existentiële risico’s beschrijft de vraag van een student over ‘een kathedraal bouwen’: waarom zou je je inzetten voor iets dat langer kan bestaan dan jijzelf, als je denkt dat de wereld zou kunnen vergaan? Het antwoord is niet dat de risico’s verdwijnen. Het is dat onzekerheid ons vermogen — of onze verantwoordelijkheid — niet tenietdoet om te bepalen wat er hierna toe doet en mede vorm te geven aan wat er vervolgens gebeurt.

Dat bedoel ik met mijn filosofie van ‘strategisch optimisme’. Het is geen luchtig ‘alles komt goed’ en ook geen weigering om naar bewijs te kijken. Het betekent dat we reële risico’s erkennen, eraan werken die te beperken en en ons tegelijkertijd serieus inzetten voor een toekomst die de moeite waard is. Hoop is niet het tegenovergestelde van grondigheid. Hoop kan ervoor zorgen dat grondigheid verbonden blijft met handelen.

De bestuursvragen achter het spektakel

Of een organisatie nu een AI-tool aanschaft, er zelf een bouwt of er beleid voor opstelt: de praktische vragen zijn minder spectaculair dan een café of een bewering over bewustzijn — en nuttiger:

• Doel: Welk probleem moet het systeem oplossen, en is AI daarvoor het juiste middel?
• Bewijs: Hoe is het systeem getest, ook bij uiteenlopende gebruikers en minder vaak voorkomende gevallen?
• Grenzen: Welke beslissingen moeten door een mens worden genomen, en wat kan het systeem niet?
• Verantwoordingsplicht: Wie is verantwoordelijk als het systeem tekortschiet, en hoe kunnen betrokkenen bezwaar maken?
• Transparantie: Kunnen mensen begrijpen wanneer AI wordt ingezet en welke informatie de uitkomst heeft beïnvloed?
• Doorlopend toezicht: Wie houdt na de ingebruikname toezicht op de prestaties, veranderende gegevens en onbedoelde effecten?

Kaders zoals het AI-risicobeheerkader van NIST bieden organisaties een gestructureerde manier om risico’s gedurende de levenscyclus van een AI-systeem in kaart te brengen en te beheersen. Geen enkel kader kan het menselijk oordeel of het publieke debat vervangen, maar governance wordt concreter wanneer verantwoordelijkheden, tests en mogelijkheden tot verhaal expliciet zijn vastgelegd.

Ook de fysieke laag moet worden bestuurd. AI is afhankelijk van datacenters, elektriciteit, water, grond en financiering — niet alleen van interfaces. Berichtgeving over de financieringsstructuur van een groot datacenterproject roept vragen op over de manier waarop infrastructuurrisico’s openbaar worden gemaakt en wie er uiteindelijk voor opdraait. Een café kan mensen kennis laten maken met AI, maar kan op zichzelf de infrastructuur achter AI niet inzichtelijk maken.

Geniet dus van het café. Stel de grote vragen over bewustzijn. Neem catastrofale risico’s serieus. Richt je daarna weer op de beslissingen die we nu kunnen onderzoeken en beïnvloeden: wat er wordt gebouwd, wie ervan profiteert, wie de kosten draagt en welke waarborgen er zijn als er iets misgaat.

De toekomst is geen oordeel dat een krantenkop over ons uitspreekt. Ze bestaat uit keuzes — gemaakt door bedrijven, instellingen, overheden en gemeenschappen — die nog altijd ter discussie kunnen worden gesteld en veranderd. De nuttigste vraag is niet alleen of we ten onder gaan. Het gaat er ook om onder welke voorwaarden AI het menselijk welzijn en de ontplooiing kan bevorderen, en wat we bereid zijn te doen om die voorwaarden te verwezenlijken.