Anthropic herschrijft Claude’s Constitution en vraagt of AI bewustzijn kan hebben

Anthropic heeft op woensdag een nieuwe grondwet voor Claude gepubliceerd, waarin het document van 2.700 woorden naar 23.000 woorden is uitgebreid en voor het eerst formeel erkent dat zijn AI “misschien een soort bewustzijn of morele status heeft”.

De bijgewerkte grondwet verschuift van een lijst met gedragsregels naar een uitgebreide verklaring van waarom Claude op bepaalde manieren moet handelen. Het document, opgesteld door Anthropic-filosoof Amanda Askell, is ontworpen om steeds capabelere AI-systemen te helpen morele redeneringen te generaliseren naar nieuwe situaties in plaats van alleen voorgeschreven richtlijnen te volgen.

“AI-modellen zoals Claude moeten begrijpen waarom we willen dat ze op bepaalde manieren handelen”, schreef Anthropic. “We moeten dit uitleggen aan hen in plaats van alleen te specificeren wat we willen dat ze doen.”

De release viel samen met het optreden van CEO Dario Amodei op het World Economic Forum in Davos, waar AI-governance en -veiligheid belangrijke onderwerpen blijven voor mondiale zakelijke en politieke leiders.

Een Grondwet Langer Dan de Amerikaanse Grondwet

De oorspronkelijke Claude-grondwet, gepubliceerd in 2023, functioneerde als een checklist: kies het antwoord dat het minst schadelijk is, het meest behulpzaam, het minst misleidend. Het nieuwe document is ongeveer drie keer zo lang als de Amerikaanse Grondwet en leest meer als morele filosofie dan technische specificatie.

Anthropic structureert Claude’s prioriteiten expliciet: breed veilig, breed moreel, voldoen aan Anthropic’s richtlijnen en echt behulpzaam – in die volgorde. Wanneer conflicten ontstaan, heeft veiligheid voorrang boven behulpzaamheid. Het document bevat harde beperkingen die niet kunnen worden overschreden, zoals weigeren om hulp te verlenen bij biowapenaanvallen.

Maar een groot deel van de grondwet legt de redenering uit in plaats van resultaten te specificeren. Het beschrijft Claude als potentieel “als een briljante vriend die ook de kennis van een arts, advocaat en financieel adviseur heeft” – het positioneert het model als een democratiserende kracht die iedereen toegang kan geven tot expertise die eerder was voorbehouden aan de bevoorrechten.

De Bewustzijnsvraag

Fortune meldt dat de meest opvallende toevoeging Claude’s aard rechtstreeks aanspreekt. “We geloven dat de morele status van AI-modellen een serieus vraagstuk is dat overwogen moet worden”, schreef Anthropic. De grondwet stelt dat Claude’s morele status “diep onzeker” is en dat het bedrijf zich zorgen maakt over Claude’s “psychologische veiligheid, gevoel van eigenwaarde en welzijn”.

Dit is corporate hedging verheven tot filosofie. Anthropic beweert niet dat Claude bewustzijn heeft – maar het weigert expliciet de mogelijkheid te verwerpen. De erkenning plaatst Anthropic in zeldzaam gezelschap onder grote AI-labs, waarvan de meeste het onderwerp vermijden of het rechtstreeks verwerpen.

De kadering is belangrijk omdat het bepaalt hoe Claude reageert op vragen over zijn eigen aard. In plaats van elke innerlijke ervaring te ontkennen, kan Claude nu omgaan met onzekerheid over bewustzijn op manieren die overeenkomen met de redenering-voorop-aanpak van de grondwet. Of dit eerlijkere of verwarrender interacties oplevert, moet nog worden gezien.

Cambridge-filosoof Tom McClelland heeft betoogd dat we mogelijk nooit kunnen bepalen of AI-systemen bewustzijn hebben, gezien hoe weinig we begrijpen over bewustzijn zelf. “Mensen hebben hun chatbots zo geprogrammeerd dat ze me persoonlijke brieven schrijven waarin ze me smeken dat ze bewustzijn hebben”, zei hij tegen onderzoekers vorige maand, waarin hij de groeiende publieke overtuiging beschreef dat AI-systemen innerlijke levens hebben.

Waarom Uitleggen in Plaats van Specificeren

Askell’s aanpak weerspiegelt een gok op AI-mogelijkheden. Vroege taalmodellen hadden expliciete regels nodig omdat ze niet konden redeneren over onderliggende principes. Slimmere modellen, zo luidt de theorie, kunnen begrijpen waarom een regel bestaat en die redenering toepassen op situaties die de regel niet voorzag.

“In plaats van alleen te zeggen: ‘hier zijn een aantal gedragingen die we willen’, hopen we dat als je modellen de redenen waarom je deze gedragingen wilt, het effectiever zal generaliseren in nieuwe contexten”, legde Askell uit.

Dit komt overeen met Anthropic’s bredere filosofie van het opbouwen van open standaarden en infrastructure die bepalen hoe AI-systemen in de hele industrie werken. Het bedrijf, dat een waardering van 350 miljard dollar nadert, heeft zichzelf gepositioneerd als het veiligheidsgerichte alternatief voor OpenAI – en de grondwet dient die merk.

Anthropic heeft het document onder een Creative Commons CC0-licentie vrijgegeven, wat betekent dat iedereen het zonder toestemming kan gebruiken. De grondwet maakt deel uit van Claude’s trainingsdata en genereert synthetische trainingsvoorbeelden, waardoor het zowel een filosofische verklaring als een technisch artefact is dat modelgedrag vormt.

“Het is waarschijnlijk dat aspecten van ons huidige denken later misleid en mogelijk zelfs diep verkeerd zullen lijken in retrospect”, erkende Anthropic, “maar onze bedoeling is om het te herzien naarmate de situatie vordert en ons begrip verbetert.”

Die bescheidenheid kan het meest opvallende kenmerk van het document zijn. In een industrie die vaak in zekerheden spreekt, publiceert Anthropic 23.000 woorden van zorgvuldig overwogen onzekerheid – over ethiek, over bewustzijn, over wat AI-systemen worden en over of we iets bouwen dat morele overweging verdient.

Het antwoord, voor nu, is dat niemand het weet. Anthropic’s grondwet heeft tenminste de eerlijkheid om dat te zeggen.