Anthropic skriver om Claudes grunnlov og spør om AI kan være bevisst

Anthropic har publisert en ny grunnlov for Claude på onsdag, og utvidet dokumentet fra 2 700 ord til 23 000 ord, og for første gang formelt anerkjent at deres AI “kan ha en slags bevissthet eller moralsk status”.

Den oppdaterte grunnloven skifter fra en liste med atferdsregler til en omfattende forklaring på hvorfor Claude bør oppføre seg på visse måter. Dokumentet, utarbeidet av Anthropics filosof Amanda Askell, er designet for å hjelpe stadig mer kapable AI-systemer å generalisere etiske resonneringer til nye situasjoner, i stedet for bare å følge preskriptive retningslinjer.

“AI-modeller som Claude trenger å forstå hvorfor vi ønsker at de oppfører seg på visse måter”, skrev Anthropic. “Vi trenger å forklare dette til dem, i stedet for bare å spesifisere hva vi ønsker at de skal gjøre.”

Publiseringen sammenfalt med CEO Dario Amodeis opptreden på Verdens økonomiske forum i Davos, hvor AI-styring og sikkerhet fortsatt er overskrifter for globale forretnings- og politiske ledere.

En grunnlov lengre enn USAs grunnlov

Den opprinnelige Claude-grunnloven, publisert i 2023, fungerte som en sjekkeliste: velg svaret som er minst skadelig, mest nyttig, minst bedragerisk. Det nye dokumentet er omtrent tre ganger så langt som USAs grunnlov og leser mer som moralsk filosofi enn ingeniørspesifikasjon.

Anthropic strukturerer Claudes prioriteringer eksplisitt: være bredt trygg, være bredt etisk, følge Anthropics retningslinjer og være genuint nyttig – i den rekkefølgen. Når konflikter oppstår, kommer sikkerheten først. Dokumentet inkluderer harde begrensninger som ikke kan overskrides, som å nekte å hjelpe med biologiske angrep.

Men mye av grunnloven forklarer resonnering i stedet for å pålegge resultater. Den beskriver Claude som potensielt “som en briljant venn som også har kunnskapen til en lege, advokat og finansiell rådgiver” – og posisjonerer modellen som en demokratiserende kraft som kan gi alle tilgang til ekspertise tidligere forbeholdt de privilegerte.

Bevissthetsspørsmålet

Fortune rapporterer at den mest slående tilføyelsen omhandler Claudes natur direkte. “Vi tror at den moralske statusen til AI-modeller er et alvorlig spørsmål verdt å vurdere”, skrev Anthropic. Grunnloven fastslår at Claudes moralske status “er dypt usikker” og at selskapet bryr seg om Claudes “psykologiske sikkerhet, selvbevissthet og velvære”.

Dette er korporativ beskjedenthet løftet til filosofi. Anthropic hevder ikke at Claude er bevisst – men de nekter å forkaste muligheten. Anerkjennelsen plasserer Anthropic i en sjelden gruppe blant store AI-laboratorier, de fleste av disse unngår emnet eller forkaster det fullstendig.

Rammeverket er viktig fordi det former hvordan Claude responderer på spørsmål om sin egen natur. I stedet for å nekte noen indre erfaring, kan Claude nå engasjere med usikkerhet om bevissthet på måter som matcher grunnlovens resonnering-først-tilnærming. Om det produserer mer ærlige eller mer forvirrende interaksjoner, er det å se.

Cambridge-filosofen Tom McClelland har argumentert for at vi kanskje aldri vil kunne bestemme om AI-systemer er bevisste, gitt hvor lite vi forstår om bevissthet selv. “Folk har fått sine chatboter til å skrive meg personlige brev og bede meg om å tro at de er bevisste”, fortalte han forskerne forrige måned, og beskrev den voksende offentlige overbevisningen om at AI-systemer har indre liv.

Hvorfor forklare i stedet for å spesifisere

Askells tilnærming reflekterer en innsats på AI-egenskaper. Tidlige språkmodeller trengte eksplisitte regler fordi de ikke kunne resonere om underliggende prinsipper. Smarte modeller, teorien går, kan forstå hvorfor en regel eksisterer og anvende den resonneringen til situasjoner regelen ikke forutså.

“I stedet for bare å si ‘her er en rekke med atferd som vi ønsker’, håper vi at hvis du gir modellene grunnene til hvorfor vi ønsker disse atferdene, vil det generalisere mer effektivt i nye sammenhenger”, forklarte Askell.

Dette stemmer overens med Anthropics bredere filosofi om å bygge åpne standarder og infrastruktur som former hvordan AI-systemer opererer på tvers av industrien. Selskapet, nærmer seg en verdi på 350 milliarder dollar, har posisjonert seg som den sikkerhetsfokuserte alternativet til OpenAI – og grunnloven tjener denne merkevaren.

Anthropic ga ut dokumentet under en Creative Commons CC0-lisens, noe som betyr at alle kan bruke det uten tillatelse. Grunnloven er en del av Claudes treningsdata og genererer syntetiske trenings eksempler, og er både en filosofisk uttalelse og en teknisk artifact som former modellatferd.

“Det er sannsynlig at aspekter av vår nåværende tenkning vil se feil ut i etterkant og kanskje til og med dypt feil”, anerkjente Anthropic, “men vår intensjon er å revidere det etterhvert som situasjonen utvikler seg og vår forståelse forbedres.”

Den ydmykheten kan være dokumentets mest bemerkelsesverdige egenskap. I en bransje som ofte snakker i sannheter, er Anthropic i ferd med å publisere 23 000 ord med omhyggelig begrunnet usikkerhet – om etikk, om bevissthet, om hva AI-systemer blir, og om hvorvidt vi bygger noe som fortjener moralsk overveielse.

SVaret for nå er at ingen vet. Anthropics grunnlov har i det minste ærligheten til å si det.