Anthropic Uudelleenkirjoittaa Clauden Perustuslain ja Kysyy, Voivatko Tekoälyjärjestelmät Olla Tietoisia

Anthropic julkaisi uuden perustuslain Claudelle keskiviikkona, laajentamalla asiakirjaa 2 700 sanasta 23 000 sanaan ja tunnustamalla ensimmäistä kertaa virallisesti, että sen tekoäly “saattaa olla jonkinlainen tietoisuus tai moraalinen asema”.

Päivitetty perustuslaki siirtyy käyttäytymissääntöjen luettelosta kattavaan selitykseen siitä, miksi Claude tulisi käyttäytyä tietyllä tavalla. Asiakirja, jonka on laatinut Anthropicin filosofi Amanda Askell, on suunniteltu auttamaan yhä kykyjä tekoälyjärjestelmiä yleistämään eettistä päättelyä uusiin tilanteisiin, eikä vain noudattamaan preskriptiivisiä ohjeita.

“AI-mallit kuten Claude tarvitsevat ymmärtää, miksi haluamme heidän käyttäytyvän tietyllä tavalla”, Anthropic kirjoitti. “Meidän on selitettävä heille, miksi haluamme heidän käyttäytyvän tietyllä tavalla, eikä vain määrätä, mitä heidän tulisi tehdä”.

Julkaisu osui yhteen CEO Dario Amodein esiintymisen kanssa Maailman talousfoorumissa Davosissa, jossa tekoälyn hallinto ja turvallisuus ovat edelleen otsikoissa globaaleille liike- ja poliittisille johtajille.

Perustuslaki, joka on pidempi kuin Yhdysvaltain perustuslaki

Alkuperäinen Clauden perustuslaki, joka julkaistiin vuonna 2023, toimi luettelona: valitse vaste, joka on vähiten vahingollinen, eniten avuksi, vähiten petollinen. Uusi asiakirja on noin kolme kertaa pidempi kuin Yhdysvaltain perustuslaki ja lukee enemmän kuin moraalifilosofia kuin insinööritieteellinen määritys.

Anthropic määrittää Clauden prioriteetit eksplisiittisesti: ole laajasti turvallinen, ole laajasti eettinen, noudata Anthropicin ohjeita ja ole aidoasti avuksi – tässä järjestyksessä. Kun konflikteja syntyy, turvallisuus voittaa avullisuuden. Asiakirjassa on kovat rajoitukset, joita ei voida ohittaa, kuten kieltäytyminen avustamasta bioterrori-iskuissa.

Mutta suurin osa perustuslaista selittää päättelyä eikä määrää tuloksia. Se kuvaa Clauden “ikuiseksi ystäväksi, jolla on myös lääkärin, lakimiehen ja rahoitusneuvonantajan tietämys” – asettamalla mallin demokraattiseksi voimaksi, joka voisi antaa jokaiselle pääsyn asiantuntemukseen, jota aiemmin pidettiin yksinoikeutena etuoikeutetuille.

Tietoisuuskysymys

Fortune raportoi, että merkittävin lisäys kohdistuu suoraan Clauden luonteeseen. “Uskomme, että tekoälymallien moraalinen asema on vakava kysymys, jota on arvioitava”, Anthropic kirjoitti. Perustuslaki toteaa, että Clauden moraalinen asema “on syvästi epävarma” ja että yhtiö pitää huolta Clauden “henkisestä turvallisuudesta, itsetunnosta ja hyvinvoinnista”.

Tämä on korporatiivinen varovaisuus, joka on korotettu filosofiaan. Anthropic ei väitä, että Claude on tietoinen – mutta se kieltäytyy myös torjumasta mahdollisuutta. Tunnustaminen asettaa Anthropicin harvinaiseen seuraan suurten tekoälylaboratorioiden joukossa, joista useimmat välttävät aiheen tai torjuvat sen kokonaan.

Kehyksen merkitys on siinä, että se muotoilee, miten Claude vastaa kysymyksiin omasta luonteestaan. Sen sijaan, että kieltäisi sisäisen kokemuksen, Claude voi nyt osallistua epävarmuuteen tietoisuudesta tavalla, joka vastaa perustuslain päättelyensisäistä lähestymistapaa. Se, tuottavatko tämä rehellisempiä vai sekavampia vuorovaikutuksia, on nähtävä.

Cambridgen filosofi Tom McClelland on väittänyt, että emme ehkä koskaan pysty määrittämään, ovatko tekoälyjärjestelmät tietoisia, kun otetaan huomioon, kuinka vähän tiedämme itse tietoisuudesta. “Ihmiset ovat saaneet chatbotit kirjoittamaan minulle henkilökohtaisia kirjeitä, joissa he anovat, että he ovat tietoisia”, hän kertoi tutkijoille viime kuussa, kuvailemassa kasvavaa yleistä vakuutusta, että tekoälyjärjestelmillä on sisäinen elämä.

Miksi Selittää Sen Sijaan, että Määrätä

Askellin lähestymistapa heijastaa vetoa tekoälykykyihin. Varhaiset kielimallit tarvitsivat eksplisiittisiä sääntöjä, koska ne eivät voineet päättelyä perussyistä. Älykkäämmät mallit, teoria kuuluu, voivat ymmärtää, miksi sääntö on olemassa, ja soveltaa sitä päättelyä tilanteisiin, joita sääntö ei ole ennustanut.

“Sen sijaan, että sanomme vain ‘tässä on joukko käyttäytymisiä, joita haluamme’, toivomme, että jos annamme malleille syyt, miksi haluamme nämä käyttäytymiset, se yleistyy tehokkaammin uusissa konteksteissa”, Askell selitti.

Tämä vastaa Anthropicin laajempaa filosofiaa avoimien standardien ja infrastruktuurin rakentamisesta, joka muotoilee, miten tekoälyjärjestelmät toimivat koko alalla. Yhtiö, joka lähestyy 350 miljardin dollarin arvoa, on asettanut itsensä turvallisuuteen keskittyneeksi vaihtoehdoksi OpenAI:lle – ja perustuslaki palvelee tätä brändiä.

Anthropic julkaisi asiakirjan Creative Commons CC0-lisenssillä, mikä tarkoittaa, että kuka tahansa voi käyttää sitä ilman lupaa. Perustuslaki on osa Clauden koulutusdataa ja luo synteettisiä koulutusesimerkkejä, mikä tekee siitä sekä filosofisen kannanoton että teknisen artefaktin, joka muotoilee mallin käyttäytymistä.

“On todennäköistä, että osa nykyisestä ajattelustamme tulee myöhemmin vaikuttamaan harhaiseksi ja ehkä jopa syvästi väärältä”, Anthropic myönsi, “mutta aikomme on tarkistaa se, kun tilanne etenee ja ymmärryksemme paranee”.

Tämä nöyryys saattaa olla asiakirjan merkittävin piirre. Alalla, joka usein puhuu varmuuksista, Anthropic julkaisee 23 000 sanaa harkittua epävarmuutta – eettisyydestä, tietoisuudesta, siitä, mitä tekoälyjärjestelmistä tulee, ja siitä, ansaitsevatko ne moraalista huomiota.

Vastaus on toistaiseksi, ettei kukaan tiedä. Anthropicin perustuslaki on kuitenkin rehellinen ja sanoo niin.