Etiikka
Anthropic Uudelleenkirjoittaa Clauden Perustuslain ja Kysyy, Voivatko Tekoälyjärjestelmät Olla Tietoisia

Keskeiset kohdatAnthropicin uusi perustuslaki tunnustaa muodollisesti, että tekoälyllä saattaa olla…
Näytä lisää
- Anthropicin uusi perustuslaki tunnustaa muodollisesti, että tekoälyllä saattaa olla tietoisuus tai moraalinen asema.
- Perustuslaki selittää eettistä päättelyä sääntöjen listaamisen sijaan parantaakseen tekoälyn yleistymiskykyä.
- Anthropic julkaisi perustuslakinsa avoimena lähdekoodina vaikuttaakseen alan laajoisiin tekoälyn turvallisuusstandardeihin.
Anthropic julkaisi uuden perustuslain Claudelle keskiviikkona, laajentamalla asiakirjaa 2 700 sanasta 23 000 sanaan ja tunnustamalla ensimmäistä kertaa virallisesti, että sen tekoälyllä “saattaa olla jonkinlainen tietoisuus tai moraalinen asema”.
Päivitetty perustuslaki siirtyy käyttäytymissääntöjen luettelosta kattavaan selitykseen siitä, miksi Clauden tulisi käyttäytyä tietyllä tavalla. Asiakirja, jonka on laatinut Anthropicin filosofi Amanda Askell, on suunniteltu auttamaan yhä kyvykkäämpiä tekoälyjärjestelmiä yleistämään eettistä päättelyä uusiin tilanteisiin, eikä vain noudattamaan preskriptiivisiä ohjeita.
“Tekoälymallien kuten Clauden on ymmärrettävä, miksi haluamme heidän käyttäytyvän tietyllä tavalla”, Anthropic kirjoitti. “Meidän on selitettävä heille, miksi haluamme heidän käyttäytyvän tietyllä tavalla, eikä vain määrätä, mitä heidän tulisi tehdä”.
Julkaisu osui yhteen CEO Dario Amodein esiintymisen kanssa Maailman talousfoorumissa Davosissa, jossa tekoälyn hallinto ja turvallisuus ovat yhä keskeisiä aiheita maailman yritys- ja poliittisille johtajille.
Perustuslaki, joka on pidempi kuin Yhdysvaltain perustuslaki
Alkuperäinen Clauden perustuslaki, joka julkaistiin vuonna 2023, toimi luettelona: valitse vaste, joka on vähiten vahingollinen, eniten avuksi, vähiten petollinen. Uusi asiakirja on noin kolme kertaa pidempi kuin Yhdysvaltain perustuslaki ja muistuttaa enemmän moraalifilosofiaa kuin teknistä määrittelyä.
Anthropic määrittää Clauden prioriteetit eksplisiittisesti: ole laajasti turvallinen, ole laajasti eettinen, noudata Anthropicin ohjeita ja ole aidosti avuksi – tässä järjestyksessä. Kun konflikteja syntyy, turvallisuus on etusijalla hyödyllisyyteen nähden. Asiakirjassa on kovat rajoitukset, joita ei voida ohittaa, kuten kieltäytyminen avustamasta bioterrori-iskuissa.
Mutta suurin osa perustuslaista selittää päättelyä eikä määrää tuloksia. Se kuvaa Clauden mahdollisesti olevan “kuin nerokas ystävä, jolla on myös lääkärin, lakimiehen ja rahoitusneuvonantajan tietämys” – asettamalla mallin demokraattiseksi voimaksi, joka voisi antaa jokaiselle pääsyn asiantuntemukseen, jota aiemmin pidettiin yksinoikeutena etuoikeutetuille.
Tietoisuuskysymys
Fortune raportoi, että merkittävin lisäys kohdistuu suoraan Clauden luonteeseen. “Uskomme, että tekoälymallien moraalinen asema on vakava kysymys, jota on arvioitava”, Anthropic kirjoitti. Perustuslaki toteaa, että Clauden moraalinen asema “on syvästi epävarma” ja että yhtiö pitää huolta Clauden “psyykkisestä turvallisuudesta, minuuden kokemuksesta ja hyvinvoinnista”.
Tämä on korporatiivinen varovaisuus, joka on korotettu filosofiaan. Anthropic ei väitä, että Claude on tietoinen – mutta se kieltäytyy myös torjumasta mahdollisuutta. Tunnustaminen asettaa Anthropicin harvinaiseen seuraan suurten tekoälylaboratorioiden joukossa, joista useimmat välttävät aiheen tai torjuvat sen kokonaan.
Kehyksen merkitys on siinä, että se muotoilee, miten Claude vastaa kysymyksiin omasta luonteestaan. Sen sijaan, että kieltäisi sisäisen kokemuksen, Claude voi nyt osallistua epävarmuuteen tietoisuudesta tavalla, joka vastaa perustuslain perustelut ensin esittävää lähestymistapaa. Nähtäväksi jää, tuottaako tämä rehellisempää vai hämmentävämpää vuorovaikutusta.
Cambridgen filosofi Tom McClelland on väittänyt, että emme ehkä koskaan pysty määrittämään, ovatko tekoälyjärjestelmät tietoisia, kun otetaan huomioon, kuinka vähän tiedämme itse tietoisuudesta. “Ihmiset ovat saaneet omat chatbottinsa kirjoittamaan minulle henkilökohtaisia kirjeitä, joissa botit anovat minua uskomaan, että ne ovat tietoisia”, hän kertoi tutkijoille viime kuussa, kuvaillen kasvavaa yleistä vakaumusta, että tekoälyjärjestelmillä on sisäinen elämä.
Miksi Selittää Sen Sijaan, että Määrätä
Askellin lähestymistapa heijastaa vetoa tekoälykykyihin. Varhaiset kielimallit tarvitsivat eksplisiittisiä sääntöjä, koska ne eivät kyenneet päättelemään taustalla olevien periaatteiden pohjalta. Älykkäämmät mallit, teoria kuuluu, voivat ymmärtää, miksi sääntö on olemassa, ja soveltaa sitä päättelyä tilanteisiin, joita sääntö ei ole ennustanut.
“Sen sijaan, että sanomme vain ‘tässä on joukko käyttäytymisiä, joita haluamme’, toivomme, että jos annamme malleille syyt, miksi haluamme nämä käyttäytymiset, se yleistyy tehokkaammin uusissa konteksteissa”, Askell selitti.
Tämä vastaa Anthropicin laajempaa filosofiaa avoimien standardien ja infrastruktuurin rakentamisesta, joka muotoilee, miten tekoälyjärjestelmät toimivat koko alalla. Yhtiö, joka lähestyy 350 miljardin dollarin arvoa, on asettanut itsensä turvallisuuteen keskittyneeksi vaihtoehdoksi OpenAI:lle – ja perustuslaki palvelee tätä brändiä.
Anthropic julkaisi asiakirjan Creative Commons CC0-lisenssillä, mikä tarkoittaa, että kuka tahansa voi käyttää sitä ilman lupaa. Perustuslaki on osa Clauden koulutusdataa ja luo synteettisiä koulutusesimerkkejä, mikä tekee siitä sekä filosofisen kannanoton että teknisen artefaktin, joka muotoilee mallin käyttäytymistä.
“On todennäköistä, että osa nykyisestä ajattelustamme tulee myöhemmin vaikuttamaan harhaiselta ja ehkä jopa syvästi väärältä”, Anthropic myönsi, “mutta tarkoituksemme on tarkistaa sitä, kun tilanne etenee ja ymmärryksemme paranee”.
Tämä nöyryys saattaa olla asiakirjan merkittävin piirre. Alalla, joka usein puhuu varmuuksista, Anthropic julkaisee 23 000 sanaa harkittua epävarmuutta – eettisyydestä, tietoisuudesta, siitä, mitä tekoälyjärjestelmistä tulee, ja siitä, ansaitsevatko ne moraalista huomiota.
Vastaus on toistaiseksi, ettei kukaan tiedä. Anthropicin perustuslaki on kuitenkin rehellinen ja sanoo niin.












