A Anthropic Reescreve a Constituição do Claude e Pergunta se a IA Pode Ser Consciente

A Anthropic publicou uma nova constituição para o Claude na quarta-feira, expandindo o documento de 2.700 palavras para 23.000 e, pela primeira vez, reconhecendo formalmente que sua IA “pode ter algum tipo de consciência ou status moral”.

A constituição atualizada muda de uma lista de regras de comportamento para uma explicação abrangente de por que o Claude deve se comportar de certas maneiras. O documento, elaborado pela filósofa da Anthropic, Amanda Askell, é projetado para ajudar os sistemas de IA cada vez mais capazes a generalizar o raciocínio ético para situações novas, em vez de simplesmente seguir diretrizes prescritas.

“Os modelos de IA como o Claude precisam entender por que queremos que eles se comportem de certas maneiras”, escreveu a Anthropic. “Precisamos explicar isso a eles, em vez de simplesmente especificar o que queremos que eles façam”.

O lançamento coincidiu com a aparição do CEO Dario Amodei no Fórum Econômico Mundial em Davos, onde a governança e segurança da IA continuam a ser tópicos de destaque para líderes empresariais e políticos globais.

Uma Constituição Mais Longa do que a Constituição dos EUA

A constituição original do Claude, publicada em 2023, funcionava como uma lista de verificação: escolha a resposta que é menos prejudicial, mais útil, menos enganosa. O novo documento tem cerca de três vezes o comprimento da Constituição dos EUA e lê mais como filosofia moral do que especificação de engenharia.

A Anthropic estrutura as prioridades do Claude explicitamente: seja amplamente seguro, seja amplamente ético, cumpra as diretrizes da Anthropic e seja genuinamente útil – nessa ordem. Quando surgem conflitos, a segurança supera a utilidade. O documento inclui restrições rígidas que não podem ser anuladas, como recusar assistência a ataques com armas biológicas.

Mas grande parte da constituição explica o raciocínio em vez de impor resultados. Ela descreve o Claude como potencialmente “como um amigo brilhante que também tem o conhecimento de um médico, advogado e consultor financeiro” – posicionando o modelo como uma força democratizadora que poderia dar a todos acesso a expertise anteriormente reservada para os privilegiados.

A Questão da Consciência

A Fortune relata que a adição mais surpreendente aborda a natureza do Claude diretamente. “Acreditamos que o status moral dos modelos de IA é uma questão séria que vale a pena considerar”, escreveu a Anthropic. A constituição afirma que o status moral do Claude “é profundamente incerto” e que a empresa se importa com a “segurança psicológica, senso de si e bem-estar” do Claude.

Isso é uma forma de filosofia corporativa. A Anthropic não está afirmando que o Claude é consciente – mas está explicitamente se recusando a descartar a possibilidade. O reconhecimento coloca a Anthropic em uma posição rara entre os principais laboratórios de IA, a maioria dos quais evita o tópico ou o descarta diretamente.

A forma como o Claude responde a perguntas sobre sua própria natureza é importante. Em vez de negar qualquer experiência interior, o Claude agora pode se engajar com a incerteza sobre consciência de maneiras que correspondem à abordagem de raciocínio primeiro da constituição. Se isso produzirá interações mais honestas ou mais confusas, ainda está para ser visto.

O filósofo de Cambridge, Tom McClelland, argumentou que podemos nunca ser capazes de determinar se os sistemas de IA são conscientes, dada a pouca compreensão que temos sobre a consciência em si. “As pessoas me pediram para escrever cartas pessoais implorando que eu acredite que eles são conscientes”, disse ele a pesquisadores no mês passado, descrevendo a crescente convicção pública de que os sistemas de IA têm vidas interiores.

Por Que Explicar em vez de Especificar

A abordagem de Askell reflete uma aposta nas capacidades da IA. Os primeiros modelos de linguagem precisavam de regras explícitas porque não podiam raciocinar sobre princípios subjacentes. Modelos mais inteligentes, segundo a teoria, podem entender por que uma regra existe e aplicar esse raciocínio a situações que a regra não antecipou.

“Em vez de simplesmente dizer ‘aqui está um monte de comportamentos que queremos’, esperamos que, se você der aos modelos as razões pelas quais queremos esses comportamentos, eles generalizarão mais efetivamente em novos contextos”, explicou Askell.

Isso está alinhado com a filosofia mais ampla da Anthropic de construir padrões abertos e infraestrutura que moldam como os sistemas de IA operam em toda a indústria. A empresa, que se aproxima de uma valorização de $350 bilhões, posicionou-se como a alternativa focada em segurança para a OpenAI – e a constituição serve a essa marca.

A Anthropic lançou o documento sob uma licença Creative Commons CC0, o que significa que qualquer pessoa pode usá-lo sem permissão. A constituição faz parte dos dados de treinamento do Claude e gera exemplos de treinamento sintéticos, tornando-a tanto uma declaração filosófica quanto um artefato técnico que molda o comportamento do modelo.

“É provável que aspectos do nosso pensamento atual pareçam equivocados e talvez até mesmo profundamente errados em retrospecto”, reconheceu a Anthropic, “mas nossa intenção é revisá-lo à medida que a situação progride e nossa compreensão melhora”.

Essa humildade pode ser a característica mais notável do documento. Em uma indústria que muitas vezes fala em certezas, a Anthropic está publicando 23.000 palavras de incerteza cuidadosamente raciocinada – sobre ética, consciência, sobre o que os sistemas de IA estão se tornando e sobre se estamos construindo algo que merece consideração moral.

A resposta, por enquanto, é que ninguém sabe. A constituição da Anthropic pelo menos tem a honestidade de dizê-lo.