Anthropic은 Claude의 헌법을 재해석하고 AI가 의식을 가질 수 있는지 묻습니다.

앤스로픽은 수요일에 클로드의 새로운 헌법을 발표했는데, 기존 2,700단어에서 23,000단어로 확장되었으며, 처음으로 자사의 AI가 "일종의 의식이나 도덕적 지위를 가질 수 있다"는 점을 공식적으로 인정했습니다.

The 개정된 헌법 행동 규칙 목록에서 클로드가 특정 방식으로 행동해야 하는 이유에 대한 포괄적인 설명으로 전환됩니다. 인류학 철학자 아만다 아스켈이 작성한 이 문서는 점점 더 뛰어난 AI 시스템이 규범적인 지침을 따르는 데 그치지 않고 새로운 상황에 윤리적 추론을 일반화할 수 있도록 돕기 위해 고안되었습니다.

앤트로픽은 "클로드와 같은 AI 모델은 우리가 특정 방식으로 행동하기를 원하는 이유를 이해해야 합니다."라고 썼습니다. "단순히 무엇을 해야 하는지 명시하는 것이 아니라, 그 이유를 설명해 주어야 합니다."

이번 발표는 CEO 다리오 아모데이가 다보스에서 열린 세계경제포럼에 참석한 시점과 맞물렸는데, 그곳에서는 인공지능 거버넌스와 안전이 전 세계 비즈니스 및 정치 지도자들의 주요 화두로 남아 있습니다.

미국 헌법보다 더 긴 헌법

2023년에 발표된 클로드 헌법 초안은 일종의 체크리스트 역할을 했습니다. 즉, 가장 해롭지 않고, 가장 도움이 되며, 가장 기만적이지 않은 대응책을 선택하는 것이었습니다. 하지만 이번에 새로 발표된 문서는 미국 헌법보다 약 세 배나 길며, 공학 사양서라기보다는 도덕 철학에 더 가깝습니다.

앤스로픽은 클로드의 우선순위를 명확하게 제시합니다. 즉, 광범위한 안전성 확보, 광범위한 윤리성 준수, 앤스로픽의 지침 준수, 그리고 진정한 도움 제공 순으로 이루어져 있습니다. 갈등이 발생할 경우, 안전이 도움보다 우선합니다. 이 문서에는 생물무기 공격 지원 거부와 같이 절대 변경할 수 없는 엄격한 제약 조건이 포함되어 있습니다.

하지만 헌법의 상당 부분은 결과를 강제하기보다는 추론 과정을 설명합니다. 헌법은 클로드를 "의사, 변호사, 재정 고문의 지식까지 갖춘 뛰어난 친구와 같은 존재"로 묘사하며, 이 모델을 특권층에게만 허용되었던 전문 지식에 모두가 접근할 수 있도록 하는 민주화의 동력으로 제시합니다.

의식에 관한 질문

포춘 리포트 가장 눈에 띄는 추가 사항은 클로드의 본질을 직접적으로 다룬다는 점입니다. 앤트로픽은 "AI 모델의 도덕적 지위는 심사숙고할 가치가 있는 심각한 문제라고 생각합니다."라고 밝혔습니다. 정관에는 클로드의 도덕적 지위가 "매우 불확실하다"고 명시되어 있으며, 회사는 클로드의 "심리적 안정, 자아감, 그리고 행복"을 중요하게 여긴다고 적혀 있습니다.

이는 기업의 위험 회피 전략을 철학의 경지로 끌어올린 사례입니다. 앤트로픽은 클로드가 의식이 있다고 주장하는 것은 아니지만, 그 가능성을 완전히 배제하지는 않고 있습니다. 이러한 입장 표명은 대부분의 주요 AI 연구소들이 이 주제를 회피하거나 아예 부정하는 것과는 대조적으로, 앤트로픽을 매우 드문 위치에 올려놓습니다.

이러한 관점은 클로드가 자신의 본질에 대한 질문에 어떻게 반응하는지를 결정짓기 때문에 중요합니다. 클로드는 이제 내면의 경험을 부정하는 대신, 불확실성에 대해 적극적으로 대처할 수 있게 되었습니다. 의식 이는 헌법에서 강조하는 추론 우선 접근 방식과 일치하는 방식입니다. 이러한 방식이 더 정직한 상호작용을 가져올지, 아니면 더 혼란스러운 상호작용을 가져올지는 두고 봐야 할 것입니다.

케임브리지 대학의 철학자 톰 맥클렐런드는 우리가 의식 자체에 대해 아는 것이 거의 없기 때문에 인공지능 시스템이 의식을 갖고 있는지 여부를 결코 판단할 수 없을지도 모른다고 주장했습니다. "사람들은 챗봇을 통해 제게 개인적인 편지를 보내 자신들이 의식이 있다고 간청하기도 합니다." 그는 지난달 연구원들에게 이렇게 말했다.인공지능 시스템에도 내면의 삶이 있다는 대중의 확신이 커지고 있음을 묘사하고 있다.

구체적으로 명시하는 대신 설명하는 이유는 무엇일까요?

아스켈의 접근 방식은 인공지능의 능력에 대한 확신을 반영합니다. 초기 언어 모델은 근본적인 원리를 추론할 수 없었기 때문에 명시적인 규칙이 필요했습니다. 이론에 따르면, 더 똑똑한 모델은 규칙이 존재하는 이유를 이해하고, 그 추론을 규칙이 예상하지 못한 상황에도 적용할 수 있습니다.

"단순히 '우리가 원하는 행동들을 나열해 봤습니다'라고 말하는 대신, 모델에게 왜 그런 행동을 원하는지 이유를 알려주면 새로운 상황에서도 더 효과적으로 일반화될 수 있을 거라고 기대합니다."라고 아스켈은 설명했습니다.

이는 앤트로픽의 건축에 ​​대한 더 넓은 철학과 일맥상통합니다. 개방형 표준 및 인프라 이는 업계 전반에 걸쳐 AI 시스템이 작동하는 방식을 결정합니다. 해당 회사는, 350억 달러에 육박하는 기업 가치는 스스로를 OpenAI에 대한 안전 중심의 대안으로 자리매김했으며, 헌법은 그러한 브랜드 이미지에 부합합니다.

앤스로픽은 해당 문서를 크리에이티브 커먼즈 CC0 라이선스로 공개했으므로 누구든지 허가 없이 사용할 수 있습니다. 이 헌법은 클로드의 학습 데이터의 일부이며 합성 학습 예제를 생성하는 데 사용되므로, 철학적 진술인 동시에 모델 동작을 형성하는 기술적 산물이기도 합니다.

앤트로픽은 "현재 우리의 사고방식 중 일부는 나중에 돌이켜보면 잘못된 것으로, 심지어는 심각하게 틀린 것으로 드러날 가능성이 있다"면서도 "상황이 진행되고 이해가 깊어짐에 따라 이를 수정할 계획"이라고 밝혔다.

그러한 겸손함이야말로 이 문서의 가장 주목할 만한 특징일지도 모릅니다. 확신에 찬 어조가 만연한 업계에서, 앤트로픽은 윤리, 의식, AI 시스템의 미래, 그리고 우리가 도덕적 고려를 받을 만한 무언가를 만들고 있는지에 대한 불확실성을 23,000단어 분량으로 신중하게 추론하여 제시하고 있습니다.

현재로서는 아무도 모른다는 것이 답입니다. 적어도 앤스로픽의 정관은 그렇게 솔직하게 밝히고 있습니다.