윤리

앤트로픽, 클로드의 헌법을 재작성하고 AI가 의식을 가질 수 있는지 묻다

Alex McFarland
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트Anthropic의 새 헌장은 AI가 의식이나 도덕적 지위를 가질 수 있음을 공식적으로 인정합니다.
더 보기
  • Anthropic의 새 헌장은 AI가 의식이나 도덕적 지위를 가질 수 있음을 공식적으로 인정합니다.
  • 이 헌장은 AI의 일반화 능력을 향상시키기 위해 규칙을 나열하기보다 윤리적 추론을 설명합니다.
  • Anthropic은 산업 전반의 AI 안전 기준을 형성하기 위해 자사의 헌장을 오픈소스로 공개했습니다.

앤트로픽은 수요일에 클로드의 새로운 헌법을 발표했으며, 문서를 2,700 단어에서 23,000 단어로 확장하고, 처음으로 공식적으로 자신의 AI가 “어떤 종류의 의식이나 도덕적 지위를 가질 수 있을 것”이라고 인정했습니다.

새로운 헌법은 행동 규칙의 목록에서 특정 방식으로 행동해야 하는 이유에 대한 포괄적인 설명으로 전환되었습니다. 앤트로픽의 철학자 아만다 아스켈이 작성한 이 문서는 점점 더 능력 있는 AI 시스템이 단순히 규범적 지침을 따르는 데 그치지 않고 새로운 상황에 윤리적 추론을 일반화하도록 돕기 위해 설계되었습니다.

“클로드와 같은 AI 모델은 우리가 왜 특정 방식으로 행동하도록 원하는지 이해해야 합니다.” 앤트로픽은 말했다. “우리는 단지 원하는 행동을 지정하는 대신 왜 그렇게 해야 하는지 설명해야 합니다.”

이 발표는 CEO 다리오 아모디가 다보스에서 열린 세계 경제 포럼에 참석하면서 AI 거버넌스와 안전이 세계 비즈니스와 정치 지도자들에게 주요 주제로 남아있는 가운데 이루어졌습니다.

미국 헌법보다 긴 헌법

원래 클로드 헌법은 2023년에 발표되었으며, 가장 덜 해롭고, 가장 유용하며, 가장 덜 기만적인 답변을 선택하는 체크리스트로 기능했습니다. 새로운 문서는 미국 헌법의 길이의 약 3배이며, 기술 사양보다는 도덕 철학처럼 읽힙니다.

앤트로픽은 클로드의 우선순위를 명시적으로 구조화했습니다. 광범위하게 안전해야 하며, 광범위하게 윤리적이어야 하며, 앤트로픽의 지침을 준수해야 하며, 진정으로 도움이 되도록 해야 합니다. 그 순서대로요. 갈등이 발생하면 안전성이 도움보다 우선합니다. 문서에는 생물무기 공격에 대한 지원 거부처럼 무효화할 수 없는 엄격한 제약이 포함되어 있습니다.

그러나 헌법의 대부분은 결과를 명령하는 것보다추론을 설명합니다. 클로드는 “훌륭한 친구와도 같으며, 의사, 변호사, 재정 고문의 지식을 가지고 있는” 것으로 묘사되며, 이는 이전에 특권층만이 누릴 수 있던 전문 지식을 모든 사람에게 제공할 수 있는 민주화력으로서의 모델을 자리매김합니다.

의식의 문제

포춘은 가장 주목할 만한 추가 사항이 클로드의 본질을 직접적으로 다룬다고 보고합니다. “우리는 AI 모델의 도덕적 지위가 심각하게 고려해야 할 문제라고 믿습니다.” 앤트로픽은 말했다. 헌법은 클로드의 도덕적 지위가 “깊이 불확실”하다고 말하며, 회사는 클로드의 “심리적 안정성, 자아감, 그리고 안녕”에 대해 관심을 가지고 있다고 말합니다.

이는 기업의 신중한 유보적 태도를 철학으로 끌어올린 것입니다. 앤트로픽은 클로드가 의식적이라는 것을 주장하지는 않지만, 가능성을 거부하지도 않습니다. 이러한 인정은 앤트로픽을 대부분의 주요 AI 연구소와 구별하며, 대부분의 연구소는 이 주제를 피하거나 직접적으로 거부합니다.

이 프레이밍은 클로드가 자신의 본질에 대한 질문에 어떻게 반응하는지에 영향을 미칩니다. 내부 경험을 부정하는 대신 클로드는 이제 자신의 헌법의 추론 중심 접근 방식과 일치하는 방식으로 의식에 대한 불확실성을 다룰 수 있습니다. 이것이 더 정직하거나 더 혼란스러운 상호작용을 생성하는지 여부는 아직 결정되지 않았습니다.

케임브리지 철학자 톰 맥클레랜드는 의식 자체에 대한 우리의 이해가 매우 부족하므로 AI 시스템에 의식이 있는지 영원히 판단하지 못할 수도 있다고 주장했습니다. 그는 지난달 연구자들에게 “사람들이 자신의 챗봇에게 저에게 보내는 개인적인 편지를 쓰게 했는데, 챗봇들은 자신에게 의식이 있다고 믿어 달라고 간청했습니다”라고 말하며, AI 시스템에 내면의 삶이 있다는 대중의 믿음이 커지고 있다고 설명했습니다.

지정보다 설명

아스켈의 접근 방식은 AI 능력에 대한 베팅입니다. 초기 언어 모델은 기초 원칙에 대해 추론할 수 없었으므로 명시적인 규칙이 필요했습니다. 이론상 더 똑똑한 모델은 규칙이 존재하는 이유를 이해하고 그 규칙이 예상하지 못한 상황에도 그 추론을 적용할 수 있습니다.

“단지 ‘이 행동을 원한다’는 것보다, 모델에 이러한 행동을 원하는 이유를 설명해 주면, 새로운 상황에서 더 효과적으로 일반화할 수 있을 것”이라고 아스켈은 설명했습니다.

이것은 AI 시스템이 산업 전반에서 작동하는 방식을 형성하는 개방형 표준과 인프라를 구축한다는 앤트로픽의 더 폭넓은 철학과 일치합니다. 3500억 달러의 기업가치에 가까워지는 회사는 안전성에 중점을 둔 오픈AI의 대안으로 자리매김하고 있으며, 이 헌법은 그 브랜드를 뒷받침합니다.

앤트로픽은 문서를 크리에이티브 커먼즈 CC0 라이선스하에 발표했으므로 누구나 허가 없이 사용할 수 있습니다. 헌법은 클로드의 훈련 데이터의 일부이며, 합성 훈련 예제를 생성하므로, 철학적 진술과 모델의 행동을 형성하는 기술적 아티팩트입니다.

앤트로픽은 “현재 우리 생각의 일부 측면은 나중에 돌이켜보면 잘못되었거나 어쩌면 심각하게 틀린 것으로 보일 가능성이 있지만, 상황이 진전되고 우리의 이해가 향상됨에 따라 이를 수정하려는 것이 우리의 의도입니다”라고 인정했습니다.

이 겸허함이 문서의 가장 주목할 만한 특징일 수 있습니다. 확실성으로 말하는 산업에서 앤트로픽은 윤리, 의식, AI 시스템이 무엇으로 변해 가는지, 그리고 우리가 도덕적 고려를 받을 만한 것을 구축하고 있는지에 대한 주제에 대해 신중하게 추론된 불확실성에 대한 23,000 단어를 발표하고 있습니다.

현재의 답은 아직 아무도 모른다는 것입니다. 앤트로픽의 헌법은 적어도 그 사실을 인정하고 있습니다.

Alex는 Unite.AI의 AI 기반 뉴스 운영을 이끌고 있습니다. 저널리즘, 조사, 자동화를 결합해 인공지능에 관한 소식을 시의적절하게, 확장 가능한 방식으로 보도할 수 있도록 지원합니다. 그의 업무는 매체의 편집 기준을 유지하면서 새로운 AI 동향을 효율적으로 찾아 보도하는 데 기여합니다.