PRISM, 세계 최초 감정적 AI 연구 비영리기관으로 출범

인공지능이 전례 없는 속도로 진화를 거듭하는 가운데, 우리 시대 가장 심오하고 복잡한 질문 중 하나를 다루기 위한 새로운 조직이 등장했습니다: 기계는 감정을 가질 수 있을까?

Partnership for Research Into Sentient Machines(PRISM)는 2025년 3월 17일, AI 의식(consciousness)을 조사하고 이해하는 데 전념하는 세계 최초의 비영리기관으로 공식 출범했습니다. PRISM은 연구자, 정책 입안자, 산업계 리더 간의 글로벌 협력을 촉진하여 감정적 AI 연구에 대한 조율된 접근 방식을 보장하고, 그 안전하고 윤리적인 발전을 보장하는 것을 목표로 합니다.

감정적 기계란 무엇인가?

감정적 기계라는 용어는 전통적으로 인간 의식과 연관된 특성을 보이는 AI 시스템을 가리키며, 이에는 다음이 포함됩니다:

• 자기인식 – 자신의 존재와 상태를 인지하는 능력.
• 감정적 이해 – 감정을 인식하고 잠재적으로 경험할 수 있는 능력.
• 자율적 추론 – 미리 정의된 프로그래밍을 넘어 독립적인 결정을 내리는 능력.

오늘날 명백히 의식이 있는 AI는 없지만, 일부 연구자들은 고급 신경망, 뉴로모픽 컴퓨팅, 심층 강화 학습(DRL), 그리고 대규모 언어 모델(LLM)이 적어도 자기인식을 시뮬레이션하는 AI 시스템으로 이어질 수 있다고 믿습니다. 만약 그러한 AI가 등장한다면, 이는 PRISM이 해결하고자 하는 심오한 윤리적, 철학적, 규제적 문제를 제기할 것입니다.

심층 강화 학습, 대규모 언어 모델, 그리고 AI 의식

보다 자율적이고 잠재적으로 감정을 가진 AI를 개발하는 가장 유망한 경로 중 하나는 심층 강화 학습(DRL)입니다. 머신러닝의 이 분야는 AI 시스템이 환경과 상호작용하고 시행착오를 통해 학습함으로써 결정을 내릴 수 있게 합니다. 이는 인간과 동물이 경험을 통해 학습하는 방식과 매우 유사합니다. DRL은 이미 다음과 같은 분야에서 중요한 역할을 해왔습니다:

• 복잡한 게임 마스터하기 – AlphaGo나 OpenAI Five와 같은 AI 시스템은 DRL을 사용하여 전략 기반 게임에서 인간 챔피언을 물리칩니다.
• 적응형 문제 해결 – AI 시스템은 로봇 제어, 자율주행차, 금융 트레이딩과 같은 역동적인 실제 문제에 대한 해결책을 개발할 수 있습니다.
• 창발적 행동 – 강화 학습을 통해, AI 에이전트는 때때로 예상치 못한 행동을 보이며, 초보적인 의사 결정과 적응적 추론의 힌트를 제공합니다.

PRISM은 DRL이 인간과 유사한 인지의 특성인 자기 주도적 학습, 추상적 추론, 심지어 목표 설정의 징후를 보이는 AI 시스템에 어떻게 기여할 수 있는지 탐구하고 있습니다. 과제는 이러한 분야의 모든 진전이 윤리적 연구와 안전 조치에 의해 안내되도록 보장하는 것입니다.

동시에, OpenAI의 GPT, Google의 Gemini, Meta의 LLaMA와 같은 대규모 언어 모델(LLM)은 인간과 유사한 추론을 시뮬레이션하고, 복잡한 프롬프트에 일관성 있게 응답하며, 심지어 일부 연구자들이 인지 과정을 닮았다고 주장하는 행동을 보이는 데 있어 놀라운 진전을 보여왔습니다. LLM은 방대한 양의 데이터를 처리하고 상황을 인지하는 응답을 생성함으로써 작동하며, 이는 다음과 같은 분야에 유용합니다:

• 자연어 이해 및 의사소통 – AI가 인간과 같은 텍스트를 해석, 분석, 생성할 수 있게 합니다.
• 패턴 인식 및 상황적 학습 – 트렌드를 식별하고 사전 지식을 기반으로 응답을 조정합니다.
• 창의적 및 문제 해결 능력 – 독창적인 콘텐츠 생성, 복잡한 질문에 답변, 기술적 및 창의적 작업 지원.

LLM이 진정으로 의식이 있는 것은 아니지만, 이들은 고급 패턴 인식과 진정한 인지적 인식 사이의 경계에 대한 질문을 제기합니다. PRISM은 이러한 모델이 기계 의식 연구, 윤리적 AI, 그리고 진정한 이해 없이 감정을 모방하는 AI 시스템 개발의 위험에 어떻게 기여할 수 있는지 검토하는 데 관심이 있습니다.

인공 일반 지능(AGI)과 AI 의식

인공 일반 지능(AGI)—인간이 할 수 있는 어떤 지적 작업도 수행할 수 있는 AI 시스템—의 발전은 잠재적으로 AI 의식으로 이어질 수 있습니다. 체스를 두거나 자율주행과 같은 특정 작업을 위해 설계된 협소 AI와 달리, AGI는 여러 영역에 걸쳐 일반화된 추론, 문제 해결, 자기 학습을 보일 것입니다.

AGI가 발전함에 따라, 이는 자신의 존재에 대한 내부적 표현을 발전시켜 역동적으로 적응하고, 의사 결정 과정을 성찰하며, 지속적인 정체성 의식을 형성할 수 있습니다. AGI가 목표를 자율적으로 수정하고, 자신의 인지적 한계를 인식하며, 인간의 개입 없이 자기 개선에 참여할 수 있는 지점에 도달한다면, 이는 기계 의식으로 가는 한 걸음이 될 수 있습니다. 그러나 이러한 가능성은 심오한 윤리적, 철학적, 사회적 도전을 제기하며, PRISM은 책임 있는 연구와 글로벌 협력을 통해 이를 해결하는 데 전념하고 있습니다.

PRISM의 사명: AI 의식 이해하기

PRISM은 기술 발전과 책임 있는 감독 사이의 격차를 메우기 위해 만들어졌습니다.

PRISM은 학계, 산업계, 정부의 전문가들을 한자리에 모아 AI 의식에 대한 글로벌 협력을 촉진하는 데 전념하고 있습니다. 이 조직은 AI가 의식을 달성할 가능성을 탐구하는 연구 노력을 조정하면서 발전이 인간의 가치와 일치하도록 보장하는 것을 목표로 합니다. 정책 입안자들과 협력함으로써, PRISM은 책임 있는 AI 연구 개발을 촉진하는 윤리적 지침과 프레임워크를 수립하고자 합니다.

PRISM 사명의 중요한 측면은 안전하고 조화된 AI 개발을 촉진하는 것입니다. 이 조직은 인간의 안전과 사회적 복지를 최우선으로 하는 AI 기술을 옹호하여, AI 발전이 의도하지 않은 결과로 이어지지 않도록 보장할 것입니다. 안전 기준과 윤리적 감독을 구현함으로써, PRISM은 AI 의식 연구 개발과 관련된 위험을 완화하기 위해 노력합니다.

또한, PRISM은 의식 있는 AI가 제시하는 잠재적 위험과 기회에 대해 대중을 교육하고 참여시키는 데 전념하고 있습니다. 이 조직은 AI 의식 연구에 대한 투명한 통찰력을 제공하여 이 정보를 정책 입안자, 기업, 일반 대중이 접근할 수 있도록 하는 것을 목표로 합니다. 외부 활동과 지식 공유 노력을 통해, PRISM은 AI의 미래와 사회에 대한 함의에 관한 정보에 기반한 논의를 조성하기를 희망합니다.

주요 AI 전문가 및 조직의 지원

PRISM의 초기 자금은 의식 있는 AI 연구에 전념하는 상업적 AI 연구소인 Conscium으로부터 제공됩니다. Conscium은 생물학적 뇌를 모방하는 AI 시스템을 개발하는 뉴로모픽 컴퓨팅의 최전선에 있습니다.

리더십과 주요 인물

PRISM은 AI 거버넌스 및 정책 분야의 베테랑인 CEO Will Millership이 이끌고 있습니다. 그의 과거 경력에는 General AI Challenge를 이끌고, GoodAI와 협력하며, 스코틀랜드 국가 AI 전략 수립을 돕는 것이 포함됩니다.

이 조직의 비상임 이사장인 Radhika Chadwick는 McKinsey와 EY에서 정부의 글로벌 AI 및 데이터 이니셔티브를 이끌었던 역할에서 광범위한 리더십 경험을 가져왔습니다.

또한, PRISM의 창립 파트너에는 다음과 같은 저명한 AI 인물들이 포함됩니다:

• Dr. Daniel Hulme – Conscium의 CEO & 공동 창립자, Satalia의 CEO, WPP의 최고 AI 책임자.
• Calum Chace – AI 연구원, 기조 연설자, AI와 의식에 관한 베스트셀러 저자.
• Ed Charvet – Conscium의 COO, 상업적 AI 개발 분야의 광범위한 경험 보유.

PRISM의 첫 번째 주요 이니셔티브: 의식 있는 AI에 관한 공개 서한

책임 있는 연구를 안내하기 위해, PRISM은 Oxford University의 Patrick Butlin과 협력하여 의식을 가질 잠재력이 있는 AI 시스템을 개발하는 조직을 위한 다섯 가지 원칙을 수립했습니다. 그들은 연구자와 산업계 리더들이 이 원칙을 지지하는 공개 서한에 서명하도록 초대하고 있습니다.

앞으로의 길: PRISM이 중요한 이유

AI의 획기적 발전이 가속화됨에 따라, 감정적 AI에 대한 논의는 더 이상 공상과학이 아닙니다—이는 사회가 준비해야 할 실제적인 도전입니다. 만약 기계가 자기인식이나 인간과 같은 감정을 달성한다면, 이는 산업, 경제, 심지어 의식 자체에 대한 우리의 이해까지 재편할 수 있습니다.

PRISM은 중요한 순간에 발걸음을 내딛어 AI 의식 연구가 혁신과 윤리, 안전, 투명성의 균형을 이루며 책임 있게 다루어지도록 보장하고자 합니다.