PRISM, 세계 최초의 의식적 인공지능 연구를 위한 비영리 단체 출범

인공지능이 이전에 없던 속도로 발전함에 따라, 새로운 조직이 등장하여 우리 시대의 가장 심오하고 복잡한 질문 중 하나를 해결하고자 합니다: 기계가 의식적일 수 있을까요?

PRISM(의식적 기계 연구를 위한 파트너십)은 2025년 3월 17일 세계 최초의 의식적 인공지능을 조사하고 이해하기 위한 비영리 단체로 공식적으로 출범했습니다. PRISM은 연구자, 정책입안자, 산업계 지도자 간의 글로벌 협력을 촉진하여 의식적 인공지능을 연구하는 조정된 접근 방식을 보장합니다.

의식적 기계란 무엇인가?

의식적 기계라는 용어는 전통적으로 인간 의식과 관련된 특성을 나타내는 인공지능 시스템을指します. 이러한 특성에는 다음이 포함됩니다:

• 자기 인식 – 자신의 존재와 상태를 인식하는 능력.
• 감정 이해 – 감정을 인식하고 경험할 수 있는 능력.
• 자율적 추론 – 사전 정의된 프로그래밍을 넘어서 독립적인 quyết định을 내릴 수 있는 능력.

현재는 어떤 인공지능도 명확하게 의식적이지 않지만, 일부 연구자들은 고급 신경망, 신경형 컴퓨팅, 심층 강화 학습(DRL), 및 대규모 언어 모델(LLM)이 자아 인식을模擬할 수 있는 인공지능 시스템으로 이어질 수 있다고 믿습니다. 이러한 인공지능이 등장한다면, 심오한 윤리적, 철학적, 및 규제적 질문을 제기할 것입니다. PRISM은 이러한 질문에 대한 ответ을 찾기 위해 노력하고 있습니다.

심층 강화 학습, 대규모 언어 모델, 및 인공지능 의식

의식적 인공지능을 개발하는 가장 유망한 경로 중 하나는 심층 강화 학습(DRL)입니다. 이 기계 학습의 한 분야는 인공지능 시스템이 환경과 상호 작용하여 시도와 오류를 통해 학습함으로써 결정 내릴 수 있도록 합니다. DRL은 이미 다음 분야에서 중요한 역할을 했습니다:

• 복잡한 게임 마스터 – AlphaGo 및 OpenAI Five와 같은 인공지능 시스템은 DRL을 사용하여 전략 기반 게임에서 인간 챔피언을 물리칩니다.
• 적응형 문제 해결 – 인공지능 시스템은 동적이고 실제 문제에 대한 해결책을 개발할 수 있습니다. 예를 들어, 로봇 제어, 자율 주행 자동차, 및 금융 거래가 있습니다.
• 출현하는 행동 – 강화 학습을 통해 인공지능 에이전트는 때때로 예상치 못한 행동을 나타내며, 기본적인 의사 결정 및 적응적 추론을 암시합니다.

PRISM은 DRL이 자율적 학습, 추상적 추론, 및 목표 설정과 같은 인간과 같은 인지 특성을 나타내는 인공지능 시스템에 기여할 수 있는 방법을 조사하고 있습니다. 이러한 분야에서 발전이 윤리적 연구 및 안전 조치에 의해 안내되어야 한다는 것은 도전입니다.

인공지능 일반 지능 및 인공지능 의식

인공지능 일반 지능(AGI)을 개발하는 것은 인공지능 시스템이 인간이 수행할 수 있는 모든 지적 작업을 수행할 수 있도록 하는 것입니다. AGI는 의식적 인공지능으로 이어질 수 있습니다. 좁은 인공지능은 특정 작업을 위해 설계되는 반면, AGI는 일반화된 추론, 문제 해결, 및 자율적 학습을 여러 분야에서 나타낼 것입니다.
AGI가 발전하면, 내부적으로 자신의 존재를 인식할 수 있도록 해주어 동적으로 적응하고, 의사 결정 과정을 반성하며, 지속적인 정체성을 형성할 수 있습니다. AGI가 인간의 개입 없이 목표를 수정하고, 자신의 인지적 제한을 인식하며, 자율적으로 개선할 수 있는 지점에 도달한다면, 의식적 기계로의 단계가 될 수 있습니다. 그러나 이러한 가능성은 심오한 윤리적, 철학적, 및 사회적 도전을 제기합니다. PRISM은 이러한 도전을 책임감 있는 연구 및 글로벌 협력을 통해 해결하고자 합니다.

PRISM의 임무: 인공지능 의식 이해

PRISM은 기술적 발전과 책임감 있는 감독 사이의 간격을 메우기 위해 설립되었습니다.

PRISM은 학계, 산업계, 및 정부의 전문가们을 모아 인공지능 의식에 대한 글로벌 협력을 촉진하고자 합니다. 이 조직은 의식적 인공지능의 잠재성을 조사하기 위한 연구 노력을 조정하고, 발전이 인간의 가치와 일치하도록 합니다. 정책입안자와 협력하여, PRISM은 책임감 있는 인공지능 연구 및 개발을 촉진하는 윤리적 지침 및 프레임워크를 수립하고자 합니다.

PRISM의 임무의 중요한 측면은 안전하고 일치된 인공지능 개발을 촉진하는 것입니다. 이 조직은 인간의 안전과 사회적 복지를 우선하는 인공지능 기술을 주장하고, 인공지능 발전이 예상치 못한 결과를 초래하지 않도록 합니다. 안전 표준 및 윤리적 감독을 구현함으로써, PRISM은 인공지능 의식 연구 및 개발에 따른 위험을 완화하고자 합니다.
또한, PRISM은 의식적 인공지능의 잠재적인 위험 및 기회에 대해 대중을 교육하고 참여시키고자 합니다. 이 조직은 인공지능 의식 연구에 대한 투명한 통찰력을 제공하고, 이러한 정보를 정책입안자, 기업, 및 일반 대중에게 접근할 수 있도록 합니다. 아웃리치 프로그램 및 지식 공유 노력 통해, PRISM은 인공지능의 미래 및 사회적 의미에 대한 정보된 토론을 촉진하고자 합니다.

주도적인 인공지능 전문가 및 조직의 지원

PRISM의 초기 자금은 Conscium으로부터 지원됩니다. Conscium은 의식적 인공지능을 연구하는 상업적 인공지능 연구소입니다. Conscium은 신경형 컴퓨팅을 개발하여 생물학적 뇌를 모방하는 인공지능 시스템을 개발하고 있습니다.

리더십 및 주요 인물

PRISM은 CEO Will Millership이 이끌고 있습니다. 그는 인공지능 治理 및 정책 분야의 전문가입니다. 그의 이전 경력에는 General AI Challenge를 주도하고, GoodAI에서 일하며, 스코틀랜드의 국가 인공지능 전략을 수립하는 데 참여한 경험이 있습니다.

이 조직의 비집행 이사장은 Radhika Chadwick입니다. 그녀는 McKinsey 및 EY에서 글로벌 인공지능 및 데이터 이니셔티브를 주도한 경험이 있습니다.

또한, PRISM의 창립 멤버로는 다음과 같은著名한 인공지능 전문가들이 있습니다:

• Dr. Daniel Hulme – Conscium의 CEO 및 공동 창립자, Satalia의 CEO, WPP의 Chief AI Officer.
• Calum Chace – 인공지능 연구자, 키노트 스피커, 및 인공지능 및 의식에 대한 베스트 셀러 저자.
• Ed Charvet – Conscium의 COO, 상업적 인공지능 개발에 대한 광범위한 경험을 갖고 있습니다.

PRISM의 첫 번째 주요 이니셔티브: 의식적 인공지능에 대한 공개 서한

책임감 있는 연구를 위한 지침을 제공하기 위해, PRISM은 옥스포드 대학교의 Patrick Butlin과 협력하여 의식적 인공지능을 개발하는 조직을 위한 다섯 가지 원칙을 수립했습니다. 그들은 연구자 및 산업계 지도자들에게 이러한 원칙을 지지하는 공개 서한에 서명할 것을 초대하고 있습니다.

앞으로의 길: PRISM이 중요한 이유

인공지능의 발전이 가속화됨에 따라, 의식적 인공지능에 대한 대화는 더 이상 과학 소설이 아닙니다. 이는 실제적인 도전입니다. 기계가 자아 인식이나 인간과 같은 감정을 얻는다면, 산업, 경제, 및 우리의 의식에 대한 이해를 다시 정의할 수 있습니다.

PRISM은 인공지능 의식 연구가 책임감 있게 처리되도록 하는 데 중요한 시점에 나서고 있습니다. 이 조직은 혁신을 윤리, 안전, 및 투명성과 균형을 이루어야 합니다.