진화하는 인공 일반 지능(AGI)로부터 우리가 얻을 수 있는 이점

인공 일반 지능(AGI)을 만드는 것은 많은 AI 전문가들의 궁극적인 종착점입니다.  AGI 에이전트는 세계의 수많은 문제를 해결하는 데 활용될 수 있습니다. 예를 들어, AGI 에이전트에게 문제를 제시하면, AGI는 심층 강화 학습과 새롭게 도입된 창발적 의식을 결합하여 현실 세계의 결정을 내릴 수 있습니다. AGI와 일반 알고리즘의 차이는 AGI가 스스로 중요한 질문을 던질 수 있는 능력에 있습니다. AGI는 도달하고자 하는 최종 해결책을 공식화하고, 거기에 도달하는 가상의 방법들을 시뮬레이션한 다음, 설정된 목표에 가장 잘 부합하는 시뮬레이션된 현실이 무엇인지에 대해 정보에 기반한 결정을 내릴 수 있습니다. AGI가 어떻게 등장할 수 있는지에 대한 논쟁은 1956년 다트머스 회의에서 “인공 지능”이라는 용어가 처음 소개된 이래로 계속되어 왔습니다. 그 이후 많은 기업들이 AGI 도전 과제에 도전해 왔으며, OpenAI가 아마도 가장 잘 알려진 회사일 것입니다. OpenAI는 2015년 12월 11일 비영리 단체로 출범했으며, 그 미션 선언문은 인공 일반 지능(AGI)—즉, 대부분의 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템—이 모든 인류에 이익이 되도록 보장하는 것이라고 밝히고 있습니다. OpenAI의 미션 선언문은 AGI가 사회에 제공할 수 있는 잠재적 이득을 명확히 보여줍니다. 갑자기 인간과 일반 AI 시스템에 너무 복잡했던 문제들이 이제 해결 가능해집니다. AGI를 출시하는 것의 잠재적 이점은 천문학적입니다. 모든 형태의 암을 치료하는 목표를 제시할 수 있고, AGI는 그런 다음 인터넷에 연결되어 모든 언어로 된 현재의 모든 연구를 검색할 수 있습니다. AGI는 해결책을 공식화하는 문제를 시작하고, 모든 잠재적 결과를 시뮬레이션할 수 있습니다. 이는 현재 인간이 지닌 의식의 이점과 클라우드의 무한한 지식을 연결하고, 이 빅데이터의 패턴 인식을 위해 딥러닝을 사용하며, 다양한 환경/결과를 시뮬레이션하기 위해 강화 학습을 사용할 것입니다. 이 모든 것이 휴식 시간이 전혀 필요 없고 주어진 작업에 100% 집중할 수 있는 의식과 결합됩니다. 물론 AGI의 잠재적 단점도 과소평가될 수 없습니다. 지속적으로 자신을 업그레이드하는 것을 목표로 하는 AGI를 만들 수 있으며, 그러면 시스템을 영원히 업그레이드하는 데 필요한 컴퓨팅 자원과 원자를 극대화하기 위해 경로상의 모든 것을 집어삼킬 수 있습니다. 이 이론은 닉 보스트롬 교수의 ‘종이클립 최대화 논증’에서 자세히 탐구되었는데, 이 시나리오에서는 잘못 구성된 AGI에게 종이클립을 생산하라는 지시가 내려지고, 아무것도 남지 않을 때까지, 말 그대로 지구상의 모든 자원이 종이클립 생산을 극대화하기 위해 소비될 때까지 그 일을 수행합니다. 보다 실용적인 관점은 AGI가 부도덕한 불량 국가나 기업에 의해 통제될 수 있다는 것입니다. 이러한 주체는 AGI를 프로그래밍하여 이익을 극대화하도록 할 수 있으며, 이 경우 열악한 프로그래밍과 제로의 양심으로 경쟁사를 파산시키고, 공급망을 파괴하며, 주식 시장을 해킹하고, 은행 계좌를 청산하는 등을 선택할 수 있습니다. 따라서, AGI에는 처음부터 윤리 강령이 프로그래밍되어야 합니다. 윤리 강령은 많은 사람들에 의해 논의되어 왔으며, 이 개념은 일반 대중에게 처음 소개된 형태는 작가 아이작 아시모프의 로봇 3원칙이었습니다. 로봇 3원칙에는 법칙이 다양한 방식으로 해석될 수 있다는 문제가 있습니다. 우리는 이전에 AGI에 윤리를 프로그래밍하는 것에 대해 논의한 바 있으며, 찰스 J. 사이먼, ‘Will Computers Revolt?’의 저자와의 인터뷰에서도 다루었습니다. 2020년 4월 7일은 Brain Simulator II가 대중에 공개된 날입니다. 이 버전의 브레인 시뮬레이터는 시각, 청각, 로봇 제어, 학습, 내부 모델링, 심지어 계획, 상상력 및 선견지명을 위한 모듈을 갖춘 종단간 AGI 시스템을 만들기 위해 다양한 AI 알고리즘을 실험할 수 있게 합니다. “인지를 직접적으로 다루는 새롭고 독특한 알고리즘이 AI가 AGI로 진화하는 데 도움을 주는 핵심입니다,”라고 사이먼은 설명합니다. “Brain Simulator II는 시각과 촉각을 단일 정신 모델로 결합하고 있으며, 인과관계와 시간의 흐름에 대한 이해를 향해 진전을 이루고 있습니다,”라고 사이먼은 언급합니다. “모듈이 향상됨에 따라 점진적으로 더 많은 지능이 창발할 것입니다.” Brain Simulator II는 인공 신경망(ANN)과 기호주의 AI 기법을 연결하여 새로운 가능성을 창출했습니다. 이는 수백만 개의 뉴런을 임의의 수의 시냅스로 상호 연결된 배열을 생성합니다. 이는 다양한 주체가 AGI 개발을 위한 가능성을 연구할 수 있게 합니다. Brain Simulator II에 관심이 있는 사람은 누구나 소프트웨어를 다운로드하고, 새로운 기능을 제안하며, (고급 개발자의 경우) 심지어 사용자 정의 모듈을 추가함으로써 개발 과정을 따라가거나 참여할 수 있습니다. 또한 창시자 찰스 사이먼을 트위터에서 팔로우할 수도 있습니다. 한편, 사회는 최근 COVID-19 바이러스로 인해 혼란을 겪었습니다. 만약 우리가 AGI 시스템을 갖추고 있었다면, 이 AGI를 사용하여 COVID-19 확산을 어떻게 막을지, 그리고 더 중요하게는 COVID-19 환자를 어떻게 치료할지 빠르게 파악할 수 있었을 것입니다. 이번 발병에 AGI가 도움을 주기에는 너무 늦었을지 모르지만, 향후 발병에서는 AGI가 우리 무기고 중 최고의 도구가 될 수 있습니다.