AGI 및 미래 AI
AGI-22에서 살펴본 범용 인공지능 개발의 진전
Unite.AI를 Google의 선호 소스에 추가
최근 저는 궁극적으로 범용 인공지능(AGI)의 탄생으로 이어질 수 있는 새로운 발전을 알아보기 위해, 8월 시애틀에서 열린 제15회 연례 범용 인공지능 학술대회(AGI-22)에 참석했습니다.
AGI는 여러 영역에 걸쳐 일반화할 수 있고 좁은 범위에 한정되지 않는 고급 AI입니다. 좁은 AI의 예로는 자율주행차, 챗봇, 체스 봇처럼 한 가지 목적을 위해 설계된 AI가 있습니다. 이에 비해 AGI는 이들 작업이나 다른 전문 분야 사이를 유연하게 전환할 수 있습니다. 아직 가설적인 AI 유형으로, 전이 학습과 진화 학습 같은 새롭게 발전하는 알고리즘뿐 아니라 심층 강화 학습 같은 기존 알고리즘도 활용할 것입니다.
개막 기조연설에서 AI 연구자 벤 괴르첼, SingularityNET의 CEO이자 설립자, OpenCog Foundation의 지도자는 업계 현황을 설명했습니다. 그는 AGI의 미래 방향에 대해 열의를 보이며 “수십 년이 아니라 몇 년 남았습니다”라고 말했습니다. 이는 AGI의 등장을 대략 2029년으로 예상하게 합니다. 세계적인 발명가이자 사상가, 미래학자인 레이 커즈와일이 인간 수준의 지능에 도달한 AI의 출현을 예측했던 해도 바로 2029년입니다.
이론에 따르면 이런 지능 수준에 도달한 AI는 즉시 그리고 지속적으로 자신을 개선하여 인간의 지능을 빠르게 넘어섭니다. 이를 초지능이라고 합니다.
다른 발표자인 찰스 J. 사이먼, Future AI의 설립자이자 CEO는 별도 세션에서 “AGI는 점진적으로 나타날 것입니다”, “AGI는 불가피하며 대부분의 사람들이 생각하는 것보다 일찍 올 것입니다. 두어 해 정도일 수도 있습니다”라고 말했습니다.
이러한 낙관론에도 불구하고 중요한 장애물이 있습니다. 벤 괴르첼 역시 AGI에 도달하려면 “단순히 신경망을 확장할 것이 아니라 새로운 아이디어를 도입해야 합니다”라고 인정했습니다. 이는 “심층 학습은 벽에 부딪혔다”라는 발언으로 유명한 게리 마커스도 공유하는 견해입니다.
AGI를 만드는 핵심 과제 중 하나는 가능한 한 충분한 정보를 바탕으로 지능을 확장할 수 있는 보상 시스템을 찾는 것입니다. 모라벡의 역설은 현재 기술로 AGI를 달성할 때의 문제를 보여 줍니다. 이 역설에 따르면 한 살 아이에게 직관적인 적응 능력, 예컨대 걷기를 배우고 현실을 시뮬레이션하는 능력을 AI에 프로그래밍하는 것이 인간이 어렵다고 생각하는 작업을 구현하는 것보다 훨씬 어렵습니다.
인간에게는 정반대입니다. 체스를 익히거나 복잡한 수학 공식을 능숙하게 사용하는 데는 평생이 걸릴 수 있지만, 이는 좁은 AI에겐 비교적 쉬운 두 가지 작업입니다.
이 역설의 해법 중 하나는 진화 알고리즘이라고도 하는 진화 학습일 수 있습니다. 이는 AI가 생물학적 진화 과정을 모방하여 복잡한 해법을 탐색하도록 합니다.
별도의 질의응답에서 벤 괴르첼은 “AGI가 불가피한 것은 아니지만, 가능성은 매우 높습니다”라고 말했습니다. 저도 같은 결론에 도달했지만, 불가피성과 가능성의 경계는 흐려집니다.
학술대회에서는 많은 논문이 발표되었습니다. 그중 주목할 만한 논문은 Polynomial Functors: A General Theory of Interaction입니다. 저자는 캘리포니아주 버클리에 있는 Topos Institute의 데이비드 스피바크와 워싱턴주 시애틀의 워싱턴 대학교에 있는 넬슨 니우입니다. 이 논문은 동적 과정, 의사 결정, 데이터 저장 및 변환과의 긴밀한 관계를 통해 AI의 미래 방향에 영향을 줄 수 있는 Poly라는 수학적 범주를 다룹니다. AGI 연구에 어떤 영향을 미칠지는 지켜봐야 하지만, AGI로 이어지는 데 필요한 누락된 구성 요소 중 하나일 수도 있습니다.
물론 모하마드레자 알리두스트의 Versatility-Efficiency Index (VEI): Towards a Comprehensive Definition of IQ for AGI Agents처럼 더 추측적인 논문도 있었습니다. 발상은 지능형 시스템의 지능 수준을 측정하는 대안적 방법을 구성하는 것입니다. 즉, AGI 에이전트를 계산적으로 평가하는 일종의 IQ 검사입니다.
이 기반 기술에서 돌파구를 만들 수 있는 두 주요 기업은 OpenAI와 DeepMind이며, 두 기업의 불참이 눈에 띄었습니다. AI 공동체가 AGI를 진지하게 받아들이지 않을 것을 우려했기 때문일 수 있습니다. 하지만 이 분야에서 첫 돌파구를 만들 가능성이 가장 높은 두 기업이기도 합니다. 특히 OpenAI가 밝힌 사명은 안전한 AGI를 만들기 위한 기초적이고 장기적인 연구를 수행하는 것입니다.
학술대회에서 공개할 만한 거대한 혁명적 돌파구는 없었지만, AGI가 많은 연구자의 관심을 끌고 있으며 AI 공동체가 더 주목해야 할 주제라는 점은 분명합니다. 결국 AGI가 해법일 수도 있습니다. 인류의 존립을 위협하는 여러 위험을 해결할 가능성이 있기 때문입니다.
