AGI 및 미래 AI
인공 일반 지능 개발의 진행 상황을 강조하는 AGI-22
Unite.AI를 Google의 선호 소스에 추가
최근에 나는 인공 일반 지능(AGI)의 개발에 대한 새로운 발전을 익히기 위해 시애틀에서 열린 제 15회 인공 일반 지능 컨퍼런스(AGI-22)에 참석했습니다.
AGI는 여러 도메인에 걸쳐 일반화할 수 있는 고급 인공지능의 유형으로, 범위가 狭い 것이 아닙니다. 狭い 인공지능의 예로는 자율 주행 차량, 챗봇, 체스 봇 또는 단일 목적을 위해 설계된 다른 인공지능이 있습니다. 반면에 AGI는 위의 예 중 하나 또는 다른 전문 분야를 유연하게 전환할 수 있습니다. 이는 나스цент 알고리즘과 진화 학습을 활용하는 가상적인 인공지능 유형으로, 이전의 알고리즘인 심층 강화 학습도 사용합니다.
개회식 키노트 세션에서 벤 고어츠ェ爾(Ben Goertzel), 인공지능 연구자이자 SingularityNET의 CEO 및 설립자, OpenCog Foundation의 리더는 산업의 현황에 대해 말했습니다. 그는 AGI의 미래 방향에 대해熱心해 보였으며, “우리는 몇 년 후에 달성할 수 있을 것입니다. 그것은 2029년으로, 레이 커즈와일(Ray Kurzweil)이 인공지능이 인간 수준의 지능을 달성하는 것을 예측한 해와 같습니다.
이론에 따르면, 이러한 지능을 달성하면 인공지능은 즉시 그리고 지속적으로 자기 개선으로 인간 지능을 빠르게 초월하는 超지능을 달성할 것입니다.
다른 연사인 찰스 사이먼(Charles J. Simon), Future AI의 설립자 및 CEO는 별도의 세션에서 “AGI의 출현은 점진적일 것입니다”라고 말했습니다. “AGI는 불가피하며 대부분의 사람보다 더 빨리 도착할 것입니다. 그것은 몇 년 후에 일어날 수 있습니다.”
이러한 낙관적인 전망에도 불구하고, 여전히 많은 장애물이 있습니다. 벤 고어츠ェ르也是承認了, “AGI를 달성하기 위해, 우리는 새로운 아이디어를 필요로 합니다. 단순히 신경망을 확장하는 것이 아닙니다.” 이것은 개리 마커스(Gary Marcus)가 “심층 학습은 한계에 도달했습니다”라고 말한 것과 같은 의견입니다.
AGI를 생성하는 데 있는 핵심적인 도전 중 하나는 지능을 최대 정보로 확장할 수 있는 보상 시스템을 찾는 것입니다. 모라베츠의 역설은 현재 기술로 AGI를 달성하는 문제를 반영합니다. 이 역설은 1세의 어린이가 직관적으로 배우는 것들, 예를 들어 걷는 법과 현실을 시뮬레이션하는 것이, 인공지능에게 프로그래밍하기가 훨씬 더 어려운 반면, 인간에게는 어려운 것으로 여겨지는 체스나 복잡한 수학 공식을 수행하는 것이 상대적으로 쉽다는 것을 말합니다.
인간에게는 그 반대입니다. 체스 또는 복잡한 수학 공식을 수행하는 것은 평생을 걸릴 수 있지만, 이는 狭い 인공지능에게는 상대적으로 쉽습니다.
이 역설의 해결책 중 하나는 진화 학습, 즉 진화 알고리즘입니다. 이는 인공지능이 생물학적 진화를 모방하여 복잡한 해결책을 찾을 수 있도록 합니다.
별도의 Q&A 세션에서 벤 고어츠ェ르는 “AGI는 불가피하지 않지만, 매우 가능성이 높습니다”라고 말했습니다. 이것은 내가 도달한 같은 결론이지만, 불가피성과 가능성의 경계는 흐릿합니다.
컨퍼런스에서 많은 논문이 발표되었습니다. 특히 토포스 연구소의 데이비드 스피바크(David Spivak)와 워싱턴 대학교의 넬슨 뉴(Nelson Niu)가 쓴 다항식 関数: 상호작용의 일반 이론에 관한 논문이 논의되었습니다. 이 논문은 다이나믹 프로세스, 의사 결정, 데이터 저장 및 변환과 관련하여 인공지능의 미래 방향에 영향을 미칠 수 있는 수학적 범주인 Poly에 대해 논의합니다. 이것이 AGI 연구에 어떻게 영향을 미칠지는まだ 불분명하지만, 이것은 AGI에 이르게 하는 결실적인 구성 요소 중 하나가 될 수 있습니다.
물론 더 추측적인 논문도 있었습니다. 예를 들어, 모하마드레자 알리두스트(Mohammadreza Alidoust)가 쓴 Versatility-Efficiency Index (VEI): AGI 에이전트를 위한 지능 수준의 포괄적인 정의에 관한 논문이 있습니다. 이 아이디어는 지능 시스템의 지능 수준을 측정하는 대체 방법을 구성하는 것입니다. 즉, AGI 에이전트를 계산적으로 측정하는 지능 지수 테스트입니다.
이 기술의 근본적인 발전을 이룰 수 있는 두 개의 주목할 만한 회사는 OpenAI와 DeepMind입니다. 두 회사는 컨퍼런스에 참석하지 않았습니다. 이것은 인공지능 커뮤니티에서 AGI가 심각하게 받아들여지지 않는다는 страх 때문일 수 있습니다. 그러나 두 회사는 이 분야에서 첫 번째 돌파구를 일으킬 가능성이 가장 높은 회사입니다. 특히 OpenAI의 임무는 안전한 AGI를 생성하기 위한 근본적인 연구를 수행하는 것입니다.
컨퍼런스에서革命적인 돌파구는 없었습니다. 그러나 많은 연구자들이 AGI에 관심을 가지고 있으며, 인공지능 커뮤니티는 이것에 더 주의를 기울여야 합니다.毕竟, AGI는 인류의 여러 存在적 위협을 해결하는 해결책이 될 수 있습니다.
