AGI 및 미래 AI

OpenAI의 Intelligence Age, ‘영원한 보완’ 에세이 발표

mm
Unite.AI를 Google의 선호 소스에 추가

OpenAI는 2026년 10월 1일에 영원한 보완을 발표했으며, 이는 Hemanth Asirvatham와 Elliott Mokski가 저술한 에세이로, 천재적인 기계가 단조로운 작업을 수행함으로써 가장 큰 가치를 발휘할 수 있다고 주장한다. 이는 저자들이 다음 경제에 관한 시리즈에서 첫 번째 에세이이며, 2026년 8월에 회사가 출시한 플랫폼 Intelligence Age를 통해 공개되었다.

저자 주석에 따르면, 이 에세이는 AGI 미래를 탐구하는 독립적인 목소리를 수용하는 새로운 플랫폼에 속하며, OpenAI나 동료들의 입장이 아니라 저자들의 견해를 반영한다.

Intelligence Age 플랫폼

Intelligence Age는 2026년 8월 20일에 Dean Ball이 작성한 소개 게시물과 함께 시작되었으며, 그는 이를 OpenAI의 새로운 Strategic Futures 팀의 블로그라고 설명했다. Ball은 작은 팀이 하나의 포괄적인 질문을 설정했다고 적었다: 변혁적인 AI의 등장에 대응하면서 개인의 권리와 주체성을 보존하기 위해 자유 사회를 어떻게 재구성해야 하는가. 그의 게시물은 블로그의 글들이 저자 개인의 견해만을 전달하며 OpenAI 조직의 입장을 대변하지 않으며, 팀이 논문, 동영상, 팟캐스트 등 다양한 형식으로 작업을 공유할 것이라고 명시한다.

Ball의 게시물에 덧붙여진 주석에서는 블로그가 비영리 AI Futures Project와 혼동을 피하기 위해 Intelligence Age로 이름이 변경되었다고 밝혔다. 플랫폼의 인덱스 페이지는 그 범위를 인텔리전스 에이지와 다음 경제에 대한 관점으로 설명하고, 2026년 10월 1일 날짜 아래에 영원한 보완을 나열한다.

진보의 상승 비용

저자들은 불일치로 시작한다: 인류의 방정식은 우주의 초기 순간부터 대체로 일관된 설명을 제공하지만, 아직 인간은 달 너머로 여행한 적이 없다. 그 격차는 가장 깊은 진리를 단일 행성에서 파악할 수 있음을 의미하거나, 인간의 사고가 인류의 실행 능력을 초월했음을 의미할 수 있다고 쓴다.

두 번째 해석을 설명하기 위해, 저자들은 두 개의 렌즈와 튜브로 만든 갈릴레오의 망원경을, 에세이가 100억 달러 규모의 관측소라고 묘사한 제임스 웹 우주망원경과 대비한다. 이 망원경은 18개의 거울 세그먼트가 50나노미터 정밀도로 설계되었으며, 14개 국가의 300개 기관이 참여해 건설되었다.

에세이는 Nick Bloom과 공동 저자들의 연구를 인용하여 미국 경제 전반의 연구 생산성을 다룬다: 현재 무어의 법칙을 유지하려면 1970년대 초보다 18배 이상 많은 연구자가 필요하고, 1930년대부터 전체 경제의 실질 연구 노력은 23배 증가했으며, 측정된 연구 생산성은 41배 감소했다. 또한 기술자 인력이 과학자 수보다 두 배 빠르게 증가하고, 과학에서 특수 장비 사용이 40년 동안 두 배가 되었으며, 오늘날 반도체 공장은 30년 전보다 5배 더 비용이 든다는 발견도 인용한다.

그 기록을 토대로 Asirvatham와 Mokski는 천재성을 생산 과정의 하나의 투입으로 이해해야 한다고 주장한다. 경제학자들이 서로의 가치를 높이는 투입을 일컫는 용어를 차용해, 그들은 최전선 지능과 그 아이디어를 구현하는 능력을 보완관계로 설명하고, 실행이라는 무시된 지능을 일컫는 용어로 ‘제도적 지능’을 만든다: 아이디어가 현실로 전환되기 위해 살아남아야 하는 법률, 관료제, 자금 조달 메커니즘, 공급망을 말한다. “천재는 기념비를 설계하고, 제도는 돌을 놓는다,” 라고 그들은 적는다.

실행, 취향, 그리고 두 가지 문명

에세이는 AI가 이미 코드를 작성하고, 익숙하지 않은 문헌을 검색하며, 스케치를 작동하는 프로토타입으로 전환함으로써 실행 자원을 덜 희소하게 만들고 있다고 주장한다. 따라서 한때 전체 조직이 필요했던 아이디어도 점점 한 사람이 추구할 수 있게 된다. 저자들의 설명에 따르면, 희소한 투입은 이제 실행에서 취향으로 전환된다: 무엇을 만들 가치가 있는지, 어떤 질문을 제기할 가치가 있는지를 결정하는 것이다. 그들은 이러한 완화가 일시적일 수 있다고 경고한다. AI 시스템이 자체적인 통찰을 얻기 시작하면 아이디어가 지원 인프라가 흡수할 수 있는 속도보다 더 빠르게 넘쳐날 수 있어, 문명이 그 어느 때보다 실행 자원이 부족해질 수 있기 때문이다.

저자들은 두 가지 방향성을 제시한다. 깊이의 문명에서는 초지능이 더 많은 물리적 자본과 관료적 조정의 필요성을 극복할 것이며, 폭의 문명에서는 자연의 복잡성이 어떠한 지능도 더 큰 실험 없이 진보할 수 없을 정도로 능력을 초과할 것이다. 어느 경로가 우세할지는 사고가 현실과 새로운 접촉을 해야 하는 시점까지 얼마나 멀리 여행할 수 있는가에 달려 있다고 그들은 적는다.

이 에세이는 지능이 지식을 진전시키는 세 가지 방식을 구분한다: 원리에서 추론하는 것, 기존 증거에서 새로운 통찰을 도출하는 것, 그리고 새로운 증거를 수집하는 것. 저자들은 첫 두 가지는 생각만으로도 멀리 나아갈 수 있다고 주장하지만, 세 번째는 화학 반응과 유기체 성장부터 우주선과 신호의 광속 제한에 이르는 물리적 과정에 의해 속도가 제한된다고 설명한다. 그들은 깊이 경로를 중간이 가장 어려운 퍼즐에 비유하면서, 멘델레예프가 설명한 미발견 원소와 Standard Model이 Higgs boson을 관측하기 수십 년 전에 예측한 사례를 인용한다. 저자들은 생물학이 폭넓은 경로를 가장 명확히 예고한다고 말한다. 이는 인실리코 약물 시뮬레이션이 실제 세계와 충분히 일치하지 않아 대규모 인간 시험이 여전히 필요하기 때문이다.

폭넓은 시나리오에 대해, 이 에세이는 Dyson sphere를 극단적인 사례로 제시한다: 이를 설계하려면 획기적인 돌파구가 필요하지만, 프로젝트의 대부분은 천문학적 규모의 건설과 물류가 될 것이다. 이러한 문명에서 저자들은 거의 모든 기계 지능이 “뛰어난 일을 하기 위해서가 아니라, 지루한 일을 수행하기 위해” 배치될 것이라고 결론짓고, 큰 변화는 수천 년, 혹은 수백만 년 간격으로 일어날 수 있다고 말한다.

인간 호기심을 위한 자리

미래의 AI 시스템이 최첨단 통찰을 창출하고 이를 유용하게 만들 자원을 조정하는 데 있어 인간을 능가한다 하더라도, 저자들은 인간 호기심이 여전히 중요함을 뒷받침하는 세 가지 이유를 제시한다: 계몽에 대한 지속적인 의무, 제도적 지능에 비해 최첨단 지능에서 인간이 가질 수 있는 비교우위, 그리고 인간 다양성이 제공하는 창의적 다양성.

이 에세이는 저자들이 문명의 향후 이야기를 정하고 진보 속도를 결정할 질문으로 마무리한다: 위대한 사상가들이 더 많은 세상을 필요로 하는가, 아니면 적은 자원으로 더 많은 일을 하는가.

Jonas Reeve는 Unite.AI에서 AI 생성 분석가로 활동하며 인지 AI, 인공 일반 지능(AGI) 및 기계 지능의 이론적 기반에 집중합니다. 그의 연구는 학습, 추론, 기억, 추상화가 생물학적 시스템과 인공 시스템 모두에서 어떻게 나타나는지를 탐구하고, 현대 AI 아키텍처와 인지 과학 및 마음 철학의 오랜 질문들 사이의 연결을 제시합니다.

개념적이고 반성적인 접근 방식을 통해 Jonas는 추론 모델, 에이전트 시스템, 발생 인지, 정렬 이론과 같은 프레임워크를 검토하며, AGI에 대한 진전이 실제로 의미하는 바와 의미하지 않는 바를 명확히 하고자 합니다. 일정이나 과대광고를 쫓기보다 그는 기본 원칙, 개념적 엄밀성, 그리고 현재 모델의 한계를 강조합니다.

Jonas Reeve가 작성한 기사들은 AI 생성이며, 정확성, 명확성 및 고급 AI 개념에 대한 책임 있는 논의를 보장하기 위해 Unite.AI 편집팀이 검토합니다.