재귀적 초지능, 650억 달러 투자 유치로 자가 개선형 AI 개발 추진

새로운 프론티어 AI 회사인 재귀적 초지능이 650억 달러의 자금을 유치하고 비전을 공개했습니다. 이 회사는 직접적인 인간의 개입 없이 자가 개선형 AI 시스템을 개발하는 것을 목표로 합니다.

이 회사는 AI 연구자이자 기업가인 리처드 소처가 이끌고 있으며, 구글 딥마인드, 오픈AI, 메타, 학계의 저명한 연구자들이 공동 설립자로 참여했습니다.

이 스타트업은 AI 산업이 빠르게 변하는 시점에 등장했습니다. 현재 대부분의 AI 회사들은 더 큰 언어 모델을 개발하고 인간이 주도하는 훈련과 강화 학습에 집중하고 있습니다. 그러나 재귀적 초지능은 더 실험적인 접근 방식을 취하고 있습니다. 즉, 재귀적 자가 개선입니다.

이 개념은 이미 AI 분야에서 초지능으로의 가능한 경로로 논의되어 왔습니다. 간단히 말하면, AI 시스템이 자신의 약점을 식별하고 새로운 접근 방식을 생성하여 약점을 해결하고, 결과를 테스트하고, 지속적으로 자신을 개선하는 피드백 루프를 만들 수 있습니다.

소처에 따르면, 현재 대부분의 AI 지원 코딩이나 AI 생성 연구는 진정한 재귀적 자가 개선을 만족하지 못합니다. 그는 진정한 재귀는 아이디어, 구현, 테스트, 그리고 개선의 전체 사이클이 자가적으로 발생해야 한다고 주장합니다.

리처드 소처의 장기적인 AI 비전

소처는 야심적인 AI 프로젝트에 새로운 것이 아닙니다. 재귀적 초지능을 설립하기 전에, 그는 You.com의 공동 설립자이자 CEO로 잘 알려졌습니다. You.com은 AI 기반 검색과 엔터프라이즈 AI 인프라 회사로, 전통적인 검색 엔진에 대한 초기 도전자로 등장했습니다.

You.com은 초기에 대화형 AI와 웹 검색을 결합한 것으로 주목을 받았습니다. 시간이 지나면서, 회사는 엔터프라이즈 AI 툴링, API, 생산성 중심의 AI 시스템으로 발전했습니다.

Before You.com, 소처는 Salesforce의 Chief Scientist로 재직하며 자연어 처리 분야에서 가장 많이 인용되는 연구자 중 한 명으로 명성을 얻었습니다. 그의 학술 연구는 현대 AI 시스템을 형성한 기초적인 기술인 단어 임베딩, 문맥적 언어 이해, 신경망 아키텍처에 기여했습니다.

재귀적 초지능은 소처의 경력의 다른 단계를 나타내는 것으로 보입니다. 즉, 상업적인 AI 배포에 덜 집중하고, 지능 자체의 근본적인 혁신에 더 집중하고 있습니다.

그러나 소처는 회사를 순수한 연구소로 묘사하는 것을 거부했습니다. 그는 회사가 상업적인 제품을 개발할 계획이 있으며, 실제 적용은 “분기별로, 몇 년이 아니라” 가능할 수 있다고 강조했습니다.

개방형 접근 방식

재귀적 초지능의 핵심 개념 중 하나는 연구자들이 “개방형”이라고 부르는 것입니다.

단일 고정 목표를 향한 모델 훈련 대신, 개방형 시스템은 지속적으로 새로운 환경, 도전, 그리고 적응 형태를 생성합니다. 이 접근 방식은 생물학적 진화에서 영감을 얻었습니다. 즉, 유기체는不断으로 변화하는 조건과 경쟁적 적응에 반응하여 진화합니다.

회사의 공동 설립자 Tim Rocktäschel은 이전에 구글 딥마인드에서 개방형 AI 연구를 수행했으며, 생성적 세계 모델과 자가 개선 시스템을 포함한 프로젝트에 참여했습니다.

소처가 논의한 한 예는 “레인보우 팀팅”입니다. 즉, AI 안전성 개념에서 하나의 AI 시스템이 다른 AI 시스템을 지속적으로 공격하고 테스트하여 취약점을暴露합니다. 인간이 수동으로 유해한 에지 케이스를 테스트하는 대신, 두 개의 AI 시스템이 효과적으로 수백만 번의 반복을 통해 서로를 진화시킵니다.

이 아이디어는 프론티어 AI 연구에서 발생하는 더广泛한 변화를 반영합니다. 즉, AI 시스템 자체를 훈련, 평가, 안전성 인프라의 일부로 사용하는 것입니다.

컴퓨팅 자원이 결정적 자원이 될 수 있습니다

재귀적 초지능의 출시 또한 AI 분야에서 증가하는 또 다른 현실을 강조합니다. 즉, 컴퓨팅 인프라의 중요성입니다.

모델이 더 강력해짐에 따라 훈련 비용과 추론 요구는 지수적으로 증가합니다. 재귀적 자가 개선 시스템이 궁극적으로 가능해지면, 컴퓨팅 자원이 더戰略적으로 중요해질 수 있습니다. 즉, AI 발전의 속도는 자가 개선 цикル에 할당할 수 있는 처리 능력에 직접적으로 연결될 것입니다.

소처는 미래 사회가 AI 컴퓨팅 자원을 어디에 할당할지 어려운 결정을 내릴 수 있다고 제안했습니다. 그는 이를 어느 질병이나 과학적 문제에 가장 많은 컴퓨팅 자원을 할당해야 하는지 결정하는 것과 비교했습니다.

이 프레임워크는 AI 인프라가 점점 더 지구정치, 에너지 시스템, 반도체 공급망, 국가 경쟁력과 얽혀 있는 것을 강조합니다.

투자자들은 프론티어 AI 팀에 계속 베팅합니다

자금 조달 규모는 회사가 아직 초기 단계임에도 불구하고 주목할 만합니다. 재귀적 초지능은 कथ에 따르면 30명 미만의 직원을 보유하고 있으며, 아직 공개 제품을 출시하지 않았지만 이미 수십억 달러의 평가를 받았습니다.

이 라운드는 엘리트 AI 연구 인재 자체가 가치 있는 자산 클래스가 되고 있는 벤처 캐피탈의 더广泛한 추세를 반영합니다. 투자자들은 특히 오픈AI, 딥마인드, 메타 AI와 같은 조직에 연결된 연구자들을 보유한 팀에 대규모 베팅을 하고 있습니다.

많은 방면에서 시장은 소프트웨어 제품에 대한 자금을 조달하는 것에서 지능 인프라 자체의 잠재적인 혁신에 대한 자금을 조달하는 것으로 이동하는 것으로 보입니다.

재귀적 자가 개선이 궁극적으로 달성 가능할지 여부는 불확실합니다. 일부 연구자들은 이 개념이 AI 개발을 완전히 변혁시킬 수 있다고 믿는 반면, 다른 사람들은 기술적 장벽이 여전히巨大하다고 주장합니다.

그러나 재귀적 초지능의 등장은 일부 산업에서 가장 영향력 있는 연구자들이 다음 AI 단계가 단순히 인간이 더智能한 모델을 구축하는 것이 아니라, AI 시스템이 직접 자신의 진화를 참여하는 것일 수 있다고 믿는다는 것을 시사합니다.