가속화되는 회귀의 법칙이란 무엇인가? AGI로의 길

최근 인터뷰에서 엘론 머스크는 인공 일반 지능(AGI)이 언제 나타날지 질문받았고, “3에서 6년”이라고 대답했다. 엘론 머스크의 인터뷰에서 그는 AGI가 가까운 미래에 나타날 것이라고 말했다. 구글의 딥마인드 CEO 데미스 하사비스는 “몇 년 안에, 아마 10년 이내에” AGI가 나타날 것이라고 말했다. 데미스 하사비스의 발언은 월 스트리트 저널의 미래의 모든 것 페스티벌에서 이루어졌다.

이러한 예측은 대부분의 AI 산업 전문가들이 AGI가 10년, 혹은 100년 후에 나타날 것이라고 예측하는 것과는 다소 차이가 있다. 이러한 비관적인 예측은 짧은 시간 내에 AGI가 나타날 것이라고 예측하는 것에 대한 두려움에서 비롯된다. 1956년, 다트머스 서머 리서치 프로젝트에서 “인공 지능”이라는 용어가 만들어졌고, 이 분야는 인간과 같은 지능을 가진 기계를 만들기 위한 목표를 가지고 시작되었다. 이 프로젝트는 25년 내에 인간과 같은 지능을 가진 기계를 만들 수 있을 것이라고 예측했다.

제프리 힌튼과 같은 다른 전문가들은 더 미묘한 관점을 가지고 있다. 제프리 힌튼은 “20에서 50년까지” AGI가 나타날 것이라고 예측했다. 그러나 그는 최근에 “20년 이내에” AGI가 나타날 것이라고 말했다.

최근 몇 년 동안 AI 산업은 빠르게 발전했다. 이는 딥 리인포스먼트 러닝 알고리즘의 개발과 현재의 대규모 언어 모델(Large Language Models, LLMs)의 발전 덕분이다.

그러나 이러한 발전은 아직도 좁은 의미의 AI 응용 분야에만 국한되어 있다. 예를 들어, 챗봇과 언어 번역과 같은 분야에서만 발전이 이루어졌다. 이는 인간과 같은 지능을 가진 AGI와는 다르다.

AGI를 만들기 위한 마지막 조각은 아직도 발견되지 않았다. 그러나 일부 전문가들은 가속화되는 회귀의 법칙을 믿고 있다. 이 법칙은 우리가 결국 AGI를 만들 수 있을 것이라고 예측한다.

가속화되는 회귀의 법칙은 레이 커즈와일에 의해 제안되었다. 그는 저자, 발명가, 미래학자이다. 그는 광학 문자 인식, 텍스트 음성 합성, 음성 인식 기술과 같은 분야에서 활동했다. 그는 구글에서 AI 책을 출간한 후 고용되었다. 이 책은 “How to Create a Mind“이다. 이 책은 인간의 뇌를 이해하고 역공학을 통해 궁극적인 생각 기계를 만들기 위한 방법을 설명한다.

레이 커즈와일의 가장 관련된 책은 “The Singularity is Near“이다. 이 책은 2005년에 출간되었으며, 기술의 성장과 미래를 예측했다. 레이 커즈와일은 2029년에 AGI를 만들 수 있을 것이라고 예측했다. 이는 엘론 머스크와 데미스 하사비스의 예측과 일치한다.

가속화되는 회귀의 법칙은 진화 시스템의 변화 속도가指数적으로 증가한다는 것을 설명한다. 이는 기술의 성장에도 적용된다. 레이 커즈와일은 새로운 기술이 이전 기술을 기반으로 하여指数적으로 성장한다고 주장한다.

기술의 성장에 있어서, 가속화되는 회귀의 법칙은 미래에 빠른 기술 발전을 예측한다. 레이 커즈와일은 새로운 기술이 이전 기술을 기반으로 하여指数적으로 성장한다고 주장한다.

이 법칙은 기술의 성장과 미래를 예측한다. 이는 제너레이티브 AI와 같은 기술의 발전을 예측한다. 이는 다른 기술과 함께 성장하여 가장 강력한 응용 프로그램을 만들 수 있다.

2001년, 레이 커즈와일은 다음과 같이 예측했다:

기술의 역사 분석은 기술의 변화가指数적으로 증가한다는 것을 보여준다. 따라서 21세기에 100年的 발전은 20,000年的 발전과 같은 것이다. 기술의 발전은 인간의 역사에서 큰 변화를 가져올 것이다. 이는 생물학적이고 비생물학적인 지능의 합병과, 소프트웨어 기반의 인간의 불멸, 그리고 우주의 속도로 성장하는 지능을 포함한다.

이 기술의 발전은 무어의 법칙에 의해 예측된다. 이는 반도체의 트랜지스터 수가 약 2년마다 두 배로 증가한다는 것을 설명한다. 이는 다른 기술의 발전과 함께 성장하여 가속화되는 회귀의 법칙을 설명한다. 레이 커즈와일은 다음과 같이 예측했다:

• 진화는 양의 피드백을 적용한다. 즉, 이전 단계의 진화에서 만들어진 더 능력 있는 방법이 다음 단계의 진화에서 사용된다. 따라서 진화의 속도는 시간이 지남에 따라指数적으로 증가한다.
• 위의 관찰의 결과는 진화 과정의 “리턴”이 시간이 지남에 따라指数적으로 증가한다는 것이다. 즉, 과정의 속도, 비용 효율성, 또는 전체적인 “파워”가 시간이 지남에 따라指数적으로 증가한다.
• 또 다른 양의 피드백 루프는 특정 진화 과정(예: 계산)이 더 효과적으로 되면(예: 비용 효율성), 더 많은 자원이 해당 과정의 발전에 투자된다. 이는 두 번째 수준의指数적인 성장을 가져온다(즉, 성장의 속도 자체가 시간이 지남에 따라指数적으로 증가한다).
• 생물학적 진화는 이러한 진화 과정 중 하나이다.
• 기술적 진화는 또 다른 진화 과정이다. 실제로, 최초의 기술을 만드는 종의 출현은 기술의 새로운 진화 과정을 가져왔다. 따라서 기술적 진화는 생물학적 진화의 연장이다.
• 특정 패러다임(문제를 해결하는 방법 또는 접근 방식, 예: 집적 회로의 트랜지스터를 축소하여 더 강력한 컴퓨터를 만드는 방법)은指数적인 성장을 제공한다. 그러나 이 방법의 잠재력이 소진되면, 패러다임의 전환(즉, 접근 방식의 근본적인 변화)이 발생하여指数적인 성장이 계속된다.

독자는 레이 커즈와일의 블로그를 읽고, 이 가속화되는 회귀의 법칙의 의미와 그들이 직접 경험한 것과의 차이를 반영해야 한다.

가속화되는 회귀의 법칙은 무어의 법칙만큼 유명하지는 않지만, 여전히 관련성이 있다. 이는 기술의 성장과 미래를 예측한다.