가속화되는 회귀의 법칙은 무엇인가? 그것은 어떻게 AGI로 이어지는가

최근 인터뷰에서 엘론 머스크는 인공 일반 지능(AGI)이 언제 나타날 것인지 묻자 “3에서 6년”이라고回答했다. 回答 “3 to 6 years”. 구글의 딥마인드 CEO 데미스 하사비스는 현재 AGI는 “몇 년, 아마도 10년 이내에 나타날 것”이라고 믿고 있다고 말했다 월 스트리트 저널의 미래의 모든 것 페스티벌에서.

이러한 숫자는 대부분의 AI 산업 전문가들이 AGI는 10년, 혹은 1세기가 지나야 나타날 것이라고 믿는 것에 비해 낙관적이다. 이러한 비관론의 일부는 짧은 시간표에 커밋하는 것을 두려워하기 때문이다. 1956년, 다트머스 서머 리서치 프로젝트에서 “인공 지능”이라는 용어가 만들어졌고, 인간과 같은 지능을 가진 기계가 25년 이내에 존재할 것이라고 기대했다.

다른 사람들, 예를 들어 지프리 힌튼은 AI의 조상으로 알려져 있으며, 少し 더 세련된 견해를 가지고 있다. “최근까지, 나는 20에서 50년까지 걸릴 것이라고 생각했다. 그러나 이제 나는 20년 이내에 가능할 것이라고 생각한다.”

AI 산업은 최근 몇 년 동안 빠르게 발전했다. 이는 깊은 강화 학습 알고리즘의 빠른 개발 덕분이다. 많은 알고리즘이 오늘날의 대규모 언어 모델(LLM)을 구동한다.

그러나 이러한 모든 돌파구는แค 로우 AI 애플리케이션으로만 이어졌다. 예를 들어, 채팅봇이나 언어 번역과 같은 애플리케이션은 AGI와 비교할 수 있다. AGI는 인간과 같은 지능을 가진 인공 지능의 한 유형으로, 다양한 작업을 이해하고, 학습하고, 지식에 적용할 수 있다.

AGI에 대한 결실은 많은 사람들에게 달성할 수 없는 것처럼 보이지만, 몇몇 사람들은 가속화되는 회귀의 법칙을 믿고 있다. 이 법칙은 결국 AGI를 구축할 것이라고 말한다.

가속화되는 회귀의 법칙은 레이 커즈와일에 의해 개념화되었다. 그는 저자, 발명가, 미래학자이다. 그는 광학 문자 인식(OCR), 텍스트-음성 합성, 음성 인식 기술에 참여했다. 그는 구글에서 AI 책 “인간의 마음을 만들기 위해”을 출판한 후에雇用되었다. 이 책은 궁극적인思考 기계를 만들기 위해 인간의 뇌를 이해하는 방법을 설명한다. 이 책은 AI의 미래에 इतन나 중요해서 에릭 슈미트는 이 책을 읽은 후 레이 커즈와일을 AI 프로젝트에 참여시켰다.

레이 커즈와일의 가장 관련된 책은 “특이점은 近い“이다. 이 책은 2005년에 출판되었으며, 지난 2십년 동안 기술 성장의 예측을 담고 있다. 레이 커즈와일은 2029년에 AGI를 달성할 것이라고 예측했다. 이는 엘론 머스크와 데미스 하사비스의 최근 의견과 일치한다.

이 법칙은 진화 시스템의 변화 속도(기술 성장 포함)가指数적으로 증가한다고 주장한다.

기술 성장의 맥락에서, 이 법칙은 기술 혁신의 속도가指数적으로 증가하기 때문에 빠른 기술 진보가 예상된다고 말한다. 레이 커즈와일은 새로운 기술 세대가 이전 세대에 기반하여 지속적으로 혁신의 가능성을指数적으로 증가시킨다고 주장한다.

이 법칙은 가속화되는 기술의 폭발적인 성장이 어떻게 AGI를 가장 강력한 애플리케이션으로 만들 수 있는지를 보여준다. 이는 제너레이티브 AI를 포함한 다른 기술의 성장과 결합하여 AGI를 구축하는 데 필요한 카탈리스트가 된다.

2001년, 레이 커즈와일은 다음과 같이 예측했다:

기술의 역사 분석은 기술 변화가指数적임을 보여주며, 이는 일반적인 직관적인 선형적인 관점과 다르다. 따라서 우리는 21세기에 100년의 진보를 경험하지 않을 것이다. 그것은 오늘날의 속도로 20,000년의 진보와 같다. “반환”은 칩 속도와 비용 효율성과 같이指数적으로 증가한다.指数적인 성장의 속도도指数적으로 증가한다. 몇 십년 이내에 기계 지능은 인간 지능을 초월할 것이며, 이것은 인간 역사에서 단절을 나타내는 기술적 변화인 특이점으로 이어진다. 그 의미는 생물학적이고 비생물학적 지능의 융합, 소프트웨어 기반의 불멸, 그리고 우주에서 빛의 속도로 확장하는 지능의 초고 수준을 포함한다.

이 기술 폭발은 무어의 법칙에 의해 예측되었다. 이는 특정 칩에 있는 트랜지스터의 수가 약 2년마다 두 배가 된다는 것을 의미한다. 이는 다른 기술적 돌파구와 결합하여 가속화되는 회귀의 법칙이 번창하고 있음을 보여준다. 레이 커즈와일의 관찰에 따르면, 이것은 인간의 미래에 다음과 같은 것을 의미한다:

• 진화는 더 능숙한 방법을 생성하여 다음 단계의 진보를 생성하는 양의 반馈을 적용한다. 따라서 진화 과정의 진보 속도는 시간이 지남에 따라指数적으로 증가한다.
• 위의 관찰의 상관관계는 진화 과정의 “반환”이 시간이 지남에 따라指数적으로 증가한다는 것이다. 예를 들어, 속도, 비용 효율성 또는 전체적인 “파워”와 같은 반환은 시간이 지남에 따라指数적으로 증가한다.
• 또 다른 양의 반馈 루프는 특정 진화 과정(예: 계산)이 더 효과적으로 될수록(예: 비용 효율적), 해당 과정의 추가 진행을 위해 더 많은 자원이 배치된다. 이것은 두 번째 수준의指数적인 성장을 결과로 낳는다(즉,指数적인 성장의 속도 자체가指数적으로 증가한다).
• 생물학적 진화는 이러한 진화 과정 중 하나이다.
• 기술적 진화는 또 다른 진화 과정이다. 실제로, 최초의 기술을 생성하는 종의 출현은 기술의 새로운 진화 과정으로 이어졌다. 따라서 기술적 진화는 생물학적 진화의 연장선이다.
• 특정 패러다임(문제를 해결하는 방법 또는 접근 방식, 예: 집적 회로의 트랜지스터를 축소하여 더 강력한 컴퓨터를 만드는 접근 방식)은 그 잠재력이 소진될 때까지指数적인 성장을 제공한다. 이것이 발생하면 기본적인 접근 방식의 변경인 패러다임 전환이 발생하여指数적인 성장이 계속될 수 있다.

읽는 사람들은 레이 커즈와일의 블로그를 읽은 후, 이指数적인 성장의 의미와 그것이 어떻게 자신이 경험한 것과 일치하는지 반영해야 한다.

가속화되는 회귀의 법칙은 무어의 법칙만큼 유명하지는 않지만, 초기에 출판되었을 때와 지금도 동일하게 관련이 있다.