AGI 및 미래 AI

GPT-4, AGI를 향한 도약인가?

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트GPT-4가 소수에 관한 셰익스피어 시를 쓸 수 있는 능력은 단순한 암기를 넘어선 깊은 추론 능력을 입증한다.
더 보기
  • GPT-4가 소수에 관한 셰익스피어 시를 쓸 수 있는 능력은 단순한 암기를 넘어선 깊은 추론 능력을 입증한다.
  • 마이크로소프트의 논문은 GPT-4가 이전의 어떤 AI 모델보다 더 일반적인 지능을 보여준다고 주장한다.
  • AGI의 가장 큰 위험은 훈련 데이터에서 잘못된 정보를 환각하는 경향일 수 있다.

마이크로소프트 (MSFT )는 최근 「범용 인공지능의 불꽃: GPT-4 초기 실험」이라는 연구 논문을 발표했다. 마이크로소프트는 다음과 같이 설명한다.

이 논문은 OpenAI가 활발하게 개발하던 GPT-4 초기 버전을 조사한 결과를 보고한다. 우리는 이 초기 GPT-4가 ChatGPT와 Google의 PaLM 등과 함께 이전 AI 모델보다 더 일반적인 지능을 보이는 새로운 대규모 언어 모델(LLM) 집단에 속한다고 주장한다.

이 논문에는 GPT-4가 암기를 훨씬 넘어 개념, 기술, 분야를 깊고 유연하게 이해한다는 것을 보여 주는 결정적인 증거가 있다. 실제로 그 일반화 능력은 현재 살아 있는 어떤 인간보다도 훨씬 뛰어나다.

앞서 AGI의 이점을 논의했지만, AGI 시스템이 무엇인지에 대한 일반적인 합의를 간단히 정리해 보자. 본질적으로 AGI는 여러 분야에 걸쳐 일반화할 수 있고 범위가 좁게 한정되지 않는 고급 AI다. 자율주행 자동차, 챗봇, 체스 봇처럼 단일 목적을 위해 설계된 AI는 좁은 AI의 예다.

반면 AGI는 이러한 분야나 다른 전문 분야 사이를 유연하게 전환할 수 있다. 전이 학습이나 진화 학습 같은 새로운 알고리즘을 활용하면서 심층 강화 학습 같은 기존 알고리즘도 이용하는 AI다.

이러한 AGI 설명은 내가 GPT-4를 사용한 개인적 경험뿐 아니라 마이크로소프트 논문에 제시된 증거와도 일치한다.

논문에 소개된 프롬프트 중 하나는 소수가 무한히 많다는 증명을 시 형식으로 작성하라는 요청이다.

이런 시를 만드는 데 필요한 조건을 분석하면 수학적 추론, 시적 표현, 자연어 생성이 모두 필요하다는 것을 알 수 있다. 이는 대부분 사람의 평균적 능력을 넘어서는 과제다.

논문은 GPT-4가 단순히 일반적인 암기를 바탕으로 콘텐츠를 생성하는지, 아니면 맥락을 이해하고 추론하는지 알아보고자 했다. 셰익스피어 문체로 시를 다시 작성하라고 요청했을 때도 수행할 수 있었다. 이는 일반 대중의 능력을 훨씬 넘어서는 다면적 이해를 요구하며, 마음 이론과 수학적 재능도 포함한다.

GPT-4의 지능을 어떻게 측정할까?

그렇다면 LLM의 지능은 어떻게 측정할 수 있을까? GPT-4는 진정한 학습을 보여 주는가, 아니면 단순한 암기를 보여 주는가?

현재 AI 시스템은 표준 벤치마크 데이터셋으로 평가한다. 이 데이터는 학습 데이터와 독립적이어야 하며 다양한 과제와 분야를 포괄해야 한다. 하지만 GPT-4가 학습한 데이터의 양이 거의 무제한에 가까워 이런 검증은 거의 불가능하다.

논문은 GPT-4가 암기를 훨씬 넘어 개념, 기술, 분야를 깊고 유연하게 이해한다는 것을 설득력 있게 보여 주기 위해 새롭고 어려운 과제와 질문을 만드는 방법을 논의한다.

GPT-4는 단편소설과 각본을 만들고 매우 복잡한 수식을 계산할 수 있다.

지시에 따라 코드를 작성하거나 기존 코드를 이해하는 능력도 매우 높은 수준이다. 코딩 과제부터 실제 애플리케이션까지, 저수준 어셈블리부터 고수준 프레임워크까지, 단순한 자료 구조부터 게임 같은 복잡한 프로그램까지 다양한 작업을 처리할 수 있다. 코드 실행을 추론하고 명령의 영향을 시뮬레이션하며 결과를 자연어로 설명할 수도 있다. 의사 코드도 실행할 수 있다.

GPT-4는 거의 모든 프롬프트에 합리적인 응답을 제시할 수 있다. 실제로 그 지능은 복잡성 면에서 거의 무적에 가깝다.

GPT-4의 한계

논문은 GPT-4의 응답과 행동을 조사하여 일관성, 정합성, 정확성을 검증하고 한계와 편향을 드러낸 과정도 설명한다.

가장 뚜렷한 한계는 환각을 일으키는 경향이다. 논문에는 GPT-4가 완전히 틀린 답을 확신에 차서 제시한 다음 사례가 있다.

내가 GPT 환각이 무엇인지 묻자 다음과 같이 답한 것을 보면 GPT-4도 현재의 한계를 이해하는 듯하다.

GPT 환각은 지금 대화 중인 모델과 같은 생성형 사전 학습 트랜스포머(GPT) 모델이 사실에 근거하지 않거나 주어진 맥락과 맞지 않는 응답을 생성하는 현상이다. 모델이 그럴듯해 보이지만 실제로는 틀리거나 오해를 일으키거나 무의미한 텍스트를 생성할 때 이런 환각이 발생한다.

즉, 전 세계 데이터를 학습시키는 LLM AI가 잘못된 데이터를 배우는 일은 어떻게 막을 수 있을까? 대규모 언어 모델이 잘못된 정보와 음모론을 학습하고 되풀이하는 것은 LLM이 대규모로 도입될 때 인류가 직면할 가장 큰 함정과 위협 중 하나일 수 있다. 이는 AGI의 주요 위협일 수도 있지만, 놀랍게도 AGI의 위험을 논할 때 빠지는 경우가 많다.

GPT-4가 보여 주는 지능의 증거

논문은 어떤 종류의 복잡한 프롬프트를 주더라도 GPT-4가 기대를 뛰어넘었다고 설명한다.

자연어를 다루는 능력은 비할 데 없다. 유창하고 일관된 텍스트를 생성할 뿐 아니라 요약, 번역, 매우 광범위한 질문에 대한 답변 등 여러 방식으로 텍스트를 이해하고 다룰 수 있다. 여기서 번역은 서로 다른 자연어 사이의 변환뿐 아니라 어조와 문체의 변환, 의학·법률·회계·컴퓨터 프로그래밍·음악 등 여러 분야를 가로지르는 변환도 뜻한다.

GPT-4는 모의 기술 평가를 쉽게 통과했다. 상대가 사람이었다면 곧바로 소프트웨어 엔지니어로 채용되었을 수준이다. 미국 다주 변호사시험에 대한 비슷한 예비 평가에서도 정확도가 70%를 넘었다. 이는 앞으로 현재 변호사에게 맡기는 많은 업무를 자동화할 수 있다는 뜻이다. 실제로 일부 스타트업은 GPT-4를 사용하는 로봇 변호사를 만들고 있다.

새로운 지식의 생성

논문의 주장 중 하나는 GPT-4가 진정한 이해 수준을 입증하기 위해 남은 과제가 새로운 지식을 만드는 일이라는 것이다. 예를 들어 새로운 수학 정리를 증명하는 일은 현재 LLM의 능력 밖에 있다.

하지만 이것이 바로 AGI가 추구하는 궁극적인 목표다. 잘못된 사람의 손에 통제되는 AGI에는 위험이 있지만, 모든 역사적 데이터를 빠르게 분석해 새 정리, 치료법, 치료제를 발견할 수 있다면 그 이점은 거의 무한하다.

AGI는 현재 민간 자금 지원이 부족한 희귀 유전질환의 치료법을 찾고, 암을 완전히 치료하며, 재생에너지 효율을 극대화해 지속 가능하지 않은 에너지에 대한 의존을 없애는 데 필요한 연결고리일 수 있다. 실제로 AGI 시스템에 주어진 중대한 문제를 해결할 수도 있다. 샘 올트먼과 OpenAI 팀은 이를 이해하고 있다. AGI는 대부분의 문제를 해결하고 인류에 이익을 주기 위해 필요한 마지막 발명이라는 것이다.

물론 누가 AGI를 통제하며 어떤 의도를 갖는지에 관한, 이른바 핵 버튼의 문제는 해결되지 않는다. 그럼에도 이 논문은 최초의 다트머스 인공지능 여름 연구 프로젝트 워크숍이 열린 1956년부터 AI 연구자들이 품어 온 꿈을 실현하는 데 GPT-4가 큰 진전이라는 주장을 훌륭하게 펼친다.

GPT-4가 AGI인지는 논쟁의 여지가 있지만, 인류 역사상 처음으로 튜링 테스트를 통과할 수 있는 AI 시스템이라는 주장은 충분히 할 수 있다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.