AI 모델 및 플랫폼

로널드 T. 크누젤, “How AI Works: From Sorcery to Science” 저자 – 인터뷰 시리즈

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트로널드 크노이젤은 진정한 인공지능이 프로그래밍된 논리가 아닌 트랜스포머와 같은 복잡한 시스템에서 탄생한다고 주장한다.
더 보기
  • 로널드 크노이젤은 진정한 인공지능이 프로그래밍된 논리가 아닌 트랜스포머와 같은 복잡한 시스템에서 탄생한다고 주장한다.
  • 그는 인공지능의 역사를 이해하는 것이 현재의 급속한 발전을 이해하는 데 중요하다고 믿는다.
  • 크노이젤은 의식을 가진 인공지능 시스템이 사회로 하여금 인공적 인격체 문제를 마주하게 할 수 있다고 경고한다.

최근에 로널드 T. 크누젤의 책 “How AI Work: From Sorcery to Science”의 출간 전 검토용 사본을 받았습니다. 저는 지금까지 AI에 관한 60권 이상의 책을 읽었고, 일부 책은 반복적인 내용이 있지만, 이 책은 신선한 관점을 제공하여 즐겁게 읽었습니다. 이 책은 제 개인적인 역대 최고의 머신러닝 및 AI 도서 목록에 추가되었습니다.

“How AI Works: From Sorcery to Science”는 기계 학습의 핵심 원리를 명확하게 설명하는 책입니다. 아래는 저자 로널드 T. 크누젤에게 한 질문입니다.

이 책은 귀하의 세 번째 AI 책입니다. 이전 두 책은 “Practical Deep Learning: A Python-Base Introduction”와 “Math for Deep Learning: What You Need to Know to Understand Neural Networks”입니다. 이 책을 쓰기 시작했을 때의 초기 의도는 무엇입니까?

다른 대상 독자입니다. 이전 책들은 AI 실무자가 되고 싶은 사람들을 위한 입문서입니다. 이 책은 일반 독자를 위한 것으로, AI에 대한 배경이 없는 사람들이 읽을 수 있습니다. 저는 독자들에게 AI의 기원과 발전에 대해 설명하고, AI가 마법이 아니며, 누구나 이해할 수 있는 것임을 보여주고 싶었습니다.

많은 AI 책은 일반화하는 경향이 있지만, 귀하는 다양한 용어의 의미를 구체적으로 설명하고, AI, 기계 학습, 딥 러닝의 관계를 설명했습니다. 왜 이러한 용어들 사이에 사회적으로 혼란이 있는 것 같습니까?

AI와 기계 학습의 역사와 발전을 이해하기 위해서는 이러한 용어들의 구별을 이해해야 합니다. 그러나 일반적으로는 “AI”라는 용어가 현대적인 AI 시스템을 의미하는 것으로 사용될 수 있습니다. 현대적인 AI 시스템은 딥 러닝에서 비롯되었으며, 딥 러닝은 기계 학습과 연결주의적 접근에서 비롯되었습니다.

제2장에서는 AI의 역사, 즉 페니키아 공주를 지키도록 만들어졌다는 신화 속 거대 로봇 탈로스(Talos)에서부터 앨런 튜링(Alan Turing)의 1950년대 논문 “Computing Machinery and Intelligence”까지, 그리고 2012년의 딥 러닝 혁신까지를 깊이 있게 다룹니다. AI와 기계 학습의 역사에 대한 이해가 왜 중요한가요?

저의 의도는 AI가 하늘에서 떨어진 것이 아니라는 것을 보여주기 위한 것입니다. AI는 역사와 기원, 그리고 발전을 가지고 있습니다. 대규모 언어 모델의 창발적 능력은 놀랍지만, 그에 이르기까지의 과정은 놀라운 일이 아닙니다. 그것은 수십 년간의 생각, 연구, 그리고 실험의 결과입니다.

귀하는 전통적인 AI 시스템, 즉 서포트 벡터 머신, 의사 결정 트리, 랜덤 포레스트에 대한 전체 장을 할애했습니다. 왜 이러한 고전적인 AI 모델을 완전히 이해하는 것이 중요한가요?

신경망 기반의 AI는 단순히 최적화 기반 모델링의 또 다른 접근 방식일 뿐입니다. 그것은 어떤 과정, 즉 입력을 출력으로 대응시키는 함수를 모델링하는 또 다른 방법입니다. 이전 모델에 대한 지식은 현재 모델이 어디서 비롯되었는지 이해하는 데 도움이 됩니다.

귀하는 OpenAI의 ChatGPT의 LLM 모델이 진정한 AI의 시작이라고 믿습니다. 이전 방법과 비교했을 때, 이 모델이 어떤 점이 가장 큰 차이를 가져왔나요?

저는 최근 1980년대 리처드 파인만(Richard Feynman)의 비디오를 보았습니다. 그는 지능 있는 기계에 대한 질문에 대답하려고 했습니다. 그는 어떤 프로그램이 지능적으로 행동할 수 있는지 모른다고 했습니다. 그는 기호주의 AI에 대해 말하고 있었는데, 그곳에서 지능의 수수께끼는 논리적인 연산의 마법 같은 시퀀스를 찾는 것입니다. 저도 많은 사람들과 마찬가지로 같은 질문을 했습니다. 어떻게 지능을 프로그래밍할 수 있을까요?

저의 믿음은 지능을 프로그래밍할 수 없다는 것입니다. 지능은 충분히 복잡한 시스템에서 나타날 수 있습니다. 우리의 뇌는 기본 단위의 복잡한 네트워크입니다. 신경망도 마찬가지입니다. 저는 LLM에 구현된 트랜스포머 아키텍처가 기본 단위들이 함께 작동해 지능적 행동이 창발할 수 있는 유사한 배열을 어느 정도 우연히 발견했다고 생각합니다.

한편으로는 밥 로스가 말하는 궁극의 ‘행복한 우연’입니다. 다른 한편으로는 창발적 지능 행동을 가능하게 하는 기본 단위의 배열과 상호작용이 형성되었다면 그다지 놀라운 일도 아닐 것입니다. 이제 트랜스포머 모델이 그러한 배열 중 하나라는 점은 분명해 보입니다. 그렇다면 또 어떤 배열이 가능할까요?

귀하의 핵심 메시지는 현대적인 AI(LLM)가 핵심적으로 역전파와 그래디언트 디센트를 통해 훈련된 신경망이라는 것입니다. LLM이 얼마나 효과적인지에 대해 놀라운 점은 무엇입니까?

놀랍기도 하고 그렇지 않기도 합니다. 저는 그들의 응답과 능력에 대해 계속해서 놀라고 있습니다. 그러나 이전 질문으로 돌아가면, 창발적 지능은 실제로 존재하며, 적절한 아키텍처를 갖춘 충분히 큰 모델에서 그러한 지능이 나타나지 않을 이유가 있을까요? 프랭크 로젠블랫 시대의 연구자들, 어쩌면 그보다 앞선 연구자들도 비슷하게 생각했을 것입니다.

OpenAI의 사명은 “인공 일반 지능—인간보다 일반적으로 더 똑똑한 AI 시스템—을 모든 인류에게 이점을 주는 것”입니다. 귀하는 AGI가 달성 가능하다고 믿습니까?

저는 의식이 무엇인지 모르듯이 AGI가 무엇을 의미하는지도 모르므로 답하기 어렵습니다. 책에서도 말했듯이, 곧 그런 구분을 따지는 것이 무의미한 때가 올 수 있습니다. 오리처럼 걷고 오리처럼 꽥꽥거린다면 그냥 오리라고 부르고 넘어가자는 것입니다.

농담은 제쳐두고, 언젠가 AI 시스템이 여러 의식 이론의 조건을 충족할 가능성은 충분합니다. 하지만 완전한 의식을 가진 AI 시스템을 원할까요? 의식이 정확히 무엇을 뜻하든, 어쩌면 그렇지 않을 수 있습니다. 의식이 있다면 우리와 같은 존재이며 따라서 권리를 가진 인격체일 것입니다. 세상이 인공 인격체를 맞이할 준비가 되어 있다고 생각하지 않습니다. 우리는 동료 인간의 권리조차 존중하는 데 어려움을 겪고 있으며, 다른 종류의 존재라면 더 말할 것도 없습니다.

이 책을 쓰는 동안, 귀하가 놀랐던 점은 무엇입니까?

LLM의 창발적 능력에 대한 일반적인 놀라움을 제외하고, 특별히 놀랐던 점은 없습니다. 저는 1980년대에 AI를 공부했고, 2000년대 초에 기계 학습을 시작했습니다. 그리고 2010년대 초에 딥 러닝에 참여했습니다. 저는 수천 명의 다른 사람들과 함께 지난 10년간의 발전을 직접 목격하며, 학술대회가 열릴 때마다 이 분야가 크게 성장하는 모습을 보았습니다.

훌륭한 인터뷰에 감사드립니다. 독자들은 이 책에 대한 제 서평도 읽어볼 수 있습니다. 이 책은 아마존을 비롯한 주요 서점에서 구입할 수 있습니다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.