로널드 T. 크누젤, “How AI Works: From Sorcery to Science” 저자 – 인터뷰 시리즈

최근에 로널드 T. 크누젤의 책 “How AI Work: From Sorcery to Science”의 미리 보기를 받았습니다. 저는 지금까지 AI에 관한 60권 이상의 책을 읽었고, 일부 책은 반복적인 내용이 있지만, 이 책은 신선한 관점을 제공하여 즐겁게 읽었습니다. 이 책은 제 개인적인 최고의 머신 러닝 및 AI 책 목록에 추가되었습니다.

“How AI Works: From Sorcery to Science”는 기계 학습의 핵심 원리를 명확하게 설명하는 책입니다. 아래는 저자 로널드 T. 크누젤에게ถาม은 질문입니다.

이 책은 귀하의 세 번째 AI 책입니다. 이전 두 책은 “Practical Deep Learning: A Python-Base Introduction”와 “Math for Deep Learning: What You Need to Know to Understand Neural Networks”입니다. 이 책을 쓰기 시작했을 때의 초기 의도는 무엇입니까?

다른 대상 독자입니다. 이전 책은 AI에 관심이 있는 사람들을 위한 입문서입니다. 이 책은 일반 독자를 위한 것으로, AI에 대한 배경이 없는 사람들이 읽을 수 있습니다. 저는 독자들에게 AI의 기원과 발전에 대해 설명하고, AI가 마법이 아니며, 누구나 이해할 수 있는 것임을 보여주고 싶었습니다.

많은 AI 책은 일반화하는 경향이 있지만, 귀하는 다양한 용어의 의미를 구체적으로 설명하고, AI, 기계 학습, 딥 러닝의 관계를 설명했습니다. 왜 이러한 용어들 사이에 사회적으로 혼란이 있는 것 같습니까?

AI와 기계 학습의 역사와 발전을 이해하기 위해서는 이러한 용어들의 구별을 이해해야 합니다. 그러나 일반적으로는 “AI”라는 용어가 현대적인 AI 시스템을 의미하는 것으로 사용될 수 있습니다. 현대적인 AI 시스템은 딥 러닝에서 비롯되었으며, 딥 러닝은 기계 학습과 연결주의적 접근에서 비롯되었습니다.

제2장에서는 AI의 역사, 즉 탈로스(Talos)라는 거대한 로봇에서부터 앨런 튜링(Alan Turing)의 1950년대 논문 “Computing Machinery and Intelligence”까지, 그리고 2012년의 딥 러닝 혁신까지를 깊이 있게 다룹니다. AI와 기계 학습의 역사에 대한 이해가 왜 중요한가요?

저의 의도는 AI가 하늘에서 떨어진 것이 아니라는 것을 보여주기 위한 것입니다. AI는 역사와 기원, 그리고 발전을 가지고 있습니다. 큰 언어 모델의 출현은 놀라운 일이지만, 그로 dẫn어진 경로는 아닙니다. 그것은 수십 년간의 생각, 연구, 그리고 실험의 결과입니다.

귀하는 전통적인 AI 시스템, 즉 서포트 벡터 머신, 의사 결정 트리, 랜덤 포레스트에 대한 전체 장을 할애했습니다. 왜 이러한 고전적인 AI 모델을 완전히 이해하는 것이 중요한가요?

신경망 기반의 AI는 단순히 최적화 기반 모델링의 또 다른 접근 방식일 뿐입니다. 그것은 어떤 프로세스나 함수를 모델링하는 또 다른 방법입니다. 이전 모델에 대한 지식은 현재 모델이 어디서 비롯되었는지 이해하는 데 도움이 됩니다.

귀하는 OpenAI의 ChatGPT의 LLM 모델이 진정한 AI의 시작이라고 믿습니다. 이전 방법과 비교했을 때, 이 모델이 어떤 점이 가장 큰 차이를 가져왔나요?

저는 최근 1980년대 리처드 파인만(Richard Feynman)의 비디오를 보았습니다. 그는 지능 있는 기계에 대한 질문에 대답하려고 했습니다. 그는 어떤 프로그램이 지능적으로 행동할 수 있는지 모른다고 했습니다. 그는 상징적인 AI에 대해 말하고 있었는데, 그곳에서 지능의謎는 논리적인 연산의 마법 같은 시퀀스를 찾는 것입니다. 저도 많은 사람들과 마찬가지로 같은 질문을 했습니다. 어떻게 지능을 프로그래밍할 수 있을까요?

저의 믿음은 지능을 프로그래밍할 수 없다는 것입니다. 지능은 충분히 복잡한 시스템에서 나타날 수 있습니다. 우리의 뇌는 기본 단위의 복잡한 네트워크입니다. 신경망도 마찬가지입니다. 저는 트랜스포머 아키텍처가Emergent 지능을 가능하게 하는 기본 단위의 배열을偶然히 발견했다고 생각합니다.

귀하의 핵심 메시지는 현대적인 AI(LLM)가 핵심적으로 역전파와 그래디언트 디센트를 통해 훈련된 신경망이라는 것입니다. LLM이 얼마나 효과적인지에 대해 놀라운 점은 무엇입니까?

예스 그리고 노입니다. 저는 그들의 응답과 능력에 대해 계속해서 놀라고 있습니다. 그러나 이전 질문으로 돌아가면, emergent 지능은 실제로 존재하며, 왜 그러한 지능이 충분히 큰 모델과 적절한 아키텍처에서 나타나지 않는지 이해할 수 없습니다.

OpenAI의 사명은 “인공 일반 지능—인간보다 일반적으로 더 똑똑한 AI 시스템—을 모든 인류에게ประโยชน을 주는 것”입니다. 귀하는 AGI가 달성 가능하다고 믿습니까?

저는 AGI가 무엇인지 정확히 모릅니다. 그래서 대답하기가 어렵습니다. 책에서 말했듯이, 곧 그런 구별을 신경 쓰지 않아도 될 때가 올 것입니다. 그때는 그냥 그대로 받아들이고 진행하면 됩니다.

농담을 제쳐두고, 완전히 의식 있는 AI 시스템이 등장할 가능성은 충분히 존재합니다. 그러나 우리는 그런 시스템을 원합니까? 만약 의식이 있는 시스템이라면, 그것은 우리와 비슷한 존재가 될 것입니다. 그리고 우리는 다른 존재의 권리를尊重하지 못하는 경우가 많습니다.

이 책을 쓰는 동안, 귀하가 놀랐던 점은 무엇입니까?

LLM의 emergent 능력에 대한 일반적인 놀라움을 제외하고, 특별히 놀랐던 점은 없습니다. 저는 1980년대에 AI를 공부했고, 2000년대初에 기계 학습을 시작했습니다. 그리고 2010년대初에 딥 러닝에 참여했습니다. 저는 지난 10년간의 발전을 직접 목격했습니다.

이 인터뷰에 감사드립니다. 독자들은 또한 이 책에 대한 제 리뷰를 읽어보실 수 있습니다. 이 책은 모든 주요 소매점에서 구입할 수 있으며, 아마존에서도 구입할 수 있습니다.