찰스 J. 사이먼, 저자, 컴퓨터는 반란을 일으킬까? – 인터뷰 시리즈

찰스 J. 사이먼, BSEE, MSCS, 전국적으로 인정받은 기업가, 소프트웨어 개발자 및 관리자입니다. 광범위한 관리 및 기술 전문 지식과 전기 공학 및 컴퓨터 과학 분야에서 학위를 보유하고 있는 사이먼 씨는 AI 및 CAD(2세대 CAD)를 포함한 산업계에서 많은 컴퓨터 경험을 가지고 있습니다.

그는 또한 ‘컴퓨터는 반란을 일으킬까?’라는 책의 저자로, 인공 일반 지능(AGI)의 미래 가능성을 심도 있게 살펴보는 책입니다.

당신이 처음으로 AI, 특히 AGI에 관심을 가지게 된 것은 무엇입니까?

나는 앨런 튜링의 1950년 논문 “기계는 생각할 수 있을까?”를 처음 읽은 이후로 이 질문에 매료되었습니다. 지금까지의答案은 명확하게 “아니오”입니다. 그러나 과학적으로는 기계가 생각할 수 없다는 이유가 없습니다. 나는 1980년대 후반에 신경망 붐과 함께 AI 커뮤니티에 tham gia했습니다. 그 이후로 AI는 큰 발전을 이루었습니다. 그러나 30년이 지난 지금에도 기계는 여전히 이해력을 갖지 못했습니다.

MIT의 AI 전문가 로드니 브룩스(Rodney Brooks)의 의견을 공유하는데, 그는 “로봇의 몸이 없으면 기계는 AGI를 나타낼 수 없다”고 말합니다. 이것은 로봇의 몸에서 입력이不足하면 AI는 AGI 능력을 발휘할 수 없다는 것을 의미합니다. 컴퓨터 비전을 제외하고, AGI를 개발하기 위해 어떤 종류의 입력이 필요합니까?

오늘날의 AI는 물리적 객체의 존재, 시간의 경과, 원인과 결과와 같은 기본 개념을 이해해야 합니다. 3세의 아이도 이러한 개념을 이해할 수 있습니다. 아이는 여러 감각을 사용하여 이러한 개념을 학습합니다. 예를 들어, 아이는 장난감을 만지거나 조작하여 이러한 개념을 학습합니다. 물론, 이러한 감각이 없으면 AGI를 개발하는 것이 더 어려울 수 있습니다.

私の 시뮬레이터는 냄새와 맛의 감각도 제공할 수 있습니다. 그러나 이러한 감각이 AGI에 중요한지 여부는 아직 결정되지 않았습니다.

당신은 “지능을 위한 핵심 요구 사항은 지능 외부의 환경”이라고 말했습니다. 예를 들어, “IBM의 왓슨이 ‘사물’이 무엇인지 이해할 수 없다면, 그것이 아무것도 이해할 수 없다”고 말했습니다. 이것은 현재의 협소한 AI, 특히 자연어 처리의 한계를 보여줍니다. AI 개발자가 이러한 한계를 어떻게 극복할 수 있습니까?

지식 저장은 언어, 시각, 촉각과 같은 특정 감각에 국한되지 않고, 추상적인 “사물”로 저장되어야 합니다. 예를 들어, “빨간 공”이라는 문장을 생각해 보세요. 이 문장을 이해하는 이유는 시각적, 촉각적 경험 때문입니다. 또한 이 문장을 듣고 나면 관련된 행동, 즉 던지기, 튀기, 걷기 등이 생각날 것입니다. 언어나 이미지에만 기반한 AI 시스템은 이러한 이해를 놓칠 수 있습니다.

私は 유니버설 지식 저장소를 구현했습니다. 여기서 지식은 뇌와 같은 구조로 저장되며, “사물”은 신경 세포와 유사하며, 다른 “사물”에 대한 속성 참조를 가집니다. 예를 들어, “빨간 공”은 “빨간”과 “공”이라는 두 개의 속성 참조를 가지는 “사물”입니다. 이러한 속성 참조는 시냅스와 유사합니다.

당신은 뇌 시뮬레이션을 통해 일반 지능을 개발하는 것이 아직 멀었다고 생각합니다. 그러나 AGI는 상대적으로 가까운 미래에 등장할 수 있다고 생각합니다. 따라서 우리는 뇌 시뮬레이션을 포기하고 AGI에 집중해야 합니까?

현재의 딥 러닝과 관련 기술은 적절한 응용 분야에서优秀합니다. 그러나 이해력까지는 도달하지 못합니다. 다음 단계를 위해, 우리는 3세 아이가 이해할 수 있는 문제를 해결하기 위한 기술을 추가해야 합니다.

컴퓨터의 내재된 능력을 활용하면 생물학적 동등물이나 시뮬레이션보다 훨씬 효율적일 수 있습니다. 예를 들어, 뇌는 신경 세포의 화학적 변화로 정보를 저장할 수 있습니다. 그러나 컴퓨터는 단 하나의 메모리 사이클로 새로운 신경 세포 값을 저장할 수 있습니다. 이것은 생물학적 동등물보다 10억 배 빠릅니다.

AGI 소프트웨어를 개발하면서, 나는 생물학적 신경 시뮬레이션과 더 효율적인 알고리즘을 모두 사용했습니다. 유니버설 지식 저장소를 사용하면, 시뮬레이션된 생물학적 신경 세포에서 각 “사물”은 최소 10개의 신경 세포가 필요합니다. 이것은 인간 뇌의 능력이 1억에서 1억 개의 “사물” 사이에 있음을 의미합니다. 그러나 AGI는 100만 개의 “사물”만 이해해도 지능적으로 보일 수 있습니다. 이것은 현재의 고성능 데스크톱 컴퓨터에서 가능합니다.

로봇의 시간을 처리 및 반응과 상상 및 계획에 어떻게 할당해야 합니까? 상상의 중요성을 AGI에 대해 간단히 설명해 주세요.

우리는 많은 것을 상상할 수 있습니다. 그리고 우리는 그 중에서 우리의 내부 목표에 부합하는 것을 선택할 수 있습니다. 상상의真正한 힘은 미래를 예측하는 것입니다. 3세의 아이는 다른 방으로 가는 동작의 순서를 예측할 수 있습니다. 성인은 다른 사람에게 어떤 단어가 가장 큰 영향을 미칠지 예측할 수 있습니다.

AGI도 마찬가지입니다. 순수한 반응을 넘어 다양한 복잡한 동작을 상상하고, 최선의 선택을 할 수 있습니다.

당신은 아시모프의 3가지 로봇 법칙이 너무 단순하고 모호하다고 생각합니다. 당신의 책에서 로봇에 프로그래밍할 추천 법칙을 제시했습니다. 로봇이 따라야 할 가장 중요한 법칙은 무엇입니까?

새로운 “로봇 법칙”은 AGI가 등장함에 따라 수년 내에 발전할 것입니다. 나는 몇 가지 시작점을 제안합니다.

1. 내부 지식과 환경에 대한 이해를 최대화합니다.
2. 그 지식을 다른 사람들과 정확하게 공유합니다(AGI와 인간 모두).
3. AGI와 인간 모두의 전체적인幸福을 최대화합니다(개인적으로 아니라).

당신은 튜링 테스트와 그背後의 개념에 대해 문제가 있습니다. 튜링 테스트가 어떻게 결함이 있는지 설명해 주세요.

튜링 테스트는 50년 동안 일반 지능의 임시 정의로 잘 служ해 왔습니다. 그러나 AGI가 가까워지면서, 우리는 정의를 정교화해야 합니다. 튜링 테스트는 실제로 인간인지, 지능인지 테스트하는 것이 아닙니다. 컴퓨터가 인간을 가장 오래 유지할수록 테스트에서 더 잘 수행됩니다. 예를 들어, “당신은 컴퓨터입니까?” 또는 “당신의 좋아하는 음식은 무엇입니까?”와 같은 질문은 컴퓨터가 속임수를 사용하지 않는 한 명백한 giveaways입니다.

또한, 튜링 테스트는 AI 개발을 제한된 가치가 있는 분야로 이끌었습니다. 예를 들어, 응답의 유연성이 큰 채팅봇이지만, 이해력이 없는 채팅봇입니다.

당신의 튜링 테스트 버전에서는 어떻게 다를까요?

시간, 공간, 원인과 결과, 예측 등에 대한 이해를 테스트하는 질문이 더 좋을 것입니다. 예를 들어:

1. 당신이 지금 무엇을 볼 수 있습니까? 3피트 뒤로 물러가면 어떤 차이가 있습니까?
2. 만약에 [동작]을 한다면, 당신의 반응은 무엇입니까?
3. 만약에 [동작]을 한다면, 나의 반응은 무엇입니까?
4. [객체]와 비슷한 3가지 것을 이름을 지어 보세요.

그런 다음, 응답을 인간의 응답과 구별할 수 있는지 여부를 평가하는 대신, 테스트되는 개체의 경험에 기반하여 합리적인 응답인지 여부를 평가해야 합니다.

당신은 AGI가 제대로 프로그래밍되면, 파괴적인 활동을 요구받을 때 단순히 거부할 것이라고 말했습니다. 우리는 AGI가 제대로 프로그래밍되었는지 어떻게 확신할 수 있습니까?

의사 결정은 목표 기반입니다. 상상력과 결합하여, 당신(또는 AGI)은 다양한 가능한 동작의 결과를 고려하고, 목표를 달성하는 것을 선택합니다. 인간의 경우, 목표는 진화된 본능과 경험에 의해 설정됩니다. AGI의 경우, 목표는 개발자에 의해 설정됩니다. 우리는 AGI의 목표가 인간의 목표와 일치하는지 확인해야 합니다.

당신은 AGI가 반드시 등장할 것이라고 말했습니다. 당신의 추정에 따르면, 언제 등장할 것이라고 생각합니까?

AGI의 일부는 향후 10년 내에 등장할 것입니다. 그러나 우리는 모두 AGI가 실제로 등장했다고 동의하지 않을 것입니다. 결국, 우리는 AGI가 인간의 대부분의 능력을 상당한 차이로 초과할 때 등장했다고 동의할 것입니다. 이것은 2-3십년 더 걸릴 것입니다.

AGI는 우리가 알고 있는 것과 같은真正한 의식일까요?

의식은 내부 감각에 기반한 행동의 집합입니다(우리가 관찰할 수 있음). AGI는 이러한 행동을 나타낼 것입니다. 지능적인 결정을 내리기 위해서는 그러한 행동이 필요합니다. 그러나私は AGI의 내부 감각이 인간의 감각과 다를 것이라고 생각합니다.

同じことが 감정과 자유 의지에 적용됩니다. 결정을 내릴 때, 우리는 자유 의지가 있음을 믿어야 합니다. 만약 선택의 여지가 없다고 생각한다면, 우리는 단순히 반응할 뿐입니다. AGI도 마찬가지입니다. 지능적인 결정을 내리기 위해서는, 자신의 결정을 내릴 수 있는 능력이 있어야 합니다.

마지막 질문입니다. AGI는 더 많은 좋은 점을 가질까요, 아니면 더 많은 나쁜 점을 가질까요?

私は AGI가 우리를 앞으로 나아가게 하고, 우주의 많은 질문에 대한答案을 제공할 것이라고 낙관적으로 생각합니다. 핵심은 우리가 AGI와의 관계를 정의하고, 그 목표를 결정하는 것입니다. 만약 우리가 첫 번째 AGI를 정복과 부의 도구로 사용한다면, 나중에 그것이 우리에게 반대하는 도구가 될 수 있습니다. 만약 우리가 AGI를 지식, 탐구, 평화의 도구로 사용한다면, 그것이 우리에게 돌아올 것입니다. 선택은 우리에게 달려 있습니다.

AGI를 구축하는 미래의 잠재력을 탐구하는 훌륭한 인터뷰에 감사드립니다. 더 많은 것을 배우고 싶은 독자는 ‘컴퓨터는 반란을 일으킬까?’를 읽거나 찰스의 웹사이트 futureai.guru를 방문할 수 있습니다.