도서 리뷰: Richard HR Harper의 『생각의 형태: AI 시대의 추론』

리차드 HR 하퍼스 생각의 형태: AI 시대의 추론 이 책은 인공 일반 지능(AI)에 대한 또 다른 추측적인 예측이나 머신러닝 아키텍처에 대한 기술적인 설명이 아닙니다. 이 책은 AI가 우리처럼 생각할 것이라고 기대함으로써 우리가 AI를 어떻게 오해하는지에 대한 근거 있고 인간 중심적인 고찰입니다. 하퍼는 오늘날의 시스템이 일종의 창발적 지능을 가지고 있다는 통념에 이의를 제기합니다. 대신, 그는 대규모 언어 모델과 기타 생성 도구는 매우 정교한 "단어 기하 엔진"으로 이해하는 것이 가장 좋다고 주장합니다. 강력하지만 근본적으로 그 목적은 제한적입니다.

이 책의 특징은 지능을 단독으로 평가할 수 없다는 하퍼의 주장입니다. 지능은 항상 사용 맥락, 시스템이 작동하는 환경, 그리고 시스템이 지원하는 인간의 목적이라는 맥락 안에서 고려되어야 합니다. 그는 추론이 복제 가능한 추상적인 퍼즐이 아니라, 인간사의 더 넓은 지리와 분리될 수 없다고 주장합니다. AI 시스템은 유창한 반응을 생성할 수 있지만, 유창함은 사고가 아닙니다. AI 시스템의 작동은 여전히 통계적 연관성, 이해가 안 됨.

인간의 상황적 활동으로서의 추론

이 책은 추론이 실제로 무엇인지를 재구성하는 것으로 시작합니다. 하퍼에게 추론은 사회적, 문화적, 상황적 측면에서 인간의 경험에 깊이 뿌리내리고 있습니다. 추론은 의도, 역사, 그리고 결정이 내려지는 삶의 맥락에 의해 형성됩니다. 이와 대조적으로 기계는 토큰, 임베딩, 패턴, 확률과 같은 표상을 통해 기능합니다. 기계는 추론의 기반을 공유하지 않으면서도 그 표면적인 부분만 모방할 수 있습니다.

하퍼는 추론을 인간의 맥락에서 떼어내 계산적 산출물로 축소할 때, 우리는 이러한 시스템이 진정으로 달성할 수 있는 것을 오해하게 된다고 경고합니다. 이러한 오해는 단순히 학문적인 차원을 넘어, 설계 선택, 정책 프레임워크, 직장 내 배치, 그리고 대중의 기대에 실질적인 영향을 미칩니다.

오늘날의 시스템을 좁은 AI로 이해하기

이 책의 핵심 주제는 하퍼가 현대 AI를 좁은 인공지능(NAI)으로 재분류한 것입니다. 다재다능함에도 불구하고 현대 AI 모델은 특정 형태의 패턴 조작에 최적화되어 있습니다. 이들은 일반화된 이해, 의식, 또는 인간과 같은 행위 능력을 가지고 있지 않습니다. 하퍼의 "단어 기하학" 프레이밍은 이러한 차이점을 강조합니다. 이러한 시스템은 다차원 언어 공간 내에서 텍스트를 배열하고 생성하는 데 탁월하지만, 인간처럼 세상에 대해 추론하지는 않습니다.

이 주장은 LLM이 단순히 그럴듯한 답을 도출할 수 있다는 이유만으로 지능에 접근한다는 가정에 반박합니다. 하퍼는 독자들에게 이러한 도구들이 통찰이 아닌 단어 구성을 생성한다는 점을 인지할 것을 촉구합니다. LLM의 역량은 인지가 아니라 상관관계에 있습니다.

지능의 진정한 척도로서의 맥락

하퍼의 가장 큰 공헌 중 하나는 지능 논쟁을 테스트 중심 벤치마크에서 벗어나 새로운 방향으로 전환한 것입니다. 그는 지능은 시스템이 사용되는 맥락을 기준으로 판단되어야 한다고 주장합니다. 모델은 추상적인 작업에서는 탁월한 성능을 발휘하지만, 인간이 미묘한 차이, 상황 인식, 그리고 생생한 경험에 의존하는 실제 환경에 적용하면 실패할 수 있습니다.

이러한 맥락적 접근 방식은 조직이 AI를 평가하는 방식을 재정의합니다. 성과 지표는 다음과 같은 질문에 비해 부차적인 것으로 여겨집니다.

• 어떤 과제를 해결하고 있나요?
• 누가 이 시스템을 사용하고 있나요?
• 어떤 가치, 제약, 사회적 역학이 환경을 형성합니까?

하퍼는 인공적 테스트에서 실제 인간 지리학으로 관심을 돌려서 논의를 추론이 실제로 존재하는 곳으로 되돌립니다.

AI와의 관계 재조정

이 책에 반복적으로 등장하는 비유가 특히 기억에 남는다. AI를 새롭게 등장하는 인간형 지능으로 보기보다는, 인간이 역사적으로 말, 낙타, 그리고 특정 목적을 위해 사용된 다른 동물들과 관계를 맺어온 방식으로 접근해야 한다는 것이다. 이 동물들은 귀중한 도구이자 인간 능력의 강력한 연장선이었지만, 결코 동료 사상가로 오인되지 않았다.

AI에 적용하면 이 비유는 비하하는 것이 아니라 명확해집니다. 적절한 경계와 기대치를 설정하는 데 도움이 됩니다. 도구는 지능적이지 않으면서도 특별할 수 있습니다. 생각의 본질을 복제하지 않고도 업무를 혁신할 수 있습니다. 하퍼는 이러한 균형 잡힌 사고방식을 바탕으로 AI 시스템을 설계, 규제, 활용하고, 의인화하려는 유혹을 뿌리치도록 권장합니다.

AI 담론에 대한 독특한 기여

이 책이 특히 가치 있는 이유는 오늘날 AI 논의를 형성하는 지배적인 관점들과 얼마나 확연히 다른지를 보여주는 데 있습니다. 현재 많은 담론은 두 가지 극단에 집중되어 있습니다. 하나는 AI가 인간 수준의 인지 능력에 빠르게 접근하고 있다는 승리주의적 믿음이고, 다른 하나는 AI가 사람들을 오도하거나 오작동할 수밖에 없는 공허한 모방일 뿐이라는 반발적인 두려움입니다. 하퍼는 이 두 가지 서사에서 확고히 벗어나 있습니다. 그는 현대 시스템의 놀라운 능력을 인정하면서도 이러한 능력이 진정한 지능에 해당한다는 가정을 거부합니다. 이를 통해 그는 AI가 실제 인간 환경에서 어떻게 기능하는지를 더 잘 보여주는, 공포주의적이지도 유토피아적이지도 않은 중도적 입장을 제시합니다.

이러한 토대는 하퍼의 연구를 다른 영향력 있는 관점들과 활발하게 논의하게 합니다. 일부 연구자들은 지능을 규모의 새로운 속성으로 규정하는 반면, 다른 연구자들은 조정하퍼는 안전성이나 형식적 검증이라는 두 가지 측면에 대해 다른 관점을 제시합니다. 바로 인간 맥락적 관점입니다. 그는 지능이 모델 성능이나 벤치마크 점수로 축소될 수 없으며, 그 환경, 목적, 그리고 일상생활과의 통합을 고려하여 평가되어야 한다고 주장합니다. 이러한 기여는 사회적 관행, 설계, 그리고 문화적 의미(기술적 논쟁에 의해 종종 간과되곤 하는)를 다시 중심으로 삼음으로써 AI 사고의 생태계를 확장합니다.

AI 개발의 미래에 미치는 영향은 매우 중요합니다. 하퍼의 프레임워크는 엔지니어, 설계자, 정책 입안자들에게 시스템 구축 및 배포 방식을 재고하도록 촉구합니다. 추론이 연산 능력에서 자동적으로 나타나는 특성이 아니라 맥락에 뿌리를 둔 것이라면, 미래의 AI 시스템은 사용 사례, 환경, 그리고 인간의 워크플로우에 더욱 민감하게 설계되어야 합니다. 그의 관점은 개발자들이 인간의 인지를 복제하는 것보다 인간의 추론 과정에 조화롭게 들어맞는 도구를 개발하는 데 더 집중하도록 장려합니다. 이는 모방보다는 증강하는 시스템으로의 전환, 그리고 속도, 정확도, 규모만큼이나 사회적 임베딩을 중요하게 여기는 설계 방법론으로의 전환을 시사합니다.

이런 의미에서, 생각의 형태: AI 시대의 추론 현재에 대한 비판이 아니라 차세대 AI 시스템이 어떻게 구상되어야 하는지에 대한 로드맵입니다. 즉, 기계 지능에 대한 추상적인 환상이 아닌 현실에 기반을 두고 맥락에 맞게 인간 사고에 맞춰야 합니다.