리처드 H.R. 하퍼의 책 리뷰: 인공지능 시대에 대한 사고의 형태

리처드 H.R. 하퍼의 인공지능 시대에 대한 사고의 형태는 인공지능 일반 지능에 대한 또 다른 추측적인 예측이나 기계 학습 아키텍처에 대한 기술적인 설명이 아니다. 그것은 우리가 인공지능을 인간과 같은 방식으로 생각하도록 기대함으로써 인공지능을 잘못 이해하는 방식에 대한 인간 중심의 검토이다. 하퍼는 오늘날의 시스템이 한 형태의 발현 지능을 갖고 있다고 하는 우세한 이야기를 도전한다. 대신, 그는 대규모 언어 모델과 기타 생성 도구가 매우 정교한 “단어-기하학 엔진”으로 가장 잘 이해된다고 주장한다. 강력하지만, 본질적으로 목적이 狹い이다.

이 책을 구별하는 것은 하퍼의 지능이 고립에서 평가될 수 없다는 주장이다. 그것은 항상 사용의 맥락, 시스템이 작동하는 환경, 그리고 그것이 지원하는 인간의 목적에서 고려되어야 한다. 하퍼는 추론이 추상적인 퍼즐이 아니라고 주장한다. 그것은 인간의 事務의 더 넓은 지리와 분리할 수 없다. 인공지능 시스템은 유창한 응답을 생성할 수 있지만, 유창함은 생각이 아니다. 그들의 작동은 이해가 아닌 통계적 연관성에 고정된다.

인간의 상황적 활동으로서의 추론

이 책은 실제로 무엇인지에 대한 추론을 재구성함으로써 시작된다. 하퍼에게 추론은 인간의 경험에 깊이 내재되어 있다. 사회적, 문화적, 상황적이다. 그것은 의도, 역사, 그리고 결정이 내려지는 상황에 의해 형성된다. 기계는 대표를 통해 작동한다. 토큰, 임베딩, 패턴, 확률이다. 그들은 추론의 표면을 모방할 수 있지만, 그 기초를 공유하지 않는다.

하퍼는 추론을 인간의 맥락에서 벗어나고 계산 출력으로 줄이면, 우리는 이러한 시스템이 진정으로 수행할 수 있는 것을 잘못 해석한다고 경고한다. 이 오해는 학술적인 것만이 아니다. 그것은 설계 선택, 정책 프레임워크, 작업 배포, 공공 기대에 실제적인 영향을 미친다.

오늘날의 시스템을 狹い 인공지능으로서 이해

이 책의 중심 테마는 현대 인공지능을 狹い 인공지능으로 재분류하는 것이다. 그들의 다용도에도 불구하고, 현대 인공지능 모델은 특정 형태의 패턴 조작에 최적화되어 있다. 그들은 일반화된 이해, 의식, 또는 인간과 같은 기관을 갖고 있지 않다. 하퍼의 “단어-기하학” 프레임은 이러한 차이를 강조한다. 이러한 시스템은 다차원 언어 공간에서 텍스트를 배열하고 생성하는 데 탁월하지만, 인간과 같은 방식으로 세계에 대해 추론하지 않는다.

이 논증은 인공지능이 인간 지능에 접근하는 것만으로 인해 지능에 접근한다는 가정에 대한 반박이다. 대신, 하퍼는 이러한 도구가 단어의 구성만 생성하고, 통찰력을 생성하지 않는다고 독자에게 주장한다. 그들의 능력은 상관관계에 있으며, 인식에는 없다.

지능의 真正한 측정: 맥락

하퍼의 가장 강력한 기여는 지능 논쟁을 벤치마크 점수에서 맥락으로 재정향하는 것이다. 그는 지능이 시스템을 사용하는 맥락에서 평가되어야 한다고 주장한다. 모델은 추상적인 작업에서 훌륭하게 수행할 수 있지만, 인간이 미묘함, 상황 인식, 그리고 경험을 의존하는 실제 세계 환경에서 실패할 수 있다.

이 맥락적 접근은 조직이 인공지능을 평가하는 방식을 재정의한다. 성능 지표는 다음과 같은 질문에 次ぐ된다.

• 어떤 작업이 해결되고 있는가?
• 누가 시스템을 사용하고 있는가?
• 어떤 가치, 제약, 또는 사회적 역학이 환경을 형성하는가?

인공 테스트에서 실제 인간 지리로 주목을 돌림으로써, 하퍼는 논의를 실제로 추론이 sống고 있는 곳으로 돌려보낸다.

인공지능과의 관계 재조정

이 책에서 반복되는 비유는 특히 기억에 남다. 인공지능을 인간과 같은 지능으로 등장시키는 대신, 우리는 그것을 역사적으로 인간이 작업 동물, 말, 낙타, 그리고 다른 동물과 관련하여 사용한 방식으로 접근해야 한다. 이러한 동물은 가치 있는 도구였다. 인간 능력의 강력한 확장이었지만, 생각하는 존재로 오인하지 않았다.

인공지능에 적용된 이 비유는貶める 것이 아니다. 그것은 적절한 경계와 기대를 설정하는 것을 도와준다. 도구는 지능적이지 않아도 非常할 수 있다. 그것은 생각의 본질을 복제하지 않고 작업을 변환할 수 있다. 하퍼는 우리가 이러한 조정된 마음으로 인공지능 시스템을 설계하고, 규제하고, 사용하도록鼓勵한다. 그것들을 인간과 같은 존재로 오인하는 유혹에 저항한다.

인공지능 논의에 대한 独特한 기여

이 책을 특히 가치 있는 것은 오늘날의 인공지능 대화에서 우세한 관점과 명확하게 다르다는 것이다. 많은 현재의 논의는 두 극단에 집중한다. 인공지능이 인간의 인지에 빠르게 접근하고 있다는 승리주의적 믿음과, 그것이 속임수로 운명되어 오인 또는 오작동할 것이라는 반대하는 두려움이다. 하퍼는 두 가지 이야기 밖에서 자신을 위치시킨다. 그는 현대 시스템의驚異한 능력을 인정하지만, 이러한 능력이 진정한 지능을 구성한다는 가정은 거부한다. 그렇게 함으로써, 그는 두 극단 사이의 중간 경로를 제공한다. 경보주의적이지도, 유토피아적이지도 않다. 인공지능이 실제로 인간의 환경에서 작동하는 방식에 더 잘 반영된다.

이 기반은 하퍼의 작품을 다른 영향력 있는 관점과 활발한 대화로 만든다. 일부 연구자는 지능을 규모의 발현 특성으로 프레임하고, 다른 사람들은 정렬, 안전, 또는 형식적 검증을 강조한다. 하퍼는 다른 것을 추가한다. 인간 맥락 렌즈이다. 그는 지능이 모델 성능이나 벤치마크 점수로 축소될 수 없다고 주장한다. 그것은 설정, 목적, 그리고 일상 생활에 대한 통합과 관련하여 평가되어야 한다. 이 기여는 사회적 관행, 설계, 문화적 의미를 재중심화함으로써 인공지능 사고의 생태계를 확장한다. 기술적인 논의에 의해 종종 가려지는 차원이다.

인공지능 개발의 미래에 대한 영향은重大하다. 하퍼의 프레임워크는 엔지니어, 디자이너, 정책 입안자에게 시스템을 구축하고 배포하는 방식을 재고하도록鼓勵한다. 추론이 계산 능력에서 자동으로 나타나는 특성이 아니라, 맥락에 뿌리박혀 있다면, 미래의 인공지능 시스템은 사용 사례, 환경, 인간의 워크플로에 대한 더 깊은 감각으로 설계되어야 한다. 그의 관점은 개발자에게 인간의 인지를 복제하는 것보다 인간의 추론 프로세스에 조화롭게 맞는 도구를 구축하는 것에 더 집중하도록鼓勵한다. 그것은 보완하는 시스템으로의 전환을 시그널한다. 속도, 정확도, 또는 규모와 같은 사회적埋め込み를 진지하게 생각하는 설계 방법론으로의 전환이다.

이 sentido, 인공지능 시대에 대한 사고의 형태는 현재에 대한 비판만이 아니다. 그것은 다음 세대의 인공지능 시스템이 어떻게 구상될 수 있는지에 대한 로드맵이다. 인간의 생각의 현실과 추상적인 기계 지능의 환상에 맞춰진 것보다, 기반, 맥락, 그리고 일치한다.