딥마인드: AI는 인간의 인지적 한계를 물려받을 수 있으며 ‘형식적인 교육’을 통해 이점을 얻을 수 있다.

딥마인드와 스탠퍼드 대학교의 새로운 공동 연구에 따르면, AI는 추상적인推論에서 인간보다 나을 수 없을 수도 있다. 이는 기계 학습 모델이 실제 세계의 인간 예시에서 추론 아키텍처를 얻기 때문이다. 이러한 예시는 실제 상황에 기반하지만, AI는 이러한 상황을 경험할 수 없다. 또한, 이러한 예시는 인간의 인지적 한계로 인해 제한될 수 있다.

이 연구는 AI 시스템에서 우수한 ‘청空思考’과 지적 창조力的 질을 기대하는 많은 사람들에게 장벽을 나타낼 수 있다. 또한, AI는 인간의 경험을 반영하며, 인간이 알려준 경계 내에서 추론하고 推論한다는 것을 보여준다.

연구자들은 AI 모델이 추상적인 推論을 위한 사전 훈련을 통해 이점을 얻을 수 있다고 제안한다. 이는 ‘형식적인 교육’과 유사하다. 이러한 훈련은 실제 세계의 작업에 앞서서 이루어져야 한다.

연구 논문은 다음과 같이 말한다:

인간은 불완전한 추론자이다. 우리는 세계에 대한 우리의 이해와 일치하는 实體와 상황에 대해 가장 효과적으로 추론한다.

우리의 실험은 이러한 패턴의 행동을 반영한다. 언어 모델은 논리적인 추론 작업에서 불완전하게 수행한다. 그러나 이러한 성능은 내용과 상황에 따라 달라진다. 가장 주목할 만한 것은 이러한 모델이 인간이 실패하는 상황에서 자주 실패한다는 것이다. 즉, 자극이 너무 추상적이거나 세계에 대한 우리의 이전 이해와 충돌할 때이다.

연구자들은 이러한 한계가 있는지 확인하기 위해 대규모 자연어 처리 모델에 대한 세 가지 테스트를 진행했다. 그 결과는 다음과 같다:

우리는 상태-of-the-아트 대형 언어 모델이 인간과 유사한 패턴을 반영한다는 것을 발견했다. 이러한 모델은 인간과 마찬가지로, 믿을 수 있는 상황에 대해 더 효과적으로 추론한다. 그러나 추상적인 상황이나 실제와 충돌하는 상황에서는 그렇지 않다.

우리의 발견은 이러한 인지적 효과와 언어 모델의 성능에 기여하는 요인을 이해하는 데에 의미가 있다.

연구자들은 추론 능력을 개발하지 않고 실제 세계의 경험을 제공하지 않는다면, 이러한 시스템의 잠재력을 제한할 수 있다고 말한다. 또한, 인간의 경험은 언어를 통해 사회적 의사소통의 중심적인 구성요소로 경험한다는 것을 강조한다.

연구자들은 다음과 같이 말한다:

일부 차이점은 언어 모델과 인간 사이의 차이에서 비롯될 수 있다. 즉, 인간의 풍부한 경험과 모델의 빈약한 경험 사이의 차이이다.

그들은 이러한 차이점을 해결하기 위한 하나의 방법은 사전 훈련 기간을 제공하는 것이라고 제안한다. 이는 인간이 학교와 대학 시스템에서 경험하는 것과 유사하다.

이러한 사전 훈련은 기존의 기계 학습 사전 훈련과 다르다. 기존의 사전 훈련은 반복적으로 훈련된 모델이나 완전히 훈련된 모델에서 가중치를 가져오는 방법이다. 그러나 새로운 사전 훈련은 추상적인 推論 능력을 개발하기 위한 지속적인 학습 기간이다.

연구자들은 다음과 같이 말한다:

여러 결과가 이 방식이 불가능하지 않음을 보여준다.

이 연구는 언어 모델이 인간의 경험을 반영하며, 추상적인 推論에서 인간과 유사한 패턴을 보여준다는 것을 보여준다. 또한, 이러한 모델이 실제 세계의 경험을 통해 추론 능력을 개발할 수 있다는 것을 시사한다.

테스트

인간은 실제 상황을 통해 추상적인 개념을 학습한다. 이는 언어 학습자들이 어휘와 언어 규칙을 기억하기 위해 사용하는 방법과 유사하다. 가장 간단한 예는 물리학의 추상적인 원리를 가르치는 것이다.

연구자들은 이러한 추상적인 推論 능력을 테스트하기 위해 세 가지 테스트를 진행했다. 첫 번째 테스트는 자연어 추론 작업이었다.

두 번째 테스트는 삼단논법을 사용했다. 삼단논법은 두 개의 진실한 문장이 세 번째 문장을 암시하는 논리적인 추론이다.

세 번째 테스트는 와슨 선택 작업을 사용했다. 와슨 선택 작업은 네 개의 카드가 주어지고, 규칙을 확인하기 위해 어떤 카드를 뒤집어야 하는지를 결정하는 작업이다.

연구자들은 이러한 테스트에서 언어 모델이 인간과 유사한 패턴을 보여준다는 것을 발견했다. 그러나 이러한 모델은 추상적인 상황이나 실제와 충돌하는 상황에서는 그렇지 않았다.

삼단논법

삼단논법은 두 개의 진실한 문장이 세 번째 문장을 암시하는 논리적인 추론이다. 그러나 인간은 이러한 추론에서 오류를 범할 수 있다.

연구자들은 삼단논법을 사용하여 언어 모델의 추론 능력을 테스트했다. 그 결과는 다음과 같다:

신념 편향이 거의 모든 결정을 주도한다.

연구자들은 이러한 결과가 언어 모델과 인간 사이의 차이점을 보여준다는 것을 강조한다.

와슨 선택 작업

와슨 선택 작업은 네 개의 카드가 주어지고, 규칙을 확인하기 위해 어떤 카드를 뒤집어야 하는지를 결정하는 작업이다. 연구자들은 이러한 작업을 사용하여 언어 모델의 추론 능력을 테스트했다.

그 결과는 다음과 같다:

이 결과는 인간의 문헌에서 발견된 결과와 일치한다. 즉, 인간은 실제 상황에 대한 규칙을 확인하는 작업에서 더 정확하다.

형식적인 교육

연구의 결과는 언어 모델의 추론 능력이 인간의 경험을 반영하며, 추상적인 推論에서 인간과 유사한 패턴을 보여준다는 것을 보여준다. 또한, 이러한 모델이 실제 세계의 경험을 통해 추론 능력을 개발할 수 있다는 것을 시사한다.

연구자들은 이러한 결과가 언어 모델의 개발에 중요한 의미를 가졌다는 것을 강조한다. 또한, 이러한 모델이 실제 세계의 경험을 통해 추론 능력을 개발할 수 있다는 것을 시사한다.

연구자들은 다음과 같이 말한다:

우리의 결과는 내용 효과가 인간의 문화를 모방하는大型変換器를 훈련함으로써 발생할 수 있음을 보여준다. 이는 언어 모델과 인간이 이러한 내용 편향을 어떻게 달성하는지에 대한 이해를 제공한다.

이 연구는 언어 모델의 추론 능력과 실제 세계의 경험 사이의 관계를 보여준다. 또한, 이러한 모델이 추상적인 推論에서 인간과 유사한 패턴을 보여준다는 것을 보여준다.

연구자들은 이러한 결과가 언어 모델의 개발에 중요한 의미를 가졌다는 것을 강조한다. 또한, 이러한 모델이 실제 세계의 경험을 통해 추론 능력을 개발할 수 있다는 것을 시사한다.