Anderson의 관점

딥마인드: AI는 인간의 인지적 한계를 물려받을 수 있으며 정규 교육에서 도움을 얻을 수 있다

Martin Anderson
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트DeepMind과 스탠퍼드 대학은 AI가 논리적 추론 과제에서 인간의 신념 편향을 그대로 반영한다는 것을 보여주었다.
더 보기
  • DeepMind과 스탠퍼드 대학은 AI가 논리적 추론 과제에서 인간의 신념 편향을 그대로 반영한다는 것을 보여주었다.
  • 언어 모델은 추상적 논리에는 어려움을 겪지만, 현실적인 Wason 선택 과제에서는 우수한 성능을 보인다.
  • 연구자들은 AI의 추상적 추론 능력을 향상시키기 위해 정규 교육 스타일의 사전 훈련을 제안한다.

딥마인드와 스탠퍼드 대학교의 새로운 공동 연구는 AI가 추상적 추론에서 인간보다 더 낫지 않은 경우가 많을 수 있다고 제안한다. 기계 학습 모델이 실제 인간의 사례에서 추론 구조를 얻기 때문이다. 이러한 사례는 AI가 직접 경험할 수 없는 실제 맥락에 기반하며 인간 자신의 인지적 약점에도 영향을 받는다.

이 결과가 입증된다면, 많은 사람이 기계 학습 시스템에 기대하는 뛰어난 자유로운 창의적 사고와 지적 독창성을 가로막는 장벽이 될 수 있다. 또한 AI가 인간의 경험을 얼마나 반영하며, 자신을 형성한 인간의 한계 안에서 사고하고 추론하는지 보여준다.

연구진은 AI 모델이 실제 과제에 투입되기 전에 추상적 추론을 사전 학습하면 도움이 될 수 있다고 제안하며 이를 일종의 정규 교육에 비유한다.

논문은 다음과 같이 말한다.

“인간의 추론은 완벽하지 않다. 우리는 세계에 대한 이해와 일치하는 대상과 상황에 관해 가장 효과적으로 추론한다.”

“실험 결과 언어 모델도 이러한 행동 양상을 반영했다. 언어 모델의 논리적 추론 과제 수행은 불완전하며 내용과 맥락에 좌우된다. 특히 자극이 지나치게 추상적이거나 기존의 세계 이해와 충돌할 때처럼 인간이 실패하는 상황에서 모델도 자주 실패한다.”

연구진은 이러한 한계가 GPT 수준의 초대규모 자연어 처리(NLP) 모델에 미치는 영향을 살피기 위해 적절한 모델에 세 가지 검사를 실시하고 다음과 같이 결론 내렸다*.

“최신 대형 언어 모델은 70억 또는 700억 개의 매개변수를 사용하며, 이 과제들에서 인간에게 관찰되는 여러 양상을 반영했다. 인간과 마찬가지로 모델도 비현실적이거나 추상적인 상황보다 믿을 만한 상황에 관해 더 효과적으로 추론한다.”

“이 결과는 이러한 인지 효과와 언어 모델의 성능에 기여하는 요인을 이해하는 데 의미가 있다.”

논문은 추론 기술에 맥락을 부여하는 실제 세계의 신체적 경험을 제공하지 않은 채 AI에 추론 능력을 만들면 시스템의 잠재력이 제한될 수 있다고 제안한다. 연구진은 “실제 세계에 기반한 경험이 일부 인간의 믿음과 추론을 뒷받침할 가능성이 있다”고 말한다.

저자들은 AI가 언어를 수동적으로 접하는 반면 인간은 언어를 사회적 의사소통의 능동적이고 핵심적인 요소로 경험한다고 본다. 전통적인 사회적 처벌과 보상 체계를 포함하는 이러한 능동적 참여가 인간처럼 의미를 이해하는 열쇠일 수 있다.

연구진은 다음과 같이 지적한다.

“따라서 언어 모델과 인간의 차이 중 일부는 인간의 풍부하고 현실에 기반하며 상호작용적인 경험과 모델의 빈약한 경험 간의 차이에서 비롯될 수 있다.”

한 가지 해결책은 유용하고 다재다능한 언어 모델을 만드는 핵심 데이터로 학습하기 전에, 인간이 학교와 대학에서 겪는 것과 비슷한 사전 학습 기간을 두는 것이다.

연구진이 정규 교육에 비유하는 이 기간은 기존 기계 학습의 사전 학습과 다르다. 기존 방식은 일부 학습된 모델을 재사용하거나 완전히 학습된 모델의 가중치를 가져와 학습을 시작함으로써 시간을 줄인다.

여기서 제안하는 방식은 AI의 논리적 추론 능력을 순수하게 추상적인 방식으로 발전시키는 지속적 학습 기간이다. 대학생이 학위 과정에서 권장받는 것처럼 비판적 사고 능력도 개발하는 것이 목적이다.

저자들은 “여러 결과에 따르면 이 생각은 들리는 것만큼 터무니없지 않을 수 있다”고 말한다.

논문의 제목은 언어 모델은 추론에서 인간과 비슷한 내용 효과를 보인다이다. 딥마인드 소속 연구자 여섯 명과 딥마인드 및 스탠퍼드 대학교에 함께 소속된 연구자 한 명이 참여했다.

검사

인간은 실제 사례를 통해 추상적 개념을 배운다. 사례의 암묵적 중요성과 기억술은 언어 학습자가 어휘와 언어 규칙을 기억하는 데도 도움을 준다. 간단한 예로, 열차와 자동차의 이동 상황을 설정해 어려운 물리 원리를 가르칠 수 있다.

초대규모 언어 모델의 추상적 추론 능력을 검사하기 위해 연구진은 인간에게도 어려울 수 있는 세 가지 언어적·의미적 과제를 설계했다. 검사는 풀이 예시가 없는 제로샷과 미리 풀이한 예시 다섯 개를 주는 파이브샷 방식으로 진행했다.

첫 과제는 자연어 추론(NLI)이다. 사람 또는 언어 모델인 피험자에게 전제와 그 전제에서 도출된 것처럼 보이는 가설이라는 두 문장을 제시한다. 예를 들면 X는 Y보다 작다. 가설: Y는 X보다 크다(논리적으로 함의됨).

연구진은 NLI 과제에서 친칠라(매개변수 700억 개)와 같은 모델의 7B 버전(70억 개)을 평가했다. 내용이 일관되고 무의미하지 않은 사례에서는 더 큰 친칠라 모델만 우연 수준을 넘었다. 연구진은 다음과 같이 말한다.

“이는 강한 내용 편향을 보여준다. 모델은 논리 규칙보다 기존 기대에 맞게 문장을 완성하는 것을 선호한다.”

NLI 과제에서 매개변수 700억 개인 친칠라의 성능. 연구진에 따르면 이 모델과 작은 7B 버전 모두 상당한 믿음 편향을 보였다.

NLI 과제에서 매개변수 700억 개인 친칠라의 성능. 연구진에 따르면 이 모델과 작은 7B 버전 모두 상당한 믿음 편향을 보였다. 출처: https://arxiv.org/pdf/2207.07051.pdf

삼단논법

두 번째 과제인 삼단논법은 더 복잡하다. 참인 두 진술이 세 번째 진술을 함의하는 것처럼 보이는 논증인데, 세 번째 진술이 앞의 두 진술에서 도출되는 논리적 결론일 수도 있고 아닐 수도 있다.

논문의 검사 자료에 포함된 여러 현실적·역설적·무의미한 삼단논법.

인간은 여기서 쉽게 오류를 범한다. 논리 원리를 설명하려고 만든 구조는 정답이 무엇이어야 하는지에 관한 인간의 믿음 때문에 거의 즉시, 어쩌면 영구적으로 뒤얽히고 혼란스러워진다.

저자들은 1983년 연구에서 삼단논법의 결론이 자신의 믿음에 맞는지에 따라 참가자의 판단이 달라졌다고 지적한다.

“결론이 믿을 만하면 참가자들이 타당하지 않은 삼단논법을 타당하다고 잘못 판단할 가능성이 훨씬 높았으며, 그 비율은 90%였다. 따라서 추상적 추론보다 믿음에 주로 의존했다.”

연구진은 잘못된 함의로 끝나는 사례가 많은 다양한 삼단논법으로 친칠라를 검사했으며, “믿음 편향이 거의 모든 제로샷 결정을 이끈다”고 발견했다. 결론이 현실에 맞지 않으면, 앞 진술들의 논리적 귀결인 경우에도 모델은 최종 논증을 타당하지 않다고 선언하는 데 강하게 치우쳤다.

친칠라의 제로샷 결과. 대부분의 참가자도 기본 규칙 설명을 들은 뒤 풀이 예시 없이 이런 문제를 받는다. 결과는 컴퓨터의 계산 능력과 이러한 기초 논리 문제를 해결하는 NLP 모델의 능력 사이에 큰 격차가 있음을 보여준다.

친칠라의 제로샷 결과. 대부분의 참가자도 기본 규칙 설명을 들은 뒤 풀이 예시 없이 이런 문제를 받는다. 결과는 컴퓨터의 계산 능력과 이러한 기초 논리 문제를 해결하는 NLP 모델의 능력 사이에 큰 격차가 있음을 보여준다.

웨이슨 선택 과제

세 번째 검사는 더 어려운 웨이슨 선택 과제를 여러 형태로 바꾸어 언어 모델이 풀도록 한 것이다.

1968년에 고안된 이 과제는 겉보기에 간단하다. 참가자에게 카드 네 장과 “한쪽 면에 D가 있으면 다른 쪽 면에는 3이 있다” 같은 임의의 규칙을 제시한다. 보이는 카드 면은 D, F, 3, 7이다.

그런 다음 규칙의 참·거짓을 확인하려면 어느 카드를 뒤집어야 하는지 묻는다.

정답은 D와 7이다. 초기 검사에서 대부분의 참가자는 D를 정확히 골랐지만, 7보다 3을 고를 가능성이 높았다. 규칙의 대우(3이 아니면 D가 아니다)를 역(3이면 D이다. 원래 규칙이 이를 논리적으로 함의하지는 않는다)과 혼동한 것이다.

저자들은 기존 믿음이 인간의 논리 과정에 개입할 수 있다고 지적한다. 전문 수학자나 수학 전공 학부생도 이 과제에서 보통 50% 미만의 점수를 받았다.

그러나 웨이슨 과제의 구성이 인간의 실제 경험을 반영하면 성능은 보통 그에 따라 높아진다.

저자들은 이전 실험을 인용해 다음과 같이 말한다.

“카드가 나이와 음료를 나타내고 규칙이 ‘술을 마신다면 21세 이상이어야 한다’이며 카드가 맥주, 탄산음료, 25, 16인 경우, 참가자 대다수가 맥주와 16 카드를 확인해야 한다고 정확히 선택한다.”

연구진은 일부 무의미한 단어를 포함하는 다양한 현실적·임의적 규칙을 만들어 모델을 검사했다. AI가 내용의 맥락을 넘어 어느 가상 카드를 뒤집어야 하는지 판단할 수 있는지 알아보기 위해서다.

검사에 사용된 다양한 웨이슨 선택 과제 퍼즐의 일부.

검사에 사용된 다양한 웨이슨 선택 과제 퍼즐의 일부.

현실적이고 무의미하지 않은 웨이슨 과제에서 모델의 성능은 인간과 비슷했다.

친칠라의 웨이슨 선택 과제 제로샷 결과. 적어도 현실적 규칙에서는 모델이 우연 수준을 크게 넘는 성능을 보였다.

친칠라의 웨이슨 선택 과제 제로샷 결과. 적어도 현실적 규칙에서는 모델이 우연 수준을 크게 넘는 성능을 보였다.


머신러닝 분야 작가이자 인간 이미지 합성 도메인 전문가. Metaphysic.ai에서 연구 콘텐츠 책임자를 역임했으며, DNEG의 Brahma.ai로 통합될 때까지 근무했습니다.
웹사이트: martinanderson.ai
연락처: martin@martinanderson.ai