์ธ๊ณต์ง๋ฅ
DeepMind: AI๋ ์ธ๊ฐ์ ์ธ์ง์ ์ ํ์ ๋ฌผ๋ ค๋ฐ์ ์ ์์ผ๋ฉฐ ‘ํ์์ ์ธ ๊ต์ก’์ ํตํด ํํ์ ๋ฐ์ ์ ์๋ค.
DeepMind와 스탠퍼드 대학의 새로운 협력 연구에 따르면, 기계 학습 모델은 추상적인推論에서 인간만큼 좋지 않을 수 있다. 이는 기계 학습 모델이 실제 세계의 인간 예시에서 추론 아키텍처를 얻기 때문이며, 이러한 예시는 실제 맥락에서 기반을 두고 있지만, 인간의 인지적 제한으로 인해 방해를 받는다.
이것이 증명된다면, 이는 기계 학습 시스템에서 기대되는 우수한 ‘블루 스카이’思考과 지적 창의力的 질을 방해하는 장벽이 될 수 있다. 또한, 이것은 AI가 인간의 경험을 반영하며, 인간이 알려준 경계 내에서 생각하고 推論하는 경향이 있음을 보여준다.
연구자들은 추상적인 推論에 대한 사전 교육이 필요하다고 제안하며, 이것을 ‘형식적인 교육’으로 비유했다. 이는 기계 학습 모델이 실제 세계의 작업에 투입되기 전에 추상적인 推論에 대한 사전 교육을 받는 것을 의미한다.
연구 논문은 다음과 같이 말한다:
‘인간은 불완전한 推論자이다. 우리는 우리가 이해하는 세계와 일관된 개체와 상황에 대해 가장 효과적으로 推論한다.
‘우리의 실험은 언어 모델이 이러한 패턴의 행동을 반영한다는 것을 보여준다. 언어 모델은 논리적인 推論 작업에서 불완전하게 수행되지만, 이러한 성능은 내용과 맥락에 따라 다르다. 가장 주목할 만한 것은 이러한 모델이 인간이 실패하는 상황에서 souvent 실패한다는 것이다. 즉, 자극이 너무 추상적이거나 세계에 대한 우리의 이해와 충돌할 때이다.’
hyperscale, GPT-레벨의 자연어 처리(NLP) 모델이 이러한 제한에 의해 어떻게 영향을 받는지 테스트하기 위해, 연구자들은 적합한 모델에 대해 세 가지 테스트를 수행했으며, 다음과 같은 결론을 내렸다:
‘우리는 상태-of-the-아트 대형 언어 모델(7 억 또는 70 억 파라미터)이 이러한 작업에서 인간과 동일한 패턴을 반영하는 것을 발견했다. 즉, 모델은 인간과 마찬가지로, 더 믿을 수 있는 상황에 대해 더 효과적으로 推論한다.’
‘우리의 발견은 이러한 인지 효과와 언어 모델 성능에 기여하는 요인을 이해하는 데에 중요한 의미를 가진다.’
연구 논문은, 실제 세계의 경험 없이 추론 능력을 AI에 생성하는 것은 이러한 시스템의 잠재력을 제한할 수 있으며, 다음과 같이 말한다: ‘기반 경험… 인간의 일부 信念과 推論을 뒷받침하는 것으로 추정된다.’
연구자들은 AI가 언어를 수동적으로 경험하는 반면, 인간은 언어를 사회적 의사소통의 중심적인 구성 요소로 경험하며, 이러한 종류의 적극적인 참여(which는 전통적인 사회적 시스템의 처벌과 보상을 포함한다)는 의미를 이해하는 데에 핵심이 될 수 있다고 주장한다.
연구자들은 다음과 같이 말한다:
‘언어 모델과 인간 사이의 일부 차이들은 인간의 풍부한, 기반된, 상호작용하는 경험과 모델의 빈약한 경험의 차이에서 비롯될 수 있다.’
그들은 하나의 해결책은 기계 학습의 전통적인 사전 교육과 다르게, 추상적인 推論에 대한 기간을 의미하는 ‘형식적인 교육’의 기간이 될 수 있다고 제안한다. 이는 언어 모델이 실제 세계의 작업에 투입되기 전에 추상적인 推論에 대한 사전 교육을 받는 것을 의미한다.
이 기간은 기계 학습 모델의 논리적인 推論 능력을 순수하게 추상적인 방식으로 개발하고, 비판적 능력을 대학 학생이 학위 교육 과정에서 받는 것과 유사하게 개발하는 것을 목표로 한다.
‘몇 가지 결과는 이것이 그렇게 بع
