연구자들은 인간이 초지능 AI를 제어할 수 없을 것이라고 말합니다

인공 지능(AI)에 대해 알고 있는 사람들은 AI가 결국 인간의 통제를 벗어나는 것에 대해 들었을 것입니다. 이것은 과학 소설 영화의 주제가 아니라 실제로 가능성이 매우 높은 것으로 전문가들이 우려하는 문제입니다. 이러한 전문가들 중에는 과학자도 포함되어 있으며, 그들은 이러한 가능성을 준비하고 가능한 모든 방법으로 피하는 것이 좋다고 주장합니다.

현재 국제 연구 팀은 이 아이디어를 이론적 계산으로 뒷받침했습니다. 연구 팀은 막스 플랑크 인간 발달 연구소의 인간과 기계 센터의 과학자들을 포함하고 있으며, 이러한 계산을 사용하여 초지능 AI를 제어하는 것이 불가능하다는 것을 보여주었습니다.

이 연구는 최근에 인공 지능 연구 저널에 발표되었습니다.

초지능 AI 시스템

초지능 AI 시스템에 대한 두려움은 이러한 시스템이 인간보다 훨씬 우수할 것이라는 사실과 관련이 있습니다. 그것은 독립적으로 학습할 수 있을 뿐만 아니라 모든 기존 데이터에 접근하여 매우 빠르게 처리할 수 있습니다.

이러한 사건은 초지능 AI가 모든 기존 기계를 제어하고, 인간이 직면하는 주요 문제를 해결하는 것과 같은 일을 할 수 있지만, 상황이 제어를 벗어나는 위험이 매우 높습니다.

마누엘 세브리안은 연구의 공동 저자이며 막스 플랑크 인간 발달 연구소의 인간과 기계 센터의 디지털 동원 그룹 리더입니다.

“세계를 제어하는 초지능 기계는 과학 소설처럼 들립니다. 그러나 이미 프로그래머가 완전히 이해하지 못하는 방식으로 특정 중요한 작업을 수행하는 기계가 있습니다. 따라서 이러한 기계가 언젠가 제어할 수 없게 되고 인간에게 위험해질 수 있다는 질문이 제기됩니다.”라고 세브리안은 말합니다.

시스템 제어

이러한 시스템을 제어하는 두 가지 주요 사고 방식이 있습니다. 첫째, 인간은 인터넷과 같은 일부 데이터 소스에 대한 접근을 제한하여 초지능 AI의 능력을 제한할 수 있습니다. 시스템은 외부 세계와 접촉하지 않고 작동할 수 있습니다. 그러나 이 문제는 AI의 잠재력을 크게 제한할 것입니다.

시스템은 인간에게 이익이 되는 결과를 추구하도록 허용함으로써 제어될 수 있으며, 이는 시스템에 윤리적 원칙을 프로그래밍함으로써 달성할 수 있습니다.

연구에는 팀이 초지능 AI가 인간에게 해를 끼치지 않도록 방지하는 이론적 포함 알고리즘을 개발하는 것이 포함되었습니다. 이것은 먼저 AI의 행동을 시뮬레이션하고 해를 끼칠 수 있는 모든 행동을 감지함으로써 달성할 수 있습니다. 그러나 이러한 이론적 분석에도 불구하고, 이러한 알고리즘이 개발될 수 없다는 것이 밝혀졌습니다.

이яд 라흐완은 인간과 기계 센터의 디렉터입니다.

“문제를 기본적인 이론적 컴퓨터 과학 규칙으로 분해하면, 세계를 파괴하지 않도록 명령하는 알고리즘이 실제로 자신의 작동을 중지할 수 있습니다. 만약 이것이 발생한다면, 포함 알고리즘이 여전히 위협을 분석하고 있는지 또는 유해한 AI를 포함하기 위해 중지했는지 알 수 없습니다. 실제로 이것은 포함 알고리즘이 사용할 수 없게 만듭니다.”라고 라흐완은 말합니다.

또 다른 문제는 전문가들이 인간보다 더 지능적인 기계가 그 상태에 도달했을 때 이를 인식하지 못할 수 있다는 것입니다.