고급 AI 기술, 윤리적 도전 제기 – 사상가들

Alfred Crews, Jr. BAE Systems Inc.의 인텔리전스 및 보안 부문 부사장 및 수석 변호사

이번 년초, 글로벌 대유행 이전에 나는 찰스턴의 시토펠의 인텔리전스 윤리 컨퍼런스에 참석하여 국가 안보를 보호하는 데 관련된 인텔리전스 수집의 윤리에 대한 주제를 논의했다. 방위 산업에서 우리는 지식, 컴퓨팅, 고급 기술의 확산을 보며, 특히 인공 지능(AI) 및 기계 학습(ML) 분야에서 그러하다. 그러나 인텔리전스 수집이나 실시간 전투의 맥락에서 AI를 배치하는 경우에는 상당한 문제가 있을 수 있다.

양자 컴퓨팅과 결합된 AI는 위험을 나타낸다

우리가 질문하고, 분석하고, 전진하는 경로를 결정해야 하는 것은 양자 컴퓨팅 기능과 결합된 AI를 사용하여 전쟁 중에 결정하는 것이다. 예를 들어, 터미네이터를 기억하라. 우리의 기술이 큰 도약을 하는 동안, 스키넷이 제시한 현실이 우리 앞에 있다. 우리는 스스로에게 “스키넷이 우리를 잡으러 오고 있는가?”라고 물어볼 수 있다. 기억의 산책로를 따라 나를 따라와라; AI 기계가 스스로 생각하고 결정할 수 있는 능력으로 인해 기계가 인간을 버그로 간주하고 인간을 파괴하기 위해 출발했다. 나를 잘못 이해하지 마라, AI는伟大한 잠재력을 가지고 있지만, 나는 그것이 위험 요인으로 인해 제어 매개변수가 있어야 한다고 믿는다.

AI의 윤리적 모호성 및 철학적 딜레마

나는 이것이 왜 미국 국방부(DoD)가 자체적인 AI 윤리 원칙을发布했는지 정확히 알고 있다. AI의 사용은 새로운 윤리적 모호성과 위험을 초래한다. 양자 컴퓨팅 기능과 결합된 AI를 사용하면 결정하는 능력이 변경되고, 제어를 잃을 위험이 증가한다. 양자 컴퓨팅은 우리의 인간 뇌의 운영 체제를 능가하며, 초고성능 컴퓨터는 우리의 인간 뇌가 할 수 있는 것보다 훨씬 더 빠르고 정확하게 계산할 수 있다.

또한, 컴퓨팅과 결합된 AI의 사용은 철학적 딜레마를 제기한다. 기계가 스스로 생각할 수 있는 지점은 언제인가? 기계가 스스로 생각할 수 있다면, 그것은 기계가 스스로 의식을 가지고 있는 것을 의미하는가? 의식이란 생명체를 구성하는가? 우리는 아직 이러한 상황을 정의하지 못했다. 따라서, 기계가 인간의 개입 없이 스스로 행동할 수 있다면, 그 결과는 심각할 수 있다. 기계가 인간의 개입 없이 화재를 멈추는 것을 막을 수 있는가? 기계가 스스로 작동한다면, 우리는 플러그를 뽑을 수 있는가?

내가 볼 때, 방위의 관점에서 AI를 사용하는 것은 쉽다. 그러나, 공격으로 전환하는 것은 얼마나 쉬울까? 공격에서 기계는 즉시 전투 결정을 내릴 것이다. 기계가 적을 공격하는 것은 제네바 협약 및 무력 충돌 법을 위반하는가? 이 공간으로 빠르게 이동하면서, 세계는 AI와 양자 컴퓨팅을 전투에서 사용하는 것이 현재의 법을 준수해야 한다고 동의해야 한다.

국방부는 자율 시스템에서 AI를 사용하는 경우에 대한 입장을 가지고 있으며, 결정 과정에 항상 사람이 참여할 것이라고 말한다. 사람이 최종적으로 트리거를 당기는 결정할 것이다. 그것이 우리의 규칙이지만, 상대가 다른 경로를 선택하여 AI가 모든 최종 결정할 경우에는 어떻게 될까? 그러면 기계는 이미 더 빠르고, 더 똑똑하고, 더 정확한 장점을 가지게 된다.

얼굴 인식 기능이 있는 드론을 생각해 보라. 드론은 미리 정의된 목표를 가진 테러리스트로标记된 목표물을 공격한다.誰가 실제로 발사한 것인가? 오류가 발생한 경우 책임이 있는가?

AI/ML에 내재된 편향

연구에 따르면, 기계는 인간보다 오류를 덜 일으킨다. 그러나 연구에 따르면, 인간 “교사”가 기계를 가르치는 과정에서 기계 학습에 편향이存在한다. 국방부의 5가지 AI 윤리 원칙은 기계 학습에서 편향이存在한다는 사실을 언급하며, “국방부는 AI 기능에서 의도하지 않은 편향을 최소화하기 위한 의도적인 조치를 취할 것이다”라고 말한다. 이미 증명된 연구에 따르면, 얼굴 인식 응용 프로그램에서 인종에 대한 편향이存在하며, 특히 유색인종에 대한 잘못된 판단이 더 많이 발생한다. 기계를 가르치는 사람은 편향을 가지고 있을 수 있다. 이것은 vô의적으로 발생할 수 있다. 기계의 출력은 입력만큼 좋다. 따라서, 제어가 있어야 한다. 데이터의 흐름을 제어해야 한다. 개발자는 편향을 제거하기 위해 코드를不断으로 다시 작성해야 한다.

세계는 기술의 최선의 사용법을 정의해야 한다

기술 자체는 좋거나 나쁨이 아니다. 그것은 국가가 그것을 어떻게 사용하는지에 달려 있다. 기술이 인간의 삶에 영향을 미치는 방식으로 발전함에 따라, 세계는 적절한 행동을 정의하기 위해 함께 일해야 한다. AI 응용 프로그램에서 인간을 제외한다면, 우리는 또한 발사하기 전에 그.pause를 취하는 것을 제외한다. 그것은 우리를 안내하는 도덕적 나침반이다. 그것은 우리가 “이것이 옳은가?”라고 물어보는 때의.pause이다. 스스로 행동하도록 가르친 기계는那种.pause를 가지지 않는다. 그러므로, 미래에는 세계가 이것을 용인할 것인가? 기계가 전투 결정을 내리는 것을 허용하기 위해 세계는 얼마나 далеко 갈 것인가?