국방부의 AI 사용에 대한 제한을 위한 기술 자문 그룹의 推進

국방부는 인공 지능에大量으로 투자할 것이라는 의도를 명확히 하였으며, AI는 미국 군대를更加 강력하고 안정적인 국가 안보 위협에 대응할 수 있게 할 것이라고 밝혔다. Engadget의 報告에 따르면, 지난 목요일 국방 혁신 委員會는 군대에서 AI를 사용하기 위한 여러 가지 제안된 윤리 지침을 推進하였다. 제안된 목록에는 의도하지 않은 편향을 피하고, 긴급停止 절차를 통해 불필요한 피해를 방지할 수 있는 지배 가능한 AI를 개발하기 위한 전략이 포함되어 있다.

Wired의 報告에 따르면, 국방 혁신 委員會는 오바마 행정부에 의해 설립되었으며, 국방부에 기술 산업의 경험과 재능을 획득하는 것을 도와주는 역할을 한다. 현재 委員會는구글의 전 회장인 에릭 슈미트가 의장을 맡고 있다. 최근에 국방부는 군사 프로젝트에서 AI를 윤리적으로 구현하기 위한 지침을 制定하는 任務를 맡았다. 목요일에 委員會는 그들의 지침과 권고안을 검토하기 위해 공개하였다. 보고서에 따르면, 군사적 상황에서 AI를 사용하는 것에 대한 심각한 논의를 하는 때는 이미 발생한 심각한 사건으로 인해 논의를 하게 되는 것보다 먼저 해야 한다.

인공 지능 뉴스의 報告에 따르면, 최근에 한 전 군사 官員은 국방부가 AI를 사용하는 것에 있어서 뒤쳐지고 있다고 말하였다. 국방부는 이 차이를 메우기 위해 노력하고 있으며, 군대에서 AI의 개발과 확장을 국가의 우선 순위로 선정하였다. AI 윤리학자들은 국방부가 AI를 리더로 만들기 위해 서두르면서, AI 시스템이 비윤리적인 방식으로 사용될 수 있다고 우려한다. 여러 독립적인 AI 윤리 委員會가 자신의 제안을 하였지만, 국방 혁신 委員會는 군대에서 AI 시스템을 개발하고 구현할 때 항상 따라야 할 최소한 5つの 원칙을 제안하였다.

委員會가 제안한 첫 번째 원칙은 군사적 상황에서 사용되는 모든 인공 지능 플랫폼의 사용, 배치, 결과에 대한 책임은 항상 인간이 져야 한다는 것이다. 이것은 2012年の 정책과 유사하며, 인간은 언제나 치명적인 lực의 사용에 대한 결정 과정에 참여해야 한다. 목록에 있는 다른 원칙들은 일반적인 조언을 제공하며, 예를 들어 AI 시스템을 구축하는 엔지니어가 프로그램을 철저하게 문서화해야 한다는 것이다. 또 다른 원칙은 군사용 AI 시스템이 항상 신뢰할 수 있는지 테스트해야 한다고 말한다. 이러한 지침들은 상식적인 것처럼 보이지만, 委員會는 그들의 중요성을 강조하고 싶다.

목록에 있는 다른 원칙들은 AI 알고리즘의 편향을 제어하고, 예상치 못한 피해를 유발할 수 있는지 감지하여 자동으로 해제하는 AI의 능력과 관련이 있다. 지침에는 불필요한 피해가 발생할 경우, AI는 자동으로 해제되고 인간 운영자가 대신해야 한다고 명시되어 있다. 원칙의 초안은 또한 AI의 출력이 추적 가능하여, 분석가가 AI가 특정 결정을 내린 이유를 볼 수 있도록 해야 한다고 권고한다.

委員會가 推進한 권고안은 두 가지 아이디어를 강조한다. 원칙들은 AI가 미래의 군사 작전에서 필수적인 요소가 될 것이라는 사실을 반영하며, 동시에 많은 AI는 여전히 인간의 관리와 의사 결정에 의존한다는 것을 강조한다.

국방부는 委員會의 권고를採用하지 않아도 되지만, 국방부가 권고를 심각하게 고려하는 것으로 보인다. Wired의 報告에 따르면, 합동 인공 지능 센터의 장인 잭 샨한 중将은 委員會의 권고가 국방부가 “국방부 AI 전략에 명시된最高의 윤리 기준을 준수하면서, 미국 군대의 기술 혁신에 대한 엄격한 테스트와 현장 적용 기준을 적용하는 데 도움이 될 것”이라고 말했다.

기술 산업 전체는 군사 하드웨어와 소프트웨어의 개발에 AI를 사용하는 것에 대해まだ 우려를 가지고 있다. 마이크로소프트와 구글의 직원들은 모두 군사적 실체와의 협력을 반대하였으며, 구글은 최근에 프로젝트 메이븐에 기여하는 계약을 갱신하지 않기로 결정하였다. 여러 CEO, 과학자, 엔지니어들은 또한 서약 서약을 체결하여, “치명적인 자율 무기들의 개발, 제조, 거래, 또는 사용에 참여하지도 支持하지도 않겠다”고 약속하였다. 국방부가 委員會가 제안한 지침을採用한다면, 기술 산업이 프로젝트에 협력하기更加愿意하게 될 수 있지만, 아직은 시간이 지나야 알 수 있을 것이다.