윤리
국방부, 새로운 AI 기술 개발
Unite.AI를 Google의 선호 소스에 추가
미국 국방부는 인공 지능(AI) 기술 개발에 대한 노력을 강화하고 있다. 이는 다른 국가들이 특히 중국이 AI 무기 경쟁에서 앞서가고 있는 상황에서 이루어지고 있다.
펜타곤은 독립적으로 작동할 수 있는 AI 기반 드론 스웜을 개발 중이다. 이들은 목표를 식별하고 추적할 수 있을 것이다. 다른 노력에는 인텔리전스 퓨전, “모든 도메인” 명령 및 제어, 자율 시스템 등이 있다.
펜타곤의 합동 인공 지능 센터(JAIC)는 검색 및 구조 임무를 지원하기 위해 AI 개발자와 드론 스웜 빌더가 협력하도록 요청했다. JAIC에는 4개의 핵심 연구 분야가 있으며, 검색 및 구조 임무는 인도주의적 및 재해 구호의 일부이다. 동일한 프로그램은 예측 유지 보수, 사이버 공간 작전, 로봇 프로세스 자동화 등을 위한 AI 솔루션 개발에도 기여한다.
정보 요청(RFI)의 목적은 자체 비행이 가능한 검색 및 구조 드론 스웜을 찾는 것이다. 펜타곤은 또한 인간과 기타 목표를 감지하고 데이터 및 비디오를 중앙 위치로 전송할 수 있는 기능을 원한다. 또한 정부가 이미 가지고 있는 데이터를 보완하기 위해 회사 또는 팀이 개발한 알고리즘, 기계 학습 프로세스, 데이터를 찾고 있다.
계획이 성공적으로 진행되면 정부는 여러 벤더와 계약을 맺을 수 있을 것이다. 이들은 함께 미리 결정된 위치/영역으로 비행하여 사람과 인공 물체를 찾고(온보드 에지 처리를 통해) 분석가를 감지한 결과를 데이터 링크를 통해 제어 스테이션으로 보낼 수 있는 기능을 제공할 수 있을 것이다. “센서는 해 또는 밤에 전면 동영상으로 분석 스테이션으로 스트리밍할 수 있어야 하지만, 일반적으로 시스템은 사람이 아닌 AI가 이미지 모니터링을 담당할 것이다.”
요청된 시스템은 AI가 인간의 개입 없이 작동할 수 있도록 충분한 처리 능력을 가져야 한다. 이를 통해 감지 및 모니터링이 가능하며, 또한 실시간 비디오를 운영자에게 스트리밍할 수 있어야 한다. 그 후 인간 운영자는 드론을 제어할 수 있을 것이다.
이러한 개발은 펜타곤이 인공 지능 세계로 더욱 깊이 들어가고 있는 시기에 이루어지고 있다.
10월에, 국방 혁신위원회, 펜타곤 자문 기관은 AI 무기 개발을 위한 윤리 원칙을 발표했다. 이 지침은 이러한 무기가 전장에서 사용되는 방식을 제어하는 데 도움이 될 것이다. 이 위원회의 추천에는 법적 요소가 없으며, 펜타곤은 이를 사용 여부를 결정할 수 있다.
국방부의 합동 인공 지능 센터 책임자 잭 샨한 중将은 이 추천이 AI의 책임감 있고 윤리적인 사용으로 이어지기를 바란다고 말했다.
샨한은 기자들에게 보낸 성명에서 “DIB의 추천은 국방부가最高의 윤리 기준을 지키는 데 대한 의지를 강화하는 데 도움이 될 것이며, 미국 군대의 기술 혁신에 대한 엄격한 테스트와 현장 적용 표준을 적용하는 강력한 역사를 반영할 것이다”라고 말했다.
2017년, 116명의 기술 고위 책임자는 유엔이 자율 무기를 완전히 금지할 것을 요청했다. 그 때, 구글은 자율 무기 시스템에서 자신의 AI 알고리즘 사용을 금지했다. 이는 직원들이 드론 영상을 분석하는 프로그램에 대한 회사 역할에 대해 불평하기 시작한 후였다. 마이크로소프트와 아마존 gibi 회사들은 현재 군대와 협력하면서 기술에 대한 더 나은 접근 방식을 추구하고 있다.
