규제
기술 자문 그룹, 펜타곤의 AI 사용 제한 추진
국방부는 AI가 가능한 국가 안보 위협에 대해 미군을 더욱 강력하고 강력하게 만들 것이라고 말하면서 인공 지능에 막대한 투자를 하겠다는 의도를 분명히 했습니다. Engadget 보고서로, 지난 목요일 국방혁신위원회(Defense Innovation Board)는 군대에서 AI 사용에 대한 여러 제안된 윤리적 지침을 추진했습니다. 제안 목록에는 의도하지 않은 편향을 피하는 전략과 AI가 불필요한 해를 끼치는 것을 방지하는 비상 정지 절차가 있는 통제 가능한 AI가 포함됩니다.
유선 보고서 국방혁신위원회는 기술 산업 경험과 인재 확보에 있어 펜타곤을 안내하기 위해 오바마 행정부에 의해 만들어졌습니다. 이사회는 현재 Google의 전 CEO인 Eric Schmidt가 의장을 맡고 있습니다. 이 부서는 최근 군사 프로젝트에서 AI의 윤리적 구현을 위한 지침을 수립하는 임무를 맡았습니다. 목요일에 이사회는 검토를 위한 지침과 권장 사항을 발표했습니다. 이 보고서는 군사적 맥락에서 AI 사용에 대해 진지한 논의를 할 시간은 심각한 사건이 발생하여 반드시 AI가 있어야 한다고 명령하기 전이라고 지적합니다.
인공 지능 뉴스에 따르면, 전직 군 관계자는 최근 펜타곤이 AI 사용과 관련하여 뒤처지고 있다고 말했습니다. 미 국방부는 이 차이를 보완하는 것을 목표로 하고 있으며, 군 내 AI의 개발과 확산을 국가적 우선순위로 선언했다. AI 윤리학자들은 국방부가 AI 선두주자가 되기 위해 서두르는 과정에서 AI 시스템이 비윤리적인 방식으로 사용될 수 있다고 우려하고 있다. 여러 독립적인 AI 윤리 위원회가 자체적으로 제안한 반면, 국방 혁신 위원회는 AI 시스템을 개발하고 구현할 때 군이 항상 따라야 할 최소 XNUMX가지 원칙을 제안했습니다.
위원회가 제안한 첫 번째 원칙은 인간이 군사적 맥락에서 사용되는 모든 인공 지능 플랫폼의 활용, 배치 및 결과에 대해 항상 책임을 져야 한다는 원칙입니다. 이것은 치명적인 무력을 사용할 수 있을 때마다 궁극적으로 인간이 의사 결정 과정의 일부가 되어야 한다고 규정한 2012년 정책을 연상시킵니다. 프로그램을 이해하고 철저하게 문서화하는 엔지니어가 항상 AI 시스템을 구축하도록 하는 것과 같은 일반적인 조언을 제공하는 목록에는 여러 가지 다른 원칙이 있습니다. 또 다른 원칙은 군사 AI 시스템의 신뢰성을 항상 테스트해야 한다고 조언합니다. 이러한 지침은 상식적인 것처럼 보이지만 이사회는 그 중요성을 강조하고자 합니다.
목록의 다른 원칙은 AI 알고리즘의 편향 제어 및 의도하지 않은 피해가 발생할 수 있는지 여부를 감지하고 자동으로 해제하는 AI의 기능과 관련됩니다. 가이드라인은 불필요한 피해가 발생하는 경우 AI가 스스로 해제하고 인간 운영자가 인계하도록 해야 한다고 명시하고 있습니다. 원칙 초안은 또한 분석가가 AI가 주어진 결정을 내리게 된 원인을 볼 수 있도록 AI의 결과를 추적할 수 있도록 권장합니다.
이사회가 제안한 일련의 권장 사항은 두 가지 다른 아이디어를 강조합니다. 이러한 원칙은 AI가 미래의 군사 작전에 필수적이라는 사실을 반영하지만 AI의 상당 부분은 여전히 인간의 관리 및 의사 결정에 의존합니다.
펜타곤이 이사회의 권고를 채택할 필요는 없지만, 국방부가 권고를 진지하게 받아들이는 것처럼 들린다. 유선에서 보도한 바와 같이합동 인공 지능 센터(Joint Artifical Intelligence Center)의 책임자인 잭 섀너핸(Jack Shanahan) 중장은 이사회의 권고가 국방부가 "국방부 AI 전략에 명시된 최고의 윤리적 기준을 유지하는 동시에 엄격한 테스트를 적용한 미군의 강력한 역사와 기술 혁신을 위한 수비 표준.”
기술 산업 전체는 군용 하드웨어 및 소프트웨어 제작에 AI를 사용하는 것을 여전히 경계하고 있습니다. 마이크로소프트와 구글 직원들은 모두 군사 기관과의 협력에 대해 항의했으며, 구글은 최근 그들이 프로젝트 메이븐에 기여하도록 한 계약을 갱신하지 않기로 결정했습니다. 많은 CEO, 과학자, 엔지니어들도 서약에 서명하다 하지에 "치명적인 자율 무기의 개발, 제조, 거래 또는 사용에 참여하거나 지원하지 않습니다." 펜타곤이 이사회에서 제안한 지침을 채택하면 기술 산업이 프로젝트에 대해 더 기꺼이 협력하게 만들 수 있지만 시간이 말해줄 것입니다.
