AI 연구진, AI 편향성에 대한 현상금 제도를 통해 더 윤리적인 AI 개발을 제안하다

인텔, 구글 브레인, 오픈AI 등의 회사와 AI 개발 연구소의 연구진들은 AI의 윤리적 사용을 보장하기 위해 현상금 제도를 사용할 것을 제안했다. 연구진들은 최근에 윤리적인 AI 사용에 관한 제안을 발표했으며, 그 중 하나는 AI에서 편향성을 발견하는 사람들에게 보상을 제공하는 것이다.

VentureBeat에 따르면, 미국과 유럽의 다양한 회사에서 연구진들이 모여서 AI 개발을 위한 윤리적 지침과 그 지침을 따르는 방법에 대한 제안을 했다. 연구진들은 AI 프로그램에서 편향성을 발견하는 개발자들에게 현상금을 제공하는 것을 제안했다. 이 제안은 “신뢰할 수 있는 AI 개발을 위한 메커니즘: 검증 가능한 주장을 지원하는 메커니즘”이라는 제목의 논문에 포함되었다.

연구진들이 해결하려고 하는 편향성의 예로는 의료 응용 프로그램과 법 집행 기관에서 사용하는 얼굴 인식 시스템에서 발견되는 편향된 데이터와 알고리즘이 있다. 이러한 편향성의 예 중 하나는 최근에 미국 법무부에서 사용된 PATTERN 위험 평가 도구로, 코로나19 범유행에 대응하여 감옥 인구를 줄이기 위해 어떤 죄수들을 집으로 보낼 수 있는지 결정하기 위해 사용되었다.

개발자들이 컴퓨터 프로그램에서 원치 않는 행동을 발견하는 것을 보상하는 것은 오래된 관행이지만, 이것은 AI 윤리위원회가 편향성을 해결하기 위한 옵션으로 이 아이디어를 진지하게 제안한 최초의 경우일 수 있다. 충분한 수의 AI 개발자가 편향성을 모두 발견할 수는 없지만, 이것은 회사들이 편향성을 줄이고 AI 시스템에 침투하는 편향성의 유형을 파악하는 데 도움이 될 수 있다.

논문의 저자들은 버그 바운티 개념을 편향성과 안전성 바운티를 사용하여 AI에 확장할 수 있으며, 이 기술을 제대로 사용하면 더 잘 문서화된 데이터셋과 모델이 만들어질 수 있다고 설명했다. 문서는 모델과 데이터의 제한을 더 잘 반영할 것이다. 연구진들은 이 아이디어가 해석 가능성, 보안, 개인 정보 보호와 같은 다른 AI 속성에도 적용될 수 있다고 주장한다.

많은 사람들이 AI의 윤리적 원칙에 대해 논의하고 있으며, 원칙만으로는 충분하지 않으며 AI를 윤리적으로 사용하기 위한 행동이 필요하다는 것을 강조했다. 논문의 저자들은 “산업과 학계의 기존 규정과 규범은 책임 있는 AI 개발을 보장하기에 불충분하다”고 주장한다. 구글 브레인 공동 창립자이자 AI 산업 리더인 앤드류 응도 원칙만으로는 AI를 책임감 있게 사용하는 것을 보장할 수 없으며, 많은 원칙이 더 명확하고 행동할 수 있는 아이디어를 필요로 한다고 말했다.

연구진의 편향성 현상금 사냥 제안은 윤리적 행동을 위한 시도이다. 연구진은 AI 분야에서 윤리적 행동을 촉진할 수 있는 다른 몇 가지 제안을 했다.

연구진은 회사가 AI 사용을 더 윤리적으로 만들기 위한 몇 가지 제안을 했다. 그들은 AI 사고에 대한 중앙 집중식 데이터베이스를 만들고 더 넓은 AI 커뮤니티와 공유해야 한다고 제안했다. 또한 연구진들은 감사 추적을 설정해야 하며, 이는 AI 플랫폼에서 안전성 крит적인 응용 프로그램의 생성과 배치를 포함하는 정보를 보존해야 한다고 제안했다.

개인 정보를 보호하기 위해 연구진들은 암호화된 통신, 분산 학습, 차별적 개인 정보 보호와 같은 개인 정보 보호 중심 기술을 모두 사용해야 한다고 제안했다. 또한 연구진들은 오픈 소스 대안을 널리 उपलब하게 하고 상업용 AI 모델을 철저히 조사해야 한다고 제안했다. 마지막으로 연구진들은 학술 연구자가 하드웨어 성능 주장을 검증할 수 있도록 정부 자금을 늘려야 한다고 제안했다.