AI 연구자, AI 편향에 대한 현상금 제안으로 더 윤리적인 AI 만들기

인텔, Google Brain, OpenAI 등의 회사와 AI 개발 연구소의 AI 연구자 팀은 AI의 윤리적 사용을 보장하기 위해 현상금 제도를 사용할 것을 제안했다. 최근에 윤리적 AI 사용에 관한 제안을 발표한 연구자 팀은 AI에서 편향을 발견한 사람들에게 보상을 제공하는 것이 AI를 더 공정하게 만드는 효과적인 방법일 수 있다고 제안했다.

VentureBeat에 따르면, 미국과 유럽의 다양한 회사에서 연구자들이 모여 AI 개발을 위한 윤리 지침과 지침을 충족하는 방법에 대한 제안을 마련했다. 연구자들이 제안한 것 중 하나는 AI 프로그램 내에서 편향을 발견한 개발자에게 현상금을 제공하는 것이었다. 이 제안은 “신뢰할 수 있는 AI 개발을 위한 메커니즘: 검증 가능한 주장 지원”이라는 제목의 논문에 포함되었다.

예를 들어, 연구자 팀이 해결하려고 하는 편향의 예로는 의료 응용 프로그램에서 얼굴 인식 시스템에 이르기까지 편향된 데이터와 알고리즘이 발견되었다. 이러한 편향의 한 예는 최근 미국 법무부에서 코로나19 대유행에 대응하여 감옥 인구를 줄이기 위해 사용된 PATTERN 위험 평가 도구이다.

컴퓨터 프로그램에서 원치 않는 동작을 발견한 개발자에게 보상을 제공하는 관행은 오래전부터 존재했지만, AI 윤리 委員会가 편향을 해결하기 위한 옵션으로 이 아이디어를 진지하게 발전시킨 것은 이번이 처음이다. 충분한 수의 AI 개발자가 편향을 발견하여 AI가 윤리적으로 보장될 수 있을지는 불확실하지만, 이는 회사들이 전체 편향을 줄이고 AI 시스템에 침투하는 편향의 유형을 파악하는 데 도움이 될 것이다.

논문의 저자들은 버그 바운티 개념을 편향 및 안전 바운티를 사용하여 AI로 확장할 수 있으며, 이 기술을 적절하게 사용하면 데이터셋과 모델의 제한을 더 잘 반영하는 문서화가 가능하다고 설명했다. 연구자들은 동일한 아이디어가 해석 가능성, 보안 및 개인 정보 보호와 같은 다른 AI 속성에도 적용될 수 있다고 지적했다.

AI의 윤리 원칙에 대한 논의가 더 많이 진행됨에 따라, 많은 사람들이 원칙만으로는 충분하지 않으며 AI를 윤리적으로 유지하기 위해 행동을 취해야 한다고 지적했다. 논문의 저자들은 “산업과 학계의 기존 규정과 규범은 책임 있는 AI 개발을 보장하기에 불충분하다”고 지적했다. Google Brain의 공동 창립자이자 AI 산업 리더인 Andrew Ng도 의견을 제시했으며, 많은 원칙들이 더 명확하게 되어야 하며 실행 가능한 아이디어가 필요하다고 말했다.

결합된 연구 팀의 편향 바운티 헌팅 제안은 윤리적 행동을 위한 영역으로 이동하는 시도이다. 연구 팀은 또한 AI 분야에서 윤리적 행동을 촉진할 수 있는 다른 몇 가지 제안을 했다.

연구 팀은 회사들이 자신의 AI 사용을 더 윤리적으로 만들기 위해 따를 수 있는 몇 가지 다른 제안을 했다. 중앙 집중식 AI 사고 데이터베이스를 생성하여 더 넓은 AI 커뮤니티와 공유해야 한다고 제안했다. 또한 연구자들은 감사 추적을 설정해야 하며, 이러한 추적은 AI 플랫폼의 안전에 중요한 응용 프로그램의 생성 및 배포에 대한 정보를 보존해야 한다고 제안했다.

개인 정보를 보호하기 위해 연구 팀은 암호화된 통신, 분산 학습 및 차별적 개인 정보 보호와 같은 개인 정보 중심 기술을 사용해야 한다고 제안했다. 이를 넘어서 연구 팀은 오픈 소스 대안을 널리 사용할 수 있어야 하며, 상업용 AI 모델은 철저히 조사되어야 한다고 제안했다. 마지막으로 연구 팀은 학술 연구자들이 하드웨어 성능 주장을 검증할 수 있도록 정부 자금을 늘려야 한다고 제안했다.