AI 알고리즘이 더 안전해지도록 하는 AI 사고 데이터베이스

충분히 큰 시스템은 오류가 발생할 수밖에 없으며, 이러한 오류를 수정하는 데에는 분석할 수 있는 오류 데이터베이스가 필요합니다. FDA는 부작용 약물 반응에 대한 데이터베이스를 유지 관리하는 것과 마찬가지로, 또는 국립 교통 안전위원회가 항공 사고에 대한 데이터베이스를 유지 관리하는 것과 마찬가지로, AI 사고 데이터베이스는 AI 시스템의 오류를 카탈로그화하고 AI 연구자들이 이러한 오류를 피하는 새로운 방법을 개발하도록 도와주는 데이터베이스입니다. AI 사고 데이터베이스(AIID)의 제작자는 이 데이터베이스가 AI 회사들이 더 안전하고 윤리적인 AI를 개발하는 데 도움이 되기를 바랍니다.

AIID란 무엇입니까?

AIID는 파트너십 온 AI(PAI) 조직의 제품입니다. PAI는最初 2016年に 페이스북, 애플, 아마존, 구글, IBM, 마이크로소프트 등의 대형 기술 회사에서 AI 연구 팀의 구성원들이 설립했습니다. 이후 조직은 다양한 비영리 단체를 포함한 많은 다른 조직의 구성원들을 모집했습니다. 2018년, PAI는 AI 오류에 대한 일관된 분류 표준을 만들기 위해 노력했습니다. 그러나 이 분류를 기반으로 할 AI 사고 수집이 없었습니다. 이 이유로 PAI는 AIID를 만들었습니다.

TechTalks에 따르면, AIID의 형식은 국립 교통 안전위원회가 유지 관리하는 항공 사고 데이터베이스의 구조에서 영감을 받았습니다. 1996년부터 보고서가 수집되기 시작한 이후, 상업용 항공 여행 시스템은 사고를 보관하고 분석함으로써 항공 산업의 안전성을 높일 수 있었습니다. 이러한 유사한 AI 사고 저장소가 AI 시스템을 더 안전하고 윤리적이고 신뢰할 수 있게 만들 수 있다는希望이 있습니다. AIID는 또한 다양한 산업과 분야의 주목할만한 소프트웨어 오류를 저장하는 공통 취약성 및 노출 데이터베이스에서 영감을 받았습니다.

Sean McGregor는 IBM의 Watson AI XPRIZE의 리드 기술 컨설턴트입니다. McGregor는 또한 AIID의 실제 데이터베이스 개발을 감독합니다. McGregor는 AIID의 궁극적인 목표는 AI 시스템이 해를 끼치지 않도록 하거나, 적어도 부정적인 사고의 심각성을 줄이는 것이라고 설명했습니다. McGregor는 기계 학습 시스템이 전통적인 소프트웨어 시스템보다 훨씬 더 복잡하고 예측할 수 없으며, 따라서 다른 소프트웨어와 같은 방식으로 테스트할 수 없다고 지적했습니다. 기계 학습 시스템은 예기치 못한 방식으로 행동을 변경할 수 있습니다. McGregor는 깊은 학습 시스템의 학습 능력이 “고장 나면 더 많이, 더 복잡하고, 더 위험할 수 있다”는 것을 의미한다고 주목했습니다.

1,000개 이상의 AI 관련 사고 기록

AIID가 처음 만들어진 이후, 데이터베이스에 1,000개 이상의 AI 관련 사고가 기록되었습니다. 데이터베이스에 있는 모든 사고 중에서, AI 공정성과 관련된 문제가 가장 흔한 유형의 부정적인 사고였습니다. 이러한 공정성 사고 중 많은 사례가 정부 기관에서 얼굴 인식 알고리즘을 사용하는 경우였습니다. McGregor는 또한 로봇과 관련된 사고가 데이터베이스에 추가되고 있는 것을 언급했습니다. (META ) (AAPL ) (AMZN ) (GOOGL )

데이터베이스를 방문하는 사용자는 키워드, 사고 ID, 출처, 저자와 같은 기준을 기반으로 사고를 검색할 수 있습니다. 예를 들어, “Deepfake”을 검색하면 7개의 보고서가 반환되며, “로봇”을 검색하면 158개의 보고서가 반환됩니다.

AI의 오작동과 예상치 못한 동작에 대한 중앙 집중식 데이터베이스는 연구자, 엔지니어, 윤리학자가 AI 시스템의 개발과 배포를 감독하는 데 도움이 될 수 있습니다. 기술 회사들의 제품 관리자는 AIID를 사용하여 AI 추천 시스템을 사용하기 전에 잠재적인 문제가 있는지 확인할 수 있습니다. 또는 AI 엔지니어는 AI 응용 프로그램을 만들 때 수정해야 할 잠재적인 편향에 대한 아이디어를 얻을 수 있습니다. 마찬가지로, 위험 관리 담당자는 데이터베이스를 사용하여 AI 모델과 관련된 잠재적인 부정적인 부작용을 결정하고, 잠재적인 해를 예방하기 위한 조치를 개발할 수 있습니다.

AIID의 기본 아키텍처는 유연성을 제공하도록 설계되어 있으며, 이는 데이터베이스를 쿼리하고 의미 있는 통찰력을 추출하는 새로운 도구를 만들 수 있도록 합니다. 파트너십 온 AI와 McGregor는 AI 사고의 다양한 형태를 분류할 수 있는 유연한 분류 체계를 개발하기 위해 협력할 것입니다. 팀은 일旦 유연한 분류 체계가 개발되면, 자동으로 AI 사고를 기록하는 시스템과 결합될 수 있을 것이라고 희망합니다.

“AI 커뮤니티는 제품, 제어 절차, 연구 프로그램의 변경을 мотив하기 위해 서로 사고 기록을 공유하기 시작했습니다.” McGregor는 TechTalks를 통해 설명했습니다. “사이트는 공개적으로 출시되었으며, 시스템의 이점을 실현하기 시작했습니다.”