연구자들, 인공지능 신뢰성 향상을 위한 “DeepTrust” 도구 개발

인공지능(AI)의 안전성과 신뢰성은 기술의 가장 큰 측면 중 하나입니다. 이는 지속적으로 개선되고 있으며 다양한 분야의 최고 전문가들에 의해 작업되고 있습니다. 이는 사회 전반에 걸친 인공지능의 완전한 구현에 중요합니다.

남부 캘리포니아 대학교(University of Southern California)에서 진행된 새로운 연구는 인공지능 알고리즘이 데이터와 예측에서 신뢰할 수 있는지 여부를 자동으로 표시할 수 있는 도구를 개발했습니다.

이 연구는 Frontiers in Artificial Intelligence에 발표되었으며, “There is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks”라는 제목입니다. 이 논문의 저자로는 Mingxi Cheng, Shahin Nazarian, Paul Bogdan이 있습니다.

신경망의 신뢰성

이 분야에서 가장 큰 과제 중 하나는 신뢰할 수 있는 예측을 생성할 수 있는 신경망을 개발하는 것입니다. 많은 경우에 이것이 인공지능을 의존하는 기술의 완전한 채택을 방해하는 것입니다.

예를 들어, 자율 주행 자동차는 독립적으로 작동하고 자동 조종에서 정확한 결정을 내릴 수 있어야 합니다.它们는 매우 빠르게 결정을 내릴 수 있어야 하며, 도로上的 객체를 해석하고 인식할 수 있어야 합니다. 이것은 특히 기술이 속도 구불, 다른 객체, 또는 생명체를 구분해야 하는 시나리오에서 중요합니다.

다른 시나리오로는 자율 주행 자동차가 다른 자동차와 정면으로 마주쳤을 때의 결정, 그리고 가장 복잡한 결정은 자율 주행 자동차가 다른 자동차, 객체, 또는 생명체를 칠 것인지 결정하는 것입니다.

이 모든 것은 자율 주행 자동차의 소프트웨어가 올바른 결정을 내릴 수 있는 능력에 대한極度의 신뢰를 의미합니다. 이것은 특히 컴퓨터 비전, 카메라, 라이더 등 다양한 센서에서 충돌하는 정보가 있는 경우 더욱 어려워집니다.

리드 저자 Minxi Cheng는 이 프로젝트를 시작하기 전에 “인간조차도某些 决策 시나리오에서 결정을 내리기 어렵습니다. 충돌하는 정보가 있는 경우, 기계가 모르는 경우를 알려줄 수 없나요?”라고 생각했습니다.

DeepTrust

연구자들이 개발한 도구는 DeepTrust라고 불리며, 불확실성의 양을 정량화할 수 있습니다. 이는 Paul Bogdan, USC Viterbi 공학부의 부교수에 따르면, 주관적 논리를 사용하여 신경망을 평가했습니다.

팀은 거의 2년 동안 DeepTrust를 개발했으며, 주로 주관적 논리를 사용하여 신경망을 평가했습니다. 예를 들어, 2016년 미국 대통령 선거에서 힐러리 클린턴의 승리 확률에 대한 오차를 예측할 수 있었습니다.

DeepTrust 도구는 또한 인공지능 알고리즘의 신뢰성을 테스트하기 위해 수백만 개의 데이터 포인트에서 훈련된 알고리즘을 테스트하기 쉽게 합니다. 다른 방법은 각 데이터 포인트를 독립적으로 확인하여 정확성을 테스트하는 것입니다. 이는 매우 시간이 걸리는 작업입니다.

연구자에 따르면, 이러한 신경망 시스템의 구조는 더 정확하며, 정확성과 신뢰성을 동시에 최대화할 수 있습니다.

“현재까지는 딥 러닝, 인공지능, 기계 학습을 위한 신뢰성 정량화 모델이나 도구가 없습니다. 이것은 최초의 접근이며 새로운 연구 방향을 열어줍니다.”라고 Bogdan은 말합니다.

Bogdan은 또한 DeepTrust가 인공지능을 “의식적”이고 “적응적”으로 만들 수 있을 것이라고 믿습니다.