연구원들은 AI 신뢰성을 높이는 데 도움이 되는 "DeepTrust" 도구를 개발합니다.

인공 지능(AI)의 안전성과 신뢰성은 기술의 가장 큰 측면 중 하나입니다. 다양한 분야의 최고 전문가들에 의해 지속적으로 개선되고 작업되고 있으며 사회 전반에 걸쳐 AI를 완전히 구현하는 데 중요할 것입니다. 

그 새로운 작업 중 일부는 USC Viterbi Engineering 연구원이 AI 알고리즘이 데이터와 예측에서 신뢰할 수 있는지 여부에 대한 자동 지표를 생성할 수 있는 새로운 도구를 개발한 University of Southern California에서 나옵니다. 

이 연구는 인공 지능의 프론티어, 제목이 '결국 희망은 있다: 신경망의 의견과 신뢰성 정량화". 이 논문의 저자로는 USC Cyber ​​Physical Systems Group의 Mingxi Cheng, Shahin Nazarian 및 Paul Bogdan이 있습니다. 

신경망의 신뢰성

이 영역에서 가장 큰 작업 중 하나는 신경망이 신뢰할 수 있는 예측을 생성하도록 하는 것입니다. 많은 경우, 이것이 AI에 의존하는 기술의 완전한 채택을 막는 것입니다. 

예를 들어, 자율주행 차량은 독립적으로 행동하고 자동 조종 장치에 대한 정확한 결정을 내려야 합니다. 그들은 도로 ​​위의 물체를 해독하고 인식하면서 이러한 결정을 매우 빠르게 내릴 수 있어야 합니다. 이것은 기술이 과속 방지턱, 다른 물체 또는 살아있는 존재 사이의 차이를 해독해야 하는 시나리오에서 특히 중요합니다. 

다른 시나리오에는 다른 차량이 정면으로 마주했을 때 해야 할 일을 결정하는 자율 주행 차량이 포함되며 가장 복잡한 결정은 자율 주행 차량이 다른 차량, 어떤 물체, 또는 살아있는 존재.

이는 우리가 단 몇 초 만에 올바른 결정을 내릴 수 있는 자율 주행 차량의 소프트웨어 기능에 극도의 신뢰를 쏟고 있음을 의미합니다. 카메라와 Lidar의 컴퓨터 비전과 같은 다양한 센서의 정보가 충돌하면 더욱 어려워집니다. 

수석 저자인 Minxi Cheng은 “인간도 특정 의사 결정 시나리오에서는 우유부단할 수 있습니다. 상충되는 정보가 포함된 경우 기계가 모르는 경우 왜 우리에게 말할 수 없습니까?”

딥트러스트

연구원들이 만든 도구는 DeepTrust라고 불리며, Ming Hsieh 전기 및 컴퓨터 공학과 부교수인 Paul Bogdan에 따르면 불확실성의 양을 정량화할 수 있다고 합니다. 

이 팀은 거의 2016년 동안 DeepTrust를 개발했으며 주로 주관적 논리를 사용하여 신경망을 평가했습니다. 도구 작동의 한 예에서 XNUMX년 대통령 선거 여론 조사를 보고 힐러리 클린턴의 승리에 대한 오차 범위가 더 크다고 예측할 수 있었습니다. 

또한 DeepTrust 도구를 사용하면 일반적으로 최대 수백만 개의 데이터 포인트에 대해 훈련된 AI 알고리즘의 신뢰성을 더 쉽게 테스트할 수 있습니다. 이를 수행하는 다른 방법은 정확성을 테스트하기 위해 각 데이터 포인트를 독립적으로 확인하는 것인데, 이는 매우 시간이 많이 걸리는 작업입니다. 

연구원에 따르면 이러한 신경망 시스템의 아키텍처는 더 정확하고 정확성과 신뢰를 동시에 극대화할 수 있습니다.

“우리가 아는 바로는 딥 러닝, 인공 지능, 머신 러닝을 위한 신뢰 수량화 모델이나 도구가 없습니다. 이것은 첫 번째 접근 방식이며 새로운 연구 방향을 제시합니다.”라고 Bogdan은 말합니다. 

Bogdan은 또한 DeepTrust가 AI를 "인식 및 적응" 지점까지 발전시키는 데 도움이 될 수 있다고 믿습니다.