AI 연구자, 신뢰 구간 계산을 위한 빠른 방법 개발, 모델 신뢰도 낮을 때 경고

MIT의 연구자들은 최근에 깊은 신경망 모델이 빠르게 신뢰 구간을 계산할 수 있는 기법을 개발했습니다. 이 기술은 데이터 과학자와 다른 AI 사용자가 모델의 예측을 신뢰할 수 있는지 여부를 판단하는 데 도움이 될 수 있습니다.

인공 신경망을 기반으로 하는 AI 시스템은 점점 더 많은 결정에 책임을 지고 있으며, 많은 결정이 사람의 건강과 안전에 관련되어 있습니다. 이러한 이유로 신경망은 출력에 대한 신뢰도를 추정할 수 있는 방법이 있어야 합니다. 최근에 하버드와 MIT의 연구자들은 신경망이 예측과 함께 신뢰도 표시를 생성할 수 있는 빠른 방법을 설계했습니다.

깊은 학습 모델은 지난 10년 동안 점점 더 발전했으며, 이제 데이터 분류 작업에서 인간을 능가할 수 있습니다. 이러한 모델은 자율 주행 자동차와 의료 이미지에서 질병을 진단하는 등 사람의 건강과 안전에 위험을 초래할 수 있는 분야에서 사용되고 있습니다. 이러한 경우, 모델이 99% 정확하다고 해도, 모델이 실패하는 1%의 경우가 재앙으로 이어질 수 있습니다. 따라서 데이터 과학자는 예측의 신뢰도를 판단하는 방법이 필요합니다.

신경망의 예측과 함께 신뢰 구간을 생성하는 방법은 여러 가지가 있지만, 전통적인 불확실성 추정 방법은 비교적 느리고 계산적으로 비용이 많이 듭니다. 신경망은 매우 크고 복잡할 수 있으며, 수십억 개의 매개변수가 있을 수 있습니다. 예측을 생성하는 것만으로도 계산적으로 비용이 많이 들 수 있으며, 신뢰 구간을 생성하는 것은 더 오래 걸릴 수 있습니다. 대부분의 이전 불확실성 추정 방법은 샘플링이나 네트워크를 여러 번 실행하여 신뢰도를 추정하는 데 의존했습니다. 이는 고속 트래픽이 필요한 애플리케이션에서는 항상 가능하지 않습니다.

MIT 뉴스에 따르면, 알렉산더 아미니(Alexander Amini)가 이끄는 MIT와 하버드의 연구자들은 불확실성 추정을 가속화하는 기술인 “깊은 증거 회귀”를 사용하여 신뢰 구간을 생성하는 방법을 개발했습니다. 아미니는 데이터 과학자들이 신뢰할 수 있는 모델과 불확실성 추정의 신뢰성을 판단하기 위해 고속 모델과 신뢰할 수 있는 불확실성 추정이 필요하다고 설명했습니다. 따라서 연구자들은 모델의 신뢰도를 단 한번의 실행으로 추정할 수 있는 방법을 설계했습니다.

연구자들은 신경망 모델을 다음과 같이 설계했습니다. 각 결정과 함께 확률 분포가 생성되었습니다. 네트워크는 훈련 과정에서 결정에 대한 증거를 유지하며, 증거에 기반한 확률 분포를 생성합니다. 증거 분포는 모델의 신뢰도를 나타내며, 이는 모델의 최종 결정과 원본 입력 데이터의 불확실성을 나타냅니다. 입력 데이터와 결정의 불확실성을 모두 캡처하는 것은 중요합니다. 왜냐하면 불확실성을 줄이는 것은 불확실성의 원인을 알기 때문입니다.

연구자들은 컴퓨터 비전 작업에 불확실성 추정 기술을 적용하여 테스트했습니다. 모델이 이미지에 대해 훈련된 후, 예측과 함께 불확실성 추정을 생성했습니다. 네트워크는 잘못된 예측이 이루어진 경우에 높은 불확실성을 올바르게 예측했습니다. “네트워크가 만든 오류에 대해 매우 잘 조정되어 있었으며, 이는 새로운 불확실성 추정기의 품질을 판단하는 데 가장 중요한 것 중 하나라고 믿습니다”라고 아미니는 모델의 테스트 결과에 대해 말했습니다.

연구 팀은 네트워크 아키텍처에 대한 추가 테스트를 수행했습니다. 기술을 스트레스 테스트하기 위해, 연구자들은 또한 “분포 밖” 데이터, 즉 네트워크가 전에 본 적 없는 객체로 구성된 데이터 세트에 대한 데이터를 테스트했습니다. 예상대로, 네트워크는 이러한 미래의 객체에 대해 높은 불확실성을 보고했습니다. 실내 환경에서 훈련된 경우, 네트워크는 실외 환경의 이미지에 대해 높은 불확실성을 표시했습니다. 테스트 결과는 네트워크가 높은 불확실성으로 인해 신뢰할 수 없는 결정이 이루어지는 경우를 강조할 수 있음을 보여주었습니다.

연구 팀은 또한 네트워크가 조작된 이미지를 감지할 수 있음을 보고했습니다. 연구 팀이 적대적 노이즈로 사진을 조작했을 때, 네트워크는 새로 조작된 이미지를 높은 불확실성 추정과 함께 표시했습니다. 이는 일반적인 인간 관찰자에게는 보이지 않는 미세한 효과였습니다.

이 기술이 신뢰할 수 있는 경우, 깊은 증거 회귀는 일반적으로 AI 모델의 안전성을 향상시킬 수 있습니다. 아미니에 따르면, 깊은 증거 회귀는 위험한 상황에서 AI 모델을 사용할 때 신중한 결정을 내리는 데 도움이 될 수 있습니다. MIT 뉴스에 따르면 아미니는 다음과 같이 말했습니다.

“우리는 이러한 [신경망] 모델이 연구실에서 실제 세계로, 인간에게 잠재적으로 생명 위협적인 결과를 초래하는 상황으로 점점 더 많이 나오고 있음을 보고 있습니다. 의사나 차 안에 있는 사람과 같은 방법의 사용자는 그 결정과 관련된 모든 위험 또는 불확실성을 인식해야 합니다.”