설명 가능성이 모든 산업의 AI 문제를 해결할 수 있습니다: 투명성의 부족

작성자: Migüel Jetté, Rev의 R&D Speech 부사장, Rev.

초기 단계에서 AI는 새로운 기술이라는 이유만으로 충분했습니다. 기계 학습이 천천히 진행되고 평균 소비자가 이해하기 어려운 불투명한 프로세스를 유지하는 것이 괜찮았습니다. 그러나 상황이 바뀌고 있습니다. 의료, 금융, 사법 시스템과 같은 산업들이 실제로 사람들의 삶에 영향을 미칠 수 있는 방식으로 AI를 활용하기 시작하면서, 더 많은 사람들이 알고리즘을 어떻게 사용하는지, 데이터를 어떻게 수집하는지, 그리고 그 기능이 얼마나 정확한지 알고 싶어합니다. 회사가 시장의 혁신을 주도하고 싶다면, 고객이 신뢰할 수 있는 AI에 의존해야 합니다. AI 설명 가능성은 그 관계를 깊게 하는 핵심 요소입니다.

AI 설명 가능성은 표준 AI 절차와 다릅니다. 사람들에게 기계 학습 알고리즘이 출력을 생성하는 방법을 이해할 수 있는 방법을 제공하기 때문입니다. 설명 가능한 AI는 잠재적인 결과와 약점을 제공할 수 있는 시스템입니다. 이것은 공정성, 책임성, 개인 정보 보호에 대한 인간의 жел cầu를 충족할 수 있는 기계 학습 시스템입니다. 설명 가능한 AI는 기업이 고객과 신뢰를 구축하는 데 필수적입니다.

AI가 확장됨에 따라, AI 제공업체는 블랙 박스 모델이 충분하지 않다는 것을 이해해야 합니다. 블랙 박스 모델은 데이터에서 직접 생성되며, 때때로 알고리즘을 개발한 개발자조차도 기계가 학습한 습관을 무엇으로 驅動했는지 식별할 수 없습니다. 그러나 의식 있는 소비자는 책임을 질 수 없는 불투명한 것과 상호 작용하고 싶어하지 않습니다. 사람들은 특정 결과에 도달하기 위해 AI 알고리즘이 어떻게 작동하는지 알고 싶어합니다. 특히 AI의 오류는 기계 학습 편향으로 인해 발생하는 경우가 많습니다. AI가 더 발전할수록, 사람들은 알고리즘이 특정 결과에 도달하기 위해 어떻게 작동하는지 이해하기 위해 기계 학습 프로세스에 접근하고 싶어합니다. 모든 산업의 리더는 사람들이 이 접근을 더 이상 선호하는 것이 아니라, 투명성의 필수적인 수준으로 요구하게 될 것이라는 것을 이해해야 합니다.

음성 인식 시스템(ASR)과 같은 음성 지원 어시스턴트, 음성 인식 기술, 텍스트로 변환하는 다른 서비스는 특히 편향으로 고민됩니다. 이 연구에 따르면, 음성 인식 기술이 흑인에게 덜 정확하다는 것을 알 수 있습니다. 이 서비스가 안전 조치로 사용되는 경우, 억양, 나이, 배경과 같은 오류는 심각한 결과를 초래할 수 있습니다. 따라서 이 문제는 심각하게 다루어야 합니다. 예를 들어, 경찰 바디 캠에서 자동으로 녹음하고 음성 인식을 사용하여 상호 작용을 기록할 수 있습니다. 설명 가능성의 관행은 AI가 단순히 구매한 데이터셋에 의존하지 않고, 오류가 발생할 수 있는 오디오의 특성을 이해하도록 요구합니다. 음향 프로파일은 무엇인가? 배경에 노이즈가 있는가? 화자는 영어를 모국어로 사용하지 않는가? 기계 학습은 이러한 변수를 다루기 위해 더 빠르게 학습해야 합니다.

필요성은 명백해지고 있지만, 이 방법론을 구현하는 경로는 항상 쉬운 해결책을 제공하지 않을 것입니다. 전통적인 해결책은 더 많은 데이터를 추가하는 것입니다. 그러나 더 복잡한 해결책이 필요할 것입니다. 특히 많은 회사에서 사용하는 구매 데이터셋이 내재적으로 편향된 경우에는 더욱如此입니다. 이는 특정 결정이 AI에 의해 렌더링되었을 때, 그 결정이 어떻게 이루어졌는지 설명하기 어려웠기 때문입니다. 그러나 우리는 지금부터 시작할 수 있습니다. 우리는 사람들이 어떻게 AI를 신뢰하지 않게 되었는지 물어보는 것으로 시작할 수 있습니다.

결국, AI는 실수를 할 것입니다. 회사는 잠재적인 약점을 인식하고, 문제가 발생할 때와 어디서 발생하는지 식별하며, 더 강력한 AI 모델을 구축하기 위한 지속적인 솔루션을 개발해야 합니다. 다음은 몇 가지 방법입니다:

1. 何か가 잘못되면, 개발자는 무엇이 잘못되었는지 설명하고, 즉시 개선 계획을 개발해야 합니다. 이를 통해 모델을 개선하고, tương似的 실수를 줄일 수 있습니다.
2. 기계가 옳은지 틀린지 알기 위해서, 과학자들은 피드백 루프를 생성해야 합니다. 이를 통해 AI는 약점을 학습하고 발전할 수 있습니다.
3. 또 다른 방법은 ASR이 신뢰를 구축하는 동안, AI가 자신감 점수를 생성하고, 자신감이 낮은 이유를 제공하는 시스템을 생성하는 것입니다. 예를 들어, 회사는 0에서 100까지의 점수를 생성하여 자신의 AI의 불완전성을 반영하고, 고객과 투명성을 유지할 수 있습니다. 미래에는 시스템이 오디오가 어려웠던 이유를 제공할 수 있습니다. 예를 들어, 인식된 노이즈 수준이나 이해하기 어려운 억양에 대한 더 많은 메타데이터를 제공할 수 있습니다.

추가적인 투명성은 AI 훈련과 성능에 대한 인간의 감독을 개선할 것입니다. 우리는 어디서 개선해야 하는지에 대해 더 열린 마음을 가지면, 우리는 그 개선에 대한 책임을 지게 됩니다. 예를 들어, 연구자는 왜 잘못된 텍스트가 출력되었는지 알고 싶어할 수 있습니다. 이를 통해 문제를 완화할 수 있습니다. 또한, 음성 인식 기술을 사용하는 사람이 왜 입력을 잘못 해석했는지에 대한 증거를 원할 수 있습니다. 이를 통해 그들의 검증을 도와줄 수 있습니다. 인간을 루프에 포함시키면, AI가 제어되지 않는 경우 발생하는 가장 명백한 문제를 완화할 수 있습니다. 또한, AI가 실수를 빠르게 잡고, 개선하고, 실시간으로 자신을 교정하는 데 필요한 시간을 줄일 수 있습니다.

AI는 사람들의 삶을 개선할 수 있는 능력을 가지고 있습니다. 그러나 인간이 올바르게 구축해야 합니다. 우리는 이러한 시스템과 혁신을 주도하는 사람들을 책임지도록 노력해야 합니다. 미래의 AI 시스템은 인간이 설정한 원칙을 따라야 합니다. 그리고 그때까지 우리는 신뢰할 수 있는 시스템을 가질 수 있습니다. 이제는 그 원칙을 위해 노력해야 합니다. 아직 인간이 자신을 섬기고 있기 때문입니다.