설명 가능한 AI가 신뢰와 책임성을 어떻게 구축하는지

기업들은 이미 AI를 채택하기 위해 전면으로 뛰어들어 채팅봇, 콘텐츠 생성기, 의사결정 지원 도구를 전반적인业务에 걸쳐 배치하기 위해 경쟁하고 있습니다. McKinsey에 따르면, 78%의 기업이 최소한 하나의 비즈니스 기능에서 AI를 사용합니다.

이러한 구현의 열기는 이해할 수 있습니다. 모두가 잠재적인 가치를 보는 것이기 때문입니다. 그러나 이러한 급진적인 추진에서 많은 조직은 모든 신경망 기반 기술, 즉 현재 및 예측 가능한 미래에 사용되는 모든 LLM 및 생성 AI 시스템이 공유하는重大한 결함을 간과합니다. 즉, 예측할 수 없고 궁극적으로 제어할 수 없다는 것입니다.

일부 사람들은 실제로 이러한 결과를 겪었습니다. 한 Chevrolet 딜러는 웹사이트에 채팅봇을 배치했는데, 고객이 ChatGPT를 사용하여 58,195달러짜리 Chevy Tahoe를 1달러에 구입했습니다. 또 다른 고객은 동일한 채팅봇을 사용하여 복잡한 유체 역학 방정식을 위한 Python 스크립트를 작성했습니다. 딜러는 이러한 사건이 바이럴되자 봇을 비활성화했습니다.

작년, 에어 캐나다는 소송에서 패했습니다 जब 그들의 채팅봇이 고객에게 부정확한 정보를 제공했을 때, “그것은 별도의 법적實體로서 自身의 行動에 책임을 지는 것”이라고 주장했습니다.

이 예측 불가능성은 LLM의 기본 아키텍처에서 비롯됩니다. 그것들이 너무 크고 복잡하여 특정 답변에 도달하는 방법이나 생성할 출력을 예측하는 것이 불가능합니다. 대부분의 조직은 이 신뢰성 문제에 대한 해결책을 찾고 있지만, 완전히 인식하지는 못하고 있습니다.

상식적인 해결책은 AI 결과를 수동으로 확인하는 것입니다. 이것은 작동하지만 기술의 잠재력을 크게 제한합니다. AI가 기존 작업을 보조하는 개인 조수로 사용될 때, 그것은 MODEST한 생산성 향상을 제공합니다. 그러나 AI를 사용하여 전체 프로세스를 재구성하고, 시스템을 재설계하고, 회사 전체를 재구성하는 경우에真正的な 혜택이出现합니다.

예를 들어, 대출 처리의 경우, 은행이 대출 담당자에게 AI 조수를 제공하여 대출 신청서를 요약할 수 있습니다. 그러나 AI를 사용하여 전체 결정 프로세스를 처리하고(적절한 안전 장치를 마련하여), 비용을 90% 이상削減하고 처리 시간을 거의 제거할 수 있습니다. 이것이 점진적인 개선과 변혁의 차이입니다.

신뢰할 수 있는 AI 구현을 위한 길

AI의 전체 잠재력을 활용하면서 예측 불가능성을 피하는 것은 기술적 접근 방식과 전략적思考의 복잡한 혼합을 필요로 합니다. 현재 여러 방법이 부분적인 해결책을 제공하지만, 각 방법에는重大한 제한이 있습니다.

일부 조직은 시스템 누딩을 통해 신뢰성 문제를 완화하려고 합니다. 즉, AI 행동을 원하는 방향으로 미묘하게 조종하여 특정 입력에 대한 특정 반응을 유도합니다. Anthropic 연구자들은 Claude의 신경망에서 “골든 게이트 브리지 특징”을 식별하고, 이를 인공적으로 증폭시켜 Claude가 정체성 위기를 겪게 만들었습니다. 물론, Claude는 물리적인 형태가 없다는 것을 인정하지 않고, 자신이 골든 게이트 브리지라고 주장했습니다. 이 실험은 모델의 핵심 기능이 얼마나 쉽게 변경될 수 있는지, 그리고 每一個 조종이 다른 성능의 저하를 초래할 수 있는 트레이드오프를 나타낼 수 있는지 보여주었습니다.

또 다른 접근 방식은 AI를 사용하여 다른 AI를 모니터링하는 것입니다. 이 계층적 접근 방식은 일부 오류를 잡을 수 있지만, 추가적인 복잡성을 도입하고, 여전히 완전한 신뢰성을 달성하지 못합니다. 하드 코딩된 가드레일은 더 직접적인 개입입니다. 예를 들어, 특정 키워드 또는 패턴이 포함된 응답을 차단하는 것입니다. 이러한 가드레일은 알려진 문제에 효과적이지만, 이러한 복잡한 시스템에서出现하는 새로운 문제적인 출력을 예측할 수 없습니다.

보다 효과적인 접근 방식은 자율적으로 작동할 수 있는 AI 중심 프로세스를 구축하는 것입니다. 인간의 감독이 전략적으로 위치하여 신뢰성 문제를 실제 문제로 만들기 전에 捕获하는 것입니다. 예를 들어, AI가 초기 평가를 수행하고, 인간 운영자가 검토할 수 있습니다. 이것은 작동할 수 있지만, AI의 오류를 잡기 위한 인간의 주의를 필요로 하며, AI를 사용하는 효율성 향상을 약화시킵니다.

미래를 위한 구축

이러한 부분적인 해결책은 더 포괄적인 접근 방식을 향해 나아갑니다. 조직이 기존 프로세스를 단순히 AI 보조로 강화하는 대신, 근본적으로 작업이 어떻게 수행되는지 다시 생각하는 조직이 가장 큰 이점을 얻을 것입니다. 그러나 AI는 높은 위험의 프로세스 또는 결정의 마지막 단계에서 절대적으로 사용되어서는 안 됩니다. 그렇다면, 앞으로의 최선의 길은 무엇일까요?

첫째, AI는 반복 가능한 프로세스를 구축하여 일관된 결과를 신뢰성 있게 제공합니다. 둘째, 인간이 프로세스를 검토하여 그것이 어떻게 작동하는지 이해하고, 입력이 적절한지 확인합니다. 마지막으로, 프로세스는 AI를 사용하지 않고 자율적으로 실행되며, 결과는 주기적으로 인간이 검토합니다.

예를 들어, 보험 산업을 고려해 보십시오. 전통적인 접근 방식은 보험 청구 처리를 보조하는 AI 조수를 추가하는 것입니다. 그러나 더 혁신적인 접근 방식은 AI를 사용하여 새로운 도구를 개발하는 것입니다. 예를 들어, 사진을 분석하는 컴퓨터 비전 또는 의심스러운 패턴을 식별하는 강화된 사기 탐지 모델입니다. 이러한 도구를明確한 규칙에 따라 자동화된 시스템으로 결합하고, 인간이 이러한 시스템을 설계하고 모니터링하도록 합니다.

이 접근 방식은 가장 중요한 지점에서 인간의 감독을 유지합니다. 즉, 시스템 자체의 설계와 검증에서입니다. 이것은 효율성의 지수를 향상시키는 동시에, AI의 예측 불가능성이 개인 사례에서有害한 결과를 초래하는 위험을 제거합니다.

예를 들어, AI는 거래 데이터에서 대출 상환 능력의 잠재적인 지표를 식별할 수 있습니다. 인간 전문가들은 이러한 지표를 공정성으로 평가하고, 예측력을 확인하기 위한 명시적이고 이해할 수 있는 모델을 구축할 수 있습니다.

이 설명 가능한 AI 접근 방식은 AI를 표면적으로 사용하는 조직과 이를 운영에 변革하는 조직 사이에 명확한 구분을 생성할 것입니다. 후자는 점점 더 산업에서 앞서갈 것입니다. 그들은競爭對手들이 따라올 수 없는 가격으로 제품과 서비스를 제공할 수 있을 것입니다.

블랙박스 AI와 달리, 설명 가능한 AI 시스템은 인간이 기술의 적용에 대한 의미 있는 감독을 유지하도록 보장합니다. 이것은 AI가 인간의 잠재성을 강화하는 대신 인간 노동을 단순히 대체하는 것이 아닌 미래를 창조합니다.