의료 산업에서 생성형 AI는 설명 가능성의 약을 필요로 한다

텍스트 기반 생성형 AI 도구가 고급 글쓰기 및 커뮤니케이션 작업을 빠른 속도로 완수하는 것은 회사와 소비자 모두에게 큰 반향을 일으켰다. 그러나 이러한 인상적인 기능을 가능하게 하는 배경에서 진행되는 과정은 민감하고 정부에 의해 규제되는 산업, 즉 보험, 금융 또는 의료와 같은 산업에서 생성형 AI를 사용하는 데 주의를 기울이지 않으면 위험할 수 있다.

이러한 예는 의료 산업에서 가장 잘 설명된다.

이러한 문제는 일반적으로 대규모 언어 모델(Large Language Models, LLMs)을 훈련하기 위해 사용되는 광범위하고 다양한 데이터 세트와 관련이 있다. 프로그래머의 외부 개입 없이 이러한 LLMs는 인터넷의 다양한 소스에서 데이터를 차별 없이 스크레이핑하여 지식 기반을 확장하는 경향이 있다.

이 접근 방식은 최종 목표가 고객을 원하는 제안으로 정확하게 направ하는 낮은 위험의 소비자 지향 사용 사례에 가장 적합하다. 그러나 점점 더 많은 데이터 세트와 AI 모델이 출력을 생성하는 혼란스러운 경로로 인해 의료 제공자와 병원이 추적하고 잠재적인 부정확성을 방지하기 위해 필요한 설명 가능성을 흐리게 한다.

이 контексте에서 설명 가능성은 주어진 LLM의 논리 경로를 이해하는 능력을 의미한다. 생성형 AI 도구를 채택하려는 의료 전문가들은 모델이 결과를 생성하는 방법을 이해할 수 있는 방법을 가져야 하므로 의사 결정 과정 전반에 걸쳐 환자와 직원이 완전한 투명성을 갖게 된다. 즉, 생명이 걸린 산업인 의료 산업에서 전문가들이 AI 도구를 사용하여 데이터를 잘못 해석할 위험이 너무 크다.

幸い, 생성형 AI의 설명 가능성의 난제를 피하는 방법이 있다. 단지 조금 더 많은 제어와 집중이 필요할 뿐이다.

수수께끼와 회의

생성형 AI에서 입력(점 A)에서 출력(점 B)로 가는 경로를 이해하는 개념은 더 정해진 패턴으로 실행되는 비생성형 알고리즘보다 훨씬 더 복잡하다.

생성형 AI 도구는 입력에서 출력으로 가는 동안 수많은 연결을 만들지만 외부 관찰자에게는 이러한 연결을 어떻게 만들고 왜 특정 시리즈의 연결을 만드는지 여부가 여전히 수수께끼이다. AI 알고리즘이 생각하는 과정을 볼 수 있는 방법이 없으면 인간 운영자는 이유를 조사하고 잠재적인 부정확성을 추적하기 위한 충분한 수단이 없다.

또한 ML 알고리즘에서 사용되는 데이터 세트가 지속적으로 확장되면서 설명 가능성이さらに 복잡해진다. 데이터 세트가 클수록 시스템이 관련 정보와 관련 없는 정보에서 모두 학습하여 외부 사실과 맥락 논리에서 벗어난 거짓말인 “AI 환각”을 생성할 가능성이 더 높다.

의료 산업에서 이러한 종류의 결함이 있는 결과는 잘못된 진단과 잘못된 처방과 같은 문제를 일으킬 수 있다. 윤리적, 법적, 재정적 결과를 제외하고 이러한 오류는 의료 제공자와 그들이 대표하는 의료 기관의 평판을 손상시킬 수 있다.

따라서 의료 분야에서 생성형 AI는 의료 중재를 개선하고 환자와의 의사 소통을 개선하며 운영 효율성을 높이는 잠재력을 가지고 있지만 여전히 의심을 받고 있다. 55%의 임상가는 의료 사용에 준비가 되지 않았다고 생각하며 58%는 완전히 신뢰하지 않는다. 그러나 의료 기관은 계속 진행하고 있으며, 98%는 노동력 부족의 영향을 상쇄하기 위해 생성형 AI 배치 전략을 통합하거나 계획하고 있다.

소스를 제어하십시오

의료 산업은 효율성과 속도를 보장하는 안전 조치를 확실히 하는 소비자 기후에서 종종 뒤처진다. 최근 생성형 LLMs를 훈련하기 위해 무제한으로 데이터를 스크레이핑하는 단점, 즉 저작권 침해 소송에 대한 뉴스는 이러한 문제를 전면에 가져왔다. 일부 회사들은 시민들의 개인 데이터가 이러한 언어 모델을 훈련하기 위해 채굴되었다는 주장도 받고 있으며, 이는 개인 정보 보호법을 위반할 수 있다.

따라서 규제 산업을 위한 AI 개발자는 잠재적인 실수를 제한하기 위해 데이터 소스를 제어해야 한다. 즉, 외부 웹 페이지를 무작위로 스크레이핑하는 대신 신뢰할 수 있는 산업 검증 소스에서 데이터를 추출하는 것을 우선해야 한다. 의료 산업의 경우 이는 데이터 입력을 FAQ 페이지, CSV 파일 및 의료 데이터베이스와 같은 내부 소스로 제한하는 것을 의미한다.

이것이 약간 제한적이라고 들릴 수 있지만 대형 의료 시스템의 웹사이트에서 서비스를 검색해 보라. 미국 의료 기관은 플랫폼에 수백, 아니면 수천 개의 정보 페이지를 게시하지만 대부분의 경우 환자들이 실제로 액세스할 수 없다. 내부 데이터를 기반으로 하는 생성형 AI 솔루션은 이러한 정보를 환자에게 편리하게 제공할 수 있다. 이것은 모든 측면에서 이익이다. 의료 시스템은 이러한 콘텐츠에서 ROI를 볼 수 있고 환자는 필요한 서비스를 즉시 쉽게 찾을 수 있다.

규제 산업에서 생성형 AI의 미래는?

의료 산업은 여러 가지 면에서 생성형 AI의 이점을 얻을 수 있다.

예를 들어, 최근 미국 의료 부문에서 광범위하게 발생하는 소진을 생각해 보라. 약 50%의 노동력이 2025년까지 자리를 떠날 것으로 예상된다. 생성형 AI 기반의 채팅봇은 작업량의 상당 부분을 완화하고 과로한 환자 접근 팀을 보존하는 데 도움이 될 수 있다.

환자 측면에서 생성형 AI는 의료 제공자의 콜 센터 서비스를 개선할 수 있다. AI 자동화는 FAQ, IT 문제, 의약품 재충전 및 의사 추천과 같은 다양한 연락 채널을 통해 광범위한 질문에 답변할 수 있다. 대기 시간으로 인한 불만을 제외하고도 미국 환자 중 약 절반이 첫 번째 통화에서 문제를 성공적으로 해결하지 못하여 높은 포기율과 의료 서비스에 대한 접근성이 손상되는 결과가 나타난다. 이로 인해 고객 만족도가 낮아져 산업이 행동할 압력을 받는다.

산업이 생성형 AI 구현의 이점을真正로 누리기 위해서는 의료 제공자는 의 LLMs에 액세스하는 데이터를 의도적으로 재구성해야 한다.