AI는 건강 불평등을 개선하는 데 친구나 적이 될 수 있습니다. 어떻게 하면 도움이 되고 해가 되지 않는지

의료 불평등과 치료 차이는 사회経済적, 인종적, 성별 구분을 통해 널리 퍼져 있습니다. 우리는 이러한 격차를 메우고 모든 사람에게 일관된, 공정하고 합리적인 의료 서비스에 대한 접근을 보장할 의무를 가지고 있습니다.

인공 지능(AI)은 이러한 불평등을 해결하는 데 도움이 됩니다. 그러나 AI는 양날의 검과도 같습니다. 분명히, AI는 이미 치료 제공을 스트림라인화하고, 대규모 개인화된 의료를 가능하게 하고, 혁신적인 발견을 지원하는 데 도움이 되고 있습니다. 그러나 데이터, 알고리즘, 사용자에 내재된 편향은 우리가 주의하지 않으면 문제를 더 악화시킬 수 있습니다.

즉, AI 기반 의료 솔루션을 개발하고 배포하는 우리는 AI가 기존의 격차를 의도치 않게 넓히지 않도록 주의해야 합니다. 또한 규제 기관과 전문 협회는 편향을 피하거나 완화하기 위한 가이드라인을 설정하는 데 적극적인 역할을 해야 합니다.

이제 AI를 사용하여 불평등의 격차를 메우는 방법을 살펴보겠습니다.

임상 시험에서 평등을 달성

새로운 약물과 치료 시험은 역사적으로 설계에서 편향되었습니다. 예를 들어, 1993년까지 여성은 법적으로 NIH에서 자금을 지원하는 임상 연구에 포함되어 있지 않았습니다.最近, COVID 백신은 임신 중인 여성에서 의도적으로 시험되지 않았습니다. 그것은 일부 시험 참가자가 백신 접종 당시 무의식적으로 임신한 것으로 나타났기 때문에 안전하다는 것을 알게 되었습니다.

연구의 한 가지 도전은 우리가 모르는 것을不知道다는 것입니다. 그러나 AI는 인구 데이터를 분석하고 인구 통계적 대표성이나 демограф적 범위의 격차를 플래그로 표시함으로써 편향된 데이터 세트를 발견하는 데 도움이 됩니다. 다양한 대표성을 보장하고 AI 모델을 대상 인구를 정확하게 나타내는 데이터에 훈련함으로써, AI는 포용성을 보장하고, 피해를 줄이고, 결과를 최적화하는 데 도움이 됩니다.

공정한 치료를 보장

예상 어머니가 출산 중에 고통과 합병증을 경험할 때 종종 무시당하는 것은 잘 알려져 있습니다. 이는 흑인 어머니의 경우 비히스패닉 백인 어머니보다 3배 더 높은 산모 사망률로 이어집니다. 문제는 주로 내재된 편향으로 인해 발생합니다. 의료 전문가 사이에서 흑人が 백인보다 더 높은 고통 감수 능력을 가지고 있다는 일반적인 오해가 있습니다.

알고리즘의 편향은 문제를 더 악화시킬 수 있습니다. 하버드 연구자들은 한 알고리즘이 흑인과 라티나 여성들이 제왕 절개 후 자연 분만(VBAC)의 성공 가능성이 낮다고 예측한다는 것을 발견했습니다. 이는 의사들이 흑인 여성에게 더 많은 제왕 절개를 수행하도록 유도했을 수 있습니다. 그러나 연구자들은 “이 연관성은 생물학적 타당성에 의해 지원되지 않는다”고 발견했으며, 이는 인종이 “건강에 대한 인종주의의 영향”을 반영하는 다른 변수의 대리자일 수 있다고 제안했습니다. 알고리즘은 이후 인종이나 민족을 계산할 때 제외하도록 업데이트되었습니다.

이것은 암시적인 편향을 뿌리 채고 이전에 간과한 치료 경로를 제안하는 데 AI를 사용하는 완벽한 응용 프로그램입니다. “표준 치료”를 계속 제공하는 대신, 우리는 AI를 사용하여 이러한 최선의 관행이 모든 여성 또는 chỉ 백인 여성의 경험에 기반하는지 확인할 수 있습니다. AI는 의료 및 기술의 발전에 가장 많은 것을 얻을 수 있는 환자들이 데이터 기초에 포함되어 있는지 확인하는 데 도움이 됩니다.

인종이나 민족이 영향을 미치는 요인이 될 수 있는 경우가 있지만, 이러한 요인이 언제 그리고 어떻게 고려되어야 하는지 주의해야 합니다. 우리는 역사적으로 편향된 가정을 기본적으로 사용하는 것을 피해야 합니다.

공정한 예방 전략을 제공

AI 솔루션은 주의하지 않으면 소외된 공동체에서 특정 상태를 간과할 수 있습니다. 예를 들어,退伍軍인 관리局는 심장병과 심장 마비의 징후를 예측하고 감지하기 위한 여러 알고리즘을 개발 중입니다. 이는 엄청난 생명 구호 잠재력을 가지고 있습니다. 그러나 이러한 연구의 대부분은 역사적으로 많은 여성들을 포함하지 않았습니다. 여성에게 심장병은 사망의 가장 큰 원인이며, 여성들은 종종 남성과 다른 증상을 나타냅니다.

이 데이터 세트에 여성의 적절한 수를 포함하면, 조기 발견과 개입을 통해 여성에서 매년 발생하는 320만 건의 심장 마비와 50만 건의 심장 관련 사망을 일부 예방할 수 있습니다. 마찬가지로, 새로운 AI 도구는 역사적으로 흑인, 히스패닉, 아메리카 원주민을 제외한 신장 질환 검사에서 인종 기반 알고리즘을 제거하고 있습니다. 이는 치료가 지연되고 임상 결과가 나쁨으로 이어졌습니다.

소외된 개인을 제외하는 대신, AI는 소외된 인구의 건강 위험을 예측하고 개인화된 위험 평가를 통해 개입을 더 잘 타겟팅할 수 있도록 도와줄 수 있습니다. 데이터는 이미 존재할 수 있습니다. 모델을 “조정”하여 인종, 성별, 기타 인구 통계적 요인이 결과에 영향을 미치는지 확인하는 문제일 뿐입니다.

행정 작업을 스트림라인

환자 결과에 직접 영향을 미치는 것 외에도, AI는 운영 비용을 줄이고 제공자 사무실을 더 효율적으로 운영하고 직원이 환자와 더 많은 시간을 보낼 수 있도록 워크플ロー 뒤에서 기능을 가속화하는 데 엄청난 잠재력을 가지고 있습니다.

예를 들어, 회사와 제공자는 이미 AI를 사용하여 청구 코드와 청구 처리의 격차를 메우고, 의사 노트에 대한 진단 코드를 검증하고, 일반적인 진단 절차에 대한 사전 승인을 자동화하고 있습니다.

이러한 기능을 스트림라인화하면 운영 비용을 크게 줄이고 제공자 사무실을 더 효율적으로 운영하고 직원이 환자와 더 많은 시간을 보낼 수 있도록 할 수 있습니다. 이는 치료를 훨씬 더 합리적이고 접근하기 쉽게 만듭니다.

우리는 모두 중요한 역할을 합니다

이러한 놀라운 도구를 사용할 수 있는 것은 우리가 의료 편향을 뿌리 채우고 극복하기 위해 사용해야 한다는 것을 더욱 중요하게 만듭니다. 불행히도, 미국에는 의료 제공을 “편향”하는 AI를 사용하기 위한 노력을 규제하는 인증 기관은 없습니다. 또한 이러한 기관이 지침을 마련했더라도, 이를 준수할 규제적인 인센티브는 없습니다.

따라서, AI 실무자, 데이터 과학자, 알고리즘 작성자 및 사용자로서, 우리는 이러한 도구와 통찰력을 사용하여 포용성, 데이터의 다양성 및 공정성을 보장하기 위한 의도적인 전략을 개발해야 합니다.

이를 위해서는 정확한 통합 및 상호 운용성이 필수적입니다. 다양한 데이터 소스(웨어러블, 제3자 연구소 및 영상 제공자, 1차 진료, 건강 정보 교환, 입원 기록 등)가 있으므로, 이러한 데이터를 모두 통합하여 중요한 부분이 포함되도록 해야 합니다. 산업은 데이터 표준화, 표준화 및 일치 매칭이 필요합니다. 이는 문화와 언어에 따른 다양한 이름拼音이나 이름 규칙에도 불구하고, 필수적인 환자 데이터가 포함되도록 합니다.

또한, 우리는 AI 개발 프로세스에 다양성 평가를 구축하고, 지표의 “드리프트”를 시간의 경과에 따라 모니터링해야 합니다. AI 실무자는 모델의 성능을 인구 통계적 하위 그룹에서 테스트하고, 편향 감사를 수행하며, 모델이 어떻게 결정하는지 이해할 책임이 있습니다. 우리는 역사적으로 편향된 가정을 기본적으로 사용하는 것을 피해야 합니다. 예를 들어, 아리조나 주 길라 리버 예약에 사는 피마 인디언 부족의 구성원들은 매우 높은 비율의 비만과 제2형 당뇨병을 가지고 있습니다. 그러나 같은 부족의 구성원 중 일부는 멕시코의 시에라 마드레 산맥에 사는 경우, 비만과 당뇨병의 비율이 현저히 낮습니다. 이는 유전자가 유일한 요인이 아니라는 것을 증명합니다.

마지막으로, 미국 의사 협회, 건강 정보 기술 국가 조정자 사무소, 산과부인과 아카데미, 소아과 아카데미, 심장 학 아카데미 등과 같은 전문 기관이 함께 협력하여 데이터 교환 및 심각도에 대한 기준과 프레임워크를 설정하여 편향을 방지하기 위해 일해야 합니다.

건강 데이터 공유를 표준화하고 HTI-1 및 HTI-2를 확장하여 개발자들이 인증 기관과 협력하여 과거의 불평등 오류를 교정하고, 완전하고 정확한 환자 데이터에 대한 접근을 민주화하여 편향을 지속시킨 블라인드를 제거하고, 더 포괄적이고 객관적인 통찰력을 통해 치료 불평등을 해결할 수 있도록 할 수 있습니다.