의료 불평등과 치료의 격차는 사회경제적, 인종적, 성적 격차에 걸쳐 만연합니다. 사회로서 우리는 이러한 격차를 메우고 모든 사람이 일관되고 공정하며 저렴한 의료에 접근할 수 있도록 보장할 도덕적, 윤리적, 경제적 책임이 있습니다.
인공 지능(AI)은 이러한 불균형을 해소하는 데 도움이 되지만 양날의 검이기도 합니다. 물론 AI는 이미 치료 제공을 간소화하고, 대규모로 개인화된 의료를 가능하게 하고, 획기적인 발견을 지원하는 데 도움이 되고 있습니다. 그러나 데이터, 알고리즘 및 사용자의 내재적 편향은 우리가 조심하지 않으면 문제를 악화시킬 수 있습니다.
즉, AI 기반 의료 솔루션을 개발하고 배포하는 사람들은 AI가 의도치 않게 기존 격차를 넓히지 않도록 주의해야 하며, 관리 기관과 전문가 협회는 편견을 피하거나 완화하기 위한 보호 장치를 확립하는 데 적극적인 역할을 해야 합니다.
AI를 활용해 불평등 격차를 확대하는 대신 해소할 수 있는 방법은 다음과 같습니다.
임상 시험에서 형평성 달성
많은 신약 및 치료 실험은 의도적이든 아니든 역사적으로 설계에 편향이 있었습니다. 예를 들어, 여성이 의무화되기 시작한 것은 1993년이 되어서였다. 법에 따라 NIH 자금 지원 임상 연구에 포함됩니다. 최근에는 코로나 백신은 임산부를 대상으로 의도적으로 시험된 적이 없습니다.—시험 참가자 중 일부가 백신 접종 당시 임신 사실을 모르고 있었기 때문에 백신이 안전하다는 걸 알 수 있었습니다.
연구의 과제는 우리가 모르는 것을 모른다는 것입니다. 그러나 AI는 인구 데이터를 분석하고 불균형한 대표성이나 인구 통계적 범위의 격차를 표시하여 편향된 데이터 세트를 발견하는 데 도움이 됩니다. 다양한 대표성을 보장하고 대상 인구를 정확하게 나타내는 데이터에 대한 AI 모델을 훈련함으로써 AI는 포용성을 보장하고 피해를 줄이며 결과를 최적화하는 데 도움이 됩니다.
공평한 대우를 보장하다
그 잘 설립 출산 중 통증과 합병증을 겪는 흑인 임산부가 종종 무시되어 산모 사망률이 높아진다는 사실 흑인 여성의 경우 3배 더 높음 비히스패닉계 백인 여성보다 소득이나 교육에 관계없이. 문제는 본질적으로 편견에 의해 지속됩니다. 의료 전문가들 사이에는 다음과 같은 오해가 만연합니다. 흑인은 통증에 대한 내성이 더 높습니다 백인보다.
AI 알고리즘의 편향은 문제를 더 악화시킬 수 있습니다. 하버드 연구원들은 일반적인 알고리즘이 흑인과 라틴계 여성이 제왕절개(VBAC) 후 질 분만에 성공할 가능성이 낮다고 예측한다는 것을 발견했는데, 이로 인해 의사들이 유색인종 여성에게 더 많은 제왕절개를 시행했을 수 있습니다. 그러나 연구원들은 "이 연관성은 생물학적 타당성에 의해 뒷받침되지 않음, 인종이 "다른 변수의 대리"라고 제안합니다. 인종 차별주의 건강에 관한 것입니다.” 이 알고리즘은 이후 위험을 계산할 때 인종이나 민족을 제외하도록 업데이트되었습니다.
이는 AI가 암묵적 편견을 근절하고 이전에 간과되었을 수 있는 치료 경로를 (증거와 함께) 제안하는 데 완벽한 응용 프로그램입니다. "표준 치료"를 계속 실행하는 대신 AI를 사용하여 이러한 모범 사례가 모든 여성의 경험에 기반한 것인지 아니면 백인 여성만의 경험에 기반한 것인지 확인할 수 있습니다. AI는 데이터 기반에 의료 및 기술의 발전으로 가장 많은 이익을 얻을 수 있는 환자가 포함되도록 하는 데 도움이 됩니다.
인종과 민족성이 큰 영향을 미치는 요인이 될 수 있는 상황이 있을 수 있지만, 우리는 언제 어떻게 이를 고려해야 하는지, 그리고 단순히 역사적 편견에 따라 인식과 AI 알고리즘을 설계하고 있는지 신중하게 알아야 합니다.
공평한 예방 전략 제공
AI 솔루션은 잠재적 편견에 대한 신중한 고려 없이 소외된 커뮤니티의 특정 조건을 쉽게 간과할 수 있습니다. 예를 들어, 재향군인청은 심장병과 심장마비의 징후를 예측하고 감지하기 위한 여러 알고리즘을 개발하고 있습니다. 이는 엄청난 생명 구조 잠재력을 가지고 있지만, 역사적으로 대부분의 연구에는 많은 여성이 포함되지 않았습니다., 심혈관 질환이 사망 원인 1위인 사람들. 따라서 이러한 모델이 남성과는 매우 다른 증상을 보이는 경우가 많은 여성에게 효과적인지는 알 수 없습니다.
이 데이터 세트에 비례하는 수의 여성을 포함하면 다음과 같은 일부를 방지하는 데 도움이 될 수 있습니다. 3.2만건의 심장마비 그리고 조기 발견과 개입을 통해 매년 여성의 심장 관련 사망을 50만 건이나 줄였습니다. 마찬가지로 새로운 AI 도구가 제거되고 있습니다. 신장 질환 검진의 인종 기반 알고리즘역사적으로 흑인, 히스패닉계 및 아메리카 원주민을 배제해 온 제도로 인해 치료가 지연되고 임상 결과가 좋지 않았습니다.
소외된 개인을 배제하는 대신 AI는 실제로 소외 계층의 건강 위험을 예측하고 개입을 더 잘 타겟팅하기 위한 개인화된 위험 평가를 가능하게 할 수 있습니다. 데이터는 이미 존재할 수 있습니다. 단순히 모델을 "조정"하여 인종, 성별 및 기타 인구 통계적 요인이 결과에 어떤 영향을 미치는지 확인하는 문제입니다.
관리 작업 간소화
AI는 환자 결과에 직접적인 영향을 미치는 것 외에도, 격차를 줄이기 위해 백그라운드에서 워크플로를 가속화할 수 있는 엄청난 잠재력을 가지고 있습니다. 예를 들어, 기업과 제공자는 이미 AI를 사용하여 청구 코딩 및 판정의 격차를 메우고, 의사의 메모와 진단 코드를 검증하고, 일반적인 진단 절차에 대한 사전 승인 프로세스를 자동화하고 있습니다.
이런 기능을 간소화하면 운영 비용을 대폭 절감하고, 의료 제공자 사무실을 더 효율적으로 운영하고, 직원들이 환자와 더 많은 시간을 보낼 수 있게 되며, 결과적으로 치료 비용이 획기적으로 저렴해지고 접근성이 높아집니다.
우리 각자는 중요한 역할을 맡고 있습니다
우리가 이런 놀라운 도구를 사용할 수 있다는 사실은 우리가 이를 사용하여 의료 편견을 근절하고 극복하는 것이 더욱 절실하다는 것을 의미합니다. 안타깝게도 미국에는 AI를 사용하여 의료 제공을 "편견 없이" 하려는 노력을 규제하는 인증 기관이 없으며, 지침을 제시한 조직조차도 이를 준수할 규제적 인센티브가 없습니다.
따라서 AI 실무자, 데이터 과학자, 알고리즘 작성자 및 사용자로서 이러한 도구와 통찰력의 포용성, 데이터 다양성, 공평한 사용을 보장하기 위한 의식적인 전략을 개발할 책임이 우리에게 있습니다.
그렇게 하려면 정확한 통합과 상호 운용성이 필수적입니다. 웨어러블 기기와 타사 실험실 및 영상 제공자부터 1차 진료, 건강 정보 교환, 입원 환자 기록에 이르기까지 수많은 데이터 소스가 있으므로 소스의 포맷과 관계없이 핵심 부분이 포함되도록 이 모든 데이터를 통합해야 합니다. 업계에서는 다양한 문화와 언어에 따라 다른 이름 철자법이나 명명 규칙이 있더라도 필수적인 환자 데이터가 포함되도록 데이터 정규화, 표준화 및 ID 매칭이 필요합니다.
또한 우리는 AI 개발 프로세스에 다양성 평가를 구축하고 시간이 지남에 따라 메트릭의 "드리프트"를 모니터링해야 합니다. AI 실무자는 인구 통계 하위 그룹에서 모델 성능을 테스트하고, 편향 감사를 실시하고, 모델이 결정을 내리는 방식을 이해할 책임이 있습니다. 우리는 분석이 우리가 구축하는 인구를 대표하도록 하기 위해 인종 기반 가정을 넘어야 할 수도 있습니다. 예를 들어, 피마 인디언 부족 애리조나 주 길라강 보호구역에 사는 부족민들은 비만과 2형 당뇨병 발병률이 극히 높은 반면, 국경 바로 건너 멕시코 시에라마드레 산맥에 사는 같은 부족민들은 비만과 당뇨병 발병률이 현저히 낮습니다. 이는 유전적 요인이 전부가 아니라는 것을 보여줍니다.
마지막으로, 미국 의학협회, 국가 건강정보기술 조정국, 미국 산부인과 학회, 미국 소아과 학회, 미국 심장과 학회와 같은 전문 기관을 비롯한 많은 기관이 협력하여 편견을 방지하기 위한 데이터 교환 및 예민성에 대한 표준과 프레임워크를 설정해야 합니다.
건강 데이터 공유를 표준화하고 확장함으로써 HTI-1 and HTI-2 개발자가 인증 기관과 협력하도록 요구함으로써, 우리는 규정 준수를 보장하고 과거의 불평등 오류를 바로잡는 데 도움을 줍니다. 나아가, 완전하고 정확한 환자 데이터에 대한 액세스를 민주화함으로써, 우리는 편견을 영속시키는 장애물을 제거하고 AI를 사용하여 보다 포괄적이고 객관적인 통찰력을 통해 치료 격차를 해결할 수 있습니다.