의료 서비스에서 설명 가능한 AI를 어떻게 활용할 수 있을까요?

의료, 금융, 보험, 제조업은 인공지능(AI)이 큰 영향을 미치는 몇 가지 산업에 불과합니다. 특정 사용 사례의 요구 사항을 충족하기 위해 더 복잡한 AI 모델이 개발되고 있습니다. 그러나 이러한 AI 모델의 예측은 '블랙박스' 결과물처럼 보이며, 그 이유에 대한 정당성이나 설명이 부족합니다. 연구자, 조직, 규제 당국이 AI 모델이 어떻게 제안, 예측 등을 완벽하게 제공하는지 이해해야 할 필요성이 대두되면서 설명 가능한 AI(XAI)가 탄생했습니다.

설명 가능한 인공 지능(XAI)은 가장 새롭고 빠르게 성장하고 있는 인공 지능 분야 중 하나입니다. XAI 접근 방식은 딥러닝 모델에 대해 사람이 이해할 수 있는 설명을 제공하는 것을 목표로 합니다. 의료나 보안과 같이 안전이 중요한 산업에서는 이 점이 매우 중요합니다. 수년 동안 문헌에 제시된 접근 방식은 모델이 어떻게 결론에 도달했는지에 대한 질문에 대해 간단하게 답할 수 있다고 주장하는 경우가 많습니다.

의료 서비스에 XAI가 필요한 경우 이해하기

의료 전문가들은 AI를 사용하여 의료 사진을 스캔하여 육안으로 보이지 않는 이상 징후와 패턴을 찾아내어 위험 관리, 의사 결정, 진단 등 다양한 기능을 신속히 처리하고 향상시킵니다. AI는 많은 의료 전문가에게 필수적인 도구가 되었지만, 이해하기 어렵기 때문에 특히 중요한 결정을 내릴 때 의료진을 좌절하게 합니다.

다음 시나리오 중 하나에 XAI가 필요합니다.

  • 공정성이 최우선 과제이고 고객 또는 최종 사용자가 정보에 입각한 선택을 위해 정보를 필요로 하는 경우
  • AI의 잘못된 판단이 광범위한 영향을 미치는 경우(예: 불필요한 수술 추천)
  • 악성 종양을 잘못 분류하는 등 실수로 인한 결과가 심각할 경우 과도한 재정적 비용, 건강 위험 증가, 개인적 트라우마가 발생할 수 있습니다.
  • AI 시스템이 특정 분야의 전문가가 테스트해야 하는 새로운 가설을 생성하는 경우.
  • 자동화된 프로세스가 사용자 데이터를 처리할 때 '설명받을 권리'를 보장하는 EU의 일반 데이터 보호 규정(GDPR)과 같은 규정을 준수하기 위한 목적입니다.

여러 전문가에 따르면 의료 업계에서 AI 시스템의 도입이 상대적으로 늦어지는 이유는 블랙박스 시스템의 결과를 독립적으로 확인하는 것이 거의 불가능하기 때문이라고 합니다.

그러나 임상의는 XAI를 사용하여 환자가 입원할 위험이 높은 이유를 파악하여 환자에게 가장 적합한 치료 과정을 결정할 수 있습니다. 결과적으로 의사는 보다 신뢰할 수 있는 정보를 바탕으로 의사 결정을 내릴 수 있습니다. 또한 임상 결정의 추적 가능성과 투명성이 향상됩니다. XAI를 사용하면 의약품 승인 프로세스도 가속화할 수 있습니다.

의사는 XAI를 통해 어떤 이점을 얻을 수 있나요?



많은 사람들이 손목시계형 심장 모니터를 의료 분야에 도입한다는 생각에 마음이 녹아내릴 수 있지만, 충분히 설명 가능하고 도덕적인 접근 방식이 이를 진정시킬 수 있을 것으로 생각합니다. 이는 풍부한 과거 환자 및 임상 데이터를 활용하여 의사와 기타 의료 전문가가 AI를 통해 학습할 수 있을 뿐만 아니라 AI가 치료 계획을 세우는 데 도움을 줄 수 있다는 것을 의미할 것입니다.

새로운 치료 옵션이 나올 때마다 전체 알고리즘을 평가하고 보정하여 모든 환자에게 추적 가능한 개별화된 프로그램을 제공하는 효과적인 데이터 기반 프로세스가 가능해질 것입니다. 의사에 대한 추천을 지속적으로 개선하기 위해 거의 유사한 질병을 가진 수천 명의 개인 데이터를 결합할 것입니다.

의사 및 의료 전문가가 사용할 수 있는 XAI


  • 알고리즘에 권한을 부여하는 대신 데이터에서 학습하세요.
  • 방대한 양의 학술 및 의료 정보를 활용하여 환자를 공정하고 윤리적으로 치료하세요.
  • 사람의 손길을 거치지 않고도 AI로 지식을 창출할 수 있습니다.
  • 문제를 조기에 파악하고 보다 효과적인 조치를 취하여 더 빨리 건강을 회복할 수 있도록 개입하세요.
  • 비용을 낮추면서 시설, 적시성, 예산, 보건 결과를 개선하세요.

결론

지속 가능한 디지털 트랜스포메이션과 관련해서는 이미 많은 조직에서 기하급수적으로 성장하는 기술을 활용하고 있습니다. 격동의 지난 몇 년 동안 우리 모두가 더 나은 운영 방식을 모색하고 있는 지금이야말로 생명과학 및 생명공학 분야의 의료 서비스 제공업체와 기업이 디지털 트랜스포메이션을 추진하기에 가장 좋은 시기입니다.

설명 가능성을 위한 솔루션은 의료 전문가가 혁신을 모색하는 동안 자신감을 유지할 수 있도록 도와줍니다. 또한 정부가 의료 기술에 엄격한 규제를 부과할 때 설명가능성은 AI 블랙박스를 열고 모든 이해관계자에게 모델 의사결정을 명확하게 하는 중요한 첫 단계가 될 수 있습니다.

ko_KR한국어