지난 4 년 동안 구글은 인공지능(AI) 기술을 발전시켜 의료 분야의 중요한 문제를 해결해 나가고 있다. 안구 질환, 심혈관 위험 인자 및 빈혈의 징후를 식별하고 유방암 검진을 개선하고 탐지하는 새로운 AI 시스템을 개발했다.

AI 헬스케어 프로그램의 경우, 초기 연구에서 유용한 제품으로 이동하는 데 몇 년이 걸릴 수있다. 그 여정 중 하나는 사용자 중심의 연구를 수행하는 것이다. 헬스 케어에 적용되는 이런 유형의 연구는 제공되는 방법과 환자에게 어떤 이점이 있는지 또 알고리즘이 어떻게 도움이 되는지 또는 실수로 평가 및 진단을 방해할 수 있는지 등의 다양한 과정을 지나야 비로소 임상에 적용하고 그 능력을 발휘하게 된다.

구글은 최신 연구 '당뇨망막병증 감지를 위한 딥러닝 시스템의 인간중심적 평가'를 위해 태국 보건부와 파트너십을 구축해 파툼타니(Pathum Thani)와 치앙마이(Chiang Mai)에서 현장 연구를 수행했다. 당뇨가 있는 환자에게는 특유한 망막의 순환장애가 생기는데 이를 당뇨망막병증이라고 한다.

이 연구는 딥러닝 시스템이 환자 치료에 어떻게 사용되는지를 조사한 최초의 연구 중 하나이며, 간호사가 AI 시스템을 사용하여 당뇨망막병증 환자를 선별하는 방법을 살펴보는 최초의 연구이다.

연구팀은 8 개월 동안 11 개의 당료 클리닉을 정기적으로 방문하고 각 클리닉에서 간호사가 시력 검사를 처리하는 방법을 관찰하고 기술을 개선하는 방법을 이해하기 위해 인터뷰를 실시했다. 또 연구팀은 클리닉에서 딥러닝 시스템의 타당성과 성능을 평가하기 위해 연구와 함께 현장 연구를 수행했으며 연구는 신중하게 관찰하고 의학적으로 동의한 환자와 함께했다.

연구에서는 지속적인 솔루션 개발을 위한 주요 권장 사항을 제공하고 다른 연구 프로젝트를 위한 실제 시나리오에서 AI 배포에 대한 지침을 제공했다.

사용자 중심의 설계 프로세스로 새로운 솔루션을 개발하려면 개발 초기에 기술과 상호 작용하는 사람들이 참여해야 한다. 즉, 전체 프로세스에서 사람들의 요구, 기대, 가치 및 선호도를 깊이 이해하고 아이디어와 프로토타입을 테스트 한다. 헬스 케어의 AI 시스템과 관련하여, 연구팀은 헬스 케어 환경, 현재 워크플로우, 시스템 투명성 및 신뢰에 특별한 관심을 기울였다.

이러한 요소 이외에도, 현장 연구는 진료소마다 다르고 이미지의 품질에 영향을 줄 수 있는 조명 등과 같은 환경적 차이를 고려해야 한다. 숙련된 임상의가 이러한 변수를 설명하는 방법을 알고 있는 것처럼 AI 시스템도 이러한 상황을 처리하도록 학습해야 한다.

예를 들어, 스크리닝에서 캡처 된 일부 이미지에는 흐릿한 부분이나 어두운 부분과 같은 문제가 있을 수 있다. AI 시스템은 이러한 이미지 중 일부를 식별할 수 없으므로 결정적인 결과를 제공하는 데 필요한 중요한 추론이 모호해질 수 있다.

하지만 임상의의 경우는 이미지의 만족도는 자신의 임상 설정 또는 경험에 따라 달라질 수 있다. 시스템과 임상의 사이의 의견 차이가 좌절을 초래할 수 있기 때문에 이러한 스펙트럼을 수용할 수 있는 AI 도구를 구축하는 것은 어려운 일이다.

또한 관찰 결과에 따라, 안과 전문의가 불안정 이미지를 가진 환자를 자동으로 추천하는 대신 환자의 의료 기록과 함께 이러한 불안정 이미지를 검토하도록 연구 프로토콜을 수정했다. 이는 추천이 필요한지 확인하는 데 도움이 되었다.

이 연구에서는 AI 시스템의 성능, 신뢰성 및 임상 안전성을 평가하는 것과 함께 AI 시스템을 환자 치료에 통합하는 데 따른 인간에게 미치는 영향을 설명한다. 예를 들어, AI 시스템이 간호사들로 하여금 확신을 갖고 즉시 양성선별을 확인할 수 있게 하여 안과 의사에게 더 빨리 진료를 받을 수 있게 해주는 것으로 나타났다.

결과적으로 설계 및 개발 프로세스에서 다양한 관점을 고려하여 AI 시스템을 배포하는 것은 인간의 상호 작용이 필요한 새로운 건강 기술을 도입하는 것의 일부일뿐입니다. 또한 기술이 널리 보급되기 전에 진료소에서 실제 평가를 연구하고 통합하고 임상의 및 환자와 의미있는 참여를하는 것이 중요하다. 임상의와 환자의 요구를 충족시키기 위해 AI 기술 개선에 대해 정보를 제공하고 이를 기술에 통합하는 방법이 가장 이상적인 것이다.

한편 이번 구글의 연구 논문은 지난 25일 ACM Digital Library를 통해 A Human-Centered Evaluation of a Deep Learning System Deployed in Clinics for the Detection of Diabetic Retinopathy(다운)이란 제목으로 공개됐다.