건강보험저널-필수의료배상보험

"성능만 앞선 의료 AI는 실패… '투명성·거버넌스' 곱해져야 신뢰 완성"

GIST 김준하 교수, HIRA 2026 기조강연서 '의료 AI 신뢰 방정식' 제시

2028년 도약 위한 5대 과제 발표… 의료진 AI 리터러시 의무화 '최우선' 꼽아

​

​【건강보험저널=박종운 기자】 ​의료 현장에 도입되는 인공지능(AI)이 단순한 알고리즘 성능 경쟁을 넘어 실제 임상 성과와 설명 가능성, 제도적 거버넌스를 완벽히 결합해야 한다는 제언이 나왔다.

​건강보험심사평가원이 주최한 ‘HIRA 2026’ 기조강연 연자로 나선 김준하 광주과학기술원(GIST) AI정책전략대학원장은 "성능만 뛰어난 AI는 결코 신뢰받지 못한다"며 신뢰받는 의료 AI(Trusted AI)의 조건과 향후 24개월간 한국 의료계와 정책 당국이 해결해야 할 5대 핵심 과제를 발표했다.

​

■ ​"성과·투명성·거버넌스 중 하나라도 ‘0’이면 성립 안 돼"

​김 교수는 이날 강연에서 ‘Trusted AI = Performance(성과) × Transparency(투명성) × Governance(거버넌스)’라는 방정식을 제시했다. 세 요소가 곱셈 구조로 연결돼 있어, 단 하나의 축이라도 ‘0’에 머문다면 온전한 의료 AI가 성립할 수 없다는 점을 분명히 했다.

​그는 "단순 벤치마크 정확도가 아닌 실제 의료 현장 배치 후 판독 시간 단축, 진단율 향상, 재입원율 감소 등 임상 성과(Real-world evidence)로 가치를 입증해야 하며, 배포 후 지속적인 모니터링이 필수적"이라고 강조했다.

​이어 의료진과 환자 모두를 설득할 수 있는 투명성의 중요성을 짚었다. 모델 카드와 데이터시트 공개는 물론, AI의 판독 근거를 시각화하는 히트맵(Heatmap) 기술과 환자 설명 자료 자동 생성 체계가 뒷받침돼야 한다는 설명이다. 아울러 "의사가 최종 서명과 법적 책임을 지는 'Human-in-the-loop' 체계와 식약처·심평원·IRB로 이어지는 3중 감시망 등 설계 단계부터 거버넌스가 내재화돼야 한다"고 덧붙였다.

​

■ ​2028년 향한 5대 의제… '의료진 교육' 최우선 과제로 지목

​김 교수는 한국 의료 AI가 2028년 글로벌 리더로 자리매김하기 위해 향후 2년 내 완수해야 할 5대 정책 의제(Five Imperatives)를 구체적으로 제안했다.

​성과 기반 수가 체계(Reimbursement): 단순 제품 허가를 넘어 AI가 창출한 실질적 임상 성과를 보상하는 급여 코드를 마련하고, 2027년까지 최소 5개 영역에서 심평원 시범사업을 추진해야 한다.

​건강데이터 거버넌스(Data): EU의 HDAB(Health Data Access Body) 모델을 한국 맥락에 맞춰 이식하고, 데이터 주권 저장과 병원 간 상호운용성, 환자 동의 체계를 확립한다.

​의료진 AI 리터러시(Workforce): OECD 국가 중 AI 교육 프로그램을 보유한 비율이 11%에 불과한 현실을 지적하며, 의대 정규 교육과 보수교육, 전문의 인증 과정에 AI 리터러시 교육을 '최우선 과제'로 의무화해야 한다.

​규제 샌드박스 2.0(Sandbox): 디지털의료제품법 시행에 발맞춰 파운데이션 모델 및 에이전틱(Agentic) AI 전용 검증 트랙을 확장 운영한다.

​국제 상호 호환성(Global): OECD·WHO·CHAI 등 글로벌 표준과의 정합성을 확보해 국내 식약처(MFDS) 인증이 글로벌 통용 경로(Pathway)로 기능하도록 주도권을 확보한다.

​김 교수는 "위해(Harm) 없이 AI를 빠르게 확산시키는 핵심 열쇠는 결국 'Smart × Trusted × Human'의 가치에 있다"며 "의사와 환자가 지혜롭게 공존하고 협력하는 의료 생태계를 구축하는 것이 궁극적인 해답"이라고 밝혔다.