국내 의료 AI의 알고리즘 편향 사례와 규제 미비점

디지털 헬스케어 산업의 중심에 선 의료 인공지능(AI)은 병원 진료 환경을 변화시키고 있다. 이 기술은 빠른 진단과 높은 정확도로 의료진의 부담을 줄이고, 환자에게 보다 빠른 치료 접근을 가능하게 한다. 특히 영상의학 분야에서는 AI가 CT, MRI, X-ray를 분석하여 질환을 자동으로 판독하는 시스템이 실제 임상에서 사용되고 있으며, 대형 병원을 중심으로 진입 속도도 가파르게 증가하고 있다.

하지만 기술이 고도화될수록 한 가지 문제점이 점점 더 명확해지고 있다. 바로 의료 AI의 알고리즘 편향(bias)이다. 알고리즘 편향은 특정 연령, 성별, 인종, 질병군 또는 지역에 따라 진단 정확도가 왜곡되는 현상으로, 의료의 본질인 ‘공정한 진료’를 침해할 수 있는 심각한 위험 요소다. 더욱이, 국내에서는 이러한 AI의 편향에 대한 제도적 감시 장치가 거의 존재하지 않아, 기술 발전 속도에 비해 규제 체계는 현저히 뒤처져 있다.

 

이 글에서는 국내 의료 AI에서 실제로 발생한 알고리즘 편향 사례들을 검토하고, 이러한 문제를 방치하게 되는 배경 속 규제 미비점들을 구체적으로 살펴본다. 나아가, 의료 AI의 신뢰성과 안전성을 확보하기 위한 실질적인 대안을 제시하고자 한다.

국내에서 발생한 대표적인 의료 AI 편향 사례

국내에서는 최근 몇 년간 다양한 의료 AI 시스템이 상용화되고 있지만, 이에 따른 부작용이 서서히 수면 위로 드러나고 있다. 대표적인 사례 중 하나는 서울 소재 대형 병원이 도입한 AI 기반 폐암 진단 시스템이다. 이 시스템은 주로 50~70대 남성 환자를 대상으로 학습된 데이터 세트를 기반으로 알고리즘이 설계되었다. 결과적으로 젊은 여성이나 비흡연자를 대상으로 한 진단에서는 낮은 정확도를 보였고, 일부 사례에서는 정상 조직을 암으로 오진하는 심각한 문제가 보고되었다.

또한, 일부 AI 진단 보조 시스템은 지역 간 의료 데이터 격차로 인해 수도권 외 지역 환자 데이터를 제대로 반영하지 못한 것으로 드러났다. 예를 들어, 농촌이나 도서 지역의 환자에게서 흔히 나타나는 특정 질병 유형에 대해 AI가 전혀 인지하지 못하는 일이 발생하였고, 이는 결국 의료 불균형을 더욱 고착화시키는 결과를 초래했다.

이처럼, 알고리즘 편향은 단순한 오류가 아니라 환자의 생명과 직결된 윤리적 문제이며, 더 이상 기술적 실수로 취급해서는 안 된다. AI는 데이터에 따라 움직이기 때문에, 개발자와 의료기관이 어떤 데이터를 수집하고 학습에 활용하느냐에 따라 결과의 편향성이 크게 달라질 수밖에 없다.

의료 AI 규제의 구조적 미비점

현재 국내에서는 의료 AI에 대한 제도적 규제가 극히 제한적이다. 식품의약품안전처에서는 의료기기로 분류되는 AI 설루션에 대해 일정 수준의 심사를 진행하지만, 알고리즘의 학습 구조나 편향 여부까지 상세히 검토하는 절차는 존재하지 않는다. 대부분의 심사는 기능적 안정성에 초점이 맞춰져 있으며, 데이터의 다양성, 윤리성, 공정성은 사실상 사각지대에 놓여 있다.

또한, 의료 AI의 검증 책임이 대부분 제조사에 귀속되어 있어, 제3자의 독립적 검증 체계가 없는 것도 문제다. 미국 FDA의 경우 AI 의료기기 승인 과정에서 '알고리즘 업데이트 추적 시스템'을 의무화하고 있지만, 국내에서는 AI가 업데이트될 때마다 별도의 재심사를 받는 체계가 구축되어 있지 않다. 결국, 의료현장에서는 한 번 허가된 AI가 시간이 지나면서 성능이 왜곡되어도 방지할 수 있는 제도적 장치가 전무한 셈이다.

이러한 미비점은 특히 다문화 사회로 빠르게 진입하고 있는 대한민국의 현실과 맞물리며 더 큰 문제를 야기한다. 예를 들어, 다문화 가정이나 외국인 환자의 의료정보가 데이터 세트에 포함되지 않는다면, 이들은 AI 진단에서 소외될 수밖에 없으며, 이는 곧 디지털 기반 의료차별로 이어질 수 있다.

의료 AI  알고리즘 편향이 초래하는 사회적·윤리적 문제

의료 AI의 알고리즘 편향은 단순한 기술적 오류 그 이상이다. 이는 환자 간의 의료 접근성의 불균형을 초래하며, 진단 결과의 신뢰도를 저하해 의료 시스템 전체에 대한 불신을 확산시킨다. 예를 들어, 특정 인구 집단이 지속해서 오진되거나 진단 정확도가 낮다는 사례가 누적될 경우, 해당 그룹은 의료 시스템 전반에 대한 회의감을 갖게 되고, 이는 건강관리의 회피로 이어질 수 있다.

또한, 알고리즘 편향은 의료 윤리의 핵심 가치인 ‘형평성’과 ‘정의’에 위배된다. 의료는 기본적으로 인간 생명을 다루는 영역으로, 모든 환자는 인종, 성별, 지역, 소득 등에 상관없이 동등한 진료를 받아야 한다. 그러나 AI가 잘못된 학습으로 특정 집단에 유리하거나 불리한 판단을 내리는 상황은 결국 윤리적 책임을 누구에게 물어야 하느냐 라는 새로운 딜레마를 낳는다.

문제는 이러한 윤리적 쟁점에 대해 현재의 법적·제도적 틀이 명확한 대응을 제공하지 못하고 있다는 점이다. 의료인이 AI의 진단을 신뢰하고 따라간 경우, 오진에 대한 책임 소재는 누구에게 있는가? 의료인인가, AI 개발사인가, 아니면 규제기관인가? 현재 한국의 의료법 및 인공지능 관련 법령에서는 이 질문에 대한 명확한 해답을 제공하지 않는다.

의료 AI 해외 사례와 시사점 – 우리는 무엇을 배워야 하는가

미국, 독일, 영국 등 의료 AI 활용이 활발한 국가는 AI의 공정성과 안전성을 확보하기 위한 다층적 제도를 마련하고 있다. 예를 들어, 영국 NHS는 AI 진단 도구가 실제 환자 데이터를 기반으로 실사용되기 전, ‘Health Data Ethics Review’를 통해 학습 데이터의 다양성과 편향성을 사전에 검토한다. 또한, 알고리즘이 업데이트될 때마다 공공기관에 그 변화를 보고하도록 의무화하고 있다.

미국의 경우, FDA는 ‘소프트웨어 의료기기(Software as a Medical Device, SaMD)’에 대한 규제 가이드를 2021년 개정하여, AI의 자기 학습(Self-Learning) 기능이 환자 진료에 미치는 영향을 지속해서 추적하는 체계를 수립하였다. 이러한 접근은 알고리즘의 변화에 따른 성능 편차를 조기에 발견하고, 환자 안전을 선제적으로 보호하는 데 기여하고 있다.

국내도 더 이상 뒤처져 있어서는 안 된다. 현재 ‘디지털 헬스케어 특별법’ 등 일부 법안이 논의 중이지만, 이는 기술 진흥에 방점을 두고 있어 규제보다는 진입 장벽 완화에 초점이 맞춰져 있다. 이제는 기술의 발전만큼 그 부작용에 대한 책임과 통제를 다룰 수 있는 균형 잡힌 입법 접근이 필요한 시점이다.

결론: 신뢰받는 의료 AI를 위한 제도적 재디자인이 시급하다

의료 AI는 분명히 미래의 의료 시스템을 혁신할 핵심 기술이다. 그러나 기술이 모든 문제를 해결하지는 않는다. 오히려 지금까지 드러난 사례들은 의료 AI가 기존의 사회적 편향을 더욱 강화할 수 있음을 경고하고 있다. 특히 국내처럼 규제가 후행하는 환경에서는 이 문제가 의료 윤리와 환자 안전을 위협할 수 있는 중대한 리스크로 작용하게 된다.

알고리즘 편향을 해결하기 위해서는 단순히 기술적 개선만으로는 부족하다. 먼저, 학습 데이터의 다양성과 윤리성 확보, 독립적 알고리즘 검증 체계 도입, 환자 집단별 성능 평가의 의무화, AI 진단 결과에 대한 법적 책임 주체 명확화가 제도적으로 병행되어야 한다. 더 나아가, 환자 스스로 자신의 진료 데이터가 AI 학습에 사용되는지 여부를 선택할 수 있는 권한도 보장해야 한다.

신뢰받는 의료 AI는 기술 그 자체로 완성되는 것이 아니라, 사회적 감시와 책임의 구조 속에서만 가능하다. 대한민국이 의료 AI 강국으로 도약하려면, 이제는 기술이 아닌 ‘제도’를 혁신할 차례다.