AI가 의료 현장에서 의사를 대체할 수 없는 이유
핵심은 AI가 의사를 대체할 수 있느냐보다, 의사가 하는 일 중 위임할 수 없는 것이 무엇인지입니다. AI는 대체가 아닌 지원이어야 하는 이유.
잘못된 질문
매주 누군가가 AI가 의사를 대체할 것인지 묻는 기사를 발표합니다.
이러한 기사들은 익숙한 구조를 따릅니다. 벤치마크 연구에서 AI가 전공의 시험 성적을 앞지르고, 진단 모델이 특정 영상 검사에서 영상의학과 전문의 수준의 정확도를 달성하며, 언어 모델이 수련의보다 빠르게 퇴원 요약지를 작성합니다. 명시적이든 암시적이든, 그 방향은 분명하다는 것입니다. 자동화가 다가오고 있으니, 의사들은 준비해야 한다고 합니다.
저는 지난 수년간 진료 현장에서 환자를 보아 왔고, 지난 1년간은 의료 현장을 위한 AI 인테이크 시스템을 구축해 왔습니다. "AI가 의사를 대체할 것인가?"라는 질문을 가능한 모든 관점에서 검토해 보았습니다. 그리고 저는 이 질문 자체가 잘못되었다는 결론에 이르렀습니다.
올바른 질문은 이것입니다: 의사가 실제로 하는 일 중 위임할 수 없는 것은 무엇인가?
이 질문에 대한 답은 의료 AI 시스템을 어떻게 설계해야 하는지에 대한 모든 것을 바꿉니다.
의사가 실제로 하는 일
제가 환자를 진료할 때, 저는 주로 정보를 처리하는 것이 아닙니다. 충분히 훈련된 모델이라면 저보다 더 빠르고 더 넓은 범위로 그 일을 해낼 수 있습니다.
제가 하는 것은 그것과 다릅니다. 저는 불확실성 속에 있는 한 사람을 직접 마주하고, 그 사람의 상황을 이해할 수 있는 틀을 구성하며, 결정적으로 — 그 이후 일어나는 일에 대해 책임을 지는 위치에 제 자신을 놓는 것입니다.
이 세 번째 요소는 단순한 의식이 아닙니다. 구조적인 것입니다.
의사가 진단, 권고, 또는 치료 계획에 서명할 때, 단순히 결론을 기록하는 것이 아닙니다. 법적, 전문적, 윤리적으로 이어지는 결과의 사슬을 받아들이는 것입니다 — 그리고 이 책임은 기계에 양도될 수 없습니다. 의사는 틀릴 수 있습니다. 의사는 잘못에 대한 책임을 질 수 있습니다. 의사는 면허를 잃을 수 있고, 소송에 직면할 수 있으며, 자신이 초래한 결과에 대한 도덕적 무게를 감당해야 합니다. 이러한 책임의 순환 구조는 의학에 부수적인 것이 아닙니다. 이것이 곧 의학입니다.
AI 모델은 아무리 정확하더라도 이 위치를 차지할 수 없습니다. 모델에 역량이 부족해서가 아니라, 책임이란 주체를 필요로 하기 때문입니다 — 결과에 이해관계가 있고, 잃을 것이 있으며, 시간이 지나도 책임을 감당할 수 있는 존재 말입니다.
이것은 철학적 주석이 아닙니다. AI가 의사를 대체할 수 없는 구조적 이유입니다.
AI가 실제로 가진 역량
이 모든 것이 AI가 의학과 무관하다는 뜻은 아닙니다. 오히려 그 반대입니다. 다만 AI의 관련성은 대부분의 논의에서 인정하는 것과는 다른 차원에 있습니다.
AI가 탁월하게 잘하는 것들:
흩어진 정보를 체계화합니다. 복잡한 상담을 위해 방문하는 환자는 종종 수년간 흩어진 기록, 불완전한 진단, 제대로 기록되지 않은 병력을 가지고 옵니다. AI는 이러한 파편화된 정보를 통합하여 어떤 인간 검토자보다 훨씬 빠르게 일관된 그림을 보여줄 수 있습니다.
빠진 것을 찾아냅니다. 임상 인테이크에서 가장 일관되게 발생하는 실패는 잘못된 정보를 수집하는 것이 아니라 — 중요한 정보가 누락되었다는 사실을 알아차리지 못하는 것입니다. AI는 인간 검토자가 피로로 인해 놓치는 것들을 체계적으로 감지할 수 있습니다.
시간에 걸쳐 연속성을 유지합니다. 치료 후 모니터링은 수주에서 수개월에 걸친 지속적인 주의를 필요로 합니다. AI는 품질 저하 없이 그 주의를 유지할 수 있습니다. 피곤해지지 않고, 후속 조치를 잊지 않습니다.
언어 및 문화적 장벽을 줄입니다. 국제 의료 환경에서 의사소통 오류는 단순히 불편한 것이 아닙니다 — 환자 안전 문제입니다. AI는 어떤 인간 코디네이터도 대규모로 따라갈 수 없는 일관성으로 언어 간 소통을 중재할 수 있습니다.
이것들은 모두 실질적이고 중요한 역량입니다. 하지만 이 모든 역량에 공통된 점을 주목하십시오: 이것들은 준비와 지원의 역량이지, 판단과 책임의 역량이 아닙니다. AI는 의사의 업무를 더 완전하고, 더 정확하며, 더 확장 가능하게 만드는 데 뛰어납니다. 그러나 책임의 사슬에서 의사의 위치를 대체하는 것은 구조적으로 불가능합니다.
의료 AI 시스템이 잘못되는 지점
의료 AI에서 제가 가장 자주 관찰하는 실패 유형은 환각이나 부정확성이 아닙니다. 잘못된 권위 부여입니다.
시스템은 임상의를 돕기 위해 구축됩니다. 시간이 지나면서 — 사용자 경험 설계 결정, 범위 확대, 또는 단순히 더 편리하다는 이유로 — 시스템이 환자가 결정으로 받아들이는 권고를 내리기 시작합니다. 의사는 고무도장이 되어버립니다. 누구도 알아채지 못한 채 책임의 사슬이 끊어집니다.
이것은 가설이 아닙니다. 책임이 무엇을 요구하는지에 대한 명확한 이론 없이 자동화가 도입될 때 산업 전반에서 반복되는 패턴입니다.
항공에서 자동 조종 장치는 조종사를 대체하지 않았습니다. 조종사가 하는 일을 변화시켰을 뿐입니다 — 수동 제어에서 시스템 감독, 예외 처리, 새로운 상황에서의 최종 권한으로 역할이 전환되었습니다. 기장의 구조적 위치는 변하지 않았습니다. 조종석이 그 위치를 중심으로 변한 것입니다.
의학에도 유사한 설계의 명확성이 필요합니다. 문제는 AI가 얼마나 많은 권한을 흡수할 수 있느냐가 아닙니다. AI가 반드시 인간에게 남아야 하는 권한에 대해 어떻게 위치해야 하느냐가 문제입니다.
이것이 의료 AI 구축에 의미하는 바
저는 클리닉을 위한 인테이크 시스템을 구축할 때 모든 설계 결정의 중심에 하나의 원칙을 두었습니다: AI는 의사의 판단 역량을 돕는 것이지, 대체하는 것이 아니다.
실질적으로 이는 AI가 인테이크 구조화, 정보 공백 감지, 다국어 커뮤니케이션을 담당한다는 것을 의미합니다. AI는 의사의 검토를 더 빠르고 완전하게 만드는 사례 파일을 생성합니다. 그러나 의사는 어떤 요약을 보기 전에 먼저 환자 자신의 말을 읽습니다. 의사가 의사결정 프레임을 최종 확인합니다. 의사가 병원에 전달되는 권한을 보유합니다.
이 설계에서 AI는 의사의 하류에 있지 않습니다. 상류에 있습니다 — 좋은 의사 판단이 가능해지는 조건을 준비하는 것입니다.
이 구분은 단순하게 들립니다. 그러나 실제 시스템을 구축할 때 이를 유지하기는 놀라울 정도로 어렵습니다. AI가 특정 작업에서 인간보다 진정으로 뛰어나기 때문에, AI에 더 많은 것을 맡기라는 지속적인 압박이 존재합니다. 이 압박에 저항하려면 기술적 안전장치만으로는 부족합니다. 명확한 철학적 헌신이 필요합니다.
물어볼 가치가 있는 질문
의학에서의 AI에 대해 다른 프레임을 제안하고 싶습니다.
"AI가 의사를 대체할 것인가?"라고 묻는 대신, 이렇게 물어보십시오: "잘 설계된 AI 시스템은 의사 판단의 질에 무엇을 하는가?"
만약 답이 "의사의 판단을 더 빠르고, 더 충분한 정보에 기반하며, 더 잘 준비된 사례에 적용되게 만든다"라면 — 그것은 잘 설계된 시스템입니다.
만약 답이 "의사의 판단이 필요한 경우 자체를 줄인다"라면 — 정확도 벤치마크와 관계없이 그것은 위험한 시스템입니다.
의료 AI에서 가장 중요한 질문은 역량이 아닙니다. 아키텍처입니다. 역할은 어떻게 정의되는가? AI의 권한은 어디에서 끝나고 의사의 권한은 어디에서 시작되는가? AI가 틀렸을 때 무슨 일이 일어나며, 누가 그 결과를 감당하는가?
이것들은 엔지니어링 질문이 아닙니다. 거버넌스 질문입니다. 그리고 이 분야는 이런 질문을 던지는 데 있어 뒤처져 있습니다.
앞으로의 전망
저는 의학에서의 AI에 대해 낙관적입니다 — 형식적이 아니라 진심으로 그렇습니다. 매일 환자에게 피해를 주는 정보 파편화, 소통 실패, 연속성 단절을 AI가 줄일 수 있는 잠재력은 실질적이고 큽니다.
그러나 그 잠재력은 의사가 하는 일 중 자동화할 수 없는 것에 대한 구조적 명확성을 가지고 시스템을 설계할 때만 실현됩니다. 책임 없는 정확성은 해결책이 아닙니다. 그것은 원래 문제의 새로운 형태일 뿐입니다.
다음 10년간 성공하는 의사는 AI에 저항하는 의사가 아닙니다. AI가 자신보다 무엇을 더 잘하는지 정확히 이해하고 — 그 역량을 자신의 판단을 대체하는 것이 아니라 확장하는 데 활용하는 시스템을 설계하는 의사입니다.
이것이 제가 중심에 두고 있는 질문입니다. 아직 답이 나왔다고 생각하지 않습니다. 하지만 이것이 올바른 질문입니다.
임상 의사결정에서 AI의 성능, 실패 양상, 거버넌스에 대한 기반 연구가 궁금하시다면, 임상 의사결정에서의 AI에 관한 PubMed 문헌을 참고 자료로 권해 드립니다.
Dr. Jee Hoon Ju는 의사이자, 한국에서의 진료를 고려하는 해외 환자를 위한 의사 주도 의사결정 인프라 플랫폼 AetherHeal의 창립자입니다.
자주 묻는 질문
- AI가 의료에서 의사를 대체할 수 있습니까?
- 아니요, 그리고 그런 방식으로 질문을 제기하는 것 자체가 핵심을 놓치고 있습니다. 의사가 하는 일 중 위임할 수 없는 것은 정보 처리가 아닙니다 — AI는 이미 그 일을 더 빠르고 더 넓게 해낼 수 있습니다. 위임할 수 없는 것은 책임입니다. 즉, 결정에 서명하고 그 결정의 법적·전문적·윤리적 결과를 받아들이는 것입니다. 책임은 잃을 것을 가진 주체를 필요로 합니다. 모델은 아무리 정확하더라도 이 위치를 차지할 수 없으며, 그래서 AI는 의사의 판단을 확장할 수는 있어도 대체할 수는 없습니다.
- AI는 의학에서 어떤 일을 잘할 수 있습니까?
- AI는 네 가지 일에 탁월합니다: 파편화된 환자 기록을 일관된 그림으로 체계화하는 것, 인테이크에서 빠진 정보를 체계적으로 감지하는 것, 피로 없이 수주~수개월에 걸쳐 지속적인 주의를 유지하는 것, 국제 의료 환경에서 언어 및 문화적 장벽을 중재하는 것입니다. 이 모두는 준비와 지원의 역량으로, 의사의 책임 위치를 건드리지 않으면서 의사의 업무를 더 완전하고 확장 가능하게 만듭니다.
- 의료 AI의 주된 실패 양상은 무엇입니까?
- 가장 흔한 실패는 환각이나 사실 부정확성이 아닙니다. 잘못된 권위 부여입니다. 시스템은 임상의를 돕기 위해 만들어지는데, 시간이 지나면서 — UX 변화, 범위 확대, 또는 단순한 편의성으로 — 환자가 결정으로 받아들이는 권고를 내리기 시작합니다. 의사는 고무도장이 되고, 누구도 알아채지 못한 채 책임의 사슬이 끊어집니다. 이는 공학적 실패가 아닌 거버넌스 실패이며, 책임에 대한 명확한 이론 없이 자동화가 도입될 때 산업 전반에서 반복됩니다.
- AI는 의사에 대해 어떻게 위치해야 합니까?
- AI는 의사의 하류가 아니라 상류에 있어야 합니다. 좋은 의사 판단이 가능해지는 조건을 준비해야 합니다 — 사례 파일을 체계화하고, 공백을 표시하며, 언어를 번역하고, 연속성을 유지하는 것입니다. 의사는 AI 요약을 보기 전에 먼저 환자 자신의 말을 읽고, 의사결정 프레임에 최종 확인을 하며, 병원에 전달되는 권한을 보유해야 합니다. AI는 의사의 판단 역량에 봉사하며, 이를 대체하지 않습니다.
- 의학에서 AI에 대해 물어야 할 올바른 질문은 무엇입니까?
- AI가 의사를 대체할 것인지 묻는 대신, 잘 설계된 AI 시스템이 의사 판단의 질에 무엇을 하는지 물으십시오. 만약 답이 판단을 더 빠르고, 정보에 기반하며, 더 잘 준비된 사례에 적용되게 만든다면 그 시스템은 잘 설계된 것입니다. 만약 답이 의사의 판단이 필요한 경우 자체를 줄인다면, 그 시스템은 정확도 벤치마크와 무관하게 위험합니다. 중요한 질문은 역량이 아니라 아키텍처입니다.
- AetherHeal 안에서 AI는 어떻게 거버넌스됩니까?
- AetherHeal에서는 AI가 인테이크 구조화, 정보 공백 감지, 다국어 커뮤니케이션을 담당합니다 — 그러나 의사는 AI 요약을 보기 전에 먼저 환자 자신의 말을 읽습니다. 의사가 의사결정 프레임에 최종 확인을 하며, 병원에 전달되는 권한을 보유합니다. 원칙은 단순합니다: AI는 의사의 판단 역량에 봉사하며, 결코 이를 대체하지 않습니다. 이 경계를 유지하는 것은 단순한 기술적 안전장치가 아니라 철학적 헌신을 필요로 합니다.
- AI가 벤치마크에서 의사를 능가한다면 의사를 대체해야 한다는 뜻입니까?
- 벤치마크 성능은 올바른 지표가 아닙니다. 전공의 시험 성적, 선별된 영상 과제에서의 진단 정확도, 더 빠른 퇴원 요약은 AI가 무엇을 계산할 수 있는지를 보여주지, 무엇에 대해 책임을 질 수 있는지를 보여주지 않습니다. 시험에서 전공의를 능가하는 모델도 면허를 잃거나, 소송에 직면하거나, 시간이 지나도 결과에 대한 도덕적 무게를 감당할 수 없습니다. 책임 없는 정확성은 해결책이 아닙니다. 그것은 원래 문제의 새로운 형태일 뿐입니다.