임상 안전성 | 답보다 책임 경계가 먼저입니다

초록

전기는 멈춰도 복구할 수 있습니다. 잘못된 임상 판단은 환자에게 남습니다. 그래서 비자율 원칙은 윤리 문구에 머물 수 없습니다. 제품 구조 안에서 의사가 확인하고 멈출 수 있어야 합니다. Golden Clinical Loop는 AI가 제안하고, 의사가 확인하고, 실행되고, 끝났다는 근거가 남을 때까지를 한 바퀴로 잇는 업무 순환입니다.

이 문서는 AI의 자율적 임상 결정, 정확도 확약, 의료분쟁 방지, 검증 완료, 규제 인허가 또는 임상 성과를 주장하지 않습니다. 제품 화면은 데모 계정의 합성 데이터입니다. 임상적 유효성이나 실제 운영 성과의 근거로 사용하지 않습니다.

문서 유형: 임상 안전성 원칙
적용 범위: Clinical OS와 Golden Clinical Loop
작성 주체: AetherHeal

에테르힐은 병원과 의원 네트워크를 위한 임상 실행 인프라를 만듭니다. 환자 접점 엔진은 승인된 정보 안내, 다국어 대화, 예약, 사전 문진을 맡습니다. 임상 지능 엔진은 진료 맥락과 전문과별 참조 소견, 기록 초안을 의사 검토용으로 준비합니다. 케어 실행 엔진은 허용된 범위의 운영 조치와 확인, 담당 지정, 종결까지를 조정합니다. 이 엔진들은 따로 도는 챗봇이 아니고, Clinical OS도 판단을 대신하는 중앙 두뇌가 아닙니다. 지능은 업무 단위로 나뉘어 있고, 상태와 권한, 근거, 책임은 공유 운영 층과 Golden Clinical Loop라는 실행 계약을 통해 하나로 유지됩니다. 임상 판단과 치료 방침, 최종 책임은 의사에게 남고, 병원이 쓰던 차트는 그대로 정본입니다.

실행 권한 × 임상 영향

실행 권한과 임상 영향을 따로 분류합니다.

한 축은 시스템이 읽고, 제안하고, 상태를 바꾸는 범위를 구분합니다. 다른 축은 업무가 임상 판단에 미치는 영향을 구분합니다. 두 축을 교차해 필요한 통제를 정합니다.

실행 권한

읽기: 승인된 정보만 조회하며 기준 시스템의 상태를 바꾸지 않습니다.
제안: 검토할 초안이나 다음 행동을 제안하며 직접 실행하지 않습니다.
승인 뒤 쓰기: 이름이 명시된 사람의 승인과 허용된 도구가 있을 때만 상태를 변경합니다.

임상 영향

운영 업무: 임상 판단에 직접 영향을 주지 않는 기관 운영 업무입니다.
병원 프로토콜 안: 기관이 승인한 프로토콜과 이름이 명시된 임상 검토자 아래에서만 다룹니다.
의사 판단 영역: 규제 검토나 면허를 가진 의사의 판단이 필요한 영역으로 분리합니다.

이 분류는 내부 실행 통제와 임상 영향의 경계를 정하기 위한 기준입니다. 법적·규제상 분류와 자동으로 동일하지 않습니다.

각 칸의 통제 조건, 분류 코드, 프로토콜 범위 업무의 일곱 조건은 부록 PDF 참조.

책임과 담당 주체

책임은 일곱 층으로 나눠 이름을 붙입니다.

임상 판단, 기관 프로토콜, 시스템 통제와 배포 승인을 한 주체에게 모으지 않습니다. 각 책임에는 다른 소유자가 있습니다.

책임	담당 주체
임상 판단·치료	면허를 가진 임상의
기관 프로토콜	기관·임상 검토자
접근·도구·감사 기록	AetherHeal
직원 업무	기관 내 역할 책임자
원천 데이터	원천 데이터 소유자
공개 전 검토	AetherHeal과 검토자
배포 승인	지정된 사람의 승인 관문

안전 판단의 단위는 답변 한 번이 아닙니다. 환자 맥락에서 업무가 끝날 때까지 이어지는 기록을 검토합니다. 제안이 어떤 입력과 불확실성에서 나왔는지, 누가 검토했는지, 어떤 권한으로 실행됐는지, 예약·차트 같은 병원 기준 시스템에 어떤 완료 근거가 남았는지를 봅니다.

AI, 의사, 직원과 시스템의 권한을 단계별로 구분합니다.

Golden Clinical Loop를 다섯 단계로 묶습니다. 제안과 실행은 의사가 정한 범위 안에서만 이어집니다. 완료에는 병원 기준 시스템의 근거가 필요합니다.

AI 직접 실행할 권한이 없습니다. 완료를 주장할 수 없습니다.

단계별 권한표(5단계 × AI·의사·직원·시스템)와 넘김 조건 8항은 부록 PDF 참조.

주장 수준이 높아질 때는 새로운 근거와 검토 절차가 필요합니다.

단계	주장 범위	요구 근거
1. 업무 흐름 보조	통역, 전사, 요약, 용어집, 보고서 초안	신뢰성, 사용성, 오류 기록과 의사 검토
2. 의사용 의사결정 지원	질문, 위험 신호, 체크리스트, 구조화 참고	인간 요인 평가, 의사 행동 기록과 안전성 검토
3. 검증된 전문과 사용	정의된 업무 흐름 안의 적응증별 지원	성능 평가, 하위집단 분석과 임상 프로토콜
4. 규제 대상 임상 주장	질병 판단 또는 치료 효과에 관한 주장	인허가, 품질시스템, 임상 근거와 시판 후 모니터링

제품 설명은 현재 확보한 근거의 범위를 넘지 않습니다.

사용할 수 있는 표현과 사용하지 않는 표현.

사용할 수 있는 표현

의사 감독형 임상 의사결정 지원
문서 완결성과 위험관리 지원
참고, 업무 흐름, 분류와 측정 지원
근거 생성 계획과 규제 검토

사용하지 않는 표현

AI가 환자에 대한 임상 결정을 혼자 내린다
정확도를 보장한다
의료분쟁을 방지한다
임상 검증이나 규제 인허가가 완료됐다
임상 성과를 개선한다
모든 EMR을 즉시 대체한다

함께 읽어야 할 외부 기준은 WHO 의료 AI 윤리 지침 [1], FDA 임상 의사결정 지원 소프트웨어 지침 [2], IMDRF 의료기기 소프트웨어 임상 평가 문서 [3]입니다.

초안은 의사 검토를 거쳐 기록이 됩니다.

진료기록부는 사후에 진료의 적정성을 판단하는 근거입니다. DockieTalkie Clinical Copilot은 문제 중심 의무기록(POMR) 구조로 기록 초안을 정리합니다. 각 문제의 근거, 평가, 계획과 기록 공백을 분리해 의사가 확인할 항목을 드러냅니다.

01문제 중심 의무기록(POMR) 구조로 문제별 근거·평가·계획 분리
02법정 기재 항목(주증상·진단·경과·치료·일시) 점검

전자서명과 기록 무결성 안전장치는 의료법 제23조의 전자의무기록 요건을 기준으로 구현 범위를 검토하고 있습니다 [4]. 법적 전자서명과 전자의무기록 보존·무결성 요건의 완전한 충족은 별도 구현 범위입니다.

데이터 경계(기관별 경계, 원본 개인건강정보의 기관 간 재사용 금지, 처리 목적과 수탁자 역할, 교정 사항 학습 범위, 동의와 철회, 보유와 삭제)의 상세는 부록 PDF 참조.

참고문헌

World Health Organization. Ethics and governance of artificial intelligence for health: WHO guidance. 원문 보기
U.S. Food and Drug Administration. Clinical Decision Support Software: Guidance for Industry and Food and Drug Administration Staff. 원문 보기
International Medical Device Regulators Forum. Software as a Medical Device: Clinical Evaluation. 원문 보기
대한민국. 의료법 제23조(전자의무기록). 국가법령정보센터.

임상 안전성 문서 전문 PDF →

문서 범위와 인용에 관한 문의는 drjeeju@aetherheal.com 으로 보내 주세요.

AI의 제안에서의사의 확인까지.

초록

실행 권한

임상 영향

사용할 수 있는 표현

사용하지 않는 표현

AI의 제안에서
의사의 확인까지.