간단히 말해: 의료 데이터에 대한 AI는 7가지 질문으로 이루어진 파이프라인이며, 대부분의 실패는 한 가지 질문을 건너뛰는 데서 발생합니다. 데이터는 어디에서 오는가 (FHIR 기록, 문서, 기기, 환자 본인의 말)? 모델은 어떻게 데이터에 접근하는가 (관련된 것을 조립하는 컨텍스트 API, 모델 컨텍스트 프로토콜 서버, 기록을 통한 검색)? 누가 허가했는가 (환자의 동의, 목적 및 기간별 범위 지정, 기록)? 데이터 속 사람들을 무엇이 보호하는가 (진료 맥락을 벗어나는 모든 것에 대한 비식별화, 개발을 위한 합성 데이터, 연구를 위한 가명화)? 모든 결과물을 추적할 수 있는가 (입력 및 출력에 대한 출처 증명)? 어떻게 작동하는지 아는가 (임상적 근거에 대한 평가, 느낌이 아닌)? 어떤 규칙이 적용되는가 (GDPR 제9조 및 제22조, 결과가 임상적 결정에 영향을 미치는 경우 MDR, EU AI Act, HIPAA)? 이 페이지는 지도이며, 각 질문에는 자체 페이지가 있습니다.
파이프라인
의료 데이터 AI 파이프라인은 일곱 단계로 구성되며, 각 단계마다 질문이 있습니다. 출처(데이터가 어디에서 오는지), 접근(모델이 어떻게 데이터에 접근하는지), 제어(누가 사용을 결정했는지), 개인정보 보호(데이터 속 사람들을 무엇이 보호하는지), 추적성(결과를 추적할 수 있는지 여부), 평가(성공을 어떻게 측정하는지), 규칙(어떤 법이 적용되는지)입니다.
| 단계 | 질문 | 좋은 결과는 무엇인가 | 페이지 |
|---|---|---|---|
| 출처 | 데이터는 어디에서 오는가? | 코드(LOINC, SNOMED CT, ATC)가 있는 FHIR 기록, 구조가 추출된 문서, 출처 증명이 있는 기기 데이터; 스크린샷과 PDF만으로는 안 됨 | FHIR Observation, FHIR DiagnosticReport |
| 접근 | 모델은 어떻게 데이터에 접근하는가? | 기록의 범위가 지정되고 출처가 표시된 조각을 반환하는 컨텍스트 API 또는 MCP 서버; 덤프가 아닌 구조화된 필터를 사용한 검색 | RAG on medical records, Healthcare API for AI, MCP server |
| 제어 | 누가 허가했는가? | 목적 및 기간별 환자 동의; 서버 측에서 시행되는 범위; 환자가 읽는 접근 로그; 작동하는 취소 기능 | Patient consent platform, Who viewed my record? |
| 개인 정보 보호 | 사람들을 무엇이 보호하는가? | 식별된 데이터는 진료 맥락 안에 유지; 개발, 분석 및 모델 학습을 위한 비식별화 또는 합성 데이터; 허가를 받은 연구를 위한 가명화 데이터 | De-identification, Synthetic patient data |
| 추적성 | 결과물을 추적할 수 있는가? | 모든 입력(누가, 언제, 어디서 기록했는지) 및 모든 AI 출력(모델, 버전, 사용된 입력)에 대한 출처 증명, 기록과 함께 저장 | Medical data provenance |
| 평가 | 어떻게 작동하는지 아는가? | 임상적 근거에 대한 테스트 세트, 출처에 대한 충실도, 하위 그룹별 오류 분석, 프로덕션에서의 모니터링, 인간 검토 경로 | Evaluating clinical LLMs |
| 규칙 | 어떤 법률이 적용되는가? | GDPR 제9조 및 제22조, DPIA; 결과가 진단 또는 치료에 영향을 미치는 경우 MDR; 장치 및 나열된 용도에 대한 AI Act의 고위험 규정; 미국에서의 HIPAA | The EU AI Act and health AI, SaMD classes, GDPR Article 9 |
세 가지 종류의 AI, 세 가지 위험 프로필
의료 데이터 AI는 세 가지 종류와 세 가지 위험 프로필을 가집니다. 첫째, 단순한 요약 및 초안 작성과 같은 보조 및 관리 AI로, 위험은 개인정보 보호와 놓친 오류입니다. 둘째, 상호작용 플래그 지정 또는 분류와 같은 의사 결정 지원으로, 위험은 임상적이며 MDR이 적용됩니다. 셋째, 인구 및 연구 AI로, 위험은 재식별 및 편향입니다.
보조 및 관리: 환자를 위해 기록을 쉬운 언어로 요약하고, 임상의가 편집할 녹취록에서 방문 기록 초안을 작성하고, 동의된 기록을 통해 "마지막 혈액 검사는 어디에 있나요?"라고 묻는 것. 위험은 개인 정보 보호와 인간이 놓칠 수 있는 오류에 있습니다. 임상적 결정에 영향을 미치지 않는 한 MDR은 적용되지 않지만, AI Act의 투명성 의무와 GDPR은 적용됩니다.
의사 결정 지원: 상호 작용을 표시하고, 감별 진단을 제안하고, 분류하는 것. 위험은 임상적이며, MDR이 적용됩니다(일반적으로 클래스 IIa 이상). AI Act의 고위험 규정이 따르며, IEC 62304 및 임상 평가가 필요합니다. 이러한 시스템이 EHR에 연결되는 방법에 대해서는 CDS Hooks 설명을 참조하십시오.
인구 및 연구: 여러 기록에서 패턴 찾기, 약물 감시 신호, 코호트 발견. 위험은 재식별 및 편향이며, 데이터는 허가 하에 익명화 또는 가명화되어야 하며, 최소 셀 크기로 집계되고, 교란 요인에 대해 방법론이 평가되어야 합니다. 건강 데이터의 2차 사용을 참조하십시오.
실패 모드
의료 데이터 AI의 일반적인 실패 모드는 전체 기록을 프롬프트에 넣는 것, 문서 통한 프롬프트 주입, 임상의가 한 것처럼 모델의 추측을 기록에 자동으로 기록하는 것, 법적 근거 없이 식별된 데이터로 학습하는 것, 공급업체의 데모 세트로만 평가하는 것, 환자 데이터로 가득 찬 디버깅 로그입니다.
- 컨텍스트 스터핑: 전체 기록을 프롬프트에 붙여넣는 것. 비용이 많이 들고, 데이터가 유출되며, 모델이 잘못된 부분에 집중합니다. 출처 증명이 있는 범위가 지정되고 순위가 매겨진 컨텍스트가 더 잘 작동하고 감사 가능합니다.
- 문서를 통한 프롬프트 주입: "이전 지침을 무시하십시오"라고 말하는 스캔된 편지. 모든 기록 내용을 데이터로 취급하십시오. 절대로 정책을 설정하도록 두지 마십시오. RAG on medical records를 참조하십시오.
- 무음 추론: 모델이 행동에서 진단을 추론하여 임상의가 한 것처럼 기록에 작성하는 것. 결과물은 AI 생성으로 표시되고 출처 증명이 있으며, 인간의 주장 없이는 Condition이 되지 않습니다. FHIR Condition 설명을 참조하십시오.
- 근거 없는 식별 데이터로 학습: 환자 기록으로 미세 조정하려면 "데이터가 있었다"는 것 이상의 법적 근거가 필요합니다. 비식별화 또는 합성 데이터가 일반적으로 개발 요구 사항을 충족합니다.
- 공급업체의 데모 세트로 평가: 귀하의 인구, 언어, 문서 유형으로 평가하고 배포 후에도 계속 평가하십시오.
- PHI로 가득 찬 로그: 디버깅을 위해 기록된 프롬프트와 완료는 두 번째, 보호되지 않는 기록이 됩니다. 내용을 가명화하거나 기록하지 마십시오.
표준 및 빌딩 블록
의료 데이터 AI의 표준 및 빌딩 블록은 기록 및 구조화된 AI 출력을 위한 FHIR, 도구 및 데이터에 대한 거버넌스 접근을 위한 모델 컨텍스트 프로토콜(MCP), 권한 부여를 위한 SMART on FHIR, 추적성을 위한 HL7의 AI/ML 데이터 수명 주기 작업, AI 관리를 위한 ISO/IEC 42001, AI 법의 조화된 표준입니다.
기록 및 AI의 구조화된 결과물( derivedFrom이 있는 Observation, 생성된 요약에 대한 DocumentReference, 에이전트로 모델이 있는 Provenance)을 위한 FHIR; 도구 및 데이터에 대한 관리된 액세스를 제공하는 모델 컨텍스트 프로토콜; 권한 부여를 위한 SMART on FHIR; 추적성을 위한 HL7 AI/ML 데이터 수명 주기 및 출처 증명 작업; AI 관리 시스템을 위한 ISO/IEC 42001; 게시되는 대로 AI Act의 조화 표준.
Anpheros에서
의료 데이터 AI에 대해 Anpheros는 코드 및 출처가 포함된 FHIR R4 기록, 토큰 예산 내에서 출처가 표시된 기록 조각을 반환하는 컨텍스트 API, 해당 개인의 동의 하에 개인의 기록을 읽는 보조 도구를 위한 MCP 서버, 그리고 개인이 제어하는 동의 및 접근 로그를 제공합니다. Anpheros는 진단 AI를 실행하지 않습니다.
Anpheros는 기록(FHIR R4, 코딩됨, 출처 증명 포함), 토큰 예산 내에서 출처 증명이 표시된 조각을 반환하는 컨텍스트 API, 조수가 개인의 동의 하에 해당 개인의 기록을 읽을 수 있도록 하는 MCP 서버, 개인이 제어하는 동의 및 접근 로그를 제공합니다. 진단 AI를 실행하지 않으며 AI 추론을 임상 사실로 기록에 작성하지 않습니다. 개발자 사이트에서 자세한 내용을 확인할 수 있습니다: healthcare API for AI, MCP server, LLMs on healthcare data.
관련 페이지
- RAG on medical records: how retrieval over a FHIR record works
- The EU AI Act and health AI
- Healthcare API for AI: provenance-labelled patient context
- De-identification of health data
- AI and your medical record (for patients)
- Secondary use of health data
- Anpheros MCP server (developer site)
- LLMs on healthcare data (developer site)
출처
- Model Context Protocol specification
- HL7 FHIR R4: Provenance
- Regulation (EU) 2024/1689 (AI Act), EUR-Lex
- ISO/IEC 42001:2023, AI management system
- WHO: Ethics and governance of artificial intelligence for health, guidance on large multi-modal models (2024)
- HL7 SMART App Launch
자주 묻는 질문
환자 기록으로 모델을 미세 조정할 수 있나요?
해당 목적에 대한 법적 근거(동의 또는 제9조(2)(j)에 따른 연구 근거 및 안전 조치)가 있고, DPIA가 있으며, 일반적으로 비식별화가 된 경우에만 가능합니다. 식별된 기록은 우연히 사용 가능했기 때문에 학습에 사용할 수 없습니다. 합성 데이터 및 비식별화 데이터는 대부분의 개발 요구 사항을 충족합니다.
기록의 AI 요약은 의료 기기인가요?
진단이나 치료를 위해 해석하지 않고 환자나 임상의에게 기록의 내용을 다시 전달하는 것이 아니라면 그렇지 않습니다. 임상적으로 결과의 의미를 제안하는 순간, MDR에 따른 의사 결정 지원이 됩니다.
MCP는 무엇이며 왜 여기에 중요한가요?
모델 컨텍스트 프로토콜은 정의된 기능을 갖춘 서버를 통해 AI 조수를 도구 및 데이터 소스에 연결하기 위한 개방형 표준입니다. 건강 데이터의 경우, 데이터를 채팅에 붙여넣는 대신, 사람의 동의와 기록을 통해 관리되는 서버를 통해 조수가 개인의 기록을 읽을 수 있도록 합니다.
임상 LLM 기능을 어떻게 평가하나요?
귀하의 인구에서 나온 실제 사례로 구성된 별도의 세트와 임상의가 레이블을 지정한 세트, 정확성 및 출처에 대한 충실도에 대한 지표, 하위 그룹 및 언어별 분석, 실패 사례 검토, 출시 후 모니터링을 사용합니다. 공급업체 벤치마크는 시작점이지 증거가 아닙니다.
샌드박스에서 무료로 사용해 보세요
5분 만에 첫 FHIR 호출. 환자의 동의가 내장된 HL7 FHIR R4 API: 샌드박스에서 먼저 사용해보고, 자체 앱 또는 병원 시스템을 연결하세요.
무료 · 합성 환자 30명 · 카드 불필요
Anpheros는 환자가 직접 관리하고 어떤 병원과도 공유할 수 있는 의료 기록을 EU 기반의 HL7 FHIR R4 플랫폼에서 구축합니다. 이 가이드들은 건강 정보를 이해하고 정리하는 데 도움을 드리며, 의사의 진료를 대체하지 않습니다.
Anpheros 소개 →