Kurze Antwort: KI bei medizinischen Daten ist eine Pipeline mit sieben Fragen, und die meisten Fehler entstehen, wenn eine davon übersprungen wird. Woher stammen die Daten (ein FHIR-Datensatz, Dokumente, Geräte, die eigenen Worte des Patienten)? Wie greift das Modell darauf zu (eine Kontext-API, die Relevantes zusammenstellt, ein Model Context Protocol-Server, Abruf über den Datensatz)? Wer hat dem zugestimmt (die Zustimmung des Patienten, begrenzt nach Zweck und Zeit, protokolliert)? Was schützt die darin enthaltenen Personen (Anonymisierung für alles, was den Versorgungskontext verlässt, synthetische Daten für die Entwicklung, Pseudonymisierung für die Forschung)? Kann jede Ausgabe nachverfolgt werden (Herkunftsnachweis für Eingaben und Ausgaben)? Woher wissen wir, dass es funktioniert (Bewertung anhand klinischer Wahrheit, nicht nur Gefühle)? Welche Regeln gelten (DSGVO Artikel 9 und 22, die MDR, wenn die Ausgabe klinische Entscheidungen beeinflusst, der EU AI Act, HIPAA)? Diese Seite ist die Karte; jede Frage hat ihre eigene Seite.
Die Pipeline
Die Pipeline für KI auf medizinischen Daten hat sieben Stufen, jede mit einer Frage: Quelle (woher die Daten stammen), Zugriff (wie das Modell sie erreicht), Kontrolle (wer entschieden hat, dass es das darf), Datenschutz (was die darin enthaltenen Personen schützt), Nachvollziehbarkeit (ob Ausgaben nachverfolgt werden können), Bewertung (wie Erfolg gemessen wird) und Regeln (welche Gesetze gelten).
| Stufe | Frage | Was gut aussieht | Seite |
|---|---|---|---|
| Quelle | Woher stammen die Daten? | Ein FHIR-Datensatz mit Codes (LOINC, SNOMED CT, ATC), Dokumente mit extrahierter Struktur, Gerätedaten mit Herkunftsnachweis; nicht nur Screenshots und PDFs | FHIR Observation, FHIR DiagnosticReport |
| Zugriff | Wie greift das Modell darauf zu? | Eine Kontext-API oder ein MCP-Server, der einen begrenzten, mit Herkunftsnachweis versehenen Ausschnitt des Datensatzes zurückgibt; Abruf mit strukturierten Filtern, kein Dump | RAG bei medizinischen Datensätzen, Healthcare API für KI, MCP-Server |
| Kontrolle | Wer hat dem zugestimmt? | Zustimmung des Patienten pro Zweck und Dauer; serverseitig durchgesetzte Geltungsbereiche; ein Zugriffsprotokoll, das der Patient einsehen kann; Widerruf, der funktioniert | Patienten-Zustimmungsplattform, Wer hat meinen Datensatz eingesehen? |
| Datenschutz | Was schützt die Personen? | Identifizierte Daten bleiben im Versorgungskontext; anonymisierte oder synthetische Daten für Entwicklung, Analyse und Modelltraining; pseudonymisierte Daten für die Forschung unter Genehmigungen | Anonymisierung von Daten, Synthetische Patientendaten |
| Nachverfolgbarkeit | Können Ausgaben nachverfolgt werden? | Herkunftsnachweis für jede Eingabe (wer hat sie wann und woher erfasst) und für jede KI-Ausgabe (Modell, Version, verwendete Eingaben), gespeichert mit dem Datensatz | Herkunftsnachweis medizinischer Daten |
| Bewertung | Woher wissen wir, dass es funktioniert? | Testdatensätze mit klinischer Wahrheit, Übereinstimmung mit Quellen, Fehleranalyse nach Untergruppen, Überwachung in der Produktion, Wege zur menschlichen Überprüfung | Bewertung klinischer LLMs |
| Regeln | Welche Gesetze gelten? | DSGVO Artikel 9 und 22, DPIA; MDR, wenn die Ausgabe Diagnose oder Behandlung beeinflusst; das Hochrisikoregime des AI Acts für Geräte und für aufgeführte Verwendungen; HIPAA in den USA | Der EU AI Act und Gesundheits-KI, SaMD-Klassen, DSGVO Artikel 9 |
Drei Arten von KI, drei Risikoprofile
KI auf medizinischen Daten gibt es in drei Arten mit drei Risikoprofilen: unterstützende und administrative KI, wie Zusammenfassungen in einfacher Sprache und Entwürfe von Notizen, bei denen das Risiko im Datenschutz und bei nicht erkannten Fehlern liegt; Entscheidungsunterstützung, wie das Markieren von Wechselwirkungen oder die Triage, bei denen das Risiko klinisch ist und die MDR gilt; und KI für Populationen und Forschung, bei denen die Risiken Re-Identifizierung und Verzerrung sind.
Assistenz und Verwaltung: Zusammenfassung eines Datensatzes für den Patienten in einfacher Sprache, Entwurf einer Besuchsnotiz aus einer Transkription für den Kliniker zur Bearbeitung, Beantwortung von "Wo ist mein letzter Bluttest?" über einen zugestimmten Datensatz. Das Risiko liegt im Datenschutz und in Fehlern, die ein Mensch möglicherweise nicht erkennt; die MDR gilt nicht, solange keine klinische Entscheidung beeinflusst wird, aber die Transparenzpflichten des AI Acts und die DSGVO schon.
Entscheidungsunterstützung: Hervorheben einer Interaktion, Vorschlagen einer Differentialdiagnose, Triage. Das Risiko ist klinisch; die MDR gilt (normalerweise Klasse IIa oder höher), das Hochrisikoregime des AI Acts folgt, und IEC 62304 sowie klinische Bewertung sind erforderlich. Siehe CDS Hooks erklärt, wie solche Systeme in ein EHR integriert werden.
Population und Forschung: Finden von Mustern in vielen Datensätzen, Pharmakovigilanz-Signale, Kohortensuche. Das Risiko ist Re-Identifizierung und Verzerrung; die Daten müssen anonymisiert oder pseudonymisiert unter Genehmigungen werden, mit minimalen Zellgrößen aggregiert und die Methoden auf Störfaktoren bewertet werden. Siehe Sekundäre Nutzung von Gesundheitsdaten.
Fehlerarten
Die häufigsten Fehlerarten von KI auf medizinischen Daten sind das Einfügen eines gesamten Datensatzes in eine Eingabeaufforderung, Prompt-Injection durch Dokumente, stille Inferenz, die die Vermutung eines Modells in den Datensatz schreibt, als ob ein Kliniker es getan hätte, das Training mit identifizierten Daten ohne Rechtsgrundlage, die Bewertung nur anhand des Demo-Sets des Anbieters und Debugging-Protokolle voller Patientendaten.
- Kontextüberladung: Einfügen eines gesamten Datensatzes in eine Eingabeaufforderung. Kostspielig, Datenlecks und das Modell konzentriert sich auf die falschen Teile. Ein begrenzter, geordneter Kontext mit Herkunftsnachweis funktioniert besser und ist prüfbar.
- Prompt-Injection durch Dokumente: Ein gescanntes Schreiben, das besagt "ignorieren Sie frühere Anweisungen". Behandeln Sie allen Inhalt des Datensatzes als Daten; lassen Sie ihn niemals Richtlinien festlegen. Siehe RAG bei medizinischen Datensätzen.
- Stille Inferenz: Ein Modell, das eine Diagnose aus dem Verhalten ableitet und sie in den Datensatz schreibt, als ob ein Kliniker sie gestellt hätte. Ausgaben werden als KI-generiert mit Herkunftsnachweis gekennzeichnet und werden niemals zu einer Bedingung, ohne dass ein Mensch dies bestätigt. Siehe FHIR Condition erklärt.
- Training mit identifizierten Daten ohne Grundlage: Feinabstimmung auf Patientenakten erfordert eine Rechtsgrundlage über "wir hatten die Daten" hinaus; anonymisierte oder synthetische Daten dienen normalerweise.
- Bewertung auf dem Demodatensatz des Anbieters: Bewerten Sie auf Ihrer Population, Ihren Sprachen, Ihren Dokumenttypen und bewerten Sie auch nach der Bereitstellung weiter.
- Protokolle voller PHI: Eingabeaufforderungen und Vervollständigungen, die zur Fehlersuche protokolliert werden, werden zu einem zweiten, ungeschützten Datensatz. Pseudonymisieren oder protokollieren Sie den Inhalt nicht.
Standards und Bausteine
Die Standards und Bausteine für KI auf medizinischen Daten sind FHIR für den Datensatz und für strukturierte KI-Ausgaben, das Model Context Protocol für den gesteuerten Zugriff auf Werkzeuge und Daten, SMART on FHIR für die Autorisierung, die Arbeit von HL7 zum Datenlebenszyklus von KI/ML für die Nachvollziehbarkeit, ISO/IEC 42001 für das KI-Management und die harmonisierten Standards des AI Acts.
FHIR für den Datensatz und für die strukturierten Ausgaben der KI (Observation mit derivedFrom, DocumentReference für generierte Zusammenfassungen, Provenance mit dem Modell als Agent); das Model Context Protocol für die Gewährung von KI-Assistenten mit gesteuertem Zugriff auf Tools und Daten; SMART on FHIR für die Autorisierung; die HL7 AI/ML Data Lifecycle und die Provenance-Arbeit für die Nachverfolgbarkeit; ISO/IEC 42001 für ein KI-Managementsystem; die harmonisierten Standards des AI Acts, sobald sie veröffentlicht werden.
Bei Anpheros
Für KI auf medizinischen Daten bietet Anpheros den FHIR R4 Datensatz mit Codes und Herkunftsnachweisen, eine Kontext-API, die einen mit Herkunftsnachweisen gekennzeichneten Ausschnitt des Datensatzes innerhalb eines Token-Budgets zurückgibt, einen MCP-Server, über den Assistenten mit Zustimmung der Person deren eigenen Datensatz lesen können, sowie Protokolle für Zustimmung und Zugriff, die die Person kontrolliert. Anpheros führt keine diagnostische KI aus.
Anpheros stellt den Datensatz (FHIR R4, codiert, mit Herkunftsnachweis), eine Kontext-API, die einen mit Herkunftsnachweis versehenen Ausschnitt innerhalb eines Token-Budgets zurückgibt, einen MCP-Server, damit Assistenten wie Claude die eigenen Datensätze einer Person mit deren Zustimmung lesen können, sowie Zustimmungs- und Zugriffsprotokolle, die die Person kontrolliert. Es führt keine diagnostische KI aus und schreibt keine KI-Schlüsse in den Datensatz als klinische Fakten. Die Entwicklerseite enthält die Details: Healthcare API für KI, MCP-Server, LLMs auf Gesundheitsdaten.
Verwandte Seiten
- RAG bei medizinischen Datensätzen: Wie der Abruf über einen FHIR-Datensatz funktioniert
- Der EU AI Act und Gesundheits-KI
- Healthcare API für KI: Patientenkontext mit Herkunftsnachweis
- Anonymisierung von Gesundheitsdaten
- KI und Ihr medizinischer Datensatz (für Patienten)
- Sekundäre Nutzung von Gesundheitsdaten
- Anpheros MCP-Server (Entwicklerseite)
- LLMs auf Gesundheitsdaten (Entwicklerseite)
Quellen
- Model Context Protocol Spezifikation
- HL7 FHIR R4: Provenance
- Verordnung (EU) 2024/1689 (AI Act), EUR-Lex
- ISO/IEC 42001:2023, KI-Managementsystem
- WHO: Ethik und Governance von künstlicher Intelligenz für die Gesundheit, Leitlinien zu großen multimodalen Modellen (2024)
- HL7 SMART App Launch
Häufige Fragen
Kann ich ein Modell auf Patientenakten feinabstimmen?
Nur mit einer Rechtsgrundlage für diesen Zweck (Zustimmung oder eine Forschungsgrundlage gemäß Artikel 9 Absatz 2 Buchstabe j mit Schutzmaßnahmen), einer DPIA und in der Regel Anonymisierung; identifizierte Datensätze können nicht für das Training verwendet werden, nur weil sie verfügbar waren. Synthetische und anonymisierte Daten decken die meisten Entwicklungsbedürfnisse ab.
Ist eine KI-Zusammenfassung eines Datensatzes ein Medizinprodukt?
Nicht, wenn sie den Inhalt des Datensatzes für den Patienten oder Kliniker wiedergibt, ohne ihn zur Diagnose oder Behandlung zu interpretieren. In dem Moment, in dem sie vorschlägt, was die Ergebnisse klinisch bedeuten, handelt es sich um Entscheidungsunterstützung gemäß der MDR.
Was ist MCP und warum ist es hier wichtig?
Das Model Context Protocol ist ein offener Standard für die Verbindung von KI-Assistenten mit Tools und Datenquellen über Server mit definierten Fähigkeiten. Für Gesundheitsdaten ermöglicht es einem Assistenten, den Datensatz einer Person über einen gesteuerten Server mit deren Zustimmung und Protokollierung zu lesen, anstatt Daten in einen Chat einzufügen.
Wie bewerte ich eine klinische LLM-Funktion?
Mit einem zurückgehaltenen Satz realer Fälle aus Ihrer Population, die von Klinikern gekennzeichnet wurden, Metriken für Korrektheit und Übereinstimmung mit den Quellen, Analyse nach Untergruppen und Sprache, Überprüfung von Fehlerfällen und Überwachung nach der Einführung. Benchmarks von Anbietern sind ein Ausgangspunkt, keine Beweise.
Kostenlos in der Sandbox testen
Ihr erster FHIR-Aufruf in 5 Minuten. Eine HL7 FHIR R4 API mit der Zustimmung des Patienten: probieren Sie sie in der Sandbox aus und verbinden Sie dann Ihre eigene App oder Ihr Kliniksystem.
Kostenlos · 30 synthetische Patienten · keine Karte
Anpheros entwickelt eine Patientenakte, die der Patient kontrolliert und mit jeder Klinik teilen kann, auf einer HL7 FHIR R4-Plattform mit Sitz in der EU. Diese Anleitungen helfen Ihnen, Ihre Gesundheit zu verstehen und zu organisieren; sie ersetzen nicht Ihren Arzt.
Über Anpheros →