Medizinische KI hat eine umfangreiche Menge veröffentlichter Ergebnisse hervorgebracht, die bei bestimmten Aufgaben eine mit Klinikern vergleichbare oder bessere Leistung zeigen. Viele dieser Ergebnisse sind real.
Die Bilanz im Praxiseinsatz ist durchwachsener, und die Gründe dafür sind konsistent und im Voraus erkennbar. Eine Belegschaft, die sie versteht, erkennt Probleme, bevor ein System einen Patienten erreicht.
Die Lücke zwischen Paper und Station
Eine berichtete Genauigkeitszahl beschreibt die Leistung auf einem bestimmten Datensatz, auf bestimmte Weise zusammengestellt, bewertet gegen einen bestimmten Referenzstandard.
Klinische Leistung ist das, was passiert, wenn das System auf eine unselektierte Population trifft, andere Geräte, andere Praxis und Kliniker, die auf seine Ausgabe auf Weisen reagieren, die die Evaluation nicht abgebildet hat.
Das Modell lag im Paper nicht falsch. Es hat eine Frage über einen Datensatz beantwortet, und das Krankenhaus stellt eine andere Frage.
Der Nachfragedruck ist real: Der Future of Jobs Report 2025 des World Economic Forum ergab, dass 92 Prozent der Arbeitgeber in medizinischen und Gesundheitsdienstleistungen sagen, KI- und Big-Data-Kompetenzen würden für ihre Belegschaft wichtiger. Das Risiko: Eingestellt wird meist die Kompetenz zum Modellbau, nicht zur Modellevaluation.
Was die Fachrichtung abdeckt
Der Umfang: KI in Radiologie und Pathologie, klinische Entscheidungsunterstützung, Bildanalyse und Validierung.
Das Wort Validierung leistet in dieser Liste die meiste Arbeit, und es ist der Teil, der am häufigsten zu knapp ausgestattet ist.
Vier Kompetenzen.
Medizinische Bildgebung und ihre Physik. Was ein Bild tatsächlich ist, wie Aufnahmeparameter es beeinflussen, und warum sich Bilder verschiedener Geräte auf Weisen unterscheiden, die für einen menschlichen Betrachter unsichtbar und für ein Modell hochgradig sichtbar sind.
Modellentwicklung für klinische Daten. Einschließlich der spezifischen Probleme: Label-Qualität, Klassenungleichgewicht, Data Leakage auf Arten, die für klinische Datensätze typisch sind.
Klinische Validierung. Studiendesign zur Bewertung eines klinischen KI-Systems – das ist Epidemiologie, nicht Machine Learning.
Einsatz und Monitoring. Integration in den Workflow, laufende Leistungsüberwachung und Wissen darüber, was zu tun ist, wenn die Leistung driftet.
Distribution Shift, einfach erklärt
Das zentrale technische Problem, ohne Fachjargon erklärt.
Ein Modell lernt aus den Daten, mit denen es trainiert wurde. Diese Daten stammten aus bestimmten Krankenhäusern, mit bestimmten Geräten, bestimmten Populationen und bestimmter klinischer Praxis.
Im Einsatz anderswo unterscheiden sich mehrere Dinge gleichzeitig.
Die Population unterscheidet sich. Andere Altersverteilung, andere Krankheitsprävalenz, andere Begleiterkrankungen. Allein die Prävalenz verändert den Vorhersagewert jeder Ausgabe – der Basisraten-Punkt aus der Fachrichtung Epidemiologie gilt hier mit voller Wucht.
Die Geräte unterscheiden sich. Unterschiedliche Scanner, Protokolle und Einstellungen erzeugen systematisch unterschiedliche Bilder. Es ist bekannt, dass Modelle Geräteeigenschaften statt Pathologie aufgreifen, und ein solches Modell kann in der Validierung exzellent wirken und auf einer anderen Maschine komplett versagen.
Die Praxis unterscheidet sich. Wer getestet wird, wann, und wie der Referenzstandard festgelegt wurde, variiert alles zwischen Einrichtungen.
Zeit vergeht. Die Praxis ändert sich, Geräte werden ersetzt, Populationen verschieben sich. Ein Modell, das beim Einsatz genau war, kann sich verschlechtern, ohne dass jemand etwas verändert hat – deshalb ist Monitoring eine dauerhafte Personalanforderung, keine Projektaufgabe.
Die Konsequenz für die Personalplanung: lokale Validierung vor dem Einsatz und laufendes Monitoring danach sind beide notwendig, und beide brauchen Menschen. Organisationen, die ein System kaufen, ohne für beides zu budgetieren, haben eine unüberwachte klinische Intervention gekauft.
Wo das in der Domäne steht
Medizinische KI, Bildgebung und Diagnostik ist die achte von zehn Fachrichtungen in der Domäne Medizin und Healthtech von Astra Trainer. Sie hängt ab von öffentlicher Gesundheit und Epidemiologie für die Validierungsmethodik, von Gesundheitsinformatik für die Datenebene, von Pathophysiologie für die klinische Plausibilität und von Medizinprodukten für den regulatorischen Rahmen, da klinische KI häufig als Medizinprodukt reguliert wird.
Für Partner, die von der technischen Seite besetzen, deckt die Domäne KI, Daten und Computing künstliche Intelligenz und Machine Learning, Data Science und Analytics sowie Cybersicherheit ab. Die Kombination, die tatsächlich funktioniert, ist technische Kompetenz plus klinische Validierungskompetenz – und Organisationen haben meist nur die erste. Hier findest du die zehn Fachrichtungen.
Retrospektiv ist nicht prospektiv
Eine Unterscheidung, die entscheidet, ob Evidenz überhaupt etwas bedeutet, und sie wird in Vertriebsaussagen routinemäßig verwischt.
Retrospektive Evaluation lässt ein Modell auf historischen Daten laufen, deren Ergebnisse schon bekannt sind. Sie ist billig, schnell und notwendig – und sie überschätzt systematisch die Leistung in der realen Welt. Der Datensatz wurde kuratiert, Fälle schlechter Qualität wurden oft ausgeschlossen, und das Modell nutzt womöglich Muster, die nur existieren, weil die Daten so zusammengestellt wurden.
Prospektive Evaluation lässt das Modell an Patienten laufen, wie sie sich vorstellen, wobei die Leistung gegen das gemessen wird, was tatsächlich danach passiert ist. Langsamer, teurer und weit aussagekräftiger.
Evaluation der klinischen Wirkung stellt die Frage, die zählt: Verändert der Einsatz dieses Systems, was mit Patienten passiert. Ein Modell kann genau sein und trotzdem nichts verändern – weil Kliniker es ohnehin schon wussten, weil der Befund die Behandlung nicht ändert, oder weil der Workflow nicht darauf reagiert.
Jede Stufe ist eine höhere Hürde, und jede ist deutlich seltener als die davor. Ein Team, das nicht benennen kann, auf welcher dieser Stufen eine Evidenzaussage beruht, kann keine Beschaffungsentscheidung bewerten.
Was eine Zulassung bedeutet – und was nicht
Eine regulatorische Zulassung oder Genehmigung bedeutet, dass ein Gerät die Anforderungen eines festgelegten Zulassungswegs in einem bestimmten Rechtsraum erfüllt hat, auf Grundlage der eingereichten Evidenz, für einen angegebenen Verwendungszweck.
Es bedeutet nicht automatisch, dass das System die Patientenergebnisse verbessert, dass es in deiner Population wie beschrieben funktioniert, oder dass es gegen die aktuelle Praxis verglichen wurde.
Das ist keine Kritik an den Zulassungsbehörden. Zulassungswege sind dazu da, festgelegte Standards sicherzustellen, und unterschiedliche Wege verlangen unterschiedliche Evidenzniveaus. Es ist eine Warnung davor, wie eine Zulassung in Verkaufsgesprächen genutzt wird, wo sie häufig so dargestellt wird, als hätte sie die klinische Frage geklärt.
Eine Organisation braucht jemanden, der lesen kann, was eine Zulassung tatsächlich abdeckt, einschließlich des angegebenen Verwendungszwecks, und das mit der vorgeschlagenen Nutzung vergleicht. Das ist eine spezifische und knappe Kompetenz.
Der Mensch in der Schleife – keine Lösung für sich allein
Die übliche Beruhigung lautet: Ein Kliniker prüft die Ausgabe, also werden Fehler erkannt.
Das ist schwächer, als es klingt – aus Gründen, die in der Human-Factors-Forschung gut dokumentiert sind.
Automation Bias. Menschen neigen dazu, sich selbstsicheren automatisierten Empfehlungen zu fügen – auch wenn diese falsch sind, und auch wenn die Person ohne Hilfe richtig entschieden hätte.
Dequalifizierung. Nicht genutzte Fähigkeit verkümmert. Ein Prüfer, der lange keine Fälle mehr unabhängig beurteilt hat, ist eine schwächere Kontrolle, als er es war.
Menge schlägt Kontrolle. Wo der Wert eines Systems darin liegt, mehr zu verarbeiten, als ein Mensch könnte, ist eine echte unabhängige Prüfung jeder Ausgabe systembedingt unmöglich.
Verantwortung wird unklar. Wenn das System meist recht hat und der Kliniker rechenschaftspflichtig ist, trägt der Kliniker das Risiko für ein System, das er nicht prüfen kann. Das ist ein Governance-Problem, das vor dem Einsatz geklärt werden muss, nicht nach einem Vorfall.
Menschliche Aufsicht ist notwendig und nicht ausreichend, und sie tatsächlich funktionierend zu gestalten erfordert Human-Factors-Kompetenz – eine Verbindung zum Usability-Punkt in der Fachrichtung Medizinprodukte.
Die Rollen im Überblick
Wissenschaftler für klinische KI-Validierung. Die knappste und wichtigste Rolle hier – und eine, die als Berufsbezeichnung kaum existiert.
Wissenschaftler und Physiker für medizinische Bildgebung. Verstehen die Aufnahme und was Bilder unterschiedlich macht.
Klinische Data Scientists mit gesundheitsspezifischer methodischer Grundlage.
Clinical Safety Officer für KI-Systeme.
Regulatory-Spezialisten für Software und KI-Geräte.
Spezialisten für Implementierung und Workflow, denn die Integration entscheidet, ob sich überhaupt etwas ändert.
Monitoring- und Leistungsanalysten nach dem Einsatz – eine dauerhafte Funktion.
Wen man dafür weiterbilden kann
Radiologietechnologen und Bildgebungstechniker. Unterschätzt und gut positioniert. Sie verstehen Aufnahme, Artefakte und die praktische Realität der Bildgebung, und die Validierungsmethodik dazuzugeben erzeugt genau die fehlende Kompetenz.
Medizinphysiker. Bringen quantitative Expertise und Bildgebungswissen bereits mit.
Data Scientists im Gesundheitswesen. Brauchen epidemiologische Methodik und klinische Grundlage, nicht mehr Modellierungstechnik.
Kliniker mit analytischem Interesse. Bringen das Plausibilitätsurteil mit, das Probleme erkennt, die keine Kennzahl zeigt.
Klinische Wissenschaftler in Pathologie und Labormedizin, da die digitale Pathologie wächst.
Qualitäts- und Regulatory-Personal, das sich in Richtung Software und KI-Geräte erweitert.
Regulierung und Verantwortlichkeit. Klinische KI-Systeme werden häufig als Medizinprodukte reguliert, mit den in der Fachrichtung Medizinprodukte beschriebenen Pflichten, und in mehreren Rechtsräumen erfordert ihr klinischer Einsatz eine formale klinische Sicherheitsbewertung. Die klinische Verantwortung für Entscheidungen bleibt bei zugelassenen Fachkräften. Schulungen bauen Validierungs- und Evaluationskompetenz auf. Sie verleihen weder eine regulatorische Zulassung noch eine Qualifikation für klinische Sicherheit noch die Befugnis, ein System einzusetzen, und keine Modellausgabe sollte als klinischer Rat behandelt werden.
Was du mitnehmen solltest
Berichtete Genauigkeit und klinische Leistung sind unterschiedliche Größen, und die Lücke ist vorhersehbar, nicht mysteriös.
Distribution Shift über Population, Geräte, Praxis und Zeit ist das zentrale Problem, das lokale Validierung und laufendes Monitoring zu dauerhaften Personalanforderungen macht.
Retrospektive, prospektive und Evidenz zur klinischen Wirkung sind drei unterschiedliche Hürden, und die meisten Aussagen stützen sich auf die erste.
Eine Zulassung bedeutet, dass ein festgelegter Weg für einen angegebenen Verwendungszweck erfüllt wurde. Sie ist keine Evidenz für Patientennutzen – wird aber häufig so dargestellt.
Und menschliche Aufsicht ist notwendig und nicht ausreichend, weil Automation Bias und Menge sie beide systembedingt untergraben.
Warum liefern medizinische KI-Systeme nach dem Einsatz schlechtere Leistung?
Distribution Shift. Ein Modell lernt die Population, Geräte, Praxismuster und Referenzstandards, mit denen es trainiert wurde, und alle vier unterscheiden sich anderswo. Allein die Prävalenz verändert den Vorhersagewert jeder Ausgabe.
Bedeutet eine regulatorische Zulassung, dass ein System funktioniert?
Sie bedeutet, dass ein festgelegter Weg auf Grundlage der eingereichten Evidenz für einen angegebenen Verwendungszweck erfüllt wurde. Das ist nicht gleichbedeutend mit Evidenz für bessere Patientenergebnisse in deiner Population.
Reicht menschliche Prüfung als Absicherung?
Nein. Automation Bias bringt Menschen dazu, sich selbstsicheren Systemen zu fügen, ungenutzte Fähigkeiten verkümmern, und wo der Wert des Systems in der Menge liegt, ist eine echte unabhängige Prüfung jeder Ausgabe systembedingt unmöglich.
Wer sollte dafür geschult werden?
Radiologietechnologen und Bildgebungstechniker sind unterschätzt und gut positioniert, da sie Aufnahme und Artefakte verstehen. Data Scientists im Gesundheitswesen brauchen epidemiologische Methodik statt mehr Modellierungstechnik.
Wo ist das in der Domäne eingeordnet?
Die achte von zehn Fachrichtungen in der Domäne Medizin und Healthtech von Astra Trainer, abhängig von Epidemiologie für die Validierungsmethode und von Medizinprodukten für den regulatorischen Rahmen. Hier findest du sie.