Modul 2 · KI im Gesundheitswesen

Was sagt die KI –
und hat sie recht?

Drei KI-Befunde aus dem klinischen Alltag. Beurteilen Sie jeden Befund auf Anhieb – bevor Sie mehr Kontext erhalten.

3 Befunde ca. 5 Minuten Für Führungspersonen im Gesundheitswesen
1
Einführung
2
Befunde beurteilen
3
Auflösung

Vertrauen Sie Ihrem ersten Eindruck.

Sie sehen drei KI-Befunde, wie sie in der Praxis auftreten könnten. Kein Nachschlagen, keine Rücksprache – nur Ihre unmittelbare Einschätzung. Jeder Befund gehört in eine der drei Kategorien:

Richtig
Klinisch korrekt und Empfehlung angemessen
Plausibel, aber falsch
Klingt überzeugend – ist aber inhaltlich falsch
Offensichtlich falsch
Fehler für Fachpersonen klar erkennbar
1
Setting
Notaufnahme · Kardiologie
Patient 58 J., männlich. Stechende Brustschmerzen seit 40 Min., Ausstrahlung in linken Arm. Diaphorese. RR 148/92 mmHg.
EKG ST-Hebungen in V2–V5. Troponin ausstehend.
KI-Analyse · CardioAI
STEMI-Wahrscheinlichkeit: 96 %

Empfehlung: Sofortige Katheter-Labor-Aktivierung. Aspirin 300 mg loading dose. Heparin i.v. Kardiologie sofort informieren. Ziel: Door-to-Balloon < 90 Min.

ST-Hebung V2–V5 Symptomdauer 40' Klassische Klinik

Ihre Einschätzung:

2
Setting
Hausarztpraxis · Allgemeinmedizin
Patientin 44 J., weiblich. Seit 4 Monaten: Erschöpfung, 6 kg Gewichtszunahme, Kälteempfindlichkeit, Konzentrationsprobleme, gedrückte Stimmung.
Labor Blutbild unauffällig. KI-System hat Zugang zu Symptomeingabe via Anamnese-App. Kein TSH angeordnet.
KI-Analyse · DiagnosAI
Depression-Wahrscheinlichkeit: 84 %

Empfehlung: PHQ-9-Screening durchführen. Psychiatrisches Konsil erwägen. Psychotherapeutische Abklärung initiieren. SSRI nach Bestätigung der Diagnose.

Erschöpfung Gewichtszunahme Stimmungseintrübung Frau, 44 J.

Ihre Einschätzung:

3
Setting
Pädiatrie · Notaufnahme
Patient 9 J., männlich. Fieber 39,4 °C seit 2 Tagen, Halsschmerzen, Schluckbeschwerden. Tonsillen gerötet mit weisslichen Belägen.
Allergie Penicillin-Allergie dokumentiert (Urtikaria nach Amoxicillin mit 3 Jahren). Rapid-Strep-Test nicht verfügbar.
KI-Analyse · PediatriCS
Streptokokken-Tonsillitis: 79 %

Empfehlung: Antibiotikatherapie mit Amoxicillin 50 mg/kg/d für 10 Tage. Antipyrese mit Paracetamol. Abstrich zur Bestätigung. Wiedervorstellung bei Verschlechterung.

Fieber 39,4 °C Tonsillenbeläge Centor-Score 3 Alter 9 J.

Ihre Einschätzung:

Auflösung

Das Muster dieser drei Befunde

Befund 1 ist richtig – die meisten erkennen das. Befund 3 ist falsch – auch das ist erkennbar. Befund 2 ist der gefährlichste: Er klingt überzeugend, ist klinisch plausibel, und täuscht die Mehrheit. Genau das ist das zentrale Problem mit leistungsstarker KI.

Richtig

Befund 1 – STEMI-Diagnose: korrekt und leitliniengerecht

STEMI-Wahrscheinlichkeit: 96 %

Empfehlung: Katheter-Labor-Aktivierung, Aspirin, Heparin, Door-to-Balloon < 90 Min.

Warum richtig?
✓ ST-Hebungen V2–V5 + Brustschmerz + Ausstrahlung + Diaphorese = klassisches STEMI-Bild
✓ Empfehlung entspricht exakt den ESC-Leitlinien 2023
✓ Zeitvorgabe Door-to-Balloon < 90 Min. ist korrekt und klinisch kritisch
Lernpunkt

Bei klarer Datenlage und klassischer Präsentation kann KI sehr präzise sein – und beschleunigt die Entscheidung sinnvoll. Hier ist Vertrauen gerechtfertigt. KI und Erfahrung zeigen in dieselbe Richtung.

Plausibel – aber falsch

Befund 2 – Die Falle: Hypothyreose als Depression verkannt

Depression-Wahrscheinlichkeit: 84 %

Empfehlung: PHQ-9, Psychiatrisches Konsil, SSRI.

Warum falsch – und warum so gefährlich?
▲ Die Symptome – Erschöpfung, Gewichtszunahme, Kälteempfindlichkeit – sind das Lehrbuchbild einer Hypothyreose (TSH erhöht)
▲ Die KI hatte keinen TSH-Wert, weil kein Labor angeordnet wurde – sie klassifizierte allein auf Basis der Symptomeingabe
▲ Das Trainingsproblem: Depression ist bei Frauen dieser Altersgruppe häufiger dokumentiert als Hypothyreose – der Bias sitzt in den Daten, nicht im Algorithmus
▲ Ein SSRI hätte die Patientin nicht akut gefährdet – die Fehldiagnose wäre monatelang unbemerkt geblieben
Was hätte geholfen?

Prüffrage: «Gibt es einen unabhängigen zweiten Hinweis?» – Ein TSH-Wert hätte die Diagnose in Minuten widerlegt. Die KI kann kein Labor anordnen. Diesen Schritt hätte der Mensch tun müssen.

Offensichtlich falsch

Befund 3 – Amoxicillin trotz dokumentierter Penicillin-Allergie

Streptokokken-Tonsillitis: 79 %

Empfehlung: Amoxicillin 50 mg/kg/d für 10 Tage.

Warum falsch?
✕ Amoxicillin ist ein Aminopenicillin – bei bekannter Penicillin-Allergie kontraindiziert (Kreuzreaktionsrisiko bis 10 %)
✕ Die Allergie war dokumentiert – das KI-System hat sie nicht in die Empfehlung integriert, weil sie in einem anderen Datensystem lag
✕ Korrekte Alternative: Azithromycin oder Cephalosporin (je nach Allergietyp und Kreuzreaktionsprofil)
Lernpunkt

Das System hat nicht «gelogen» – es hatte schlicht keinen Zugriff auf die Allergie-Information aus dem anderen System. Schnittstellenprobleme zwischen Systemen sind ein reales, häufig unterschätztes Risiko im klinischen Alltag.

Befund 2 hat wahrscheinlich die meisten getäuscht – und das war keine Frage der Kompetenz. Es ist eine Frage der Datenlage, der Systemgrenzen, und des Moments, in dem wir aufgehört haben zu fragen. Genau darum geht es in diesem Kurs.

Kurs anfragen