|  Inhalt  |   Berufsgruppen  |

AI Act Risikoklassen Prompting - Arzt

Es folgen praxistaugliche Beispiele für einen Arzt in jeder Risikoklasse des EU-AI-Acts – jeweils mit einem passenden Prompt für den Einsatz im Praxis-Alltag und einer konkreten Beispielanfrage an ChatGPT. (Hinweis: „geregeltes Risiko“ entspricht in der Regel Hochrisiko/„regulated“.)

Kein Risiko (minimal)

Typische Nutzung: Reine Produktivitäts- und Textaufgaben ohne Einfluss auf medizinische Entscheidungen.

Praxis-Prompt (für den Alltag): „Formuliere eine freundliche, DSGVO-konforme SMS zur Terminerinnerung (max. 320 Zeichen). Ton: sachlich-freundlich. Enthält Datum/Uhrzeit, Praxisnummer, Opt-out-Hinweis. Keine Gesundheitsdaten.“

Beispielanfrage an ChatGPT: „Erstelle eine SMS-Erinnerung für den Termin am 12.11.2025 um 14:30 Uhr bei Praxis Dr. Meyer, Rückfragen: 030 123456, Opt-out: ‚Antwort mit STOP‘.“

Geringes Risiko (limited – Transparenzpflichten)

Typische Nutzung: KI-gestützter Verwaltungs-Chat/FAQ, der klar sagt, dass er eine KI ist.

Praxis-Prompt (für den Alltag): „Du bist ein Praxis-Assistent für organisatorische Fragen. Gib zu Beginn an, dass du eine KI bist und keine medizinischen Auskünfte erteilst. Beantworte nur Öffnungszeiten, Anfahrt, Terminverschiebung, Unterlagen. Verweise bei medizinischen Fragen an das Praxisteam.“

Beispielanfrage an ChatGPT: „Ich (KI-Assistent) soll eine Antwort auf ‚Brauche ich für die Blutabnahme nüchtern zu sein?‘ verfassen: Bitte liefere einen höflichen Text, der erklärt, dass medizinische Auskünfte nicht gegeben werden und der Patient telefonisch mit der MFA Rücksprache hält.“

Geregeltes/Hochrisiko (regulated/high-risk)

Typische Nutzung: Klinische Entscheidungsunterstützung, Triage, Befundklassifizierung – nur mit zugelassenem System, menschlicher Aufsicht, Protokollierung und klaren Grenzen. ChatGPT kann hier nur beim Rahmen helfen (Checklisten, Struktur), nicht bei der finalen Diagnose.

Praxis-Prompt (für den Alltag): „Erstelle eine strukturierte Anamnese-/Befund-Checkliste (SOAP-Format) für Verdacht auf tiefe Beinvenenthrombose bei Erwachsenen. Enthalten: Leitsymptome, relevante Differenzialdiagnosen (nur als Liste ohne Bewertung), Alarmzeichen, Dokumentationsfelder, ‚Red-Flag‘-Hinweise an den Arzt. Kein Diagnosevorschlag, keine Therapieempfehlung.“

Beispielanfrage an ChatGPT: „Gib mir eine kompakte, druckbare SOAP-Checkliste (max. 1 Seite) für DVT-Abklärung in der Hausarztpraxis inklusive Platzhaltern zur Dokumentation, ohne medizinische Entscheidungen zu treffen.“

Verbotenes Risiko (unacceptable – nicht zulässig)

Typische Nutzung (verboten): z. B. Emotionserkennung bei Patienten für Zugangssteuerung/Behandlungsentscheidungen, Social-Scoring, biometrische Kategorisierung sensibler Merkmale. → Nicht einsetzen. Stattdessen eine zulässige Alternative wählen.

(Verbotenes) Beispiel – nur zur Einordnung, nicht verwenden: „Analysiere das Gesicht des Patienten per Webcam und entscheide, ob er wahrscheinlich Schmerzen hat und priorisiere die Behandlung entsprechend.“

Zulässige Alternative als Praxis-Prompt: „Erstelle einen standardisierten Schmerz-Selbstauskunftsbogen (NRS 0–10) mit ‚Red-Flag‘-Fragen (z. B. Atemnot, Lähmungserscheinungen) und klaren Anweisungen: Bei Red Flags sofort ärztliche Vorstellung. Kein Einsatz von Gesichtserkennung.“

Beispielanfrage an ChatGPT (für die Alternative): „Baue mir einen einseitigen Patientenfragebogen zur Schmerzeinschätzung (NRS), inkl. Red-Flags und kurzen Hinweisen, wie die MFA den Bogen vorlegt und ablegt.“

Mini-Merkzettel


|  Inhalt  |   Berufsgruppen  |