KI in der Arztpraxis: Was ist erlaubt, was ist sinnvoll

KI in der Praxis: Zwischen Hype und Alltag

Laut einer Bitkom-Erhebung (Presseinformation "KI in Praxis und Kliniken im Einsatz") setzen rund 12 % der Arztpraxen in Deutschland KI zur Diagnoseunterstützung ein. Das klingt nach wenig. Gleichzeitig nutzen deutlich mehr Praxisteams KI-Werkzeuge im Alltag - nur eben inoffiziell, über private Accounts und ohne dass es in der Praxis-IT dokumentiert wäre.

Diese Diskrepanz ist kein Zufall. Auf der einen Seite fehlen klare Regeln, welche KI-Anwendungen in der Praxis zulässig sind. Auf der anderen Seite wird der Druck größer: Ab dem 2. August 2026 gelten wesentliche Teile des EU AI Act. Die vollständigen Anforderungen für Hochrisiko-KI im Gesundheitswesen greifen ab August 2027 (36 Monate nach Inkrafttreten). Was heute noch eine Grauzone ist, wird dann reguliert.

Dieser Artikel ordnet ein, welche KI-Anwendungen in der Praxis sinnvoll sind, wo die Grenzen liegen und was sich durch den EU AI Act konkret ändert. Ohne Hype, ohne Marketing-Versprechen - dafür mit konkreten Handlungsempfehlungen.

Der EU AI Act: Was sich ändert

Die EU-Verordnung über Künstliche Intelligenz (AI Act, Verordnung EU 2024/1689) tritt stufenweise in Kraft. Ab dem 2. August 2026 gelten die allgemeinen Pflichten für die meisten KI-Systeme. Für Hochrisiko-KI im Gesundheitswesen - also Systeme, die Diagnose- oder Therapieentscheidungen unterstützen - greifen die vollständigen Anforderungen ab dem 2. August 2027 (36 Monate nach Inkrafttreten).

Was ist Hochrisiko-KI im Gesundheitswesen?

Der AI Act definiert KI-Systeme als Hochrisiko, wenn sie für Entscheidungen eingesetzt werden, die die Gesundheit von Menschen direkt betreffen. Für die Arztpraxis bedeutet das:

*Solange die KI keine medizinischen Entscheidungen trifft, sondern nur dokumentiert, was der Arzt diktiert oder entscheidet.

Was heißt das praktisch?

Für die meisten Praxen ändert sich kurzfristig weniger als befürchtet. Der EU AI Act richtet sich primär an die Hersteller von KI-Systemen, nicht an die Anwender. Praxen müssen aber sicherstellen, dass sie nur KI-Systeme einsetzen, die den Anforderungen entsprechen. Konkret bedeutet das:

• Praxen müssen wissen, welche KI-Systeme sie einsetzen
• Für Hochrisiko-KI müssen Hersteller umfangreiche Dokumentation bereitstellen
• Patienten haben ein Recht zu erfahren, wenn KI an Entscheidungen beteiligt war
• Praxen müssen eine menschliche Aufsicht über KI-Entscheidungen sicherstellen

Die ehrliche Einschränkung: Viele Details der praktischen Umsetzung sind noch offen. Die EU-Kommission arbeitet an ergänzenden Leitlinien. Wer heute schon KI-Werkzeuge nutzt, sollte dokumentieren, welche das sind und wofür sie eingesetzt werden.

Das Schatten-KI-Problem

In vielen Praxen ist KI längst im Einsatz - nur nicht offiziell. Eine MFA tippt Patientenbefunde in ChatGPT, um einen Arztbrief-Entwurf zu erstellen. Ein Arzt lässt sich von einem KI-Tool Differentialdiagnosen vorschlagen. Das geschieht über private Accounts, auf privaten Geräten, ohne Wissen der Praxisleitung.

Warum Schatten-KI ein ernstes Problem ist

Das Problem ist nicht die KI selbst - sondern der unkontrollierte Umgang mit Patientendaten. Wer Patienteninformationen in ein allgemeines KI-Tool wie ChatGPT eingibt, überträgt diese Daten an Server eines US-Unternehmens, ohne zu wissen, wie sie dort verarbeitet, gespeichert oder weiterverwendet werden. Die Konsequenzen:

• DSGVO-Verstoß: Patientendaten werden an Drittanbieter übermittelt, ohne Rechtsgrundlage und ohne Auftragsverarbeitungsvertrag
• Ärztliche Schweigepflicht: Wer Patientendaten in ein KI-Tool eingibt, gibt sie an einen Dritten weiter - das kann strafrechtlich relevant sein (Paragraph 203 StGB)
• Keine Qualitätskontrolle: KI-generierte Texte werden übernommen, ohne dass geprüft wird, ob die Inhalte korrekt sind
• Haftungsrisiko: Wenn eine KI-gestützte Entscheidung zu einem Behandlungsfehler führt, haftet der Arzt - nicht der KI-Anbieter

Was Praxen dagegen tun können

Verbote allein helfen nicht. Wenn Praxisteams KI-Tools nutzen, tun sie das oft aus nachvollziehbaren Gründen: Zeitdruck, Dokumentationsaufwand, Personalmangel. Sinnvoller ist es, offizielle Alternativen bereitzustellen:

• Klare Richtlinie erstellen, welche KI-Tools erlaubt sind und welche nicht
• Zugelassene KI-Werkzeuge bereitstellen, die DSGVO-konform arbeiten
• Schulungen anbieten, was in KI-Tools eingegeben werden darf und was nicht
• Grundregel etablieren: Keine Patientendaten in allgemeine KI-Dienste eingeben

Was heute schon sinnvoll funktioniert

Nicht jede KI-Anwendung ist Hochrisiko, und nicht jede braucht eine aufwändige Compliance-Prüfung. Es gibt Bereiche, in denen KI den Praxisalltag heute schon spürbar entlasten kann - vorausgesetzt, die Datenschutzfragen sind geklärt.

KI-gestützte Dokumentation

Der stärkste Anwendungsfall für KI in der Praxis ist derzeit die Dokumentation. Spracherkennungs-Tools können ärztliche Diktate in strukturierte Texte umwandeln. Das spart Zeit, reduziert Tippfehler und entlastet MFA. In einer typischen Hausarztpraxis verbringen Ärzte einen erheblichen Teil ihrer Arbeitszeit mit Dokumentation - Zeit, die für Patienten fehlt.

Wichtig ist dabei: Die KI dokumentiert, was der Arzt sagt. Sie trifft keine medizinischen Entscheidungen. Damit fällt sie in der Regel nicht unter die Hochrisiko-Kategorie des AI Act. Die KI ist hier ein Werkzeug wie ein Diktiergerät - nur intelligenter.

Was bei der Auswahl eines Dokumentations-Tools zählt:

• Wo werden die Sprachdaten verarbeitet? (EU-Server vs. US-Cloud)
• Gibt es einen Auftragsverarbeitungsvertrag?
• Werden die Daten nach der Verarbeitung gelöscht?
• Ist die Spracherkennung für medizinische Fachbegriffe trainiert?
• Werden die Audiodaten nur für die unmittelbare Transkription genutzt oder auch für das Training des KI-Modells?

Gerade der letzte Punkt ist entscheidend: Wenn ein Anbieter Sprachaufnahmen aus Arztpraxen zum Training seiner KI verwendet, werden Patientendaten in ein Modell eingespeist, aus dem sie nicht mehr entfernt werden können. Das ist aus Datenschutzsicht hochproblematisch.

Arztbrief-Entwürfe

KI kann aus strukturierten Daten (Diagnosen, Befunde, Therapie) einen Arztbrief-Entwurf generieren. Der Arzt prüft und korrigiert den Entwurf, bevor er versendet wird. Das spart erfahrungsgemäß erheblich Zeit bei einem Arbeitsschritt, den viele Ärzte als besonders zeitaufwändig empfinden.

Die ehrliche Einschränkung: Die Qualität solcher Entwürfe hängt stark vom eingesetzten System ab. Allgemeine KI-Sprachmodelle wie ChatGPT oder Claude produzieren häufig plausibel klingende, aber inhaltlich ungenaue medizinische Texte. Spezialisierte Medizin-KI-Systeme liefern bessere Ergebnisse, sind aber noch nicht flächendeckend verfügbar.

Terminmanagement

KI-gestütztes Terminmanagement kann Absagen vorhersagen, Lücken füllen und Patienten automatisch an Termine erinnern. Manche Systeme analysieren historische Daten, um zu erkennen, welche Terminslots besonders häufig ausfallen, und schlagen doppelte Buchungen oder kürzere Intervalle vor. Das ist ein klassischer Low-Risk-Anwendungsfall: keine medizinischen Entscheidungen, keine sensiblen Gesundheitsdaten in der KI-Verarbeitung (nur Terminzeiten und Kontaktdaten). Entsprechend gering sind die regulatorischen Hürden.

Was noch nicht funktioniert

So wichtig es ist, die Chancen zu sehen - ebenso wichtig ist Ehrlichkeit darüber, was KI in der Arztpraxis heute nicht leisten kann.

Vollautomatisierte Diagnose

Kein KI-System kann heute eigenständig Diagnosen stellen, die ärztlicher Urteilskraft gleichkommen. KI kann Hinweise geben, Muster erkennen und auf Auffälligkeiten aufmerksam machen - etwa bei der Auswertung von Hautbildern oder Röntgenaufnahmen. Aber die diagnostische Verantwortung bleibt beim Arzt. Der EU AI Act verstärkt dieses Prinzip sogar: Für KI-Systeme, die an Diagnosen beteiligt sind, wird menschliche Aufsicht ausdrücklich vorgeschrieben. Eine vollständig automatisierte Diagnose ohne ärztliche Prüfung ist damit auch regulatorisch ausgeschlossen.

KI-gesteuerte Verordnungen

Medikamente verordnen, Therapien festlegen, Überweisungen ausstellen - das sind ärztliche Entscheidungen, die nach geltendem Recht ein Arzt treffen muss. KI kann hier unterstützen (Wechselwirkungsprüfung, Dosierungsvorschläge), aber nicht ersetzen.

Vollständig automatisierte Patientenkommunikation

KI-Chatbots, die eigenständig medizinische Auskünfte an Patienten geben, sind rechtlich problematisch und medizinisch riskant. KI-Sprachmodelle neigen dazu, mit hoher Überzeugung Aussagen zu treffen, die medizinisch falsch sind - in der Fachsprache als "Halluzinationen" bekannt. Für einfache organisatorische Fragen (Öffnungszeiten, Anfahrt, benötigte Unterlagen) können KI-Chatbots sinnvoll sein. Sobald es aber um Symptome, Medikation oder Behandlungsempfehlungen geht, ist die Grenze klar erreicht. Ein Patient, der auf Basis einer falschen KI-Auskunft handelt, stellt ein Haftungsrisiko dar, das keine Praxis eingehen sollte.

KI und Videosprechstunde

Ein Bereich, in dem KI zunehmend relevant wird, ist die Verbindung mit Videosprechstunden. Technisch ist es möglich, Videogespräche automatisch zu transkribieren und daraus Dokumentation zu generieren: Gesprächszusammenfassungen, Behandlungsnotizen oder Aufgabenlisten für das Praxisteam.

Was technisch möglich ist

Einige Videosprechstunden-Anbieter integrieren bereits KI-Funktionen oder planen dies. Typische Anwendungsfälle:

• Automatische Transkription des Arzt-Patienten-Gesprächs in Echtzeit
• KI-gestützte Zusammenfassung der besprochenen Punkte nach dem Gespräch
• Vorstrukturierte Dokumentation auf Basis des Gesprächs (Anamnese, Befund, Procedere)
• Automatische Extraktion von Aufgaben und Folgemaßnahmen

Was die DSGVO dazu sagt

Hier wird es komplex. Die Transkription eines Arzt-Patienten-Gesprächs ist eine Verarbeitung besonders schützenswerter Gesundheitsdaten. Dafür gelten strenge Anforderungen:

• Der Patient muss informiert werden und einwilligen
• Die Transkription muss technisch so erfolgen, dass keine unbefugten Dritten Zugriff erhalten
• Bei einer Peer-to-Peer-Videolösung wie MeetOne werden die Video- und Audiodaten direkt zwischen den Teilnehmern übertragen - eine serverseitige Transkription ist in dieser Architektur nicht möglich, was aus Datenschutzsicht ein Vorteil ist, aber KI-Transkription nur auf dem Endgerät erlaubt

Für Praxen, die KI-gestützte Dokumentation mit Videosprechstunden verbinden wollen, bedeutet das: Die Transkription müsste lokal auf dem Gerät des Arztes erfolgen, nicht in einer externen Cloud.

Praktische Empfehlungen für Praxen

Wer sich dem Thema KI nähern will, ohne in rechtliche oder technische Fallen zu tappen, kann sich an diesen Schritten orientieren:

Bestandsaufnahme machen: Welche KI-Tools werden bereits genutzt, offiziell oder inoffiziell? Oft lohnt sich ein offenes Gespräch im Team. Häufig zeigt sich, dass im Praxisteam längst KI-Werkzeuge im Einsatz sind - nur eben nicht dokumentiert. Ein solches Gespräch ohne Schuldzuweisung schafft die Grundlage für einen verantwortungsvollen Umgang.

Mit Dokumentation anfangen: KI-gestützte Dokumentation (Spracherkennung, Arztbrief-Entwürfe) bietet den besten Einstieg. Der Nutzen ist spürbar, das Risiko überschaubar, die regulatorischen Anforderungen geringer als bei diagnostischer KI.

Schatten-KI adressieren: Nicht verbieten, sondern Alternativen bieten. Eine klare Richtlinie, welche Tools erlaubt sind und welche Daten eingegeben werden dürfen, schützt die Praxis besser als ein pauschales Verbot.

EU AI Act im Blick behalten: Ab August 2026 gelten allgemeine Pflichten, ab August 2027 die vollständigen Hochrisiko-Anforderungen. Praxen müssen sich nicht selbst um die Konformität ihrer KI-Systeme kümmern - das ist primär Sache der Hersteller. Aber sie sollten bei der Auswahl neuer Werkzeuge darauf achten, dass der Anbieter die EU-AI-Act-Anforderungen erfüllt oder glaubhaft auf dem Weg dorthin ist.

Dokumentation führen: Welche KI-Systeme werden eingesetzt, wofür, von wem? Diese Dokumentation wird spätestens ab August 2026 relevant, ist aber auch jetzt schon aus DSGVO-Sicht sinnvoll.

Fazit

KI in der Arztpraxis ist kein Zukunftsthema mehr, sondern Gegenwart - auch wenn ein Großteil der Nutzung noch inoffiziell und ungeregelt stattfindet. Der EU AI Act bringt ab August 2026/2027 stufenweise einen verbindlichen Rahmen, der vor allem die Hersteller in die Pflicht nimmt, aber auch von Praxen Transparenz über eingesetzte Systeme verlangt. Die gute Nachricht: Für die Bereiche, in denen KI heute den größten praktischen Nutzen bringt - Dokumentation, Arztbriefe, Terminmanagement - sind die regulatorischen Hürden überschaubar. Wer dort anfängt und gleichzeitig das Thema Schatten-KI im Team offen adressiert, ist für die kommenden Anforderungen gut aufgestellt.

Dieser Artikel dient der allgemeinen Information und ersetzt keine individuelle rechtliche oder technische Beratung. Die Darstellung des EU AI Act basiert auf dem Verordnungstext und zum Zeitpunkt der Veröffentlichung verfügbaren Leitlinien.