Dr. KI ist immer zu sprechen

In Praxen und Kliniken halten Systeme mit Künstlicher Intelligenz Einzug. Sie unterstützen Ärzt:innen auf vielfältige Weise. Ihre Stärken zeigen sie beim Finden von dem, was ist. Ethische Fragen ergeben sich, wenn die KI bei Prognosen mitentscheidet. Ein Essay von André Boße

Künstliche Intelligenz in der Arztpraxis, in der Klinik oder im Krankenhaus? Ist längst noch nicht Standard. Aber auch kein exotischer Sonderfall mehr. So lässt sich das Ergebnis einer aktuellen Befragung zusammenfassen, vorgenommen von der Bitkom. Der Verband der deutschen Digitalbrache wollte im Rahmen der Untersuchung wissen, wie die Ärzt:innen in Deutschland beim Thema KI aufgestellt sind. Ende Mai 2025 hat die Bitkom die Ergebnisse der Studie veröffentlicht. Die zwei zentralen Erkenntnisse: In fast jeder siebten bundesdeutschen Praxis kommen Systeme mit Künstlicher Intelligenz zum Einsatz, die Quote liegt bei 15 Prozent. Genutzt wird die KI dort einerseits in der Verwaltung und Organisation der Praxis, häufiger jedoch, um die Ärzt:innen bei der Diagnose zu unterstützen.

In den Kliniken liegt der Anteil laut Studie noch höher: „Bei 18 Prozent der Ärztinnen und Ärzte in Kliniken ist KI im Einsatz, beispielsweise zur Auswertung bildgebender Verfahren“, heißt es in der Studienzusammenfassung. Dass es beim Thema KI voran geht, zeigt der Vergleich mit der Untersuchung aus dem Jahr 2022: „Vor drei Jahren waren es noch neun Prozent.“ Durchgeführt wurde die Studie als Umfrage unter 600 Mediziner:innen in Deutschland vom Digitalverband Bitkom gemeinsam mit dem Ärzteverband Hartmannbund.

KI ist „riesige Chance für Medizin“

Einer der obersten Vertreter der deutschen Ärzteschaft ist ein großer Verfechter für die Integration von KI in der ärztlichen Arbeit. Klaus Reinhardt, Bundesvorsitzender des Hartmannbunds, wird in der Zusammenfassung der Studie so zitiert: „Künstliche Intelligenz bietet enorme Chancen, die Versorgungsqualität zu verbessern und den Arbeitsalltag in Praxis und Klinik zu entlasten.“ Was Reinhardt besonders freue, ist der generelle Zuspruch der Ärzteschaft zu KI-Systemen: Laut der Umfrage bewerten 78 Prozent aller befragten Ärzt:innen die KI als „riesige Chance für die Medizin“. Mehr als zwei Drittel fordern, der Einsatz von KI-Systemen in der Medizin sollte in Deutschland „besonders gefördert“ werden. Besonders interessant: 60 Prozent sind laut Studie der Ansicht, ein KI-System werde „in bestimmten Fällen bessere Diagnosen stellen“ als ein Mensch. „Die Ärzteschaft ist bereit für diese Transformation – sofern sie ethisch reflektiert, ärztlich verantwortet und technisch zuverlässig gestaltet ist“, wird Klaus Reinhardt zitiert.

ePA: Skepsis und Vorfreude

Im Rahmen der Bitkom-Befragung nahmen die befragten Ärzt:innen auch Stellung zur elektronischen Patientenakte, bei der ab 2025 das Opt-out-Modell gilt, was heißt: Jede gesetzlich versicherte Person erhält nun automatisch eine ePA – es sei denn, sie widerspricht. Seit Ende April 2025 läuft die bundesweite Einführung. Mit Blick auf die technische Umsetzung sind viele Ärzt:innen weiter unsicher, ein Beleg für deutsche Skepsis bei digitalen Neuerungen: „86 Prozent glauben nicht, dass die Arbeit mit der ePA technisch reibungslos funktioniert“, heißt es in der Studie. „66 Prozent fürchten Datenmissbrauch und 62 Prozent einen hohen technischen Aufwand. 61 Prozent würden eine Überforderung der Ärzteschaft und des Praxispersonals fürchten. „Es geben aber auch 41 Prozent an, sich auf die Arbeit mit der ePA zu freuen“, heißt es in der Studie.

Die Studie zeigt, dass vor allem in den Kliniken modernste digitale Technologien und Lösungen auch abseits von KI-Systemen einen hohen Stellenwert besitzen. In mehr als einem Viertel der Häuser unterstützen Roboter die Ärzteschaft bei Operationen und Eingriffen. Systeme mit Virtual Reality sind bei elf Prozent der Kliniken Teil des Arbeitsalltags; eingesetzt werden diese für Operationen oder auch zu Trainingszwecken. Viele der Kliniken, die VR-Methoden noch nicht nutzen, können sich das für die Zukunft vorstellen: 54 Prozent haben noch keine Erfahrungen damit gemacht, zeigen sich aber bereit dafür. Für Bitkom-Präsident Dr. Ralf Wintergerst ist dieser positive Blick auf Innovationen notwendig, damit die Medizin mit den vielen Veränderungen mithalten kann, die auf Ärzt:innen zukommen: „Digitale Technologien sind der wohl stärkste Hebel, um dem demografischen Wandel und dem zunehmenden Fachkräftemangel im Gesundheitswesen wirksam zu begegnen“, wird er in der Zusammenfassung der Studie zitiert. Gleichzeitig ermögliche die KI eine gezieltere und frühzeitigere Prävention. Wintergerst: „Digitalisierung kann helfen, Krankheiten zu vermeiden, bevor sie entstehen – und das Gesundheitssystem nachhaltig entlasten.“

KI mit Kristallkugel

An dieser Stelle wird es interessant, weil die Künstliche Intelligenz eben nicht nur eingesetzt wird, um bereits diagnostizierbare Krankheiten zu entdecken. Sondern auch, um zu verhindern, dass Krankheiten überhaupt entstehen. Salopp gesagt: Dr. KI hat eine Kristallkugel dabei. Es ist daher höchste Zeit, sich brennenden Fragen zu stellen, die bei der Anwendung dieser KI-Systeme auf die Ärzt:innen zukommen werden. Wobei diesen Fragen in erster Linie nicht von technischen Aspekten geprägt werden. Sondern von Überlegungen zur Ethik, zur Haftung und zum Selbstverständnis einer Ärztin und eines Arztes.

Konkret geht es um so genannte Clinical Decision Support Systems, kurz: CDSS. Gemeint sind hier IT-gestützte Systeme, die Ärzt:innen dabei helfen, Entscheidungen zu treffen. Grundsätzlich ist dieser Ansatz in der Medizin nichts Neues. „Schon in der Vergangenheit konnten Ärztinnen und Ärzte auf unterschiedliche interdisziplinäre und interprofessionelle Befunde und Beobachtungen (Laborbefunde, Einschätzungen von Kolleginnen und Kollegen, Beobachtungen von Mitarbeitenden etc.) zurückgreifen, sodass die Integration neuer technischer Komponenten in den Behandlungsprozess zumindest strukturell keine prinzipielle Veränderung des ärztlichen Auftrags bedeutet“, heißt es in der Publikation mit dem Titel „Von ärztlicher Kunst mit Künstlicher Intelligenz“, veröffentlicht von der Bundesärztekammer im Mai 2025.

KI-Standards bei individuellen Patienten

CDSS bringen diese Unterstützung nun auf eine neue Ebene: Ging es zuvor um Daten, Fakten und Einschätzungen anderer Menschen, kommen nun KI-Systeme ins Spiel, die dafür konzipiert sind, auf Grundlage ihres Datenwissens vollautomatisierte Handlungs- und Entscheidungsempfehlungen abzugeben. Die Idee: CDSS können Ärzti:nnen unterstützen, „indem sie eine große Menge klinisch-diagnostischer Informationen, die individuumsbezogen und fallorientiert durch integrierte Software-Systeme ausgewählt werden, für den gemeinsamen Entscheidungsprozess zur Verfügung stellen“, wie es in der Publikation der Bundesärztekammer heißt. Diese Hilfe sei wichtig. Jedoch: „Gleichwohl sind die Rahmenbedingungen des Einsatzes dieser neuen Technologien dynamisch und ist der Einsatz mit ethischen, rechtlichen und sozialen Herausforderungen verknüpft.“

Hybride Diagnose-Kollektive

Menschen machen Fehler. KI-Systeme auch. Ein internationales Forschungsteam unter der Leitung des Max-Planck-Instituts für Bildungsforschung hat nun in einer Studie herausgefunden, dass die Fehleranfälligkeit einer medizinischen Diagnose dann steigt, wenn sich Mensch und Maschine einem Problem als Kollektiv widmen. „Mensch und KI machen systematisch unterschiedliche Fehler“, heißt es in der Zusammenfassung der Studie. „Wenn die KI in manchen Fällen versagte, konnte eine menschliche Fachkraft den Fehler ausgleichen – und umgekehrt. Diese sogenannte Fehlerkomplementarität macht hybride Kollektive so leistungsstark.“ Es sei also gar nicht sinnvoll, den Menschen durch Maschinen zu ersetzen. „Vielmehr sollten wir Künstliche Intelligenz als ergänzendes Werkzeug begreifen, das in der kollektiven Entscheidungsfindung sein volles Potenzial entfaltet“, wird Stefan Herzog, Senior Research Scientist am Forschungsbereich Adaptive Rationalität des Max-Planck-Instituts für Bildungsforschung in der Pressemeldung zur Studie zitiert.

Eingesetzt werden CDSS in einem ersten Schritt in der Diagnostik. Die Technik ist in der Lage, zum Beispiel bei radiologischen Bildern auffällige Bereiche zu identifizieren und zu markieren. Dies hilft, Brust- oder Hautkrebs oder Anomalien in der Augenheilkunde zu erkennen. In diesem Feld ist die KI im klassischen Sinn eine Unterstützerin, die im besten Fall auf etwas aufmerksam wird, das einem Menschen (noch) nicht aufgefallen wäre. Ihre Leistung bezieht sich darauf, etwas zu erkennen, was bereits existiert. Ethisch ergeben sich auf dieser Ebene nur wenig Fragen.

Intensiv ins Spiel kommt die Ethik, wenn CDSS dafür genutzt werden, Entscheidungen über Entwicklungen zu treffen, die eintreten könnten. Die also in der Zukunft liegen. Und die mit einer gewissen Ungewissheit einhergehen. Laut der Publikation der Bundesärztekammer sei es in ethischer Hinsicht umstritten, solche Systeme zu nutzen, um „Aussagen zur klinischen Prognose von Patientinnen und Patienten zu treffen.“ So sei es möglich, mit Hilfe der KI unter Einbeziehung individueller und bevölkerungsbasierter Daten Risiken für unerwünschte Zwischenfälle oder auch die Überlebensdauer schwer bis unheilbar kranker Patientinnen und Patienten zu prognostizieren. Dass diese mit KI erstellten Prognosen theoretisch helfen können, über die Aufnahme oder Reduktion einer Therapie mitzuentscheiden, liegt auf der Hand. Umstritten sei, so die Bundesärztekammer, aber erstens, welche Daten für die Prognosen genutzt werden – und welche nicht. Und zweitens, ob es „angesichts der zum Teil erheblichen Streuung individueller klinischer Verläufe“ überhaupt zulässig ist, individuelle Prognosen auf Basis allgemeiner Daten zu erstellen. Das gilt umso mehr, wenn „gesundheitsökonomische Parameter“ eine Rolle spielen können. Um es auf den Punkt zu bringen: Gibt die KI einem Patienten oder einer Patientin eine schlechte Prognose und wird diese gekoppelt mit wirtschaftlichen Aspekten wie Bettenbelegung oder Klinik- Budgetierung, könnte eine Dynamik entstehen, die dem Arbeitsethos der Ärzteschaft widerspricht. Nämlich immer das Wohl des einzelnen Patienten im Blick zu haben.

Alarm, eine Krankheit könnte kommen

Ethisch nicht weniger komplex ist ein Blick, der noch weiter in die Zukunft führt: KI-Systeme können auch Krankheiten prognostizieren, die noch gar nicht erkennbar sind. Sie erledigen diese Prädiktion von Krankheiten also bei (noch) gesunden Menschen. Nicht auf Basis von Symptomen, sondern von Risikomerkmalen. „Dabei steht die Beurteilung individueller Risikofaktoren wie Blutdruck, Body-Mass-Index, Lebensstil, Biomarker aus dem Genomics- oder Metabolomics-Bereich oder die Vorhersage individueller Reaktionsweisen auf Medikamente (Pharmakogenetik) im Mittelpunkt“, definiert die Publikation der Bundesärztekammer diesen umstrittenen Bereich. Das Problem sei, dass diese Prädiktion auf der Basis „oft schwer interpretierbarer statistischer Wahrscheinlichkeiten“ geschehe. Wobei diese wiederum nicht darauf beruhen, Kausalitäten zu ermitteln, sondern statistisch anzunehmen.

Dass das zu Fehlschlüssen führen kann, ist offensichtlich. Die Folgen können eklatant sein – zum Beispiel, wenn die CDSS mit einer falschen Prognose grundlos in das Leben und die Lebensweise eines gesunden Individuums eingreifen. Wenn sie damit Ängste schüren, die zu mentalen Problemen führen können. Wobei diese Prognosen aber auch zu einer Sorglosigkeit führen kann, wenn kein Risiko angenommen wird. An dieser Stelle rückt dann auch die Frage der Haftung in den Fokus: Wer trägt eigentlich die Verantwortung, wenn die KI zum Beispiel eine Herz-Kreislauf-Erkrankung als sehr unwahrscheinlich einstuft – diese aber eintritt? Oder umgekehrt, eine Herz-Kreislauf-Erkrankung prognostiziert wird, die einen bis dahin gesunden Menschen so sehr negativ beeinflusst, dass es zu psychologischen Problemen kommt? Hinzu kommen noch Themen wie Datenschutz oder Datensouveränität, die den Einsatz von KI im Bereich der Prognosen noch komplexer gestalten.

Wichtig ist, dass diese Fragen nicht dazu verleiten, den Einsatz von KI-Systemen in der Medizin überm..ig zu hinterfragen. Vielmehr gilt es, eine offene Debatte über die zahlreichen Chancen und Wege zu einer besseren Medizin anzustoßen. Aber eben auch über die ethischen Fragen, die sich immer dann ergeben, wenn eine technische Innovation großen Einfluss nimmt.

Ki und Algorithmen: Medizin trifft Mathe

Das Fachbuch „Künstliche Intelligenz in der Medizin: Anwendungen, Algorithmen und Programmierung“, erschienen im März 2025, gibt einen Überblick über die für die Medizin einflussreichen KI-Systeme und die Algorithmen, mit denen sie arbeiten. Nach einer Einführung in die Themen Deep- und Machine Learning zeigen Laura Velezmoro und Tim Wiegand, zu welchen Analysen welche KI-Algorithmen passen und welche mathematischen Formeln dahinterstecken. Ein Buch für Mediziner:innen mit einem Herz für Zukunftstechniken und Mathematik.