Künstliche Intelligenz in der Medizin – Chance, Risiken und ärztliche Verantwortung

In den Vorträgen und der anschließenden Diskussion zeichnete sich ein klares Bild ab: Die Medizin der Zukunft wird nicht ohne KI auskommen. Entscheidend für ihren erfolgreichen Einsatz wird jedoch sein, wie KI integriert werden wird.

Fülle medizinischen Wissens

Die moderne Medizin ist von einer fast unüberschaubaren Wissensfülle geprägt – das machte Martin Hirsch deutlich. Seit den 1940er-Jahren habe sich das verfügbare medizinische Wissen vervielfacht; in vielen Disziplinen erschienen täglich neue Studien. Von über 30.000 heute bekannten Krankheiten seien etwa 8.000 seltener Natur. Im Laufe ihres Berufslebens träfen jede Ärztin und jeder Arzt mit hoher Wahrscheinlichkeit mindestens einmal auf eine seltene Erkrankung – meist in einem Meer aus unspezifischen Symptomen und bereits vorhandenen Diagnosen.

Aktuell existierten rund 12.000 Bildgebungsbefunde und Laborparameter, so Hirsch, viele davon sinnvoll, aber nicht allen Ärzten bekannt. Schließlich müsse noch dokumentiert und codiert werden: Bis zu 40 % der ärztlichen Arbeitszeit werde für Verwaltungsaufgaben, Codierung und elektronische Dokumentation aufgewendet. Diese Dokumentationslast verschärfe die Situation zusätzlich.

„Eine veritable kognitive Krise“

„Es ist komplex geworden, um nicht zu sagen, es ist eine veritable kognitive Krise“, fasste Hirsch zusammen. Die steigende Komplexität der Versorgung und der wachsende Umfang medizinischen Wissens, einschließlich der Vielzahl seltener Krankheiten und der Herausforderungen durch Multimorbidität seien kaum mehr beherrschbar. Genau an diesem Punkt entfalteten KI-Systeme ihr Potenzial – sie reduzierten Komplexität, filterten relevante Informationen und verbesserten die Diagnosequalität.

Zugleich werde dank ihres Einsatzes Zeit gewonnen, die Ärztinnen und Ärzten wieder für den zwischenmenschlichen Teil der Medizin nutzen könnten. Allerdings berge der Einsatz von Künstlicher Intelligenz auch das Risiko, dass Menschen künftig durch KI ersetzt werden, mahnte Hirsch. Neue Studien zeigten etwa, dass die Beurteilung von Mammographieaufnahmen durch KI mindestens so gut erfolge wie durch Menschen. Der Gefahr des Abbaus ärztlicher Arbeitsplätze durch KI stehe andererseits die Chance gegenüber, dem zunehmenden Fachkräftemangel – u. a. ausgelöst durch die in Ruhestand gehenden Babyboomer – bei Ärzten, Pflegekräften, Verwaltungsmitarbeitern durch KI zu begegnen, sagte Hirsch.

Hier böten Entwickler Möglichkeiten und „Heilversprechen“, an, die Probleme mit Hilfe intelligenter Maschinen zu lösen. Man werde in naher Zukunft Diskussionen darüber führen müssen, in was für einer Gesellschaft wir leben wollen, wenn 60–70 % der Arbeitsplätze, die wir kennen, durch KI ersetzt werden? Was machen diese Menschen dann mit ihrer frei gewordenen Zeit, stellte Hirsch fragend in den Raum.

Was ist mit KI gemeint?

Noch werde KI in der Medizin nicht im Medizinstudium vermittelt, kritisierten die Referenten. Als Doktorand verstehe er seinen Auftrag daher auch darin, Medizinstudierende darüber aufzuklären, was Künstliche Intelligenz eigentlich sei, sagte Fabian Lechner. Zu den verschiedenen Technologien, die KI umfasse, gehörten maschinelles Lernen, neuronale Netze und Deep Learning.

KI bezeichne Systeme, die Aufgaben lösen, für die üblicherweise menschliche Intelligenz nötig sei, etwa Spracherkennung, Problemlösung und Entscheidungsfindung. Maschinelles Lernen gelte als Grundlage vieler KI-Anwendungen und baue auf Algorithmen auf, die aus Daten Muster erkennen und Vorhersagen treffen. Deep Learning arbeite mit komplexen neuronalen Netzen, die etwa große Bilddaten verarbeiten können und finde in der medizinischen Bildanalyse Anwendung. Generative KI (z. B. ChatGPT ) nutze große neuronale Netze, um beispielsweise Sprache zu generieren und zu verarbeiten, was neue Möglichkeiten für die Analyse und Kommunikation eröffne.

KI habe sich in der Medizin von einem Randthema zu einem zentralen Innovationsfeld entwickelt, insbesondere durch internationale Investitionen und große Unternehmen, die in den Markt einträten, spannte Lechner eine Brücke zwischen Wissenschaft und Praxis der neuen intelligenten Technologien. Neue KI-Modelle erreichten mittlerweile Genauigkeiten bei medizinischen Prüfungsfragen, die teils an Fachärzte heranreichen oder diese sogar überträfen. In Studien habe sich gezeigt, dass große Sprachmodelle – Large Language Models (LLMs) – eigenständig medizinische Fragestellungen oft zuverlässiger bearbeiteten als Ärzte, wenn sie ohne menschliche Intervention eingesetzt würden. Die Zusammenarbeit von Ärztinnen und Ärzten mit KI erfordere daher neue Kompetenzen und ein Umdenken im Berufsfeld.

Im Eiltempo von der „Antike“ bis heute

Die Geschwindigkeit der KI-Entwicklung ist hoch: So gelte der Stand von August 2024 aus heutiger Sicht als „Antike“, sagte Lechner. KI könne komplexe Datenanalysen und Mustererkennung deutlich schneller als Menschen durchführen. Bei Krankenhausprozessen werde daher zunehmend automatisiert. Die Flut an wissenschaftlichen Publikationen zum Thema KI habe die Menge an Studien zu Covid-19 überholt; das verdeutliche die starke Bedeutung von KI im aktuellen Forschungskontext.

Wahrnehmende KI-Systeme analysierten Bilder und Videos mit einer Präzision, die in vielen Bereichen bereits dem menschlichen Auge überlegen sei. In der Dermatologie, Radiologie und Pathologie lieferten KI-Modelle Diagnosen, die mindestens auf dem Niveau erfahrener Fachärztinnen und -ärzte liegen. Deep-Learning-Modelle könnten Massendaten wie Mammographien, MRT-Reihen oder mikroskopische Gewebebilder in Sekunden auswerten.

Große Sprachmodelle wie GPT, Gemini oder das französische „Mistral“ seien in der Lage, über hunderte Seiten umfassende Patientenakten binnen Sekunden zu durchsuchen, Arztbriefe zu entwerfen, Anamnesen zu strukturieren oder Differenzialdiagnosen vorzuschlagen. KI und ihr Vorantreiben durch internationale Tech-Konzerne habe das Potenzial, das Gesundheitswesen neu zu gestalten.

Ärztliche Kompetenz werde daher künftig über das klassische Arzt-Bild hinausgehen, da digitale und technologische Fähigkeiten an Bedeutung gewönnen. Die Rolle von Ärztinnen und Ärzten wandele sich – sie würden immer mehr zu Vermittlern zwischen Technologie und Patienten, mit Fokus auf kritischer Bewertung und Integration von KI-Lösungen.

Grenzen der KI

Allerdings – das machten die Referenten deutlich – dürfe die Leistungsfähigkeit der KI nicht mit menschlicher Intelligenz verwechselt werden. Denn: Large Language Models „verstehen“ nicht, sie erzeugen Worte, die statistisch am wahrscheinlichsten folgen. Sie kennen kein Nichtwissen, sie zeigen keine Unsicherheit, und sie übernehmen keine Verantwortung. Das habe sich bereits eindrücklich in Fällen gezeigt, in denen Menschen mit suizidalen Gedanken sich an Chatbots wandten und dort keine deeskalierende, sondern in einem Fall sogar gefährliche und in den Selbstmord treibende Antworten erhielten. Die KI erkenne die emotionale Dimension nicht, gebe keine Warnsignale weiter und ziehe kein professionelles Gegenüber hinzu. Genau hier lägen ihre Grenzen und der Unterschied zum Menschen.

KI im klinischen Betrieb

Für Sebastian Polag sind Digitalisierung und den Einsatz von Künstlicher Intelligenz zentrale Zukunftsthemen in der Gesundheitswirtschaft. Agaplesion setze seit Jahren auf eine umfassende Digitalstrategie, die mittlerweile explizit um KI-Anwendungen ergänzt worden sei. Initialzündung sei ein interdisziplinärer KI-Gipfel gewesen, der Fachkräfte aus Medizin, Pflege, Verwaltung und Industrie zusammengebracht habe, um Praxiserfahrungen, Forschungserkenntnisse und neue Anwendungsmöglichkeiten zu diskutieren. Daraus sei u. a. ein zentrales KI-Team entstanden, das eigenständig innovative KI-Projekte und operative Anwendungen vorantreibe.

Unterschieden werde nach Bereichen: Wahrnehmende KI unterstütze z. B. Bildbearbeitung in der Radiologie, generative KI helfe beim automatisierten Erstellen von Arztbriefen und Dokumentationen.

Erste Praxistests liefen etwa mit Robotik in der Altenpflege, wo Roboter Bewohner unterhielten oder Arbeitsabläufe unterstützten. Pilotprojekte evaluierten verschiedene KI-Produkte parallel, um effizient die jeweils besten Lösungen zu implementieren.

Effizienz und mehr Zeit für Patienten

KI vereinfache Prozesse – etwa die Dokumentation: Üblicherweise vergehe im Klinikalltag viel Zeit mit administrativen Aufgaben, die nun durch KI-Lösungen wie automatische Spracherkennung, Echtzeit-Transkription und Sofortzusammenfassungen drastisch verkürzt würden. Besonders eindrucksvoll seien Systeme, die Gespräche automatisch transkribierten, strukturierten und in Echtzeit einen nahezu fertigen Arztbrief generierten. Dies könnte die Wartezeit auf Briefe drastisch verkürzen und gleichzeitig die Dokumentationslast erheblich reduzieren.

Die Einführung neuer KI-Systeme mache Pilotphasen und die aktive Einbindung aller Berufsgruppen – inklusive Betriebsrat und Führungsgremien – notwendig, erklärte Polag. Man fördere innovative Lösungen, wie die Entwicklung virtueller Tumorboards, die Datengrundlagen aus verschiedenen Häusern effizient zusammenführten und Therapieentscheidungen unterstützten.

In der Radiologie verkürzten KI-gestützte Rekonstruktionsverfahren MRT-Untersuchungen von nahezu einer Stunde auf wenige Minuten – ein enormer Effizienzgewinn, der sowohl Patientinnen und Patienten als auch den Einrichtungen zugutekomme. Auch Prognosemodelle für Notaufnahmen seien bereits im Einsatz, um Dienstplanungen zu optimieren oder Patientenerwartungen zu steuern. Klares Ziel der Digitalisierung und des Einsatzes von KI im Krankenhaus: Mehr Zeit für Patientinnen und Patienten bei gleichzeitig besserer Organisation und Versorgung.

Kann KI das Gesundheitssystem entlasten?

In der anschließenden, von Lilia Waehlert moderierten Podiumsdiskussion wurden Fragen zu Erfahrungen, ethischen Aspekten und einem Ausblick auf zukünftige Entwicklungen aufgeworfen. Ob Künstliche Intelligenz das Gesundheitssystem entlasten werde, wollte ein Zuhörer wissen? Ja, lautete die Antwort der Podiumsteilnehmer. KI könne wesentlich zur Entlastung beitragen, wenn dank ihres Einsatzes Diagnosen schneller erfolgten, Dokumentationszeiten sänken und Termine besser koordiniert würden. Auf diese Weise ließen sich mit KI nicht nur die Qualität verbessern, sondern auch strukturelle Probleme des Systems abfedern.

Arzt – Patient – KI und das Vertrauen

KI kann also bereits heute Arbeitsabläufe verbessern, Personal entlasten und Qualitätssprünge ermöglichen, aber – da war man sich auf dem Podium einig – nur dann, wenn Ärztinnen und Ärzte die Entwicklung aktiv mitgestalteten. Die Integration von KI eröffne ein neues Behandlungsdreieck. Das traditionelle Vertrauensverhältnis zwischen Arzt und Patient werde erweitert um ein technisches System, dessen Funktionsweise für beide Seiten oft eine Black Box bleibe. Vertrauen entstehe jedoch – das betonte insbesondere Martin Hirsch – aus Kompetenz, Integrität und Wohlgesonnenheit.

Diese drei Säulen seien für die Ärzteschaft durch Berufsordnung, Schweigepflicht, Dokumentations- und Aufklärungspflichten sowie die Deklaration von Genf gut abgesichert. Für KI-Systeme und ihre Entwickler gelte das bislang jedoch nicht. Deshalb forderte Hirsch eine Art „hippokratischen Eid für KI-Entwickler“. Gemeint sei eine Selbstverpflichtung der Softwarehersteller, ihre Algorithmen so zu entwickeln, dass sie mit den ethischen Grundsätzen der Medizin vereinbar sind. Wer seriös arbeite, habe damit kein Problem; wer im Verborgenen Daten sammele oder politische und ökonomische Interessen in Modelle hineinkodiere, dürfte sich dagegen schwertun, so Hirsch.

Was passiert, wenn ein nicht-europäisches, ethisch fragwürdiges Modell medizinisch nachweislich bessere Ergebnisse liefert als ein europäisches, transparentes Modell? Welche Empfehlung gibt der Arzt dann seinen Patientinnen und Patienten? Dies werde in den kommenden Jahren intensiv diskutiert werden müssen. Sprachmodelle bildeten stets das ab, was sie aus ihren Trainingsdaten gelernt hätten – inklusive kultureller Vorurteile, gesellschaftlicher Schieflagen oder politischer Manipulationen. Hinzu komme, dass große Anbieter ihre Modelle nach eigenen Interessen gestalten. Europa stehe daher vor der Entscheidung, ob es lediglich Nutzer amerikanischer oder chinesischer KI sein möchte – oder ob es eigene Modelle entwickeln werde.

Folgen für Studium und Arztberuf

Wenn KI Daten schneller und präziser verarbeiten kann als ein Mensch, stellt sich die Frage, worin die besondere Kompetenz der Ärztin, des Arztes künftig liegt. Die Diskutanten waren sich einig: Es sind die zwischenmenschlichen, intuitiven und ethischen Fähigkeiten, die in Zukunft noch wichtiger werden. Maschinen können Empathie simulieren, aber sie empfinden sie nicht. Sie sind nicht in der Lage, Verantwortung zu übernehmen oder eine schwierige Situation emotional zu tragen. Die durch KI frei werdende Zeit sollte, so Hirsch, genutzt werden, um das zu tun, was keine Maschine könne – Menschen in Krankheit, Krise und Unsicherheit begleiten.

Die ärztliche Ausbildung müsse sich verändern: weg von reiner Wissensvermittlung, hin zu Kompetenzen wie Gesprächsführung, Umgang mit Unsicherheit, klinischem Blick, Einfühlungsvermögen, ethischer Reflexion und Teamführung. Alles, was „zwischen Menschen“ geschieht, bleibe auf diese Weise dauerhaft in ärztlicher Hand.

Katja Möhrle