Die Einführung agentischer Künstlicher Intelligenz im Gesundheitswesen erfordert dringende regulatorische Weichenstellungen

Die medizinische Versorgung steht vor einem technologischen Paradigmenwechsel, der weit über die bisherigen Möglichkeiten assistierender Algorithmen hinausgeht. Während konventionelle KI-Systeme bisher primär als Entscheidungsunterstützung fungierten, rückt nun die sogenannte agentische Künstliche Intelligenz in den Fokus. Wie das Deutsche Ärzteblatt berichtet, handelt es sich hierbei um Systeme, die nicht mehr nur Daten analysieren, sondern eigenständig proaktive Maßnahmen in klinischen Abläufen ergreifen können. Diese Entwicklung erfordert eine sofortige und tiefgreifende Auseinandersetzung mit den ethischen, rechtlichen und sicherheitstechnischen Rahmenbedingungen.

Die Evolution von der Assistenz zur Autonomie

In der Vergangenheit beschränkte sich der Einsatz von KI im Gesundheitswesen meist auf die Bildgebung oder die Unterstützung bei der Diagnosefindung. Der Arzt blieb dabei stets die letzte Instanz, die den Vorschlag des Algorithmus validierte. Agentische KI-Systeme hingegen sind darauf ausgelegt, komplexe Aufgabenketten eigenständig zu steuern, wie etwa die Überwachung von Vitalparametern in Echtzeit und die automatische Anpassung einer Medikation innerhalb definierter Sicherheitsparameter.

Diese Autonomie bietet das Potenzial, die Effizienz in Kliniken massiv zu steigern und menschliche Fehler zu minimieren, die oft durch Ermüdung oder Überlastung entstehen. Dennoch birgt der Übergang von einer reinen Beratungsrolle hin zur handelnden Instanz erhebliche Risiken. Wenn ein System eigenständig interveniert, stellt sich die Frage nach der algorithmischen Transparenz und der Nachvollziehbarkeit der zugrunde liegenden Entscheidungsprozesse.

Die technische Komplexität erfordert, dass solche Systeme nicht nur robust gegenüber Datenfehlern sind, sondern auch in der Lage sein müssen, ihre eigene Unsicherheit zu kommunizieren. In der medizinischen Praxis bedeutet dies, dass ein „Black-Box“-Ansatz, bei dem die Entscheidungsgrundlage nicht für das medizinische Personal einsehbar ist, in hochsensiblen Bereichen wie der Intensivmedizin oder der Chirurgie nicht akzeptabel sein darf.

Herausforderungen an die regulatorische Architektur

Die aktuelle Gesetzgebung ist auf diese Form der autonomen Interaktion noch nicht vollständig vorbereitet. Während die Europäische Union mit dem AI Act erste Leitplanken gesetzt hat, müssen spezifische medizinische Leitlinien für agentische Systeme dringend nachjustiert werden. Es geht nicht nur um den Datenschutz, sondern um die Frage der Haftung im Falle eines Fehlers durch ein autonomes System.

Eine zentrale Forderung von Experten ist die Etablierung eines „Human-in-the-loop“-Prinzips, das sicherstellt, dass kritische Interventionen stets durch menschliche Fachkräfte autorisiert werden müssen, sofern das System nicht explizit für hochakute Notfallsituationen zertifiziert wurde. Zudem ist eine kontinuierliche Überwachung der Systemleistung durch unabhängige Gremien essenziell, um ein „Drift“ der Algorithmen über Zeit zu verhindern.

Integration in den klinischen Alltag und digitale Infrastruktur

Die Implementierung agentischer KI ist eng mit der digitalen Infrastruktur des Gesundheitswesens verknüpft. Wie die Pharmazeutische Zeitung analysiert, steht die elektronische Patientenakte (ePA) derzeit in einem Wettlauf gegen die rasante Entwicklung der KI. Ein effizientes KI-System ist nur so gut wie die Datenbasis, auf die es zugreifen kann; eine fragmentierte oder unvollständige Datenhaltung verhindert die Entfaltung des vollen Potenzials agentischer Lösungen.

Die Vernetzung von Daten aus verschiedenen Quellen – von Wearables bis hin zu stationären Klinikdaten – ist eine Grundvoraussetzung. Wenn ein System proaktiv handeln soll, muss es ein vollständiges Bild des Patientenstatus haben. Dies erfordert nicht nur technische Schnittstellen, sondern auch eine Vereinheitlichung der Datenstandards, um eine Interoperabilität zwischen verschiedenen Krankenhausinformationssystemen zu gewährleisten.

Die Belastung für Ärzte ist bereits heute enorm, weshalb der Einsatz von KI nicht zu zusätzlichem administrativem Aufwand führen darf. Im Gegenteil: Die Entlastung durch automatisierte Routineaufgaben bei gleichzeitiger Erhöhung der Behandlungsqualität muss das primäre Ziel bleiben. Hierbei spielt auch die Ausbildung des medizinischen Personals eine zentrale Rolle, um einen kompetenten Umgang mit diesen Werkzeugen zu ermöglichen.

Prävention und die Rolle der Gesundheitsaufklärung

Ein weiterer Aspekt ist die Nutzung von KI in der präventiven Medizin. Neurobiologisch orientierte Ansätze zur Gesundheitsaufklärung, wie sie von Forschern in Kiel untersucht werden, könnten in Kombination mit agentischen Systemen neue Wege in der Prävention ebnen. KI könnte Patienten individuell bei der Lebensstiländerung begleiten und proaktiv bei drohenden Rückfällen oder gesundheitlichen Krisen intervenieren.

Diese proaktive Begleitung erfordert jedoch ein hohes Maß an Vertrauen zwischen Patient und System. Der Schutz der persönlichen Daten und die Wahrung der Privatsphäre sind hierbei ebenso wichtig wie die medizinische Evidenz der durch die KI empfohlenen Maßnahmen. Eine transparente Kommunikation über die Funktionsweise und die Ziele der KI ist daher unerlässlich für die Akzeptanz in der Bevölkerung.

• Entwicklung von Haftungsmodellen für autonome medizinische Handlungen.
• Verbindliche Standards für die Transparenz von KI-Entscheidungen (Explainable AI).
• Stärkung der digitalen Dateninfrastruktur zur Unterstützung proaktiver Algorithmen.
• Integration von KI-Kompetenz in die medizinische Ausbildung.