Algorithmen in der Medizin: Ärzte und Juristen diskutieren über Einsatz und Haftung

Ob Diagnostik, Therapie oder Forschung – der Einsatz künstlicher Intelligenz (KI) kann helfen, die medizinische Behandlung zu verbessern. Der Arbeitskreis Ärzte und Juristen der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften e. V. (AWMF) hat in seiner jüngsten Sitzung diskutiert, welche Voraussetzungen es braucht, damit Ärzt:innen mithilfe von Algorithmen bessere Entscheidungen treffen können. Für die Zukunft ist aus Sicht der Expertenrunde unter anderem wichtig, offene Haftungsfragen zu klären.

KI kann Ärzt:innen darin unterstützen, die richtige Diagnose zu stellen, beispielsweise indem Algorithmen auf das Erkennen bestimmter Erkrankungen bei CT-Aufnahmen trainiert werden. Für Patient:innen stehen bereits digitale Anwendungen in Form von Apps zur Verfügung, die auf Basis der eingegebenen Symptome und Befunde Ursachen und mögliche Lösungswege aufzeigen. Und auch für die medizinische Forschung bietet KI Chancen, etwa indem durch die Anwendung von Algorithmen verschiedene Forschungsdatensätze miteinander vernetzt und mit hoher Geschwindigkeit analysiert werden. Das könnte helfen, wesentlich rascher zu neuen wissenschaftlichen Erkenntnissen zu kommen.

„Die Anwendungsgebiete von KI in der Medizin sind vielfältig. Klar ist, dass KI die Ärztin oder den Arzt nicht ersetzen kann. Vielmehr soll sie die Behandelnden bei der Entscheidungsfindung unterstützen und dort eingesetzt werden, wo es den Kranken nützt“, sagt Prof. Dr. rer. nat. Martin Sedlmayr, Inhaber der Professur für Medizinische Informatik der Medizinischen Fakultät Carl Gustav Carus der Technischen Universität Dresden. Vor diesem Hintergrund sei es notwendig, KI stärker in die Ausbildung der Studierenden – sowohl der Informatik als auch der Medizin – zu integrieren.

Voraussetzung für den erfolgreichen Einsatz von Algorithmen in der Medizin sind im System enthaltene Daten – ausreichend und in entsprechender Qualität. „Die Verfügbarkeit und Qualität der Daten, aus denen sich Algorithmen speisen, entscheiden über die Qualität der Ergebnisse von KI-Anwendungen“, so Prof. Dr. med. Alexander Cavallaro vom Imaging Science Institute (ISI) in der Radiologie am Universitätsklinikum Erlangen. Die Daten liegen meist in unterschiedlicher Form vor, beispielsweise als Text-Dokumente in einer Patientenakte oder auch als Bilder wie Röntgenaufnahmen. „Bevor ein Algorithmus angewendet werden kann, müssen die Daten zuerst extrahiert und geordnet werden. Ziel ist es, beispielsweise unterschiedliche Inhalte wie Texte in Befunden, Bilder oder Laborwerte so aufzubereiten, dass sie – miteinander vernetzt – treffende Lösungen generieren können“, so Cavallaro. Die AWMF hat dazu wiederholt Qualitätskriterien eingefordert: Transparenz und Vertrauenswürdigkeit der Datengrundlage. Dazu muss Wissen aus hochwertigen, evidenzbasierten Leitlinien als primäre Datenbasis in regelbasierte Algorithmen und KI-Anwendungen integriert und für Nutzende kenntlich gemacht werden. Insgesamt sind sich Ärzte und Juristen einig, dass der Einsatz von KI künftig eine wichtige Rolle in der Medizin spielen wird.

Dem AWMF-Arbeitskreis Ärzte und Juristen ging es in der Sitzung auch um die Klärung offener Haftungsfragen. Rechtswissenschaftler Prof. Dr. iur. Oliver Brand, Inhaber des Lehrstuhls für Bürgerliches Recht, Privatversicherungsrecht, Wirtschaftsrecht und Rechtsvergleichung der Universität Mannheim: „Ärztinnen und Ärzte müssen immer in der Pflicht verbleiben, Ergebnisse der KI zu kontrollieren. Damit tragen sie weiterhin die Verantwortung für Diagnosen oder Therapiewege, auch wenn sie mithilfe von KI ermittelt wurden.“ Allerdings bereitet bei selbstlernenden Systemen die Zurechnung von Auswirkungen der KI auf die Ärzt:innen Probleme. Daher brauche es eine entsprechende gesetzliche Regelung.

Zurück