Wer haftet, wenn KI sich irrt?

KI und Digitalisierung halten schon seit einiger Zeit mit zunehmendem Tempo Einzug in die radiologischen Praxen. Inzwischen unterstützen sie auch bei der Befundung. Doch wer trägt dafür die finale Verantwortung und haftet, wenn die KI sich irrt? Zur rechtliche Problematik nahm Prof. Dr. Bernd Halbe ausführlich Stellung.

Im Rahmen der Online-Veranstaltungs-Plattform „Zukunft Teleradiologie“ fand am 12. Dezember der Vortrag des auf Medizinrecht spezialisierten Rechtsanwalts Prof. Dr. Bernd Halbe statt. Wir nahmen teil und fanden ihn so interessant, dass wir ihn mit freundlicher Erlaubnis der Veranstalter zum Nachhören bzw. Nachlesen auf unserer Plattform zur Verfügung stellen.

Das Thema ist hochaktuell und sehr komplex. KI-Applikationen werden zunehmend in der Befundung eingesetzt. Manche werden sogar unabhängig von der menschlichen Befundung als zusätzliche Leistung angeboten und privat in Rechnung gestellt (IGeL). Viele Radiologen/-innen sind unsicher, wer für die Befundqualität und Korrektheit einer eingesetzten KI gerade stehen muss. Vor allem, wenn es negative Konsequenzen für Patienten hat und es zu einer Haftungsfrage kommt.

Fasst man als Laie die Ausführungen von Professor Halbe zusammen, dann eilt die Realität der Künstlichen Intelligenz dem Recht noch voraus. Er führt aus, dass es noch kein eigenes Haftungsregime für Schäden und keine dezidierte Rechtsprechung für die genannten Fälle gibt. Radiologen/-innen können sich aber einigermaßen absichern, wenn sie sorgfältig aufklären, informieren und dokumentieren. Außerdem sollten sie auch bei der Auswahl der KI sorgfältig sein, die im Übrigen als Medizinprodukte gelten und für deren Qualität die Produzenten verantwortlich zeichnen. Für Patienten/-innen sieht es aufgrund des Dschungels an Zuständigkeiten und möglichen gesetzlichen Grundlagen bei einem konkreten Schaden nicht so gut aus: sie müssen beweisen, dass bei einer Untersuchung aufgrund einer KI-Entscheidung ein Schaden entstanden ist, was schwierig bis unmöglich scheint. Etwas gestärkt werden ihre Belange durch die KI-Verordnung der EU, die zum 1. August 2024 in Rechnung getreten ist.

Hier der Link zum Download der Präsentation bzw. zum Nachhören des Webinars.