EU-KI-Verordnung: Neue Standards für den Einsatz von KI in der Radiologie

Seit dem 1. August 2024 ist die europäische Verordnung über künstliche Intelligenz (KI-Verordnung, EU 2024/1689) in Kraft. Sie schafft einen einheitlichen Rechtsrahmen für den Einsatz von KI-Systemen in der EU und verfolgt einen risikobasierten Ansatz, um sowohl Innovation zu fördern als auch die Sicherheit und Grundrechte der Bürger:innen zu schützen.

KI-Systeme, die in der Radiologie zur Analyse medizinischer Bilder und zur Unterstützung bei Diagnosen wie zum Beispiel der Tumorerkennung oder Krankheitsverläufen eingesetzt werden, gelten als Hochrisiko-Anwendungen. Da sie direkten Einfluss auf klinische Entscheidungen haben, unterliegen sie besonders strengen Anforderungen. Anbieter von Hochrisiko-KI-Systemen müssen ein umfassendes Risikomanagementsystem einrichten, das kontinuierlich überprüft und aktualisiert wird. Dies umfasst die Ermittlung, Analyse, Abschätzung, Bewertung und Bewältigung der Risiken, die von dem KI-System ausgehen. Zudem sind klare Informationen für die Nutzer:innen, menschliche Aufsicht und Transparenz erforderlich.

Die ESR hat konkrete Umsetzungsempfehlungen für KI in der Bildgebung formuliert, darunter:

• Förderung von KI-Kompetenz bei Radiolog:innen und ihren Teams
• Sicheres und verantwortungsvolles Datenmanagement,
• Transparente Kommunikation mit Patient:innen über den Einsatz von KI,
• Implementierung robuster Qualitäts- und Kontrollmechanismen.

Ab August 2025 wird die Richtlinie nun „scharf gestellt“, das heißt die Umsetzung muss erfolgen. Dies gilt für alle Praxen, die KI einsetzen – vom KI-Telefon-Assistenten bis zu Bildbearbeitungs- und Befundungs-KI-Anwendungen. Datenschutzerklärungen müssen angepasst, Patienten um Einwilligung gebeten und das Praxisteam entsprechend informiert und sensibilisiert werden.

Brigita Alilovic leitet das CuraProtect Team und ist als externe Datenschutzbeauftragte für Netzpraxen aktiv. Aktuell bildet sie sich zur GDD zertifizierten KI Datenschutzexpertin Europa weit fort und bietet für Netzpraxen eine Schulung an, die sich in diesem Bereich rechtssicher aufzustellen wollen.

Umsetzung der EU-KI-Verordnung in der radiologischen Praxis

Online-Webinar am 8. Juli, 16-18.00 Uhr, 220 € (inkl. MwSt.) pro Person

Anmeldung: curacademyradiologienetz.de oder über pro.radiologie.de (Login-Bereich für Mitglieder)

KI und Digitalisierung halten schon seit einiger Zeit mit zunehmendem Tempo Einzug in die radiologischen Praxen. Inzwischen unterstützen sie auch bei der Befundung. Doch wer trägt dafür die finale Verantwortung und haftet, wenn die KI sich irrt? Zur rechtliche Problematik nahm Prof. Dr. Bernd Halbe ausführlich Stellung.

Im Rahmen der Online-Veranstaltungs-Plattform „Zukunft Teleradiologie“ fand am 12. Dezember der Vortrag des auf Medizinrecht spezialisierten Rechtsanwalts Prof. Dr. Bernd Halbe statt. Wir nahmen teil und fanden ihn so interessant, dass wir ihn mit freundlicher Erlaubnis der Veranstalter zum Nachhören bzw. Nachlesen auf unserer Plattform zur Verfügung stellen.

Das Thema ist hochaktuell und sehr komplex. KI-Applikationen werden zunehmend in der Befundung eingesetzt. Manche werden sogar unabhängig von der menschlichen Befundung als zusätzliche Leistung angeboten und privat in Rechnung gestellt (IGeL). Viele Radiologen/-innen sind unsicher, wer für die Befundqualität und Korrektheit einer eingesetzten KI gerade stehen muss. Vor allem, wenn es negative Konsequenzen für Patienten hat und es zu einer Haftungsfrage kommt.

Fasst man als Laie die Ausführungen von Professor Halbe zusammen, dann eilt die Realität der Künstlichen Intelligenz dem Recht noch voraus. Er führt aus, dass es noch kein eigenes Haftungsregime für Schäden und keine dezidierte Rechtsprechung für die genannten Fälle gibt. Radiologen/-innen können sich aber einigermaßen absichern, wenn sie sorgfältig aufklären, informieren und dokumentieren. Außerdem sollten sie auch bei der Auswahl der KI sorgfältig sein, die im Übrigen als Medizinprodukte gelten und für deren Qualität die Produzenten verantwortlich zeichnen. Für Patienten/-innen sieht es aufgrund des Dschungels an Zuständigkeiten und möglichen gesetzlichen Grundlagen bei einem konkreten Schaden nicht so gut aus: sie müssen beweisen, dass bei einer Untersuchung aufgrund einer KI-Entscheidung ein Schaden entstanden ist, was schwierig bis unmöglich scheint. Etwas gestärkt werden ihre Belange durch die KI-Verordnung der EU, die zum 1. August 2024 in Rechnung getreten ist.

Hier der Link zum Download der Präsentation bzw. zum Nachhören des Webinars.