Kennzeichnungspflicht von KI-generierten Bildern und Videos

Seit dem 2. August 2026 gelten die Transparenzpflichten des europäischen AI Act auch für bestimmte KI-generierte und KI-manipulierte Bilder und Videos. Für radiologische Praxen ist das vor allem beim Praxismarketing relevant – beispielsweise auf der Website, in sozialen Netzwerken oder bei digitalen Werbeanzeigen. Eine pauschale Kennzeichnungspflicht für sämtliche mit KI erstellten Inhalte gibt es allerdings nicht.

Die rechtliche Grundlage ist Artikel 50 der europäischen KI-Verordnung (EU) 2024/1689. Danach müssen Betreiber eines KI-Systems offenlegen, wenn sie Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die als sogenannte Deepfakes einzustufen sind. Die entsprechenden Transparenzpflichten gelten seit dem 2. August 2026. transparenten Kommunikation gegenüber Patientinnen und Patienten.

Hinweis: Dieser Beitrag gibt einen allgemeinen Überblick über die Transparenzpflichten nach der Verordnung (EU) 2024/1689 und stellt keine Rechtsberatung dar.

Der Begriff ist weiter gefasst, als es die bekannten manipulierten Videos von Politikern oder Prominenten vermuten lassen.

Nach Artikel 3 Nr. 60 des AI Act ist ein Deepfake ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einem Betrachter fälschlicherweise echt oder wahrheitsgemäß erscheinen würde.

Entscheidend ist deshalb nicht allein die Frage:

„Wurde bei diesem Bild KI eingesetzt?“

Sondern:

„Kann der Betrachter das Ergebnis für eine authentische Darstellung der Realität halten?“

Die EU-Kommission konkretisiert diese Definition in ihren Leitlinien. Danach sind drei Kriterien relevant: Der Inhalt muss dem dargestellten Motiv hinreichend ähnlich sein, dieses Motiv muss tatsächlich oder zumindest plausibel existieren können und der Inhalt muss den falschen Eindruck erwecken können, authentisch oder wahr zu sein. Dabei dürfen auch der Veröffentlichungskontext und die Erwartungen der Zielgruppe berücksichtigt werden. Für eine radiologische Praxis kann das beispielsweise relevant sein, wenn ein fotorealistischer „Patient“ für eine Werbekampagne vollständig mit KI erzeugt wird oder ein Praxisraum durch generative KI so verändert wird, dass Ausstattung, Personen oder Situationen gezeigt werden, die tatsächlich nicht vorhanden waren.

Ein solcher Inhalt kann für Betrachter wie eine echte Aufnahme aus der Praxis wirken – und damit unter die Transparenzpflicht fallen.

Der AI Act unterscheidet ausdrücklich zwischen generativer Manipulation und unterstützender Standardbearbeitung.

Artikel 50 Abs. 2 nennt beispielsweise KI-Systeme, die lediglich eine unterstützende Funktion bei der Standardbearbeitung übernehmen oder die eingegebenen Daten beziehungsweise deren Bedeutung nicht wesentlich verändern. Für diese Fälle nimmt der Gesetzgeber die Anbieter solcher Systeme von der Pflicht zur maschinenlesbaren Kennzeichnung aus.

Für die sichtbare Kennzeichnung durch eine Praxis bleibt allerdings entscheidend, ob das fertige Bild oder Video überhaupt die Definition eines Deepfakes erfüllt.

Eine normale Helligkeits- oder Farbkorrektur, Rauschreduzierung oder ein Bildbeschnitt wird deshalb in aller Regel anders zu bewerten sein als eine generative Veränderung, bei der beispielsweise Personen hinzugefügt, Räume neu ausgestattet, Gegenstände entfernt oder ganze Bildbereiche künstlich erzeugt werden.

Eine hilfreiche Kontrollfrage lautet:

Zeigt das Ergebnis im Wesentlichen noch das, was tatsächlich fotografiert oder gefilmt wurde – oder erzeugt die KI eine neue, realistisch wirkende Realität?

Hier macht der Gesetzestext klare Vorgaben zum Ergebnis, schreibt aber kein bestimmtes Label oder Design vor.

Nach Artikel 50 Abs. 4 muss offengelegt werden, dass der betreffende Inhalt künstlich erzeugt oder manipuliert wurde. Artikel 50 Abs. 5 ergänzt, dass diese Information spätestens beim ersten Kontakt des Betrachters mit dem Inhalt klar und eindeutig bereitgestellt werden muss und die geltenden Anforderungen an Barrierefreiheit erfüllen soll. Für Praxen bietet sich deshalb eine kurze und unmittelbar verständliche Kennzeichnung an, beispielsweise:

„KI-generiert“ für vollständig künstlich erzeugte Inhalte oder

„Mit KI manipuliert“ / „Mit KI bearbeitet“ für reales Ausgangsmaterial, das mithilfe generativer KI wesentlich verändert wurde.

Diese konkreten Formulierungen sind keine gesetzlich vorgeschriebenen Wortlaute. Entscheidend ist, dass für den Betrachter verständlich wird, dass der dargestellte Inhalt künstlich erzeugt oder manipuliert wurde.

Eine ausschließlich in den Metadaten einer Datei vorhandene technische Markierung genügt für diese Offenlegung gegenüber dem Betrachter nicht. Die EU-Kommission stellt ausdrücklich klar, dass die Information für Menschen wahrnehmbar sein muss – beispielsweise über ein sichtbares oder hörbares Label – und keine speziellen technischen Werkzeuge erforderlich sein dürfen.

(Kostenfreier Download der Icon-Varianten als png und svg unter: https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content? )

Der Hinweis sollte spätestens beim ersten Sichtkontakt wahrnehmbar sein. Die EU empfiehlt außerdem, ihn möglichst so in den Inhalt beziehungsweise die Benutzeroberfläche zu integrieren, dass er nicht durch andere Elemente verdeckt wird und nach Möglichkeit auch beim Teilen oder Herunterladen erhalten bleibt.

Damit lässt sich für Website, Social Media und digitale Anzeigen ein einheitlicher Kennzeichnungsstandard verwenden.

Für den Arbeitsalltag lässt sich die neue Regelung auf drei Fragen reduzieren:

1. Wurde das Bild oder Video mithilfe von KI inhaltlich erzeugt oder wesentlich verändert?

2. Kann das Ergebnis für Patienten wie eine authentische Aufnahme einer realen Person, eines Praxisraums, eines Gegenstands oder einer tatsächlichen Situation wirken?

3. Falls ja: Ist klar erkennbar, dass der Inhalt künstlich erzeugt oder manipuliert wurde?

Besonders aufmerksam sollte geprüft werden, wenn künstliche Patienten, Mitarbeitende, Praxisräume oder Behandlungssituationen dargestellt werden. Ein offensichtlich grafisches oder abstraktes Motiv ist anders zu beurteilen als eine fotorealistische Darstellung, die für eine echte Aufnahme gehalten werden kann. Entscheidend ist also, ob durch KI ein Bild oder Video entsteht, das wie eine authentische Darstellung der Realität wirken kann und damit die Voraussetzungen eines Deepfakes erfüllt. Ist das der Fall, muss der künstliche oder manipulierte Ursprung für den Betrachter klar und spätestens beim ersten Kontakt mit dem Inhalt erkennbar sein.

Für die Praxis empfiehlt sich deshalb ein einfacher Standard: kennzeichnungspflichtige Inhalte unmittelbar und verständlich als „KI-generiert“ oder „Mit KI bearbeitet“ markieren und bei Bedarf das von der EU bereitgestellte KI-Icon ergänzen.

So lässt sich generative KI auch weiterhin sinnvoll für Praxismarketing einsetzen.

_______________

Quellen:

https://eur-lex.europa.eu/eli/reg/2024/1689/oj/deu?

https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content?

ttps://www.docma.info/blog/kennzeichnungspflicht-fur-ki-bilder-sechs-regeln-und-ein-missverstandnis