Seit Sonntag (2. August) gelten in der Europäischen Union neue sogenannte Transparenzregeln für Inhalte, die mit künstlicher Intelligenz erzeugt oder verändert wurden. Bei Verstößen drohen Bußgelder bis zu 15 Millionen Euro! Grundlage der neuen EU-Zensur ist Artikel 50 des europäischen KI-Gesetzes (EU AI Acts). Vorgebliches Ziel ist es, für Nutzer erkennbar zu machen, ob sie es mit künstlich erzeugten oder manipulierten Inhalten zu tun haben.
Die EU behauptet, damit Täuschung, Desinformation und Manipulation vor allem durch sogenannte Deepfakes eindämmen zu wollen. Betroffen sind insbesondere Bilder, Videos und Audioinhalte, aber auch nicht-journalistische Texte.
Anbieter von KI-Systemen müssen künstlich erzeugte oder manipulierte Inhalte grundsätzlich mit maschinenlesbaren Kennzeichnungen versehen, so dass ihre Herkunft technisch erkannt werden kann. Bei sogenannten Deepfakes – etwa realistisch wirkenden, aber künstlich erzeugten Bildern, Videos oder Tonaufnahmen von Personen – muss zusätzlich für den Nutzer deutlich erkennbar sein, dass der Inhalt künstlich erzeugt oder verändert wurde.
Eine besondere Regel gilt für Texte, sofern es sich nicht um rein journalistische Inhalte handelt. Werden KI-generierte oder durch KI bearbeitete Texte veröffentlicht, um die Öffentlichkeit über „Angelegenheiten von öffentlichem Interesse“ zu informieren, müssen sie gekennzeichnet werden. Das betrifft beispielsweise politische und demokratische Prozesse, öffentliche Sicherheit, Gesundheit, Umwelt oder wirtschaftliche Entwicklungen.
Eine Ausnahme gilt für journalistische und andere redaktionelle Veröffentlichungen: Wurde ein KI-generierter Text von einem Menschen überprüft oder bearbeitet, unterliegt er der redaktionellen Kontrolle und presserechtlichen Verantwortung. Somit entfällt die Kennzeichnungspflicht.
Ausgenommen sind auch Anwendungen, bei denen KI lediglich unterstützend bei einer normalen Bearbeitung eingesetzt wird und die ursprünglichen Inhalte oder ihre Bedeutung nicht wesentlich verändert werden. Auch rein private Veröffentlichungen fallen nicht generell unter die neuen Verschärfungen.