In dieser Episode verbinden wir anlässlich unserer 150. Folge das Angenehme mit dem Praktischen, bzw. einen Bootsausflug mit einer Podcastaufnahme. Denn schon am 02. August 2026 treten die ersten der neuen KI-Kennzeichnungspflichten des AI Acts in Kraft, die wir euch zuvor vorstellen möchten.
Es geht um die Kennzeichnung von Deepfakes, KI-Texten und KI-Inhalten im Allgemeinen sowie die Transparenz der Interaktionen mit KI-Systemen. Wir erläutern, wer welche Kennzeichnungspflichten beachten muss, wie sie umsetzbar sind und wann Bußgelder und Abmahnungen drohen.
Dabei stoßen wir auch auf Lücken der Gesetzgebung, die uns ein bisschen am Erfolg der neuen Transparenzregelungen zweifeln lassen. Vielmehr klingt es, als ob es eher eine Abmahnquelle denn ein Schutz vor Täuschung durch KI-Inhalte sein wird.
Aber überzeugt euch selbst, hört rein und lasst uns eure Meinung zu den neuen Transparenzpflichten als Kommentar da.
Ahoi und viel Vergnügen beim Hören!
Kapitelmarken
- 00:00:00 – Begrüßung, Location und Einführung ins Thema.
- 00:04:00 – Anbieter, Betreiber und Privatpersonen, wer muss KI-Inhalte kennzeichnen und für wen gelten Ausnahmen?
- 00:12:20 – Welche Arten von KI-Inhalten müssen generell gekennzeichnet werden?
- 00:16:00 – Welche Kennzeichnungspflichten treffen die KI-Anbieter und wie wird die Interaktion mit der KI gekennzeichnet?
- 00:28:50 – Kennzeichnungspflichten der Anbieter synthetischer Inhalte, also von KI-Bildern, KI-Videos, KI-Audio und KI-Texten.
- 00:42:00 – Bestehen Kennzeichnungspflichten für KI-Agenten?
- 00:50:00 – Welche Kennzeichnungspflichten treffen die Betreiber von KI-Systemen, also geschäftliche Nutzer?
- 00:53:00 – Was sind Deepfakes und wann müssen KI-Deepfakes gekennzeichnet werden?
- 01:00:00 – Muss der politisch motivierte Einsatz von Deepfakes gekennzeichnet werden?
- 01:04:30 – KI-Kennzeichnung von Produktbildern.
- 01:12:00 – Wann müssen KI-Texte gekennzeichnet werden und wie lässt sich die Kennzeichnung durch redaktionelle Kontrolle vermeiden?
- 01:19:00 – Erleichterungen bei der Kennzeichnung von künstlerischen, kreativen, satirischen, fiktionalen und analogen Deepfakes.
- 01:21:20 – Muss jemand, der fremde ungekennzeichnete Deepfakes oder Texte verbreitet, die KI-Kennzeichnung nachholen? Dürfen KI-Kennzeichnungen entfernt werden?
- 01:27:00 – Wann, wo und mit welchem Inhalt muss die KI-Kennzeichnung umgesetzt werden? Müssen die von der EU vorgeschlagenen Hinweise verwendet werden?
- 01:34:00 – Bußgelder und Abmahnungen, was droht bei Verstößen gegen die Kennzeichnungspflichten des AI Acts?
Weiterführende Links:
- „Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen“ von Dr. Schwenke.
- Definition Deepfake im Artikel 3 Nr. 60 KI-Verordnung (AI Act).
- Die besprochnenen Kennezichnungspflichten im Artikel 50 Abs. 1 bis 5 KI-Verordnung (AI Act).
- Leitlinien der EU zu Transparenzpflichten.
- Verhaltenskodex der EU zur Transparenz von KI-generierten Inhalten.
- Icon-Vorschläge der EU.
Phil
28. Juli 2026 at 11:46Danke für die Folge – zu zwei Punkten ein Hinweis, weil sie in der Praxis viel ausmachen.
1. Die Aussage, nur Deepfakes realer Menschen seien kennzeichnungspflichtig, greift zu kurz. Art. 3 Nr. 60 KI-VO spricht zwar von „wirklichen Personen“, die Kommission legt das in ihrer FAQ zu den finalen Leitlinien vom 20.07.2026 aber sehr weit aus. Von den drei kumulativen Kriterien verlangt das zweite („Existing“) lediglich, dass das simulierte Subjekt jemandem oder etwas ähnelt, das existiert, plausibel existieren kann oder plausibel hätte existieren können. Vollständig erfundene, aber fotorealistische Personen – virtuelle Models, synthetische Testimonials – fallen damit in den Anwendungsbereich.
Die Begrenzung passiert stattdessen über das dritte Kriterium, den falschen Authentizitätseindruck: maßgeblich sind Ähnlichkeitsgrad, inhaltliche Aussage, Einsatzkontext und die Erwartungshaltung des konkret vorhersehbaren Publikums. Deshalb sind eine über den Eiffelturm fliegende Sphinx oder sprechende Cartoon-Mäuse in der Werbung nach den Beispielen der Leitlinien keine Deepfakes, ein realistisches Werbevideo mit einer erfundenen Person aber sehr wohl.
2. Nicht erwähnt wurde der Stichtag: Vor dem 02.08.2026 erzeugte Inhalte müssen nach den finalen Leitlinien nicht nachträglich gekennzeichnet werden – bei Bild, Audio und Video lösen auch die erstmalige Veröffentlichung, das unveränderte Online-Lassen oder das Bewerben eines Altinhalts keine Offenlegungspflicht aus. Zwei Einschränkungen dazu: Bei Texten zu Angelegenheiten von öffentlichem Interesse kommt es dagegen auf die Veröffentlichung an, ein alter, aber neu veröffentlichter Text fällt also unter Art. 50 Abs. 4. Und jeder erneute KI-Eingriff nach dem Stichtag löst eine neue Prüfung aus. Die Kommission empfiehlt die freiwillige Kennzeichnung von Altinhalten ausdrücklich.
Zur Fairness: Leitlinien und FAQ sind rechtlich unverbindlich, verbindlich ausgelegt wird erst durch den EuGH. Für die Praxis ist die Kommissionslinie bis dahin aber der maßgebliche Bezugspunkt – und die geht klar in die weite Richtung.
Quelle: https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
Jens
1. August 2026 at 0:20Bei manchen Diskussionen hätte eine Erinnerung daran, dass die KI-Verordnung vom Charakter her Produktsicherheitsrecht ist, vielleicht schneller einsichtig machen können, warum ein bestimmtes Thema nicht in dieser (sondern woanders) geregelt ist.