Mit der im August 2024 in Kraft getretenen KI-Verordnung der EU (kurz „KI-VO“, englisch: „AI Act“) übernimmt die Europäische Union eine Vorreiterrolle bei der Regulierung von Künstlicher Intelligenz.
Die KI-VO betrifft nahezu alle, die KI-Systeme entwickeln oder nutzen – ob Unternehmen, Freiberufler*innen, Behörden oder in bestimmten Fällen sogar Privatpersonen. Es lohnt sich also, einen genaueren Blick auf die neuen Regelungen zu werfen: Welche KI-Systeme sind verboten? Welche gelten als so risikobehaftet, dass sie strengen Prüfverfahren unterzogen werden müssen? Und wann müssen Ergebnisse von KI-Systemen als solche kenntlich gemacht werden? Zudem sprechen wir über die neuen Bußgelder, die sogar noch höher ausfallen können als die der DSGVO.
Dabei unterstützt uns als Expertin Aurea Verebes, die als Datenschutzbeauftragte und Auditorin Unternehmen berät, die KI bereits einsetzen oder dies in Zukunft vorhaben.
Wir bedanken uns herzlich bei Aurea für ihre Unterstützung und Expertise – und wünschen Euch viel Spaß beim Zuhören!
Zeitmarken
- 00:00 – Vorstellung des Themas und unserer Gästin.
- 05:00 – Wer ist von der KIVO betroffen?
- 20:00 – Was ist eine KI?
- 29:00 – Risikokategorien der KI-Verordnung.
- 34:00 – Was fällt unter die Hochrisiko-KI?
- 48:00 – Ab jetzt muss auch das Urheberrecht beachtet werden.
- 51:00 – Fußt alles auf Vertrauensbasis?
- 1:01:00 – Anforderungen an KI-Entwickler und Betreiber.
- 1:11:00 – Emotionserkennung im Bewerbungsgespräch.
- 1:20:00 – Haftung für KI-Schäden und KI-Kompetenz.
- 1:31:00 – Sanktionen und Bußgelder bei Verstoß gegen die KI-Verordnung.
- 1:36:00 – Kennzeichnung von KI-Inhalten und Deepfakes.
- 1:42:00 – ISO 42001 als Prüfungs-Rahmen für die KI-Prüfung.
Folgen der RBL zum Thema KI
- Chat GPT und KI vs. Urheberrecht – KI-Recht #1 – Rechtsbelehrung 113.
- Datenschutz und Deepfakes – KI-Recht #2 – Rechtsbelehrung 114.
- EU AI-Act: Bahnbrechende KI-Regulierung oder jetzt schon überholt? – KI-Recht #3 – Rechtsbelehrung 115
Weiterführende Links
- KI – Praxisleitfaden für Datenschutzbeauftragte von Aurea Verebes.
- KI-Verordnung (KI-VO) – Ratgeber für Unternehmen mit FAQ und Checklisten von Thomas Schwenke.
Andreas Unkelbach
29. Dezember 2024 at 14:46Vielen Dank für diese Folge und den Hinweis auf die Umsetzung von Art. 4 KI-VO in Richtung Kompetenznachweis für Beschäftigte beim Einsatz von KI ab 02/2025. Hier bin ich sehr neugierig, wie dies dann insbesondere im Bereich öffentliche Verwaltung umgesetzt wird. Für die Nutzung von KI in Studium und Lehre gibt es immerhin immer mehr Hochschulen die entsprechende Richtlinien verfassen (zum Beispiel https://www.thm.de/site/hochschule/zentrale-bereiche/pruefungsamt/ki-und-pruefungen.html ) und ich bin sehr gespannt, ob es vergleichbares dann auch in der Verwaltung geben wird. Danke auch dafür, dass ihr noch weitere Quellen zur Vertiefung verlinkt und euch einen erholsamen und guten Jahreswechsel.
Mich erstaunt immer wieder, wie viele Fragen, die im Vorfeld vorhanden waren in euren Podcast beantwortet werden und gleichzeitig neue Fragezeichen und Anregungen mitgenommen werden können.
Entsprechend bin ich gerade sehr froh die freie Zeit dafür nutzen zu können einige Folgen noch nachhören zu können :-).
Viele Grüße
Andreas