Hätte der Terminator juristisch verhindert werden können? Mit dieser Frage steigen wir in ein Thema ein, das längst keine Science-Fiction mehr ist. Denn wenn Krisen und Kriege eines beschleunigen, dann die Entwicklung neuer Kriegstechnologien, und dazu gehört heute auch Künstliche Intelligenz.

KI-Waffen und autonome Waffensysteme sind dabei nur die vorläufig letzte Stufe einer langen Linie. Vom Mittelalter über die Schusswaffe bis zum Kampfflugzeug hat sich die Distanz zwischen Mensch und Schlachtfeld immer weiter vergrößert. Die Entscheidung über Leben und Tod an eine Maschine zu delegieren, ist insofern die konsequente, aber rechtlich wie ethisch hochbrisante Fortsetzung dieser Entwicklung.

Gemeinsam mit unserem Gast Nils Biedermann klären wir, was autonome Waffensysteme überhaupt ausmacht, ob es sie bereits gibt und wo das Völkerrecht beim Einsatz von KI im Krieg Grenzen zieht. Wir sprechen über die menschliche Kontrolle (Human in, on und out of the loop), über die Verantwortung für maschinell begangene Verbrechen, über die Anwendbarkeit des AI Act und darüber, ob der Einsatz von KI-Waffen mit der Menschenwürde vereinbar ist.

Wir bedanken uns herzlichst für den Besuch und den spannnenden, wenn auch beängstigenden Blick in die Entwicklung von KI-Waffen.

Euch wünschen wir viel Spaß beim Hören und freuen uns auf Eure Kommentare!

Kapitelmarken

• 00:00:00 – Einstieg ins Thema und Vorstellung des Gastes Nils Biedermann.
• 00:05:00 – Verbotene Waffensysteme.
• 00:09:35 – Was sind autonome Waffensysteme (Human in/on/out of the loop)?
• 00:15:45 – Gibt es solche vollautonomen Systeme bereits?
• 00:18:45 – Müssen autonome Waffensysteme tödlich sein, um als solche zu gelten?
• 00:21:00 – Wie sieht der internationale Konsens über den Einsatz autonomer KI-Waffen aus und wie
• wird er überprüft?
• 00:35:00 – Ist es erforderlich, dass ein Mensch ein KI-System kontrolliert?
• 00:37:15 – Ist es praktisch realistisch und möglich, autonome Waffensysteme zu verbieten?
• 00:42:00 – Wer ist für die von der KI begangenen Verbrechen verantwortlich?
• 00:50:00 – Senkt der Einsatz von KI die Hemmschwelle, andere Menschen zu töten?
  00:53:00 – Ist der AI Act (die KI-Verordnung) auf KI-Waffen anwendbar?
• 00:54:00 – In welche Richtung entwickelt sich die Bundeswehr und was steht im Konzeptionspapier des Bundesverteidigungsministeriums?
• 00:57:45 – Widerspricht der Einsatz von KI-Waffen nicht der Menschenwürde?
• 01:01:00 – Wie sieht die künftige Entwicklung aus?
• 00:08:45 – Butlerian Jihad.