Link zum Video: https://www.youtube.com/watch?v=kEJrB5ysC2Q
Beim 33sten Chaos Communication Congress #33c3 in Hamburg hatte die Rechtsbelehrung ihre Live-Premiere. Da es uns viel Spaß gemacht hat auf der Bühne und mit dem Publikum zu diskutieren, wird es garantiert eine Wiederholung geben!
#33c3: #Rechtsbelehrung live zum Recht der KI, Bots & autonomer Systeme – 27.12, 18:30. @monoxyd und ich freuen uns über Euren Besuch! 🤖🎙🚀 pic.twitter.com/OK7wwoF6qx
— Thomas Schwenke (@thsch) December 23, 2016
Als Thema haben wir uns die „Roboterhaftung“ ausgesucht, also die Frage wer Schuld ist, wenn künstliche Intelligenzen (kurz „KIs“) Verträge schließen oder Menschen verletzen. Dabei haben wir uns zuerst Gedanken gemacht, woran man festmachen kann, ob eine KI einen eigenen Willen bildet. Für rechtliche Fragen ist der Grad der Autonomie maßgeblich, weswegen wir den Begriff „Autonomes System“ passender fanden als den kaum eingrenzbaren Begriff „KI“.
Danach haben wir darüber gesprochen, wem der Wille und die Handlungen der autonomen Systeme zuzurechnen sind. Wir fragten uns zudem, ob es sinnvoll ist neben juristischen Personen (z.B. GmbHs, AGs) auch autonomen Systemen per Gesetz eine eigne Rechtspersönlichkeit als „E-Personen“ zu verleihen.
Im Ergebnis kamen wir zu der Überzeugung, dass bisherige Haftungsregeln vor allem mit der fehlenden Abgrenzung von autonomen Systemen Schwierigkeiten haben werden. Denn anders als die romantische Vorstellung eines Roboters als Individuum, sind autonome Systeme untereinander vernetzt und tauschen Funktionen, Bibliotheken sowie Informationen aus. Mangels einer Kontur muss daher über eine gemeinsame Haftung der beteiligten Nutzer, Diensteanbieter, Hersteller, Programmierer oder gar eine Versicherungspflicht und Kollektivhaftung der Gesellschaft nachgedacht werden.
Wir bedanken uns beim Publikum, dem Sendezentrum, den Helfern (Engeln) vor Ort und wünschen Ihnen viel Spaß beim Zuhören. Wenn Sie unsere Ansichten teilen oder Ihnen widersprechen, freuen uns über Kommentare, Empfehlungen sowie Bewertungen bei ITunes!
Dieses Mal können Sie die Rechtsbelehrung zudem nicht nur hören sondern bei YouTube auch sehen.
- 00:00:00 – Vorstellung des Themas und warum Verträge und Schadensersatz relevanter sind, als die Bestrafung von KIs.
- 00:08:00 – Wir erklären den Unterschied zwischen automatischen und autonomen Systemen.
- 00:17:30 – Können autonome Systeme Verträge schließen? Wann kommen Verträge überhaupt zustande und warum können Maschinen keine wirksamen Willenserklärungen abgeben?
- 00:20:30 – Bedarf es einer E-Person als Ergänzung zu natürlichen Personen (= Menschen) und juristischen Personen (z.B. GmbHs) ?
- 00:28:30 – Können autonome Systeme rechtlich nicht einfach wie Sklaven behandelt werden?
- 00:35:00 – Weder Bote, noch Vertreter… für wen handelt die KI dann? Die Juristen finden immer einen Weg.
- 00:52:00 – Haftung von autonomen Systemen für Sach- und Menschenschäden und wie man sie versichert.
- 00:56:00 – Warum die Problematik des Nachweises von Kausalitäten und der Schuld bei autonomen Systemen die Privatsphäre erheblich belasten könnte.
- 01:00:00 – Haften wir am Ende alle?
Erwähnte Folgen
Weiterführende Links:
- ENTWURF EINES BERICHTS mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (Rechtsausschuss des Europäischen Parlaments, 2015/2103(INL))
- Providing for Autonomous Electronic Devices in the Electronic Commerce Act 1999 von Dr. Ian R. Kerr (der Beitrag ist zwar schon knapp 20 Jahre alt, enthält aber bereits viele der relevanten Fragen, die heute praktisch relevant werden.)
- The electronic agent: a legal personality under German Law von Prof. Eberhard Zehendner
- Shopping Agents and Their Legal Implications Regarding Austrian Law von Dr. Oliver van Haentjens
Kerstin
29. Januar 2017 at 11:56Hatten wir das Problem nicht schonmal „in klein“, als Handys langsam ins Internet kamen (aber nicht per WLAN, sondern nur per Handynetz) und dann manche Leute riesige Rechnungen hatten, weil ihre Handy „von selbst“ irgendwas runtergeladen haben?
Auch hier ist die Grenze von „automatisch“ zu „autonom“ ja schwer zu ziehen – insbesondere wenn ich als Nutzer gar nicht weiß, wie viele Updates denn da so kommen.
Simon
30. März 2017 at 23:52Ich bin noch nicht mit dem Podcast durch, aber habe eine Frage zum Abschalten der Systeme:
Ja, das System an sich hat natürlich (noch) keine Gefühle aber könnte es nicht dennoch wirksam sein, das System bei einem Fehlverhalten zu verbieten und zur Abschaltung durch den Betreiber zu erzwingen? Wenn ein Unternehmen z.B. 10 Milliarden in etwas investiert hat und bei einem Fehlverhalten dazu gezwungen wird das gesamte System mit all der Forschung etc. in den Papierkorb zu befördern und quasi von 0 erneut anzufangen, könnte dies schon eine Motivation sein sehr robust zu entwickeln. Was denkt ihr?
Lg,
Simon