Haftung und Vertrauen

Wer haftet (jetzt und in Zukunft) für KI? Wer ist verantwortlich?

Künstliche Intelligenz und autonome Roboter sind zwar mittlerweile sehr weit entwickelt, aber noch lange nicht perfekt oder unfehlbar. Wer haftet nun also, wenn ein autonom fahrendes Auto einen Unfall baut oder ein KI-basierter OP-Roboter einen Fehler macht? Muss hierfür die Rechtsordnung überdacht werden? Braucht es etwa eine eigene Rechtspersönlichkeit, z.B. die „elektronische Person“ (e-Person)?

Zum Thema Haftung und künstliche Intelligenz wieder eine kurze rechtliche Stellungnahme von Prof. Dr. Oliver Ehret, Professor für Wirtschaftsprivatrecht, Internationales Handels- und Wirtschaftsrecht an der Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt.

Oliver Ehret

Kann man KI vertrauen?

Über die Haftung für potentielle Schäden hinaus: Würden Sie, Herr Jun, einer KI vertrauen?

💡 Ideen um KI vertrauenswürdiger zu machen

Explainable AI

Eine mögliche Lösung zur Herstellung von Nachvollziehbarkeit und Transparenz wäre die schon angesprochene Explainable AI.

(Bürger-)Recht auf Transparenz

Denkbar ist aber auch ein explizites gesetzliches Recht des Anwenders darauf zu wissen, wie die Algorithmen funktionieren. Also ein Recht auf einen informationellen Zugang zu bzw. die Aufklärung über die Faktoren, die Logik und die Techniken, die das Ergebnis hervorgebracht haben.

(Bürger-)Recht auf eine menschliche Letztentscheidung

Zusätzlich könnte ein Recht auf eine endgültige Entscheidung durch eine natürliche Person etabliert werden. Besonders relevant wird dies im rechtlichen, medizinischen aber auch beruflichen Kontext, wo ein solches Recht die generelle Rechtssicherheit für Bürger:innen erhöhen würde.

Code of Conduct für Entwickler:innen

Es gibt Ideen zu einer Art Hippokratischen Eid für Softwareentwickler:innen, eine fachspezifische Standesethik (Code of Conduct). In jedem Fall sollten Programmierer:innen in ethischen Fragen profund geschult werden.

Corporate-Digital-Responsibility-Strategie

Außerdem wird eine Verpflichtung der Hersteller und Betreiber von KI-Systemen zur Übernahme von Verantwortung für die von ihnen hergestellten oder betriebenen KI-Systeme, inklusive der durch die Systeme verursachten Schäden gefordert. Darüber hinaus sollten die Anbieter eine ethisch orientierte Corporate-Digital-Responsibility-Strategie etablieren, um z.B. sicherzustellen, dass ihre KI-Systeme keine unfairen Vorurteile widerspiegeln oder unzulässige diskriminierende Entscheidungen treffen.

Diese und weitere Ideen finden Sie auch im „Kompass: Künstliche Intelligenz – Plädoyer für einen aufgeklärten Umgang“ der Charta digitale Vernetzung als normative Eckpunkte für ein potentielles Internet- und Datengesetz.

Spannende Szenarien für eine fernere Zukunft stellen Joachim Reinhart und Christian Greiner in ihrem Whitepaper (ab Seite 22) „Künstliche Intelligenz – eine Einführung: Grundlagen, Anwendungsbeispiele und Umsetzungsstrategien für Unternehmen“ vor. Dieses können Sie bei Interesse hier abrufen.

💭 Welche der angesprochenen Ideen finden Sie persönlich wichtig, sinnvoll und zielführend?

Abschluss

Sie haben Ihr viertes Trainingsmodul geschafft! Wir haben uns vor allem mit heutigen Anwendungen der KI und möglichen Zukunftsszenarien beschäftigt. Dabei sind wir z.B. auf Überlegungen bzgl. Haftung und Urheberschaft von KI eingegangen und haben uns auch mit der Vertrauenswürdigkeit künstlicher Intelligenz beschäftigt. An dieser Stelle möchte ich mich auch noch einmal ganz herzlich bei Chan-jo Jun, Prof. Dr. Christian Janiesch, Prof. Dr. Rüdiger Pryss und Prof. Dr. Oliver Ehret für die Unterstützung bedanken!

Ich freue mich, wenn Sie auch am nächsten Modul teilnehmen.

Quellen

  1. Brynjolfsson, E., & Mitchell, T. (2017). What Can Machine Learning Do? Workforce Implications. Science, 358(6370), 1530. https://doi.org/10.1126/science.aap8062
  2. Morin, A. (2019, October 4). Künstliche Intelligenz und Musik: Wenn Computer komponieren. BR Klassik. Retrieved June 6, 2020 from https://www.br-klassik.de/aktuell/news-kritik/musik-kuenstliche-intelligenz-computer-100.html
  3. Rack, F., & Vettermann, O. (2019, February 13). KI-Kunst und Urheberrecht – Die Maschine als Schöpferin? Telemedicus e.V. Retrieved June 6, 2020 from http://tlmd.in/a/3353
  4. Reinhart, J., & Greiner, C. (2019). Whitepaper Künstliche Intelligenz: Grundlagen, Anwendungsfelder und Umsetzungsstrategien.

Last updated on Apr 11, 2022