EU Kommission: Verschuldensunabhängige Haftung für KI?
von , veröffentlicht am 29.09.2022Die EU-Kommission hat gestern neue KI-Haftungsvorschriften in Form einer neuen EU-Produkthaftungs-Rili vorgeschlagen:
In der Presseerklärung heißt es u.a.:
"Der Zweck der Richtlinie über KI-Haftung besteht darin, einheitliche Regeln für den Zugang zu Informationen und die Erleichterung der Beweislast im Zusammenhang mit durch KI-Systeme verursachten Schäden festzulegen, indem ein umfassenderer Schutz für Opfer (sowohl Einzelpersonen als auch Unternehmen) eingeführt und der KI-Sektor durch Stärkung der Garantien gefördert wird. Durch die Richtlinie werden bestimmte Vorschriften für Ansprüche, die nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen, in Fällen, in denen Schäden durch Fehlverhalten verursacht werden, harmonisiert. Dies umfasst beispielsweise Verletzungen der Privatsphäre oder durch Sicherheitsprobleme verursachte Schäden. Dank der neuen Vorschriften wird es beispielsweise leichter, Schadensersatz zu erhalten, wenn jemand in einem Einstellungsverfahren, bei dem KI-Technologie zum Einsatz kam, diskriminiert wurde.
Mit der Richtlinie wird das rechtliche Verfahren für Opfer vereinfacht, wenn es darum geht, nachzuweisen, dass das Verschulden einer Person zu einem Schaden geführt hat. Erreicht wird dies durch die Einführung von zwei wesentlichen Elementen: Erstens werden in Fällen, in denen ein entsprechendes Verschulden festgestellt wurde und nach vernünftigem Ermessen von einem ursächlichen Zusammenhang mit der KI-Leistung ausgegangen werden kann, mit der so genannten „Kausalitätsvermutung“ die Schwierigkeiten der Opfer behoben, detailliert erklären zu müssen, wie der Schaden durch ein bestimmtes Verschulden oder eine bestimmte Unterlassung verursacht wurde; dies kann bei dem Versuch, komplexe KI-Systeme zu verstehen und sich darin zurechtzufinden, besonders schwierig sein. Zweitens werden die Opfer über mehr Instrumente verfügen, um rechtliche Entschädigung zu verlangen, indem in Fällen, in denen Hochrisiko-KI-Systeme betroffen sind, ein Recht auf Zugang zu Beweismitteln im Besitz von Unternehmen und Anbietern eingeführt wird."
Den englischen RiLi- Vorschlag selbst findet man hier: https://single-market-economy.ec.europa.eu/document/3193da9a-cecb-44ad-9...
Was halten Sie davon? Wie wirkt sich z.B. die Black-Box Problematik der KI auf die Haftung aus?
(Lesenswert dazu Oechsler: Die Haftungsverantwortung für selbstlernende KI-Systeme NJW 2022, 2713.)
Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben
2 Kommentare
Kommentare als Feed abonnierenDie vorgeschlagene Kausalitätsvermutung ist vermutlich nicht viel wert. In dem wieder mal nur auf engisch geposteten "Proposal for a Directive on adapting non contractual civil liability rules to artificial intelligence" heißt es z.B. in Art. 4:
"In the case of a claim for damages against a provider of a high-risk AI system subject to the requirements laid down in chapters 2 and 3 of Title III of [the AI Act] or a person subject to the provider’s obligations [...], the condition of paragraph 1 letter (a) shall be met only where the complainant has demonstrated that the provider or, where relevant, the person subject to the provider’s obligations, failed to comply with any of the following requirements laid down in those chapters, taking into account the steps undertaken in and the results of the risk management system:
(a) the AI system is a system which makes use of techniques involving the training of models with data and which was not developed on the basis of training, validation and testing data sets that meet the quality criteria referred to in [...];
(b) the AI system was not designed and developed in a way that meets the transparency requirements laid down in [...];
(c) the AI system was not designed and developed in a way that allows for an effective oversight by natural persons during the period in which the AI system is in use pursuant to [...];
(d) the AI system was not designed and developed so as to achieve, in the light of its intended purpose, an appropriate level of accuracy, robustness and cybersecurity pursuant to [...]; or
(e) the necessary corrective actions were not immediately taken to bring the AI system in conformity with the obligations laid down in [...] or to withdraw or recall the system, as appropriate, pursuant to [...].
Über diese Hürde muss der Kläger erst einmal springen. Und dann gelten Abs. 4 und evtl. 5:
4. In the case of a claim for damages concerning a high-risk AI system, a national court shall not apply the presumption laid down in paragraph 1 where the defendant demonstrates that sufficient evidence and expertise is reasonably accessible for the claimant to prove the causal link mentioned in paragraph 1.
5. In the case of a claim for damages concerning an AI system that is not a high-risk AI system, the presumption laid down in paragraph 1 shall only apply where the national court considers it excessively difficult for the claimant to prove the causal link mentioned in paragraph 1.
Es wäre nicht das erste mal, daß die Politk mit einer Regelung zu einer angeblich "verschuldensunabhängigen Haftung", um Bürger und Wähler die wegen unübersehbaren Risiken von technischen Neuerungen beunruhigt sind, zu beruhigen. Auch in Zusammenhang mit Bergbauschäden (Bergschäden), und in Zusammenhang mit der Einführung der Atomkraft in Deutschland vor gut 60 Jahren, oder mit der Etablierung von Geothermie in Baden-Württemberg vor gut 10 Jahren, beruhigte der Gesetzgeber die besorgten Bürger damit, daß die Betreiber verschuldensunabhängig haften würden. Damit gaukelt der Gesetzgeber den Bürgern eine scheinbare Sicherheit vor, während es in der Realität aber leider keine 100 % tige Sicherheit gibt. Außerdem haben Geschädigte in Deutschland ja ganz allgemein und fast immer das Problem, daß die Versicherungen meistens nicht die Schäden nicht vollständig ersetzen, sondern meist 50 % bis 90 % Abzüge machen, etwa unter Berufung auf sogenannte "wirtschaftliche Totalschäden" oder "Abzug alt für neu", während es in den USA meistens eher umgekehrt ist, also der Schädiger nicht nur den vollen Schaden ersetzen muss, sondern quasi zur Bestrafung auch noch eine Überkompensation aufgebrummt bekommt. Dennoch gehen in den USA die Versicherungsunternehmen nicht pleite, und die deutschen Versicherungsunternehmen stehen im Vergleich wirtschaftlich wohl auch nicht besser da.