KI Act: Definition umstritten. Was ist überhaupt AI (KI)?

von Dr. Axel Spies, veröffentlicht am 31.08.2023
Rechtsgebiete: WirtschaftsrechtDatenschutzrechtIT-Recht5|2801 Aufrufe

Wie wir schon im Blog diskutiert haben, befindet sich der AI Act noch in der Verhandlungsphase (Trilog). Nach wie vor besteht erhebliche Unklarheit darüber, welche spezifischen KI-Systeme überhaupt verboten werden sollen. Das Europäische Parlament ("EP") möchte eine breite Liste von verbotenen KI-Systemen, einschließlich Software, die Gesichtsbilder aus dem Internet verarbeitet, während der Rat eine engere Liste bevorzugt.

Vermutlich noch schwerwiegender: Auch die Definition von KI selbst ist umstritten. In Europa wurden zahlreiche Studien zur Definition von KI durchgeführt (Beispiel aus Cambridge hier). Juristen sind selbstredend besonders besorgt darüber, dass die mangelnde Klarheit der Definition die Anwendung des AI Acts erschwert. Die Industrie befürchtet, dass die Definition von KI zu weit gefasst sein könnte und auch so einfache Dinge wie simple Berechnungen in einer Tabellenkalkulation einschließt. Auf der anderen Seite des Spektrums befinden sich diejenigen, die befürchten, dass eine zu genaue Definition den AI Act bei einem schnellen technologischen Wandel aushebelt.

Positionen der EU-Institutionen:

- Die von der Europäischen Kommission vorgeschlagene Definition für KI umfasst eine Reihe von Techniken und Anwendungen, die im Anhang der Verordnung aufgeführt sind.

- Sowohl der Rat als auch das EP haben die Definitionen jedoch in den Hauptteil des AI Act verschoben. Das EP hat in seiner Version versucht, die Definition des Begriffs "KI-System" in Artikel 3 mit der von der OECD entwickelten KI-Definition in Einklang gebracht.

- Die im EU-Rat vertretenen EU-Mitgliedstaaten sind eher besorgt, dass das AI Act zu weit gefasst ist und herkömmliche Softwareanwendungen abdeckt. Der Rat versucht, die Definition auf Systeme zu beschränken, die maschinelles Lernen, Logik oder wissensbasierte Ansätze verwenden.

Für Art. 3 (Definitionen) derzeit vorgeschlagene Formulierung:

Kommission:(1)  ‘artificial intelligence system’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with;”

EP: “(1)  ‘‘artificial intelligence system’ (AI system) means a machine-based system that is designed to operate with varying levels of autonomy and that can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions, that influence physical or virtual environments;”

Was halten Sie von diesen Definitionen?

 

Diesen Beitrag per E-Mail weiterempfehlenDruckversion

Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben

5 Kommentare

Kommentare als Feed abonnieren

Das Europäische Parlament schraubt auch an anderen Definitionen im KI Akt rum: Dazu gehören die Bezeichnung der Nutzer von KI-Systemen als "Anwender" sowie die Hinzufügung neuer Definitionen für "betroffene Personen", "Basismodell" und "KI-System für allgemeine Zwecke". 

Die Crux ist: Der KI Akt tritt frühestens 2025 in Kraft. Entweder bleibt der KI Akt bei den Definitionen vage, damit er neue Entwicklungen einfangen kann oder er läuft an der rasanten Entwicklung vorbei.

Siehe Nachricht heute: Google zu KI-Wasserzeichen. https://edition.cnn.com/2023/08/30/tech/google-ai-images-watermark/index.html 

0

Die Definition in der AI Bill of Rights des Weißen Hauses ist noch vager: 

"This framework applies to (1) automated systems that (2) have the potential to meaningfully impact the American public’s rights, opportunities, or access to critical resources or services."

https://www.whitehouse.gov/ostp/ai-bill-of-rights/#applying

 

Der Vollständigkeit halber: hier die OECD Definition:

"A machine-based system that is capable of influencing the environment by making recommendations,
predictions or decisions for a given set of objectives. It does so by utilising machine and/or human-based
inputs/data to:
a. Perceive real and/or virtual environments.
b. Abstract such perceptions into models manually or automatically.
c. Use model interpretations to formulate options for outcomes."

Quelle: 2019 OECD Digital Economy, Scoping the OECD AI principles: Deliberations of the expert
group on artificial intelligence at the OECD 

Überarbeitete OECD Definition:  “An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that [can] influence physical or virtual environments.”

Da die neue OECD-Definition der künstlichen Intelligenz nun offiziell ist, wird erwartet, dass sie in das Gesetz über künstliche Intelligenz der EU aufgenommen wird. Allerdings haben die politischen Entscheidungsträger der EU die überarbeitete Definition bereits Mitte Oktober erhalten, und bisher wurde noch kein interner Text, der die Änderung widerspiegelt, in Umlauf gebracht.

Quelle: https://www.euractiv.com/section/artificial-intelligence/news/oecd-updat...

 

 

Kommentar hinzufügen