Wie wir schon im Blog diskutiert haben, befindet sich der AI Act noch in der Verhandlungsphase (Trilog). Nach wie vor besteht erhebliche Unklarheit darüber, welche spezifischen KI-Systeme überhaupt verboten werden sollen. Das Europäische Parlament ("EP") möchte eine breite Liste von verbotenen KI-Systemen, einschließlich Software, die Gesichtsbilder aus dem Internet verarbeitet, während der Rat eine engere Liste bevorzugt.

Vermutlich noch schwerwiegender: Auch die Definition von KI selbst ist umstritten. In Europa wurden zahlreiche Studien zur Definition von KI durchgeführt (Beispiel aus Cambridge hier). Juristen sind selbstredend besonders besorgt darüber, dass die mangelnde Klarheit der Definition die Anwendung des AI Acts erschwert. Die Industrie befürchtet, dass die Definition von KI zu weit gefasst sein könnte und auch so einfache Dinge wie simple Berechnungen in einer Tabellenkalkulation einschließt. Auf der anderen Seite des Spektrums befinden sich diejenigen, die befürchten, dass eine zu genaue Definition den AI Act bei einem schnellen technologischen Wandel aushebelt.

Positionen der EU-Institutionen:

- Die von der Europäischen Kommission vorgeschlagene Definition für KI umfasst eine Reihe von Techniken und Anwendungen, die im Anhang der Verordnung aufgeführt sind.

- Sowohl der Rat als auch das EP haben die Definitionen jedoch in den Hauptteil des AI Act verschoben. Das EP hat in seiner Version versucht, die Definition des Begriffs "KI-System" in Artikel 3 mit der von der OECD entwickelten KI-Definition in Einklang gebracht.

- Die im EU-Rat vertretenen EU-Mitgliedstaaten sind eher besorgt, dass das AI Act zu weit gefasst ist und herkömmliche Softwareanwendungen abdeckt. Der Rat versucht, die Definition auf Systeme zu beschränken, die maschinelles Lernen, Logik oder wissensbasierte Ansätze verwenden.

Für Art. 3 (Definitionen) derzeit vorgeschlagene Formulierung:

Kommission: “(1)  ‘artificial intelligence system’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objectives, generate outputs such as content, predictions, recommendations, or decisions influencing the environments they interact with;”

EP: “(1)  ‘‘artificial intelligence system’ (AI system) means a machine-based system that is designed to operate with varying levels of autonomy and that can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions, that influence physical or virtual environments;”

Was halten Sie von diesen Definitionen?