USA: Kalifornien pirscht vor bei der KI-Regulierung - auch im Staat NY gibt es Neuigkeiten
Gespeichert von Dr. Axel Spies am
Ein neuer Gesetzesentwurf über künstliche Intelligenz = KI (AB 331) wird gerade in Kalifornien auf Ausschussebene beraten. AB 331 betrifft Unternehmen („Anwender“) mit 25 oder mehr Mitarbeitern bzw. KI -Anwendungen mit Auswirkungen auf mindestens 1.000 Personen pro Jahr (Schwelle wird noch diskutiert).
Vorgesehen sind u.a. folgende Maßnahmen (derzeitige Liste):
- Verpflichtung zur Jährliche Folgenabschätzung ab dem 1.1.25, die Angaben darüber enthalten muss, wie ein automatisiertes Entscheidungsinstrument verwendet wird, welche Daten erhoben werden, welchen Zweck es verfolgt, welche Sicherheitsvorkehrungen getroffen werden, welche potenziellen nachteiligen Auswirkungen sich ergeben können, wie das Instrument von den Menschen genutzt werden kann und anderes.
- Interne Risikominimierung: Implementierung eines Governance-Programms mit angemessenen administrativen und technischen Sicherheitsvorkehrungen - insb. zur Vermeidung von algorithmischer Diskriminierung (näher definiert).
- Offenlegung: Jeweils eine öffentlich zugängliche Richtlinie, in der z.B. aufgeführt sein muss, wie das Unternehmen das Risiko einer illegalen Diskriminierung handhabt.
- Opt out: Wenn eine "Folge"-Entscheidung ausschließlich auf der Grundlage von KI getroffen wird, hat eine betroffene Person das Recht, sich dagegen zu entscheiden, wenn dies "technisch machbar" ist.
- Verbotene Nutzung der KI per Gesetz für jedwede Anwendung, die zu algorithmischer Diskriminierung beiträgt.
- Sanktionen: Strafen bis $10.000 pro Fall und getrennt davon Privatklagemöglichkeit.
Auch hier im US-Kongress wird das Thema KI-Regulierung diskutiert (Vorschlag von Sen. Schumer), die Bemühungen sind aber noch nicht so weit gediehen wie in Kalifornien.
Bestrebungen wie Italien, ChatGPT &Co. gleich ganz zu verbieten (im Blog hier) gibt es in Kalifornien derzeit nicht.
Was halten Sie von diesem auf Diskriminierungen fokussierten Ansatz?