ChatGPT&Co: Sind internationale freiwillige Verhaltensregeln (KI Pakt) eine Lösung?
von , veröffentlicht am 07.06.2023Über die hier im Blog diskutierte KI-Verordnung wird wahrscheinlich nächste Woche im EU Parlament abgestimmt. Dann geht es in die alles entscheidende, monatelange Verhandlungsphase (Trilog). Vieles ist beim Zeitplan und Inhalt der KI-Verordnung noch offen, aber sie wird realistischerweise kaum vor dem 01.01.2025 in Kraft treten – eine Ewigkeit in der neuen KI-Welt.
Deshalb gibt es hektische Aktivitäten in Brüssel: Die für das digitale Portfolio zuständige Kommissionsvizepräsidentin Vestager erklärte gegenüber Reportern am Ende des hochrangigen Treffens des EU-US-Handels- und Technologierats, dass sie sich mit der US-Regierung über die Einführung eines Verhaltenskodex für generative KI einig sei. Binnenmarktkommissar Breton hatte sich vorher ähnlich geäußert. Kommissionsvizepräsidentin Jourová ist auch an dem Thema für den Problemkreis Labels oder „Wasserzeichen“ für KI (im Blog diskutiert hier).
Unklar ist, was der „KI Pakt“ mit seinen freiwilligen Verhaltensregeln beinhalten soll und wer darin eingebunden werden soll (außer den USA und der EU z.B. GB, Japan und Kanada?). Das Ziel: Private Unternehmen müssten sich aus EU-Sicht in diesem Fall auf den risikobasierten Ansatz der KI-Verordnung und ihre Anforderungen für Anwendungen mit hohem Risiko verpflichten, insbesondere in Bezug auf Risikomanagement, Datenqualität, technische Dokumentation, Genauigkeit usw. Cybersicherheit. Das könnte attraktiv für diese Unternehmen sein, wenn sie dadurch Sonderregeln in einzelnen EU-Mitgliedsstaaten (wie letztens in Italien – siehe Blog) vermeiden können.
Was meinen Sie? Was sollte in diese Verhaltensregeln (KI Pakt) aufgenommen werden?
Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben
10 Kommentare
Kommentare als Feed abonnierenFreiweillige Verhaltensregeln können sinnvoll sein, wenn sie einen Kardinalfehler der EU KI-VO vermeiden helfen: Die Regelung für die Nutzer der KI UND für die Anbieter/Entwickler von generativer KI. Das sind verschiedene paar Schuhe. Eine andere Frage ist, ob die Datenschutzbehörden sich von freiwilligen Verhaltensregeln für KI beeindrucken lassen werden. Die werden ihr Ding weitermachen, schon aus Prestigegründen.
Ich höre, das es bei der KI VO im EU Parlament Verzögerungen und Ergänzungsanträge gibt. Der angestrebte KI Pakt der KOM macht nur Sinn, wenn alle wichtigen Staaten mitziehen, z.B. the BRICS Staaten. Ob diese Staaten den EU Ansatz der Regulierung mit den verschiedenen Risikostufen in der KI VO akzeptieren, ist völlig offen. Siehe zum Thema im Blog auch hier: https://community.beck.de/2023/05/12/stehen-chatgptco-nach-der-neuen-ki-...
Ach, wie sehr wünschte ich, daß im Kreis der Berliner Possenspieler wenigstens NATÜRLICHE Intelligenz einkehrte !
Morgen soll es zur Plenarabstimmung über die KI VO im Europäischen Parlament kommen. Der Trilogue könnte sich dann bis Ende des Jahres hinziehen.
Interessantes vom renommierten Brookings Institute hier gestern zur KI Regulierung:
"The challenge facing the U.S. Congress is to be as expansive and creative in their thinking about a new agency and its operations as the innovators of the digital revolution have been in the developing the creations necessitating such a body."
... Lektüre kann ich nur empfehlen.
KI/Arbeitswelt: Im Interview mit spiegel.de (Markus Becker/Michael Sauga) spricht EU-Sozialkommissar Nicolas Schmit über den kürzlich im EU-Parlament behandelten Entwurf einer Verordnung zur Regulierung von Künstlicher Intelligenz (KI). Die KI-Verordnung "beschäftigt sich hauptsächlich mit technologischen Risiken, nicht mit Arbeitnehmerrechten." Eine EU-Richtlinie zur Stärkung der Rechte von Beschäftigten bei Digitalplattformen, die über den Einsatz von Überwachungssystemen informieren und die KI von bestimmten Entscheidungsprozessen ausschließen soll, befinde sich indes bereits in Vorbereitung.
Kommentar zur KI VO in der FAZ. Auszug:
"Uneinigkeit herrscht hingegen darüber, was Künstliche Intelligenz eigentlich ist. Der Entwurf der Kommission fasst darunter Software, die „im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“. Diese Legaldefinition, die sich noch nicht mal die Mühe macht, zwischen „starker“ und „schwacher“ KI zu differenzieren, ist schon allein deshalb problematisch, weil selbstlernende Systeme unter Umständen von festgelegten Zielen abweichen können und damit nach dem Wortlaut aus dem Anwendungsbereich herausfielen."
Was halten Sie davon?
Künstliche Intelligenz: Die Sa-FAZ (Alexander Wulfers) stellt den derzeit auf EU-Ebene diskutierten Verordnungs-Vorschlag für einen AI-Act vor, der auf der Grundlage einer Risikoeinteilung AI-Anwendungen regeln soll. Besonders bedenkliche Anwendungen wie das in China praktizierte "Social Scoring" und (mit wenigen Ausnahmen) biometrische Gesichtserkennung in Echtzeit durch die Polizei sollen danach verboten werden. Anwendungsfelder, von denen weniger Gefahren ausgehen, sollen Transparenzstandards unterliegen. Die Entwickler generativer KI nach dem Vorbild von ChatGPT oder Stable Diffusion sollen in Zukunft unter anderem klar kennzeichnen müssen, wenn Inhalte von einer KI generiert wurden.
Neues aus dem Weißen Haus:
"Microsoft, Google and other leading artificial intelligence companies committed Friday to put new AI systems through outside testing before they are publicly released and to clearly label AI-generated content, the White House announced.
The pledges are part of a series of voluntary commitments agreed to by the White House and seven leading AI companies – which also include Amazon, Meta, OpenAI, Anthropic and Inflection – aimed at making AI systems and products safer and more trustworthy while Congress and the White House develop more comprehensive regulations to govern the rapidly growing industry. President Joe Biden will meet with top executives from all seven companies at the White House on Friday.
White House officials acknowledge that some of the companies have already enacted some of the commitments but argue they will as a whole raise “the standards for safety, security and trust of AI” and will serve as a “bridge to regulation.”
Quelle: https://www.cnn.com/2023/07/21/politics/white-house-artificial-intellige...
Details hier: https://www.whitehouse.gov/wp-content/uploads/2023/07/Ensuring-Safe-Secu...
Näheres zu der genannten freiwilligen Vereinbarung auf Deutsch jetzt im neuesten ZD Newsdienst: https://beck-online.beck.de/Dokument?vpath=bibdata%2Fzeits%2Fzdaktuell%2...