Italiens Datenschutzbehörde blockiert ChatGPT
von , veröffentlicht am 31.03.2023Hier ein Auszug aus der übersetzten ital. Pressemitteilung der Behörde (il Garante):
"In der Anordnung stellt il Garante fest, dass die Nutzer und alle interessierten Parteien, deren Daten von OpenAI gesammelt werden, nicht informiert werden, vor allem aber, dass es keine Rechtsgrundlage gibt, die die massive Sammlung und Speicherung personenbezogener Daten zum Zwecke des "Trainings" der Algorithmen, die dem Betrieb der Plattform zugrunde liegen, rechtfertigt.
Wie die durchgeführten Überprüfungen außerdem zeigen, stimmen die von ChatGPT bereitgestellten Informationen nicht immer mit den tatsächlichen Daten überein, was zu einer ungenauen Verarbeitung personenbezogener Daten führt.
Obwohl sich der Dienst laut den von OpenAI veröffentlichten Bedingungen an Personen über 13 Jahren richtet, weist die Behörde darauf hin, dass das Fehlen eines Filters zur Überprüfung des Alters der Nutzer dazu führt, dass Minderjährige Antworten erhalten, die im Hinblick auf ihren Entwicklungsstand und ihr Selbstbewusstsein völlig ungeeignet sind."
Was halten Sie von diesen Argumenten und werden die deutschen Datenschutzbehörden jetzt nachziehen?
Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben
20 Kommentare
Kommentare als Feed abonnierenEher politisches Geklingel - wie will "il Garante" das nachhalten, zumal sich OpenAI sich gar nicht in Italien befindet?
Es wäre besser, die Datenschutzbehörden würden sich erst einmal abstimmen statt Schnellschüsse zu machen, die dann vor keinem Gericht Bestand haben.
Eine Rechtsgrundlage für das Training findet sich bestimmt, zumal für Daten, die öffentlich zugänglich sind. Notfalls über das berechtigte Interesse in Art. 6 Abs.1 lit f DSGVO.
Vgl. auch Erw 47 DSGVO: "Die Rechtmäßigkeit der Verarbeitung kann durch die berechtigten Interessen eines Verantwortlichen, auch eines Verantwortlichen, dem die personenbezogenen Daten offengelegt werden dürfen, oder eines Dritten begründet sein, sofern die Interessen oder die Grundrechte und Grundfreiheiten der betroffenen Person nicht überwiegen; dabei sind die vernünftigen Erwartungen der betroffenen Personen, die auf ihrer Beziehung zu dem Verantwortlichen beruhen, zu berücksichtigen."
Wer seine Daten öffentlich postet, muss nun mal damit rechnen, dass sie zu Trainingszwecken von Dritten genutzt werden.
Davon einmal abgesehen ist ohnehin fraglich, ob das Training von KI schon ein Verarbeitungsvorgang ist.
Die Frage ist auch, ob der Nutzer von ChatGPT beim Verbot dann Schadensersatzansprüche Dritter fürchten muss.
Hier ein Kurzkommentar eines versierten italienischen Kollegen zu il Garante:
"It did not actually 'block' ChatGPT, it only forbade the data collection. That shows its ignorance of how generative AI works: the data have been already collected otherwise the engine wouldn't work.
Anyway, that is just a political stunt. One might wonder, for instance, why the authority haven't lift a pinky on the daily gazillions of personal data shared with the USA, China and so on.
A major flaw of the order is that there are no evidence of 'which' and 'whom' personal data have been processed to train ChatGPT. It reflects the poor data protection has become a clownesque matter and I am really considering not to deal with that any longer."
Ziehen die deutschen DSBs nach?
"Auf Anfrage des SPIEGEL stützt die deutsche Datenschutzbehörde [?!] das Vorgehen der italienischen Kollegen. »Trainingsdaten einer KI unterliegen wie auch andere Daten der DSGVO, wenn es sich dabei um personenbezogene Daten handelt«, erklärt eine Sprecherin. Da OpenAI seinen Sitz in den USA habe, könne jede europäische Aufsichtsbehörde tätig werden. Gleichzeitig sei man an den Ergebnissen der italienischen Kollegen sehr interessiert: »Wir haben sie zur Sperrung von ChatGPT bereits um weiterführende Informationen gebeten und werden diese dann an die zuständigen Landesdatenschutzaufsichtsbehörden und Landesmedienanstalten weitergeben«, erklärt die Behördensprecherin. Dann droht OpenAI neuer Ärger: Wenn die Italiener überzeugend einen Verstoß gegen die europaweit geltende Datenschutzgrundverordnung darlegen, müssten die deutschen Behörden ebenfalls gegen OpenAI vorgehen."
Quelle: https://www.spiegel.de/netzwelt/netzpolitik/chatgpt-droht-auch-in-deutsc...
Italien – ChatGPT: Wie spiegel.de berichtet, hat die italienische Datenschutzbehörde die KI-Anwendung ChatGPT in Italien gesperrt. Daten würden in unzulässiger Weise verarbeitet und es fehle ein Jugendschutzfilter, der verhindere, dass Jugendliche unter 13 Jahren sich zu dem Dienst anmelden und auf nicht jugendfreie Informationen zugreifen, so die Behörde. Das Datensammeln solle nicht verboten, aber wesentlich eingeschränkt werden.
Hier ist, was ich aus Italien aktuell höre:
Il Garante und OpenAI hatten gestern Abend ein Treffen per Videokonferenz. OpenAI erklärte, dass das Unternehmen weiter der Meinung ist, dass sie die geltenden Datenschutzgesetze einhalten, bestätigte aber ihre Bereitschaft, mit der italienischen Aufsichtsbehörde zusammenzuarbeiten, um die von il Garante geäußerten Bedenken bezüglich ChatGPT auszuräumen.
Die italienische Aufsichtsbehörde betonte ihrerseits, dass diese Maßnahme in keiner Weise die Entwicklung von KI und technologischer Innovation behindern solle, wies jedoch erneut darauf hin, wie wichtig es sei, die Gesetze zum Schutz personenbezogener Daten italienischer und europäischer Bürger einzuhalten.
OpenAI erklärte, dass es sich verpflichtet habe, die Transparenz bei der Verwendung der personenbezogenen Daten der Betroffenen zu erhöhen und die bestehenden Mechanismen zur Ausübung der Rechte der Betroffenen und der Schutzmaßnahmen für Kinder zu verbessern. Das Unternehmen verpflichtete sich, der italienischen Staatsanwaltschaft bis heute (6. April) ein Dokument vorzulegen, in dem die Maßnahmen zur Beantwortung der Forderungen der Staatsanwaltschaft dargelegt sind.
Sieht ganz danach aus, das die italienische DSB zurückrudert. Zu Warnhinweisen und Alterskontrollen der Nutzer wird OpenAI wahrscheinlich bereit sein, aber ein Ausschluss bestimmter personenbezogener Daten, die ChatGPT&Co. für das Training nutzen, scheint mir technisch unmöglich.
Der Unterschied in diesem Fall zu den Suchmaschinen, die auf Zugriff auf diese im Internet herumschwirrenden Daten haben, ist ohnehin nicht klar. Mitterweile liefern sich die Wissenschafter bei generativer KI ein Wettrennen.
OpenAI könnte eine Filiale in Irland aufmachen. Dann wäre "il Garante" mit seiner Arbeit nach den DSGVO-Regeln lahmgelegt.
Deutschland diskutiert über Regulierung von ChatGPT
"Die KI-Software ChatGPT könnte wie in Italien wegen Datenschutzbedenken auch in Deutschland vorübergehend gesperrt werden. „Grundsätzlich ist ein entsprechendes Vorgehen auch in Deutschland möglich“, sagte eine Sprecherin des Bundesbeauftragten für den Datenschutz, Ulrich Kelber, dem Handelsblatt. Dies fiele jedoch in den Zuständigkeitsbereich der Landesdatenschutzbehörden, da es sich bei dem in den USA ansässigen Betreiber OpenAI um ein Unternehmen handele.Das Bundesdigitalministerium hingegen lehnt eine Blockade von ChatGPT wie in Italien ab. "Wir brauchen kein Verbot von KI-Anwendungen, sondern Wege, Werte wie Demokratie und Transparenz zu gewährleisten", sagte ein Sprecher des Ministeriums von Volker Wissing."
Quelle: https://www.handelsblatt.com/technik/it-internet/ki-news-chatgpt-entwick...
Frau Vestager von der EU Kommission hat sich auf Twitter gegen ein Verbot positioniert:
"No matter which #tech we use, we have to continue to advance our freedoms & protect our rights. That’s why we don’t regulate #AI technologies, we regulate the uses of #AI. Let’s not throw away in a few years what has taken decades to build."
Neuer Artikel in Englisch von mir zu dem Thema: https://aicgs.org/2023/04/tech-experts-are-calling-for-an-ai-moratorium/
Danke. Man muss sich wirklich fragen, warum bedarf es einer KI-Verordnung? Warum kommt man mit den bestehenden Gesetzen z.B. zur Produhthatung nicht hin und wie regelt man KI, aber nicht andere IT, die evtl genauso gefährlich ist?
ChatGPT und Datenschutz: Auch Rechtsprofessor Christoph Krönke befasst sich nun im Verfassungsblog mit der Diskussion um den Datenschutz bei der KI-basierten Software ChatGPT. Er appeliert an die Anbieter von entsprechenden Programmen, datenschutzrechtliche Sorgfalt zu üben. Die Ansprüche des europäischen Datenschutzrechts seien durchweg erfüllbar, verlangten aber sowohl beim Betrieb als auch bereits bei der Entwicklung innovativer KI-Produkte entsprechende Anstrengungen.
Die spanische Datenschutzbehörde (AEPD) hat jetzt auch eine Untersuchung betr. ChatGPT eingeleitet, weil die Anwendung möglicherweise gegen die Datenschutzgesetze des Landes verstößt. https://www.aepd.es/es/prensa-y-comunicacion/notas-de-prensa/aepd-inicia...
Nach diesem neuen, lesenswerten wissenschaftlichen Artikel zu ChatGPT zu urteilen ist es zumindest zweifelhaft, ob es eine nachweisbare Verbindung zwischen den Trainingsdaten und einer Datenverarbeitung iSd DSGVO gibt: https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-wh...
Aber was meinen Sie?
KI/ChatGPT: Die schleswig-holsteinische Datenschutzbeauftragte Marit Hansen und die Rechtsprofessoren Tobias O. Keber, Stephan Rixen und Rolf Schwartmann überlegen in einem ganzseitigen Beitrag in der Mo-FAZ, welche Anforderungen rechtliche Regulierungen für die KI-Software ChatGPT erfüllen müssten. Es gehe dabei nicht nur um den Datenschutz, betonen die Autor:innen, auch die Medienregulierung spiele angesichts des Potentials von Desinformation und Manipulation eine Rolle. Und auch mit dem Urheberrecht komme ChatGPT mit seinem riesigen Trainingsdatenpool in Berührung. Angesichts der vielfältigen Herausforderungen wird vorgeschlagen, ähnlich wie den USA auch für Europa eine Expertenkommission aus Aufsichtsbehörden, Verwaltungspraxis, Wissenschaft, Industrie und Zivilgesellschaft einzurichten, die den Auftrag erhält, nach sechs Monaten Lösungsansätze für einen Umgang mit der neuen Technik zu unterbreiten.
"Nach sechs Monaten" - das nimmt den Druck raus. Bis dahin gibt es schon neue Versionen von ChatGPT und diversen anderen KI-Software-Anwendungen. Das EU Parlament dagegen will unbedingt die KI-Verordnung jetzt duchziehen. Das passt doch alles nicht zusammen.
Bei Wikipedia zerbricht man sich schon auch den Kopf über dieses Thema: Portal Diskussion:Recht – Wikipedia
Schafft Künstliche Intelligenz die Anwaltschaft ab? (lto.de)
"OpenAI bessert beim Datenschutz nach
ChatGPT wieder in Italien verfügbar
Mit einer Altersprüfung und der Option, Widerspruch gegen die Verwendung von Daten einzulegen, hat das Unternehmen OpenAI die italienischen Datenschützer besänftigt. Die Sperrung des KI-Bots ChatGPT wird aufgehoben."
https://www.spiegel.de/netzwelt/netzpolitik/openai-bessert-beim-datensch...Da werden einige Datenschützer aber toben, wenn sich OpenAI mit einem vorgeschalteten Formular so einfach aus der Affaire ziehen kann.
Mehr Einzelheiten aus der FAZ von heute. Hier ein Zitat:
"Wer in Italien nun ChatGPT nutzen will, wird zuvor gefragt, ob er oder sie die Volljährigkeit erlangt hat oder mindestens 13 Jahre alt ist und die Zustimmung von Eltern oder Erziehungsberechtigten besitzt. Nur dann kann man weiterklicken. Gefragt wird auch, ob man damit einverstanden ist, dass persönliche Daten für das Training und die Weiterentwicklung des Algorithmusbenutzt werden können. Diese Form der Datennutzung durch Open AI kann„mittels eines speziellen Formulars, das online ausgefüllt werden kann und leicht zugänglich ist“, zurückgewiesen werden, betont die Behörde. Die Konversationen zwischen Nutzern und dem Chatbot könnten so etwa von der Verwendung für dasA lgorithmus-Training ausgeschlossen werden. Dieses Recht gelte „für alle in Europa lebenden Personen, einschließlich der Nichtnutzer“, berichten die italienischen Datenschützer."
Was halten Sie von dieser Lösung?