ChatGPT, der New Yorker Anwalt und erfundene Urteile: berufsrechtliche Sanktionen verhängt, Klage abgewiesen
von , veröffentlicht am 26.06.2023Mit Opinion and Order on Sanctions vom 22. Juni 2023 (»Order«) hat das Gericht S.D.N.Y. berufsrechtliche Sanktionen gegen Herrn Peter LoDuca, Herrn Steven A. Schwartz und die Anwaltskanzlei Levidow, Levidow & Oberman P.C. (»Levidow«) verhängt. Laut dem Order verletzten Herr LoDuca und Herr Schwartz ihre Pflichten, als sie die durch den Chatbot ChatGPT erfundenen Urteile beim Gericht einreichten und an den erfundenen Urteilen weiterhin festhielten, nachdem das Gericht die Echtheit dieser Urteile infrage stellte (siehe Seite 1 des Orders). Als berufsrechtliche Sanktionen müssen nun Herr LoDuca, Herr Schwartz und Levidow innerhalb von vierzehn Tagen des Orders
- ein Schreiben an ihren Mandanten, Herrn Roberto Mata, per Post senden, wobei das Schreiben auf den Order hinweisen muss und dem Schreiben (1) der Order, (2) das Protokoll der Anhörung vom 8. Juni 2023 und (3) in Kopie und samt Anlagen das Affidavit vom 25. April 2023 anliegen müssen (das Affidavit vom 25. April 2023 ist das Affidavit, mit dem Herr LoDuca unter Mitwirkung von Herrn Schwartz die von ChatGPT erfundenen Urteile einreichte).
- ein Schreiben jeweils an die echten Richter:innen per Post senden, die fälschlich als Verfasser:innen der erfundenen Urteile bezeichnet wurden, wobei das Schreiben auf den Order hinweisen muss und dem Schreiben (1) der Order, (2) das Protokoll der Anhörung vom 8. Juni 2023 und (3) in Kopie und samt Anlagen das Affidavit vom 25. April 2023 anliegen müssen, inklusive (4) des erfundenen Urteils, das der entsprechenden Richterin bzw. dem entsprechenden Richter zugeschrieben wurde.
- die genannten Schreiben beim Gericht jeweils in Kopie einreichen.
- eine gesamtschuldnerisch verhängte Geldstrafe in Höhe von 5.000 $ zahlen (siehe Seite 34 des Orders).
Der Order ist klar und sachlich, die Sanktionen m.E. angemessen (angesichts der Aufmerksamkeit der weltweiten Medien), der Inhalt einiger Fußnoten unglaublich. Etwa in Fußnote 1 weist das Gericht auf den Grund dafür hin, warum das am 8. Juni 2023 im Namen von Herrn Schwartz und Levidow eingereichte Amended Memorandum of Law geändert wurde: Im ursprünglichen Memorandum of Law seien drei der durch ChatGPT erfundenen Urteile versehentlich als ständige Rechtsprechung aufgelistet worden. Oder in Fußnote 12 zitiert das Gericht zur Begründung bestimmter Ausführungen aus dem Kinderbuch Alice im Wunderland von Lewis Carroll – eine gelungene und geistreiche Belehrung durch das Gericht.
Mit diesem Beitrag möchte ich aber nicht jede Einzelheit jedes Details besprechen. Vielmehr möchte ich der Leserschaft der beck-community die Lektüre des Orders ans Herz legen. Und für die, die keine Zeit oder keine Lust oder keine Englischkenntnisse haben, möchte ich hier nur das Wesentliche weitergeben. Also in aller Kürze:
Herrn LoDuca wurden berufsrechtliche Sanktionen aus den folgenden drei Gründen verhängt, die in Ziffer 23 der »Conclusions of Law« des Orders (Seiten 29–30) dargelegt werden und mehr oder minder für sich sprechen:
a. Da Herr LoDuca kein einziges, in seiner Affirmation of Opposition vom 1. März[1] zitiertes Urteil las und da er von sich aus keine weiteren Maßnahmen zur Prüfung ergriff, ob auch nur ein Aspekt der rechtlichen Ausführungen durch die bestehende Rechtsprechung begründet war, verstieß er gegen Regel 11 der Federal Rules of Civil Procedure. Eine ungenügende oder unsorgfältige »Prüfung« kann unter den Umständen unangemessen sein. Aber die Unterzeichnung und Einreichung dieser Affirmation ohne »Prüfung« war eine Handlung subjektiver Bösgläubigkeit.[2] Dies trifft insbesondere zu, da ihm nicht nur bewusst war, dass Herr Schwartz weder mit dem Bundesrecht noch mit dem Montrealer Übereinkommen noch mit insolvenzverfahrensbedingten Aussetzungen vertraut ist; Herrn LoDuca waren auch die Einschränkungen der Recherche-Tools bewusst, die durch die Anwaltskanzlei zur Verfügung gestellt wurden, der er und Herr Schwartz angehörten.
b. Da Herr LoDuca einen Eid zur Versicherung der Wahrheit des Affidavits vom 25. April ablegte, ohne eine Basis dafür gehabt zu haben, verstieß er gegen Regel 11 der Federal Rules of Civil Procedure. Während eine ungenügende Prüfung nicht für Bösgläubigkeit sprechen muss, spricht die Unterlassung einer Prüfung für eine Feststellung der Bösgläubigkeit. Herr Schwartz ging zu ihm ins Büro; legte ihm ein Affidavit vor, das er nie in Entwurfsform gesehen hatte; und Herr LoDuca las es und unterzeichnete es unter Ablegung eines Eids. Eine kursorische Prüfung des eigenen Affidavits hätte ergeben, dass (1) das Urteil »Zicherman v. Korean Air Lines Co., Ltd., 516 F.3d 1237 (11th Cir. 2008)« nicht gefunden werden konnte,[3] (2) eine Mehrzahl der Urteile auszugsweise und nicht vollständig vorlag, und (3) eine Lektüre auch nur der ersten Passagen etwa von »Varghese« hätte ergeben, dass dies intern widersprüchlich und unsinnig war.
c. Ferner wies das Gericht Herrn LoDuca an, das Affidavit vom 25. April einzureichen, und Herr LoDuca log dem Gericht an, als er eine Fristverlängerung mit der Begründung beantragte, dass er, Herr LoDuca, in den Urlaub fahre, wenn in Wahrheit und Wirklichkeit Herr Schwartz, der wahre Verfasser des Affidavits vom 25. April, derjenige war, der in den Urlaub fuhr. Dies weist die Bösgläubigkeit des Herrn LoDuca nach. [meine Übersetzung]
Auch wenn Herr Schwartz weder beim S.D.N.Y. zugelassen ist noch Prozessanwalt in der gegenständlichen Sache tätig war, durfte ihm das Gericht nach Regel 11(c)(1) der Federal Rules of Civil Procedure berufsrechtliche Sanktionen verhängen. Denn er war für die Einreichung des Schriftsatzes, in dem die erfundenen Urteile zitiert wurden, und die Einreichung der »Auszüge« aus den erfundenen Urteilen mit verantwortlich (Ziffer 13 der »Conclusions of Law« des Orders (Seite 26)): Herr Schwartz hat nicht nur den Schriftsatz verfasst, er hat auch die Einreichung der »Auszüge« mit veranlasst. Ihm wurden berufsrechtliche Sanktionen aus den folgenden zwei Gründen verhängt, die in Ziffer 24 der »Conclusions of Law« des Orders (Seiten 30–31) dargelegt werden und im Rahmen dieses Blogbeitrags noch einer erklärenden Ausführung bedürfen:
a. Herr Schwartz verstieß deswegen gegen Regel 11 im Zusammenhang mit dem Affidavit vom 25. April, weil er nach eigener, während der Anhörung vorgetragener Aussage das Urteil »Varghese« trotz Recherche »nicht finden konnte«; dennoch legte er dies nicht im Affidavit vom 25. April offen. Auch bot er keine Erklärung dafür, dass er das Urteil »Zicherman« nicht finden konnte. Schlechte und schlampige Recherche wäre in sachlicher Hinsicht lediglich unangemessen gewesen. Aber Herrn Schwartz waren die Tatsachen bewusst, die ihn warnend auf die hohe Wahrscheinlichkeit hindeuteten, dass die Urteile »Varghese« und »Zicherman« nicht existieren, und Herr Schwartz sah bewusst von der Bestätigung dieser Tatsache ab.
b. Für die subjektive Bösgläubigkeit des Herrn Schwartz sprechen ferner die nicht wahrheitsgemäße Behauptung, dass ChatGPT lediglich eine »Ergänzung« seiner Recherche war; seine sich wiedersprechenden Vorträge zu seinen Fragen an ChatGPT, ob »Varghese« ein »echtes« Urteil ist; und der Umstand, dass das Abstellen auf ChatGPT nicht im Affidavit vom 25. April offengelegt wurde. [meine Übersetzung]
Aus einem früheren Beitrag ist der Leserschaft der beck-community bekannt, dass Herr Schwartz ChatGPT zur Ergänzung seiner Recherche zu bestimmten Rechtsfragen verwendet haben wollte. Dies trifft offenbar nicht zu. In Ziffer 41 der »Findings of Fact« des Orders (Seite 18) stellt das Gericht fest:
Die Aussage des Herrn Schwartz in seinem Affidavit vom 25. Mai, dass ChatGPT seine Recherche »ergänzte«, war ein irreführender Versuch, seine Handlungen abzuschwächen, und zwar durch das Erwecken des falschen Eindrucks, dass er weitere sinnvolle Recherche zum Streitgegenstand durchgeführt und nicht ausschließlich auf den KI-Chatbot abgestellt habe, wenn in Wahrheit und Wirklichkeit dieser die einzige Quelle seiner substanziellen Ausführungen war. [meine Übersetzung]
Levidow wurden berufsrechtliche Sanktionen aus dem folgenden Grund verhängt, der in Ziffer 25 der »Conclusions of Law« des Orders (Seite 31) dargelegt wird und mehr oder minder für sich spricht:
Die Anwaltskanzlei Levidow haftet gesamtschuldnerisch für die Verstöße des Herrn LoDuca und des Herrn Schwartz gegen Regel 11(b)(2). Regel 11(c)(1) sieht vor, dass »[o]hne das Vorliegen außerordentlicher Umstände eine Anwaltskanzlei [] für einen durch ihren Partner, Associate, oder Beschäftigten begangenen Verstoß mit verantwortlich gemacht werden« muss. Die Anwaltskanzlei Levidow hat auf keine außerordentlichen Umstände hingewiesen, die eine Abweichung von Regel 11(c)(1) begründen. [meine Übersetzung]
Der 22. Juni 2023 war kein guter Tag für Herrn LoDoca und Herrn Schwartz. Neben dem Verhängen der berufsrechtlichen Sanktionen wurde ihre Klage im Rahmen eines weiteren Opinion and Order vom selben Tag als verjährt abgewiesen.
[1] Wenn das Gericht ein beim Gericht eingereichtes Dokument mit Datumsangabe anführt, wie hier »Affirmation of Opposition vom 1. März«, verwendet das Gericht nicht unbedingt die Datumsangabe, die im Dokument als Tag der Unterzeichnung steht. Ab und zu verwendet das Gericht die Datumsangabe, die als »date filed« angegeben wird. Zur Klarstellung: Diese Datumsangaben stimmen nicht immer mit einander überein. Durch diesen Umstand lässt scheinbare Widersprüche zwischen der Datumsangabe im Dokument selbst und der Datumsangabe im hiesigen Order erklären – auch im Hinblick auf meine früheren Beiträge zu diesem Thema.
[2] Der englische Begriff lautet »bad faith«. Bei der Übersetzung dieses Begriffs mit »Bösgläubigkeit« folge ich vorliegend dem Urteil des Gerichts der Europäischen Union in Rechtssache T‑663/19 vom 21. April 2021, das wiederum der Verordnung (EU) 2017/1001 folgt.
[3] Das Urteil »Zicherman v. Korean Air Lines Co., Ltd., 516 F.3d 1237 (11th Cir. 2008)« wurde nicht als »Urteil« eingereicht. Das »Zicherman«-Urteil wurde lediglich im erfundenen Urteil »Varghese« angeführt, existiert aber auch nicht.
Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben
1 Kommentar
Kommentare als Feed abonnierenMissbrauch in Gerichtsverfahren
In den USA wurde im Mai 2023 bekannt, dass ein Anwalt ChatGPT genutzt hat, um Präzedenzfälle zu ermitteln. Diese hielten einer Prüfung vor Gericht nicht stand. Dabei stellte sich heraus: ChatGPT hat die Fälle nicht aus seiner Datenbasis ermittelt, sondern völlig neue geschaffen. Inklusive aller Details, wie beispielsweise Namen, Tathergang, Aktenzeichen und vielem mehr. Auf den ersten Blick wirkten die Fälle plausibel und ChatGPT bestätigte dies auf Nachfrage des Anwalts. Das Gericht wertete dies als Täuschungsversuch und leitete ein Verfahren ein.
Im Juni 2023 urteile das Gericht: Die Anwälte hätten die Daten selbst prüfen können und müssen, statt sich blind auf ChatGPT zu verlassen. Dass dies nicht geschah, wertete das Gericht als Handeln mit böser Absicht und verurteilte die Anwälte zu einer Geldstrafe. Diese wiederum rechtfertigten ihr Handeln damit, nicht geglaubt zu haben, dass Technologie Präzedenzfälle aus dem Nichts erfinden könne.[47]