OpenAI‘s neues Modell GPT-4: Werden wir Juristen bald überflüssig?

von Dr. Axel Spies, veröffentlicht am 16.03.2023

Und wieder eine Neuigkeit von dem von Microsoft finanzierten Start-Up OpenAI:  die neue Version GPT-4 seines Sprach-Models GPT ist veröffentlicht. Auf dieses kann über den Chatbot ChatGPT Plus zugegriffen werden. Die Entwickler versprechen, dass neue Modell könne „kreativ“ Texte erstellen und bearbeiten und den Schreibstil des Nutzers übernehmen. Außerdem könnten Bilder als Input und bis zu 25.000 Wörter als Quelle verarbeitet werden -alles beachtliche Erweiterungen.

Hierzu einige kurze Kommentare – ganz ohne Chatbot:

Wir haben hier im Blog bereits diskutiert, welche Herausforderungen die Nutzung von ChatGPT durch Anwälte mit sich bringt. Mit der erweiterten Möglichkeit, große Textkonvolute zu verarbeiten, könnten sich Anwälte mit GPT-4 – wie Rob Waugh für die DailyMail anmerkt – beispielsweise Bullet Points oder Kurzzusammenfassungen von solchen Texten erstellen lassen.

Denkbar wäre auch, dass solche Chatbots dafür eingesetzt werden, lange Verträge zu analysieren und Übersichten zu bestimmten Regelungen zu schreiben, beispielsweise im Rahmen einer Due Diligence. Genau das möchte PwC nun im Rahmen eines Probelaufs mit der Software Harvey testen, die das neueste Modell GPT-4 nutzt, wie die Financial Times kürzlich berichtete. Zuvor veröffentlichte die Financial Times bereits, dass der Chatbot Harvey einen im November gestarteten Probelauf bei Allen & Overy bereits erfolgreich bestanden hat.

Bevor wir alle eine Frühverrentung beantragen: Die New York Times berichtet, dass auch bei GPT-4 gravierende Probleme fortbestehen – „Hallucination“ genannt. Die Systeme könnten z.B. nicht prüfen, welche Informationen wahr oder falsch sind und denken sich daher, wenn sie keine Antwort finden, einfach etwas aus. So würden sie teilweise Texte erzeugen, die völlig falsch sind. In einem früheren Beitrag haben wir diskutiert, ob es daher eine Pflicht zu digitalen Wasserzeichen geben sollte. Insb. Urheberrechts- und Datenschutzprobleme Probleme bestehen weiter.

Was halten Sie juristisch von GPT-4?

Diesen Beitrag per E-Mail weiterempfehlenDruckversion

Hinweise zur bestehenden Moderationspraxis
Kommentar schreiben

25 Kommentare

Kommentare als Feed abonnieren

Im hiesigen Blog habe ich bereits Gedanken zu ChatGPT und Schule / Hochschule aufgeschrieben https://community.beck.de/category/bildungsrecht

 

Dieser Beitrag nun betrifft mich gewissermaßen persönlich in meinem Beruf. Herrn Kollegen Dr. Spies stimme ich zu, dass wir nicht eine Frühverrentung beantragen. Ich glaube vielmehr, dass Rechtsanwälte/Rechtsanwältinnen auf jeden Fall gebraucht werden.

Stellen wir uns vor, die Menschen fassen ChatGPT und andere nicht als Sprachmodell auf, sondern als Universalwissensdatenbank. Sie lassen sich, etwa in meinem Bereich Verwaltungsrecht, einen Widerspruch gleich mit Begründung formulieren, schicken ihn an die Behörde. Der juristische Laie wird kaum in der Lage sein, die Fehler zu entdecken. Einig sind wir uns, dass die KI „erfindet“. Der vom juristischen Laien bei der Behörde abgegebene, von der KI-generierte Widerspruch enthält ein Gesetz, das es gar nicht gibt. Von anderen „Erfindungen“ der KI einmal abgesehen. Dieser Widerspruch wird sehr wahrscheinlich dann verloren gehen. Hier könnte eher mehr Arbeit auf uns zukommen.

 

Kurzum: Ohne Wissen und Erfahrung werden die Fehler im KI-genierten Text nicht zu entdecken sein. Selbst wenn die KI-Anwendung große Textmengen zusammenfasst oder Bullet Points ausspuckt, es wird immer kritisch angesehen werden müssen. Ohne eingehende Prüfung wird es nicht gehen. Der Mensch, der das prüft, muss ziemlich viel wissen.

Dass die neue Version das amerikanische Bar Exam nicht nur bestanden hat, sondern (nach Presseberichten) unter den 10% Besten abgeschlossen hat, macht schon ziemlich nachdenklich. Ob die nachfolgende Jurist-inn-engeneration, die ich gerade ausbilde, noch gebraucht werden wird?

Es kann meines Erachtens durchaus sein, dass schon recht bald die Formulierung von - zumindest den alltäglichen und häufigsten - behördlichen Bescheiden, von anwaltlichen  Schriftsätzen, von Klage- und Anklageschriften sowie Urteilen derart automatisiert werden kann, dass viele Jurist-inn-en dazu schlicht nicht mehr gebraucht werden, sondern (nur) noch eine weit geringere Anzahl von Expert-inn-en, die auf die humane Endkontrolle, wie sie Frau Schwarz oben zutreffenderweise nach wie vor für erforderlich hält, spezialisiert sind.

Auch für den gesamten Ausbildungssektor, nicht nur den juristischen,  wird die KI enorme Auswirkungen haben, denn unter den Bedingungen des virtuellen Fernunterrichts wird man künftig keine menschlichen Lehrer-innen mehr benötigen. Auf den Schulunterricht trifft das zwar noch weniger zu (welche-r Schüler-in lässt sich von einem Computer motivieren bzw. disziplinieren?), aber für die Erwachsenenbildung und insbesondere die Hochschullehre gilt dies sehr wohl. Ob auf Zoom eine echte Person/Professor-in  spricht oder ein-e KI-generierte wird sich in Kürze nicht mehr so einfach feststellen lassen. Und weil eine KI-generierte "Person" billig ist, nicht krank wird und ihre didaktischen Fähigkeiten optimiert werden können, wird es nicht so lange dauern, bis wir die menschliche Lehre und Ausbildung stark reduzieren können. Auch hier wird es nur noch weniger menschlicher Kontrollpersonen bedürfen. 

Meine Einschätzung (und Befürchtung) ist, dass handwerkliche Tätigkeiten (z.B. Ein- und Umbau von Sanitäranlagen in Gebäuden) noch recht lange von Menschen ausgeführt werden müssen, hingegen geistige, v.a. text- und bildbasierte Tätigkeiten innerhalb der nächsten Jahre wohl weitgehend von KI übernommen werden (können). 

In den USA gibt es wohl bereits ein Start-Up, das an automatisierten Abmahnungen arbeitet, wie CNN berichtet:

Joshua Browder, CEO of legal services chatbot DoNotPay, said his company is already working on using the tool to generate “one click lawsuits” to sue robocallers, in an early indication of the vast potential for GPT-4 to change how people work across industries.

“Imagine receiving a call, clicking a button, [the] call is transcribed and 1,000 word lawsuit is generated. GPT-3.5 was not good enough, but GPT-4 handles the job extremely well,” Browder tweeted.#

ChatGPT's future: 5 jaw-dropping things GPT-4 can do | CNN Business

Das könnte auch die Justiz vor Herausforderungen stellen...

0

Das sagt natürlich sowohl etwas über das amerikanische Bar Exam als auch über ChatGPT aus.

Die Frage ist, was es genau aussagt und welche Konsequenz wir ziehen sollten.  Für Überlegungen dazu müsste man die genauen Fragestellungenund Musterantworten sowie die Antworten von ChatGPT kennen und in die Überlegung einbeziehen. Die kanppe und abstrakte Information, das das Bar Exam bestanden wurde, ist mir zu wenig greifber,

Besten Dank, liebe Kollegen. Nur zur Klarstellung: Es gibt hier nicht "das Bar Exam" sondern viele verschiedene Bar Examina. Meist sind die Tests auf Multiple Choice - Multistate Bar Examination (MBE) - plus kurzen Essays aufgebaut. Wie gesagt, das sind Wissenstests und hat mit dem den deutschen StEx wenig gemein: Hier ein Artikel dazu:https://reason.com/volokh/2023/03/15/chatgpt-aces-the-bar-exam/ 

Lieber Herr Lapp und lieber Herr Spies,

Ihren Optimismus in Ehren, aber das bestandene Bar Exam ist ja nur ein Beispiel für die Jetzt-Zeit, etwa vergleichbar mit der Leistung der ersten Schachcomputer. Sie müssen die Entwicklung und deren Beschleunigung berücksichtigen.

Das kann man sehr gut nachvollziehen, wenn man den Original-Artikel berücksichtigt, hier:

GPT-4 Passes the Bar Exam

Ich glaube deshalb, dass ich nicht zu mutig bin vorherzusagen, dass auch die deutsche juristische Staatsprüfung (schriftlicher Teil) in Kürze - ich schätze in weniger als 5 Jahren -  von selbst lernender/trainierter KI bestanden werden kann. Neben der erlernbaren Strukturierung einer Klausur, bei der die KI Vorteile hat, hat die KI auch ein unbegrenztes Gedächtnis und "kennt" natürlich alle Fälle, die je von irgendeinem Gericht entschieden und publiziert wurden; das ist dieselbe Quelle, die diejenigen haben, die die Fälle fürs Examen konstruieren. Menschliche Prüfer-innen können schon jetzt nicht mehr sicher entscheiden, ob Texte von Menschen oder Maschinen geschrieben wurden.

Dieser von Herrn Spies zutreffend vorgebrachte Einwand ...

Die Systeme könnten z.B. nicht prüfen, welche Informationen wahr oder falsch sind und denken sich daher, wenn sie keine Antwort finden, einfach etwas aus. So würden sie teilweise Texte erzeugen, die völlig falsch sind.

.... entspricht ja der Prüfungssituation: auch da denken sich Kandidat-inn-en "einfach etwas aus" und erzeugen z.T. "Texte, die völlig falsch sind", wenn Sie etwas nicht wissen. Zum Zweck der Ununterscheidbarkeit muss die KI ohnehin schon heute angewiesen werden, u.a. einige typische menschliche Schreib- und Grammatikfehler einzubauen.

Besten Gruß

Henning Ernst Müller

PS: Und die KI darf natürlich nicht ihren Text, der in Minuten erstellt wurde, zu früh abgeben, denn damit würde sie sich verraten.

 

 

Die Frage, ob KI in naher Zukunft Rechtsanwälte überflüssig machen wird, kann man vorverlegen und kleiner fragen, ob nicht bereits jetzt bzw. schon viel früher jedenfalls der Anwaltszwang wegen Verfügbarkeit der KI unverhältnismäßig ist, oder noch wird. Denke man zunächst an schriftliche Verfahren, wie bei Rechtsbeschwerde oder Revision in OWi-Verfahren oder Strafverfahren.

0

Thomas Pueyo hat einen Artikel zu den hier interessierenden Fragen publiziert, 1. welche Jobs und 2. wie schnell sie betroffen sein werden.
Antworten in der Tendenz: 1. Viele und 2. ziemlich schnell.

Zu den Bereichen, in denen es schnell Viele betreffen wird, gehört, wie von mir vermutet, auch unser Geschäft als Juristen, sowie, wie ebenfalls von mir befürchtet, die (Aus-)Bildung.

Sehr lesenswert, wenn auch ein bisschen deprimierend:

Wann wird AI deinen Job übernehmen?

 

 

ChatGPT in der Rechtsberatung: Auf LTO befasst sich der Rechtsanwalt Benjamin Lotz mit den Vorteilen und rechtlichen Risiken, die mit der Nutzung des KI-Bots ChatGPT im Rahmen der anwaltlichen Beratung einhergehen können. Zwar habe ChatGPT 4 "deutlichen Kompetenzzuwachs" in seiner neuen Version durch verschiedene zusätzliche Funktionen erfahren, dennoch mahnt Lotz, dass "blindes Vertrauen" gefährlich bleibe.

0

Es gibt sicher viele positive Anwendungsfelder für ChatGPT &Co. Der Gesundheitssektor und die Entlastung von Bürokratie dort ist einer. 

In der Debatte über die Lehre und ChatGPT kommt zu kurz, dass ChatGPT z.B. für die Korrektur von Klausuren und Hausarbeiten und das zielgerichtete individualisierte Lernen durchaus positiv ist.  Da hat Bill Gates recht.

0

Und heute hier in der Presse: 

"Elon Musk, Steve Wozniak und eine Reihe anderer führender Techniker und Experten für künstliche Intelligenz fordern die KI-Labors in einem offenen Brief auf, die Entwicklung leistungsfähiger neuer KI-Systeme zu stoppen und auf mögliche Risiken für die Gesellschaft hinzuweisen.

In dem Brief werden die KI-Entwickler aufgefordert, "das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu unterbrechen."

Hier ist der Brief: https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Das steckt mehr hinter. Laut dem EU Transparenzregister wird das Future of Life Institute hauptsächlich von der Musk Foundation, der in London ansässigen Gruppe Founders Pledge und der Silicon Valley Community Foundation finanziert.  -- Also alles nur eine geschickte Werbeaktion für das Institut oder vielleicht Massnahme, damit OpenAI im neuen EU KI Akt als Hochrisikotechnologie eingestuft wird.

0

Italien – ChatGPT: Wie spiegel.de berichtet, hat die italienische Datenschutzbehörde die KI-Anwendung ChatGPT in Italien wegen Verstößen gegen verschiedene Gesetze gesperrt. Daten würden in unzulässiger Weise verarbeitet und es fehle ein Jugendschutzfilter, der verhindere, dass Jugendliche unter 13 Jahren sich zu dem Dienst anmelden und auf nicht jugendfreie Informationen zugreifen, so die Behörde. Das Datensammeln solle nicht verboten, aber wesentlich eingeschränkt werden.

0

ChatGPT: Wie die FAZ (Marcus Jung/Roland Lindner) berichtet, streben deutsche Datenschützer derzeit kein Verbot des auf künstlicher Intelligenz (KI) beruhenden Chatbots ChatGPT an. Es sei schon fraglich, ob eine Zuständigkeit in Deutschland besteht, da der Hersteller Open AI keine Niederlassung in Deutschland habe. Die italienische Datenschutzbehörde hatte kurz zuvor die Anwendung im Land gesperrt.

0

KI: Die Juniorprofessorin Hannah Ruschemeier erläutert im Verfassungsblog (in englischer Sprache) die datenschutzrechtlichen Bedenken in Bezug auf die Software ChatGPT, die dazu geführt haben, dass die italienischen Behörden das Programm verboten haben. Die Autorin meint, dass die Datenschutzgrundverordnung in ihrem derzeitigen Stand nicht in der Lage sei, die Art von Problemen anzugehen, die von solchen "Large Language Models" verursacht werden. Deshalb sollten Lösungen auch außerhalb des Datenschutzrechts gesucht werden. Die von der EU vorgeschlagene KI-Verordnung biete hierfür Ansätze, habe aber erhebliches Verbesserungspotenzial.

0

KI: Im Frage-Antwort-Format gibt das Hbl (Christof Kerkmann/Christoph Herwartz) einen Überblick über eine geplante EU-Regulierung künstlicher Intelligenz durch einen Artificial Intelligence (AI) Act. Diese EU-Verordnung soll das Risiko bei der Anwendung künstlicher Intelligenzen verringern, indem den Unternehmen Transparenz- und Dokumentationspflichten auferlegt werden. Dadurch sollen "die Sicherheit der Menschen, die Grundrechte und die Werte der EU" geschützt werden.

0

KI: Die SZ (Josef Kelnberger) berichtet über die aktuell auf EU-Ebene geplante Verordnung (AI-Act) zur Regulierung von künstlicher Intelligenz. So solle eine biometrische Massenüberwachung nur ausnahmsweise möglich sein, wenn beispielsweise ein entführtes Kind gesucht werde oder eine unmittelbare terroristische Bedrohung abzuwehren sei. "Social Scoring", wie es in China betrieben wird, also die Zusammenführung von Daten aus allen Lebensbereichen, um politisch erwünschtes Verhalten zu belohnen und Abweichungen zu bestrafen, solle dagegen verboten bleiben.

0

Es gibt eine Jura & Recht Version von ChatGPT: https://chat.openai.com/g/g-eImsAofa1-jura-recht-mentor
Was ist euer Blick darauf? Funktioniert das besser als die "normale" Version von ChatGPT?

0

Kommentar hinzufügen