Warum wir einen eigenen Weg in Sachen juristischer KI brauchen
Bei der Bewertung moderner KI-Systeme für juristische Anwendungen wird der unterschiedlichen Methodik unterschiedlicher Rechtssystem nicht ausreichend Raum gegeben. Dieser Fehler ist nicht neu, kann aber vermieden werden. (to English Version)
Wenn man eine Rechtsdatenbank entwickelt, kommt man irgendwann an den Punkt, an dem man Symbole für unterschiedliche Dokumentarten wählen muss. Das Paragraphenzeichen für ein Gesetz, ein Buch eben für Bücher u.s.w. Ich selbst war tatsächlich schon oft an diesem Punkt.
Bei der Frage, welches Symbol man für ein Gerichtsurteil wählt, wird aus dem IT- oder Marketingumfeld regelmäßig der Hammer (engl. „gavel“) vorgeschlagen. Jurist:innen bestehen eher auf der Waage. Letztere setzt sich auch meist durch. Tatsächlich kommt ein Hammer in vielen für uns relevanten Jurisdiktionen gar nicht vor. Vor allem im US-amerkanischen Recht ist er ein typisches Statussymbol der Richterschaft. Aufgrund der Übermacht amerikanischer Medien ist es dennoch vor allem für Rechtslaien gelerntes Wissen, dass der Hammer für Recht und Gerichte steht.*
Anfang des Jahrtausends hatte ich die Möglichkeit bei einem internationalen Konzern – LexisNexis – am Aufbau einer deutschen Rechtsdatenbank mitzuwirken. Auf sehr deutliche, letztlich fatale Weise konnte ich hier die Implikationen der unterschiedlichen Rechtskreise (Common Law und Civil Law) auf das Suchverhalten der Nutzer:innen sowie auf die Konzepte von Rechtsinformationssystemen erfahren. Man könnte fast meinen, der Unwille des Konzernrisens, diese lokalen Differenzen zu akzeptieren, habe erheblich zum Scheitern des Projekts beigetragen. Umgekehrt ist es sicher ein Erfolgsfaktor des deutschen Wettbewerbers beck-online, sich gerade bei Anwendung und Inhalt auf das hiesige Rechtssystem zu konzentrieren.
Alte Fehler bei der KI nicht wiederholen
Tatsächlich sind KI-Systeme, wie viele andere Softwareentwicklungen, US-amerikanisch dominiert. Bei der Bewertung der aktuellen KI-Systeme und ihrer Einsatzgebiete sollten wir uns gerade im Rechtsbereich diese Unterschiede ins Gedächtnis rufen:
Im anglo-amerikanischen Common Law oder Case Law kommen vor allem Gerichtsentscheidungen (Präzedenzfälle) eine erhebliche rechtsbildende Wirkung zu. Gesetze haben nicht die Bedeutung, wie wir sie kennen. Der römisch-germanische Rechtskreis (Civil Law) basiert dagegen auf kodifiziertem Recht. Gesetze haben die zentrale Leitfunktion. Gerichtsentscheidungen spiegeln den aktuellen Stand der Anwendung und Interpretation der Gesetze lediglich wieder. Sie haben nur selten bindende Wirkung.
Aus diesem Grund waren Rechtsprechungsdatenbanken im Common Law deutlich wichtiger und erfolgreicher als in unserem Rechtskreis. Die Suche nach dem Präzedenzfall ist dort essenziell, bei uns aber Luxus. In Deutschland wurden Rechtsdatenbanken erst durch die Integration von Gesetzen, Kommentaren, Zeitschriften und Rechtsprechung zum Standardwerkzeug der Juristinnen und Juristen.
Der Stellenwert KI-basierter Entscheidungsunterstützung ist je nach Rechtskreis unterschiedlich.
Im anglo-amerikanischen Raum kann KI dazu genutzt werden, aus einem riesigen Korpus von Gerichtsentscheidungen eine Art Regelwerk bottom-up zu extrahieren. In gewisser Weise fungiert die Technik als Ex-Post-Gesetzgeber. Dabei fällt es mangels objektiven Maßstabs sicherlich schwerer, die Ergebnisse der KI zu verifizieren oder zu falsifizieren. Vielmehr wird die KI zum Bewertungsmaßstab.
Im Bereich des Civil Law gibt es bereits ein umfassendes rechtliches Regelwerk. Ein selbstlernendes System, was vornehmlich mit Rechtsprechung trainiert wird und hieraus Entscheidungen für neue Sachverhalte ableitet, erfindet dieses Regelwerk quasi neu. Die mittels KI getroffenen Entscheidungen müssen sich aber am geltenden Recht messen lassen. Sie sind so entsprechend leichter zu falsifizieren.
Der methodische USP des kontinentaleuropäischen Rechts sollte sich in der Architektur einer computergestützten Entscheidungsunterstützung wiederfinden.
In einem digital abgebildeten Civil Law System, muss im Zentrum ein digitales Abbild des kodifizierten Regelwerks stehen. Idealerweise ist es selbst regelbasiert und beinhaltet eine Inferenzmaschine. Einer heuristischen KI kommen sicher wichtige Teilaufgaben zu, etwa die Interpretation natürlichsprachlicher Texte, die (statistische) Unterstützung von Abwägungsentscheidungen und die Formulierung der Ergebnisse. Im Zentrum, oder zumindest als Kontrollmechanismus, sollte aber ein algorithmisches Regelwerk stehen.
Der erhebliche Aufwand, allein durch Auswertung von Millionen von Dokumenten einer Maschine letztlich genau das Wissen beizubringen, das wir in Gesetzen durch einen abstrakten intellektuellen Schaffensprozess erarbeitet haben, scheint mir doch widersinnig. Es wäre ähnlich unsinnig, einem Taschenrechner die Grundrechenarten durch einen Try-and-Error-Prozess anzutrainieren, anstatt die entsprechenden Algorithmen zu programmieren.
KI als eigener Rechtskreis
Eine besondere Betrachtung verdient die außergerichtliche Streitbeilegung etwa durch Schlichtung oder Mediation. Sie muss nicht zwingend auf lokalem kodifiziertem Recht beruhen. Hier kann es gerade Vorteil und Sinn eines KI-Systems sein, über den Tellerrand des lokalen Rechtskreises hinauszuschauen und eine Streitlösung mit Hilfe einer universelleren Wissensgrundlage zu suchen. Einziger Bewertungsmaßstab solcher Systeme wäre die Zufriedenheit der beteiligten Parteien mit dem Ergebnis. Im Falle der Unzufriedenheit sollte es selbstverständlich eine Rückgriffsoption auf das jeweilige staatliche Rechtssystem geben.
Unterschiede bei der Vertragsanalyse
Die unterschiedlichen Rechtssysteme haben auch zwangsläufig zu einer unterschiedlichen Kultur der Vertragsgestaltung geführt. In Kontinentaleuropa kann man sich bei der Abfassung von Verträgen auf eine meist ausgewogene Gesetzesgrundlage verlassen. Ein Vertrag muss im Prinzip nur die Grundkonditionen regeln und das, was vom Gesetz abweicht.
Anglo-amerikanische Verträge neigen aufgrund der weniger gefestigten Gesetzeslage zur detaillierten Ausformulierung aller Gesichtspunkte. Verträge werden so zu einem umfassenden, gesetzesähnlichen Regelwerk.
Für KI-Systeme, die zur Vertragsanalyse eingesetzt werden, ist es entsprechend bedeutend, den rechtlichen Kontext mit zu berücksichtigen. Gerade Lücken im Vertragstext haben in den unterschiedlichen Rechtskreisen ganz unterschiedliche Implikationen.
Think global, act local
Folglich wird uns in unserem Rechtskreis nicht viel anderes übrig bleiben, als bei digitalen Unterstützung juristischer Prozesse eigene Wegen zu gehen. KI wird hier vielfach eine große Rolle spielen. Die Fragen einer regelbasierten Repräsentanz von Rechtsvorschriften muss aber einen größeren Stellenwert haben als in Case-Law-Systemen. Das Zusammenspiel der unterschiedlichen Techniken ist dabei der wesentliche Erfolgsfaktor.
* TIPP: Fragen Sie mal ChatGPT, welches Symbol für ein Urteil zu empfehlen ist. Ich habe darüber ganz interessante Unterhaltungen geführt. Vor wenigen Tagen noch hat das System strikt den Hammer vorgeschlagen, ließ sich aber mit Hinweis auf den deutschen Rechtskreis langsam von der Waage überzeugen. Mittlerweile ist die Antwort hierzu ausgewogener.
Hammer** and Balance
Why we need our own way in legal AI.
(English Version, Translated with www.DeepL.com/Translator)
When evaluating modern AI systems for legal applications, not enough space is given to the different methodologies of different legal systems. This mistake is not new, but it can be avoided.
When developing a legal database, you eventually reach the point where you need to choose symbols for different types of documents. The paragraph sign for a law, a book just for books and so on. I myself have been at this point many times.
When it comes to the question of which symbol to choose for a court decision, IT or marketing professionals regularly suggest the gavel. Lawyers tend to insist on the balance. The latter also usually prevails. In fact, a gavel does not even exist in many jurisdictions relevant to us. Especially in US-American law it is a typical status symbol of the judiciary. Due to the predominance of American media, it is nevertheless learned knowledge, especially for laymen, that the gavel stands for law and courts.*
At the beginning of the millennium, I had the opportunity to work for an international corporation – LexisNexis – on the development of a German legal database. In a very clear, ultimately fatal way, I was able to experience the implications of the different legal systems (common law and civil law) on the search behavior of users and on the concepts of legal information systems. One could almost think that the unwillingness of the group’s management to accept these local differences contributed significantly to the failure of the project. Conversely, it is certainly a success factor for the German competitor beck-online to focus on the local legal system, especially in terms of application and content.
Don’t repeat old mistakes with AI
In fact, AI systems, like many other software developments, are U.S.-dominated. When evaluating current AI systems and their areas of application, we should remember these differences, especially in the legal field:
In Anglo-American common law or case law, it is primarily court decisions (precedents) that have a considerable law-making effect. Laws do not have the significance we know them to have. The Roman-Germanic legal system (civil law), on the other hand, is based on codified law. Laws have the central guiding function. Court decisions merely reflect the current state of application and interpretation of the laws. They rarely have binding effect.
For this reason, case law databases have been much more important and successful in common law than in our jurisdiction. The search for precedent is essential there, but a luxury in our country. In Germany, legal databases became the standard tool for lawyers only through the integration of statutes, commentaries, journals, and case law.
The importance of AI-based decision support varies depending on the legal community.
In the Anglo-American world, AI can be used to extract a kind of rulebook bottom-up from a vast corpus of court decisions. In a sense, the technology acts as an ex post legislator. In doing so, it is certainly more difficult to verify or falsify the AI’s findings due to the lack of an objective yardstick. Rather, AI becomes the standard of evaluation.
In the area of civil law, there is already a comprehensive body of legal rules. A self-learning system, which is primarily trained with case law and derives decisions for new circumstances from it, virtually reinvents this set of rules. However, the decisions made by means of AI must be measured against the applicable law. They are thus correspondingly easier to falsify.
The methodological USP of continental European law should be reflected in the architecture of computer-aided decision support.
In a digitally mapped civil law system, a digital image of the codified set of rules must be at the center. Ideally, it is rule-based itself and includes an inference engine. A heuristic AI will certainly have important subtasks, such as interpreting natural language texts, providing (statistical) support for deliberation decisions, and formulating the results. But at the center, or at least as a control mechanism, should be an algorithmic set of rules.
The considerable effort to teach a machine, just by evaluating millions of documents, exactly the knowledge that we have acquired in laws through an abstract intellectual process of creation, seems to me to be absurd. It would be similarly nonsensical to teach a pocket calculator the basic arithmetic operations by a try-and-error process instead of programming the corresponding algorithms.
AI as a separate legal field
Special consideration should be given to out-of-court dispute resolution, for example through arbitration or mediation. It does not necessarily have to be based on local codified law. Here, the advantage and purpose of an AI system can be to look beyond the local legal system and seek a solution to the dispute with the help of a more universal knowledge base. The only evaluation standard of such systems would be the satisfaction of the parties involved with the outcome. In the event of dissatisfaction, there should, of course, be a recourse option to the relevant state legal system.
Differences in contract analysis
The different legal systems have also inevitably led to a different culture of contract drafting. In continental Europe, one can rely on a mostly balanced legal basis when drafting contracts. In principle, a contract need only regulate the basic terms and what deviates from the law.
Anglo-American contracts tend to formulate all aspects in detail due to the less established legal situation. Contracts thus become a comprehensive, law-like set of rules.
For AI systems used for contract analysis, it is accordingly significant to take the legal context into account. Gaps in the contract text in particular have very different implications in different legal environments.
Think global, act local
Consequently, in our jurisdiction we will not have much choice but to go our own way when it comes to digital support for legal processes. AI will play a major role here in many cases. However, the issues of rule-based representation of legal provisions must be given greater priority than in case-law systems. The interaction of the various technologies is the key success factor here.
Translated with www.DeepL.com/Translator (free version)
** couldn’t resist using the inaccurate translation of the German „Hammer“. In this context this should be a gavel.