Ratgeber · KI in der Kanzlei · Stand: Juli 2026
So funktionieren KI-Systeme: Technische Grundlagen für Juristen
Wer KI-Tools sinnvoll und rechtssicher einsetzen will, muss kein Informatikstudium absolvieren – ein Grundverständnis der Funktionsweise gehört aber inzwischen zur KI-Kompetenz, die Art. 4 der KI-Verordnung von jeder Kanzlei verlangt. Dieser Beitrag erklärt die wichtigsten Begriffe verständlich.
Was ein Sprachmodell tatsächlich tut
Große Sprachmodelle (Large Language Models, LLMs) wie die hinter ChatGPT, Copilot oder Claude wurden mit riesigen Textmengen trainiert. Vereinfacht gesagt: Das Modell lernt dabei statistische Muster darüber, welches Wort in einem bestimmten Kontext wahrscheinlich als nächstes folgt. Es "weiß" nichts im menschlichen Sinne, sondern erzeugt plausibel wirkenden Text auf Basis gelernter Muster.
Genau daraus ergibt sich das zentrale Risiko für die juristische Praxis: Ein Modell kann einen vollständig plausibel klingenden, aber inhaltlich falschen oder frei erfundenen Text erzeugen – ohne dass ein Unterschied in Ton oder Sicherheit der Formulierung erkennbar wäre.
Warum KI "halluziniert"
Als Halluzination bezeichnet man den Fall, dass die KI fehlende Informationen durch plausibel erscheinende, aber erfundene Inhalte ergänzt – etwa nicht existierende Gerichtsurteile oder Gesetzesnormen. Das passiert, weil das Modell darauf trainiert ist, immer eine zusammenhängende Antwort zu liefern, nicht darauf, Wissenslücken korrekt zu erkennen und offenzulegen. Bei sehr spezifischen, seltenen oder aktuellen Rechtsfragen steigt dieses Risiko deutlich.
Kontextfenster
Die Menge an Text, die ein Modell in einer Anfrage gleichzeitig "im Blick" hat. Größere Kontextfenster erlauben die Verarbeitung ganzer Akten statt nur einzelner Absätze.
Trainingsstand
Modelle sind nur bis zu einem bestimmten Zeitpunkt trainiert. Ohne zusätzliche Anbindung an aktuelle Quellen kennen sie neuere Gesetzesänderungen oder Urteile nicht.
RAG (Retrieval-Augmented Generation)
Eine Technik, bei der das Modell vor der Antwort gezielt in einer Datenbank (z. B. Urteilsdatenbank oder Aktenbestand) nachschlägt, statt nur aus dem Training zu antworten – reduziert Halluzinationen deutlich.
KI-Agenten
Systeme, die nicht nur antworten, sondern mehrstufige Aufgaben eigenständig ausführen – etwa Dokumente durchsuchen, Informationen extrahieren und daraus einen Entwurf erstellen.
Warum spezialisierte Legal-AI oft zuverlässiger ist
Allgemeine Chatbots arbeiten meist ohne direkten Zugriff auf verlässliche juristische Quellen. Spezialisierte Tools wie der Deubner KI Associate koppeln das Sprachmodell dagegen gezielt an strukturierte Aktendaten und Rechtsquellen – das Modell "erfindet" seltener, weil es auf konkrete, geprüfte Informationen zugreifen kann, statt allein aus trainierten Mustern zu schöpfen.
Für die Praxis
Je konkreter und aktueller die Wissensquelle ist, auf die ein KI-System zugreifen kann, desto geringer das Halluzinationsrisiko. Das ist einer der Gründe, warum sich spezialisierte Legal-AI-Tools zunehmend gegenüber allgemeinen Chatbots durchsetzen, wenn es um belastbare juristische Aussagen geht.
