Belegte KI-Antworten vs. Halluzination: Warum Fundstellen der einzige Weg für Anwälte sind
Warum KI-Antworten ohne Fundstellen für Anwälte wertlos sind — und wie belegte Antworten mit seitengenauen Zitaten das Vertrauen in KI-Ergebnisse herstellen.
ChatGPT und andere LLMs halluzinieren — das ist bekannt. Für Anwälte ist eine halluzinierte Antwort nicht nur wertlos, sondern gefährlich: Eine falsche Quellenangabe im Schriftsatz kann zum Haftpflichtfall werden. Die Lösung: belegte KI-Antworten mit seitengenauen Fundstellen.
Was ist eine belegte KI-Antwort?
Eine belegte KI-Antwort nennt für jede Aussage die exakte Fundstelle: Dokument, Seite, Absatz. Der Anwalt prüft in einem Klick, ob das Zitat stimmt. Stimmt es nicht — verwirft er die Antwort. Stimmt es — übernimmt er es in den Schriftsatz.
Das ist der fundamentale Unterschied zu ChatGPT: Nicht die Antwort steht im Vordergrund, sondern die Fundstelle. Die Antwort ist nur so gut wie die Quelle — und die Quelle ist überprüfbar.
Gap-Analyse: Wenn die Akte keine Antwort enthält
Ebenso wichtig wie belegte Antworten ist die Gap-Analyse: Wenn die Akte keine Antwort auf die Frage enthält, sagt die KI das explizit. Statt zu halluzinieren, zeigt sie an: 'In den vorliegenden Dokumenten fehlt Information zu X.'
Das ist für Anwälte wertvoll: Du weißt, dass du weitere Recherche benötigst oder den Mandanten nach Informationen fragen musst — anstatt auf eine halluzinierte Antwort zu vertrauen.
Recall@8: Warum 99,8 % wichtig sind
Recall@8 ist die Metrik, die misst, ob das relevante Dokument unter den Top-8-Retrievergebnissen ist. 99,8 % bedeutet: In 99,8 % der Fälle findet die KI das richtige Dokument. Das ist keine Marketing-Zahl — es ist eine reproduzierbare Benchmark auf 500 LongMemEval-Fragen.
Für Anwälte bedeutet das: Wenn du eine Frage stellst, findet die KI mit sehr hoher Wahrscheinlichkeit das relevante Dokument in deinen Akten. Und wenn sie es nicht findet — sagt sie es dir.