Entscheidend ist der Abgleich der Aussage: Stimmt sie mit der bekannten Vorlage oder einer geeigneten Originalquelle überein? Fehlende Angaben bleiben offen. Eine Empfehlung für einen Prompt oder eine zweite Modellantwort ersetzt die tatsächliche Prüfung nicht.
Was eine Halluzination in deiner Antwort bedeutet
Eine Antwort kann zur Eingabe passen und trotzdem sachlich falsch sein. Sie kann auch eine echte Angabe wiedergeben, aber Informationen ergänzen, die in deiner Vorlage nicht stehen. Fraunhofer IESE unterscheidet bei Halluzinationen faktische Richtigkeit und die Übereinstimmung mit dem Quelleninput.
TÜVIT beschreibt unter anderem faktische Widersprüche, Widersprüche zur Eingabe und innerhalb einer Antwort. Aus der sprachlichen Qualität lässt sich daher nicht zuverlässig entscheiden, ob eine Aussage richtig ist. Auch fehlende Nachweise verdienen zunächst Prüfung, nicht automatisch das Urteil „erfunden“. Wenn du wiederkehrende Unterschiede zwischen Gruppen prüfen möchtest, behandle KI-Bias und systematische Verzerrungen als eigene Fragestellung.
Welche Aussagen eine Prüfung brauchen
Zerlege einen Text in überprüfbare Aussagen. Ein langer Satz kann einen richtigen Namen, ein unbelegtes Datum und eine falsche Schlussfolgerung gleichzeitig enthalten. Bei einer Zusammenfassung vergleichst du diese Einheiten zuerst mit dem bereitgestellten Originalmaterial.
| Prüfeinheit | Frage dazu | Möglicher Befund |
|---|---|---|
| Angabe | Steht Name, Zahl oder Datum in der Vorlage? | Belegt, abweichend oder offen |
| Zuordnung | Gehört die Angabe zur richtigen Person, Sache oder Version? | Passend oder verwechselt |
| Schlussfolgerung | Folgt sie aus dem Material? | Tragfähig, eingeschränkt oder unbelegt |
| Quelle | Enthält die verlinkte Fundstelle die Aussage? | Bestätigt, nicht gestützt oder nicht geprüft |
Gerade die letzte Frage verlangt eine Prüfung der KI-Quellen. Ein echter Link kann zu einem Text führen, der die behauptete Aussage gar nicht enthält.
Ein Lagerprotokoll als kontrolliertes Beispiel
Das folgende Protokoll ist ein fiktives, selbst geschriebenes Beispiel: „Neun Kartons geliefert. Sechs äußerlich kontrolliert, dabei keine Beschädigung gesehen. Für die übrigen drei fehlt noch die Kontrolle.“ Eine KI soll daraus eine kurze Statusnotiz erzeugen.
| Ausgabe | Abgleich | Entscheidung |
|---|---|---|
| Neun Kartons wurden geliefert. | Steht ausdrücklich im Protokoll. | Übernehmbar im Rahmen dieses Beispiels. |
| Alle Kartons sind unbeschädigt. | Nur sechs wurden äußerlich kontrolliert. | Aussage zurückweisen. |
| Die übrigen drei werden morgen geprüft. | Ein Zeitpunkt fehlt. | Zeitpunkt offen lassen. |
Das Beispiel trennt eine richtige Angabe von einer zu weitgehenden Aussage und einer zusätzlichen Erfindung. Es stammt aus keinem getesteten Modell. Die Grafik stellt genau diesen redaktionellen Abgleich dar.
Die Aufgabe enger formulieren
Formuliere die Aufgabe so, dass ihr Umfang überprüfbar bleibt. Für das Beispiel könnte deine Vorgabe lauten: „Fasse nur die Angaben aus diesem Protokoll zusammen. Halte ausdrücklich fest, welche Kartons geprüft sind und welche Information offen ist.“
Das schafft ein klares Prüfkriterium, garantiert aber keine korrekte Ausgabe. Verwende anschließend eine zweite Testnotiz mit einem anderen Verhältnis und eine Notiz ohne Prüfangabe. So merkst du eher, ob das Modell nur das erste Beispiel nachbildet oder zuverlässig mit fehlenden Informationen umgeht.
Bei umfangreichen Dokumenten brauchst du außerdem einen Nachweis, welche Passagen die Anwendung überhaupt an das Modell gegeben hat. Wenn eine wichtige Information schon vor dem Aufruf fehlt, lässt sich das Problem nicht allein mit einer anderen Antwortformulierung lösen.
Den Befund außerhalb der Modellantwort bestätigen
Bei Aussagen über die Außenwelt reicht deine ursprüngliche Notiz möglicherweise nicht. Suche die maßgebliche Originalquelle, prüfe deren Datum, Version und den Zusammenhang. Eine andere Webseite kann denselben Fehler übernommen haben; zwei übereinstimmende Texte sind deshalb nicht automatisch unabhängig.
Eine weitere KI kann Kandidaten markieren oder Widersprüche aufzeigen. Ob ein Kandidat stimmt, entscheidet aber der tatsächliche Beleg. Dasselbe gilt für eine vom Modell genannte Unsicherheitszahl: Ohne eine geprüfte Messmethode ist sie keine verlässliche Wahrscheinlichkeit.
Fraunhofer beschreibt Faktenabgleich und externe Wissensquellen als Ansätze. Daraus folgt keine Zusage, dass eine RAG-Anwendung oder ein besserer Prompt jede falsche Antwort verhindert.
Unbelegte Angaben bleiben offen
Notiere vor der Weiterverwendung drei Zustände: geprüft und tragfähig, geprüft mit Einschränkung, noch offen. Eine offene Angabe sollte nicht durch eine passende Formulierung versteckt werden. Streiche sie, grenze die Aussage ein oder beschaffe den fehlenden Beleg.
Bewahre Vorlage, erzeugten Text und die korrigierte Fassung zusammen auf. Wenn später eine andere Modellversion verwendet wird, kannst du dieselben Beispiele nochmals prüfen. Für redaktionelle Inhalte beschreibt der Tokenwerk-Redaktionsstandard den Umgang mit Quellen und Korrekturen.
Weitere Beiträge zu Quellen und Verantwortung findest du im Bereich KI & Gesellschaft. Es gibt hier keine allgemeine Fehlerquote oder Diagnose aus dem Schreibstil; der konkrete Abgleich steht im Mittelpunkt.
Quellen & Methode
Vorgehen und Grenzen
Dieser Artikel wurde mit KI-Unterstützung aus den verlinkten Originalunterlagen erstellt. Grafiken, Rechen- und Textbeispiele sind eigene, ausdrücklich gekennzeichnete Darstellungen. Es wurden dafür keine Modelle gestartet, Hardwaremessungen oder Angriffstests durchgeführt. Dokumentationen können sich ändern; prüfe die Quelle für deine Version.
Bei Recherche, Texterstellung und Grafiken wird KI eingesetzt. Welche eigenen Versuche vorliegen und was nur als Beispiel dient, beschreibt dieser Beitrag. Unser Redaktionsstandard erklärt die Anforderungen an Belege und Berichtigungen.
