Wie oft erfindet KI Quellenangaben? Was die Untersuchungen zeigen

Die Zahl, nach der alle fragen, gibt es nicht — jedenfalls nicht als eine Zahl. Untersuchungen zu erfundenen Quellenangaben in Sprachmodellen berichten Werte, die von wenigen Prozent bis über die Hälfte reichen, und diese Spannweite ist kein Messfehler. Sie ist das Ergebnis.

Warum die Werte so weit auseinanderliegen

Vier Dinge verschieben die Rate um ein Vielfaches.

Das Modell. Zwischen Modellgenerationen liegen Größenordnungen. Eine Zahl aus einer Untersuchung von vor zwei Jahren beschreibt ein System, das es so nicht mehr gibt.

Der Zugriff auf eine Datenbank. Ein Modell, das frei antwortet, erzeugt Quellenangaben aus dem Gedächtnis. Ein System, das vor der Antwort eine echte Datenbank durchsucht und nur daraus zitiert, kann strukturell keine erfinden — es hat nichts zu erfinden.

Das Fachgebiet. Zu stark vertretenen Themen (Psychologie, Medizin, Informatik) sind die Angaben zuverlässiger als zu Nischen, zu nicht-englischsprachiger Literatur und zu allem, was hinter Bezahlschranken liegt.

Wie streng geprüft wird. Zählt eine Angabe schon als falsch, wenn die Seitenzahl nicht stimmt? Wenn der Aufsatz existiert, aber die Aussage nicht trägt? Oder nur, wenn die Publikation gar nicht existiert? Je nach Definition ändert sich die Rate erheblich.

Wenn Sie also irgendwo eine Prozentzahl lesen, ist die erste Frage: Welches Modell, welches Fach, welche Definition, wann gemessen.

Warum es überhaupt passiert

Ein Sprachmodell hat keine Datenbank mit Publikationen. Es hat gelernt, wie Text aussieht, der auf Publikationen folgt.

Eine Quellenangabe hat eine sehr regelmäßige Form: Nachname, Initiale, Jahr in Klammern, Titel, Zeitschrift, Band, Seiten, DOI. Ein Modell, das diese Form gelernt hat, kann sie beliebig ausfüllen — mit Namen, die in diesem Feld häufig sind, einer Zeitschrift, die zum Thema passt, einem plausiblen Jahr und einem DOI in korrekter Syntax.

Das Ergebnis sieht nicht deshalb echt aus, weil das Modell täuschen will, sondern weil es exakt die Form getroffen hat, die es lernen sollte. Es fehlt nur die Publikation.

Die drei Fehlerarten, in aufsteigender Tücke:

1. Die Publikation existiert nicht. Leicht zu prüfen, in einer Minute erledigt.
2. Die Publikation existiert, die Angaben stimmen nicht. Falsches Jahr, falsche Zeitschrift, falsche Erstautorschaft — häufig wird eine Ko-Autorin an die erste Stelle gesetzt. Sieht bei oberflächlicher Prüfung richtig aus.
3. Die Publikation existiert, trägt die Aussage aber nicht. Der schwierigste Fall. Sie schlagen nach, der Aufsatz ist echt, das Thema passt — und die konkrete Behauptung steht dort nicht oder gilt nur unter Bedingungen, die im Satz fehlen. Diese Fälle überstehen jede Formalprüfung und fallen erst in der Verteidigung auf.

Was das für eine Abschlussarbeit heißt

Eine erfundene Quellenangabe in einer eingereichten Arbeit ist keine Ungenauigkeit. Sie ist eine Aussage über eine Publikation, die es nicht gibt — und wird in den meisten Prüfungsordnungen als Täuschung behandelt, unabhängig davon, ob Sie sie erfunden oder übernommen haben.

„Das hat die KI geschrieben“ ist keine Verteidigung. Sie unterschreiben, dass die Arbeit selbstständig entstanden ist und die angegebenen Quellen verwendet wurden.

Praktisch heißt das: Jede Angabe, die nicht aus einer Quelle stammt, die Sie selbst geöffnet haben, ist ungeprüft — auch wenn sie perfekt aussieht. Besonders wenn sie perfekt aussieht.

Der Unterschied zwischen zwei Bauweisen

Das ist der Punkt, an dem sich Werkzeuge unterscheiden, und er ist wichtiger als jede Prozentzahl.

Aus dem Gedächtnis. Sie fragen ein allgemeines Sprachmodell nach Quellen zu einem Thema. Es erzeugt Angaben, die aussehen wie Quellenangaben. Ob es sie gibt, weiß niemand — auch das Modell nicht, weil es keine Vorstellung von „gibt es“ hat.

Aus einer Bibliothek. Das System durchsucht zuerst eine echte Datenbank (OpenAlex, Crossref, PubMed), Sie wählen aus den Treffern aus, und geschrieben wird ausschließlich mit dem, was Sie gespeichert haben. Ein Beleg zeigt dann auf einen Nachweis, den Sie öffnen können.

Der zweite Aufbau — so prüft Grongy AI jede Quelle — löst das Problem nicht durch ein besseres Modell, sondern dadurch, dass er dem Modell die Gelegenheit nimmt. Was nicht in der Bibliothek liegt, kann nicht zitiert werden — und wenn die Bibliothek einen Satz nicht trägt, bleibt der Satz ohne Beleg, statt einen zu bekommen.

Das ist die eigentliche Unterscheidung: Ein System, das die Lücke sichtbar lässt, ist brauchbarer als eines, das sie füllt.

Was Sie prüfen sollten – und in welcher Reihenfolge

Für jede Angabe, die nicht von Ihnen selbst stammt:

1. Gibt es die Publikation? Titel wörtlich in Google Scholar oder Crossref suchen. Zwei Minuten.
2. Stimmen die Angaben? Erstautorschaft, Jahr, Zeitschrift, Band. Besonders die Erstautorschaft — die Verwechslung mit einer Ko-Autorin ist der häufigste Einzelfehler.
3. Führt der DOI dorthin? doi.org davor setzen und öffnen. Ein DOI, der zu einer anderen Arbeit führt, ist schlimmer als keiner.
4. Trägt die Quelle die Aussage? Zusammenfassung lesen, bei tragenden Aussagen die Stelle im Volltext. Das ist der Schritt, den alle auslassen und der als einziger die dritte Fehlerart findet.

Für Bücher, Berichte und deutschsprachige Fachzeitschriften gilt: Nicht auffindbar heißt hier nicht erfunden. Vieles davon steht in keinem der großen Nachweissysteme. Prüfen Sie dann im Bibliothekskatalog.

Der Aufwand, ehrlich gerechnet

Vierzig Quellenangaben, je zwei Minuten für die Existenzprüfung: gut anderthalb Stunden. Die inhaltliche Prüfung der tragenden Aussagen dauert länger, betrifft aber nicht alle vierzig — realistisch sind es die zehn bis fünfzehn, auf denen Ihre Argumentation steht.

Das ist ein Nachmittag. Gemessen an dem, was auf dem Spiel steht, ist es der billigste Nachmittag der ganzen Arbeit.