Warum plausible Texte gefährlich werden können
Generative KI kann selbstbewusst formulierte, sachlich falsche Inhalte erzeugen. NIST beschreibt dieses Risiko als Konfabulation. Gerade ein glaubwürdiger Ton erschwert es, Fehler ohne Fach- und Quellenprüfung zu erkennen.
NIST: Generative AI Profile (2024)
Plausible technische Erläuterungen können falsche Einheiten, unpassende Annahmen oder nicht existierende Normverweise enthalten. Prüfen Sie Berechnungen und Verweise direkt anhand der Originalunterlagen und geben Sie vertrauliche Unternehmensdaten nicht ungeprüft an KI-Dienste weiter.
Erfundene Quellen und falsch zugeordnete Aussagen
Literaturangaben können vollständig erfunden sein oder reale Publikationen mit falschen Titeln, Seitenzahlen und Inhalten verbinden. Walters und Wilder dokumentierten solche Fehler 2023 für die damals untersuchten ChatGPT-Modelle. Die Studie belegt das Problem; ihre Fehlerquoten lassen sich nicht pauschal auf heutige Modelle übertragen.
Walters & Wilder: Fehler und erfundene Literaturangaben (2023)
Suchen Sie jede verwendete Quelle im Bibliothekskatalog, auf der Verlagsseite oder in einer geeigneten Fachdatenbank. Lesen Sie die relevante Stelle selbst. Eine vorhandene DOI bestätigt die Existenz eines Dokuments, nicht die Richtigkeit der Behauptung, für die es zitiert wird.
Unbeabsichtigte Übernahmen bleiben ein Risiko
Auch umformulierte Ideen benötigen einen nachvollziehbaren Beleg, wenn sie aus fremden Arbeiten stammen. Eine KI-Paraphrase schafft keine neue Urheberschaft und ersetzt keine Quellenangabe. Ohne Kenntnis des Originals lässt sich oft nicht beurteilen, ob ein Gedanke sauber zugeordnet wurde.
Nicht jeder KI-Text ist ein Plagiat. Umgekehrt beweist ein unauffälliger Ähnlichkeitsbericht keine korrekte Belegpraxis. Prüfen Sie Aussagen, Zitate und Paraphrasen anhand der Originalquellen; ein Detektor ersetzt diese Prüfung nicht.
Sprachliche Glätte ist keine wissenschaftliche Argumentation
Achten Sie auf unklare Fachbegriffe, unbegründete Verallgemeinerungen und scheinbar logische Übergänge ohne Beleg. Ein Text kann grammatisch einwandfrei sein und trotzdem die Forschungsfrage verfehlen oder widersprüchliche Positionen vermischen.
Besonders kritisch sind erfundene Daten, Interviewaussagen und Ergebnisse. Künstlich erzeugte Beispiele müssen als solche erkennbar bleiben; sie dürfen nicht als tatsächlich erhobene Forschungsdaten erscheinen. Methodische Entscheidungen und Berechnungen brauchen eine nachvollziehbare Grundlage.
Eine Prüfroutine für jeden KI-gestützten Abschnitt
- Vorgaben der Hochschule und der betreuenden Person vor dem Einsatz klären.
- Jede fachliche Aussage und jeden Literaturbeleg am Original prüfen.
- Eigene Daten, Berechnungen und Interpretationen unabhängig nachvollziehen.
- Zitate, Paraphrasen und eigene Schlussfolgerungen klar unterscheiden.
- Keine vertraulichen Forschungs- oder Personendaten ungeprüft in Dienste eingeben.
- Werkzeug, Zweck und Umfang der Nutzung nach den geltenden Vorgaben dokumentieren.
Die DFG schließt generative Modelle in der Wissenschaft nicht grundsätzlich aus, betont aber wissenschaftliche Verantwortung und Nachvollziehbarkeit. Daraus folgt keine pauschale Erlaubnis für Ihre Prüfung; maßgeblich sind die Regeln Ihrer Einrichtung.
Auch Agenturleistungen kritisch prüfen
Fragen Sie eine Agentur, ob und wofür KI eingesetzt wird, wer Quellen und Fachinhalt überprüft und wie diese Schritte dokumentiert werden. Ein hoher Preis oder die Zusage menschlicher Bearbeitung allein garantiert keine Fehlerfreiheit. Qualifizierte Betreuung sollte ihren Prüfprozess konkret erklären können.
KI kann je nach Vorgaben bei Ideenfindung oder sprachlicher Überarbeitung unterstützen. Wer auf eine eigenständige fachliche Prüfung verzichtet, riskiert jedoch, Fehler und unbelegte Aussagen unbemerkt zu übernehmen. Planen Sie die Prüfung als eigene Arbeit ein.
Häufige Fragen
Ist jeder KI-generierte Text automatisch ein Plagiat?
Nein. Entscheidend sind unter anderem übernommene Inhalte und deren Kennzeichnung. Auch umformulierte fremde Gedanken benötigen passende Belege.
Reicht es, wenn alle zitierten Quellen existieren?
Nein. Zusätzlich müssen die Quellen die jeweiligen Aussagen tatsächlich stützen. Prüfen Sie dafür die Originalstellen.
Ist KI bei wissenschaftlichen Arbeiten immer verboten?
Nein. Die zulässige Nutzung hängt von den Regeln der Einrichtung und der konkreten Aufgabe ab. Klären Sie diese vor dem Einsatz und dokumentieren Sie die Nutzung entsprechend.
Die verantwortliche Person ist bei GWriters beschäftigt. Die Verbindung und unsere redaktionelle Vorgehensweise sind auf der Methodikseite offengelegt.