Richtlinien zur Nutzung von KI

Was man bei der Nutzung von KI wissen muss

Texte aus KI-Tools haben nicht die Qualität einer wissenschaftlichen Quelle. Die meisten Sprachmodelle machen keine Angaben zu ihren Trainingsdaten, wodurch nicht nachvollziehbar ist, wie generierte Antworten entstanden sind. Im Wissenschaftsprozess ist es unerlässlich zu wissen, wie Erkenntnisse gewonnen wurden und auf welchen Quellen sie fußen, daher sind KI-Ausgaben (derzeit) nicht als wissenschaftliche Quelle zitierfähig.

KI-Ergebnisse können falsch sein. Die großen Sprachmodelle (LLM) kombinieren Wörter nach dem Prinzip von Wahrscheinlichkeiten; sie reproduzieren keine Wahrheiten. In diesem Zusammenhang kommt es immer wieder zu sogenannten Halluzinationen (erfundene bzw. falsch zusammengestellte Informationen), die die Verlässlichkeit des wissenschaftlichen Erkenntnisprozesses gefährden. Eine weitere Ursache für ggf. falsche KI-Ergebnisse liegt in einseitigen oder verzerrten Trainingsdaten (Bias): So kann es zu diskriminierenden, stereotypen oder vorurteilsbehafteten Ergebnissen kommen.

Wer mit KI arbeitet, muss diese Risiken erkennen. Der/die Verfasser*in trägt die Verantwortung für das wissenschaftliche Ergebnis seiner/ihrer schriftlichen Ausarbeitungen. Er/sie verantwortet alle Aussagen und garantiert die Verlässlichkeit seiner/ihrer Quellen.

Dokumentation der KI-Nutzung

Es ist möglich, KI-Tools unterstützend im wissenschaftlichen Schreibprozess zu verwenden. In diesem Sinne müssen KI-Tools als Hilfsmittel zur Erstellung einer Prüfungsleistung verstanden werden. Der Einsatz ist transparent zu machen und die verwendeten KI-Werkzeuge sind im Anhang der Arbeit zu nennen.

Alle unbeaufsichtigten schriftlichen Prüfungen (Studienarbeiten, SiP, Bachelor- und Masterarbeiten) sind mit einem Verzeichnis über die verwendeten KI-Tools zu ergänzen. Das KI-Verzeichnis ist hinter das Literaturverzeichnis zu setzen.

Die bisherige Eigenständigkeitserklärung, die beim Upload der Arbeit im Campusmanagement-System der FHM bestätigt wird, wird um folgende Sätze ergänzt: „Die bei der Erstellung der Arbeit eingesetzten KI-Werkzeuge wurden mit Angabe ihres Verwendungszwecks dokumentiert. Ich habe die mit Unterstützung von KI erstellen Inhalte auf fachliche und sachliche Korrektheit überprüft und übernehme die volle Verantwortung für die Korrektheit der Inhalte.“

Reflexion der KI-Nutzung

Darüber hinaus empfiehlt die FHM, die Nutzung von KI zur Erstellung der Arbeit zu reflektieren. Werden KI-Tools eingesetzt, ist es wichtig, die Stärken und Schwächen der Anwendungen beurteilen zu können.

Folgende Fragen können für die Reflexion leitend sein:

Wie bewerten Sie die Qualität der ausgegebenen KI-Texte zu Ihrem Thema?
Gehen Sie von einer Verzerrung (Bias) der Antworten aus? Begründen Sie Ihre Einschätzung.
Wie haben Sie die Quellen, die KI geliefert hat, in der vorliegenden Arbeit geprüft?
Wo sehen Sie Grenzen der KI-Nutzung für Ihr Thema/Ihre Arbeit?
Wo sehen Sie Chancen des Einsatzes für Ihr Thema/Ihre Arbeit?
Wie haben Sie die Eingabe persönlicher Daten oder die Eingabe zu Daten anderer Personen vermieden?
Welche Hintergrundinformationen haben Sie zur genutzten KI recherchiert und wie bewerten Sie diese?

Die Anforderungen an die Reflexion des KI-Einsatzes legt der Prüfende fest.

Was sollte man beim Umgang mit generativer KI beachten?

Vertrauen Sie nicht den erzeugten KI-Ergebnissen – überprüfen Sie Fakten, Argumentationslogik und Quellenangaben.
Fragen Sie sich: Ist die Antwort nachvollziehbar? Entspricht oder widerspricht sie dem Forschungsstand?

Beachten Sie, dass KI auf Wahrscheinlichkeiten basiert. Es werden keine richtigen, sondern nur statistisch wahrscheinliche Antworten ausgegeben.
Typische Fehlerquellen sind Halluzinationen, Verzerrungen, fehlende Aktualität.

Geben Sie an, ob und wie Sie KI verwendet haben (z. B. bei der Ideenentwicklung, bei der Verbesserung der Verständlichkeit Ihres Textes etc.).
Nutzen Sie KI nicht zur automatischen Erstellung ganzer Texte – das verstößt gegen die wissenschaftliche Redlichkeit.
Verwenden Sie KI-generierte Texte nicht als wissenschaftliche Quelle, da nicht nachvollziehbar ist, aus welchen Quellen die Texte entstanden sind.

Achten Sie auf die Einhaltung des Datenschutzes: Geben Sie keine personenbezogenen Daten in KI-Systeme ein.
Die KI nutzt Ihre Eingaben zur Verbesserung des Systems, daher vermeiden Sie die Eingabe sensibler Daten.

Stellen Sie präzise und kontextbezogene Fragen bzw. geben Sie zielführende Anweisungen (Prompts), damit die KI passende und nutzbare Ergebnisse liefern kann.
Nutzen Sie KI als unterstützendes Werkzeug, nicht als Ersatz für Ihre eigene Analyse.

Künstliche Intelligenz (KI) kann in vielen Phasen des wissenschaftlichen Arbeitens hilfreich sein – von der Themenfindung bis zur Textüberarbeitung. Richtig eingesetzt, kann sie den Arbeitsprozess deutlich erleichtern und dabei helfen, neue Ideen oder Zusammenhänge zu entdecken. Immer mehr spezialisierte KI-Tools stehen zur Verfügung, sodass fast jeder Schritt im Forschungs- und Schreibprozess von KI unterstützt werden kann.

KI kann zur Ideengenerierung und Strukturierung verwendet werden, einschließlich der Entwicklung von Themen, Gliederungen, der Analyse von Fachliteratur zur Identifizierung von Zusammenhängen und Fragestellungen sowie der Entwicklung von Forschungsdesigns.

KI kann bei der Literaturrecherche und Inhaltszusammenfassung helfen, indem sie relevante Studien identifiziert und deren Inhalte prägnant aufbereitet. Dies vereinfacht die Erfassung des Forschungsstands und die Erstellung von Literaturübersichten. Auch Zusammenfassungen der eigenen Arbeit sind mittels KI möglich.

KI kann als Formulierungshilfe und zur Korrektur von Texten dienen, indem sie alternative Formulierungen vorschlägt, die Kohärenz, Grammatik und den Stil überprüft, Feedback zur sprachlichen Qualität gibt und potenzielle Schwachstellen in der Argumentation identifiziert.

Im Rahmen der empirischen Forschung und Datenauswertung kann KI bei der Analyse von Daten und der Erstellung von Visualisierungen unterstützen, Daten interpretieren und Vorschläge zur Ergebnisdarstellung machen.

KI kann Unterstützung für das korrekte Zitieren und die Verwaltung von Literaturverweisen bieten, um wissenschaftliche Standards einzuhalten.

Viele KI-Tools liefern zum jetzigen Zeitpunkt eingeschränkt verwendbare Ergebnisse, können aber bei kritischer Anwendung eine Arbeitserleichterung und Unterstützung darstellen.