Richtlinien zur Nutzung von KI

Was man bei der Nutzung von KI wissen muss

Texte aus KI-Tools haben nicht die Qualität einer wissenschaftlichen Quelle. Die meisten Sprachmodelle machen keine Angaben zu ihren Trainingsdaten, wodurch nicht nachvollziehbar ist, wie generierte Antworten entstanden sind. Im Wissenschaftsprozess ist es unerlässlich zu wissen, wie Erkenntnisse gewonnen wurden und auf welchen Quellen sie fußen, daher sind KI-Ausgaben (derzeit) nicht als wissenschaftliche Quelle zitierfähig.

KI-Ergebnisse können falsch sein. Die großen Sprachmodelle (LLM) kombinieren Wörter nach dem Prinzip von Wahrscheinlichkeiten; sie reproduzieren keine Wahrheiten. In diesem Zusammenhang kommt es immer wieder zu sogenannten Halluzinationen (erfundene bzw. falsch zusammengestellte Informationen), die die Verlässlichkeit des wissenschaftlichen Erkenntnisprozesses gefährden. Eine weitere Ursache für ggf. falsche KI-Ergebnisse liegt in einseitigen oder verzerrten Trainingsdaten (Bias): So kann eine KI diskriminierende, stereotype oder vorurteilsbehaftete Aussagen generieren.

Wer mit KI arbeitet, muss diese Risiken erkennen. Der/die Verfasser*in trägt die Verantwortung für das Ergebnis seiner/ihrer wissenschaftlichen Ausarbeitungen. Das bedeutet, dass er/sie die Richtigkeit der Inhalte garantiert. Die Aussagen, die Argumentation und die Auswahl der Quellen wurden bewusst gewählt und er/sie kann alle Ergebnisse erklären.

Dokumentation der KI-Nutzung

Es ist möglich, KI-Tools unterstützend im wissenschaftlichen Arbeitsprozess (Studienarbeiten, Referate etc.) zu verwenden. In diesem Sinne müssen KI-Tools als Hilfsmittel zur Erstellung einer Prüfungsleistung verstanden werden. Der Einsatz ist transparent zu machen und die verwendeten KI-Werkzeuge sind im Anhang der Arbeit zu nennen.

Alle unbeaufsichtigten schriftlichen Prüfungen (Studienarbeiten, SiP, Bachelor- und Masterarbeiten sowie Referate und schriftliche Berufspraktische Übungen) sind mit einem Verzeichnis über die verwendeten KI-Tools zu ergänzen. Das KI-Verzeichnis ist hinter das Literaturverzeichnis zu setzen.

Mit der Abgabe der Eigenständigkeitserklärung, die beim Upload von Prüfungsleistungen im Campusmanagement-System der FHM übernimmt der/die Verfasser*in die Verantwortung für die Inhalte: „Sofern bei der Erstellung der Arbeit KI-Werkzeuge eingesetzt wurden, sind diese mit Angabe ihres Verwendungszwecks zu dokumentieren. Ich habe die mit Unterstützung von KI erstellten Inhalte überprüft und übernehme die volle Verantwortung für die Korrektheit."

Reflexion der KI-Nutzung

Darüber hinaus empfiehlt die FHM, die Nutzung von KI zur Erstellung von Prüfungsleistungen zu reflektieren. Werden KI-Tools eingesetzt, ist es wichtig, die Stärken und Schwächen der Anwendungen beurteilen zu können.

Folgende Fragen können für die Reflexion leitend sein:

Ziel/ Rolle 

Warum haben Sie KI eingesetzt? Welches Problem sollte die KI lösen?  
Welche Aufgabe haben Sie bewusst nicht an die KI delegiert – und warum? 
Wie hätte Ihre Arbeit ohne KI ausgesehen (z.B. Inhalt, Methode, Aufwand, Qualität)?

Qualität 

Wie haben Sie die Fakten geprüft (Primärquellen, peer-reviewte Literatur, Datenquellen, Gegencheck mit mehreren Quellen)? 
Wo bestand das Risiko von Halluzinationen, erfundenen Quellen, falschen Zitaten oder falschen Zahlen? Wie haben Sie alle Angaben überprüft? 
Wie haben Sie eine Vielfalt an Quellen und Positionen sichergestellt (auch jenseits dessen, was eine KI empfiehlt)? 
Haben Sie KI genutzt, um alternative Ansätze/Positionen zu finden – und wie sind Sie damit umgegangen? 
Inwiefern hat KI Ihre Schreibstimme verändert (z.B. Stil, Komplexität, Mut zu klaren Positionen etc.)?

Bias und Stereotype:  

Welche Perspektive transportiert KI? Das bedeutet: Sind die ausgewählten Theorien/Modelle/Ansätze passend und wissenschaftlich fundiert oder werden für das Thema unbedeutende/unpassende Ansätze thematisiert? 
Welche Gruppen, Kontexte oder Theorien könnten systematisch unterrepräsentiert sein?  
Hat die KI stereotype oder verzerrte Annahmen vorgeschlagen? 
Gibt es in Ihrem Thema normative Begriffe (z.B. Effizienz, Erfolg, Qualität, Innovation etc.)? Wenn ja, wie stellen Sie sicher, dass Sie keine implizite Wertung einer KI übernommen haben?

Datenschutz/Urheberrecht 

Wie haben Sie die Eingabe persönlicher Daten oder die Eingabe von Daten anderer Personen vermieden? 
Wie konnten Sie sicherstellen, keine urheberrechtlich geschützten Daten in die KI einzugeben?

Lernprozess und Kompetenzentwicklung 

Was haben Sie durch KI besser bearbeiten können (Verständnis, Struktur, Methodik, Sprache)? Was hat sich bei der KI-Nutzung bewährt? 
Was würden Sie beim KI-Einsatz rückblickend anders machen?

Die Anforderungen an die Reflexion des KI-Einsatzes legt der/die Prüfende fest.

Was sollte man beim Umgang mit generativer KI beachten?

Vertrauen Sie nicht den erzeugten KI-Ergebnissen – überprüfen Sie Fakten, Argumentationslogik und Quellenangaben.
Fragen Sie sich: Ist die Antwort nachvollziehbar? Entspricht oder widerspricht sie dem Forschungsstand?

Beachten Sie, dass KI auf Wahrscheinlichkeiten basiert. Es werden keine richtigen, sondern nur statistisch wahrscheinliche Antworten ausgegeben.
Typische Fehlerquellen sind Halluzinationen, Verzerrungen, fehlende Aktualität.

Geben Sie an, ob und wie Sie KI verwendet haben (z. B. bei der Ideenentwicklung, bei der Verbesserung der Verständlichkeit Ihres Textes etc.).
Nutzen Sie KI nicht zur automatischen Erstellung ganzer Texte – das verstößt gegen die wissenschaftliche Redlichkeit.
Verwenden Sie KI-generierte Texte nicht als wissenschaftliche Quelle, da nicht nachvollziehbar ist, aus welchen Quellen die Texte entstanden sind.

Achten Sie auf die Einhaltung des Datenschutzes: Geben Sie keine personenbezogenen Daten in KI-Systeme ein.
Die KI nutzt Ihre Eingaben zur Verbesserung des Systems, daher vermeiden Sie die Eingabe sensibler Daten.

Stellen Sie präzise und kontextbezogene Fragen bzw. geben Sie zielführende Anweisungen (Prompts), damit die KI passende und nutzbare Ergebnisse liefern kann.
Nutzen Sie KI als unterstützendes Werkzeug, nicht als Ersatz für Ihre eigene Analyse.

Künstliche Intelligenz (KI) kann in vielen Phasen des wissenschaftlichen Arbeitens hilfreich sein – von der Themenfindung bis zur Textüberarbeitung. Richtig eingesetzt, kann sie den Arbeitsprozess deutlich erleichtern und dabei helfen, neue Ideen oder Zusammenhänge zu entdecken. Immer mehr spezialisierte KI-Tools stehen zur Verfügung, sodass fast jeder Schritt im Forschungs- und Schreibprozess von KI unterstützt werden kann.

KI kann zur Ideengenerierung und Strukturierung verwendet werden, einschließlich der Entwicklung von Themen, Gliederungen, der Analyse von Fachliteratur zur Identifizierung von Zusammenhängen und Fragestellungen sowie der Entwicklung von Forschungsdesigns.

KI kann bei der Literaturrecherche und Inhaltszusammenfassung helfen, indem sie relevante Studien identifiziert und deren Inhalte prägnant aufbereitet. Dies vereinfacht die Erfassung des Forschungsstands und die Erstellung von Literaturübersichten. Auch Zusammenfassungen der eigenen Arbeit sind mittels KI möglich.

KI kann als Formulierungshilfe und zur Korrektur von Texten dienen, indem sie alternative Formulierungen vorschlägt, die Kohärenz, Grammatik und den Stil überprüft, Feedback zur sprachlichen Qualität gibt und potenzielle Schwachstellen in der Argumentation identifiziert.

Im Rahmen der empirischen Forschung und Datenauswertung kann KI bei der Analyse von Daten und der Erstellung von Visualisierungen unterstützen, Daten interpretieren und Vorschläge zur Ergebnisdarstellung machen.

KI kann Unterstützung für das korrekte Zitieren und die Verwaltung von Literaturverweisen bieten, um wissenschaftliche Standards einzuhalten.

Viele KI-Tools liefern zum jetzigen Zeitpunkt eingeschränkt verwendbare Ergebnisse, können aber bei kritischer Anwendung eine Arbeitserleichterung und Unterstützung darstellen.