Künstliche Intelligenz: Prüfungsrechtliche Aspekte
Da der Umgang mit KI und KI-Tools derzeit an jeder Hochschule unterschiedlich erfolgt bzw. ausgelegt wird und zudem keine rechtssichere Orientierung verfügbar ist, können an dieser Stelle (noch) keine verbindlichen Empfehlungen ausgesprochen werden.
Insbesondere größere Hochschulen haben in ihrem Wirkungskreis Empfehlungen herausgegeben. Auch einzelne Rechtsgutachten sowie Handreichungen von übergeordneten Instanzen wie z.B. dem Hochschulforum Digitalisierung, dem Centrum für Hochschulentwicklung oder Deutschen Gesellschaft für Hochschuldidaktik sind verfügbar. Eine Einheitlichkeit oder gar Verbindlichkeit sind derzeit jedoch (noch) nicht vorhanden. Nachfolgende Erläuterungen stellen deshalb eine Bestandsaufnahme dar, die stetig überprüft und aktualisiert wird.
Urheberschaft an KI-Inhalten
Die Verwendung von KI-Tools zur Erstellung von Inhalten jeglicher Art bietet neue Möglichkeiten für Lehrende und Studierende an Hochschulen. Aus urheberrechtlicher Sicht stellt sich beim Einsatz von KI-Tools vor allem die Frage nach der Urheberschaft am Werk, wenn dieses ausschließlich oder teilweise mittels KI produziert wurde. Das Werk als Schutzgegenstand des Urheberrechts wird gemäß § 2 Abs. 2 UrhG definiert als persönliche, geistige Schöpfung des Urhebers. Eine Schöpfung ist persönlich, wenn diese von einem Menschen geschaffen wurde. Maßgeblich für das Entstehen eines schutzfähigen Werkes mittels KI-Tools ist folglich das Überwiegen der menschlichen Eigenleistung im Erstellungsprozess.
Kennzeichnung von KI-Inhalten
Für die Kennzeichnung von KI-Inhalten in Prüfungen (Abschlussarbeiten) und in akademischen Veröffentlichungen gibt es keine pauschalen Musterlösungen. Hochschulen sollten gemäß ihrer grundsätzlichen Haltung zum KI-Einsatz einen individuellen Regelungsrahmen erarbeiten und festlegen, um Rechtssicherheit für Lehrende und Studierende zu schaffen. Als Orientierungshilfe zum korrekten Zitieren aus KI-Inhalten kann die Handreichung der Universität Basel empfohlen werden.
Weiterhin können sich zusätzliche Kennzeichnungspflichten aus den Lizenz- und Nutzungsbedingungen der verwendeten KI-Software ergeben. Mit Nutzung der KI-Software verpflichten sich User:innen zur Einhaltung der Lizenz- und Nutzungsbedingungen und damit zur Umsetzung der Kennzeichnungsvorgaben.
Wahrung der Regelungen guter wissenschaftlicher Praxis
Wenn Fremdinhalte verwendet werden, müssen diese mit entsprechender Quellenangabe und Urhebernennung gekennzeichnet werden. Grundsätzlich muss für Dritte die Quelle zu erkennen sein. Dies gilt auch für Inhalte, die vollumfänglich oder teilweise mittels KI-Anwendungen erarbeitet wurden.
Anpassung der Eigenständigkeitserklärungen von Studierenden
Die Verpflichtung zur Angabe von verwendeten (zulässigen) Hilfsmitteln in Prüfungen (Abschlussarbeiten) für Studierende basiert grundsätzlich auf den Eigenständigkeitserklärungen der Studierenden. Zur Wahrung des Grundsatzes der Chancengleichheit und zur Vermeidung von Täuschungsversuchen ist es zu empfehlen, diese um den Punkt „Einsatz von generativen KI-Tools als zugelassene Hilfsmittel“ zu erweitern. Im Falle einer Nutzung von KI-generierten Inhalten ist zudem, anbei zur Eigenständigkeitserklärung, eine Dokumentation der verwendeten KI-Tools (Auflistung KI-Tools; Auflistung Prompts) verpflichtend abzugeben. Zudem sollte die Eigenverantwortlichkeit der Studierenden bei Nutzungen von KI-generierten Inhalten besonders hervorgehoben werden und prüfungsrechtliche Konsequenzen bei unzulässiger Nutzung aufgezeigt werden.
>>> Hier finden sie beispielsweise den Stand des Umgangs mit KI sowie die Eigenständigkeitserklärung
der FSU Jena.
Präzisierung hochschuleigener Regelungen und Satzungen
Die Regelungen über (un)erlaubte Hilfsmittel sind zumeist in den institutionellen Rahmenprüfungsordnungen, oder im Besonderen, in den Prüfungsordnungen der Studiengänge definiert. Eine Präzisierung der prüfungsrechtlichen Vorgaben zu generativer KI als Hilfsmittel in Prüfungen wird empfohlen. Diese kann beispielsweise in Form einer Auflistung von zulässigen und unzulässigen KI-Tools erfolgen. Weiterhin kann eine Kennzeichnungspflicht für KI-generierte Inhalte und weitere verpflichtende Auflagen, z. B. die Angabe der Prompts (= Eingabebefehle), für den Nutzungsfall definiert werden.
Umgang mit Täuschungsversuchen im Verdachtsfall
Sollte der Verdacht auf einen Täuschungsversuch durch den unerlaubten Einsatz von generativen KI-Tools als Hilfsmittel vorliegen, ist dieser dem Prüfungsausschuss unverzüglich zu melden. Ein Täuschungsversuch ist in der Praxis schwierig nachzuweisen. Auch der Einsatz von technischen Lösungen, wie die Zuhilfenahme von Erkennungssoftware, garantiert derzeit keinen zuverlässigen oder hinreichenden Beleg zur Aufdeckung von Täuschungsversuchen. Im Verdachtsfall gilt zwar der Anscheinsbeweis (= Sachverhalt der auf Basis des allgemeinen Erfahrungswissens nur eine Täuschung zulässt), welcher aber durch eine Gegendarstellung des Prüflings widerlegt werden kann. Wenn keine eindeutigen Beweise für eine Täuschung vorliegen, so ist die Prüfung trotz des Verdachts zu bewerten.
1) Generelle rechtliche Aspekte (Rahmenbedingungen)
Hinweis: Da der Umgang mit KI und KI-Tools derzeit an jeder Hochschule unterschiedlich erfolgt bzw. ausgelegt wird und zudem keine rechtssichere Orientierung verfügbar ist, können an dieser Stelle (noch) keine verbindlichen Empfehlungen ausgesprochen werden.
Insbesondere größere Hochschulen haben in ihrem Wirkungskreis Empfehlungen herausgegeben (siehe hierzu z.B. div. Dossiers des Hochschulforums Digitalisierung). Auch einzelne Rechtsgutachten (z.B. Ruhr-Universität Bochum) sowie Handreichungen von übergeordneten Instanzen wie z.B. dem bereits erwähnten Hochschulforum Digitalisierung, dem Centrum für Hochschulentwicklung oder Deutschen Gesellschaft für Hochschuldidaktik sind verfügbar. Eine Einheitlichkeit oder gar Verbindlichkeit sind derzeit jedoch (noch) nicht vorhanden.
Die im Kern betroffenen Felder und deren Ausdeutungen bewegen sich zwischen folgenden Positionen:
- Urheberschaft an erzeugten Inhalten (Standpunkte variieren zwischen: ChatGPT vs. jeweilige Nutzer:in)
- Umgang mit Quellenangaben (Standpunkte variieren zwischen: „durch bisherige Regelungen bereits abgedeckt“ vs. „blinder Fleck in bisherigen Regelungen vorhanden“)
- Betroffenheit von Selbstständigkeitserklärungen (Standpunkte variieren zwischen: „durch bisherige Regelungen bereits abgedeckt“ vs. „blinder Fleck in bisherigen Regelungen vorhanden“)
2) Betroffenheit von Prüfungsszenarien/-fragestellungen
Hinweis: Den (rechtl.) Rahmen geben die geltenden Prüfungsordnungen, Eigenständigkeitserklärungen oder Leitlinien der jeweiligen Hochschule vor.
Auch in diesem Feld sind verschiedene Positionen vorzufinden: Ein grundsätzlich möglicher (und derzeit auch vorzufindender) Ansatz ist, auf KI-Tools mit einer Rückkehr zu herkömmlichen, vermeintlich wenig anfälligen Prüfungsformen zu reagieren („Renaissance des Mündlichen und der Klausur im klassischen Sinne“). Wiederum sind gegenteilige Ansätze vorzufinden, die für eine Erhöhung des reflexiven Anteils oder ggf. die erstmalige Ergänzung eines reflexiven Anteils bei Prüfungsleistungen plädieren und sich eher auf die Anpassung von Aufgabenstellungen konzentrieren: z.B. bewusstes Ausloten von Grenzen der KI, Reduktion reiner Faktenwiedergabe.
Konkrete Auswirkungen auf Prüfungsleistungen/Leistungsnachweise:
- Für in Präsenz stattfindende Klausuren, digitale Präsenz-Prüfungen (bei Zulässigkeit der Verwendung techn. kontrollierter Umgebungen) und mündliche Prüfungen besteht momentan kein Handlungsbedarf.Kritisch hingegen sind schriftliche Arbeiten, die zu Hause angefertigt werden (auch: Vorbereitungen zu Referaten/Präsentationen) und generell Situationen, in den ausreichend Zeit für eine KI-Nutzung vorhanden wäre.
- Ein generelles Verbot der Verwendung von KI-Tools ist nicht sinnvoll, da es derzeit keine Möglichkeiten gibt, KI-generierte Texte sicher zu erkennen. KI-generierte Texte sind keine Plagiate und können daher nicht von Plagiatssoftware erkannt werden.
- Derzeit angebotenen Lösungen zum Erkennen von KI-generierten Texten liefern sowohl falsch positive als auch falsch negative Ergebnisse und sind daher nicht geeignet, ein Verbot wirksam zu überwachen.
Empfehlungen, wenn keine Änderungen des Prüfungsformats an sich möglich sind:
- Formulieren möglichst konkreter/spezifisch formulierter Themen bzw. Aufgabenstellungen für schriftlicher Hausarbeiten(noch) kritischerer Blick auf das Quellenverzeichnis/sorgfältiger Abgleich mit Inhalten; sorgfältiges Lesen der abgegebenen Arbeiten
- Ermöglichen einer Co-Autorenschaft zwischen Studierenden und KI-Tool (hierzu ggf. Anpassung der Eigenständigkeitserklärungen notwendig)
Empfehlungen, wenn Änderungen an Prüfungsformaten implementierbar sind:
- Ergänzung von kurzen Fachgesprächen bei oder nach Abgabe einer Arbeit
- Einreichen von Zwischenständen der Arbeit / Berücksichtigung des reflektierten Entstehungsprozesses in der Bewertung (ggf. Neudefinition der Bedeutung von Portfolio-Arbeit)
3) Gestaltung von Lehre bzw. konkreter Einsatz in der Lehre
Hinweis: Den (rechtl.) Rahmen geben die geltenden Prüfungsordnungen, Eigenständigkeitserklärungen oder Leitlinien der jeweiligen Hochschule vor.
Möglichkeiten – gezielte Integration der KI in der Lehre:
- Hierfür Regeln für KI-Nutzung aufstellen (Spannweite auch hier: von generellem Verbot bis ungeregelter Nutzung, aber auch Mittelwege vorhanden: definiert)
- Integration von KI/KI-Tools als Thema bzw. Gegenstand von Lehrveranstaltungen (Zielstellung: Auseinandersetzung mit…): z.B. als zielgerichtetes Austesten von KI, Ausloten von Grenzbereichen in jeweiliger Disziplin, Auseinandersetzen und insbesondere Diskutieren
- Auseinandersetzung mit dem fachlichen Thema auf höherer Ebene durch Verstehen der grundlegenden Funktionsweisen von KI-Tools / Herausfinden von Beschränkungen textgenerierender KI und kritischer Reflexion des KI-generierten Outputs
4) Nutzen als Lehr-Support bzw. Arbeitshilfe
KI-Tools bieten Lehrenden darüber hinaus vielfältige Unterstützung bzw. können als Hilfsmittel für Lehre und Forschung sowie bei zahlreichen administrativen Aufgaben dienen.
Praktische Anwendungsbeispiele – Entlastung/Unterstützung insb. bei administrativen Aufgaben/Routineaufgaben:
- Generelle Nutzung für das Erzeugen von (Text-/Bild-)Inhalten: z.B. Textvorlagen aller Art, Abbildungen/Grafiken für Präsentationen, Erzeugen von Tabellen (auch aus eigenen Daten), Erzeugen von Programmcode usw., Lernmaterialien in einfacherer Sprache erstellen/umformulieren lassen, Übersetzungen bestehender Inhalte etc. (die Nutzung aus Lehrendensicht ist also nicht grundsätzlich verschieden von der möglichen Nutzung durch Studierende).
- Hilfe bei bzw. Anregungen für die Gestaltung von Lerneinheiten: Vorschläge für Einstiege/Einstiegsfragen, konkrete Fall- oder Problemstellungen, Erstellung Advanced Organizer (Übersicht Inhalte, Lernziele), Vorschläge für Aufgaben, Arbeitsblätter, Quizfragen etc.
- Umsetzung Constructive Alignment/Hilfe bei der Semesterplanung: Lernziele formulieren (auch bezogen auf Lernzielstufen), Vorschläge zur Semesterplanung (unter Eingabe der entsprechenden Rahmenbedingungen), Modulbeschreibungen/Veranstaltungsbeschreibungen erstellen/überarbeiten etc.
- Anregungen für Prüfungsszenarien: Formulierungsvorschläge für Prüfungsformen oder Aufgabenstellungen (z.B. Single-/Multiple Choice-Aufgaben) sowie für dazugehörige Bewertungen (Vorschläge für Musterlösungen und Vorschläge für Bewertungskriterien), Vorschläge für Feedbacktexte/Gutachtentexte – Hinweis: die eigentliche Bewertung muss rechtl. gegenwärtig jedoch durch Menschen erfolgen!
- Unterstützung für sämtliche Formen von (schriftl.) Kommunikation: Verwendung von Vorschlägen für Einladungstexte, Vorlagen für Ankündigungen, News etc.
Die Verwendung von KI-Tools zur Erstellung von Inhalten jeglicher Art bietet neue Möglichkeiten für Lehrende und Studierende an Hochschulen. Aus urheberrechtlicher Sicht stellt sich beim Einsatz von KI-Tools vor allem die Frage nach der Urheberschaft am Werk, wenn dieses ausschließlich oder teilweise mittels KI produziert wurde. Das Werk als Schutzgegenstand des Urheberrechts wird gemäß § 2 Abs. 2 UrhG definiert als persönliche, geistige Schöpfung des Urhebers. Eine Schöpfung ist persönlich, wenn diese von einem Menschen geschaffen wurde. Maßgeblich für das Entstehen eines schutzfähigen Werkes mittels KI-Tools ist folglich das Überwiegen der menschlichen Eigenleistung im Erstellungsprozess.
Für die Kennzeichnung von KI-Inhalten in Prüfungen (Abschlussarbeiten) und in akademischen Veröffentlichungen gibt es keine pauschalen Musterlösungen. Hochschulen sollten gemäß ihrer grundsätzlichen Haltung zum KI-Einsatz einen individuellen Regelungsrahmen erarbeiten und festlegen, um Rechtssicherheit für Lehrende und Studierende zu schaffen. Als Orientierungshilfe zum korrekten Zitieren aus KI-Inhalten kann die Handreichung der Universität Basel empfohlen werden.
Weiterhin können sich zusätzliche Kennzeichnungspflichten aus den Lizenz- und Nutzungsbedingungen der verwendeten KI-Software ergeben. Mit Nutzung der KI-Software verpflichten sich User:innen zur Einhaltung der Lizenz- und Nutzungsbedingungen und damit zur Umsetzung der Kennzeichnungsvorgaben.
