FAQs: KI an der Universität Mannheim

1) Die Universität Mannheim begreift die Entwicklungen im Bereich Künstliche Intelligenz (KI) als große Chance für Forschung, Lehre und Service­einrichtungen.

2) Die Verantwortung für die Nutzung von KI-generierten Inhalten liegt beim Menschen. KI-generierte Inhalte sind stets kritisch zu prüfen, bevor sie weiterverwendet werden dürfen.

3) In bestimmten Fällen kann es erforderlich sein, gegenüber Nutzenden Trans­parenz darüber herzustellen, dass sie mit KI interagieren. Der Einsatz von KI-Systemen ist daher offenzulegen, insofern eine Hinweispflicht nach Artikel 50 der EU-KI-Verordnung besteht.

4) Im Sinne des Datenschutzes ist die Verarbeitung vertraulicher Informationen und personenbezogener Daten nur mit solchen KI-Systemen gestattet, für die im zentralen KI-Register der Universität Mannheim (s. hierzu Abschnitt IV) eine entsprechende Freigabe vorliegt.

Die KI-Richtlinie beschreibt, wie Künstliche Intelligenz an der Universität Mannheim rechts­sicher und verantwortungs­voll entwickelt, eingesetzt und kontrolliert werden soll, ohne dabei Wissenschaft, Forschung und Lehre unangemessen zu beschränken (§ 1 Abs. 1 KI-RiL). Sie steht im Einklang mit der EU-KI-Verordnung und setzt deren Vorgaben auf institutioneller Ebene um.

Die KI-Richtlinie berücksichtigt insbesondere die in der EU-KI-Verordnung festgelegten Anforderungen an Risikoklassifizierung, Trans­parenz und Dokumentation beim Einsatz von KI-Systemen. Sie gilt damit ergänzend zu anderen relevanten Regelungen, insbesondere der EU-KI-Verordnung, den Datenschutz­vorschriften sowie zu Vorgaben Dritter (z. B. Akteuren der Forschungs­förderung, Verlagen oder Vertrags­partnern).

Die KI-Richtlinie gilt für alle Mitglieder und Angehörige der Universität Mannheim, also insbesondere Beschäftigte in Lehre, Forschung und Verwaltung sowie Studierende (§ 1 Abs. 1 Satz 1 KI-RiL).

Bei Fragen und Anregungen zum Thema KI an der Universität Mannheim können Sie sich jederzeit über die Funktions­adresse ki.teammail-uni-mannheim.de an das KI-Kern­team wenden. Wir bearbeiten Ihr Anliegen gerne direkt oder leiten es an die zuständigen Stellen weiter.

Das KI-Kern­team ist auch im Intranet beziehungs­weise (für Studierende) im Internet für Sie da.

KI (Künstliche Intelligenz) bezeichnet maschinelle Systeme, die Aufgaben ausführen können, für deren Lösung typischerweise menschliche Intelligenz erforderlich ist – etwa in den Bereichen Lernen, Problemlösen, Sprach­verarbeitung, Wahrnehmung oder Entscheidungs­findung.

Für weiterführende Informationen empfehlen wir Ihnen die KI-Schulung des Hochschul­netzwerks Digitalisierung (HND) Baden-Württemberg, die wir Ihnen auf ILIAS zur Verfügung stellen.

Ein KI-System ist ein maschinelles System, das auf Grundlage von Daten oder festgelegten Regeln eigenständig Ergebnisse erzeugt, die die Umgebung, insbesondere menschliche Handlungen oder Entscheidungen, beeinflussen können. Der Begriff „KI-System“ wird in Art. 3 Nr. 1 der EU-KI-Verordnung definiert. Zur Orientierung bietet die Bundes­netzagentur den KI-Compliance Kompass an, mit dem Sie prüfen können, ob Ihr System voraussichtlich unter die KI-Verordnung fällt (unverbindliche Ersteinschätzung). 

Hochrisiko-KI-Systeme sind Systeme, die in bestimmten, in der EU-KI-Verordnung benannten Einsatz­bereichen ein erhebliches Risiko der Beeinträchtigung von Grundrechten, Sicherheit oder Gesundheit natürlicher Personen bergen. Dies beinhaltet unter anderem, dass sie die Entscheidungs­findung in Bezug auf Chancen, Teilhabe oder Rechte von Menschen wesentlich beeinflussen können (§ 3 Satz 2 KI-RiL).

Entsprechende Risiken können sich unter anderem in folgenden Bereichen ergeben:

• Bildung und Ausbildung, z. B. bei Prüfungen oder Zulassungen,
• Beschäftigung und Personal­management, z. B. in Bewerbungs- oder Auswahl­verfahren

Die Klassifizierung und Risiko­bewertung des jeweiligen KI-Systems erfolgt durch das KI-Kern­team beziehungs­weise das für Digitalisierung zuständige Mitglied des Rektorats.

Vorschriften zu der Einstufung von Hochrisiko-KI-Systemen finden Sie in Artikel 6 der EU-KI-Verordnung.

Die KI-Richtlinie und die EU-KI-Verordnung gelten grundsätzlich nicht für Tätigkeiten der wissenschaft­lichen Forschung und Entwicklung, da diese durch die Freiheit von Wissenschaft und Forschung geschützt sind (§ 1 Abs. 2 und 3 KI-RiL). Die Freiheit von Wissenschaft und Forschung entbindet nicht von der grundsätzlichen Pflicht, KI-Systeme ethisch und verantwortungs­voll einzusetzen (Präambel, Satz 6 KI-RiL).

Die beschriebene Ausnahme umfasst alle KI-Systeme und KI-Modelle, die ausschließlich zu Forschungs- oder Entwicklungs­zwecken entwickelt oder eingesetzt werden – unabhängig davon, ob sie der Erforschung von KI selbst oder beispielsweise der Auswertung von Daten in einer anderen Disziplin dienen (§ 1 Abs. 2 Satz 1 KI-RiL).

Beispiel:
Ein Forschungs­team entwickelt ein neuronales Sprach­modell, um zu unter­suchen, wie sich die deutsche Sprache im Lauf der Zeit verändert hat.
→ Die KI-Richtlinie und die EU-KI-Verordnung gelten nicht, da das KI-System ausschließlich zu wissenschaft­lichen Zwecken eingesetzt wird.

Einschränkungen:

Die KI-Richtlinie findet jedoch Anwendung, sobald eine KI über die reine Forschung hinaus genutzt wird, etwa:

• wenn sie in realen Prozessen oder Anwendungen (z. B. in Lehre, Verwaltung, Medizin, Personalwesen) getestet oder eingesetzt wird oder
• wenn sie im Auftrag oder mit Blick auf eine praktische oder kommerzielle Nutzung entwickelt wird.

In diesen Fällen sind die Vorgaben der KI-Richtlinie zu beachten.

Grundsätzlich ja. Sofern Sie in ein KI-System keine vertraulichen Informationen und keine personenbezogenen Daten eingeben, dürfen Sie KI-Systeme nutzen, die im Internet verfügbar sind. KI-Systeme, die im KI-Register als „nicht zugelassen“ gekennzeichnet sind, dürfen jedoch nicht verwendet werden (§ 6 Abs. 1 Satz 4 KI-RiL). 

Beispiel: DeepL darf für Über­setzungen genutzt werden, sofern keine vertraulichen Inhalte und keine personenbezogenen Daten eingegeben werden. 

Sie sollten jedoch bevorzugt die von der Universität Mannheim bereitgestellten KI-Systeme verwenden (§ 6 Abs. 1 S. 2 KI-RiL), da diese einen technisch zuverlässigen und datenschutz­konformen Zugang zu ausgewählten Anwendungen bieten. 

Sollten Sie hingegen beabsichtigen, vertrauliche Informationen oder personenbezogene Daten zu verarbeiten, dürfen Sie hierfür nur Systeme verwenden, die im KI-Register eingetragen sind.

Wenn Sie im dienstlichen Kontext ein KI-System selbst entwickeln, für die Universität Mannheim beschaffen oder in Betrieb nehmen (einschließlich Pilot­projekten, Test­systemen sowie cloud­basierten oder API-gestützten KI-Diensten), muss dieses, soweit hierfür die KI-Richtlinie gilt, vorab in das zentrale KI-Register eingetragen werden (§ 6 Abs. 1 KI-RiL).

Eine Über­sicht der im KI-Register eingetragenen KI-Systeme beziehungs­weise Anwendungs­fälle sowie ein Antragsformular (DOCX) finden Sie im Intranet.

Ja, Sie dürfen im Rahmen der Forschung auch andere als die von der Universität bereitgestellten KI-Systeme verwenden. Die KI-Richtlinie gilt nicht für KI-Systeme, die eigens für den alleinigen Zweck der wissenschaft­lichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (§ 1 Abs. 2 Satz 2 KI-RiL). Die hierin zum Ausdruck kommende Freiheit von Wissenschaft und Forschung entbindet jedoch nicht von der Pflicht zur Einhaltung ethischer und wissenschaft­licher Integritätsstandards sowie des sonst geltenden Unionsrechts, wie beispielsweise das Datenschutz­recht (Präambel Satz 6, § 1 Abs. 2 Satz 3 KI-RiL).

Beim Einsatz von KI in der Lehre sind die in der KI-Richtlinie genannten Einschränkungen zu berücksichtigen. So dürfen unter anderem vertrauliche Informationen und personenbezogene Daten nur mit solchen Systemen verarbeitet werden, die ausdrücklich für diesen Zweck freigegeben sind (§ 6 Abs. 1 Satz 3 KI-RiL). Es ist zudem sicherzustellen, dass Nutzende über ein hinreichendes Maß an KI-Kompetenz verfügen und eine Nutzung verbotener Systeme (§ 6 Abs. 1 Satz 4 und Abs. 2 KI-RiL, Art. 5 EU-KI-Verordnung) nicht stattfindet. Die geltenden Regelungen, insbesondere zum Prüfungs- und Datenschutz­recht, sind einzuhalten.

Kann die Einhaltung der vorgenannten Maßgaben sichergestellt werden, dürfen Sie KI-Systeme in der Lehre einsetzen, wenn 1) die Nutzung von der Universität freigegeben wurde oder 2) die Nutzung freiwillig ist und den Studierenden bei Nicht-Nutzung kein Nachteil für ihr Studium entsteht oder wenn 3) die Nutzung in Wahl­veranstaltungen vorgesehen ist. Hier können die Studierenden vorab entscheiden, ob sie die Veranstaltung zu den gegebenen Konditionen (also der Nutzung des KI-Systems) belegen möchten oder nicht. Voraussetzung im letztgenannten Fall ist allerdings, dass genügend Wahl­veranstaltungen angeboten und auch tatsächlich belegt werden können, die keine Nutzung von KI-Systemen voraussetzen.

Sonderfall:
In Veranstaltungen, in denen KI selbst den Unter­richtsgegenstand bildet, kann die Nutzung von KI-Systemen verpflichtender Bestandteil sein, etwa im Rahmen eines Seminars „Einführung in KI“ im Bachelor Wirtschafts­informatik. Dies gilt unabhängig davon, ob es sich bei der Veranstaltung um eine Wahl- oder Pflicht­veranstaltung handelt und unabhängig vom anbietenden Fach­bereich. 

Ausdrücklich unter­sagt sind Anwendungs­kontexte, in denen den Studierenden bei Nicht-Nutzung ein Nachteil für ihr Studium entsteht, sofern ihnen kein gleich­wertiges Ersatzangebot gemacht wird. Damit angesprochen sind zum Beispiel Nachteile bei der Prüfungs­vorbereitung, der Mitarbeit in der Lehr­veranstaltung usw..

Fallbeispiel 1: Pflichtvorlesung
Sie halten eine Pflichtvorlesung im zweiten Semester. Um die Studierenden zu unter­stützen, stellen Sie einen Link zu einer Anwendung bereit, die es ihnen ermöglicht, sich mit Karteikärtchen eines KI-Anbieters auf die Prüfung vorzubereiten. Die Nutzung des KI-Systems wurde zwischen dem Anbieter und der Universität Mannheim jedoch nicht beziehungs­weise noch nicht vertraglich geregelt (dies betrifft insbesondere die Verarbeitung vertraulicher Informationen und personenbezogener Daten).
→ In diesem Fall ist die Nutzung nicht freigegeben, da eine Nicht-Nutzung Studierende bei der Prüfungs­vorbereitung benachteiligen würde. Hingegen wäre die Nutzung freigegeben, wenn den Studierenden, die die Anwendung nicht nutzen möchten, ein gleich­wertiges Ersatzangebot gemacht wird.

Fallbeispiel 2: Wahl­veranstaltung
Sie bieten ein Projektseminar als Wahl­veranstaltung an, in dem Sie Studierende über das Semester hinweg zur Nutzung eines KI-Systems verpflichten möchten. Es stehen den Studierenden dabei gleich­zeitig genügend andere Wahl­veranstaltungen zur Verfügung, in denen keine KI-Systeme verpflichtend eingesetzt werden sollen.
→ In diesem Fall ist die Nutzung freigegeben, da die Studierenden sich freiwillig für eine Teilnahme an der Lehr­veranstaltung entscheiden können. 
Mit Blick auf Hochrisiko-KI-Systeme (vgl. Was sind „Hochrisiko-KI-Systeme“?) gilt grundsätzlich, dass diese nur nach vorheriger ausdrücklicher Zustimmung des Rektorats und Eintrag in das KI-Register eingesetzt werden dürfen.

Das ist abhängig vom konkreten Kontext. Grundsätzlich ist ein Einsatz von KI-Systemen im Rahmen Ihres Studiums möglich. Was im Einzelfall genau erlaubt ist und was nicht, lässt sich nicht pauschal festlegen. Dies gilt insbesondere im Hinblick auf zu erbringende Prüfungs­leistungen: Klären Sie daher bitte für jede Ihrer Prüfungen mit der zuständigen Lehr­person, ob, und wenn ja, zu welchen Bedingungen ein Einsatz von KI-Systemen zulässig ist. Eine Nichtbeachtung dieser Maßgabe kann in schwerwiegenden Fällen zum endgültigen Nichtbestehen von Prüfungs­leistungen führen.  

Weiterführende Informationen, vor allem zu ChatGPT, finden Sie auf den Seiten des Zentrums für Lehren und Lernen (ZLL).

Sie dürfen KI-Systeme in der Verwaltung nach Maßgabe der unter dem Punkt „Darf ich an der Universität Mannheim KI-Systeme einsetzen?“ erläuterten Vorgaben einsetzen.

Hochrisiko-KI-Systeme dürfen ausschließlich nach vorheriger ausdrücklicher Zustimmung des Rektorats eingesetzt werden (§ 3  Satz 2 KI-RiL).

Der entsprechende Beschluss des Rektorats wird mit dem Eintrag in das KI-Register dokumentiert (§ 5 Abs. 4 Satz 2 KI-RiL).

Ein bereits freigegebenes KI-System kann durch Veränderung oder Zweckänderung zu einem Hochrisiko-KI-System im Sinne von Art. 6 der EU-KI-Verordnung werden.

Ein Beispiel aus dem Bereich Lehre und Prüfungen wäre die Verwendung einer Textverbesserungs-KI zur Bewertung studentischer Arbeiten anhand der Anzahl KI-generierter Verbesserungs­vorschläge: Würde etwa die Anzahl der Verbesserungs­vorschläge in dem Sinne zum Maßstab für die Bewertung der Prüfungs­leistung gemacht, dass eine höhere Zahl an Verbesserungs­vorschlägen eine schlechtere Note zur Folge hätte, läge eine Zweckänderung vor, die wiederum eine Einstufung als Hochrisiko-KI-System zur Folge hätte.

Ohne die vorherige ausdrückliche Zustimmung des Rektorats ist es nicht gestattet, ein bereits in Verkehr gebrachtes oder in Betrieb genommenes KI-System so zu verändern, dass daraus ein Hochrisiko-KI-System im Sinne von Art. 6 der EU-KI-Verordnung wird (§ 3 S. 4  KI-RiL).

Ja, die Universität Mannheim stellt ihren Mitgliedern und Angehörigen nach eingehender Prüfung KI-Systeme zur Verfügung. Eine Über­sicht zu den von der Universität bereitgestellten und bevorzugt zu nutzenden KI-Systemen beziehungs­weise Anwendungs­fällen finden Sie auf den Seiten des KI-Kern­teams.

Die Universität bietet Informations-, Qualifizierungs- und Weiterbildungs­angebote an, um den sicheren und kompetenten Umgang mit KI zu fördern. Entsprechende Details werden regelmäßig im Intranet bekannt gegeben, ein grundlegendes Schulungs­modul finden Sie zudem auf ILIAS.

Die KI-Richtlinie verbietet nicht, KI-generierte Inhalte (z. B. Text- und Bildmaterial) auf der Website einzubinden. In Fällen, in denen Personen direkt mit einer KI (z. B. Chatbot, Sprach­assistent) interagieren oder von KI-Entscheidungen in ihren Grundrechten, ihrer Sicherheit oder Gesundheit wesentlich beeinträchtigt werden können, müssen Sie jedoch geeignete Maßnahmen ergreifen, um den Nutzenden die Interaktion mit einem KI-System trans­parent zu machen (§ 6 Abs. 4 KI-RiL).

Für die Einhaltung unabhängig von der KI-Richtlinie geltender Regelungen (u. a. Urheberrecht) sind die Nutzenden der entsprechenden Systeme selbst verantwortlich.

Im zentralen KI-Register werden KI-Systeme, die an der Universität Mannheim entwickelt, beschafft oder eingesetzt werden, systematisch erfasst. Es gibt zudem Auskunft darüber, welche KI-Systeme im Zusammenhang mit der dienstlichen Tätigkeit für die Verarbeitung vertraulicher Informationen oder personenbezogener Daten verwendet werden dürfen und welche KI-Systeme generell nicht verwendet werden dürfen.

Alle KI-Systeme bzw. Anwendungs­fälle, mit denen vertrauliche Informationen oder personenbezogene Daten verarbeitet werden sollen bzw. die die Verarbeitung solcher Informationen oder Daten beinhalten, müssen in das KI-Register eingetragen werden (§ 6 Abs. 1 Satz 3 KI-RiL).

Der Beschluss des Rektorats zu einem Hochrisiko-KI-System wird mit dem Eintrag in das KI-Register dokumentiert. 

Darüber hinaus sind alle KI-Systeme, die im dienstlichen Kontext entwickelt, beschafft, in Betrieb genommen oder in Verkehr gebracht werden, mit ihren Funktionen und Einsatz­möglichkeiten in das KI-Register einzutragen. Dies betrifft auch Pilot­projekte, Test­systeme sowie cloud­basierte oder API-gestützte KI-Dienste. (§ 5 Abs. 1 Satz 3 KI-RiL).

Von der Pflicht zur Eintragung ausgenommen sind KI-Systeme, die eigens für den alleinigen Zweck der wissenschaft­lichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (§ 1 Abs. 2 Satz 1 KI-RiL) sowie Forschungs-, Test- und Entwicklungs­tätigkeiten zu KI-Systemen oder KI-Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden (§ 1 Abs. 2 Satz 2 KI-RiL).

Für die Eintragung eines KI-Systems in das zentrale KI-Register sind folgende Schritte erforderlich (vgl. § 5 KI-RiL):

1. Sie stellen einen Antrag an das KI-Kern­team mit grundlegenden Angaben (u. a. Anbieter, Bezeichnung, Anwendungs­bedarf, Ziele, Funktionen, Einsatz­möglichkeiten, Datenarten, Risiko­bewertung).
2. Nach Eingang des Antrags prüft das KI-Kern­team die Angaben.
3. Handelt es sich um ein Hochrisiko-KI-System, leitet das Kern­team Ihren Antrag an das Rektorat weiter, das über die Zulassung entscheidet. Die Entscheidung wird im KI-Register dokumentiert.
4. Handelt es sich nicht um ein Hochrisiko-KI-System und sollte es dem KI-Kern­team nicht möglich sein, das System innerhalb von zwei Wochen abschließend zu prüfen, werden die antragstellenden Personen über die Rückstellung und das weitere Vorgehen informiert.

Ein entsprechendes Antragsformular finden Sie im Intranet unter diesem Link (DOCX).

Bei Zustimmung, oder falls das KI-Kern­team nach Antragstellung binnen zwei Wochen nicht widerspricht, wird das System wie beantragt in das KI-Register eingetragen.

Bei Widerspruch durch das KI-Kern­team wird der Antrag an das Rektorat weitergeleitet, das final über den Antrag entscheidet.

Wird ein KI-System mit „nicht zugelassen“ im KI-Register gekennzeichnet, darf es im dienstlichen Kontext nicht verwendet werden (§ 6 Abs. 1 Satz 4 KI-RiL).

Die KI-Richtlinie ist am 4. November 2025 in Kraft getreten (vgl. § 7 Abs. 1 Satz 5 KI-RiL).

Alle bereits vor Inkrafttreten der KI-Richtlinie beschafften, entwickelten, in Betrieb genommenen oder in Verkehr gebrachten KI-Systeme müssen nachträglich und unverzüglich zur Eintragung in das zentrale KI-Register angemeldet werden (vgl. § 7 Abs. 2 KI-RiL).