KI-Richtlinie

¹Künstliche Intelligenz (KI) gewinnt zunehmend an Bedeutung in allen Tätigkeits­feldern der Universität Mannheim. ²Auf die Universität ist dabei die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 („KI-Verordnung“) anwendbar. ³Entwicklung, Beschaffung und Verwendung von KI eröffnen vielfältige Chancen für Forschung, Lehre sowie dezentrale und zentrale Service­einrichtungen, bringen jedoch zugleich anspruchsvolle rechtliche Fragestellungen, insbesondere im Hinblick auf Datenschutz, Urheberrecht, IT-Sicherheit, Trans­parenz und Fairness, mit sich. ⁴Ziel dieser Richtlinie ist es zum einen, Mitgliedern und Angehörigen einen rechts­sicheren und verantwortungs­vollen Umgang mit KI-Systemen zu ermöglichen. ⁵Zum anderen soll insbesondere die Beschaffung, Entwicklung und Verwendung von Hochrisiko-KI-Systemen einer universitäts­internen Kontrolle unter­worfen werden, da hiermit nicht nur besondere Risiken der Beeinträchtigung in Bezug auf die Grundrechte, Sicherheit oder Gesundheit natürlicher Personen verbunden sein können, sondern diese von der Universität auch weitreichende Vorkehrungen erfordern.

⁶Soweit wissenschaft­liche Forschungs- und Entwicklungs­tätigkeiten vom Anwendungs­bereich der KI-Verordnung und vom Anwendungs­bereich dieser Richtlinie ausgenommen werden, entbindet dies nicht davon, dass ethische und wissenschaft­liche Integritätsstandards gewahrt werden und sichergestellt wird, dass Wissenschaft­lerinnen und Wissenschaft­ler KI verantwortungs­bewusst einsetzen.

1. ¹Diese Richtlinie legt für Mitglieder und Angehörige an der Universität Mannheim, unbeschadet sonstiger geltender Rechts­vorschriften, ethischer und wissenschaft­licher Standards sowie verbindlich festgelegter Rahmenbedingungen Dritter, verbindliche Regeln für die Entwicklung, Beschaffung, Verwendung, die Kontrolle sowie das in Verkehr bringen und in Betrieb nehmen von KI-Systemen fest. ²Ziel ist ein rechts­sicherer, ethisch verantwortungs­voller und trans­parenter Umgang mit KI an der Universität Mannheim – ohne jedoch die Wissenschafts- und Lehr­freiheit sowie insbesondere auch innovative Forschung unangemessen zu beschränken. 

2. ¹Diese Richtlinie gilt, ebenso wie die KI-Verordnung gemäß Artikel 2 Absatz 6, nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaft­lichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden. ²Sie gilt, ebenso wie die KI-Verordnung gemäß Artikel 2 Absatz 8, auch nicht für Forschungs-, Test- und Entwicklungs­tätigkeiten zu KI-Systemen oder KI-Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden. ³Solche Tätigkeiten werden im Einklang mit dem geltenden Unionsrecht durchgeführt. ⁴Für Tests unter Realbedingungen müssen die entsprechenden Vorgaben der KI-Verordnung eingehalten werden.

3. Die Wissenschafts-, Forschungs- und Lehr­freiheit bleibt unberührt.

Für die Zwecke dieser Richtlinie gelten die Begriffs­bestimmungen der KI-Verordnung in ihrer jeweils geltenden Fassung. 

¹„Hochrisiko-KI-Systeme“ sind KI-Systeme, die gemäß Artikel 6 KI-Verordnung als hochriskant gelten. ²Hierzu zählen unter anderem in folgenden Bereichen aufgeführte KI-Systeme, wenn sie ein erhebliches Risiko der Beeinträchtigung in Bezug auf Grundrechte, Sicherheit oder Gesundheit natürlicher Personen bergen, indem sie unter anderem das Ergebnis der Entscheidungs­findung wesentlich beeinflussen: Allgemeine und berufliche Bildung; Beschäftigung, Personal­management und Zugang zur Selbständigkeit; Zugänglichkeit und Inanspruchnahme grundlegender privater und grundlegender öffentlicher Dienste und Leistungen. ³Hochrisiko-KI-Systeme dürfen im dienstlichen Kontext durch Mitglieder und Angehörige der Universität Mannheim nur entwickelt, beschafft, verwendet, in Betrieb genommen oder in Verkehr gebracht werden, soweit das Rektorat vorab hierüber informiert worden ist und dem ausdrücklich zugestimmt hat. ⁴Ohne die vorherige ausdrückliche Zustimmung des Rektorats ist es an der Universität Mannheim unzulässig, 

• ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit dem Namen oder der Marke der Universität Mannheim zu versehen;
• eine wesentliche Veränderung eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vorzunehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Artikel 6 KI-Verordnung bleibt;
• die Zweck­bestimmung eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungs­zweck, das nicht als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so zu verändern, dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Artikel 6 KI-Verordnung wird.

⁵Sofern eine Veränderung im Sinne von Satz 4 ohne die Zustimmung des Rektorats erfolgt, übernehmen die verantwortlichen Akteure alle mit der Veränderung verbundenen rechtlichen Verpflichtungen, insbesondere die Pflichten als Anbieter eines Hochrisiko-KI-Systems gemäß der KI-Verordnung.

¹Die Universität Mannheim richtet ein zentrales KI-Register ein. ²Ziel ist, durch eine systematische Erfassung die trans­parente, verantwortungs­bewusste und nachvollziehbare Entwicklung, Beschaffung, Inbetriebnahme und Verwendung von KI-Systemen an der Universität Mannheim sicherzustellen sowie rechtlichen, ethischen und sicherheits­bezogenen Anforderungen zu entsprechen. 

1. Im dienstlichen Kontext sind KI-Systeme vor ihrer Entwicklung, Beschaffung, Inbetriebnahme sowie vor ihrem Inverkehrbringen durch Mitglieder und Angehörige der Universität Mannheim in das zentrale KI-Register einzutragen; dies gilt auch für Pilot­projekte, Test­systeme sowie cloud­basierte oder API-gestützte KI-Dienste. 

2. ¹Die Eintragung in das zentrale KI-Register erfolgt auf Antrag bei dem für das KI-Register zuständigen KI-Kern­team. ²Der Antrag umfasst mindestens folgende Angaben:

   • Anbieter und Bezeichnung des KI-Systems;
   • Identifikation des Anwendungs­bedarfs, Formulierung konkreter Ziele, gewünschter Funktionen und Einsatz­möglichkeiten des KI-Systems;
   • Benennung der für den Einsatz des KI-Systems verantwortlichen Stelle;
   • verarbeitete Datenarten;
   • betroffene Personen­gruppen und
   • eine Einschätzung zu der Risikokategorie gemäß KI-Verordnung (minimales, begrenztes, hohes oder unannehmbares Risiko).

3. Nach Eingang des Antrags prüft das KI-Kern­team die Angaben.

4. ¹Handelt es sich um ein Hochrisiko-KI-System, leitet das KI-Kern­team nach abschließender Prüfung alle Angaben an das Rektorat weiter und das Rektorat entscheidet auf Grundlage einer Risiko­bewertung des für Digitalisierung zuständigen Rektorats­mitglieds durch Beschluss über die Zustimmung zu der Entwicklung, Beschaffung, Inbetriebnahme, Verwendung oder dem Inverkehrbringen. ²Das Ergebnis der Entscheidung ist in das zentrale KI-Register aufzunehmen.

5. ¹Handelt es sich nicht um ein Hochrisiko-KI-System, darf das KI-Kern­team die Entscheidung über eine Eintragung in das zentrale KI-Register nur dann zurückstellen, wenn eine abschließende Prüfung innerhalb von zwei Wochen nicht möglich ist; die antragstellenden Personen sind über die Zurückstellung und das weitere Verfahren zu informieren. ²Wird die Eintragung nicht zurückgestellt, bestätigt das KI-Kern­team die Eintragung oder widerspricht es einer Eintragung nicht innerhalb von zwei Wochen nach Eingang des Antrags, wird die angemeldete Entwicklung, Beschaffung, Inbetriebnahme oder das Inverkehrbringen durch Mitglieder und Angehörige der Universität Mannheim mit den im Antrag genannten Funktionen und Einsatz­möglichkeiten in das zentrale KI-Register eingetragen; das Recht des Rektorats, mit Wirkung für die Zukunft eine andere Entscheidung durch Beschluss zu treffen, bleibt unberührt. ³Im Falle eines Widerspruchs, sind alle Angaben vom KI-Kern­team unverzüglich mit Begründung an das Rektorat weiterzuleiten; das Rektorat entscheidet in diesen Fällen durch Beschluss auf Grundlage einer Risiko­bewertung des für Digitalisierung zuständigen Rektorats­mitglieds darüber, ob das KI-System eingetragen wird. ⁴Das Ergebnis der Entscheidung ist in das zentrale KI-Register aufzunehmen.

6. Das für das zentrale KI-Register zuständige KI-Kern­team gibt weitere Einzelheiten des einzuhaltenden Verfahrens bekannt. 

1. ¹Um Chancen­gleich­heit, Innovation und Wettbewerbs­fähigkeit zu fördern, ermöglicht die Universität Mannheim ihren Mitgliedern und Angehörigen einen technisch zuverlässigen und datenschutz­konformen Zugang zu ausgewählten KI-Systemen und schafft Informations- sowie Beratungs­angebote für deren kompetente und rechts­konforme Verwendung. ²Mitglieder und Angehörige der Universität Mannheim sollen im dienstlichen Kontext bevorzugt diese Systeme verwenden. ³Um die von der Universität Mannheim getroffenen Maßnahmen zum Datenschutz sowie zum Schutz von Sicherheit und Integrität von Betriebs- und Geschäfts­geheimnissen und sonstigen sensiblen und vertraulichen Daten zu gewährleisten, verarbeiten Mitglieder und Angehörige entsprechende Daten ausschließlich in KI-Systemen, welche im KI-Register ausdrücklich als hierfür freigegeben markiert sind. ⁴KI-Systeme, die im KI-Register mit „nicht zugelassen“ gekennzeichnet sind, dürfen nicht verwendet werden. 

2. ¹Die Universität Mannheim ergreift für die im zentralen KI-Register eingetragenen KI-Systeme Maßnahmen, um sicherzustellen, dass alle Verwender­gruppen (einschließlich Personen, die im Rahmen ihrer Tätigkeit an der Universität Mannheim oder im Auftrag der Universität Mannheim KI-Systeme verwenden) über ein angemessenes Maß an KI-Kompetenz verfügen. ²Dabei sind die jeweiligen technischen Kenntnisse, die Erfahrung, die Ausbildung und Schulung der betroffenen Personen, der spezifische Einsatzkontext des KI-Systems sowie die Personen oder Personen­gruppen, bei denen das KI-System eingesetzt werden soll, zu berücksichtigen. ³Zu diesem Zweck bietet die Universität Mannheim geeignete Informations-, Qualifizierungs- und Weiterbildungs­maßnahmen an.

3. ¹Die Verantwortung für die Richtigkeit, die rechtliche Zulässigkeit der Nutzung sowie die Verbreitung von Inhalten, welche mit Hilfe von KI-Systemen erstellt wurden, tragen die Nutzerinnen und Nutzer der Inhalte. ²Von KI erzeugte Ergebnisse können sehr genau und präzise, aber auch völlig frei erfunden, fehlerhaft und diskriminierend sein. ³KI-generierte Aussagen, Literatur, Quellen und Ergebnisse sind daher immer zu überprüfen, kritisch zu bewerten und bei Bedarf anzupassen, bevor sie verantwortungs­voll weiter genutzt werden. ⁴Die Letztverantwortung liegt immer beim Menschen, insbesondere bei Entscheidungen mit erheblicher Aus­wirkung.

4. ¹Die Universität Mannheim, ihre Mitglieder und Angehörigen verwenden KI verantwortungs­voll und trans­parent. ²Die Verwendung von KI ist insbesondere gegenüber Personen offenzulegen, welche direkt mit einem KI-System (z. B. Chatbot, Sprach­assistent) interagieren, sowie gegenüber Personen, welche von Entscheidungen mit personenbezogenen Aus­wirkungen, die durch oder mit Unter­stützung von KI getroffen werden, betroffen sind. ³Die Nutzung von Inhalten, die vollständig oder teilweise KI-generiert sind, machen Nutzerinnen und Nutzer trans­parent, soweit eine entsprechende Hinweispflicht (z. B. bei Täuschungs­gefahr) besteht.

1. Diese Richtlinie tritt am Tage nach ihrer Bekanntmachung in den Bekanntmachungen des Rektorats in Kraft. 

2. Vor Inkrafttreten dieser Richtlinie bereits beschaffte, entwickelte, in Betrieb genommene oder in Verkehr gebrachte KI-Systeme im Sinne von § 5 Absatz 1 sind abweichend von dieser Regelung unverzüglich nach Inkrafttreten dieser Richtlinie für eine Eintragung in das zentrale KI-Register anzumelden. 

Mannheim, den 22. Oktober 2025

Prof. Dr. Thomas Fetzer

Rektor