„Moral aus der Maschine? Ethik­beratung durch KI“

Prof. Dr. Karoline Reinhardt (Universität Passau):
„Moral aus der Maschine? Ethik­beratung durch KI“

Immer mehr Menschen nutzen KI, insbesondere Chatbots, die auf großen Sprach­modellen sogenannten Large Language Models (LLMs) basieren, um mit diesen kontroverse und ethisch relevante Fragen zu diskutieren. Die Antworten von LLMs werden dabei von Nutzer:innen, so zeigen aktuelle Studien, als den Antworten von Menschen überlegen eingeschätzt – auch als jenen von professionellen Ethiker:innen. Gleich­wohl, so wird in diesem Vortrag gezeigt, weisen LLM-Antworten Fehler auf, für die wir den Begriff „moralische Halluzinationen“ vorschlagen analog zu anderen KI-Halluzinationen, die primär als faktische Fehler oder als mangelnde Treue zu Quellen verstanden werden. Die leitende Frage lautet, wie sich moralische Halluzinationen in ethisch relevanten KI-gestützten Antworten beschreiben und theoretisch fassen lassen und warum sie ein eigenständiges Problem darstellen. Es wird dabei zunächst herausgearbeitet, was unter moralischen Halluzinationen zu verstehen ist. Anschließend wird gezeigt, dass sich moralische Halluzinationen grundlegend von klassischen KI-Halluzinationen unter­scheiden. Letztlich wird diskutiert, welche Folgen solche Verzerrungen für die individuelle wie auch kollektive Urteilskraft haben.

Alle Interessierten sind herzlich willkommen!

(Zurück) zur Homepage des Philosophischen Seminars.