Das letzte Wort dem Menschen?

Bei KI-gestützten Entscheidungen wird nicht der Einsatz von Algorithmen selbst als kritisch angesehen, sondern die fehlende menschliche Kontrolle. Das ist das Ergebnis einer neuen Studie um die Datenwissenschaftler Professor Florian Keusch und Professorin Frauke Kreuter.

Tükrisfarbene Algorithmen sind im Vordergrund. Im Hintergrund sind zwei Gesichter zu erkennen.

Als Ende 2020 die österreichische Arbeitsmarktagentur AMS einen Algorithmus einsetzte, um die Art der Job- und Weiterbildungsangebote an die individuellen Profile von Arbeitssuchenden anzupassen, war die öffentliche Aufregung in Österreich groß. Viele kritisierten das Vorgehen, weil es auf historischen Daten basierte und damit potenziell Menschen benachteilige, die schon in der Vergangenheit am Jobmarkt diskriminiert wurden: Frauen erhielten beispielsweise per se einen Punktabzug, Mütter mussten einen weiteren Punktabzug hinnehmen.

Aber nicht nur auf dem Arbeitsmarkt, auch im Banken- und Personalwesen oder in der Medizin ist der Einsatz von Algorithmen verbreitet – und wird kontrovers diskutiert. Wie es um die Akzeptanz von Algorithmus-basierten Entscheidungen steht, hat der Mannheimer Datenwissenschaftler Prof. Dr. Florian Keusch in Zusammenarbeit mit Prof. Dr. Frauke Kreuter von der Ludwig-Maximilians-Universität München untersucht.

„Die Ergebnisse unserer Studie lassen darauf schließen, dass die Nutzung von Algorithmen ohne zusätzliche Kontrolle durch den Menschen als besonders problematisch angesehen wird“, konstatiert Keusch. „Es ist also nicht der Einsatz von Algorithmen an sich, der umstritten ist“, so der Mannheimer Professor weiter.

Die Forschenden haben für ihre Studie im Rahmen des German Internet Panels (GIP) mehr als 4.000 Menschen online befragt. Diese mussten Fragen beantworten, wie fair und akzeptabel sie die Nutzung von KI-gestützten Entscheidungen in vier unterschiedlichen Szenarien beurteilen: bei der Vergabe eines Finanzprodukts, bei Job-Bewerbungen, bei Gefängnisstrafen und bei Maßnahmen für Arbeitssuchende.

In allen vier Bereichen ist der Einsatz von KI schon heute zumindest in Teilen Realität. Das so genannte automated decision making (ADM) wird von Unternehmen und staatlichen Einrichtungen genutzt, um vor allem die Effizienz von Entscheidungsprozessen zu erhöhen und den Einfluss persönlicher Einstellungen der Entscheider zu reduzieren. Dass eine Maschine allein eine Entscheidung trifft, ist noch eine Seltenheit. Aber es sei durchaus denkbar, dass bestimmte Prozesse künftig komplett automatisiert würden, sagen die Studienautoren.

Text: Yvonne Kaul / Oktober 2022