Schlaue Städte

Wer mit dem Zug am Mannheimer Hauptbahnhof ankommt und aus der Bahnhofshalle auf den Willy-Brandt-Platz tritt, wird mit gleich zwei Smart-City-Anwendungen konfrontiert. Linkerhand sind da die ordentlich aufgereihten, leuchtend blauen Fahrräder, die man sich mit Hilfe einer App ausleihen kann. Und um einen herum: zahlreiche intelligente Videokameras. Via automatischer Bildauswertung erkennen sie Verhaltensmuster, die auf Straftaten hindeuten, wie etwa Schlagen, Treten oder Hinfallen, und melden diese umgehend der Polizei.

Mannheim ist eine der smartesten Städte Deutschlands – das bestätigt erneut ihr siebter Platz im Smart City Ranking 2023 der Unternehmens­beratung Haselhorst Associates GmbH. Smart Cities – das sind Städte, die mittels Technologien und Daten ihre Effizienz, Wirtschaft, Nachhaltigkeit und Lebens­qualität verbessern. Doch wie sieht die digitale Zukunft Mannheims aus? Verkehrs­kontrollen durch Smart Cameras? Dynamische Preise bei Parkgebühren? Daria Szafran und Dr. Ruben Bach, Sozial­wissenschaft­ler*innen an der Universität Mannheim, haben einige Ideen. Sie sind Teil eines interdisziplinären Teams von Sozial­wissenschaft­ler*innen und Informatiker*innen, das im CAIUS-Projekt untersucht, wie die Entwicklung zur Smart City gelingen kann, ohne bestimmte Bevölkerungs­gruppen auszuschließen. „Der Begriff Smart City ist aktuell vielleicht noch ein Modewort und Großstädte versuchen sich mit der Höhe ihres Smart-City-Index gegenseitig zu überbieten. Das Thema ist neu und es braucht mehr Forschung auf diesem Gebiet“, erklärt Bach. Das CAIUS-Projekt untersucht die fortschreitende Digitalisierung und Automatisierung in Städten aus sozial­wissenschaft­licher Perspektive. Es will herausfinden, welche negativen Konsequenzen KI-Anwendungen haben können und ob sie tatsächlich der Allgemeinheit dienen.

Ein Beispiel: Das Quadrat K7 am Luisenring, mitten in der Mannheimer Innenstadt. Hier im Bürgerbüro mussten die Besucher*innen früher einen Zettel mit einer Nummer ziehen und nicht selten lange warten, bis sie aufgerufen wurden. Heute hingegen: Ein paar Klicks und der Termin ist online vereinbart. Was für viele Mannheimer Bürger*innen mittlerweile selbstverständlich ist, führt Dr. Ruben Bach als Beispiel an, das die potenziellen Hindernisse durch KI sichtbar macht. Wenn Abläufe als reine Onlineservices angeboten werden – was passiert mit den Bürger*innen, die keinen Internetzugang haben? Werden sie von diesem Service ausgeschlossen? Oder nutzen sie manche Dienstleistungen seltener, weil sie mehr Aufwand für sie bedeuten? „Leider zeigt die Realität, dass gerade im Bereich KI, Automatisierung und vermeintlich smarter Systeme häufig unvorhergesehene und unerwünschte Neben­wirkungen auftreten“, erklärt Bach.

Um negative Aus­wirkungen schon im Vorfeld aufzuspüren, nutzt das CAIUS-Team neben klassischen Umfragen eine innovative Methodik, die von den Informatiker*innen des Teams mitentwickelt wurde: agenten­basierte Simulationen. „Damit können wir das Verhalten von sogenannten Agenten – zum Beispiel Bürger*innen einer Stadt – simulieren. Wir simulieren dabei eine möglichst realistische Umwelt, etwa die Stadt Mannheim, und untersuchen, wie sich die Agenten verhalten, wenn man eine KI-basierte Smart City-Anwendung einführt“, so Bach. Auf diese Weise lässt sich herausfinden, wer von der Smart City profitiert, ob bestimmte Gruppen systematisch benachteiligt werden und ob vielleicht nur jene profitieren, denen es ohnehin schon sehr gut geht.

Dass KI-Technologien die soziale Ungleichheit verstärken können, zeigt ein prominentes Beispiel aus den Niederlanden. Ein KI-System zur Erkennung von Sozialbetrug hat fälschlicherweise Tausende, meist migrantische Familien beschuldigt, Sozialleistungen erschlichen zu haben. „KI-Systeme werden im Vorfeld meist mit großen Datenmengen trainiert und reproduzieren dann Muster, die in den Daten vorkommen. Enthalten die Trainingsdaten unerwünschte Muster wie die Diskriminierung bestimmter sozialer Gruppen, dann lernt die KI diese mit“, so Szafran. Die niederländische KI hat Merkmale wie doppelte Staats­bürgerschaft und ausländisch klingende Namen als Indikatoren für möglichen Sozialbetrug herangezogen und so die vorhandene Ungleichbehandlung automatisiert. Besonders verheerend: Mit der Geschwindigkeit und Reichweite, mit der die KI ihre unfairen Entscheidungen trifft, können menschliche Entscheider*innen nicht mithalten.  

Der Mensch muss dringend mitgedacht werden, betonen die beiden Forschenden, denn Städte seien soziale Orte, an denen gesellschaft­liche Probleme wie Armut, Obdachlosigkeit und ungleicher Zugang zu Ressourcen sichtbar würden. Die Frage, ob KI-Anwendungen tatsächlich der Allgemeinheit dienen, kann nicht oft genug gestellt werden, da sind sich Szafran und Bach einig. „Wir freuen uns, dass  dieStadt Mannheim Interesse an unseren Simulationen hat und wir im regen Austausch zu unseren Daten und möglichen Anwendungs­fällen stehen“, so Szafran. „Unsere Forschungs­ergebnisse können als Grundlage für Stadtplaner*innen dienen, um die Grenzen von KI aufzuzeigen. Wir sollten den Übergang zu einer smarten Stadt tatsächlich smart gestalten und Bereiche identifizieren, in denen KI einen spürbaren Mehrwert für die Allgemeinheit bringt.“

Text: Jule Leger/Dezember 2023