Keine Magie, nur Mathematik

FORUM: Alle reden derzeit über Künstliche Intelligenz. Aber was ist das eigentlich genau?

Stuckenschmidt: Meine präferierte Definition von KI – es gibt da unterschiedliche Sichtweisen – ist die Entwicklung von Computer­programmen, die Probleme lösen, für deren Lösung man typischerweise einen gewissen Grad an menschlicher Intelligenz voraussetzen würde. Das bedeutet aber nicht notwendigerweise, dass der Computer das Problem auf die gleiche Art löst, wie ein Mensch!

Ponzetto: Genau. Dahinter steckt keine Magie, sondern schlicht Mathematik. Wir verwenden mathematische Verfahren, um den Computer­programmen – der KI – menschliches Verhalten beizubringen. Dazu füttern wir sie mit Unmengen an Daten. Alle erfolgreichen KIs, die von einer breiteren Öffentlichkeit im Alltag genutzt werden, basieren auf Daten und statistischen Verfahren.

FORUM: Und warum ist KI gerade jetzt so stark im Fokus der Aufmerksamkeit?

Ponzetto: Der ausschlagegebende Faktor für die rasante Entwicklung gerade ist die schiere Menge an Daten, über die wir verfügen und die wir nun auch nutzen können. Das war bisher nicht so möglich. Viel beachtet sind momentan KIs wie ChatGPT, deren Grundlage Modelle sind, die als Neuronale Netze bezeichnet werden. Diese Neuronalen Netze sind so aufgebaut, dass sie mit einer extrem hohen Anzahl von Verknüpfungen arbeiten und auf je mehr Daten sie zugreifen können, desto stärker werden die Verbindungen zwischen den einzelnen Neuronen und desto mächtiger wird das Modell. 

Stuckenschmidt: Aktuell erleben wir wieder einen KI-Hype, von denen es schon einige in der Vergangenheit gab. Lustigerweise gab es auch schon mal einen, in dem angenommen wurde, dass Neuronale Netze alle Probleme lösen können – an diesem Punkt sind wir gerade anscheinend wieder. Der aktuelle Hype wird aus meiner Sicht durch zwei Faktoren getrieben. Neben der genannten Datenmenge gibt es tatsächlich eindrucksvolle Fortschritte in einigen der klassischen Bereiche der KI, insbesondere im Hinblick auf die Verarbeitung unstrukturierter Daten wie Texte, Bilder und Kombinationen davon. Der andere Faktor ist schlicht Marketing. Das fing mit IBMs Deep Blue an, der den amtierenden Schachweltmeister geschlagen hat, und hat seinen vorläufigen Höhepunkt in ChatGPT gefunden, das von Microsoft vermarket wird. Die technische Entwicklung von Systemen wie ChatGPT läuft im Prinzip schon seit mehr als 10 Jahren, der Hype kam aber jetzt erst.

FORUM: Was sind die Forschungs­schwerpunkte Ihres Lehr­stuhls? Und: Warum ist es wichtig, dass gerade jetzt auf diesem Gebiet geforscht wird?

Stuckenschmidt: Wir forschen an vielen unterschiedlichen Themen, in der Grundlagenforschung beschäftigen wir uns mit der Entwicklung von maschinellen Lern­verfahren, die symbolische Darstellungen nutzen bzw. erzeugen – im Gegensatz zu Neuronalen Netzen, bei denen Daten und Ergebnis einfach Zahlen sind. Wir hoffen, Lernergebnisse damit transparenter und nachvollziehbarer zu machen. Das ist nicht nur theoretisch interessant, sondern vor dem Hintergrund aktueller Diskussionen um eine Regulierung von KI-Anwendungen extrem praxisrelevant. Dazu beschäftigen wir uns mit Anwendungen von KI-Methoden in unterschiedlichen Bereichen. Aktuell sind das vor allem Supply-Chain-Management, Smart City und Mobilität, sowie in der Psychologie und der Lernforschung. Wir arbeiten dabei eigentlich immer mit Expert*innen aus dem entsprechenden Anwendungs­feld zusammen, um sicherzustellen, dass unsere Ideen einen realen Nutzen generieren. Oft sind das Kolleg*innen aus anderen Fakultäten, vor allem der BWL und den Sozial­wissenschaften, aber auch Unternehmen aus der Region und im Bereich Mobilität die Stadt Mannheim.

Ponzetto: Wir versuchen gemeinsam mit unserem Forschungs­team am Lehr­stuhl, die bestehenden KI-Programme zu analysieren und zu verbessern. Eine Fragestellung ist zum Beispiel: Was hat ChatGPT eigentlich gelesen? Welche Bücher oder Websites? Das ist für uns von Interesse, da für kommerzielle Modelle wie ChatGPT für uns keine Trainingsdaten verfügbar sind. Und wie beeinflusst dieser Input die Texte, die es generiert? Dies wiederum ist von großer Bedeutung, da es in den Eingabetexten alle möglichen Vorurteile geben kann, wie z.B. Geschlechter- oder rassistische Klischees. Es ist in meinen Augen immens wichtig, in diesem Bereich zu forschen, denn Ziel muss immer eine KI sein, die für jeden zugänglich ist, die sich zudem an demokratisch beschlossene Regeln hält und die vor allem nicht von kapitalistischen Interessen abhängig ist. Die Forschung hat hier eine verantwortungs­volle Aufgabe.

FORUM: Würden Sie sagen, es gibt Bereiche, in denen die KI schon sehr gut ist?

Stuckenschmidt: Deep Blue und ChatGPT sind gute Beispiele für Dinge, die KI gut kann. Das ist zum einen der Umgang mit sehr großen Datenmengen, die ein Mensch niemals überblicken, geschweige denn analysieren kann, und zum anderen das systematische Suchen nach optimalen Lösungen. Beides sind Dinge, in denen Menschen eher schlecht sind. Da liegen auch die Chancen von KI-Methoden: Aufgaben zu übernehmen, in denen der Mensch nicht gut ist.

Ponzetto: Ich nutze KI, um meine eigenen Texte überarbeiten zu lassen – um sie zu kürzen oder zu gliedern ist ChatGPT eine gute Hilfe. Auch in kleineren Übersetzungs­arbeiten liefern solche Tools in meinen Augen schon solide Ergebnisse.

Stuckenschmidt: Dem stimme ich zu. Die Fähigkeit von ChatGPT, neue Texte zu einem Thema zu erzeugen, überzeugt mich aber ehrlich gesagt nicht. Oft enthalten die von ChatGPT generierten Texte neben ein paar korrekten Aussagen auch eine ganze Reihe faktischer Fehler. Hinzu kommen oft sehr allgemeine Aussagen, die zwar nicht falsch sind, aber auch keinen wirklichen Mehrwert bieten. Sagen wir mal so: Ich mache mir keine Sorgen darüber, dass Studierende in Zukunft alle mit generierten Abschlussarbeiten Top-Noten bekommen.

FORUM: Bleiben wir bei ChatGPT. Was ist so bahnbrechend an dieser KI?

Ponzetto: ChatGPT ist die erste KI, die für die breite Masse zugänglich ist – und bei der es den Menschen bewusst ist, dass sie sie verwenden. Anders als bei KI, die in Handys integriert ist, zum Beispiel. Noch dazu scheint sie uns Aufgaben abzunehmen, auf denen bei uns ganze Berufszweige und auch das Bildungs­system basieren.

Stuckenschmidt: Solche Sprach­modelle auf der Basis von Neuronalen Netzen werden schon lange erforscht und ChatGPT ist da nur eines in einer langen Reihe von Modellen, die entwickelt wurden. Das besondere an ChatGPT ist aus meiner Sicht, dass dort sehr viel Geld ins Engineering gesteckt wurde, um das Modell so robust zu machen, dass man es auf die Allgemeinheit loslassen kann. Dazu kommt, dass ChatGPT anscheinend exakt ein lange bekanntes Kriterium für Künstliche Intelligenz, den sogenannten Turing-Test erfüllt. Ein Programm wird gemäß dem Test dann als intelligent bezeichnen, wenn man es in der Unterhaltung nicht von einem Menschen unterscheiden kann. Das klappt bei ChatGPT in der Tat sehr gut.

FORUM: Was sind aus Ihrer Sicht die größten Chancen und Risiken, die der Einsatz von KI für die Gesellschaft mit sich bringt?

Stuckenschmidt: Aus meiner Sicht ist KI ein Werkzeug, das einen großen Nutzen hat, wenn man damit umgehen kann, aber auch großen Schaden anrichten kann, wenn man es falsch anwendet. Vor allem im Hinblick auf die Analyse großer Datenmengen, das systematische Suchen nach einer optimalen Lösung und beim Treffen von rationalen Entscheidungen kann KI helfen. Voraussetzung ist natürlich, dass KI-Methoden korrekt und sinnvoll eingesetzt werden. Besonders deutlich wird dies beim aktuell viel diskutierten Teilgebiet des Maschinellen Lernens. Lern­verfahren können hier immer nur das lernen, was auch in den Daten steckt, die sie erhalten.

Ponzetto: Eine Gefahr ist sicherlich, dass bei Systemen wie ChatGPT nicht nachvollziehbar ist, welche Daten es verwendet. Und dass „schlechte“ Daten auch entsprechende Ergebnisse produzieren, d.h. dass zum Beispiel Vorurteile reproduziert, verbreitet und damit verstärkt werden. Außerdem gibt es schon jetzt Modelle, die Dinge können, die nicht vorherzusehen waren. Zum Beispiel kann ChatGPT Übersetzungen erstellen. Auch Copyright-Fragen sind bisher ungeklärt. Mehr Transparenz und Regulierung sind unverzichtbar. Eine große Chance sehe ich für die Bildungs­gerechtigkeit. KI kann Bildung und sogar individuell zugeschnittene Lernangebote ermöglichen für alle, die über einen Internetzugang verfügen.

Interview: Dr. Maartje Koschorreck, Jule Leger/Dezember 2023