Vertrauenswürdige KI made in Mannheim
Wie können mit Künstlicher Intelligenz (KI) nachvollziehbare medizinische Entscheidungen getroffen werden? Damit beschäftigt sich das Projekt LAVA an der Universität Mannheim, das vom Bundesministerium für Bildung und Forschung (BMBF) eine Förderzusage erhielt.
Wissensgraphen beeinflussen täglich unser Leben und doch sind sie in der Öffentlichkeit wenig bekannt. Wer beispielsweise auf einer Streaming-Plattform nach Filmempfehlungen sucht, hat die Antwort oft ihnen zu verdanken. Wissensgraphen stellen einen wesentlichen Aspekt der KI dar und beschreiben allgemein ein Modell, anhand dessen Informationen gesucht und miteinander verknüpft werden.
Ziel des von Prof. Dr. Heiko Paulheim, Inhaber des Lehrstuhls für Data Science an der Universität Mannheim, geleiteten Forschungsprojekts LAVA ist es, Wissensgraphen, die in KI eingebaut werden, automatisiert zu erstellen und zu verbessern. LAVA steht für „Lösungen für die Automatisierte Verbesserung und Anreicherung von Wissensgraphen“. Das Projekt setzt der Mannheimer Informatiker in Zusammenarbeit mit der Karlsruher Firma medicalvalues GmbH um, mit der er bereits seit 2023 in einem Projekt zur KI-basierten Erkennung von Diabetes kooperiert.
Diagnosen schnell und präzise erstellen
LAVA will ein zertifiziertes Medizinprodukt entwickeln, das es Ärzt*innen künftig erleichtern soll, schnelle und präzise Diagnosen zu stellen. Im Falle einer seltenen Krankheit sollen künftig beispielsweise Daten wie Röntgenbilder, Blutwerte und weitere relevante Messungen zusammengeführt und mithilfe eines Wissensgraphen verknüpft werden, um den behandelnden Mediziner*innen die Entscheidung über weitere Schritte zu erleichtern. Das Team um Paulheim steuert dazu Softwarebausteine bei, die es erlauben, diesen Wissensgraphen stets aktuell und fehlerfrei zu halten.
„Unser Wunsch ist es, wiederverwendbare, gut dokumentierte Komponenten für White-Box KI zur Verfügung zu stellen“, erklärt Paulheim. White-Box KI bezeichnet Modelle, die transparent machen, wie Entscheidungen zustande kommen – etwa durch die Nutzung von Wissensgraphen, die auch für Menschen verständlich sind.
Mit seiner Idee setzte sich der Mannheimer KI-Entwickler bei einem DATIpilot-Pitch in Darmstadt unter 600 Teilnehmenden durch. Das Projekt erhält eine Förderung des Bundesministeriums für Bildung und Forschung (BMBF) in Höhe von insgesamt 300.000 Euro für 18 Monate.
Text: Yvonne Kaul / April 2025