Die Universität Bielefeld hat vor Kurzem eine unabhängige Forschungsgruppe zur erklärbaren Künstlichen Intelligenz (XAI) gegründet, die von Dr. David Johnson am Center of Excellence in Cognitive Interaction Technology (CITEC) geleitet wird. Diese Initiative spielt eine entscheidende Rolle in der Entwicklung menschenzentrierter KI-Systeme, die Benutzer*innen unterstützen sollen, KI-gestützte Entscheidungen besser zu verstehen und nachzuvollziehen. Dies ist besonders wichtig, da KI zunehmend in entscheidungskritischen Bereichen wie der psychischen Gesundheit eingesetzt wird, wo ein fundiertes Verständnis von Entscheidungen entscheidend ist. Aktuell berichtet, dass die Forschungsgruppe auch darauf abzielt, eine übermäßige Abhängigkeit von KI zu vermeiden.
Ein zentrales Anliegen der Gruppe ist es, nützliche und vertrauenswürdige Erklärungen für KI-Entscheidungen zu gestalten. Nutzer*innen werden aktiv in den Designprozess einbezogen, was durch umfangreiche Evaluierungen ergänzt wird. Langfristig strebt die Gruppe die Entwicklung interaktiver Entscheidungssysteme an, die in der Lage sind, reale Probleme zu lösen. Im Zuge dessen wird eine Wissensbasis über geeignete Erklärungen erstellt, um das Vertrauen der Nutzer in die Systeme zu fördern.
Erklärbarkeit und Vertrauen in KI
Die Notwendigkeit von erklärbarer KI wird zunehmend anerkannt, insbesondere vor dem Hintergrund der europäischen KI-Strategie, die darauf abzielt, die EU zu einem globalen Drehkreuz für KI zu machen. Die Strategie setzt auf menschenzentrierte und vertrauenswürdige KI-Systeme, die Erklärungen für ihre Entscheidungen liefern. Wie Cyberforum erläutert, ist erklärbare KI ein Forschungsgebiet, das Techniken zur Durchleuchtung der „Black-Box“ des maschinellen Lernens entwickelt. Diese Black-Box beschreibt das Problem, dass selbst Entwickler oft die Funktionsweise ihrer Modelle nicht vollständig nachvollziehen können.
Die Entwicklung erklärbarer KI zielt darauf ab, die verwendeten Daten und statistischen Modelle transparent zu machen. Dies kann besonders in regulierten Branchen, wie dem Gesundheitswesen oder dem Finanzsektor, von Bedeutung sein. Eine klare Darstellung der Entscheidungsprozesse kann nicht nur das Vertrauen der Nutzer*in stärken, sondern auch dazu beitragen, Verantwortung und Haftung bei Fehlern zu klären.
Interdisziplinäre Zusammenarbeit und Anwendung
Die Bielefelder Forschungsgruppe arbeitet interdisziplinär und kooperiert unter anderem mit Professorin Dr. Hanna Drimallas, um die Interaktion zwischen Menschen und KI-Erklärungen zu untersuchen. Ziel ist, Schnittstellen zu entwickeln, die die Entscheidungsfindung durch geeignete Gestaltung von Erklärungen optimieren. Kiberatung hebt hervor, dass diese Erklärungen nicht nur die Fehleinschätzungen im Entstehungsprozess aufdecken, sondern auch die Zusammenarbeit zwischen Mensch und KI fördern sowie ethische Standards unterstützen können.
Die Forschung umfasst groß angelegte Online-Studien, um nützliche Erklärungen zu bestimmen. Ein Bewertungsframework wird entwickelt, um Entscheidungssituationen mit hohen Einsätzen zu simulieren. Dabei wird der besondere Wert der Erklärbarkeit deutlich, besonders in Anwendungsbereichen wie der Medizin, wo KI z. B. zur Tumordiagnose eingesetzt wird.
Zusammenfassend lässt sich festhalten, dass die Initiative der Universität Bielefeld einen wichtigen Schritt in die Richtung von vertrauenswürdiger und transparenter KI darstellt. Die Kombination aus interdisziplinärer Forschung, praktischer Anwendung und dem Bestreben, Erklärungen zu optimieren, könnte erhebliche Auswirkungen auf die Entwicklung zukünftiger KI-Systeme haben und dabei helfen, die zunehmenden Herausforderungen der künstlichen Intelligenz zu bewältigen.