Die Bekämpfung von Desinformation ist zu einer zentralen Herausforderung der modernen Gesellschaft geworden. Dr. Vera Schmitt, Leiterin der Forschungsgruppe XplaiNLP an der TU Berlin, hat sich dieser Herausforderung mit innovativen Ansätzen zur Erkennung und Analyse von Falschinformationen verschrieben. Ihre Gruppe arbeitet an der größten deutschsprachigen KI-Plattform zur Desinformationserkennung und hat bereits mehr als 4 Millionen Euro an Drittmitteln eingeworben, um ihre Projekte wie VeraXtract und news-polygraph voranzutreiben.
Die Forschungsgruppe XplaiNLP ist am Quality and Usability Lab der TU Berlin angesiedelt und zielt darauf ab, die gesellschaftliche Widerstandsfähigkeit gegenüber Desinformation zu stärken. Desinformationskampagnen nehmen weltweit zu und bedrohen zunehmend den gesellschaftlichen Zusammenhalt. Schmitt hebt hervor, dass insbesondere Narrative im Vorfeld von Wahlen und Konflikten gezielt zur gesellschaftlichen Spaltung eingesetzt werden. Ihre Analyse reicht von der Identifikation von Mis- und Desinformation durch natürliche Sprachverarbeitung bis hin zu einem Abgleich von Aussagen mit etablierten Fakten.
Innovative Projekte zur Desinformationserkennung
Eines der primären Projekte ist VeraXtract, welches komplexe Desinformationsnarrative analysiert und nicht nur Falschmeldungen identifiziert, sondern auch die zugrundeliegenden Narrative entschlüsseln möchte. Ein KI-gestütztes „Narrative Monitoring Tool“ soll Journalist*innen und der Öffentlichkeit helfen, diese Narrativen besser zu verstehen und bietet nachvollziehbare Erklärungen für seine Entscheidungen. Das Projekt news-polygraph richtet sich speziell an Journalist*innen und analysiert Desinformationen in Texten sowie in Bild-, Audio- und Videoinhalten. Die erste Demoversion von news-polygraph ist im April geplant.
Eine der größeren Herausforderungen in diesem Bereich ist, dass Faktenchecks oft zu spät erfolgen, was dazu führt, dass Desinformationen im Bewusstsein der Gesellschaft bleiben. Dr. Schmitt sieht eine wichtige Vision in der Entwicklung von KI-Tools, die Desinformationen in Echtzeit erkennen und präventiv eingreifen können. Der Bedarf an solchen Technologien nimmt zu, da immer mehr KI-gestützte Modelle personalisierte Desinformationskampagnen generieren, die schwer von authentischen Informationen zu unterscheiden sind.
Die Rolle der KI im Faktencheck
Im Kontext von Desinformation und Vertrauensverlust in demokratische Prozesse hat die TU Berlin im Dezember 2024 eine Veranstaltung zum Thema Faktencheck mit KI organisiert. Das Ziel war es, der allgemeinen Öffentlichkeit und Journalist*innen Einblicke in die Möglichkeiten und Herausforderungen zu geben, die KI beim Faktenchecken besitzt. Dr. Schmitt und andere Expert*innen diskutierten, wie KI-gestützte Tools wie das Projekt „noFake“ und das studentische Projekt „Demokratie stärken mit Chatbots“ zur Bekämpfung von Desinformation beitragen können.
In dieser Diskussion wurde auch die Notwendigkeit menschlicher Faktenchecker*innen angesprochen und die Anforderungen an die Erklärbarkeit von KI-Modellen hervorgehoben. Diese Diskussion spiegelt die breitere Debatte wider, die im Rahmen des Digital Services Act (DSA) über die Regulierung von Social-Media-Plattformen geführt wird, um eine wirksamere Content-Moderation zu ermöglichen.
Die XplaiNLP Forschungsgruppe zählt zu den führenden Gruppen im Bereich der Desinformationserkennung in Deutschland und verfolgt einen interdisziplinären Ansatz in der Forschung. Dabei ist die Förderung von Gender-Diversität innerhalb der KI-Forschung ein weiteres Anliegen von Dr. Schmitt und ihrem Team. Die Zukunftsvision ist eine nahtlose, automatisierte Informationsvermittlung und -validierung durch KI. Dies könnte dazu beitragen, Vertrauen in Informationen zu schaffen und die Gesellschaft resilienter gegenüber Desinformation zu machen.