Forschende der Universitäten Passau und Bamberg haben ein bedeutendes Forschungsprojekt ins Leben gerufen, das die Entwicklung generativer Künstlicher Intelligenz (KI) in Russland näher untersucht. Dieses Projekt, mit dem Titel AI-PROP, wird vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) mit 930.000 Euro über drei Jahre gefördert und startet am 1. April 2025. Ziel ist es, die Auswirkungen autoritärer Daten auf KI-Systeme in demokratischen Gesellschaften zu analysieren. Das Projekt wird von Prof. Dr. Florian Töpfl, einem Experten für Politische Kommunikation und Osteuropa, geleitet. Eine zentrale Fragestellung zielt darauf ab, wie sich die Einbettung autoritärer KI-Systeme in die Gesellschaft Russlands gestaltet und welche Auswirkungen dies auf westliche KI-Systeme hat, so dass uni-passau.de berichtet.
Generative KI kann täuschend echte Inhalte erzeugen, was die Informationszirkulation in modernen Gesellschaften erheblich verändert. Besonders autoritäre Regime wie China und Russland entwickeln solche Technologien unter strenger staatlicher Kontrolle. Diese Entwicklung geht einher mit Zensur- und Regulierungsmaßnahmen, die sicherstellen sollen, dass die programmierten KI-Modelle den politischen Narrativen der herrschenden Eliten entsprechen. China und Russland haben gar die Nutzung von ChatGPT strikt untersagt.
Forschungsziele und Struktur
Das Projekt AI-PROP erforscht vier spezifische Arbeitspakete, die sich auf die Regulierung von Sprachmodellen sowohl in Russland als auch in westlichen Demokratien konzentrieren. Ein wichtiger Aspekt der Forschung besteht darin, die Unterschiede zwischen den generierten Inhalten von KI-Systemen in demokratischen und autoritären Staaten zu analysieren. Langfristig soll so die Widerstandskraft von Demokratien gegen derartige autoritäre Einflussnahme durch KI gestärkt werden.
Die Teammitglieder, darunter auch Prof. Dr. Florian Lemmerich und Prof. Dr. Andreas Jungherr, bringen jeweils ihre Expertise in angewandtem maschinellem Lernen und digitaler Transformation ein. Öffentlichkeitsarbeit und Wissenstransfer sind ebenfalls Schlüsselfaktoren des Projekts, einschließlich der Entwicklung eines Leitfadens zur Bekämpfung von Propaganda.
Technologische Entwicklungen und Herausforderungen
Im Kontext der fortschreitenden digitalen Transformation wurde zudem ein Artikel veröffentlicht, der aktuelle Fortschritte in der generativen KI und großen Sprachmodellen (LLMs) thematisiert. Der Beitrag ist unter dem Titel „Recent Advances in Generative AI and Large Language Models: Current Status, Challenges, and Perspectives“ zu finden und beschäftigt sich mit dem aktuellen Stand der Technologien sowie den bemerkenswerten Fortschritten und den damit verbundenen Herausforderungen im Bereich der natürlichen Sprachverarbeitung. Besonders im Hinblick auf die gesellschaftlichen und politischen Auswirkungen ist es entscheidend, das Verständnis für die generativen Fähigkeiten von KI-Systemen und den spezifischen Kontext der LLMs zu vertiefen. Dies zeigt, wie wichtig das Verständnis der zugrunde liegenden Technologien für Forscher und politische Entscheidungsträger ist, wie in arxiv.org ausführlich erläutert wird.
Darüber hinaus werden die gesellschaftlichen und rechtlichen Aspekte der Digitalisierung in Deutschland von der Akademie für Politische Bildung beleuchtet. Die Digitalisierung hat nicht nur erhebliche Auswirkungen auf Kommunikationsstrukturen, Mobilität und Arbeit, sondern wird auch als entscheidender Wirtschaftsfaktor betrachtet. Politische Bestrebungen zielen darauf ab, Deutschland zum führenden Standort für KI zu machen, während zugleich Fragen zu Privatsphäre und Gesellschaft aufgeworfen werden. Die COVID-19-Pandemie hat diesen Prozess noch beschleunigt, und Medienkompetenz wird zunehmend als essenziell erachtet, um sich in der digitalen Welt zurechtzufinden, wie die Akademie für Politische Bildung erklärt.
Insgesamt ist die Analyse der Einflüsse autoritärer KI-Systeme und deren Auswirkungen auf demokratische Gesellschaften nicht nur eine wissenschaftliche Herausforderung, sondern auch eine gesellschaftliche Notwendigkeit. Die kommenden Forschungsanstrengungen werden maßgeblich dazu beitragen, eine informierte und resiliente Gesellschaft zu fördern, die den Herausforderungen der digitalen Transformation gewachsen ist.