Die Goethe-Universität Frankfurt hat heute ein wegweisendes Rechtsgutachten veröffentlicht, das sich mit der datenschutzrechtlichen Beurteilung von Learning Analytics an Hochschulen in Hessen auseinandersetzt. Dieses Gutachten, das im Rahmen der Forschungsprojekte IMPACT und ALI erstellt wurde, bietet eine umfassende rechtliche Bewertung zur Nutzung von Künstlicher Intelligenz (KI) in der Lehre hessischer Hochschulen. Besonderes Augenmerk liegt auf den datenschutzrechtlichen Rahmenbedingungen, die für den Einsatz von Learning Analytics und KI im Hochschulkontext gelten. Hierbei werden sowohl Landes- als auch Bundesrecht sowie der geplante EU AI Act berücksichtigt, wie puk.uni-frankfurt.de berichtet.
Das Gutachten baut auf einem Vorläufer, der bereits 2023 für Nordrhein-Westfalen erstellt wurde, auf und ermöglicht somit eine rechtliche Vergleichbarkeit zwischen den beiden Bundesländern. Die Autoren des Gutachtens betonen, dass der rechtssichere Einsatz von KI stark von der konkreten Anwendung und den technischen Details abhängt. Zudem wird darauf hingewiesen, dass das hessische Hochschulgesetz momentan keine ausreichende rechtliche Grundlage bietet und entsprechend erweitert werden müsste.
Regulatorische Rahmenbedingungen und der AI Act
Der EU AI Act, der als weltgrößter und umfassendster Rechtsrahmen zur Regulierung von KI-Technologien gilt, spielt eine zentrale Rolle bei dieser Bewertung. Verabschiedet am 21. Mai 2024 von den 27 EU-Mitgliedstaaten, hat er zum Ziel, Vertrauen und Akzeptanz in KI zu schaffen und gleichzeitig Innovationen zu fördern. Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das Risiko einer KI-Anwendung, desto strenger die regulatorischen Vorgaben. Beispielsweise fallen kritische Bereiche wie das Gesundheitswesen oder das Bildungswesen unter hohe Risikokategorien, die umfangreiche Dokumentationspflichten und Prüfungen erfordern, so anwaltskanzlei-ki.de.
Konkret bedeutet dies, dass Hessische Hochschulen den Einsatz von KI in ihren Satzungen regeln können, um den Anforderungen des AI Acts gerecht zu werden. Dabei muss die Nutzung von KI-Technologien die Grundrechte der Nutzer, wie Privatsphäre und Nichtdiskriminierung, schützen. Unzulässige Risiken, wie beispielsweise Social Scoring oder subtile Manipulation von Nutzerverhalten, sind strikt verboten.
Neue Möglichkeiten und Herausforderungen
Das Gutachten dient als Blaupause für andere Hochschulen, die KI-gestützte Lernanalysen und Lehrunterstützung einführen möchten. Es wird betont, dass der Einsatz von KI im Hochschulbereich rechtlich möglich und praktikabel sei, wenn ein verantwortungsvoller Umgang gewährleistet ist. Die Forschungsprojekte IMPACT und ALI erforschen den Einsatz von KI-Tools zur Analyse von Lernfortschritten und Lehrpraktiken, wobei ein späterer Masterstudiengang zur Entwicklung und Forschung von KI-Tools angestrebt wird.
Allerdings sieht die Bundesregierung auch die Notwendigkeit, bei der Umsetzung des AI Acts Spielräume für Innovationen zu nutzen. Dies ist besonders wichtig, um den deutschen Standort für KI-Entwicklung und -Anwendung zu stärken, was auch Ausbildung und Forschung in diesem Bereich einschließt. Der Bundesdigitalminister Volker Wissing und Beamte der EU betonten kürzlich die Wichtigkeit dieses Rechtsrahmens für die Wettbewerbsfähigkeit der Wirtschaft und die Zukunft der Gesellschaft, wie bundesregierung.de berichtet.
Insgesamt markiert das Gutachten der Goethe-Universität einen bedeutenden Schritt in der Digitalisierung der Hochschulbildung in Hessen. Es bietet eine fundierte Grundlage für die verantwortungsvolle Nutzung von KI-Technologien und Learning Analytics.