Am 2. Februar 2025 treten in der Europäischen Union neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft. Dieser Schritt folgt auf den Beschluss des EU-Rates am 21. Mai 2024 für den sogenannten AI Act, der als das weltweit erste umfassende Regelwerk für KI gilt. Mit dieser Gesetzgebung soll nicht nur der Schutz der Verbraucherrechte gewährleistet werden, sondern auch der verantwortungsvolle Einsatz von KI gefördert werden. Dies wurde von der Weser Kurier berichtet.
Der AI Act verbietet ausdrücklich den Einsatz von KI-Programmen, die soziale Verhaltensbewertungen vornehmen. Menschen sollen nicht in Verhaltenskategorien eingeteilt, belohnt oder bestraft werden. Dazu gehört auch ein generelles Verbot von Gesichtserkennungstechnologien im öffentlichen Raum, wobei Ausnahmen für Polizei und Sicherheitsbehörden bei bestimmten Straftaten, wie Menschenhandel und Terrorismus, bestehen.
Kategorisierung und Risikobewertung
Die neue Regelung verfolgt einen risikobasierten Ansatz. Hochrisiko-KI-Systeme, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, werden in zwei Hauptkategorien unterteilt. Diese schließen KI-Systeme ein, die unter die EU-Produksicherheitsvorschriften fallen, wie z.B. Spielzeug, medizinische Geräte und Fahrzeuge. Zudem müssen spezifische KI-Anwendungen registriert werden, etwa in den Bereichen Bildung, Strafverfolgung und Verwaltung kritischer Infrastrukturen, was in einem zusätzlichen Bericht des Europäischen Parlaments erläutert wird.
Alle hochriskanten KI-Systeme müssen vor ihrem Inverkehrbringen sowie während ihres gesamten Lebenszyklus bewertet werden. Dies sorgt für eine angemessene Kontrolle, wobei Bürger das Recht haben, bei den zuständigen nationalen Behörden Beschwerden über KI-Systeme einzureichen.
Ziele und Unterstützung der Bundesregierung
Die Bundesregierung hebt die Bedeutung des AI Acts zur Schaffung von Vertrauen in KI-Technologien hervor. Bundesdigitalminister Volker Wissing betont, wie wichtig KI für die Zukunft der Gesellschaft und die Wettbewerbsfähigkeit der Wirtschaft ist. Bei der Umsetzung werde darauf geachtet, Freiräume für Innovationen zu schaffen, wie in einer Mitteilung der Bundesregierung zu lesen ist.
Die europäische Initiative wird als Chance gesehen, Deutschland zu einem führenden Standort für KI-Entwicklung und -Anwendung zu machen. Dies geschieht durch die Einrichtung von KI-Servicezentren, die insbesondere kleinen und mittleren Unternehmen Unterstützung bieten sollen. Die Bundesregierung strebt eine Balance zwischen den Risiken und Chancen von KI an, um so den allgemeinen Fortschritt voranzutreiben.