Am 1. Februar 2025 treten in der Europäischen Union neue, weitreichende Regeln für den Umgang mit Künstlicher Intelligenz (KI) in Kraft. Die Verordnung, bekannt als AI Act, zielt darauf ab, den Einsatz von KI verantwortungsvoll zu gestalten und die Verbraucherrechte zu schützen. Zu den zentralen Bestimmungen gehört das Verbot von Systemen, die eine Bewertung nach sozialem Verhalten vornehmen, auch bekannt als „Social Scoring“. Diese Regelung soll den Missbrauch von KI zur sozialen Überwachung verhindern.
Zusätzlich wird die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen untersagt. Gesichtserkennung im öffentlichen Raum wird grundsätzlich verboten, sofern nicht besondere Umstände wie Straftatenverfolgung durch Polizei und Sicherheitsbehörden vorliegen. Digitalminister Volker Wissing hebt die Chancen hervor, die KI für Effizienz und Wachstum bieten kann, warnt jedoch auch vor den damit verbundenen Risiken.
Risiko-Kategorisierung von KI-Systemen
Der AI Act unterteilt KI-Systeme in unterschiedliche Risiko-Kategorien. Während die Mehrheit der Systeme in die niedrigste Risiko-Kategorie eingestuft wird und somit keiner neuen Regulierung unterliegt, werden bestimmte Anwendungen wie biometrische Kategorisierung und ungezieltes Auslesen von Gesichtsbildern verboten. Dieses Verbot tritt ebenfalls ab Februar 2025 in Kraft.
Für hochriskante KI-Systeme gelten hingegen strenge Vorschriften. Diese ostern aus zwei Hauptkategorien: Einerseits KI-Systeme in Produkten, die EU-Produktsicherheitsvorschriften unterliegen, wie Spielzeug oder medizinischen Geräten, und andererseits solche, die in spezifischen Bereichen eingesetzt werden. Dazu zählen unter anderem Bildung, Strafverfolgung und das Management kritischer Infrastrukturen. Alle hochriskanten Systeme müssen umfassend bewertet werden, bevor sie auf den Markt kommen, und während ihres gesamten Lebenszyklus überwacht werden.
Transparenz und Verbraucherrechte
Ein weiteres wichtiges Element des AI Act ist die Anforderung, dass KI-Anwendungen klar gekennzeichnet werden müssen. Dazu gehören Systeme, die „Transparenz-Risiken“ aufweisen und deutlich machen müssen, dass sie durch KI erstellt wurden. Auch die Möglichkeit, Verstöße gegen die Vorschriften bei nationalen Behörden zu melden, stärkt die Verbraucherrechte und sorgt für mehr Sicherheit im Umgang mit KI.
Die neuen Regelungen werden schrittweise umgesetzt, wobei einige Aspekte zeitnah von den Mitgliedstaaten umgesetzt werden müssen. Bei Verstößen drohen Strafen, die bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Jahresumsatzes betragen können. Experten sind sich uneinig, ob das Gesetz die Entwicklung neuer KI-Technologien fördert oder behindert.
Insgesamt zielt der AI Act darauf ab, ein Gleichgewicht zwischen der Förderung innovativer Technologien und dem Schutz der Grundrechte der Bürger zu schaffen. Wie der ZVW berichtet, wird die EU-Kommission regelmäßig prüfen, ob Anpassungen in den Vorschriften notwendig sind, um der sich schnell entwickelnden KI-Landschaft Rechnung zu tragen. Der Gesetzgeber möchte damit den verantwortungsvollen Einsatz von KI unterstützen und gleichzeitig ein hohes Schutzniveau für die Bürger sicherstellen.
Die vollständige Liste der hochriskanten Anwendungen und die genauen Umsetzungsfristen werden voraussichtlich bis zum Jahr 2026 weiter spezifiziert und müssen dann von allen Mitgliedstaaten befolgt werden. Dies stellt einen bedeutenden Schritt in der Regulierung von KI innerhalb der EU dar, wie auch Futurezone bestätigt. Die Herausforderungen, die mit der Regulierung einer sich rasant entwickelnden Technologie verbunden sind, stehen jedoch erst am Anfang.
Zusammenfassend lässt sich sagen, dass mit dem AI Act ein einheitlicher Rechtsrahmen geschaffen wird, der sowohl Innovationen fördert als auch die Rechte der Verbraucher schützt. Die tatsächlichen Auswirkungen dieser Regelungen werden in den kommenden Jahren beobachtet und bewertet werden müssen, um das Gleichgewicht zwischen Technologie und gesellschaftlicher Verantwortung sicherzustellen, wie es auch das Europäische Parlament darstellt.