Die fortschreitende digitale Transformation bringt nicht nur innovative Technologien hervor, sondern auch Herausforderungen in Bezug auf Diskriminierung und soziale Ungleichheiten. Besonders im Bereich der Künstlichen Intelligenz (KI) stehen mehrere kritische Fragen im Raum, die sowohl Forschung als auch gesellschaftliche Diskussionen anstoßen.
Ein zentrales Beispiel ist die Gesichtserkennungstechnologie, die bei modernen Handymodellen zum Einsatz kommt. Studien zeigen, dass diese Technologie Schwierigkeiten hat, Gesichter von asiatisch-stämmigen Personen zu erkennen, was dazu führen kann, dass fremde Personen unbefugten Zugriff auf Smartphones erhalten können. Dies verdeutlicht, wie KI soziale Asymmetrien reproduzieren kann, wenn Diskriminierungen nicht berücksichtigt werden. Besonders Frauen und dunkelhäutigere Menschen sind häufig von derartigen Diskriminierungen betroffen, da beispielsweise Bildoptimierungen bevorzugt helle Hautfarben betonen. TUM berichtet, dass der Einsatz unfairer Technologien in Bereichen wie Medizin, Bewerbungsfiltern und Kreditentscheidungen ein hohes Risiko birgt.
Forschungsziele und technologische Verantwortung
Angesichts dieser Herausforderungen setzen sich zahlreiche Forschungseinrichtungen das Ziel, diskriminierende Praktiken zu identifizieren und eine Politik zu entwerfen, die eine Regulierung dieser Technologien ermöglicht. Dies betrifft vor allem die Entwicklung inklusiver Datensammlungen und fairer Modelle, die unabhängig von großen Tech-Unternehmen agieren. Die Entwicklung solcher Modelle ist nicht nur ein technisches, sondern auch ein ethisches Anliegen, da nicht diskriminierende Systeme als präziser und effektiver gelten.
Ein weiterer Aspekt dieser Diskussion betrifft den Einsatz von KI in der Arbeitswelt, wie eine Studie von Tanja Carstensen und Kathrin Ganz an der Universität Hamburg zeigt. Böckler hebt hervor, dass die Auswirkungen des KI-Einsatzes auf die Gleichstellung der Geschlechter ambivalent sind. Während in frauendominierten Berufen wie der Pflege weiterhin ein hoher Bedarf an menschlicher Arbeitskraft besteht, könnten in Bereichen mit hohem Frauenanteil, wie der Buchhaltung, Arbeitsplätze wegfallen.
Voraussetzungen für die Zukunft
Die Veränderungen am Arbeitsmarkt erfordern auch neue Anforderungen an die Qualifikationen. Fähigkeiten in Statistik und Programmierung, sowie das Verständnis für die Kontexte von Algorithmen und Trainingsdaten, gewinnen an Bedeutung. Alarmierend ist jedoch, dass Trainingsdaten häufig unzureichend sind, was dazu führt, dass KI Diskriminierungen und stereotype Vorstellungen verstärken kann. Algorithmen im Management könnten historische Vorurteile reproduzieren, was sich negativ auf die Beschäftigungschancen von Frauen auswirken könnte, wie eine Studie zeigt, die besagt, dass bei der Personalauswahl durch KI-basierte Software schlechter bezahlte Jobs angeboten werden.
Die Diskussion über die Möglichkeit, dass Algorithmen Gerechtigkeit fördern können, führt zu politischen Debatten, in denen KI als Schlüsseltechnologie verstanden wird, die reguliert werden muss. Gender- und Diversitätsthemen spielen eine zentrale Rolle in diesen Diskussionen. Der Dritte Gleichstellungsbericht schlägt vor, Frauen und Mädchen im MINT-Bereich zu fördern, um den Herausforderungen, die KI mit sich bringt, zu begegnen.
Regulatorische Konzepte und soziale Verantwortung
Die Herausforderung der algorithmischen Entscheidungsfindung liegt nicht nur im Entwicklungstechnischen, sondern auch im rechtlichen Rahmen. Die bestehende Rechtsordnung kann unerwünschte Ungleichbehandlungen nur bedingt verhindern. Wissenschaftler untersuchen daher das Zusammenspiel von Antidiskriminierungsrecht, Datenschutzrecht und dem neu entstehenden Recht über Künstliche Intelligenz. Nomos beschreibt das Ziel, Konzepte zur Einhegung von Diskriminierungseffekten beim Einsatz von KI-Systemen zu entwickeln.
Insgesamt zeigt sich, dass der Diskurs um KI und digitale Technologien eine vielschichtige Herausforderung darstellt. Um faire digitale Technologien zu gewährleisten, bedarf es eines interdisziplinären Ansatzes, der Technologie, Ethik und Recht miteinander verknüpft.