Das Karlsruher Institut für Technologie (KIT) geht einen bedeutenden Schritt in der Welt der Künstlichen Intelligenz (KI), indem es sich am Spin-off Validaitor beteiligt. Dieses neu gegründete Start-up entwickelt innovative Tools zur Qualitätssicherung in der KI. In einer Zeit, in der neue EU-Gesetze ethische Standards und Risikomanagement im KI-Einsatz fordern, positioniert sich Validaitor als wichtiger Partner für Organisationen und Unternehmen, die diese Vorschriften umsetzen müssen. Der Vizepräsident des KIT, Professor Thomas Hirth, weist auf die Dringlichkeit innovativer Ansätze zur Qualitätssicherung hin.
Die Beteiligung des KIT an Validaitor ist Teil einer erfolgreichen Finanzierungsrunde, die auch Investoren wie Bitdefender, Voyager Ventures, EnBW New Ventures und das Start-up BW Seed Fonds der MBG Mittelständische Beteiligungsgesellschaft Baden-Württemberg umfasst. Yunus Bulut, der Gründer und CEO von Validaitor, erklärt, dass die erhaltenen Investitionen die Weiterentwicklung der Plattform fördern und bis zu 80 Prozent der Kosten für die KI-Zertifizierung einsparen können.
Risikomanagement und KI-Governance
Validaitor bietet eine umfassende Plattform für KI-Governance, Risikomanagement und automatisiertes Testen. Das Angebot des Start-ups integriert Testing-Tools mit Unterstützung für die regelkonforme Umsetzung der neuen rechtlichen Anforderungen. Validaitor verifiziert die Einhaltung von Standards und hilft Unternehmen, ethische Prinzipien, Transparenz und Risikomanagement in ihre KI-Anwendungen zu integrieren. Dazu gehören auch Red-Teaming-Methoden, die auf das Simulieren von Angriffen abzielen, um mögliche Schwachstellen in Systemen zu identifizieren.
Mit den neuen [[EU-Gesetzen|europarl.europa.eu]] wird ein Risikomanagement gefordert, insbesondere für hochriskante KI-Systeme, die Gesundheits- oder Sicherheitsrisiken bergen oder Grundrechte gefährden könnten. Die EU hat klare Vorgaben erlassen, die eine Bewertung dieser Systeme vor ihrer Markteinführung und während ihres gesamten Lebenszyklus verlangen. Bürger haben das Recht, bei nationalen Behörden Beschwerden über problematische KI-Anwendungen einzureichen.
Der AI Act und seine Auswirkungen
Mit dem AI Act, der am 21. Mai 2024 von den Mitgliedstaaten der EU verabschiedet wurde, bekommt die Regulierung von KI auf europäischer Ebene ein neues Dimension. Dieses Gesetz bildet das erste umfassende Regelwerk für Künstliche Intelligenz und verfolgt einen risikobasierten Ansatz. Je höher das Risiko, desto strengere Vorgaben gelten. Der Bundesdigitalminister Volker Wissing betont die Notwendigkeit, KI als zukunftsrelevantes Thema zu begreifen und gleichzeitig Raum für Innovationen zu schaffen.
Das legal geregelte Ziel ist, Vertrauen und Akzeptanz in KI-Technologien zu fördern und gleichzeitig Innovationen in Europa anzustoßen. Verboten sind insbesondere KI-Systeme, die das Verhalten von Personen manipulieren oder „Social Scoring“ betreiben. Darüber hinaus müssen Herstellende von hochriskanten KI-Systemen strenge Anforderungen erfüllen, um auf den EU-Markt zugelassen zu werden. Geringeres Risiko zieht hingegen reduzierte Transparenz- und Informationspflichten nach sich.
Die nationale KI-Strategie der Bundesregierung zielt darauf ab, Deutschland zu einem Führungsstandort für KI-Entwicklung und -Anwendung zu machen. Unterstützung erhält dies durch die Einrichtung von KI-Servicezentren, die insbesondere kleinen und mittleren Unternehmen dienen sollen.
In einer Zeit, in der der Fortschritt in der KI-Technologie unaufhaltsam voranschreitet, ist die Kombination von Innovation und Regulierung entscheidend für den zukünftigen Erfolg und die Ethik in der Anwendung von Künstlicher Intelligenz. Das KIT und Validaitor tragen damit maßgeblich zu dieser Entwicklung bei und unterstützen die Einhaltung der neuen gesetzlichen Vorgaben.
KIT berichtet, dass …
europarl.europa.eu informiert über …
bundesregierung.de stellt fest, dass …