Lesezeit
1 Minute
Zertifikat für vertrauenswürdige KI
Bei einer automatisierten Analyse von Bewerbungsdokumenten sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Aus diesem Grund hat eine neu gegründete Arbeitsgruppe des BSI und des Fraunhofer-Instituts einen über 160 Seiten starken KI-Prüfkatalog entwickelt. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige Zertifizierung zu ebnen.
Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oftmals noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog [1] des BSI dar, der cloudbasierte KI-Dienste adressiert. Gleichzeitig stehen andere bereits existierende Prüfverfahren, etwa aus der funktionalen oder der IT-Sicherheit, vor Herausforderungen, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.
Ziel der neu gegründeten Arbeitsgruppe des Projekts "Zertifizierte KI" [2] ist es, diese Lücke zu füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke zu definieren. Von zentraler Bedeutung ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden. Eine wichtige Grundlage für die Arbeitsgruppe bildet der jetzt veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS (Intelligente Analyse- und Informationssysteme). Das Team hat ein umfassendes Bewertungsschema veröffentlicht, das Unternehmen dabei helfen soll, Anforderungen an KI-Systeme individuell und lösungsspezifisch zu operationalisieren.
Der Prüfkatalog adressiere zwei Zielgruppen gleichermaßen: "Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können", sagt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.
Der KI-Prüfkatalog ist ab sofort kostenfrei unter [3] online verfügbar.
ln
[1] www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/AIC4/aic4_node.html
[2] www.zertifizierte-ki.de
[3] www.iais.fraunhofer.de/ki-pruefkatalog