Zertifikat für vertrauenswürdige KI

Lesezeit
1 Minute
Bis jetzt gelesen

Zertifikat für vertrauenswürdige KI

13.07.2021 - 00:00
Veröffentlicht in:
Bei einer automatisierten Analyse von Bewerbungsdokumenten sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Aus diesem Grund hat eine neu gegründete Arbeitsgruppe des BSI und des Fraunhofer-Instituts einen über 160 Seiten starken KI-Prüfkatalog entwickelt. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige Zertifizierung zu ebnen.
Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oftmals noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog [1] des BSI dar, der cloudbasierte KI-Dienste adressiert. Gleichzeitig stehen andere bereits existierende Prüfverfahren, etwa aus der funktionalen oder der IT-Sicherheit, vor Herausforderungen, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.

Ziel der neu gegründeten Arbeitsgruppe des Projekts "Zertifizierte KI" [2] ist es, diese Lücke zu füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke zu definieren. Von zentraler Bedeutung ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden. Eine wichtige Grundlage für die Arbeitsgruppe bildet der jetzt veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS (Intelligente Analyse- und Informationssysteme). Das Team hat ein umfassendes Bewertungsschema veröffentlicht, das Unternehmen dabei helfen soll, Anforderungen an KI-Systeme individuell und lösungsspezifisch zu operationalisieren.

Der Prüfkatalog adressiere zwei Zielgruppen gleichermaßen: "Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können", sagt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.

Der KI-Prüfkatalog ist ab sofort kostenfrei unter [3] online verfügbar.


ln

[1] www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/AIC4/aic4_node.html
[2] www.zertifizierte-ki.de
[3] www.iais.fraunhofer.de/ki-pruefkatalog

Ähnliche Beiträge

Studie: Viele deutsche Firmen nicht digital souverän

Zwar attestieren sich deutsche Unternehmen selbst ein stark ausgeprägtes Bewusstsein für die Wichtigkeit von digitaler Souveränität. Dennoch sind rund ein Viertel von ihnen in ihrer E-Mail-Infrastruktur stark von US-Cloudanbietern wie Microsoft oder Google abhängig, wie eine Umfrage von YouGov im Auftrag von mailbox.org ermittelte.

Neun von zehn Arbeitnehmer benötigen Basisschulung in Cybersicherheit

Kaspersky hat Ergebnisse seines Gamified-Assessment-Tools untersucht, in dessen Rahmen Teilnehmer spielerisch mit Cyberrisiken konfrontiert werden. Demnach benötigen 89 Prozent der Mitarbeiter in Unternehmen Sicherheitsschulungen und kann etwa jeder dritte Mitarbeiter nicht ausreichend Wissen zum Umgang mit alltäglichen IT-Security-relevanten Themen vorweisen.

Schwere Cyberangriffe haben gravierende und lang anhaltende psychische Folgen

Eine wissenschaftliche Untersuchung von Northwave zu den psychischen Auswirkungen großer Ransomware-Angriffe gegen Unternehmen verdeutlicht tiefe Spuren, die eine solche Krise bei allen Betroffenen hinterlässt. Zugleich belegt sie, dass es auch nach der Überwindung des Angriffs selbst noch lange dauern kann, bis bei den IT- und Sicherheitsteams wieder Normalität einkehrt.