Meldung

Zertifikat für vertrauenswürdige KI

Bei einer automatisierten Analyse von Bewerbungsdokumenten sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Aus diesem Grund hat eine neu gegründete Arbeitsgruppe des BSI und des Fraunhofer-Instituts einen über 160 Seiten starken KI-Prüfkatalog entwickelt. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige Zertifizierung zu ebnen.
Der Leitfaden für vertrauenswürdige KI ist ab sofort für die Öffentlichkeit zugänglich.
Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oftmals noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog [1] des BSI dar, der cloudbasierte KI-Dienste adressiert. Gleichzeitig stehen andere bereits existierende Prüfverfahren, etwa aus der funktionalen oder der IT-Sicherheit, vor Herausforderungen, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.

Ziel der neu gegründeten Arbeitsgruppe des Projekts "Zertifizierte KI" [2] ist es, diese Lücke zu füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke zu definieren. Von zentraler Bedeutung ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden. Eine wichtige Grundlage für die Arbeitsgruppe bildet der jetzt veröffentlichte KI-Prüfkatalog des Fraunhofer IAIS (Intelligente Analyse- und Informationssysteme). Das Team hat ein umfassendes Bewertungsschema veröffentlicht, das Unternehmen dabei helfen soll, Anforderungen an KI-Systeme individuell und lösungsspezifisch zu operationalisieren.

Der Prüfkatalog adressiere zwei Zielgruppen gleichermaßen: "Mit dem KI-Prüfkatalog haben wir jetzt ein praxistaugliches Dokument, das von unabhängigen Prüforganisationen als Grundlage für zukünftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf zukünftige regulatorische Anforderungen vorbereiten können", sagt Prof. Dr. Stefan Wrobel, Institutsleiter Fraunhofer IAIS und Mitglied in der von der Bundesregierung neu gegründeten Koordinierungsgruppe KI-Normung und Konformität.

Der KI-Prüfkatalog ist ab sofort kostenfrei unter [3] online verfügbar.
13.07.2021/ln

Tipps & Tools

Intensiv-Seminar "Aufbau einer PKI unter Windows Server" [2.08.2021]

Microsoft verwendet Zertifikate für mehrere PKI-fähige Produkte, daher bedarf es sowohl innerhalb der Organisation als auch für externe Partner einer fehlerfreien Zertifikatausstellung. Anfang September erfahren Sie in unserem Intensiv-Seminar in Hamburg, was Sie beim Aufbau einer Public-Key-Infrastruktur unter Windows Server beachten müssen. Dabei zeigen wir unter anderem, wie Sie PKI-fähige Anwendungen identifizieren und eine Testumgebung aufbauen und konfigurieren. Zögern Sie nicht zu lange – und sichern Sie sich einen der letzten Restplätze für das Intensiv-Seminar! Abonnenten nehmen wie immer zum Vorzugspreis teil. [mehr]

Sicherheitslücke in systemd begünstigt Denial-of-Service-Attacken [30.07.2021]

Das Qualys Research Team hat eine schwerwiegende Sicherheitslücke in Linux-Betriebssystemen identifiziert. Für den den systemd-Daemon betreffenden Bug weit verbreiteter OS wie RHEL 8 und Debian 10 ist ein Patch verfügbar. [mehr]

Fachartikel

SOC-Grundlagen: Weniger Fehlmeldungen durch besseren Kontext [21.07.2021]

Wer als Sicherheitsspezialist in einem Security Operations Center arbeitet, der wird tagein, tagaus mit einer schier endlosen Flut an Meldungen konfrontiert. Jedoch sind nicht alle dieser Nachrichten wirklich sicherheitsrelevant, denn bei einem Großteil handelt es sich um Fehlalarme oder unwichtige Informationen. Der Artikel erklärt, wie mehr Datenkontext dabei helfen kann, zwischen echten Signalen und sogenanntem Rauschen zu unterscheiden, um dem Problem der Alarmmüdigkeit entgegenzuwirken. [mehr]

Buchbesprechung

Windows 10 Power-Tipps

von Günter Born

Anzeigen