NVIDIA hat gemeinsam mit zahlreichen Partnern aus der Tech-Branche die Open Secure AI Alliance ins Leben gerufen. Ziel des neuen Zusammenschlusses ist es, offene Werkzeuge und Technologien zu entwickeln, die den verantwortungsvollen Umgang mit Künstlicher Intelligenz fördern und das Vertrauen in KI-Systeme stärken sollen. Die Initiative knüpft dabei an bestehende Arbeiten der Linux Foundation und der OpenSSF-Community an.

Hugging-Face-Vorfall als Weckruf

Nach Angaben der beteiligten Unternehmen stehen Sicherheitsverantwortliche zunehmend vor der Frage, ob digitale Abwehrsysteme künftig auf wenigen geschlossenen Plattformen beruhen oder auf offenen Modellen und Werkzeugen basieren sollen, die von Fachleuten überprüft und angepasst werden können. Die Allianz argumentiert, dass offene Modelle und Harnesses Verteidigungsfähigkeiten demokratisieren und mehr Transparenz für Sicherheitsteams schaffen. Gleichzeitig räumen die Initiatoren ein, dass auch offene Systeme missbraucht werden können, etwa um Schutzmechanismen zu umgehen.

Als Beleg für die praktische Relevanz offener Systeme verweist die Mitteilung auf einen Sicherheitsvorfall bei Hugging Face. Als geschlossene KI-Tools dort keine forensische Analyse zwischen Angreifern und Verteidigern ermöglichten, setzte das Unternehmen das offene Modell GLM 5.2 auf eigener Infrastruktur ein, um mehr als 17.000 Aktionen auszuwerten und den Angriff einzudämmen. Dieser Fall zeige, dass Verteidiger eingeschränkt handeln können, wenn sie fortschrittliche KI nicht selbst einsehen und betreiben dürfen.

Über 30 Unternehmen als Gründungsmitglieder

Der Allianz gehören als Gründungsmitglieder unter anderem Adobe, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Hugging Face, IBM, Microsoft, Palo Alto Networks, Red Hat, SAP, ServiceNow und die Linux Foundation an, ergänzt um weitere Firmen aus den Bereichen Cloud, Cybersicherheit, Unternehmenssoftware und KI-Forschung. Die beteiligten Unternehmen betonen, dass es nicht darum gehe, Verteidigern den Zugang zu leistungsfähigen offenen Systemen zu verwehren, sondern Offenheit mit klaren Regeln gegen Missbrauch sowie mit Evaluierung und schneller Fehlerbehebung zu verbinden.

Konkret bringt NVIDIA im Rahmen der Allianz offene Modelle, Modellgewichte, Daten und neue Forschung zu Agenten-Harnessen ein. Dazu zählt das neue Open-Source-Projekt NOOA (NVIDIA Labs Object-Oriented Agent), das ab sofort auf GitHub verfügbar ist und Sicherheitsfunktionen für Agenten-Harnesses zugänglicher machen soll, indem es das Testen, Nachverfolgen und Überprüfen von Agentenverhalten erleichtert.

HPE, Hugging Face, IBM und SpaceXAI liefern eigene Werkzeuge

Auch andere Mitglieder steuern eigene Technologien zur Allianz bei. HPE bringt das Zero-Trust-Identitätsframework SPIFFE/SPIRE ein, das KI-Agenten und Dienste kryptografisch verifizieren soll. Hugging Face hat das Dateiformat Safetensors, das Modellgewichte ohne Risiko von Remote-Code-Ausführung speichert, an die PyTorch Foundation übergeben.

IBM und Red Hats Lightwell-Projekt sollen die Sicherheit der Open-Source-Lieferkette durch digital signierte Patches erhöhen, während Microsofts Scansystem MDASH mehrere spezialisierte KI-Agenten koordiniert, um ausnutzbare Softwarefehler aufzuspüren und nachzuweisen. SpaceXAI hat zudem den KI-Coding-Agenten Grok Build als Open Source veröffentlicht und plant, künftig auch die Gewichte der Grok-Modellreihe offenzulegen.

Die Allianz richtet sich mit ihrer Mitteilung zugleich an Politik und Regulierungsbehörden und fordert, offene Modelle, Harnesses und Sicherheitswerkzeuge als Verteidigungsressource statt als Risiko zu betrachten. Pauschale Beschränkungen offener KI-Systeme würden nach Einschätzung der Initiatoren die Verteidigungsfähigkeit schwächen und Abhängigkeiten von wenigen geschlossenen Anbietern verstärken.