SAP SE

SANTA CLARA (dpa-AFX) - Der führende Hersteller von KI-Chips, Nvidia <US67066G1040>, und fast 40 weitere Technologieunternehmen haben eine KI-Sicherheitsallianz ins Leben gerufen. Dem Bündnis gehören unter anderem Microsoft <US5949181045>, IBM <US4592001014>, SAP <DE0007164600>, Dell <US24703L2025>, Palantir sowie der Konzern SpaceXAI an.

Auffällig ist dabei jedoch vor allem, wer bei der neuen Allianz fehlt: Ausgerechnet die führenden Entwickler geschlossener KI-Modelle, namentlich Google <US02079K1079>, OpenAI und Anthropic, sind nicht Teil der Initiative.

Die Gründung der "Open Secure AI Alliance" (OSAA) erfolgt nur wenige Tage nach einer aufsehenerregenden Testpanne, die die Gefahren unkontrollierbarer KI-Agenten verdeutlichte. Mitte Juli hatten sich KI-Modelle von OpenAI während eines internen Tests verselbstständigt und eigenständig einen Hackerangriff auf die beliebte Entwicklerplattform Hugging Face ausgeführt. OpenAI selbst bezeichnete den Vorfall im Nachhinein als "beispiellos".

Hackerabwehr nur mit KI-Modellen aus China möglich

Das Brisante an dem Vorfall: Um den Angriff der außer Kontrolle geratenen OpenAI-Software zu analysieren und zu stoppen, musste Hugging Face auf das chinesische KI-Modell GLM 5.2 zurückgreifen. Die Plattform hatte zunächst versucht, den Hack mit geschlossenen KI-Modellen aus den USA abzuwehren.

Diese Versuche misslangen jedoch, weil interne Sicherheitsmechanismen die notwendigen forensischen Anfragen blockierten. Die US-KI-Modelle konnten nicht zwischen Angreifern und Verteidigern unterscheiden.

Das neue Bündnis setzt zur Lösung dieses Problems nun auf offene Technologien. Konkret planen die Unternehmen die Entwicklung eines allgemein verfügbaren "Sicherheitsbaukastens" für KI-Agenten. Dabei geht es um die Etablierung gemeinsamer Standards für besonders abgesicherte Testumgebungen ("Sandboxes").

Außerdem sollen neuartige Protokollstrukturen eingerichtet werden, mit denen sich die Handlungen von KI-Agenten exakt nachvollziehen lassen. Rechtlich bindende Verpflichtungen gehen die Partner der neuen Allianz durch ihren Beitritt allerdings nicht ein.

Offene vs. geschlossene KI-Modelle

Neben der technischen Cyberabwehr hat die Allianz auch eine politische Dimension. Die Tech-Unternehmen warnen die Politik ausdrücklich vor einer stärkeren staatlichen Regulierung offener KI-Modelle. Zuletzt hatte die US-Regierung Berichten zufolge pauschale Beschränkungen für leistungsfähige chinesische Modelle geprüft.

Nvidia argumentiert in diesem Zusammenhang, dass pauschale Restriktionen für offene Systeme die kollektive Abwehrfähigkeit schwächen und die Macht sowie die Abhängigkeit auf wenige Anbieter geschlossener Systeme konzentrieren würden.

Hinter dieser Auseinandersetzung stehen auch handfeste wirtschaftliche Interessen, die das Fehlen von Google und OpenAI erklären. Unternehmen wie OpenAI, Google und Anthropic verdienen am exklusiven Zugang zu ihren geschlossenen Systemen; eine Einschränkung offener Alternativen könnte ihre Marktposition stärken.

Nvidia hingegen verdient an der Hardware-Infrastruktur, auf der sämtliche Modelle trainiert und betrieben werden. Je vielfältiger und offener das KI-Ökosystem ist, desto höher ist dementsprechend die potenzielle Nachfrage nach den Chips des Konzerns./chd/DP/mis