Open Secure AI Alliance: Nvidia, Microsoft, Adobe und mehr wollen für mehr KI-Sicherheit sorgen

Nvidia hat bekannt gegeben, dass man mit zahlreichen anderen Unternehmen die sogenannte Open Secure AI Alliance gegründet hat. Zu den weiteren Mitgliedern zählen beispielsweise auch noch Adobe, Microsoft oder auch SpaceX. Es sind aber neben weiteren Vertretern wie Red Hat, SAP oder IBM auch durchaus umstrittene Anbieter wie Palantir mit an Bord.

Worum soll es gehen? Laut Nvidia werde die Open Secure AI Alliance gemeinsam Tools entwickeln und offen teilen, welche die verantwortliche Verwendung von künstlicher Intelligenz fördern. Offenbar will man dabei einen Open-Source-Ansatz verfolgen. Das passt dazu, dass etwa auch Hugging Face, die Linux Foundation und OpenClaw mitmischen.

In einem Blog-Post bekräftigt Nvidia, dass gerade im Bereich der Sicherheit offene Ansätze für die gesamte Branche wichtig seien. Die Open Secure AI Alliance solle daher sicherstellen, dass Organisationen weltweit offene KI-Tools nutzen können, um ihre Sicherheit zu gewährleisten. Gerade für die Verteidigung gegen Cyberattacken benötige man möglichst fortgeschrittene KI-Technologie, weil auch die Angreifer immer stärker aufrüsten.

Nvidia stellt deswegen z. B. auch schon via GitHub sein quelloffenes Projekt Nvidia Labs Object-Oriented Agent (NOOA) zur Verfügung. Doch auch die anderen Firmen leisten ihren Beitrag. SpaceXAI etwa hat seinen Terminal-basierten Coding-Agenten, der auf Grok basiert, quelloffen zur Verfügung gestellt.

Wer nun denkt, die Unternehmen würden nur aus Altruismus so eine Initiative starten: Natürlich stecken eher handfeste, wirtschaftliche Absichten dahinter. So geht es auch darum, der Politik den Eindruck zu vermitteln, dass man sich schon selbst in der Branche reguliere und kein Handlungsbedarf bestehe. Passend dazu mahnt Nvidia nämlich, dass etwa offene Modelle für die Sicherheit von Regulierungsbehörden als Chance und nicht als Risiko gesehen werden sollten.

Zudem fordert man, keine umfassenden Beschränkungen für KI-Systeme festzulegen und neue Modelle möglichst breit zuzulassen, damit sich ihre Fähigkeiten nicht auf wenige, mächtige Konzerne beschränken müssten, sondern allen zugutekämen. Auch rät man Unternehmen und Regierungen, in offene KI-Verteidigungslinien zu investieren. So könne das Zeitalter der KI-Agenten sogar noch sicherer werden als zuvor,

Am Ende erklärt Nvidia, dass nicht Geheimniskrämerei für Sicherheit sorgen werde, sondern der Bau starker, offener Systeme. Dafür soll dann die Open Secure AI Alliance stehen und mit Regierungen und Unternehmen direkt zusammenarbeiten. Was wenig überrascht: Anbieter geschlossener KI-Modelle wie OpenAI, Meta oder Google sind nicht dabei.

Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision – ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.