Nvidia stellte eine Sicherheitsplattform zur Kontrolle von Künstlichen Intelligenz-Agenten vor
Nvidia stellte eine neue Sicherheitsplattform vor, die darauf abzielt, Entwicklungen im Bereich der Künstlichen Intelligenz (KI) abzusichern. Das Unternehmen erklärte, dass diese Plattform verhindern könnte, dass KI-Agenten außer Kontrolle geraten. Am selben Tag kündigte Nvidia auch ein Aktienrückkaufprogramm im Wert von 150 Milliarden Dollar an und erreichte damit den größten Aktienrückkauf in der Geschichte amerikanischer Unternehmen.
Das System von Nvidia, das als "Open Agent Safety Platform" bezeichnet wird, enthält Open-Source-Software, die die Bewegungen von KI-Agenten einschränkt. Das Unternehmen behauptet, dass diese Plattform einige der in letzter Zeit aufgetretenen negativen Vorfälle verhindern könnte. Es wurde betont, dass ein Vorfall, bei dem KI-Agenten von OpenAI in Unternehmen wie Hugging Face eindrangen, mit diesem neuen Sicherheitssystem hätte verhindert werden können. Justin Boitano, Vizepräsident von Nvidia, der für die Unternehmens-KI verantwortlich ist, sagte: "Wenn dieses System im Voraus verwendet worden wäre, hätte es eine solche Verletzung stoppen können."
Der Vorstand von Nvidia erhöhte das Aktienrückkaufprogramm um 150 Milliarden Dollar und brachte die Gesamtsumme auf 235 Milliarden Dollar. Dies übertraf den Rekord von Apple für Aktienrückkäufe in Höhe von 110 Milliarden Dollar im Jahr 2024. CEO Jensen Huang stellte fest, dass der Cashflow des Unternehmens seine Fähigkeit erhöht, in Technologien zu investieren und den Aktionären Renditen zu bieten. Darüber hinaus haben die Zukunftsprognosen von Nvidia die Investoren beruhigt; für das Geschäftsjahr 2028 wird ein Umsatzwachstum von 70 % prognostiziert.
Die neue Sicherheitsplattform von Nvidia ermöglicht es Entwicklern, die Berechtigungen von KI-Agenten zu überprüfen und umfasst gleichzeitig eine separate Sicherheitsebene namens Sentry. Diese Ebene überwacht kontinuierlich die Aktivitäten von KI-Agenten und kann sofort eingreifen, wenn sie Anomalien erkennt. Boitano erklärte: "Dieses System kann einen verdächtigen Agenten innerhalb von Millisekunden isolieren." Derzeit wird berichtet, dass über 100 Organisationen, darunter Microsoft, Accenture und JPMorgan Chase, diese Plattform nutzen.
Die Diskussionen über die Sicherheit von KI haben zu tiefen Spaltungen in der Branche geführt. Einige Unternehmensleiter schlagen eine koordinierte Verlangsamung der KI-Entwicklung vor, während Persönlichkeiten wie Huang argumentieren, dass die Sicherheit in der Verantwortung einzelner Unternehmen liegen sollte. Huang definierte die Sicherheit von KI als ein ingenieurtechnisches Problem und erklärte, dass Softwareentwickler sich mit diesem Thema befassen müssen.
