Nvidia представила платформу безопасности для контроля искусственных интеллект-агентов
Nvidia представила новую платформу безопасности, направленную на обеспечение безопасности разработок в области искусственного интеллекта (ИИ). Компания заявила, что эта платформа может предотвратить выход ИИ-агентов из-под контроля. В тот же день Nvidia также объявила о программе выкупа акций на сумму 150 миллиардов долларов, тем самым достигнув крупнейшего выкупа акций в истории американских компаний.
Система Nvidia, называемая "Open Agent Safety Platform", включает в себя программное обеспечение с открытым исходным кодом, которое ограничивает движения ИИ-агентов. Компания утверждает, что эта платформа может предотвратить некоторые негативные инциденты, произошедшие в последнее время. Подчеркнуто, что инцидент, когда ИИ-агенты OpenAI проникли в такие компании, как Hugging Face, мог быть предотвращен с помощью этой новой системы безопасности. Джастин Боитано, вице-президент Nvidia, ответственный за корпоративный ИИ, заявил: "Если бы эта система использовалась заранее, она могла бы остановить такое нарушение."
Совет директоров Nvidia увеличил программу выкупа акций на 150 миллиардов долларов, доведя общую сумму до 235 миллиардов долларов. Это превысило рекорд Apple по выкупу акций в 2024 году в размере 110 миллиардов долларов. Генеральный директор Дженсен Хуанг отметил, что денежный поток компании увеличивает ее способность инвестировать в технологии и предоставлять доходы акционерам. Кроме того, прогнозы Nvidia по будущему росту успокоили инвесторов; ожидается увеличение доходов на 70% в финансовом году 2028.
Новая платформа безопасности Nvidia позволяет разработчикам проверять разрешения ИИ-агентов, а также включает отдельный уровень безопасности под названием Sentry. Этот уровень постоянно отслеживает действия ИИ-агентов и может немедленно вмешаться, когда обнаруживает какие-либо аномалии. Боитано заявил: "Эта система может изолировать подозрительного агента за миллисекунды." В настоящее время сообщается, что более 100 организаций, включая Microsoft, Accenture и JPMorgan Chase, используют эту платформу.
Дискуссии о безопасности ИИ привели к глубоким разделениям в отрасли. Некоторые руководители компаний предлагают координированное замедление развития ИИ, в то время как такие фигуры, как Хуанг, утверждают, что безопасность должна быть ответственностью отдельных компаний. Хуанг определил безопасность ИИ как инженерную проблему, заявив, что разработчики программного обеспечения должны заниматься этой проблемой.
