Nvidia پلتفرم امنیتی برای کنترل عوامل هوش مصنوعی معرفی کرد

Nvidia یک پلتفرم امنیتی جدید را با هدف تأمین امنیت پیشرفت‌ها در زمینه هوش مصنوعی (AI) معرفی کرد. این شرکت اعلام کرد که این پلتفرم می‌تواند از خارج شدن عوامل AI از کنترل جلوگیری کند. در همان روز، Nvidia همچنین برنامه خرید سهام به ارزش ۱۵۰ میلیارد دلار را اعلام کرد و بدین ترتیب بزرگ‌ترین خرید سهام در تاریخ شرکت‌های آمریکایی را انجام داد.

سیستم Nvidia که "Open Agent Safety Platform" نامیده می‌شود، شامل نرم‌افزارهای متن‌باز است که حرکات عوامل AI را محدود می‌کند. این شرکت ادعا می‌کند که این پلتفرم می‌تواند از برخی حوادث منفی که اخیراً رخ داده‌اند جلوگیری کند. تأکید شد که یک حادثه که در آن عوامل AI OpenAI به شرکت‌هایی مانند Hugging Face نفوذ کردند، می‌توانست با استفاده از این سیستم امنیتی جدید جلوگیری شود. جاستین بویتانو، معاون رئیس Nvidia مسئول AI شرکتی، گفت: "اگر این سیستم قبلاً استفاده شده بود، می‌توانست از چنین نقضی جلوگیری کند."

هیئت مدیره Nvidia برنامه خرید سهام را با افزایش ۱۵۰ میلیارد دلار به مجموع ۲۳۵ میلیارد دلار افزایش داد. این امر رکورد خرید سهام ۱۱۰ میلیارد دلاری اپل در سال ۲۰۲۴ را پشت سر گذاشت. مدیرعامل جنسن هوانگ گفت که جریان نقدی شرکت، ظرفیت آن را برای سرمایه‌گذاری در فناوری‌ها و ارائه بازده به سهامداران افزایش می‌دهد. علاوه بر این، پیش‌بینی‌های Nvidia برای رشد آینده نیز سرمایه‌گذاران را آرام کرده است؛ پیش‌بینی می‌شود که درآمد در سال مالی ۲۰۲۸ به میزان ۷۰ درصد افزایش یابد.

پلتفرم امنیتی جدید Nvidia به توسعه‌دهندگان این امکان را می‌دهد که مجوزهای عوامل AI را تأیید کنند و همچنین شامل یک لایه امنیتی جداگانه به نام Sentry است. این لایه به‌طور مداوم فعالیت‌های عوامل AI را زیر نظر دارد و می‌تواند به‌محض شناسایی هرگونه ناهنجاری به‌طور فوری مداخله کند. بویتانو گفت: "این سیستم می‌تواند یک عامل مشکوک را در عرض میلی‌ثانیه قرنطینه کند." در حال حاضر گزارش شده است که بیش از ۱۰۰ سازمان، از جمله Microsoft، Accenture و JPMorgan Chase از این پلتفرم استفاده می‌کنند.

بحث‌ها در مورد امنیت AI منجر به تقسیمات عمیق در صنعت شده است. برخی از مدیران شرکت‌ها پیشنهاد می‌کنند که یک کندی هماهنگ در توسعه AI وجود داشته باشد، در حالی که شخصیت‌هایی مانند هوانگ استدلال می‌کنند که امنیت باید مسئولیت شرکت‌های فردی باشد. هوانگ امنیت AI را به‌عنوان یک مشکل مهندسی تعریف کرد و گفت که توسعه‌دهندگان نرم‌افزار باید به این موضوع رسیدگی کنند.