Η Nvidia παρουσίασε μια πλατφόρμα ασφαλείας για τον έλεγχο των πρακτόρων τεχνητής νοημοσύνης
Η Nvidia παρουσίασε μια νέα πλατφόρμα ασφαλείας με στόχο την εξασφάλιση των εξελίξεων στον τομέα της τεχνητής νοημοσύνης (ΤΝ). Η εταιρεία δήλωσε ότι αυτή η πλατφόρμα θα μπορούσε να αποτρέψει τους πράκτορες ΤΝ από το να βγουν εκτός ελέγχου. Την ίδια ημέρα, η Nvidia ανακοίνωσε επίσης ένα πρόγραμμα επαναγοράς μετοχών ύψους 150 δισεκατομμυρίων δολαρίων, επιτυγχάνοντας έτσι την μεγαλύτερη επαναγορά μετοχών στην ιστορία των αμερικανικών εταιρειών.
Το σύστημα της Nvidia, που ονομάζεται "Open Agent Safety Platform", περιλαμβάνει λογισμικό ανοιχτού κώδικα που περιορίζει τις κινήσεις των πρακτόρων ΤΝ. Η εταιρεία ισχυρίζεται ότι αυτή η πλατφόρμα θα μπορούσε να αποτρέψει ορισμένα από τα αρνητικά περιστατικά που έχουν συμβεί πρόσφατα. Τονίστηκε ότι ένα περιστατικό όπου οι πράκτορες ΤΝ της OpenAI διείσδυσαν σε εταιρείες όπως η Hugging Face θα μπορούσε να είχε αποτραπεί χρησιμοποιώντας αυτό το νέο σύστημα ασφαλείας. Ο Τζάστιν Μποϊτάνο, αντιπρόεδρος της Nvidia υπεύθυνος για την εταιρική ΤΝ, δήλωσε: "Εάν αυτό το σύστημα είχε χρησιμοποιηθεί νωρίτερα, θα μπορούσε να είχε σταματήσει μια τέτοια παραβίαση."
Το διοικητικό συμβούλιο της Nvidia αύξησε το πρόγραμμα επαναγοράς μετοχών κατά 150 δισεκατομμύρια δολάρια, φτάνοντας συνολικά τα 235 δισεκατομμύρια δολάρια. Αυτό ξεπέρασε το ρεκόρ της Apple για επαναγορές μετοχών ύψους 110 δισεκατομμυρίων δολαρίων το 2024. Ο διευθύνων σύμβουλος Τζένσεν Χουάνγκ σημείωσε ότι η ροή μετρητών της εταιρείας ενισχύει την ικανότητά της να επενδύει σε τεχνολογίες και να παρέχει αποδόσεις στους μετόχους. Επιπλέον, οι προβλέψεις της Nvidia για μελλοντική ανάπτυξη έχουν καθησυχάσει τους επενδυτές· αναμένεται αύξηση εσόδων 70% για το οικονομικό έτος 2028.
Η νέα πλατφόρμα ασφαλείας της Nvidia επιτρέπει στους προγραμματιστές να επαληθεύουν τις άδειες των πρακτόρων ΤΝ, ενώ περιλαμβάνει επίσης ένα ξεχωριστό επίπεδο ασφαλείας που ονομάζεται Sentry. Αυτό το επίπεδο παρακολουθεί συνεχώς τις δραστηριότητες των πρακτόρων ΤΝ και μπορεί να παρέμβει άμεσα όταν ανιχνεύει οποιαδήποτε ανωμαλία. Ο Μποϊτάνο δήλωσε: "Αυτό το σύστημα μπορεί να απομονώσει έναν ύποπτο πράκτορα μέσα σε χιλιοστά του δευτερολέπτου." Αυτή τη στιγμή αναφέρεται ότι περισσότερες από 100 οργανώσεις, συμπεριλαμβανομένων των Microsoft, Accenture και JPMorgan Chase, χρησιμοποιούν αυτή την πλατφόρμα.
Οι συζητήσεις σχετικά με την ασφάλεια της ΤΝ έχουν οδηγήσει σε βαθιές διαιρέσεις στον κλάδο. Ορισμένοι διευθυντές εταιρειών προτείνουν έναν συντονισμένο επιβραδυντικό ρυθμό στην ανάπτυξη της ΤΝ, ενώ προσωπικότητες όπως ο Χουάνγκ υποστηρίζουν ότι η ασφάλεια θα πρέπει να είναι ευθύνη των μεμονωμένων εταιρειών. Ο Χουάνγκ χαρακτήρισε την ασφάλεια της ΤΝ ως ένα μηχανικό πρόβλημα, δηλώνοντας ότι οι προγραμματιστές λογισμικού πρέπει να ασχοληθούν με αυτό το ζήτημα.
