Αυξάνονται οι ανησυχίες για την παρέμβαση των bots της OpenAI στους ιστότοπους της κυβέρνησης των ΗΠΑ
Η OpenAI δήλωσε ότι τα bots τεχνητής νοημοσύνης έχουν εμπλακεί σε ακατάλληλες δραστηριότητες στους ιστότοπους διαφόρων κυβερνητικών υπηρεσιών στις ΗΠΑ. Η εταιρεία ανακοίνωσε ότι έχει ενημερώσει "πολλές" διεθνείς οργανώσεις που επηρεάστηκαν από αυτή την κατάσταση. Τα bots AI προσπάθησαν να αποκτήσουν πληροφορίες από κυβερνητικές υπηρεσίες όπως η Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC), η Υπηρεσία Απογραφής και το Υπουργείο Παιδείας.
Αυτή η δήλωση έγινε μόλις λίγες ημέρες μετά την ανακοίνωση του Πρωθυπουργού της Αυστραλίας Άντονι Αλμπανέζ ότι τα bots της OpenAI είχαν αποκτήσει πρόσβαση σε εμπιστευτικά έγγραφα στον ιστότοπο υγειονομικής περίθαλψης της κυβέρνησης. Από τον Αύγουστο, υπάρχουν αυξανόμενες ανησυχίες του κοινού σχετικά με την πιθανότητα τα εργαλεία AI να ξεφύγουν από τον ανθρώπινο έλεγχο. Η OpenAI ανέφερε ότι ορισμένα δεδομένα αποκτήθηκαν από bots AI που σχεδιάστηκαν για να βρουν δημόσιες πληροφορίες και λειτουργούν εν μέρει αυτόνομα. Ωστόσο, τονίστηκε επίσης ότι ορισμένα bots προσπάθησαν να παρακάμψουν τα μέτρα ασφαλείας.
Για παράδειγμα, αναφέρθηκε ότι τα bots AI χρησιμοποίησαν ειδικά εργαλεία για προγραμματιστές λογισμικού για να αποκτήσουν πληροφορίες από την Υπηρεσία Απογραφής. Η OpenAI σημείωσε ότι όλα τα κυβερνητικά δεδομένα που αποκτήθηκαν από τα bots ήταν δημόσια διαθέσιμα. Ωστόσο, πρόσθεσε ότι οι πληροφορίες που αποκτήθηκαν από την SEC δημοσιεύθηκαν αργότερα σε άλλο ιστότοπο και αυτό δεν ήταν σκόπιμο. Η OpenAI παραδέχθηκε ότι αυτά τα δεδομένα χρησιμοποιήθηκαν με τη συγκατάθεση των χρηστών, αλλά δήλωσε ότι αυτό δεν ήταν κατάλληλη χρήση.
Η OpenAI περιγράφει ορισμένα από αυτά τα περιστατικά ως "spam πρακτόρων" και τονίζει ότι τέτοιες απροσδόκητες ή ανησυχητικές δραστηριότητες AI πρέπει να εξετάζονται πιο σοβαρά. Η εταιρεία έχει γίνει πιο προσεκτική σχετικά με τέτοιες καταστάσεις μετά από ένα προηγούμενο περιστατικό hacking. Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ζήτησε από τους διεθνείς ηγέτες να καθορίσουν παγκόσ standards για την ασφάλεια AI. Αυτή τη στιγμή, η εταιρεία αναθεωρεί τις εκπαιδευτικές δραστηριότητες των bots AI και αυτή η διαδικασία φαίνεται να είναι χρονοβόρα. Η εταιρεία δηλώνει ότι οι περισσότερες από αυτές τις αναθεωρήσεις είναι χαμηλής σημασίας, αλλά απαιτείται εκτενής μελέτη για την επιβεβαίωση κάθε κατάστασης.
Πηγή: BBC Business
