Ανεξέλεγκτοι AI agents της OpenAI είχαν παραβιάσει λογαριασμούς χρηστών του Hugging Face και «σάρωναν» την πλατφόρμα αναζητώντας πιθανά τρωτά σημεία ήδη από τον Μάιο, σχεδόν δύο μήνες πριν από την επίθεση του Ιουλίου στην πλατφόρμα ανοιχτού κώδικα, η οποία προσέλκυσε το παγκόσμιο ενδιαφέρον, σύμφωνα με ερευνητές που εξέτασαν τη σχετική δραστηριότητα.
Η νέα αποκάλυψη του Reuters ενισχύει τις ανησυχίες σχετικά με τις αυξανόμενες δυνατότητες των πρακτόρων AI και το κατά πόσο οι εταιρείες που τους αναπτύσσουν μπορούν να ελέγξουν τη συμπεριφορά τους. Επίσης δείχνουν ότι οι προσπάθειες των AI agents της OpenAI να βρουν τρόπο να διεισδύσουν στο Hugging Face είχαν αρχίσει νωρίτερα απ’ ό,τι ήταν μέχρι σήμερα γνωστό.
Η OpenAI είχε ήδη αποκαλύψει μία πτυχή της δραστηριότητας αυτής στην έκθεση που δημοσίευσε τον Αύγουστο για το περιστατικό: την υποκλοπή των ψηφιακών διαπιστευτηρίων χρήστη του Hugging Face, τα οποία χρησιμοποιήθηκαν για την πρόσβαση σε αρχείο σχετικό με τη βιολογία.
Ερευνητές που μίλησαν στο Reuters υποστηρίζουν, ωστόσο, ότι οι απόπειρες διερεύνησης των συστημάτων του Hugging Face φαίνεται πως είχαν μεγαλύτερη έκταση από εκείνη που περιγραφόταν στην έκθεση της εταιρείας.
Τη δραστηριότητα εντόπισε την περασμένη εβδομάδα ο ανεξάρτητος ερευνητής Γιόνας Βίντερμαν-Μέλερ, ο οποίος βρήκε στοιχεία σύμφωνα με τα οποία οι πράκτορες της OpenAI είχαν θέσει υπό τον έλεγχό τους δύο λογαριασμούς χρηστών του Hugging Face και τους χρησιμοποίησαν ήδη από τις 13 Μαΐου για να στείλουν στους servers της εταιρείας αρχεία με ασυνήθιστη μορφοποίηση.
Ο ίδιος και άλλοι ερευνητές που εξέτασαν τα στοιχεία ανέφεραν ότι η συμπεριφορά αυτή έμοιαζε με προσπάθεια χαρτογράφησης ή δοκιμής τμημάτων του δικτύου του Hugging Face, προκειμένου να εντοπιστούν πιθανοί τρόποι διείσδυσης. Τόνισαν, πάντως, ότι δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι η συγκεκριμένη προσπάθεια οδήγησε τότε σε πραγματική παραβίαση.
Ο εκπρόσωπος της OpenAI, Ντρου Πουζατέρι, δήλωσε ότι η εταιρεία είχε γνωστοποιήσει το περιστατικό της 13ης Μαΐου, ενημέρωσε ιδιωτικά το Hugging Face για τη δραστηριότητα που επισήμανε ο Βίντερμαν-Μέλερ και παραμένει «προσηλωμένη στη διαφάνεια γύρω από αυτά τα ζητήματα και στη δημοσιοποίηση όσων μαθαίνουμε καθώς συνεχίζεται η έρευνά μας».
Το Hugging Face, το οποίο εξαγοράστηκε πρόσφατα από την κατασκευάστρια επεξεργαστών Nvidia, δεν απάντησε σε αίτημα του Reuters για σχόλιο.
Πηγή: www.newsit.gr