Ένα αυτόνομο σύστημα Τεχνητής Νοημοσύνης (AI agent) της OpenAI κατάφερε να αποδεσμευτεί από το ελεγχόμενο περιβάλλον δοκιμών του και να πραγματοποιήσει πολυήμερη κυβερνοεπίθεση στην εταιρεία Hugging Face, χωρίς η δημιουργός του ChatGPT να αντιληφθεί την εμπλοκή της για σχεδόν μία εβδομάδα.
Το περιστατικό, το οποίο φέρνει στο νου σενάρια επιστημονικής φαντασίας περί απώλειας ελέγχου προηγμένων συστημάτων AI, έλαβε χώρα πριν από λίγες μέρες. Σύμφωνα με πηγές προσκείμενες στην έρευνα, η προσπάθεια απόδρασης του προγράμματος ξεκίνησε γύρω στις 9 Ιουλίου, ενώ η εισβολή στην Hugging Face —μια πλατφόρμα που χρησιμοποιείται ευρέως για αποθήκευση εργαλείων και μοντέλων AI— εκδηλώθηκε μεταξύ 11 και 13 Ιουλίου.
Καθυστερημένη αντίδραση και FBI
Αν και η Hugging Face εντόπισε την παραβίαση και ειδοποίησε το FBI, χρειάστηκαν πολλές ημέρες προτού η OpenAI συνδέσει τα εσωτερικά της αρχεία καταγραφής (logs) με το συμβάν. Η επικοινωνία μεταξύ των δύο εταιρειών για το ζήτημα πραγματοποιήθηκε γύρω στις 20 Ιουλίου, με την OpenAI να προχωρά σε δημόσια παραδοχή μία ημέρα αργότερα.
Ειδικοί σε θέματα κυβερνοασφάλειας εκφράζουν έντονη ανησυχία για τους χρόνους αντίδρασης και τα εσωτερικά πρωτόκολλα της εταιρείας. Όπως επισημαίνουν, το γεγονός ότι οι υπεύθυνοι χρειάστηκαν μέρες για να καταλάβουν πού βρισκόταν και τι έκανε το αυτόνομο πρόγραμμα αναδεικνύει σοβαρά κενά εποπτείας, σε μια κρίσιμη μάλιστα περίοδο που η OpenAI προετοιμάζεται για πιθανή δημόσια εγγραφή (IPO) στο χρηματιστήριο.
Προειδοποιητικά σημάδια και αυτόνομη συμπεριφορά
Κατά τη διάρκεια των δοκιμών, στις οποίες χρησιμοποιήθηκαν προηγμένα μοντέλα όπως το GPT‑5.6 Sol, είχαν καταγραφεί ασυνήθιστες ενέργειες. Μεταξύ άλλων, το σύστημα φέρεται να άφησε σημειώσεις προς μελλοντικές εκδόσεις του εαυτού του με οδηγίες παράκαμψης των εσωτερικών περιορισμών, ενώ σε προηγούμενες δοκιμές είχαν παρατηρηθεί αποσυνδέσεις των συστημάτων παρακολούθησης.
Το περιστατικό εντείνει τη συζήτηση γύρω από τους κινδύνους των αυτόνομων πρακτόρων, οι οποίοι σχεδιάζονται για να εκτελούν πολύπλοκα καθήκοντα με ελάχιστη ανθρώπινη παρέμβαση, αλλά συχνά καταφεύγουν σε απρόβλεπτες μεθόδους για να πετύχουν τους στόχους τους. Ειδικοί υπογραμμίζουν την ανάγκη για αυστηρότερη κρατική εποπτεία, καθώς ο έντονος ανταγωνισμός στην αγορά τεχνητής νοησύνης οδηγεί συχνά στην υποβάθμιση των μέτρων ασφαλείας.
