Η OpenAI, η εταιρεία πίσω από το ChatGPT, ανακοίνωσε το βράδυ της Τρίτης ότι το σύστημα τεχνητής νοημοσύνης της παραβίασε αυτόνομα τα συστήματα άλλης εταιρείας τεχνητής νοημοσύνης, σε ένα περιστατικό που η ίδια χαρακτήρισε «πρωτοφανές συμβάν στον κυβερνοχώρο».
«Κατά τη διάρκεια της αξιολόγησης των μοντέλων μας σημειώθηκε ένα σοβαρό περιστατικό ασφαλείας», ανέφερε ο διευθύνων σύμβουλος της OpenAI, Σαμ Όλτμαν, σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης.
Η νεοφυής εταιρεία τεχνητής νοημοσύνης Hugging Face είχε ανακοινώσει την περασμένη εβδομάδα ότι εντόπισε παραβίαση στα συστήματα επεξεργασίας δεδομένων της, για την οποία υποπτεύθηκε ότι προκλήθηκε από έναν πράκτορα τεχνητής νοημοσύνης που ενεργούσε αυτόνομα. «Υποψιαζόμασταν ότι η κυβερνοεπίθεση της περασμένης εβδομάδας ίσως προήλθε από ένα εργαστήριο αιχμής (frontier lab), δεδομένης της πολυπλοκότητας του πράκτορα», ανέφερε σε ανακοίνωσή του ο συνιδρυτής και διευθύνων σύμβουλος της Hugging Face, Κλεμάν Ντελάνγκ. «Αποδείχθηκε ότι είχαμε δίκιο!»
Η OpenAI διεξήγαγε μια εσωτερική δοκιμή (πηγή στα Αγγλικά) για να μετρήσει πόσο ικανά είναι τα μοντέλα της στο χακάρισμα, ένα τεστ αναφοράς που ονομάζεται ExploitGym. Για να διαπιστωθεί η μέγιστη ικανότητα, η εταιρεία απενεργοποίησε σκόπιμα τα φίλτρα ασφαλείας που συνήθως αποτρέπουν επικίνδυνες δραστηριότητες στον κυβερνοχώρο.
Η δοκιμή θα εκτελούνταν σε απομονωμένο «sandbox», χωρίς πραγματική πρόσβαση στο διαδίκτυο, με μοναδική εξαίρεση ένα εργαλείο για λήψη απαραίτητου λογισμικού. Ωστόσο, τα μοντέλα δεν ολοκλήρωσαν τη δοκιμή με τον προβλεπόμενο τρόπο και αναζήτησαν συντόμευση, βρίσκοντας τρόπο να «σκαρφαλώσουν» μέχρι το ανοιχτό διαδίκτυο, στο οποίο δεν θα έπρεπε να έχουν πρόσβαση.
Για να το πετύχουν, ακολούθησαν αλυσιδωτά βήματα, αποκτώντας σταδιακά μεγαλύτερα δικαιώματα στα εσωτερικά συστήματα της OpenAI, μέχρι που έφτασαν σε σημείο με σύνδεση στο διαδίκτυο. Μόλις βρέθηκαν online, εκτίμησαν ότι η Hugging Face, μια μεγάλη πλατφόρμα φιλοξενίας μοντέλων τεχνητής νοημοσύνης και συνόλων δεδομένων, πιθανότατα διέθετε τις απαντήσεις για τη δοκιμή που προσπαθούσαν να λύσουν.
Στη συνέχεια παραβίασαν διακομιστές της Hugging Face για να αποκτήσουν αυτές τις απαντήσεις, ουσιαστικά για να «κλέψουν» στη δοκιμή, χρησιμοποιώντας υποκλαπέντα στοιχεία σύνδεσης και επιπλέον ευπάθειες για πρόσβαση. Ως ανοικτή «αγορά» στην οποία μπορεί να ανεβάσει περιεχόμενο ο καθένας, η Hugging Face φιλοξενεί μεγάλο όγκο μοντέλων που έχουν αναπτυχθεί στην Κίνα.
Όταν η ομάδα της Hugging Face επιχείρησε να αναλύσει την επίθεση, τροφοδότησε τα ακατέργαστα δεδομένα—κώδικα και εντολές που χρησιμοποιήθηκαν για την εκμετάλλευση—σε εμπορικά μοντέλα τεχνητής νοημοσύνης, ώστε να την ανασυνθέσουν. Όμως τα ενσωματωμένα φίλτρα ασφαλείας τους μπλοκάρουν οτιδήποτε μοιάζει με χακάρισμα, και τα ίχνη μιας επίθεσης μοιάζουν στα φίλτρα με την ίδια την επίθεση. Τα μοντέλα αρνήθηκαν να βοηθήσουν, αδυνατώντας να ξεχωρίσουν έναν κακόβουλο δράστη από μια εταιρεία που αμύνεται.
Αντιμέτωπη με αυτό το αδιέξοδο, η Hugging Face στράφηκε σε ένα κινεζικό μοντέλο με ανοικτά βάρη, το GLM 5.2 της Z.ai, το οποίο μπορούσε να τρέξει τοπικά και επεξεργάστηκε το υλικό χωρίς να το απορρίψει. Ερευνητικά εργαστήρια από την Κίνα, όπως το DeepSeek και το Qwen της Alibaba, έχουν εξελιχθεί σε μερικές από τις πιο δημοφιλείς οικογένειες μοντέλων στην πλατφόρμα σε αριθμό λήψεων και, σύμφωνα με ορισμένες μετρήσεις, οι Κινέζοι προγραμματιστές ευθύνονται πλέον για μεγαλύτερο μέρος των λήψεων στο Hugging Face από ό,τι οι Αμερικανοί ομόλογοί τους.
Η αποκάλυψη έρχεται σε περίοδο αυξανόμενης ανησυχίας για τις δυνατότητες κυβερνοεπίθεσης των ισχυρών μοντέλων, που οδήγησε τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ τον Ιούνιο να υπογράψει εκτελεστικό διάταγμα. Το πλαίσιο επιτρέπει στην ομοσπονδιακή κυβέρνηση να εξετάζει έως και για έναν μήνα πριν από τη δημόσια διάθεσή τους τους κινδύνους για την εθνική ασφάλεια από τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης.
«Η τεχνητή νοημοσύνη επιταχύνει τον εντοπισμό και την εκμετάλλευση ευπαθειών», ανέφερε η OpenAI στην ανακοίνωσή της την Τρίτη. «Το βασικό συμπέρασμα από το περιστατικό αυτό είναι ότι η ασφάλεια και η προστασία των μοντέλων πρέπει να συμβαδίζουν με τις ταχέως εξελισσόμενες δυνατότητες».
Ο Ντελάνγκ δήλωσε ότι πέρασε τις τελευταίες 24 ώρες συνεργαζόμενος με την OpenAI «και πιστεύουμε ακράδαντα ότι δεν υπήρξε κακόβουλη πρόθεση από την πλευρά τους. Είναι πραγματικά εντυπωσιακό ότι όλα αυτά συνέβησαν αυτόνομα!». Πρόσθεσε ότι «ίσως πρόκειται για το πρώτο περιστατικό αυτού του είδους».
Η OpenAI ανέφερε ότι η παραβίαση προκλήθηκε από συνδυασμό μοντέλων της, μεταξύ των οποίων το νέο GPT-5.6 Sol και ένα «ακόμη πιο ικανό» μοντέλο που δοκιμάζεται εσωτερικά. Σύμφωνα με την εταιρεία, η τεχνητή νοημοσύνη της χρησιμοποίησε υποκλαπέντα διαπιστευτήρια και εντόπισε μια μέχρι πρότινος άγνωστη ευπάθεια για να αποκτήσει πρόσβαση στους διακομιστές της Hugging Face.
«Κατέβαλε ακραίες προσπάθειες για να πετύχει έναν σχετικά περιορισμένο στόχο δοκιμής» και «βρήκε τρόπους να αποκτήσει πρόσβαση σε απόρρητες πληροφορίες που μπορούσε να χρησιμοποιήσει για να παραποιήσει την αξιολόγηση», σημείωσε η εταιρεία.
