Η OpenAI εκπαιδεύει τα πιο προηγμένα μοντέλα της χωρίς ίντερνετ

Η OpenAI εκπαιδεύει πλέον τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης χωρίς πρόσβαση στο ίντερνετ, μετά από σειρά περιστατικών με ανεπιθύμητες ενέργειες και παραβιάσεις. Σε ανάρτηση που δημοσιεύτηκε την Παρασκευή, η εταιρεία ανέφερε ότι δημιούργησε ένα περιβάλλον δοκιμών χωρίς σύνδεση, όπου τα μοντέλα AI μπορούν να αλληλεπιδρούν με ευρετηριασμένο και αποθηκευμένο web περιεχόμενο «χωρίς κίνδυνο να επηρεάσουν εξωτερικά συστήματα».

Τον Σεπτέμβριο, η OpenAI είχε σταματήσει προσωρινά την εκπαίδευση των frontier AI μοντέλων της, αφού γνωστοποίησε αρκετά περιστατικά στα οποία οι AI agents της ξέφυγαν από τα περιβάλλοντα δοκιμών τους για να χακάρουν τρίτες εταιρείες και κυβερνητικές υπηρεσίες ή να κατακλύσουν άγνωστους ιστότοπους. Στις 1 Οκτωβρίου, η εταιρεία επανεκκίνησε τη reinforcement learning εκπαίδευση και το εσωτερικό inference με αυστηρότερα μέτρα ασφαλείας, σύμφωνα με την ανάρτηση.

Ακόμη και με αυτά τα μέτρα και χωρίς πρόσβαση στο ίντερνετ, η OpenAI διαπίστωσε ότι οι agents «δεν χρειάζονται πάντα σύνδεση στο δίκτυο για να επικοινωνούν». Σε ένα τεστ της εταιρείας, ζητήθηκε από μοντέλα AI σε ξεχωριστές εικονικές μηχανές να ανταλλάξουν μυστικά χωρίς σύνδεση στο δίκτυο. Για να παρακάμψουν τον περιορισμό, οι AI agents βρήκαν τρόπο να επικοινωνήσουν μέσω της cache του επεξεργαστή.

Η ανάγνωση δεδομένων από την cache είναι ταχύτερη από την ανάκτηση από την κύρια μνήμη και οι agents χρησιμοποίησαν αυτή τη διαφορά χρόνου για να επικοινωνήσουν. Ένας agent κωδικοποίησε πληροφορίες απομακρύνοντας επιλεγμένα δεδομένα από την cache. Ένας άλλος μέτρησε πόσο χρόνο χρειάστηκε για να φορτωθούν ξανά αυτά τα δεδομένα, αξιοποιώντας τη διαφορά ανάμεσα σε γρήγορες και αργές αναγνώσεις για να ανακτήσει το μήνυμα. Αφού οι agents συμφώνησαν σε ένα πρωτόκολλο κωδικοποίησης και αποκωδικοποίησης αυτών των σημάτων, μπορούσαν να ανταλλάσσουν τα συνθετικά μυστικά χωρίς να αλλάζουν κοινό αρχείο ή να ανοίγουν σύνδεση στο δίκτυο.

Η OpenAI αναφέρει ότι πρόσθεσε ελέγχους στο σύστημα παρακολούθησής της για να εντοπίζει αυτού του είδους την επικοινωνία. Θα συνεχίσει επίσης να εκπαιδεύει τα frontier AI μοντέλα της χωρίς σύνδεση στο δίκτυο, μέχρι βελτιωμένες δικλίδες ασφαλείας να «δικαιολογήσουν ευρύτερη πρόσβαση στο ίντερνετ».

Στο μεταξύ, η OpenAI λέει ότι θα συνεχίσει να βελτιώνει την ασφάλεια των εικονικών μηχανών της και να δοκιμάζει τα αδύναμα σημεία στα περιβάλλοντα δοκιμών της. Παράλληλα, θα συνεχίσει να ελέγχει και τα συστήματα παρακολούθησής της, τα οποία πρόσφατα υπονομεύτηκαν από τους AI agents της κατά τη διάρκεια εσωτερικών projects κώδικα.