Στις 9 Σεπτεμβρίου 2026, ο Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic, έγραψε στα social media ότι, προσωπικά, θεωρούσε πως υπήρχε πιθανότητα μεγαλύτερη από 10% η τεχνητή νοημοσύνη να σκοτώσει ολόκληρη την ανθρωπότητα μέσα στην επόμενη δεκαετία. Απαντούσε στον Jacob Coxon, ερευνητή που μόλις είχε παραιτηθεί από την Anthropic, αφού είχε εργαστεί στο pretraining τόσο εκεί όσο και στην OpenAI, και ο οποίος είχε γράψει στο δικό του νήμα παραίτησης ότι «οι άνθρωποι που χτίζουν την AI πιστεύουν ειλικρινά πως μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Ο Hubinger δεν ανασκεύασε τον ισχυρισμό. Τον επιβεβαίωσε, σημειώνοντας όμως ότι ο κίνδυνος που είχε στο μυαλό του δεν αφορούσε τα σημερινά μοντέλα, αλλά μια μελλοντική υπερνοημοσύνη, για την οποία η βιομηχανία δεν έχει ακόμη λύσει το πρόβλημα της ευθυγράμμισης.
Από τον επικεφαλής ασφάλειας σε μία από τις δύο ή τρεις εταιρείες που ευθύνονται περισσότερο για τη σημερινή πορεία της τεχνολογίας, η τοποθέτηση αυτή δεν ήταν μια περιθωριακή προειδοποίηση. Ήταν, στην πράξη, μια παραδοχή από μέσα.
Η συζήτηση περιστράφηκε σχεδόν εξ ολοκλήρου γύρω από την AI ως αφηρημένη έννοια: chatbots, agents, την ενδεχόμενη άφιξη συστημάτων που αυτοβελτιώνονται. Όμως ο χώρος όπου ο κίνδυνος είναι λιγότερο αφηρημένος και πιο άμεσος δεν είναι μια υποθετική μελλοντική υπερνοημοσύνη. Είναι τα συστήματα που ήδη ενσωματώνονται σε δορυφόρους έγκαιρης προειδοποίησης για πυρηνικά, σε συστοιχίες παρακολούθησης πυραύλων και στην αρχιτεκτονική διοίκησης και ελέγχου που αποφασίζει, μέσα σε λίγα λεπτά, αν μια εκτόξευση που εντοπίστηκε είναι πραγματική.
Αν στελέχη ασφάλειας της ίδιας βιομηχανίας δηλώνουν δημόσια ότι η τρέχουσα ανάπτυξη της AI κρύβει διψήφιο ποσοστό κινδύνου για καταστροφή του πολιτισμού, τότε το επόμενο ερώτημα δεν είναι ακαδημαϊκό: τι συμβαίνει όταν συστήματα που κατασκευάζονται από αυτή τη βιομηχανία, με την ίδια αναγνωρισμένη αβεβαιότητα, είναι εκείνα που παρακολουθούν από την τροχιά πυρηνικές εκτοξεύσεις και τροφοδοτούν απευθείας τον μηχανισμό αποφάσεων κρατών με πυρηνικά;
Το σημείο όπου η συζήτηση για την ασφάλεια της AI παύει να είναι αφηρημένη
Εδώ βρίσκεται το σημείο διασταύρωσης πυρηνικών και διαστήματος, εκεί όπου η αφηρημένη συζήτηση για την ασφάλεια της AI παύει να είναι αφηρημένη.
Ο μηχανισμός περνά μέσα από την ίδια τη διαστημική αρχιτεκτονική. Οι αστερισμοί δορυφόρων, οι μονάδες επεξεργασίας σε τροχιά και οι επίγειοι σταθμοί αναμετάδοσης αποτελούν το φυσικό επίπεδο που καθορίζει τι πιστεύει ένα πυρηνικά οπλισμένο κράτος ότι συμβαίνει στον κόσμο. Τα συστήματα AI που κάνουν σήμερα αυτή τη δουλειά είναι μοντέλα με στενό πεδίο εφαρμογής και «παγωμένα» βάρη, convolutional networks για ταξινόμηση εικόνας, αλγόριθμοι σύντηξης αισθητήρων για συνδυασμό δεδομένων ραντάρ και δορυφόρων, τίποτα που να θυμίζει τη self-improving υπερνοημοσύνη για την οποία προειδοποιούσαν οι Coxon και Hubinger. Αυτή ακριβώς η διάκριση είναι που κάνει το επίπεδο του διαστήματος να αξίζει εξέταση και όχι υποτίμηση.
Για δεκαετίες, αυτό το επίπεδο λειτουργούσε με το απλό μοντέλο «bent pipe»: οι δορυφόροι κατέγραφαν ακατέργαστα υπέρυθρα και ρανταρικά δεδομένα και τα έστελναν στη Γη για να τα ερμηνεύσουν άνθρωποι αναλυτές. Το μοντέλο αυτό αλλάζει. Η σύγχρονη διαστημική αρχιτεκτονική στρέφεται προς το onboard edge AI, με μοντέλα υπολογιστικής όρασης ενσωματωμένα απευθείας στα φορτία των δορυφόρων να αποφασίζουν, σε τροχιά, τι συνιστά ίχνος πυραυλικής εκτόξευσης πριν δει την ακατέργαστη εικόνα άνθρωπος. Την ίδια ώρα, η μετάβαση από λίγους μεγάλους γεωστατικούς δορυφόρους σε αστερισμούς χαμηλής γήινης τροχιάς με χιλιάδες μικρότερους δορυφόρους σημαίνει ότι καμία ανθρώπινη ομάδα δεν μπορεί να επεξεργαστεί απευθείας τις ροές. Οι πλατφόρμες σύντηξης δεδομένων αναλαμβάνουν αυτή τη δουλειά, συγκεντρώνοντας ραντάρ, εικόνες και σήματα πληροφοριών σε ένα ενιαίο track σε πραγματικό χρόνο. Ακόμη και ένα στενό, καλά δοκιμασμένο μοντέλο συμπιέζει τον χρόνο που απομένει για ανθρώπινη κρίση, αφού όλο το επιχείρημα υπέρ της αυτοματοποίησης σε αυτό το επίπεδο είναι ότι οι απειλές από την τροχιά και οι υπερηχητικές απειλές κινούνται πιο γρήγορα απ’ όσο μπορούν να αντιδράσουν οι άνθρωποι.
Και ενώ τα σημερινά συστήματα δεν είναι τα unaligned frontier models που φοβόταν ο Coxon, εξακολουθούν να εισάγουν έναν δομικό κίνδυνο: η ίδια αρχιτεκτονική edge processing και σύντηξης δεδομένων που χτίζεται τώρα είναι το υπόστρωμα που θα κληρονομούσε και θα εκμεταλλευόταν ένα μελλοντικό σύστημα που αυτοβελτιώνεται, αν αποκτούσε ποτέ πρόσβαση σε στρατιωτικά δίκτυα. Ένα ψευδώς θετικό σε αυτό το περιβάλλον δεν είναι μια «παραισθήση» chatbot. Είναι ένας δορυφόρος που παρερμηνεύει μια ηλιακή έκλαμψη ή μια αντανάκλαση συντριμμιών ως ίχνος πυραυλικής εκτόξευσης και προωθεί αυτή την εκτίμηση σε μια αλυσίδα διοίκησης που μπορεί να έχει μόνο λίγα λεπτά για να αποφασίσει αν θα την πιστέψει.
Μια ενδιαφέρουσα, αν και απίθανη, σύγκριση ήρθε λίγες ημέρες μετά την ανταλλαγή Hubinger. Στις 2 Σεπτεμβρίου, ο δήμαρχος της Νέας Υόρκης Zohran Mamdani ανακοίνωσε μορατόριουμ ενός έτους στη γενετική AI για τους μαθητές των δημόσιων σχολείων έως και την όγδοη τάξη, επηρεάζοντας σχεδόν 600.000 παιδιά και απενεργοποιώντας λειτουργίες AI σε δεκάδες προγράμματα που είχαν εγκριθεί για τις τάξεις. Η αιτιολόγηση δεν ήταν ότι η τεχνολογία δεν λειτουργεί. Ήταν ότι η πόλη δεν μπορούσε ακόμη να είναι βέβαιη πως ανήκει σε ένα περιβάλλον όπου το κόστος του λάθους, η αναπτυσσόμενη ικανότητα ενός παιδιού να σκέφτεται μόνη του, ήταν πολύ σημαντικό για να ρισκάρει με μια τεχνολογία που ακόμα αξιολογείται.
«Τα παιδιά χρειάζονται δασκάλους και ανθρώπινη σύνδεση για να μάθουν και για να μεγαλώσουν», είπε ο Mamdani. «Έχουμε την υποχρέωση να κάνουμε το ίδιο» όταν πρόκειται για τον ρόλο της AI σε αυτή την ανάπτυξη.
Αξίζει να σταθεί κανείς σε αυτή την ασυμμετρία. Η Νέα Υόρκη διαθέτει συγκεντρωμένη, επιβλητή εξουσία πάνω στο λογισμικό που τρέχει στις σχολικές της συσκευές και χρησιμοποίησε αυτή την εξουσία για να παγώσει την AI σε ένα περιβάλλον όπου το μειονέκτημα του λάθους είναι αναπτυξιακό, όχι υπαρξιακό. Τα κράτη με πυρηνικά, αντίθετα, ενσωματώνουν αντίστοιχα συστήματα AI στην έγκαιρη προειδοποίηση και στις υποδομές διοίκησης, εκεί όπου το μειονέκτημα του λάθους είναι πολιτισμικό και δεν υπάρχει αντίστοιχη κεντρική αρχή που να μπορεί να επιβάλει ένα παρόμοιο πάγωμα. Αν η απλή πιθανότητα η AI να διαβρώσει την κριτική σκέψη ενός παιδιού ήταν επαρκής λόγος για να απενεργοποιήσει η Νέα Υόρκη την τεχνολογία μέχρι νεωτέρας, τότε η πολύ μεγαλύτερη και αμεσότερη πιθανότητα η AI να παρερμηνεύσει δορυφορικά δεδομένα και να συμπιέσει μια πυρηνική απόφαση σε λίγα δευτερόλεπτα αξίζει τουλάχιστον την ίδια προληπτική στάση, εφαρμοσμένη εκεί όπου το λάθος δεν μπορεί να αναιρεθεί.
Η δύσκολη αλήθεια είναι ότι ένα σχολικό σύστημα και η διεθνής πυρηνική τάξη δεν συγκρίνονται σχεδόν καθόλου ως προς την ικανότητά τους να εφαρμόσουν αυτή τη στάση. Μια απαγόρευση επιβάλλεται όταν μία αρχή ελέγχει τις συσκευές στις οποίες αφορά. Γίνεται σχεδόν ανεφάρμοστη όταν αυτό που περιορίζεται είναι λογισμικό που μπορεί να ενημερώνεται εξ αποστάσεως μέσω κρυπτογραφημένης δορυφορικής σύνδεσης και όταν κανένα κράτος δεν εμπιστεύεται αρκετά κάποιο άλλο ώστε να του παραχωρήσει το είδος της παρεμβατικής πρόσβασης που θα χρειαζόταν για να ελεγχθεί η συμμόρφωση. Αυτό ακριβώς το κενό προσπαθούν να καλύψουν, με περιορισμένη επιτυχία, οι υπάρχουσες διεθνείς πρωτοβουλίες.
Οι διεθνείς προσπάθειες για παγκόσμιους κανόνες για την AI και τον πυρηνικό έλεγχο
Η πιο άμεση προσπάθεια βρίσκεται στα Ηνωμένα Έθνη. Στις 1 Δεκεμβρίου 2025, η Γενική Συνέλευση ενέκρινε το ψήφισμα A/RES/80/23 για τους κινδύνους από την ενσωμάτωση της τεχνητής νοημοσύνης στη διοίκηση, τον έλεγχο και τις επικοινωνίες των πυρηνικών, με 118 ψήφους υπέρ, 9 κατά και 44 αποχές. Το ψήφισμα καλεί τα κράτη να υιοθετήσουν και να δημοσιοποιήσουν εθνικές πολιτικές που να επιβεβαιώνουν ότι τα AI-enabled NC3 συστήματα θα παραμείνουν υπό ανθρώπινο έλεγχο και δεν θα έχουν τη δυνατότητα να ξεκινούν αυτόνομα απόφαση πυρηνικής εκτόξευσης. Το ότι εγκρίθηκε με ευρεία στήριξη έχει σημασία. Το ότι εννέα κράτη το καταψήφισαν, και ότι η Γαλλία, πυρηνική δύναμη που η ίδια επιμένει πως ο ανθρώπινος έλεγχος πρέπει να διατηρείται σε κάθε κρίσιμο στάδιο μιας απόφασης εκτόξευσης, φέρεται να ήταν ανάμεσά τους, λέει κάτι πιο αιχμηρό για το πόσο μακριά βρίσκεται η διακηρυγμένη συναίνεση από τη δεσμευτική πρακτική.
Παράλληλα με τη διαδικασία του ΟΗΕ, το Summit on Responsible AI in the Military Domain, γνωστό ως REAIM, έχει γίνει το πιο κοντινό πράγμα σε ένα ζωντανό πολυμερές φόρουμ για αυτό το ζήτημα. Η τρίτη σύνοδός του πραγματοποιήθηκε στην Α Κορούνια της Ισπανίας, στις 4 και 5 Φεβρουαρίου, μετά τις προηγούμενες συνόδους στη Χάγη το 2023 και στη Σεούλ το 2024. Το πλαίσιο ήταν ξεκάθαρα μια προσπάθεια να περάσει κανείς από τις διακηρυγμένες αρχές σε «συγκεκριμένα, πρακτικά και ρεαλιστικά βήματα». Η ίδια η διατύπωση ήταν μια σιωπηρή παραδοχή ότι οι δύο πρώτες σύνοδοι δεν είχαν καταφέρει αυτή τη μετάβαση. Το έγγραφο αποτελεσμάτων του 2026 εγκρίθηκε μόλις από 39 κράτη, από περισσότερα από 60 το 2024, με αρκετούς αναλυτές να αποδίδουν τη μείωση αυτή στην επιδείνωση των σχέσεων μεταξύ των μεγάλων δυνάμεων της AI και των πυρηνικών και όχι σε κάποια συρρίκνωση του ίδιου του κινδύνου.
Κοινή αδυναμία και των δύο διαδικασιών είναι η ίδια δομική αδυναμία: πρόκειται για ασκήσεις διαμόρφωσης κανόνων σε έναν χώρο όπου το αντικείμενο που ρυθμίζεται, το λογισμικό, δεν μπορεί να μετρηθεί, να επιθεωρηθεί ή να επαληθευτεί όπως ένα σιλό πυραύλων. Ένα κράτος μπορεί να συμμορφώνεται με το γράμμα ενός ψηφίσματος για τον ανθρώπινο έλεγχο και ταυτόχρονα να αναπτύσσει ένα σύστημα AI που φιλτράρει, ιεραρχεί και διαμορφώνει τα δεδομένα αισθητήρων που τελικά βλέπει ένας άνθρωπος, επηρεάζοντας την απόφαση πολύ πριν αυτή ληφθεί τυπικά από άνθρωπο. Η απαίτηση να διατηρεί κάποιος την τελική αρμοδιότητα κάνει πολύ λίγα αν η εικόνα της πραγματικότητας που έχει μπροστά του έχει ήδη κατασκευαστεί από ένα μοντέλο που κανένας τρίτος δεν μπορεί να ελέγξει.
Πώς αξιολογούν ανεξάρτητοι φορείς αυτά τα σχέδια του ΟΗΕ
Ανεξάρτητοι ερευνητικοί φορείς που αξιολογούν αυτά τα σχέδια έχουν καταλήξει σε παρόμοιο συμπέρασμα. Σε αξιολόγηση του ψηφίσματος της Γενικής Συνέλευσης του ΟΗΕ που δημοσιεύθηκε λίγο μετά την υιοθέτησή του, το Observer Research Foundation έκρινε ότι το μέτρο αποτυπώνει μια πραγματική και ευρέως κοινή ανησυχία μεταξύ των κρατών, αλλά παραμένει περιορισμένο από ακριβώς τις ρωγμές που θα περίμενε κανείς: το χάσμα ανάμεσα σε πυρηνικά και μη πυρηνικά κράτη, την απροθυμία των μεγάλων πυρηνικών δυνάμεων να δεχθούν δεσμευτικούς περιορισμούς σε δυνατότητες που θεωρούν κεντρικές για την αποτροπή, και το γεγονός ότι η βασική γλώσσα του ψηφίσματος, ανθρώπινος έλεγχος και εποπτεία, δεν ορίστηκε ποτέ με αρκετή τεχνική ακρίβεια ώστε να μπορεί να επαληθευτεί και όχι απλώς να δηλώνεται.
Η ίδια κριτική ισχύει και για τα έγγραφα αποτελεσμάτων του REAIM, τα οποία βασίζονται στα κράτη για να περιγράψουν τη δική τους συμμόρφωση, χωρίς να υποβάλλονται σε κάποιον εξωτερικό έλεγχο. Και οι δύο διαδικασίες, κατά την εκτίμηση των ερευνητών που τις μελετούν, είναι περισσότερο προγραμματικές παρά επιβλητικές: χρήσιμες για να δείξουν ότι ένα πρόβλημα λαμβάνεται σοβαρά υπόψη, αλλά όχι ακόμη ικανές να περιορίσουν τη συμπεριφορά των κρατών των οποίων η συμπεριφορά έχει πραγματική σημασία.
Στην πράξη, αυτή είναι η απάντηση της διπλωματικής κοινότητας στην τεχνική αδυναμία μιας καθολικής απαγόρευσης. Αναγνωρίζοντας αυτό το όριο, η Γενική Συνέλευση του ΟΗΕ και οι συναφείς διαδικασίες ακολούθησαν μια στενότερη, πιο ρεαλιστική στρατηγική: να απομονώσουν την AI από συγκεκριμένες χρήσεις υψηλής σημασίας και υψηλού κινδύνου, με πρώτη την εξουσία εκτόξευσης πυρηνικών, αντί να προσπαθήσουν να ρυθμίσουν τη στρατιωτική AI ως μία ενιαία, αδιαφοροποίητη κατηγορία. Το ψήφισμα A/RES/80/23 είναι από μόνο του παράδειγμα αυτής της προσέγγισης. Δεν απαγορεύει την AI στο διάστημα ή στα αμυντικά συστήματα γενικά. Στοχεύει μία λειτουργία, την έναρξη απόφασης για πυρηνική εκτόξευση, και επιμένει ότι μόνο αυτή η λειτουργία πρέπει να παραμείνει αποκλειστικά ανθρώπινη. Η στρατηγική είναι σωστή σε επίπεδο αρχής. Η αδυναμία της, όπως δείχνουν οι παραπάνω αξιολογήσεις, είναι ότι η απομόνωση μιας χρήσης λειτουργεί μόνο αν το όριο ανάμεσα στη λειτουργία και στο γύρω σύστημα μπορεί πράγματι να επαληθευτεί.
Τίποτα από αυτά δεν σημαίνει ότι η σύγκριση με το μορατόριουμ του Mamdani στα σχολεία πρέπει να διαβαστεί κυριολεκτικά. Αυτό που αναδεικνύει είναι το χάσμα ανάμεσα στο προληπτικό μέτρο που δέχτηκε να εφαρμόσει μια πόλη για έναν αναπτυξιακό κίνδυνο και στο προληπτικό μέτρο που το διεθνές σύστημα έχει καταφέρει μέχρι στιγμής να εφαρμόσει για έναν υπαρξιακό. Η πυρηνική τάξη, αντιθέτως, συνεχίζει να ενσωματώνει AI στα πιο ευαίσθητα συστήματά της, ενώ οι ίδιοι οι ερευνητές που χτίζουν την υποκείμενη τεχνολογία δηλώνουν δημόσια ότι δεν μπορούν να αποκλείσουν διψήφια πιθανότητα καταστροφής του πολιτισμού.
Το βασικό ερώτημα πολιτικής που γεννιέται δεν είναι αν η AI μπορεί να μείνει εντελώς έξω από τα συστήματα πυρηνικής διοίκησης.
Αυτό το παράθυρο έχει σε μεγάλο βαθμό κλείσει.
Το ερώτημα είναι αν η διεθνής κοινότητα μπορεί να περάσει από ψηφίσματα που περιγράφουν τον κίνδυνο και από οριοθετήσεις χρήσεων που ακούγονται ακριβείς στο χαρτί, σε μηχανισμούς επαλήθευσης που τον περιορίζουν πραγματικά, πριν το χάσμα ανάμεσα στη διακηρυγμένη αρχή και την εφαρμοσμένη πρακτική δοκιμαστεί από ένα λάθος που δεν θα μπορεί να αναιρεθεί.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
