Η κυβέρνηση μπλόκαρε το νεότερο και ισχυρότερο μοντέλο της Anthropic. Πηγές λένε στο The Verge ότι το εργαστήριο τεχνητής νοημοσύνης και άλλοι υποστηρικτές της ΑΙ πέρασαν το Σαββατοκύριακο προσπαθώντας να εξηγήσουν ότι το Fable 5 δεν ήταν υπερβολικά ισχυρό.
Την ώρα που η υπόλοιπη χώρα πανηγύριζε την πρώτη νίκη των ΗΠΑ σε Παγκόσμιο Κύπελλο και το πρωτάθλημα των New York Knicks, η Anthropic πέρασε το Σαββατοκύριακο συγκρουόμενη με την κυβέρνηση Τραμπ για την πιο πρόσφατη κυκλοφορία μοντέλου της. Στις 5:21 μ.μ. της Παρασκευής, η εταιρεία έλαβε οδηγία ελέγχου εξαγωγών των ΗΠΑ να αναστείλει την πρόσβαση στα μοντέλα τεχνητής νοημοσύνης Mythos 5 και Fable 5 από «οποιονδήποτε ξένο υπήκοο» εντός ή εκτός ΗΠΑ, «συμπεριλαμβανομένων των ξένων υπηκόων εργαζομένων της Anthropic». Η μόνη λύση, όπως κατέληξε η εταιρεία, ήταν να απενεργοποιήσει πλήρως τα προϊόντα που είχε προωθήσει την προηγούμενη εβδομάδα και να μεταβεί στην Ουάσινγκτον, με την ελπίδα να αλλάξει η γνώμη του προέδρου Ντόναλντ Τραμπ. Τις επόμενες ημέρες, η κυβέρνηση των ΗΠΑ θα μπορούσε να αλλάξει δραματικά την πορεία ολόκληρης της βιομηχανίας, επιφέροντας σοβαρό πλήγμα στις αμερικανικές εταιρείες ΑΙ.
Τα Claude Mythos 5 και Fable 5 βασίζονται στην ίδια αρχιτεκτονική με το Mythos Preview της Anthropic, το οποίο η εταιρεία είχε χαρακτηρίσει υπερβολικά επικίνδυνο για δημόσια διάθεση. Οι προειδοποιήσεις της εταιρείας μπορούσαν να εκληφθούν είτε ως γνήσια ανησυχία είτε ως επιπλέον προβολή του δικού της μοντέλου — ή και τα δύο. Το Mythos 5 δόθηκε σε επιλεγμένες κρατικές υπηρεσίες και εταιρείες, ενώ το Fable 5, που διέθετε πρόσθετες δικλίδες ασφαλείας, κρίθηκε «ασφαλές για γενική χρήση». Όμως, όταν έκθεση έδειξε ότι αυτές οι δικλείδες ίσως απέτυχαν, οι δραματικές προειδοποιήσεις της Anthropic για τον κίνδυνο να πέσει το Mythos σε λάθος χέρια επέστρεψαν για να τη στοιχειώσουν.
Πηγή που γνωρίζει την υπόθεση και συμμετείχε στις διαπραγματεύσεις ανάμεσα στην Anthropic και την κυβέρνηση Τραμπ είπε ότι η κυβέρνηση κάλεσε το εργαστήριο ΑΙ την Παρασκευή γύρω στη 1 μ.μ. ώρα ανατολικών ΗΠΑ και έδωσε στην εταιρεία τελεσίγραφο 90 λεπτών να διακόψει την πρόσβαση στα Mythos 5 και Fable 5. Αν δεν το έκανε, η κυβέρνηση θα επέβαλλε ελέγχους εξαγωγών στην Anthropic με βάση την αρμοδιότητα του αμερικανικού Υπουργείου Εμπορίου.
Η ίδια πηγή ανέφερε ότι τα στελέχη της Anthropic μιλούσαν με τον Λευκό Οίκο μέσα σε 15 λεπτά από την πρώτη κλήση, ενώ ο διευθύνων σύμβουλος Dario Amodei συμμετείχε στις συζητήσεις περίπου μία ώρα και 15 λεπτά αργότερα. Ο Amodei μίλησε απευθείας με τον υπουργό Οικονομικών των ΗΠΑ Scott Bessent, τον υπουργό Εμπορίου Howard Lutnick και τον Εθνικό Διευθυντή Κυβερνοασφάλειας Sean Cairncross, σε ορισμένες περιπτώσεις περισσότερες από μία φορές, όπως επιβεβαίωσε η πηγή.
Η Anthropic ανέφερε σε ανακοίνωση την Παρασκευή ότι θεωρούσε πως η κυβέρνηση «πιστεύει ότι έχει γίνει γνωστός ένας τρόπος παράκαμψης ή “jailbreaking” του Fable 5». Ωστόσο, η εταιρεία σημείωσε ότι δεν επρόκειτο για υπαρξιακή απειλή, αλλά για ένα «πιθανό περιορισμένο, μη καθολικό» ζήτημα, το οποίο είχε «κοινοποιηθεί στην κυβέρνηση» από φορέα που η εταιρεία δεν θέλησε να κατονομάσει. Η Anthropic πρόσθεσε επίσης ότι η συμπεριφορά αυτή δεν ήταν μοναδική για το Fable 5. «Έχουμε εξετάσει έκθεση που πιστεύουμε ότι αποτελεί τη βάση της οδηγίας της κυβέρνησης και επιβεβαιώσαμε ότι το επίπεδο δυνατοτήτων που εμφανίζεται εκεί είναι ευρέως διαθέσιμο και από άλλα μοντέλα, συμπεριλαμβανομένου του GPT-5.5 της OpenAI», ανέφερε η εταιρεία.
Η Semafor μετέδωσε, επικαλούμενη μία πηγή που γνωρίζει την υπόθεση, ότι ο θόρυβος ξεκίνησε επειδή η αμερικανική κυβέρνηση ανησυχούσε πως ομάδα με διασυνδέσεις στην Κίνα είχε αποκτήσει πρόσβαση στην τεχνολογία. Όμως η πηγή ανέφερε ότι οι φήμες για την Κίνα κυκλοφορούσαν εδώ και εβδομάδες και αφορούσαν μεγάλη διεθνή εταιρεία τηλεπικοινωνιών, η οποία αρχικά είχε εγκριθεί για πρόσβαση στο Mythos Preview. Όταν η αμερικανική κυβέρνηση εξέφρασε τις ανησυχίες της, η Anthropic ανακάλεσε αμέσως την πρόσβαση.
Ανάρτηση του David Sacks στο X, του πρώην επικεφαλής της αμερικανικής κυβέρνησης για την ΑΙ και τα κρυπτονομίσματα που παραιτήθηκε τον Μάρτιο, δεν έκανε επίσης καμία αναφορά στην Κίνα. Ο Sacks αναφέρθηκε, ωστόσο, στον ανώνυμο φορέα που έθεσε το ζήτημα στην κυβέρνηση, λέγοντας ότι επρόκειτο για «έναν εξαιρετικά αξιόπιστο και έμπιστο συνεργάτη τόσο της Anthropic όσο και της αμερικανικής κυβέρνησης, ο οποίος δοκίμαζε το Fable και [που] κατέθεσε ένα jailbreak σε αυτές τις δικλίδες ασφαλείας».
Ορισμένα ρεπορτάζ αποδίδουν στον CEO της Amazon Andy Jassy το πρόσωπο που επισήμανε τις ανησυχίες στην αμερικανική κυβέρνηση, μετά από red-teaming ερευνητών της Amazon στο Fable 5. Αυτό το συμπέρασμα έρχεται σε αντίθεση με ορισμένους ανεξάρτητους red-teamers, οι οποίοι είπαν ότι εντυπωσιάστηκαν από το επίπεδο των προστασιών.
Η πηγή που γνωρίζει τις διαπραγματεύσεις είπε ότι η έρευνα της Amazon αναφέρθηκε ρητά στις συζητήσεις με την αμερικανική κυβέρνηση. Πρόσθεσε ότι η Anthropic είχε πρόσβαση σε εκείνη την έκθεση μέσα σε λίγες ημέρες από την οδηγία ελέγχου εξαγωγών της Παρασκευής και ότι από τότε είχε συνεχείς ανταλλαγές με ερευνητές της Amazon για να τη συζητήσει.
Όσα περιγράφονταν στην έκθεση, σύμφωνα με την πηγή, μπορούσαν να επιτευχθούν και με το GPT-5.5 της OpenAI.
Η Anthropic πέρασε το Σαββατοκύριακο προσπαθώντας να αποκαταστήσει τις σχέσεις της με την κυβέρνηση Τραμπ, αρχικά με διαδικτυακές συναντήσεις και στη συνέχεια στέλνοντας στελέχη στην Ουάσινγκτον, ανάμεσά τους τον Dave Orr, επικεφαλής δικλίδων ασφαλείας της Anthropic, τον Logan Graham, που διευθύνει το frontier red team της εταιρείας και έχει ηγηθεί εργασιών στο Project Glasswing, και τον Nicholas Carlini, κορυφαίο ερευνητή του frontier development και της κυβερνοασφάλειας. Το Axios μετέδωσε, επικαλούμενο πηγή που γνωρίζει τη σκέψη της κυβέρνησης Τραμπ, ότι η εταιρεία έχει επανειλημμένα κάνει αστοχίες στην επικοινωνία της με την κυβέρνηση και ότι «δεν έχει κάνει ιδιαίτερα καλή δουλειά στο να μιλήσει στην κυβέρνηση και να εκτιμήσει τις ιδεολογικές διαφορές». Για την Anthropic, η χρονική συγκυρία δεν θα μπορούσε να είναι χειρότερη: η εταιρεία είχε επενδύσει στο Mythos για να ανακάμψει, εν μέρει, από μήνες δημόσιων συγκρούσεων με το Υπουργείο Άμυνας των ΗΠΑ.
Η πηγή που γνωρίζει τις διαπραγματεύσεις είπε ότι η Anthropic είχε ενημερώσει προκαταβολικά την κυβέρνηση για το Fable 5 και ότι το Υπουργείο Εμπορίου των ΗΠΑ είχε πραγματοποιήσει δοκιμές πριν από την ανάπτυξή του, χωρίς να εκφράσει τότε ανησυχίες. Πρόσθεσε ότι η Anthropic συνεργαζόταν στενά με κρατικές υπηρεσίες από την κυκλοφορία του Mythos Preview.
Η κυβέρνηση Τραμπ αρχικά αντιμετώπισε με χαλαρό τρόπο την ασφάλεια της ΑΙ, όμως μετά το Mythos εμφανίζεται πιο διχασμένη, ενώ ανησυχεί ότι μπορεί να χάσει την κούρσα της τεχνητής νοημοσύνης από την Κίνα. Τώρα, κορυφαίοι ηγέτες στον χώρο της κυβερνοασφάλειας προειδοποιούν ότι ο αποκλεισμός των Mythos 5 και Fable 5 θα μπορούσε να δώσει στην Κίνα σημαντικό πλεονέκτημα στην ΑΙ. Η κίνηση Τραμπ έχει ενισχύσει διεθνείς εκκλήσεις για εναλλακτικές στα αμερικανικά συστήματα ΑΙ, ενώ ουσιαστικά έχει βάλει στον πάγο το νέο ναυαρχίδα μοντέλο μιας μεγάλης αμερικανικής εταιρείας ΑΙ.
Επιστολή που δημοσιοποίησαν στελέχη τεχνολογίας και κυβερνοασφάλειας ζητούσε την Κυριακή να αρθούν οι περιορισμοί στο Fable 5. «Δεν συμφωνούμε όλοι ότι η ρύθμιση της ΑΙ είναι ο σωστός δρόμος», αναφέρει η επιστολή, προσθέτοντας ότι, αν τελικά επιβληθούν ρυθμίσεις, θα πρέπει να βασίζονται σε «επιστημονικές αξιολογήσεις που θα έχουν τη συμβολή της βιομηχανίας και της ακαδημαϊκής κοινότητας».
Ο Alex Stamos, chief product officer της Corridor, είπε στο The Verge ότι ο ίδιος οργάνωσε την επιστολή επειδή τα αμέτρητα τρωτά σημεία της τελευταίας δεκαετίας και πλέον, γραμμένα σε διαφορετικές γλώσσες προγραμματισμού, χρειάζονται ΑΙ για να διορθωθούν πριν τα εντοπίσουν οι κακόβουλοι χρήστες. «Βρισκόμαστε σε κούρσα και νομίζω ότι οι υπεύθυνοι χάραξης πολιτικής δεν το καταλαβαίνουν», είπε ο Stamos. «Υπάρχει αυτή η παράξενη αλαζονεία, η ιδέα ότι τα αμερικανικά εργαστήρια είναι πολύ μπροστά από τους αντιπάλους μας και ότι αυτό θα ισχύει πάντα, άρα είναι πολύ σημαντικό να περιοριστεί η πρόσβαση εξαιτίας αυτού. Νομίζω ότι αυτό είναι ανόητο. Αν τα εργαστήρια είναι μπροστά, αυτό συμβαίνει μόνο για λίγους μήνες. Και το βλέπεις αυτό στις δημόσιες αξιολογήσεις. Τα πιο προηγμένα μοντέλα είναι μόνο περίπου έξι μήνες μπροστά από τα κινεζικά μοντέλα — και μιλάω για τα μοντέλα που γνωρίζουμε».
Η δημόσια επιστολή αναφέρει επίσης ότι, παρότι τα μοντέλα της σειράς Mythos της Anthropic είναι ικανά να εντοπίζουν ευπάθειες κυβερνοασφάλειας και να αξιοποιούν exploits, δεν είναι «μοναδικά καλά» σε αυτές τις εργασίες και ότι οι δικλίδες ασφαλείας του Fable 5 «ήταν τόσο αυστηρές, ώστε να αποτελέσουν αντικείμενο χιούμορ στην κοινότητα της κυβερνοασφάλειας την ημέρα της κυκλοφορίας». Ο Stamos είπε στο The Verge ότι «υπάρχει πραγματική υπερβολή στις δυνατότητες του Mythos. Η Anthropic φέρει εν μέρει ευθύνη γι’ αυτό, ξεκάθαρα… Το Mythos είναι εξαιρετικό, αλλά η πραγματική καμπή ήταν πέρυσι».
Ο Stamos είπε ότι ο κλάδος είναι γεμάτος με συμβόλαια εφεδρικής συνεργασίας που υπογράφονται με μη αμερικανικές εταιρείες και με μοντέλα ανοιχτών βαρών που αναπτύσσονται σε εναλλακτικές ρυθμίσεις υλικού, επειδή το περασμένο Σαββατοκύριακο έκανε τον πολιτικό κίνδυνο μέρος των επιχειρηματικών σχεδίων των εταιρειών περισσότερο από ποτέ.
«Στο Πεκίνο γελάνε μαζί μας αυτή τη στιγμή», είπε ο Stamos. «Ένα από τα κορυφαία ονόματα της Αμερικής αποδυναμώνεται από την αμερικανική κυβέρνηση, ενώ βρισκόμαστε σε κούρσα με τους Κινέζους. Είναι απίστευτα ανόητο. Γι’ αυτό έγραψα την επιστολή και νομίζω ότι γι’ αυτό συνυπέγραψαν τόσοι πολλοί άνθρωποι».
Ο Ben Van Roo, συνιδρυτής και CEO της Legion Intelligence, ενός συστήματος agents για την κοινότητα εθνικής ασφάλειας, είπε στο The Verge ότι «η οδηγία ότι “κανένας ξένος υπήκοος δεν πρέπει να χρησιμοποιεί αυτό το μοντέλο” είναι το πιο αδύνατο πράγμα για να εφαρμοστεί». Πρόσθεσε: «Όταν το διάβασα πρώτη φορά, όλο το… [δίκτυο από] AI community nerds μου είχε εκραγεί».
Για να γίνει το ζήτημα ακόμη πιο πιεστικό, η OpenAI, η Google και η Microsoft έχουν παρουσιάσει δικά τους αντίστοιχα προϊόντα με το Mythos της Anthropic, κάνοντας πολλές από τις ίδιες διατυπώσεις για την αποτελεσματικότητα και τους κινδύνους τους. Αν η κυβέρνηση Τραμπ απαγορεύσει τα προηγμένα μοντέλα κυβερνοασφάλειας της Anthropic, μπορεί να στηρίξει την απαγόρευση και για τα αντίστοιχα μοντέλα των ανταγωνιστών της. Αυτό θα μπορούσε να οδηγήσει τους ηγέτες της βιομηχανίας ΑΙ να ενωθούν και να στηρίξουν την Anthropic ή, όπως συνέβη στη διαμάχη της με το Πεντάγωνο για τα αυτόνομα όπλα, να παρουσιαστούν ως ασφαλέστερη και πιο συνεργάσιμη επιλογή.
Ακόμη και καθώς η κυβέρνηση Τραμπ επιχειρεί να απαλλάξει τις τεχνολογικές εταιρείες από ρυθμιστικά βάρη, η εντολή προς την Anthropic θα μπορούσε να σημαίνει δραστικό περιορισμό στα ισχυρά μοντέλα ΑΙ — ανάλογα με το πώς θα εξελιχθούν οι επόμενες ημέρες.
Ο Van Roo της Legion Intelligence χαρακτήρισε την κατάσταση «αχαρτογράφητο έδαφος» σε ρυθμιστικό επίπεδο και πρόσθεσε ότι δεν πιστεύει πως αυτή θα είναι η τελευταία φορά που θα συμβεί κάτι αντίστοιχο.
Έχουμε επίσης μπει στην εποχή του λαϊκισμού γύρω από την ΑΙ, με όλο και περισσότερους ανθρώπους να αντιδρούν στην υπερβολική επιρροή της βιομηχανίας και στη συγκέντρωση ισχύος στην κορυφή, μέσα από διαμαρτυρίες σε data centers, δεσμεύσεις να σταματήσουν τη χρήση chatbots, αγωγές για αδικοχαμένους θανάτους και ακόμη και απόπειρες επιθέσεων εναντίον CEO εταιρειών ΑΙ. Ο Van Roo λέει ότι οι πρόσφατες κινήσεις της κυβέρνησης Τραμπ κατά της Anthropic μπορεί να τροφοδοτήσουν «μεγαλύτερους φόβους και ανησυχίες, ενδεχομένως για λάθος λόγους».
Η πηγή που γνωρίζει τις διαπραγματεύσεις περιέγραψε τις συνομιλίες του Σαββατοκύριακου ως εποικοδομητικές, με ορισμένα μέλη της κυβέρνησης να παραδέχονται ότι η επιβολή ελέγχων εξαγωγών στους παρόχους μοντέλων δεν είναι ιδανική, καθώς ανταγωνιστές με παρόμοια προϊόντα μπορεί να βρεθούν αντιμέτωποι με τους ίδιους περιορισμούς — ενώ η αμερικανική κυβέρνηση εξετάζει επί του παρόντος ένα πρόγραμμα που θα ενθαρρύνει την εξαγωγή αμερικανικών συστημάτων ΑΙ.
Οι συνομιλίες της Δευτέρας ολοκληρώθηκαν χωρίς ακόμη να υπάρξει λύση.
Καθώς η Anthropic συνεχίζει να διαπραγματεύεται με την κυβέρνηση των ΗΠΑ, είναι μικρή η πιθανότητα να μην τεθούν στο τραπέζι και τα υπόλοιπα ζητήματα που τη φέρνουν σε σύγκρουση με το Πεντάγωνο — κυρίως η συνεχιζόμενη διαμάχη ανάμεσα στην Anthropic και το Υπουργείο Άμυνας για τις αποδεκτές πολιτικές χρήσης της τεχνολογίας της από τον αμερικανικό στρατό.
«Αυτό είναι κάτι καινούργιο και δεν έχουμε ξαναδεί τίποτα ενδεχομένως τόσο δραστικό, και έχει πραγματικές συνέπειες» ως προς το πώς μπορεί να εφαρμοστεί η πρόσβαση σε ισχυρά μοντέλα, είπε ο Van Roo. «Ποιος έχει το δικαίωμα να χρησιμοποιεί αυτή τη νέα τεχνολογία που συνεχίζει να ξεπερνά την ίδια μας την ικανότητα να τη ρυθμίσουμε;»
Περισσότερα: Όλες οι ειδήσεις για τη νέα σύγκρουση της Anthropic με τον Λευκό Οίκο
Αυτός είναι ο τίτλος για τη native διαφήμιση
