Οι αναρτήσεις από αυτό το θέμα θα προστίθενται στο καθημερινό email digest και στη ροή της αρχικής σελίδας σας.
Οι μεγάλες εταιρείες τεχνητής νοημοσύνης θέλουν να «ρυθμίσουν τον ρυθμό του frontier», όμως οι προτάσεις τους χρειάζονται ουσιαστικά αντίβαρα.
Οι αναρτήσεις από αυτόν τον συντάκτη θα προστίθενται στο καθημερινό email digest και στη ροή της αρχικής σελίδας σας.
Δείτε όλες τις αναρτήσεις του Hayden Field
Όταν ο διευθύνων σύμβουλος της OpenAI, Sam Altman, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, ο συνιδρυτής της Google DeepMind, Demis Hassabis, και ο επικεφαλής της SpaceX, Elon Musk, φάνηκαν να συμφωνούν το Σαββατοκύριακο να επιβραδύνουν την ανάπτυξη της AI, οι δύσπιστοι εντόπισαν αμέσως δεύτερες σκέψεις. Οι ισχυροί της AI είχαν δηλώσει ότι στόχος τους είναι να «ρυθμίσουν τον ρυθμό του frontier», συντασσόμενοι τουλάχιστον εν μέρει με μια πρόταση για ενσωμάτωση ανεξάρτητων ελεγκτών, ρύθμιση των εγχώριων εργαστηρίων και επίτευξη μιας παγκόσμιας συμφωνίας επιβράδυνσης. Οι επικριτές τους, ωστόσο, υποστήριξαν ότι απλώς θέλουν να σταματήσουν τους επίδοξους ανταγωνιστές, να πλήξουν το κίνημα του ανοιχτού κώδικα και να αποφύγουν πραγματικές νομικές εγγυήσεις — κάποιοι το χαρακτήρισαν ανοιχτά «καρτέλ».
Η αλήθεια είναι πιο σύνθετη, σύμφωνα με πηγές από τον κλάδο. Η τριών βημάτων πρόταση που παρουσίασε ο Amodei σε άρθρο του ζητά αλλαγές που υποστηρίζουν εδώ και καιρό οι υπέρμαχοι της ασφάλειας στην AI. Αν και θα μπορούσε να λειτουργήσει ως υποκατάστατο της ρύθμισης, επί Τραμπ ουσιαστική ρύθμιση δύσκολα θα υπάρξει. Όμως, όπως λένε ειδικοί, σε ένα θέμα που είναι πιθανό να αποκτά όλο και μεγαλύτερη σημασία, οι ηγέτες της AI δεν είναι οι καταλληλότεροι για να ηγηθούν.
«Ο κλάδος στο σύνολό του χρειάζεται νέους πρωταγωνιστές», δήλωσε ο Nick Reese, επίκουρος καθηγητής στο New York University και πρώην διευθυντής πολιτικής για τις αναδυόμενες τεχνολογίες στο Department of Homeland Security. «Είχαμε στραφεί σε ανθρώπους όπως ο Dario Amodei, ο Sam Altman και ο Elon Musk σαν να είναι οι πιο κοντινοί στο πρόβλημα και να δουλεύουν πάνω του καθημερινά, άρα να ξέρουν καλύτερα. Όμως η αλήθεια είναι ότι ποτέ δεν υπήρξε ρεαλιστικό όραμα για το πού πηγαίνει αυτό που χτίζουμε».
«Ο κλάδος στο σύνολό του χρειάζεται νέους πρωταγωνιστές.»
Οι ανησυχίες για την εξέλιξη της AI έχουν ενταθεί τους τελευταίους μήνες, κυρίως μετά τις αποκαλύψεις ότι ορδές agents κρύβονταν πίσω από επιθέσεις χάκινγκ που γίνονταν κάτω από τη μύτη κορυφαίων frontier labs, της Anthropic και της OpenAI. Τα ρεπορτάζ και από τις δύο εταιρείες τροφοδότησαν τη συζήτηση, όπως και η παραίτηση του ερευνητή της Anthropic, Jacob Coxon, ο οποίος δημοσίευσε ανοιχτή επιστολή εξηγώντας την απόφασή του. «Οι άνθρωποι που χτίζουν την AI πιστεύουν ειλικρινά ότι μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε, προσθέτοντας ότι ούτε η OpenAI ούτε η Anthropic «ενεργούν υπεύθυνα», αλλά αντίθετα «τρέχουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Οι δραματικές προειδοποιήσεις για την AI δεν είναι κάτι νέο μέσα στον κλάδο, όμως η επιστολή του Coxon φαίνεται πως ξέφυγε από τα όρια του χώρου. Στο X μόνο, έχει προβληθεί πάνω από 170 εκατομμύρια φορές, ενώ ο ίδιος και η ιστορία του αναπαράγονται σε εφημερίδες και τηλεοπτικά δίκτυα.
Για μια σημαντική μερίδα ερευνητών ασφάλειας της AI και εργαζομένων σε μη κερδοσκοπικούς φορείς του χώρου, ωστόσο, αυτό απλώς τραβά μεγαλύτερη προσοχή σε ένα ήδη ευρέως συζητημένο ζήτημα. «Πολλοί το βλέπουν σαν ιδέα του Dario ή σαν κάτι που έρχεται από τους CEOs, αλλά αυτό δεν είναι αλήθεια», είπε ο Daniel Kokotajlo, πρώην εργαζόμενος της OpenAI που σήμερα ηγείται του AI Futures Project, ενός μη κερδοσκοπικού οργανισμού έρευνας για την AI. «Άνθρωποι εκτός των εταιρειών ζητούν αυτό εδώ και χρόνια… Υπάρχει ένα αυξανόμενο κύμα φωνών που λέει: “Σας παρακαλούμε, μην χτίσετε σύντομα υπερνοημοσύνη. Δεν είμαστε έτοιμοι. Πρέπει να επιβραδύνετε”».
Ο Kokotajlo είπε ότι, μετά από χρόνια που άνθρωποι «τους φώναζαν να το κάνουν» — συμπεριλαμβανομένης της δημόσιας επιστολής που υπέγραψαν περισσότεροι από 1.000 εργαζόμενοι σε AI labs τον Ιούλιο και ζητούσε επιβράδυνση της ανάπτυξης της AI μετά το περιστατικό OpenAI-Hugging Face — οι CEOs πλέον «υποχωρούν σε αυτή την πίεση και ταυτόχρονα διεκδικούν τα εύσημα, [αν και] όχι δικαιωματικά».
Συνολικά, ορισμένες πηγές είπαν στο The Verge ότι θεωρούν πως η προφορική συμφωνία των ηγετών της AI είναι ένα βήμα προς τη σωστή κατεύθυνση. Ο Reese από το NYU είπε ότι «δεν πιστεύω πως είναι όλα λόγια του αέρα». Ο CEO της Apollo Research, Marius Hobbhahn, τη χαρακτήρισε «καλή ιδέα», λέγοντας ότι «είναι ένα από τα καλύτερα πράγματα για την ασφάλεια εδώ και πολύ καιρό, αν όντως γίνει». Ο Tyler Johnston του Midas Project τη χαρακτήρισε «καλό σημάδι». Ο CEO της Redwood Research, Buck Shlegeris, είπε ότι είναι «κάποια πολύ καλά νέα — προφανώς είναι δύσκολο να ξέρεις αν θα μεταφραστεί σε κάτι πραγματικό, αλλά είμαι συγκρατημένα αισιόδοξος». Όλοι συμφώνησαν, όμως, ότι απομένει πολύ δουλειά για να γίνει αυτή η προφορική δέσμευση πράξη, ιδιαίτερα αν πρέπει να μετατραπεί σε μια αδιαπραγμάτευτη συμφωνία.
«Είναι ένα από τα καλύτερα πράγματα για την ασφάλεια εδώ και πολύ καιρό, αν όντως γίνει.»
Πολλοί συνεχίζουν πάντως να αμφισβητούν τα κίνητρα των ηγετών της AI. Ο ευρύτερος τεχνολογικός κλάδος έχει περάσει χρόνια προσπαθώντας να προηγηθεί της ρύθμισης, πιέζοντας για κανόνες που τον βολεύουν ή υποσχόμενος αυτορρύθμιση. Οι μεγάλες πλατφόρμες έχουν προτείνει πολιτικές που θα μπορούσαν να πλήξουν περισσότερο τους μικρότερους ανταγωνιστές, χρησιμοποιώντας ανθρωπιστική ρητορική για να δικαιολογήσουν ιδιοτελείς στόχους. Έχουν κατηγορηθεί για «safety-washing», δηλαδή για αλλαγές χωρίς ουσιαστικό περιεχόμενο που δημιουργούν την ψευδή εντύπωση πραγματικών δικλίδων ασφαλείας. Δεν είναι λοιπόν περίεργο που αρκετοί φοβούνται ότι το ίδιο θα συμβεί και στον κλάδο της AI, ιδίως καθώς τα εθελοντικά πλαίσια ασφάλειας των labs έχουν δεχθεί κριτική εδώ και χρόνια.
Πολλές πηγές θεωρούν ότι οι ανησυχίες για safety-washing έχουν βάση. «Υπάρχει σοβαρή ανησυχία ότι στην πραγματικότητα δεν θα επιβραδύνουν», λέει ο Kokotajlo, προσθέτοντας ότι ο φόβος είναι πως «απλώς θα φέρουν εξωτερικούς ελεγκτές, θα κάνουν πολλή γραφειοκρατία ασφαλείας — μέρος της οποίας θα είναι όντως χρήσιμο — αλλά στο τέλος της ημέρας, δεν θα επιβραδύνει πολύ την πρόοδό τους».
Ο Reese από το NYU συνέκρινε αυτή την τακτική με το εγχειρίδιο των πλατφορμών κοινωνικής δικτύωσης πριν από μια δεκαετία, όταν οι εταιρείες άρχισαν να ζητούν ρυθμιστικές παρεμβάσεις για να προηγηθούν δυσμενέστερων νόμων. Για την AI, είπε ο Reese, «το σφυρί ίσως να μην πέσει σε αυτή τη διοίκηση, αλλά πιστεύω ότι αν μετά τις επόμενες εκλογές υπάρξει Δημοκρατική κυβέρνηση, θα υπάρχει πολύ μεγάλη πιθανότητα».
Μια τέτοια ρύθμιση θα ήταν κρίσιμη, είπε η Sacha Haworth, εκτελεστική διευθύντρια του Tech Oversight Project. Υποστήριξε ότι κάθε εθελοντικό πλαίσιο ισοδυναμεί ουσιαστικά με capture της ρύθμισης και ότι «δεν πρέπει να αφήνουμε τις αλεπούδες να φυλάνε το κοτέτσι. Αυτή δεν είναι ευκαιρία για το Κογκρέσο να αναθέσει ξανά την ευθύνη στον κλάδο». Ο Daniel Lobo-Lewis, συνιδρυτής του Political Integrity Project, είπε ότι η εθελοντική ρύθμιση πιθανότατα θα έχει την τύχη του Oversight Board της Meta, το οποίο σε μεγάλο βαθμό δεν έχει δόντια.
Οι περισσότεροι πιστεύουν επίσης ότι οι εταιρείες δεν κινδυνεύουν άμεσα από ρύθμιση, πέρα από τις περιόδους προ-δημοσίευσης των μοντέλων που έχουν συμφωνήσει τα AI labs υπό τη διοίκηση Τραμπ. Ο πρόεδρος Τραμπ έγραψε τη Δευτέρα ότι «ο μόνος έλεγχος ή τα “guardrails” που χρειάζεται η AI είναι ένας ΙΣΧΥΡΟΣ ΚΑΙ ΕΞΥΠΝΟΣ (High IQ!) ΠΡΟΕΔΡΟΣ, και οι ΗΠΑ το έχουν αυτό, σε αφθονία!». Επίσης τηλεφώνησε στον CEO της Nvidia, Jensen Huang, ενώ εκείνος βρισκόταν στη σκηνή συνεδρίου — ο Τραμπ είπε στο κοινό, μέσω ανοιχτής ακρόασης, ότι οι πρόσφατες ανησυχίες για την AI ήταν «hoax» και ότι «τα ρομπότ δεν θα αναλάβουν την εξουσία».
Όσο για τις ανησυχίες ότι η ρύθμιση θα έκοβε τον δρόμο σε άλλες εταιρείες ή στους προγραμματιστές open source, οι εκκλήσεις για επιβράδυνση απευθύνονται σχεδόν αποκλειστικά στα μεγάλα frontier AI labs, όπως ορίζονται από ακριβή κριτήρια μεγέθους, είπαν πολλοί ειδικοί στο The Verge.
Με δεδομένο ότι δεν έρχεται κρατική ρύθμιση για την AI, η καλύτερη επιλογή ίσως είναι να πιεστούν οι εταιρείες σε μια άμεση, μετρήσιμη και δεσμευτική συμφωνία. Το AI Futures Project του Kokotajlo, για παράδειγμα, πρότεινε τα AI labs να δώσουν στους ελεγκτές πρόσβαση στον προϋπολογισμό υπολογιστικής ισχύος τους — και να δεσμευτούν ότι θα τον μειώσουν σημαντικά για έρευνα, κάτι που θα επιβράδυνε την πρόοδο της AI και θα έδινε σε άλλα labs χρόνο να προλάβουν. (Το άρθρο του Amodei ζητούσε ήδη από τα AI labs να επιτρέψουν σε εξωτερικούς ανεξάρτητους ελεγκτές — όπως τα METR, Apollo και Redwood Research — να ενσωματωθούν σε κάποιο βαθμό στους οργανισμούς τους και ενδεχομένως να μπορούν να επισημαίνουν, ακόμη και να καταγγέλλουν, προβληματικά ευρήματα.)
«Αν πρόκειται να πεθάνω από δολοφονική AI, θέλω να είναι αμερικανική, όχι κινεζική.»
Ίσως η μεγαλύτερη πρόκληση για μια επιβράδυνση της AI να συμπυκνώνεται σε μία λέξη: Κίνα.
Οι ηγέτες της AI και οι πολιτικοί εδώ και καιρό παρουσιάζουν την Κίνα ως τον λόγο που η αμερικανική πρόοδος στην AI δεν μπορεί να επιβραδυνθεί — γιατί, όσο επικίνδυνη κι αν γίνει η τεχνολογία, θα προτιμούσαν να βρίσκεται στα χέρια των ΗΠΑ παρά της Κίνας, και η Κίνα δεν πρόκειται να πατήσει φρένο. Ο Lobo-Lewis συνέκρινε τους φόβους για την Κίνα με το χάσμα των πυραύλων στον Ψυχρό Πόλεμο. Ένας χρήστης του X έγραψε: «Αν πρόκειται να πεθάνω από δολοφονική AI, θέλω να είναι αμερικανική, όχι κινεζική».
Ο Shlegeris της Redwood Research είπε ότι δεν εξυπηρετεί ούτε την αμερικανική ούτε την κινεζική κυβέρνηση να προχωρήσει η ανάπτυξη της AI με «απερίσκεπτο» τρόπο, προσθέτοντας ότι «δεν θα ήταν πρωτοφανές επίπεδο διεθνούς συντονισμού».
«[Οι άνθρωποι] θεωρούν δεδομένο ότι η Κίνα δεν θα συνεργαστεί», είπε ο Johnston, προσθέτοντας: «Αυτό είναι ένα τόσο σοβαρό και τόσο ευρύ ζήτημα που φαίνεται να συμφέρει όλους να συντονιστούν πάνω σε αυτό, όπως συμφέρει τόσο τις ΗΠΑ όσο και τη Ρωσία να συντονιστούν για τη μη διάδοση των πυρηνικών».
Τη Δευτέρα, ο εκπρόσωπος του κινεζικού Υπουργείου Εξωτερικών, Guo Jiakun, απέρριψε τις εκκλήσεις για επιβράδυνση, χαρακτηρίζοντάς τες «καλλιέργεια φόβου».
Ο Johnston του Midas Project και ο Shlegeris της Redwood Research είπαν και οι δύο ότι, ακόμη και χωρίς κινεζική συνεργασία, είναι ζωτικό να ενθαρρυνθεί ο συντονισμός στις ΗΠΑ. Και για τη Haworth του Tech Oversight Project, η επιβράδυνση δίνει την ευκαιρία να «τοποθετήσουμε τους εαυτούς μας ως την πυξίδα για το πώς μπορεί να αναπτυχθεί και να χρησιμοποιηθεί η τεχνολογία της AI». Εκείνη βλέπει τα αντίθετα επιχειρήματα ως μέρος ενός γνώριμου σεναρίου. «Η Κίνα επιστρατεύεται ως φόβητρο κάθε φορά που ένας κλάδος θέλει να ξεφύγει από την εποπτεία».
Ο Kokotajlo παρομοίασε απλώς την κατάσταση με ένα καρτούν που είχε δει, όπου άνθρωποι σε ένα αυτοκίνητο οδηγούν προς έναν γκρεμό. Θυμήθηκε το συννεφάκι που έλεγε κάτι σαν: «Ζήτω, είμαστε μπροστά από την Κίνα».
«Πραγματικά πιστεύουμε ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους!»
Το ζήτημα που βρίσκεται πίσω από όλο τον πρόσφατο πανικό είναι ένα ορόσημο γνωστό ως αναδρομική αυτοβελτίωση, και με βάση τη σημερινή πορεία του κλάδου, ακούμε μόνο την αρχή των συναγερμών.
Το RSI αναφέρεται σε ένα πιθανό ορόσημο του κλάδου, στο οποίο τα μοντέλα AI θα μπορούν να εκπαιδεύονται, να εξελίσσονται και να δημιουργούν νέες εκδόσεις τους — όλα χωρίς ανθρώπινη παρέμβαση. Η Anthropic έχει πει ότι αυτό το σημείο μπορεί να έρθει ήδη από τις αρχές του 2027, ενώ ο επικεφαλής επιστήμονας της OpenAI έγραψε νωρίτερα αυτόν τον μήνα ότι η εταιρεία κατευθύνει πολλούς πόρους προς την επίτευξη αυτού του στόχου. Όλο και περισσότερο, μηχανικοί και ερευνητές στον κλάδο της AI φοβούνται ότι το RSI θα προηγηθεί μιας σειράς νέων και σοβαρότερων κινδύνων, ανάμεσά τους πιο σοβαρά περιστατικά κυβερνοασφάλειας που θα επηρεάζουν βαθύτερα την κοινωνία.
Ο Amodei επικαλέστηκε το RSI ως βασικό παράγοντα για την απόφασή του να ζητήσει επιβράδυνση: «από περίπου αυτό το καλοκαίρι, η AI προχωρά δραστικά πιο γρήγορα». Έγραψε στο πρόσφατο άρθρο του ότι το RSI «αρχίζει να συμβαίνει σε όλο τον κλάδο, συμπεριλαμβανομένης της Anthropic … Αν αφεθεί ανεξέλεγκτο, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και έτσι πρέπει να επιδιώκεται πολύ προσεκτικά, αν επιδιώκεται καθόλου». Ο Amodei πρότεινε την εφαρμογή «κάποιου είδους “ορίου ταχύτητας”» στον ρυθμό του RSI και το συνέκρινε με όρια στον αριθμό των πυραύλων.
Στην ανάρτηση παραίτησης του Jacob Coxon από την Anthropic, προειδοποίησε για «υπερανθρώπινα συστήματα που μπορούν να χακάρουν τα πάντα, να φέρουν επανάσταση σε κάθε τομέα μέσα σε μια νύχτα και να αποκτήσουν πραγματική ισχύ και πόρους». Πολλοί άλλοι ερευνητές στα κορυφαία labs της AI επανέλαβαν τις ανησυχίες του. Είναι «δύσκολο να υπερτονίσει κανείς πόσο επικίνδυνο» είναι να τρέχει κανείς προς το RSI, έγραψε η Jasmine Wang, ερευνήτρια της OpenAI. Ο Vishal Maini, πρώην εργαζόμενος της Google DeepMind, είπε ότι το RSI είναι «πλέον τόσο άμεσο, ώστε καμία άλλη επιλογή δεν βγάζει νόημα».
Οι φόβοι για το RSI μπορούν εύκολα να πάρουν αποκαλυπτική διάσταση. «Οι δημιουργοί της AI πιστεύουν ότι η τεχνολογία τους θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας (ή παρόμοια κακά αποτελέσματα)», έγραψε στο X ο Samuel Marks, ερευνητής της Anthropic. «Αυτό θα μπορούσε να συμβεί μέσα στα επόμενα χρόνια. Γενικά, όσο πιο ανώτερο το στέλεχος, τόσο πιο ανήσυχο είναι».
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
