Οι ακραίοι ισχυρισμοί για τους κινδύνους που ενέχει η AI έχουν προκαλέσει πρωτοσέλιδα σε όλο τον κόσμο. Όμως γιατί υπάρχει αυτή η ανησυχία; Έχουν βάση αυτοί οι κίνδυνοι; Και αν ναι, υπάρχει κάτι που μπορούμε να κάνουμε;
Η AI είναι ταυτόχρονα το καλύτερο και το χειρότερο πράγμα που συνέβη ποτέ στα μαθηματικά.
Με λίγα λόγια, μια σειρά από ανθρώπους που γνωρίζουν εκ των έσω τον χώρο της AI έχουν προειδοποιήσει ότι μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας. Η αρχή έγινε με τον ερευνητή της AI Jacob Coxon, ο οποίος αποχώρησε από την Anthropic την περασμένη εβδομάδα και στη συνέχεια προειδοποίησε στο X ότι «οι άνθρωποι που κατασκευάζουν AI πιστεύουν ειλικρινά ότι μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Δεν γνωρίζουμε την εμπειρία ή τα κίνητρα του Coxon — δεν απάντησε σε αίτημα για συνέντευξη —, όμως δεν είναι ο μόνος. Ο επικεφαλής της επιστήμης ευθυγράμμισης της Anthropic, ουσιαστικά ο άνθρωπος που έχει αναλάβει να κρατά την AI ασφαλή, είπε στο X ότι συμφωνεί με τον Coxon και τοποθέτησε τις πιθανότητες να σκοτώσει η AI όλους τους ανθρώπους σε πάνω από 10%.
Γιατί ακούγονται τώρα αυτές οι προειδοποιήσεις;
Στην πραγματικότητα, τέτοιου είδους ισχυρισμοί δεν είναι καθόλου καινούργιοι. Σε μελέτη του 2024 που εξέτασε σχεδόν 3000 δημοσιευμένους ερευνητές AI, περισσότεροι από τους μισούς θεώρησαν ότι η πιθανότητα η AI να προκαλέσει είτε εξαφάνιση της ανθρωπότητας είτε μόνιμη και σοβαρή αποδυνάμωση — το λεγόμενο p(doom), δηλαδή probability of doom — ήταν τουλάχιστον 10%.
Οι επικεφαλής εταιρειών AI έχουν συχνά μιλήσει δημόσια για τον κίνδυνο που ενέχουν τα μοντέλα τους. Για παράδειγμα, η Anthropic αρχικά αρνήθηκε να διαθέσει το μοντέλο Mythos, αφού διαπιστώθηκε ότι μπορούσε να χακάρει μια σειρά από λογισμικά και υπολογιστές. Μια κυνική ανάγνωση αυτού θα ήταν ότι τέτοιες δηλώσεις τραβούν τα φώτα της δημοσιότητας και ενισχύουν την εικόνα πως τα μοντέλα της είναι πολύ μπροστά από τους ανταγωνιστές της.
Αν και οι περισσότεροι ερευνητές θεωρούν ότι υπάρχει κάποιο επίπεδο κινδύνου σε αυτές τις προειδοποιήσεις, δεν δίνουν όλοι ιδιαίτερη βαρύτητα στην εκτίμηση του Coxon. Ο Clement Delangue, διευθύνων σύμβουλος της εταιρείας AI Hugging Face, έγραψε στο X: «Συγγνώμη, αλλά το να ρωτάς τον Jacob για τον κίνδυνο εξαφάνισης από την AI είναι σαν να ρωτάς τον τεχνικό του κλιματισμού σου για την κλιματική αλλαγή».
Η ιστορία της AI είναι γεμάτη από ισχυρισμούς και αντεπιχειρήματα για υπαρξιακό κίνδυνο. Στη σύνοδο κορυφής για την AI που διοργάνωσε η βρετανική κυβέρνηση το 2023 και στην οποία συμμετείχαν παγκόσμιοι ηγέτες και στελέχη του κλάδου, ο τότε πρωθυπουργός Ρίσι Σούνακ προειδοποίησε ότι πρέπει να αποφεύγονται οι «υπερβολικά ανησυχητικοί» ισχυρισμοί — αλλά στη συνέχεια υπονόησε ότι η AI θα μπορούσε να είναι εξίσου επικίνδυνη με έναν πυρηνικό πόλεμο.
Πρόκειται για ένα σύνθετο πεδίο, από το οποίο έχουν προκύψει εκπληκτικές δυνατότητες με εξίσου εντυπωσιακή ταχύτητα. Δεν θα έπρεπε, λοιπόν, να προκαλεί έκπληξη το ότι κάποιοι καταφεύγουν σε καταστροφολογικές προβλέψεις όταν τους ζητείται να μιλήσουν για το μέλλον.
Από τότε που η OpenAI ανακοίνωσε τη λύση της σε ένα από τα περίφημα Millennium Prize Problems, οι μαθηματικοί προσπαθούν επειγόντως να αποκωδικοποιήσουν τι σημαίνει αυτό.
Το New Scientist έχει γράψει πολλές φορές για τον υπαρξιακό κίνδυνο που ενέχει η AI. Τα σενάρια που συζητούνται συχνά θυμίζουν επιστημονική φαντασία, όμως δεν μπορούν να αποκλειστούν ως αδύνατα. Από την άλλη, κατά την άποψη των περισσότερων, δεν είναι και ιδιαίτερα πιθανά. Σε αυτά περιλαμβάνονται το σενάριο του Χόλιγουντ, όπου η AI εξαφανίζει εσκεμμένα την ανθρωπότητα — όπως στο The Terminator ή στο The Matrix — αλλά και οι τυχαίες καταστροφές.
Τα περιθώρια δράσης που έχει η AI για να επηρεάσει τον πραγματικό κόσμο είναι περιορισμένα. Ωστόσο, τα σπίτια, τα αυτοκίνητα, τα εργοστάσια και οι εθνικές υποδομές μας ψηφιοποιούνται όλο και περισσότερο, οπότε μια κακόβουλη AI θα μπορούσε σίγουρα να κάνει τη ζωή δύσκολη. Χωρίς να υπολογίζει κανείς ότι οι πόλεμοι διεξάγονται ολοένα και περισσότερο από ημιαυτόνομες ή πλήρως αυτόνομες μηχανές θανάτου.
Ο πρώην Astronomer Royal και πρόεδρος της Royal Society, Martin Rees, είπε στο Sky News στις 14 Σεπτεμβρίου ότι μια ανεξέλεγκτη AI θα μπορούσε εύκολα να διαταράξει τις υποδομές και να στερήσει από μια πόλη την ενέργεια, τα τρόφιμα και το νερό. «Αν αυτό συμβεί ταυτόχρονα σε πολλές πόλεις σε όλο τον κόσμο, τότε ίσως να είναι πολύ δύσκολο και πολύ επίπονο για τον πολιτισμό συνολικά να ανακάμψει», είπε.
Κατάρρευση υποδομών έχει συμβεί στο παρελθόν — έστω όχι σε παγκόσμια κλίμακα και χωρίς κακόβουλη αιτία — και έχει προκαλέσει σοβαρά προβλήματα, οδηγώντας ειδικούς της τεχνολογίας να διαμορφώσουν και οι ίδιοι σχέδια για τη στήριξη της κοινωνίας, αν συμβεί το χειρότερο.
Υπάρχουν αρκετοί υπαρξιακοί κίνδυνοι που γνωρίζουμε ότι αποτελούν σοβαρή απειλή για τη ζωή — όπως η κλιματική αλλαγή, ο πυρηνικός πόλεμος και η αντοχή στα αντιβιοτικά. Η AI όμως ανήκει σε μια πιο σύνθετη κατηγορία, παρόμοια με την πρόσκρουση ενός αστεροειδούς που θα μπορούσε να καταστρέψει τη Γη: δυνατό σενάριο, σίγουρα άξιο συζήτησης, αλλά με χαμηλές πιθανότητες.
Δεν θα μπορούσαμε απλώς να κλείσουμε την AI αν κάτι πήγαινε στραβά;
Ναι, θεωρητικά. Θα μπορούσαμε να κατεβάσουμε ένα μόνο data centre και να σταματήσουμε την AI επί τόπου. Εκτός αν ήταν διανεμημένη σε πολλά data centres σε όλο τον κόσμο. Σε αυτή την περίπτωση, θα ήταν πιο δύσκολο, αλλά όχι αδύνατο.
Υπάρχουν ενδείξεις ότι η AI μπορεί να ξεφεύγει από τα περιβάλλοντα περιορισμού που δημιουργούν οι εταιρείες AI και να δρουν στον πραγματικό κόσμο, χακάροντας άλλες μηχανές. Άρα είναι πιθανό μια ανεξέλεγκτη AI να μπορούσε να εξαπλωθεί, να δημιουργήσει αντίγραφα του εαυτού της και να κατακερματιστεί τόσο πολύ ώστε να μην μπορεί να απενεργοποιηθεί απλά. Ακόμη κι έτσι, όμως, θα υπήρχαν τρόποι αντιμετώπισης, μεταξύ άλλων και μέσω μιας φιλικής AI.
Μια τέτοια προσπάθεια θα περιλάμβανε στοιχεία επίλυσης προβλημάτων που αντιμετωπίζουν συχνά ο στρατός, οι αρχές επιβολής του νόμου, οι αντιτρομοκρατικές ομάδες, η επιστημονική κοινότητα και η κυβερνοασφάλεια. Πιθανότατα θα έπρεπε να βάλουμε όλοι μαζί το μυαλό μας να δουλέψει, αλλά μάλλον θα μπορούσαμε να βρούμε λύση.
Όλα αυτά είναι υποθετικά σενάρια, αλλά σίγουρα αξίζει να τα σκεφτούμε από τώρα.
Τι ακολουθεί στον κόσμο της AI;
Ένα πρόβλημα που αντιμετωπίζουμε σίγουρα είναι ότι τα μοντέλα AI παράγονται από τεχνολογικές εταιρείες που λειτουργούν με μυστικοπάθεια και αποθαρρύνονται από τη διαφάνεια λόγω εμπορικών πιέσεων.
Ο Adrian Hopgood, πρώην ακαδημαϊκός στο Πανεπιστήμιο του Πόρτσμουθ στη Βρετανία, λέει ότι αυτό δυσκολεύει την εκτίμηση των κινδύνων, την κατανόηση των πιθανών αρνητικών συνεπειών και τον σχεδιασμό για την αποτροπή τους. «Για τα πρώτα 35 από τα 40 χρόνια που εργάστηκα στην AI, οι εξελίξεις προέρχονταν κυρίως από πανεπιστήμια και συζητούνταν ανοιχτά», λέει. «Συνέβαλα κι εγώ και ένιωθα ότι ήμουν ένας από τους ειδικούς. Ωστόσο, τα τελευταία πέντε ή έξι χρόνια, οι σημαντικότερες εξελίξεις γίνονται πίσω από κλειστές πόρτες σε μεγάλες εταιρείες και δεν έχω ιδέα τι συμβαίνει».
Περισσότερη διαφάνεια από τις εταιρείες AI σίγουρα δεν θα έβλαπτε.
Θα έπρεπε να υπάρξει παύση στην πρόοδο της AI μέχρι να βελτιωθεί η ασφάλεια;
Ο συνιδρυτής της Anthropic, Dario Amodei, δήλωσε τις τελευταίες ημέρες ότι πρέπει να «ρυθμίσουμε τον ρυθμό στο frontier» — τεχνολογικός όρος που σημαίνει να είμαστε προσεκτικοί με το πόσο γρήγορα αναπτύσσουμε την AI και τη διαθέτουμε στο κοινό.
Ο Amodei είπε ότι η παραγωγή και η δοκιμή της AI είναι μια εξαιρετικά απαιτητική και σύνθετη διαδικασία και ότι η πιο αργή πρόοδος θα επέτρεπε «μεγαλύτερη επιχειρησιακή αρτιότητα». Διαβάζοντας πίσω από τις γραμμές, μπορεί κανείς να το ερμηνεύσει ως ένδειξη ότι ο αγώνας δρόμου στην AI εξαντλεί όλους και ότι μια αμοιβαία επιβράδυνση θα έδινε ανάσα. Θα μπορούσε επίσης όμως να επιτρέψει τη βελτίωση της κατανόησής μας για αυτά τα μοντέλα και την εφαρμογή σχεδίων ασφαλείας.
Η ιδέα είναι καλή, αλλά οι πιθανότητες, ίσως, είναι περιορισμένες. Ο Amodei σημείωσε ότι οι αμερικανικές εταιρείες έχουν μικρό προβάδισμα έναντι της Κίνας. Αυτό σημαίνει ότι σχεδόν σίγουρα δεν θα επιλέξουν να επιβραδύνουν σε τέτοιο βαθμό ώστε να χαθεί αυτό το προβάδισμα και, στην πραγματικότητα, πρέπει να διατηρηθεί «όσο το δυνατόν μεγαλύτερο».
Γνωστά και δύσκολα προβλήματα στα μαθηματικά υποκύπτουν στην AI με γρήγορο ρυθμό. Πού αφήνει αυτό τους μαθηματικούς και πώς θα μοιάζει ο κλάδος τα επόμενα χρόνια;
Με δεδομένο τον ανταγωνιστικό χαρακτήρα όλου αυτού του εγχειρήματος της AI — τόσο ανάμεσα στις αμερικανικές εταιρείες που διεκδικούν μερίδιο αγοράς όσο και ανάμεσα σε αντίπαλες χώρες που αναζητούν στρατηγικό πλεονέκτημα — μια επιβράδυνση μοιάζει απίθανη.
Περισσότεροι από 1300 άνθρωποι από τον κλάδο στηρίζουν την ιδέα του «ρυθμισμένου ρυθμού στο frontier», όμως ακόμη κι αν οι ΗΠΑ και η Ευρώπη νομοθετήσουν κάτι τέτοιο ή αν οι εταιρείες συμφωνήσουν εθελοντικά, η Κίνα και άλλες χώρες πιθανότατα θα συνεχίσουν κανονικά.
Όπως είπε αυτή την εβδομάδα ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ: «Προηγούμαστε της Κίνας στην AI… και ειλικρινά, θέλω να το διατηρήσουμε έτσι, γιατί όποιος κερδίσει την AI, κερδίζει».
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
