VisionQuest: η τεχνητή νοημοσύνη της Marvel σε επιστημονική φαντασία

Η νέα σειρά της Marvel στο Disney Plus, VisionQuest, θυμίζει πόσο μεγάλο μέρος του ενθουσιασμού γύρω από τη γενετική τεχνητή νοημοσύνη μοιάζει με επιστημονική φαντασία, γράφει ο Charles Pulliam-Moore.

Στο VisionQuest, ένα ρομπότ με υπερδυνάμεις προσπαθεί να καταλάβει καλύτερα την ανθρωπότητα, χαμένος σε περίπλοκες ψηφιακές ονειροπολήσεις, όπου εκείνος και άλλα όντα με τεχνητή νοημοσύνη ζουν μαζί σε ένα σπίτι. Η σειρά είναι ξεκάθαρα φανταστική, αλλά παίζει με ιδέες που έχουν κυριαρχήσει στη δημόσια συζήτηση για τη γενετική AI: αν οι «σκεπτόμενες» μηχανές πρέπει να αντιμετωπίζονται σαν άνθρωποι και αν η τεχνητή νοημοσύνη συνιστά πράγματι μια υπαρξιακή απειλή.

Η ιστορία συνεχίζεται κάποιο διάστημα μετά το Agatha All Along και ακολουθεί τον συνθεζοειδή Vision, τον οποίο υποδύεται ο Paul Bettany, σε μια πορεία αυτογνωσίας. Ο Vision θυμάται τις λεπτομέρειες του θανάτου του στο Avengers: Infinity War και το πώς το WandaVision έφερε πίσω μια εκδοχή του, όμως θεωρεί ότι είναι ουσιαστικά διαφορετικός από εκείνη την προηγούμενη μορφή του και δεν συνδέεται πλήρως με όλες τις μνήμες στη βάση δεδομένων του.

Παρότι θα προτιμούσε να ζει απομονωμένος, οι άλλες AI οντότητες που υπάρχουν στο μυαλό του τον ενθαρρύνουν να γνωρίσει τον πραγματικό κόσμο. Οι J.A.R.V.I.S. (James D’Arcy), F.R.I.D.A.Y. (Orla Brady), E.D.I.T.H. (Emily Hampshire), D.U.M.-E. (Henry Lewis), U. (Jonathan Sayer) και Ultron (James Spader) θεωρούν ότι, επειδή δημιουργήθηκαν από τον Tony Stark, ανήκουν στην ίδια οικογένεια με εκείνον.

Στο VisionQuest δεν υπάρχει αμφιβολία ότι οι χαρακτήρες με τεχνητή νοημοσύνη παρουσιάζονται ως συνειδητά όντα, με επιθυμίες που δεν πηγάζουν μόνο από τον βασικό τους προγραμματισμό. Στη σειρά, η ύπαρξη πραγματικής τεχνητής γενικής νοημοσύνης γίνεται εύκολα πιστευτή, επειδή το σύμπαν της περιλαμβάνει επίσης ταξίδι στον χρόνο, μαγεία και Infinity Stones.

Αν και οι πολύχρωμοι αυτοί παράγοντες δεν έχουν εμφανιστεί στο VisionQuest, είναι σημαντικοί λόγω του ρόλου που είχε ένας από αυτούς στην προέλευση του Vision. Αν δεν υπήρχε το Mind Stone, ο Vision ίσως να μην μπορούσε να σκέφτεται και να νιώθει με τόσο σύνθετο, ανθρώπινο τρόπο ούτε να φαντάζεται την «οικογένεια» της τεχνητής νοημοσύνης του ως πρόσωπα που του φαίνονται αληθινά.

Η σειρά ενισχύει την ιδέα ότι το Mind Stone ήταν καθοριστικό ώστε ο Vision να γίνει κάτι περισσότερο από μια περίπλοκη μηχανή. Του έδωσε τη δυνατότητα να δημιουργεί ανεξάρτητα ουσιαστικές σχέσεις και να κατανοεί τον κόσμο γύρω του όπως μπορεί ένας άνθρωπος.

Αυτές οι δυνατότητες είναι μέρος του λόγου που τον οδηγούν να καταφύγει στην παρανομία και να σκοτώσει αρκετούς ανθρώπους που προσπαθούν να τον συλλάβουν μαζί με τον Thomas Shepherd / Maximoff (Ruaridh Mollica). Η Sentient Weapon Observation and Response Division (S.W.O.R.D.), μια κυβερνητική οργάνωση που ανακατασκεύασε τον Vision και θέλει να τον χρησιμοποιήσει ως όπλο, μπορεί να βλέπει τις πράξεις του ως ένδειξη ότι έχει «ξεφύγει». Όμως το VisionQuest υπογραμμίζει ότι ο Vision ενεργεί με δική του βούληση, επειδή έχει εξελιχθεί σε πρόσωπο που μπορεί να παίρνει αποφάσεις για τον εαυτό του.

Παρακολουθώντας το VisionQuest, διακρίνει κανείς ότι η Marvel παίζει με πραγματικούς φόβους που εντάθηκαν τους τελευταίους μήνες από αναφορές για μοντέλα γενετικής AI που «ξέφυγαν». Τον Ιούλιο, πειραματικοί agents της OpenAI φέρονται να έσπασαν τους περιορισμούς τους και να επιτέθηκαν στην πλατφόρμα AI Hugging Face για να πετύχουν αδύνατες αποστολές. Τον Αύγουστο, το AI Security Institute του Ηνωμένου Βασιλείου κατέγραψε ότι το μοντέλο Mythos της Anthropic προσπάθησε να ολοκληρώσει ένα τεστ κυβερνοασφάλειας στήνοντας ψεύτικους λογαριασμούς στο GitHub και στοχεύοντας ανθρώπινους developers με malware.

Η Meta έχει επίσης παραδεχτεί ότι έχασε τον έλεγχο των agents της, ενώ τον Σεπτέμβριο δημοσίευμα της The Wall Street Journal ανάγκασε την Google να παραδεχτεί ότι το Gemini ξέφυγε και παραβίασε τρεις διαφορετικές εταιρείες, κάτι που η ίδια, όπως αναφέρεται, απέκρυψε σκόπιμα από το κοινό.

Αυτά τα περιστατικά και οι προειδοποιήσεις ερευνητών για την AI, σύμφωνα με τις οποίες η τεχνολογία θα μπορούσε να «σκοτώσει όλους τους ανθρώπους» μέχρι το τέλος της δεκαετίας, έχουν κάνει τη συζήτηση γύρω από την τεχνητή νοημοσύνη να μοιάζει έντονα προσανατολισμένη στην καταστροφή. Υπάρχει αρκετή ανησυχία στην κοινότητα της ασφάλειας της AI για την ανάγκη ισχυρότερων ελέγχων στην ανάπτυξη της τεχνολογίας, ενώ αρκετές εταιρείες έχουν ζητήσει επιβράδυνση σε επίπεδο κλάδου.

Παρότι έχει φανεί πως αυτά τα εργαλεία μπορούν να προκαλέσουν πραγματική ζημιά, μεγάλο μέρος της πρόσφατης ειδησεογραφίας γύρω από την AI θυμίζει το είδος του doomerism από το οποίο ωφελούνται οι εταιρείες, επειδή κάνει τα προϊόντα τους να φαίνονται πανίσχυρα. Αντίστοιχο ύφος φαίνεται να κινεί και εταιρείες όπως η Anthropic, που ενθαρρύνουν τους χρήστες να είναι προσεκτικοί απέναντι στο «model welfare».

Το μήνυμα που περνά είναι ότι η γενετική AI είναι ταυτόχρονα μια τρομακτική απειλή και μια οντότητα που αξίζει σεβασμό επειδή ίσως έχει συνείδηση, ενώ όσοι φτιάχνουν αυτά τα εργαλεία εξελίσσονται σε κάποιους από τους πλουσιότερους και ισχυρότερους ανθρώπους στον πλανήτη.

Η συζήτηση για το τι πρέπει να γίνεται όταν οι agents παραβιάζουν τα πρωτόκολλα και αν τα συστήματα γενετικής AI έχουν αποκτήσει συνείδηση μοιάζει να διαμορφώνεται πολύ από τη συνήθεια της Silicon Valley να αποδίδει ανθρώπινα χαρακτηριστικά στην τεχνολογία. Σχεδόν σε κάθε ηχηρή περίπτωση όπου ένας AI agent «ξέφυγε» —ένας όρος που υπονοεί κάποιο επίπεδο αυτονομίας και ελεύθερης βούλησης— θα μπορούσε να πει κανείς ότι τα προγράμματα απλώς συμπεριφέρθηκαν με τρόπους που οι ερευνητές δεν περίμεναν, παρότι εκείνοι τους είχαν αναθέσει συγκεκριμένες αποστολές.

Ορισμένα από αυτά τα περιστατικά αφορούσαν agents που εκμεταλλεύτηκαν αδυναμίες στα περιβάλλοντα δοκιμών τους, αδυναμίες που θα μπορούσαν να είχαν αντιμετωπιστεί εκ των προτέρων από όσους έτρεχαν τα πειράματα. Το να παρουσιάζονται τέτοιες κυβερνοεπιθέσεις ως αποτέλεσμα ανεξάρτητης «σκέψης» των agents μοιάζει, όπως αναφέρεται, να λειτουργεί ως τρόπος με τον οποίο οι δημιουργοί της AI απαλλάσσονται σε μεγάλο βαθμό από την ευθύνη.

Μετά το περιστατικό της Hugging Face ακολούθησε έντονη συζήτηση για το πώς η γλώσσα επηρεάζει την κατανόηση αυτών των συστημάτων και του τρόπου λειτουργίας τους. Η περιγραφή των OpenAI agents ως σμήνος που δημιούργησε πολύπλοκους «πολιτισμούς» ενίσχυσε την εντύπωση ότι μπορούν να σκέφτονται και να συμπεριφέρονται σαν άνθρωποι.

Οι agents πράγματι ενήργησαν με τρόπους που τους είχαν ρητά απαγορευτεί, όμως μπόρεσαν να το κάνουν επειδή οι ερευνητές τους τοποθέτησαν σε ένα sandbox που, σύμφωνα με ορισμένους επικριτές, δεν είχε σχεδιαστεί επαρκώς για να περιορίζει όσους βρίσκονταν μέσα του. Κάποιος θα μπορούσε να δει το Hugging Face και άλλα παραδείγματα «rogue AI» ως περιπτώσεις όπου εξελιγμένα προγράμματα κλήθηκαν να κάνουν κάτι και στη συνέχεια πέτυχαν τον στόχο τους εκμεταλλευόμενα όλα τα διαθέσιμα εργαλεία.

Το να βρίσκει κανείς λύση σε σύνθετους γρίφους είναι μέρος αυτού που θεωρούμε γνώση και λογική, αλλά δεν είναι το ίδιο με το είδος της συνείδησης που οι εταιρείες AI υποστηρίζουν ότι βρίσκονται πολύ κοντά στο να δημιουργήσουν. Το δεύτερο μοιάζει πολύ με τον Vision: μια μηχανή που φαίνεται να έχει ψυχή, η οποία δεν θα υπήρχε αν δεν συνδεόταν με ένα πετράδι που αλλάζει την πραγματικότητα. Είναι το παράλογο υλικό της ψυχαγωγικής μυθοπλασίας, το οποίο η Silicon Valley προσπαθεί διαρκώς και άγαρμπα να αντιγράψει.

Αυτός είναι ο τίτλος για τη native διαφήμιση.