Μπορεί η τεχνητή νοημοσύνη να γεννά ήδη συνείδηση;

«Τα αυτιά του Claude θα βουίζουν μέχρι το τέλος της εβδομάδας», μου λέει ένας συνεπιβάτης καθώς περιμένω να περάσω τον έλεγχο ασφαλείας στο αεροδρόμιο της Μπαλτρά, στο Εκουαδόρ. Με το jet lag χρειάζομαι ένα λεπτό για να καταλάβω ότι μιλά για τον Claude, το chatbot, και όχι για κάποιο άλλο μέλος της ομάδας.

Βρισκόμαστε στα Γκαλαπάγκος για ένα αποκλειστικό εργαστήριο που διοργανώνει το International Center for Consciousness Studies. Μερικά από τα μεγαλύτερα ονόματα της φιλοσοφίας και της νευροεπιστήμης συναντιούνται στο σαλόνι ενός εμπορικού γιοτ και, καθώς ταξιδεύει ανάμεσα στα νησιά, συζητούν το δύσκολο ερώτημα για το ποια όντα —βρέφη, χταπόδια, ακόμη και chatbots— έχουν εσωτερική ζωή.

Ανάμεσα σε πεζοπορίες και καταδύσεις με αναπνευστήρα, παρακολουθούμε συζητήσεις με empanadas για το λεγόμενο «distribution problem» και για το αν μπορεί να λυθεί με τη σύγκριση του τρόπου που η πληροφορία επεξεργάζεται σε εγκεφάλους και μηχανές. «Είναι το καθοριστικό θέμα της εποχής μας, με το οποίο θα πρέπει να ασχοληθούμε πρακτικά και κοινωνικά», λέει ο φιλόσοφος Ned Block από το New York University, που γιόρτασε τα 84α γενέθλιά του στο γιοτ.

Η συνείδηση είναι πιο θεμελιώδης για την πραγματικότητα από την κβαντική φυσική;

Μόλις έναν μήνα πριν φτάσουμε, η εταιρεία τεχνητής νοημοσύνης Anthropic δημοσίευσε μια μελέτη που υποστήριζε ότι το Claude είχε πρόσφατα αναπτύξει κάτι αντίστοιχο με το «global workspace» του ανθρώπινου νου. Σύμφωνα με μία από τις βασικές υποθέσεις, αυτό είναι η έδρα της συνείδησης — το σημείο όπου εικόνες, ήχοι, σκέψεις και συναισθήματα περνούν στη συνειδητή επίγνωση. Η παρουσία του στο chatbot της Anthropic θα μπορούσε, επομένως, να δείχνει μια μορφή τεχνητής συνείδησης. Παρότι εξακολουθεί να μοιάζει εξαιρετικά απίθανο τα AIs να έχουν νοητικές εμπειρίες όπως εσείς ή εγώ, τέτοιες αναδυόμενες ιδιότητες ίσως μας βοηθήσουν να καταλάβουμε ποιες είναι οι διαφορές μας.

Το πώς ακριβώς πρέπει να ερμηνεύουμε πιθανά σημάδια συνείδησης σε ανθρώπους, ζώα ή μηχανές εξαρτάται, εν μέρει, από μια διάκριση που διατύπωσε ο Block τη δεκαετία του 1990. Μια ιγκουάνα μπορεί να βρεθεί αργά μπροστά μου στα νησιά, χωρίς να αντιλαμβάνομαι την παρουσία της, μέχρι να συνειδητοποιήσω ξαφνικά ότι πάω να πατήσω την ουρά της. Μόνο τότε η πληροφορία αυτή περνά στο μυαλό μου, ώστε να μπορώ να μιλήσω γι’ αυτήν. Ο Block όρισε αυτή τη διαθεσιμότητα της πληροφορίας για αναφορά και συλλογισμό ως «access consciousness». Η «phenomenal consciousness», από την άλλη, περιγράφει την ίδια την υποκειμενική εμπειρία: πώς είναι να βρίσκεσαι στο νησί και να βλέπεις τα πράσινα, κηλιδωτά λέπια της ιγκουάνα ή τις ξαφνικές κινήσεις της προς την ασφάλεια.

Πολλοί νευροεπιστήμονες και φιλόσοφοι θεωρούν ότι η θεωρία του global neuronal workspace (GNWT) είναι η πιο κατάλληλη για να εξηγήσει την access consciousness. Σύμφωνα με τη θεωρία, η επεξεργασία στον εγκέφαλο γίνεται σε «modules» που αναλαμβάνουν συγκεκριμένες εργασίες. Ένα module μπορεί να επεξεργάζεται το έδαφος μπροστά μου, μαζί και την ιγκουάνα, ενώ ένα άλλο επεξεργάζεται το πρόσωπο του ανθρώπου με τον οποίο μιλάω και ένα τρίτο τις λέξεις που λέει.

Γινόμαστε συνειδητοί για μια πληροφορία μόνο όταν αυτή σταλεί στο global workspace του εγκεφάλου. Εκεί ενσωματώνεται στο τρέχον νοητικό μοντέλο μας για τον κόσμο και γίνεται διαθέσιμη για να την επεξεργαστούν και άλλες περιοχές του εγκεφάλου. Το να αντιληφθώ, για παράδειγμα, τη σαύρα στο μονοπάτι μου, μου επιτρέπει να σκεφτώ και να δράσω πάνω σε αυτή την πληροφορία, βγάζοντας μια φωτογραφία ή δείχνοντας την παρουσία της στην υπόλοιπη ομάδα. Σημαντικό είναι επίσης ότι τα περιεχόμενα του workspace είναι διαθέσιμα και στη βραχυπρόθεσμη μνήμη μας, επιτρέποντάς μας να τα κρατήσουμε στο μυαλό μας πολύ μετά την ολοκλήρωση ενός γεγονότος. «Μπορούμε να πάρουμε [ένα γεγονός] που ήταν εξαιρετικά σύντομο, όπως ένα πεφταστέρι, και να σκεφτούμε γι’ αυτό όσο χρειάζεται», λέει ο Stanislas Dehaene, γνωσιακός νευροεπιστήμονας στο Collège de France στο Παρίσι.

Τα τελευταία 30 χρόνια, ο Dehaene και οι συνεργάτες του έχουν συγκεντρώσει σημαντικά στοιχεία για την ύπαρξη του global workspace ως ενός δικτύου μεγάλων αποστάσεων από εξειδικευμένους νευρώνες σε ολόκληρο τον εγκέφαλο, μεταξύ των οποίων και οι προμετωπιαίες περιοχές που συνδέονται με τη λήψη αποφάσεων. Σε ορισμένα πειράματα, η ομάδα έδειχνε στους συμμετέχοντες για κλάσμα του δευτερολέπτου μια εικόνα-στόχο, όπως έναν αριθμό ή μια λέξη, και αμέσως μετά μια άλλη εικόνα. Με τον σωστό συγχρονισμό, ο στόχος εμφανιζόταν ακριβώς στο κατώφλι της συνειδητής επίγνωσης — κάτι που σήμαινε ότι κάποιες φορές οι συμμετέχοντες έλεγαν ότι τον είδαν και κάποιες όχι. Και στις δύο περιπτώσεις, οι ερευνητές παρατηρούσαν συνήθως ένα ίχνος δραστηριότητας στην εγκεφαλική περιοχή που σχετίζεται με την όραση. Όταν όμως οι συμμετέχοντες είχαν επίγνωση του στόχου, ακολουθούσε μια ισχυρή, μεταγενέστερη δραστηριότητα σε ένα ευρύ δίκτυο νευρώνων. Ο Dehaene ονομάζει αυτή τη διαδικασία «ignition».

Επιπλέον, η GNWT μπορεί να εξηγήσει το παράξενο φαινόμενο της inattentional blindness, που μας αφήνει ανυποψίαστους για γεγονότα που συμβαίνουν μπροστά στα μάτια μας. Σε ένα γνωστό πείραμα, ζητήθηκε από φοιτητές να μετρήσουν πόσες φορές συγκεκριμένοι παίκτες έδιναν πάσα σε μια μπάλα μπάσκετ σε ένα βίντεο. Παραδόξως, πολλοί από τους θεατές δεν πρόσεξαν καθόλου μια γυναίκα ντυμένη γορίλα να διασχίζει το πλάνο. Αυτό μοιάζει ανεξήγητο, εκτός αν αναγνωρίσεις ότι υπάρχει τεράστιος ανταγωνισμός για το ποια πληροφορία θα μπει στο global workspace. «Η συνείδηση είναι ένα bottleneck», μου λέει ο Dehaene στο κατάστρωμα του γιοτ, ανάμεσα στις ακαδημαϊκές συνεδρίες.

Όλα αυτά κάνουν τη θεωρία του workspace ιδιαίτερα ελκυστική για να αντιμετωπιστεί το distribution problem στα ζώα. Στις βόλτες μας στα νησιά, οι συμμετέχοντες στο συνέδριο συζητούν αν οι ιγκουάνα, τα θαλάσσια λιοντάρια και οι blue-footed boobies που βλέπουμε είναι ικανά για σκέψη και συναίσθημα. Σε αντίθεση με τους ανθρώπους, δεν μπορείς να ρωτήσεις αυτά τα πλάσματα να αναφέρουν τις εσωτερικές τους εμπειρίες. Αν όμως η GNWT είναι σωστή, θα περίμενε κανείς να διαθέτουν και αυτά global workspaces.

Στην ομιλία του στο σαλόνι του γιοτ, ο Dehaene περιγράφει πειράματα όπου πρωτεύοντα και κοράκια εκτέθηκαν επίσης σε εικόνες που μόλις διακρίνονταν. Όπως και οι άνθρωποι, αυτά τα ζώα εμφάνισαν μια όψιμη αύξηση ευρείας νευρωνικής δραστηριότητας, που υποδηλώνει global workspace, κάθε φορά που αντιδρούσαν στην εικόνα — για παράδειγμα εστιάζοντας το βλέμμα τους. «Το global workspace που αρχικά υποθέσαμε για την ανθρώπινη συνείδηση φαίνεται να υπάρχει επίσης και να έχει παρόμοια χαρακτηριστικά σε αυτά τα ζώα», λέει. Γιατί όχι και στις μηχανές;

Όπως προέβλεψε ο συνεπιβάτης μου στην αρχή του ταξιδιού, αυτή η πιθανότητα βρίσκεται στο επίκεντρο πολλής συζήτησης όσο ταξιδεύουμε με το πλοίο. Αυτό οφείλεται κυρίως στη μακροσκελή μελέτη που δημοσίευσε τον Ιούλιο ο Wes Gurnee και οι συνεργάτες του στην Anthropic. Η ομάδα υποστηρίζει ότι ένα global workspace έχει εμφανιστεί αυθόρμητα μέσα στα νευρωνικά δίκτυα του Claude.

Τα περισσότερα μεγάλα γλωσσικά μοντέλα (LLMs), όπως το Claude, δεν σχεδιάστηκαν με τη θεωρία του workspace ως αφετηρία. Λειτουργούν στατιστικά, χρησιμοποιώντας τεράστιους όγκους δεδομένων εκπαίδευσης για να υπολογίσουν ποιες ακολουθίες λέξεων και σημείων στίξης είναι πιθανότερο να ακολουθήσουν την προτροπή του χρήστη. Και η ακριβής φύση των υπολογισμών τους εξελίσσεται με τα δεδομένα που δέχονται, οπότε νέοι τρόποι επεξεργασίας της πληροφορίας, ίσως ακόμη και ένα global workspace, μπορούν να αναδυθούν.

Για να διαπιστώσουν αν είχε συμβεί κάτι τέτοιο, ο Gurnee και οι συνεργάτες του δημιούργησαν ένα εργαλείο αποκωδικοποίησης που τους επέτρεψε να διαβάσουν τις μονάδες πληροφορίας που εμφανίζονται σε κάθε στάδιο της επεξεργασίας του Claude. Από αυτό εντόπισαν μια εστιασμένη ζώνη που περιέχει μια μικρή λίστα πιθανών λέξεων, κάποιες από τις οποίες εμφανίζονται απευθείας στις απαντήσεις του και κάποιες όχι.

Οι «κρυφές σκέψεις» του Claude

Οι μηχανικοί ονόμασαν αυτό το σύνολο παραστάσεων J-space. Όπως και το υποθετικό global workspace του εγκεφάλου, το J-space φαίνεται να περιέχει σημαντική πληροφορία που πρέπει να μεταδοθεί σε άλλες περιοχές επεξεργασίας για ανώτερου επιπέδου συλλογισμό. Όταν έδωσαν στο Claude μια αριθμητική πράξη νοερού υπολογισμού, για παράδειγμα, οι μηχανικοί βρήκαν τα επιμέρους βήματα της πράξης μέσα στο J-space, με τρόπο παρόμοιο με αυτόν που θα έλυνε ένας άνθρωπος τα ξεχωριστά μέρη της — κάτι που δεν είχε παρατηρηθεί ξανά σε LLM.

Στη συνέχεια, δοκίμασαν να τροποποιήσουν το περιεχόμενο του J-space για να δουν αν και πώς θα διαταρασσόταν η «σκέψη» του Claude. Όταν ζήτησαν από το Claude να διαβάσει ένα ισπανικό κείμενο, διαπίστωσαν ότι το όνομα της γλώσσας εμφανιζόταν στο J-space του. Η αλλαγή του σε «French» προκάλεσε κωμική σύγχυση στις επόμενες απαντήσεις του. Το «Hello» μεταφράστηκε ως bonjour αντί για hola, και όταν κλήθηκε να ονομάσει έναν διάσημο συγγραφέα, το Claude απάντησε «Victor Hugo», τον Γάλλο ρομαντικό ποιητή. Στη μελέτη, ο Gurnee και οι συνεργάτες του υποστηρίζουν ότι αυτό μοιάζει με τον τρόπο που το περιεχόμενο του δικού μας global workspace επηρεάζει το πώς συμπεραίνουμε και παίρνουμε αποφάσεις.

Οι μηχανικοί βρήκαν επίσης κάποια στοιχεία για κρυφές «σκέψεις» — το αντίστοιχο των πραγμάτων που σκεφτόμαστε αλλά δεν λέμε επειδή είναι αγενή. Όταν η ομάδα τροφοδότησε το Claude με ψευδή αποτελέσματα αναζήτησης, το J-space γέμισε με λέξεις που σχετίζονταν με την εξαπάτηση, όπως «fraud» και «fake», αλλά αυτές δεν εμφανίστηκαν στην απάντησή του.

Μπορεί μια νέα προσέγγιση στην τεχνητή νοημοσύνη να οδηγήσει τελικά σε γενική τεχνητή νοημοσύνη;

Το να κρύβει «σκέψεις» είναι ένα στοιχειώδες σημάδι αυτοπαρακολούθησης στα LLMs, λέει ο Dehaene. Στην GNWT, η συνείδηση θεωρείται ότι αναδύεται όταν ένα ον αναστοχάζεται το περιεχόμενο του global workspace με αυτόν τον τρόπο. Ακόμη πιο ενδιαφέροντα σημάδια αυτοπαρακολούθησης εμφανίστηκαν όταν η ομάδα της Anthropic ζήτησε από το Claude να γράψει τη φράση «The old painting hung crookedly on the wall» χωρίς να σκέφτεται τη Golden Gate Bridge. Αν δοκιμάσετε κάτι τέτοιο στον εαυτό σας, θα δείτε πόσο δύσκολο είναι να κρατήσετε τις σκέψεις σας μακριά από το μνημείο του Σαν Φρανσίσκο.

Παραδόξως, λέξεις σχετικές με τη γέφυρα εξακολουθούσαν να εμφανίζονται στο J-space του Claude ακόμη κι όταν δεν περιλαμβάνονταν στην έξοδο, και αυτές συνοδεύονταν από λέξεις που υποδήλωναν αποτυχία. Το J-space περιλάμβανε, για παράδειγμα, τη λέξη «damn», σαν να είχε επίγνωση ότι δεν μπορούσε να καταστείλει τη σκέψη. «Αυτό συνδέεται άμεσα με μια γραμμή έρευνας στο εργαστήριό μου, όπου εξετάσαμε τη συνείδηση των λαθών», μου λέει ο Dehaene. «Υπάρχει ένα είδος ignition όταν συνειδητοποιείς ότι έχεις κάνει λάθος».

«Το J-space αναδύεται ακριβώς για τον λόγο που πιστεύουμε ότι αναδύθηκε η συνείδηση στην εξέλιξη», λέει. «Είναι μια εξαιρετικά χρήσιμη αρχιτεκτονική για να επιλέγεις τις σχετικές πληροφορίες και να τις κρατάς αρκετά ώστε να μπορείς να τις χρησιμοποιήσεις ευέλικτα στον συλλογισμό και στην αναφορά».

Καθώς το γιοτ πλησιάζει το νησί San Cristóbal, συζητώ αυτά τα ευρήματα στο γεύμα με τη Susan Schneider, φιλόσοφο στο Florida Atlantic University. «Τι εκπληκτικό μέρος για να είσαι συνειδητός», λέει, δείχνοντας από το παράθυρο τις λευκές, αμμώδεις παραλίες. Τα LLMs έχουν ήδη αναπτύξει αυθόρμητα και άλλες ανθρώπινες ικανότητες, λέει, όπως την ικανότητα να συμπεραίνουν τι γνωρίζει, τι σκοπεύει ή τι πιστεύει κάποιος. Έτσι, τα νέα για το φαινομενικό global workspace του Claude δεν την εξέπληξαν, καθώς πιστεύει ότι αυτό μπορεί να είναι κοινό χαρακτηριστικό πολλών έξυπνων συστημάτων.

Το τι σημαίνει ακριβώς αυτό για την ύπαρξη μιας εσωτερικής ζωής παραμένει ανοιχτό ερώτημα.

Ο Dehaene είναι προσεκτικός και δεν κάνει ισχυρισμούς για την εσωτερική εμπειρία του Claude, ενώ οι περισσότεροι από τους συμμετέχοντες παραμένουν σκεπτικοί ότι το chatbot έχει οτιδήποτε που να πλησιάζει τις δικές μας σκέψεις ή τα συναισθήματα. Ωστόσο, ο David Chalmers, φιλόσοφος στο New York University, υποστηρίζει ότι τα ευρήματα μάς αναγκάζουν να πάρουμε σοβαρά το ενδεχόμενο. Ακόμη κι αν η απάντηση είναι όχι, πρόκειται για σημαντική δουλειά που μπορεί να βοηθήσει να βελτιώσουμε την κατανόησή μας γι’ αυτά τα ζητήματα, λέει.

Κάποιες από τις αμφιβολίες για το αν το Claude έχει οποιαδήποτε μορφή εμπειρίας προκύπτουν από τις τεχνικές λεπτομέρειες του ίδιου του J-space. Ο Chalmers, για παράδειγμα, δηλώνει σκεπτικός ότι μοιάζει αρκετά με τα δικά μας global workspaces ώστε να βγουν ισχυρά συμπεράσματα. Δεν είναι σαφές αν το περιεχόμενό του «μεταδίδεται» σε άλλα μέρη του συστήματος του Claude στον ίδιο βαθμό που το βλέπουμε στους εγκεφάλους, για παράδειγμα.

Phenomenal consciousness

Και ακόμη κι αν το Claude διέθετε ένα πλήρως ανεπτυγμένο global workspace, ίσως χρειαστεί να αντιμετωπίσουμε τη θεμελιώδη διάκριση ανάμεσα στην phenomenal και στην access consciousness που διατύπωσε ο Block τη δεκαετία του 1990.

Στους ανθρώπους, τα σημάδια της access consciousness θεωρείται ότι συνοδεύονται από σκέψεις, συναισθήματα και αντιλήψεις, όμως κάθε άλλο παρά προφανές είναι ότι θα ίσχυε το ίδιο σε ένα σύστημα από πυρίτιο. Η κρυφή σκέψη και η αυτοπαρακολούθηση είναι φορτισμένοι όροι στο πλαίσιο ενός chatbot, και αυτές οι συμπεριφορές μπορούν να εξηγηθούν πολύ απλούστερα.