Όταν μιλάμε με ένα μεγάλο γλωσσικό μοντέλο (LLM) όπως τα ChatGPT και Claude, συχνά νιώθουμε ότι επικοινωνούμε με μια άλλη συνειδητή διάνοια. Αλλά ισχύει κάτι τέτοιο;
Ορισμένοι γνωστοί επιστήμονες, όπως οι Geoff Hinton και Richard Dawkins, λένε πως ναι. Οι περισσότεροι ειδικοί, ωστόσο, παραμένουν επιφυλακτικοί, υποστηρίζοντας ότι οι εντυπωσιακές γνωστικές ικανότητες των LLM εκδηλώνονται χωρίς συνείδηση.
Πρόσφατα, ερευνητές της Anthropic, της εταιρείας πίσω από το Claude, μπήκαν σε αυτή τη συζήτηση με ένα ενδιαφέρον εύρημα. Υποστηρίζουν ότι το Claude διαθέτει ένα κανονικά αόρατο σύνολο αναπαραστάσεων πληροφορίας που καθοδηγούν τον εσωτερικό του συλλογισμό και την προφορική του έξοδο.
Εδώ αρχίζουν τα πιο ενδιαφέροντα. Οι ερευνητές επιχειρούν να ερμηνεύσουν αυτό το εύρημα μέσω μιας επιδραστικής θεωρίας της συνείδησης, της λεγόμενης θεωρίας του «global workspace».
Εικονογράφηση του εσωτερικού «workspace» του Claude / Anthropic
Τι είναι η θεωρία του Global Workspace;
Προτάθηκε αρχικά από τον ψυχολόγο Bernard Baars το 1998 και αναπτύχθηκε περαιτέρω από τον νευροεπιστήμονα Stanislas Dehaene και συνεργάτες του. Η θεωρία υποστηρίζει ότι η συνείδηση περιλαμβάνει τη δραστηριότητα ενός «καθολικού χώρου εργασίας»—ενός κόμβου επεξεργασίας στον νου ή τον εγκέφαλο που ολοκληρώνει και μεταδίδει πληροφορίες, ώστε να μπορούν να χρησιμοποιηθούν για συλλογισμό, έλεγχο συμπεριφοράς και ομιλία.
Σε ένα προσεγμένο βίντεο που εξηγεί τη δουλειά, η Anthropic απεικονίζει τα περιεχόμενα του «global workspace» του Claude ως ιστιοφόρα που ταξιδεύουν σε μια απέραντη θάλασσα ασυνείδητης νοητικής δραστηριότητας.
Πώς πρέπει να δούμε αυτές τις εξελίξεις; Αποτελούν ένδειξη τεχνητής συνείδησης; Κι αν ναι, πόσο ισχυρή είναι αυτή η ένδειξη;
Τι είναι ένας «global workspace» στην πράξη;
Το πρώτο ερώτημα είναι αν το Claude έχει πράγματι έναν «global workspace». Αυτό δεν είναι απλό, γιατί η θεωρία δεν δίνει έναν αυστηρό ορισμό του όρου.
Η έννοια περιγράφεται μόνο άτυπα. Η (συνήθως υπόρρητη) υπόθεση είναι ότι οποιοσδήποτε υπολογιστικός «χώρος εργασίας» που είναι «αρκετά παρόμοιος» με εκείνον των ανθρώπων μπορεί να θεωρηθεί «global workspace». Αλλά πόσο παρόμοιος είναι αρκετά παρόμοιος;
Οι ερευνητές της Anthropic λένε ότι βρήκαν ενδείξεις για έναν χώρο εσωτερικών σκέψεων που δεν εμφανίζονται στην έξοδο του Claude. Πηγή εικόνας: Anthropic
Ο «χώρος εργασίας» του Claude μπορεί πράγματι να έχει κοινά με τον ανθρώπινο, αλλά υπάρχουν και διαφορές.
Για παράδειγμα, ο ανθρώπινος εγκέφαλος διατηρεί τον «χώρο εργασίας» μέσω επαναλαμβανόμενων βρόχων—σημάτων που επιστρέφουν στους ίδιους νευρωνικούς κυκλώματα με την πάροδο του χρόνου. Αντίθετα, ο «χώρος εργασίας» του Claude εξελίσσεται μέσα από ένα μόνο πέρασμα στο δίκτυο.
Συναφής είναι και η διαφορά στον τρόπο εισόδου των αναπαραστάσεων. Οι υποστηρικτές της θεωρίας έχουν υποστηρίξει ότι στους ανθρώπους συμβαίνει μια διαδικασία «ανάφλεξης» (ignition), κατά την οποία μια μη γραμμική ενίσχυση σταθεροποιεί τις νευρωνικές αναπαραστάσεις, επιτρέποντάς τους να εισέλθουν στον «χώρο εργασίας». Μέχρι στιγμής, δεν γνωρίζουμε κάτι αντίστοιχο στο Claude.
Έχουν σημασία αυτές οι διαφορές; Η απάντηση δεν είναι σαφής. Η θεωρία του «global workspace» βασίζεται σε δεδομένα από ενήλικες ανθρώπους. Υπάρχουν ερωτήματα για το πόσο μπορεί—ή πρέπει—να επεκταθεί.
Συνεπάγεται η ύπαρξη «global workspace» συνείδηση;
Ακόμη κι αν δεχτούμε ότι το Claude διαθέτει «global workspace», για να αξιολογήσουμε αν αυτό αποτελεί απόδειξη συνείδησης πρέπει να δούμε το καθεστώς της ίδιας της θεωρίας.
Δεν υπάρχει αμφιβολία ότι πρόκειται για μια από τις πιο επιδραστικές θεωρίες της συνείδησης, αλλά απέχει από το να είναι αδιαμφισβήτητη. (Όπως σημειώνει, με κάποια δόση μετριοπάθειας, το άρθρο της Anthropic, «the global workspace model is not universally accepted.»)
Πολλοί ειδικοί στη συνείδηση διαφωνούν ότι οι υπολογιστικές ιδιότητες αρκούν από μόνες τους για συνείδηση. Ακόμη και μεταξύ όσων θεωρούν ότι η συνείδηση είναι εκ φύσεως υπολογιστική, η θεωρία του «global workspace» είναι μόνο μία από πολλές προτάσεις.
‘Conscious Access’ και υποκειμενική εμπειρία
Υπάρχουν, επίσης, ερωτήματα για το αν η θεωρία του «global workspace» είναι πράγματι θεωρία της συνείδησης με τη σχετική, στενή έννοια.
Σε ένα επιδραστικό άρθρο για την τεχνητή συνείδηση, ο Dehaene και οι συνεργάτες του προτείνουν τη θεωρία ως ερμηνεία αυτού που αποκαλούν «conscious access»—της διαθεσιμότητας της πληροφορίας για ανάκληση, του εκούσιου ελέγχου της συμπεριφοράς και της λεκτικής αναφοράς. Κρίσιμα, αφήνουν ανοιχτό το αν η θεωρία πρέπει να θεωρηθεί ως ερμηνεία των υποκειμενικών ή βιωματικών πτυχών της συνείδησης.
Αν όμως η θεωρία του «global workspace» αφορά μόνο το «conscious access», τότε οι συνέπειές της για τη συζήτηση περί τεχνητής συνείδησης αποδυναμώνονται. Όταν ρωτάμε αν το Claude είναι συνειδητό, δεν μας αρκεί αν διαθέτει «conscious access»—θέλουμε να ξέρουμε αν υπάρχει κάτι, υποκειμενικά, που να «είναι σαν να είσαι το Claude». Η θεωρία δεν απαντά σε αυτό το ερώτημα, αν την αντιμετωπίσουμε απλώς ως περιγραφή του «conscious access».
Έχει λοιπόν φτάσει η τεχνητή συνείδηση;
Παρά τις επιφυλάξεις, τα ευρήματα της Anthropic είναι αξιοσημείωτα. Η θεωρία του «global workspace» μπορεί να ιδωθεί και ως θεωρία της υποκειμενικής εμπειρίας, και το Claude ίσως πράγματι διαθέτει κάτι ανάλογο με «global workspace».
Αυτό, ωστόσο, δεν αποδεικνύει ότι η τεχνητή συνείδηση έχει φτάσει. Αλλά δεν είναι παράλογο να σκεφτούμε ότι τα ευρήματα μετακινούν—έστω και ελάχιστα—τον δείκτη στη σχετική συζήτηση.
Αν αυτό ισχύει, είναι τουλάχιστον παράδοξο που η Anthropic εμφανίζεται τόσο αισιόδοξη. Όπως η ίδια αναγνωρίζει, η δημιουργία τεχνητής συνείδησης θα ήταν γεγονός υψίστης σημασίας, με κοινωνικές, ηθικές, πολιτικές και νομικές προεκτάσεις.
Αν τα chatbots είναι συνειδητά, τότε θα πρέπει να λάβουμε σοβαρά υπόψη τα συμφέροντά τους. Δεν θα επιτρέπεται να τα αντιμετωπίζουμε ως απλές μηχανές· θα πρέπει να εξετάζουμε την ευημερία τους.
Πρέπει κανείς να προσπαθεί καν να το πετύχει αυτό;
Η Anthropic σημειώνει ότι «it’s time to start thinking about whether we should be building conscious machines.»
Συμφωνώ ότι πρέπει να γίνει αυτή η συζήτηση, αλλά θα έπρεπε επίσης να υπάρξει παύση στην ανάπτυξη μηχανών που ενδέχεται να είναι συνειδητές. Αν η Anthropic το εννοεί, θα όφειλε να κατεβάσει ρολά, αντί να προχωρά στην ανάπτυξη «συνειδητής» τεχνητής νοημοσύνης.
Ένα μορατόριουμ σε έρευνες που θα μπορούσαν να οδηγήσουν σε «συνειδητή» ΤΝ δεν θα ήταν, βέβαια, απλή υπόθεση. Υπάρχουν ερωτήματα για το εύρος της έρευνας που θα επηρέαζε και ποιος θα το επέβαλλε. Αλλά αν δεν κλείσουμε τώρα την πόρτα του στάβλου, μπορεί να διαπιστώσουμε ότι το άλογο έχει ήδη φύγει.
Το άρθρο αναδημοσιεύεται από το The Conversation με άδεια Creative Commons. Διαβάστε το πρωτότυπο.
Ο Tim Bayne είναι φιλόσοφος του νου και των γνωσιακών επιστημών, με ιδιαίτερο ενδιαφέρον για τη φύση της συνείδησης. Είναι καθηγητής φιλοσοφίας στο Monash University (Μελβούρνη), έχοντας διδάξει προηγουμένως στα Macquarie University, University of Western Ontario, University of Manchester και University of Oxford. Είναι μέλος του Center for Consciousness and Contemplative Studies του Monash University και συνδιευθυντής του προγράμματος Brain, Mind, and Consciousness του Canadian Institute for Advanced Research. Έχει συγγράψει τα The Unity of Consciousness (2010) και Thought: A Very Short Introduction (2013), και έχει επιμεληθεί τα Delusion and Self-Deception (2008), The Oxford Companion to Consciousness (2009) και Cognitive Phenomenology (2011).
