Ένας άνδρας με τον οποίο σκαρφάλωνα πρόσφατα μου μίλησε για το πώς χρησιμοποίησε την AI για να φτιάξει μια αφίσα με μήνυμα για τον εαυτό του, την οποία κρέμασε στον τοίχο του υπνοδωματίου του: μια αρκούδα περπατά σε σχοινί πάνω από ένα φαράγγι και κρατά μια πινακίδα που γράφει: «Do cool shit». Έβγαλα έναν ήχο που ήλπιζα πως θα ακουγόταν ευγενικός. Τι αντίδραση περίμενε από αυτό; Πιθανότατα ήθελε κάποιος, ίσως εγώ, να του πει ότι είναι ωραίο ή εμπνευστικό. Φαινόταν πως δεν ήμουν το πρώτο άτομο στο οποίο το είχε αναφέρει. «Ξέρεις, είναι αστείο», μου είπε. «Κανείς δεν λέει ποτέ τίποτα γι’ αυτό».
Το σκέφτομαι εδώ και αρκετές ημέρες. Υπάρχει κάτι σαν τουρντουκέν από πράγματα που μου φαίνονται απωθητικά σε αυτό το περιστατικό: χίπικο ύφος, motivational posters, AI «τέχνη». Παρ’ όλα αυτά, η συνολική αντίδραση σε αυτή την αφίσα φαίνεται πως περιορίζεται σε ευγενικούς ήχους.
Αλλά ποια είναι η σωστή απάντηση όταν κάποιος σού δείχνει τη σαβούρα του; Κανείς δεν τη δημιούργησε. Ακόμη και η κακή τέχνη —για παράδειγμα, μια εκδοχή αυτής της motivational αφίσας ζωγραφισμένη από άνθρωπο— απαιτεί προσπάθεια από τον καλλιτέχνη και εκφράζει το μυαλό του, τόσο στο περιεχόμενο όσο και στις κινητικές δεξιότητες που χρειάζονται για να σχεδιάσει γραμμές πάνω σε μια σελίδα. Απαιτεί χρόνο και προσοχή από έναν άνθρωπο. Η AI «τέχνη» απαιτεί να πληκτρολογήσεις ένα prompt σε ένα πλαίσιο και ίσως να βελτιώσεις το αποτέλεσμα μερικές φορές. Δεν υπάρχει κάτι να σχολιάσεις.
Ο Zuckerberg προσπαθεί να γίνει ο καθησυχαστικός γκουρού της τεχνολογίας
Το αναφέρω αυτό γιατί ο Mark Zuckerberg ανάρτησε ένα μανιφέστο που έγραψε εκείνος —ή η ομάδα επικοινωνίας του, ή ίσως μια AI. Στόχος αυτού του δοκιμίου 6.500 λέξεων είναι να περιγράψει ένα θετικό μέλλον για την AI. Μου φαίνεται δυσοίωνο σημάδι για την AI ότι μια νέα, υποτίθεται κοσμογονική και παραγωγική τεχνολογία χρειάζεται τέτοια υπεράσπιση, αλλά τις τελευταίες ημέρες η AI δέχεται κακή δημοσιότητα. Ο κόσμος μισεί τα data centers και τους υψηλότερους λογαριασμούς ρεύματος που τα συνοδεύουν. Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει πει ότι η τεχνολογία μπορεί να προκαλέσει «ασυνήθιστα επώδυνες» απώλειες θέσεων εργασίας σε πολλούς κλάδους. Το σπίτι του διευθύνοντος συμβούλου της OpenAI, Sam Altman, έγινε στόχος πρώτα από βόμβα μολότοφ και στη συνέχεια από πυροβολισμούς.
«Είναι έκπληξη το ότι ο λόγος πολλών που αναπτύσσουν AI είναι τόσο γεμάτος καταστροφολογία», λέει το δοκίμιο. «Δεν καταλαβαίνω γιατί κάποιος που πιστεύει ότι η AI θα εξαλείψει τις περισσότερες δουλειές και μεγάλο μέρος της σημασίας της ανθρωπότητας θα έσπευδε να χτίσει αυτό το μέλλον».
Δυσκολεύομαι να πιστέψω ότι ο Zuckerberg δεν έχει το τηλέφωνο του Amodei. Ή του Altman. Ξέρω ότι έχει του Elon Musk — έχω δει τα μηνύματά τους στο δικαστήριο. Ίσως θα έπρεπε να τους είχε στείλει μήνυμα να ρωτήσει!
Σε κάθε περίπτωση, ο Zuckerberg προσπαθεί εδώ να εμφανιστεί ως ο καθησυχαστικός τεχνολογικός γκουρού, έτοιμος να μας πει ότι όλα θα πάνε καλά. Απαντά, έστω και καθυστερημένα, στην οργή που αισθάνονται πολλοί για την AI. Υπάρχουν ενότητες για τα data centers (η Meta χτίζει στο μέλλον πηγές ενέργειας για ορισμένα data centers, αλλά μην ζητάτε ανανεώσιμες πηγές ενέργειας) και για την «αποτροπή κρατικής τυραννίας». Το δοκίμιο αυτό υπάρχει για να κατευνάσει την αντίδραση απέναντι στην AI — ακόμη κι αν δεν το λέει ποτέ ανοιχτά.
Η αγάπη δεν είναι μόνο συναίσθημα· είναι ένας τρόπος προσοχής
Θα αφήσουμε στην άκρη το ζήτημα της «υπερνοημοσύνης», που είναι ο προτιμώμενος όρος του Zuckerberg για αυτό που ο υπόλοιπος κλάδος αποκαλεί «τεχνητή γενική νοημοσύνη». Ας δεχτούμε, για τις ανάγκες αυτού του κειμένου, ότι όντως μπορεί να δημιουργηθεί. Θα αγνοήσω επίσης την γελοία υπεράσπιση των pervert glasses που περιέχεται στο κείμενο· είναι αδικαιολόγητα. Όσο για τους κινδύνους, θεωρώ πως είναι καλύτερα να συζητηθούν αλλού. Αυτό που με ενδιαφέρει είναι τι πιστεύει ο Zuckerberg —ή όποιος γράφει γι’ αυτόν— ότι θα βελτιώσει τη ζωή όλων μας.
Να η πρώτη του πρόταση: «Όλοι θα έχουν έναν εξαιρετικά ικανό προσωπικό πράκτορα που θα σας καταλαβαίνει, θα καταλαβαίνει τους στόχους σας και όλα όσα σας ενδιαφέρουν. Ο πράκτοράς σας θα δουλεύει 24 ώρες το 24ωρο για λογαριασμό σας ώστε να βελτιώσει τις σχέσεις σας, την υγεία σας, την καριέρα σας, τα οικονομικά σας, τη διαχείριση του σπιτιού σας, τα χόμπι σας και πολλά ακόμη». Με εντυπωσιάζει εδώ η αναφορά στις «σχέσεις» και τα «χόμπι».
Τι ενισχύει μια σχέση; Σχεδόν πάντα, η προσωπική επένδυση. Ίσως ένας AI πράκτορας να μπορεί να προβλέψει καλύτερα από εμένα τι δώρο θέλει ο πατέρας μου για τα γενέθλιά του, αλλά εκ των πραγμάτων δεν μπορεί να του δώσει τον χρόνο και την προσοχή μου. Η αγάπη δεν είναι μόνο συναίσθημα· είναι ένας τρόπος προσοχής.
Το όραμα του Zuckerberg για μέγιστη παραγωγικότητα έχει κόστος τη δική μου εμπειρία
Ο Zuckerberg χρησιμοποιεί ένα παράδειγμα που είναι αποκαλυπτικό, με έναν ζοφερό τρόπο: ρώτησε μια AI να διαλέξει μια «προσωποποιημένη» συνταγή για να ψήσει κάτι με την κόρη του. Θα μπορούσε να σκεφτεί τι είδους ζαχαροπλαστική προτιμά η κόρη του, ποιο είναι το επίπεδό της και τι θα μπορούσε ο ίδιος να της μάθει, και μετά να διαλέξει μια συνταγή. Ίσως να διάλεγε μια κακή συνταγή και να τα χάλαγαν όλα — αλλά αυτό ίσως να ήταν μια διασκεδαστική εμπειρία και μια καλή ιστορία. Ή ίσως να επέλεγε μια οικογενειακή συνταγή, και αυτό να του έδινε την ευκαιρία να της μιλήσει για τότε που ήταν παιδί ή για το πώς ήταν η γιαγιά του. Σίγουρα είναι ένας πολυάσχολος άνθρωπος, αλλά δεν θα έκανε αυτό το δώρο της προσοχής του στο χόμπι της ακόμη πιο πολύτιμο; Ίσως να την καταλάβαινε καλύτερα αν περνούσε περισσότερο χρόνο σκεφτόμενος τι της αρέσει. Χωρίς αυτή την προσοχή, το ψήσιμο που κάνουν μαζί μοιάζει περισσότερο με επίτευγμα παρά με ποιοτικό χρόνο.
Αντίστοιχα, ο σκοπός ενός χόμπι είναι ότι το κάνεις ο ίδιος. Βέβαια, πολλά από τα χόμπι μου είναι σωματικές δραστηριότητες — πεζοπορία, τρέξιμο, γιόγκα, αναρρίχηση (με άνδρες που φτιάχνουν κακή AI τέχνη, προφανώς). Όμως μια AI δεν μπορεί να διαβάσει ένα βιβλίο αντί για μένα, γιατί η πράξη της ανάγνωσης σημαίνει να απορροφώ τις λέξεις στο μυαλό μου· μια περίληψη δεν κάνει το ίδιο με τις πρώτες γραμμές του Speedboat της Renata Adler: «Nobody died that year. Nobody prospered. There were no births or marriages. Seventeen reverent satires were written — disrupting a cliché and, presumably, creating a genre.» Η περίληψη δεν μπορεί να αποδώσει το κλίμα ούτε την πραγματική απόλαυση των ίδιων των λέξεων. Μια AI δεν μπορεί να αντικαταστήσει την ηρεμιστική αίσθηση του να πλέκω το δικό μου κασκόλ· αυτό που ηρεμεί είναι το ίδιο το πλέξιμο.
Ο Zuckerberg υπονοεί ότι αν χρησιμοποιήσω μια AI για να με βοηθήσει σε αυτά τα πράγματα, θα πετύχω περισσότερα, και πιθανότατα αυτό ισχύει. Αλλά πάντα πίστευα ότι ο σκοπός ενός χόμπι είναι να χαλαρώνεις και να απολαμβάνεις τον εαυτό σου. Σίγουρα δεν είναι να μεγιστοποιείς την παραγωγικότητα. Και το όραμα του Zuckerberg για μέγιστη παραγωγικότητα έχει κόστος τη δική μου εμπειρία.
Αυτός είναι ο άνθρωπος που είχε στη διάθεσή του κάθε πόρο που θα ήθελε κανείς, και το metaverse του κατέρρευσε
Το δεύτερο στοιχείο που παρουσιάζει ο Zuckerberg είναι ότι «όλοι θα έχουν απίθανα εργαλεία δημιουργίας για να εκφράζουν τις ιδέες τους». Θα έλεγα ότι όλοι ήδη έχουν απίθανα εργαλεία δημιουργίας για να εκφράζουν τις ιδέες τους και ότι αρκεί να εξασκηθεί κανείς με αυτά για να βελτιωθεί. Η χαρά του να μαθαίνεις, για παράδειγμα, να φτιάχνεις ένα βίντεο είναι, πρώτα απ’ όλα, το ίδιο το βίντεο — ποιος δεν έχει περάσει καλά κάνοντας χαζομάρες με φίλους ενώ τραβάει πλάνα; Αλλά είναι επίσης η βελτίωση στα εργαλεία που χρησιμοποιεί κανείς για να φτιάξει το βίντεο και η επιστροφή στις προσπάθειές του καθώς το σκηνοθετικό του μάτι γίνεται καλύτερο. Ναι, αυτό παίρνει χρόνο και απαιτεί προσπάθεια — δεν γίνεται σε ένα μόνο βράδυ — αλλά δεν είναι ακριβώς αυτό που το κάνει ανταποδοτικό;
Ας περάσουμε στην επόμενη παράλογη ιδέα που φέρνει το μανιφέστο: όλοι αποκτούν έναν «προσωποποιημένο δάσκαλο και προπονητή με διδακτορικό σε κάθε αντικείμενο». Και πάλι, για τις ανάγκες αυτού του κειμένου, ας υποθέσουμε ότι αυτό είναι εφικτό. Ήδη δοκιμάσαμε την υπολογιστική μάθηση, το 2020, και αν θυμάμαι σωστά, ήταν μια θεαματική αποτυχία. Οι άνθρωποι δεν τη θέλουν. Τα παιδιά δεν τη θέλουν. Οι εκπαιδευτικοί ακόμη διαχειρίζονται τις συνέπειες. Και δεν θέλω να κάνω άλλη μια θριαμβευτική δήλωση υπέρ του Αριστοτέλη, αλλά φαίνεται πραγματικά ότι το να έχεις έναν μέντορα (phronimos) είναι πολύ σημαντικό όταν πρόκειται για μάθηση, είτε ηθική είτε άλλη. Η κοινωνική πλευρά της μάθησης —είτε είναι η πίεση των συνομηλίκων μέσα στην τάξη είτε η ανάγκη να εντυπωσιάσεις κάποιον που θαυμάζεις— μοιάζει αναντικατάστατη για την εμπειρία.
Όλοι είναι ίσοι στην AI, αλλά κάποιοι είναι πιο ίσοι από τους άλλους
Το πιο ισχυρό σημείο που διατυπώνει ο Zuckerberg, κατά τη γνώμη μου, είναι η ιδέα ότι όλοι μπορούν να ωφεληθούν από τις επιστημονικές εξελίξεις και να συμβάλουν σε αυτές. Εγώ, πάντως, ωφελήθηκα από το εμβόλιο της πολιομυελίτιδας —μαζί με άλλες επιστημονικές εξελίξεις— εν μέρει επειδή ο Jonas Salk επέλεξε να το διαθέσει σε όλους χωρίς να βγάλει χρήματα από αυτό. Αλλά ας το αφήσουμε αυτό. Με ενδιαφέρει τι σημαίνει να συμβάλλεις στις επιστημονικές εξελίξεις με αυτή την έννοια.
Ο Zuckerberg κάνει κάποιες αόριστες αναφορές στις εξατομικευμένες θεραπείες, που αποτελούν εδώ και καιρό στόχο της ιατρικής. Και πάλι, ας δεχτούμε ότι η AI μπορεί να το κάνει αυτό. Παρατηρώ όμως ότι η εξατομίκευση είναι δυνατή μόνο όταν οι γιατροί έχουν αρκετό χρόνο για να ακούσουν πραγματικά τους ασθενείς τους. Σημαίνει επίσης ότι οι ασθενείς θα χρειάζεται να έχουν τα μέσα για να πληρώσουν για εξατομικευμένη ιατρική, είτε μέσω της ασφάλισής τους είτε με άλλον τρόπο. Αλλά αυτό το σημείο του δοκιμίου είναι τόσο ασαφές, ώστε μπορεί να εννοεί πως η AI θα επιτρέπει στους ερευνητές να συλλέγουν δείγματα από όλους μας και να δοκιμάζουν πράγματα πιο γρήγορα, κάτι που έχει από μόνο του ανησυχητικές επιπτώσεις για την ιδιωτικότητα, ειδικά όταν προέρχεται από τον Mark Zuckerberg.
Στο τελευταίο του σημείο, ο Zuckerberg περιγράφει την τωρινή πραγματικότητα: όλοι είναι ίσοι στην AI, αλλά κάποιοι —εκείνοι που έχουν χρήματα— είναι πιο ίσοι από τους άλλους. Τα καλύτερα μοντέλα θα παραμείνουν πίσω από paywall, προσβάσιμα μόνο στους πλούσιους. Αλλά τι θα γινόταν αν όλοι είχαν δωρεάν πρόσβαση, αναρωτιέται. Θέλετε να πείτε όπως ισχύει τώρα, Mark; Πώς ακριβώς το να κάνεις το status quo μόνιμο βελτιώνει τη ζωή μας;
Ας δούμε όλα αυτά σε αντιπαραβολή με τη στενότερη οπτική του Terence Tao για το τι μπορεί να κάνει η AI στα μαθηματικά. Μας ζητά να φανταστούμε ότι η εξής πρόταση είναι αληθινή: «Τα εργαλεία AI θα μπορούν, σχετικά σύντομα, να εκτελούν ένα λογικό ποσοστό ερευνητικών μαθηματικών εργασιών, με λογικά επίπεδα επιτυχίας, ποιότητας, επίβλεψης και κόστους». Ο Tao μετά σταματά και θέτει ένα κρίσιμο ερώτημα: ποιοι είναι οι στόχοι μας;
Αρχίζω να πιστεύω ότι χρειαζόμαστε καλύτερη ποιότητα AI υποστηρικτών
Αυτό είναι το ερώτημα που το όραμα του Zuckerberg για το μέλλον δεν θέτει. Για κάθε πράγμα που περιγράφει ως πιθανότητα, το υποτιθέμενο αποτέλεσμα είναι κάποιου είδους επίτευγμα. Η πιθανότητα της απόλαυσης, της εμπειρίας, της αυτογνωσίας ή της αυτοέκφρασης απουσιάζει από αυτό το όραμα.
Αντίθετα, μία από τις πιθανότητες που περιγράφει ο Tao για τα μαθηματικά —αν μια AI μπορεί απλώς να λύνει μαθηματικά προβλήματα κατά βούληση— είναι ότι ο στόχος της θα είναι να βοηθήσει τους ανθρώπους να καταλάβουν και να κάνουν μαθηματικά. Αυτό το επίτευγμα είναι ίσως κάπως πιο ασαφές από το «λύνει ένα πρόβλημα», αλλά μόνο επειδή είναι πιο βαθύ. Μιλά για το τι θεωρούμε γνώση: όχι απλώς τη συλλογή απαντήσεων σε ερωτήματα, αλλά την κατανόηση του γιατί αυτές είναι οι απαντήσεις — έναν βαθύτερο τρόπο σύνδεσης με τον κόσμο και με τον εαυτό μας. Αυτό ακούγεται ύποπτα σαν τις ανθρωπιστικές σπουδές, έτσι δεν είναι;
Κοιτάξτε, αρχίζω να πιστεύω ότι χρειαζόμαστε καλύτερη ποιότητα AI υποστηρικτών, γιατί ενώ καταλαβαίνω ότι η δήλωση Zuckerberg υπάρχει κυρίως για να στηρίξει την επένδυση της Meta στην AI, έχω ακούσει παρόμοια πράγματα και από ανθρώπους που δεν έχουν αντίστοιχα οικονομικά συμφέροντα. Είναι τελικά ο σκοπός της ζωής απλώς να συσσωρεύεις επιτεύγματα; Αν αυτό πιστεύει η Silicon Valley, δεν είναι περίεργο που όλοι οι δισεκατομμυριούχοι φαίνονται τόσο δυστυχισμένοι όλη την ώρα! Έχουν ανταλλάξει την εμπειρία με το επίτευγμα και, στην πορεία, έχουν στερήσει από τους εαυτούς τους τη δική τους ζωή. Κυνηγούν συνέχεια περισσότερα χρήματα και περισσότερη δύναμη, επειδή νομίζουν ότι τότε θα είναι αρκετά — αλλά όσο δεν βιώνουν τα πράγματα οι ίδιοι, τίποτα δεν θα είναι ποτέ αρκετό.
Τι σημαίνει να ζει κανείς μια καλή ζωή;
Όταν διαβάζω ένα βιβλίο, ακούω μουσική ή βλέπω μια ταινία, δεν καταναλώνω απλώς έναν πόρο. Βιώνω το μυαλό άλλων ανθρώπων.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
