Οι εταιρείες τεχνητής νοημοσύνης προσλαμβάνουν αποφοίτους φιλοσοφίας για να τους βοηθήσουν να κατανοήσουν τη φύση της συνείδησης, αν μπορεί να αναπαραχθεί και πώς τα συστήματά τους μπορούν να γίνουν καλύτερα και πιο αξιόπιστα.
AI think, therefore AI am Album / Alamy
AI think, therefore AI am
Μερικές από τις μεγαλύτερες προκλήσεις στην τεχνητή νοημοσύνη δεν αντιμετωπίζονται από επιστήμονες υπολογιστών που σκύβουν πάνω από τον κώδικα, αλλά από φιλοσόφους που εγκαταλείπουν την ακαδημαϊκή καριέρα για δουλειές σε εταιρείες AI. Οι φιλόσοφοι αυτοί έχουν αναλάβει να κάνουν τα μοντέλα της επόμενης γενιάς πιο ικανά και πιο αξιόπιστα, αλλά και να ρίξουν φως στο μυστήριο της συνείδησης και στο αν η νοημοσύνη μπορεί να αναπαραχθεί μόνο μέσω λογισμικού.
Ο Jonathan Birch από το London School of Economics and Political Science λέει ότι οι εταιρείες AI είναι αυτή τη στιγμή οι μεγαλύτεροι εργοδότες για κατόχους διδακτορικού στη φιλοσοφία, με ενδιαφέρουσα εργασία, υψηλούς μισθούς και stock options να αποδεικνύονται πολύ δελεαστικά για πολλούς.
«Θέματα που μελετώνται σε φιλοσοφικά τμήματα εδώ και δεκαετίες —πώς να λαμβάνονται ορθολογικές αποφάσεις, πώς να συστηματοποιούνται οι ηθικές αρχές, τι θεωρείται σκέψη ή συλλογισμός ή ενδοσκόπηση, τι θεωρείται ένδειξη συνείδησης— αποκτούν ξαφνικά τεράστια αξία για τις εταιρείες AI», λέει ο Birch. «Οπότε, φυσικά, βλέπουμε μια μεγάλη διαρροή εγκεφάλων».
Οι άνθρωποι που εκπαιδεύουν νέα μοντέλα AI παραδέχονται ότι απλώς βάζουν τα chatbots να το κάνουν
Μία από τις βασικές δουλειές αυτής της ομάδας φιλοσόφων είναι το alignment, ο όρος που χρησιμοποιεί η βιομηχανία AI για τις προσπάθειες αποτροπής επιβλαβούς περιεχομένου, όπως η αποκάλυψη οδηγιών για την κατασκευή βομβών.
Οι πρώτες προσπάθειες να αποτραπούν επικίνδυνες απαντήσεις από τα μοντέλα AI βασίστηκαν σε απλά, άκαμπτα όρια, όπως για παράδειγμα η πλήρης απαγόρευση να μιλά ένα μοντέλο για βόμβες. Όμως αυτά αποδείχθηκαν αδέξια και εύκολα παρακάμπτονταν. Τώρα, οι εταιρείες ακολουθούν πιο προχωρημένες μεθόδους, που στηρίζονται σε μεγάλο βαθμό στη φιλοσοφική κατανόηση του σωστού και του λάθους.
Τα τελευταία νέα για όσα συμβαίνουν στην επιστήμη και γιατί έχουν σημασία, κάθε μέρα.
Ωστόσο, τα πράγματα σπάνια είναι απλά. Ερευνητές έχουν διαπιστώσει ότι, αν πεις σε ένα μοντέλο να παραβιάσει έναν κανόνα σε μία συγκεκριμένη περίπτωση, αυτό αρχίζει να παραβιάζει και πολλούς άλλους κανόνες, λέει ο Shane Glackin από το University of Exeter στη Βρετανία. Και η κατανόηση του γιατί συμβαίνει αυτό είναι ακριβώς το είδος του προβλήματος που μπορεί να αναλύσει η φιλοσοφική λογική.
«Η καλύτερη εξήγηση γι’ αυτό φαίνεται να είναι ότι υπάρχει ένας σημασιολογικός δεσμός βαθιά στο σώμα των κειμένων πάνω στα οποία εκπαιδεύτηκε, που κρατά μαζί τα “θετικά” και τα “αρνητικά” στοιχεία. Και μόλις του επιτρέψεις να κάνει κάτι κακό, το αντιλαμβάνεται και το γενικεύει, αρχίζοντας να κάνει κι άλλα κακά πράγματα», λέει ο Glackin. «Ως ηθικολόγος, ένας τρόπος να δεις αυτό που κάνουμε είναι ότι προσπαθούμε να καταλάβουμε το σχήμα και την έκταση εννοιών όπως το σωστό και το λάθος ή το καλό και το κακό, και να δούμε ποια πράγματα υπάγονται σε αυτές, στην κοινή χρήση ή εννοιολογικά. Και αυτό μοιάζει ακριβώς με το είδος της ανάλυσης που κάνει το LLM».
Άλλα βασικά καθήκοντα για τους φιλοσόφους στις εταιρείες AI περιλαμβάνουν τη μείωση των hallucinations —τον όρο της βιομηχανίας για τις επινοήσεις των μοντέλων— τη γενική βελτίωση της απόδοσης και την αντιμετώπιση προκαταλήψεων που είναι εγγενείς στα μοντέλα. Εφαρμόζουν επίσης θεωρίες για την ανθρώπινη συνείδηση στα μοντέλα AI, σε μια προσπάθεια να απαντήσουν στο επίμονο ερώτημα αν εμφανίζουν ενσυναίσθηση.
«Τι κάνουν τα μυαλά, τι κάνουν οι εγκέφαλοι, τι μπορεί να αναπαραχθεί; Αυτό είναι ένα μεγάλο ζήτημα για τα AIs. Είναι πραγματικά σημαντικό για αυτές τις εταιρείες να το απαντήσουν και είναι κάτι για το οποίο οι φιλόσοφοι σκέφτονται εδώ και πολύ, πολύ καιρό», λέει ο Glackin.
Οι πιο δύσκολες ερωτήσεις
Ο Mahrad Almotahari από το University of Edinburgh στη Βρετανία —ο οποίος γνωρίζει δύο ακαδημαϊκούς που πέρασαν σε εταιρείες AI και ο ίδιος έχει αναλάβει συμβουλευτικό έργο για εμπορική εταιρεία— λέει ότι η φιλοσοφία και η επιστήμη των υπολογιστών έχουν μακρά κοινή ιστορία. Μάλιστα, η εργασία στην οποία ο Alan Turing παρουσίασε το περίφημο τεστ του, γνωστό ως Turing test, για να κρίνεται αν μια μηχανή μπορεί να επιδεικνύει χαρακτηριστικά ευφυών όντων, δημοσιεύτηκε στο φιλοσοφικό περιοδικό Mind.
Η ακριβής έκταση των προσλήψεων είναι δύσκολο να εκτιμηθεί, όμως ο Aaron Kagan, πρόεδρος της Επιτροπής για Μη Ακαδημαϊκές Καριέρες της American Philosophical Association, εξέτασε αγγελίες θέσεων εργασίας για μια πρώτη εικόνα. «Μια απλή καταμέτρηση λέξεων δείχνει ότι το 26,6% των ρόλων αναφέρει ηθική της AI, ασφάλεια, alignment, διακυβέρνηση ή πολιτική, αλλά αν αφαιρέσει κανείς τα τυποποιημένα κείμενα, μόνο περίπου το 5% αφορά ουσιαστικά αυτή τη δουλειά», λέει ο Kagan.
Ο Almotahari βλέπει αξία στην εξειδίκευση της φιλοσοφίας για τις τεχνολογικές εταιρείες, αλλά αμφιβάλλει ότι τα πιο δύσκολα ερωτήματα γύρω από τη συνείδηση των μηχανών θα απαντηθούν από αυτές. Αντίθετα, λέει ότι οι φιλόσοφοι ίσως μπορέσουν να βοηθήσουν τους μηχανικούς να ξεδιαλύνουν τι συμβαίνει μέσα στα μοντέλα.
All major AI models risk encouraging dangerous science experiments
«Υπάρχουν όλα αυτά τα μαθηματικά που εκτελούνται: μπορούμε να απομονώσουμε από αυτά μια περιγραφή υψηλότερου επιπέδου για το τι συμβαίνει, με όρους όπως ότι αυτό το μέρος του μοντέλου αναπαριστά αυτό το χαρακτηριστικό του κόσμου και εκείνο το μέρος αναπαριστά ένα άλλο χαρακτηριστικό του κόσμου;» αναρωτιέται ο Almotahari. «Νομίζω ότι οι φιλόσοφοι είναι σε καλή θέση να το κάνουν αυτό, να περάσουν από την περιγραφή της μηχανικής σε μια περιγραφική, αναπαραστατική περιγραφή».
Άλλοι βλέπουν ένα πιθανό πρόβλημα στον ορίζοντα, καθώς η πρόσληψη φιλοσόφων από τη βιομηχανία μπορεί τελικά να οδηγήσει σε μεροληπτική έρευνα που εξυπηρετεί τα συμφέροντα των τεχνολογικών εταιρειών.
«Στο εξής, είναι σαφές ότι μεγάλο μέρος της σοβαρής φιλοσοφικής εργασίας θα χρηματοδοτείται από τη βιομηχανία. Ρητά ή άρρητα, οι εταιρείες έχουν προσδοκίες που θέλουν να ικανοποιηθούν, και έχουν τη δύναμη να ευνοούν συγγραφείς που προσφέρουν ευπρόσδεκτα επιχειρήματα και ιδέες», λέει ο Birch. «Μακάρι να είχαμε προχωρήσει περισσότερο στα μεγάλα ερωτήματα της φιλοσοφίας —για τη συνείδηση, την agency, την ηθική κ.λπ.— πριν από την εμφάνιση της AI. Αν το είχαμε κάνει, θα ήμασταν καλύτερα προετοιμασμένοι. Η AI έχει πλέον δώσει σε αυτά τα ερωτήματα τεράστια επείγουσα σημασία, κι όμως οι απαντήσεις εξακολουθούν να φαίνονται μακριά».
Λάβετε εβδομαδιαία δόση ανακαλύψεων στο inbox σας. Θα σας κρατάμε επίσης ενήμερους για τις εκδηλώσεις και τις ειδικές προσφορές του New Scientist.
