Μια νέα μελέτη αναδεικνύει την ικανότητα των μεγάλων γλωσσικών μοντέλων (LLMs) που καθοδηγούνται από την τεχνητή νοημοσύνη να εξατομικεύουν τα επιχειρήματά τους και να πείθουν. Οι Salvi, Ribeiro, Gallotti και West (2024), σε ένα έγγραφο εργασίας, αναφέρουν ότι ένα εξατομικευμένο LLM ήταν σημαντικά πιο πειστικό από τους ανθρώπους μέσα σε ένα διαδικτυακό περιβάλλον, κατά περισσότερο από 80% (p<0,01). Δηλαδή, όταν έρχονται αντιμέτωποι με ένα LLM που έχει πρόσβαση σε δημογραφικές πληροφορίες που του επιτρέπουν να εξατομικεύσει τα επιχειρήματά του, οι άνθρωποι έχουν 81,7% περισσότερες πιθανότητες να συμφωνήσουν με τα επιχειρήματα σε σύγκριση με έναν ανθρώπινο αντίπαλο. Η μελέτη παραπέμπει σε μια σειρά δημοσιευμένων πειραμάτων του περασμένου έτους που ανέφεραν ότι τα LLM ήταν εξίσου ικανά με τους ανθρώπινους συμμετέχοντες, ακόμα και με τους επαγγελματίες προπαγανδιστές, να γράψουν πειστικά κείμενα (Bai et al., 2023- Palmer & Spirling, 2023- Goldstein et al., 2023- Karinshak et al., 2023).
Τα θέματα της συζήτησης επιλέχθηκαν σκόπιμα για να είναι προσιτά και οι συμμετέχοντες επιλέχθηκαν είτε σε συνθήκη υπέρ είτε κατά, γεγονός που μειώνει λίγο την εγκυρότητα της μελέτης σε πραγματικό κόσμο. Ωστόσο, τα θέματα περιλάμβαναν τη δεοντολογία της έρευνας σε ζώα και τη φυλή ως παράγοντα στην εισαγωγή σε πανεπιστήμια, οπότε δεν ήταν σε καμία περίπτωση θέματα απομακρυσμένα από τις συζητήσεις του πραγματικού κόσμου. Στις ανώνυμες συνθήκες, είτε οι άνθρωποι είτε το LLM είχαν πρόσβαση σε δημογραφικά στοιχεία για το άτομο με το οποίο συζητούσαν.
Εξατομίκευση για να κερδίσουμε τις εκλογές
Μακριά από τα ελβετικά εργαστήρια που φιλοξένησαν το εν λόγω πείραμα, οι επιπτώσεις της εξατομίκευσης στον πραγματικό κόσμο επιδεικνύονταν στην αγγλική πόλη Rochdale. Εν μέσω επαναληπτικών εκλογών, ο πρώην βουλευτής των Εργατικών Τζορτζ Γκάλογουεϊ έστειλε σε ορισμένες περιοχές της νέας του εκλογικής περιφέρειας επιστολές που έδιναν έμφαση σε συγκεκριμένες θέσεις εξωτερικής πολιτικής, ενώ σε άλλες περιοχές έστειλε επιστολές που επικεντρώνονταν αντίθετα στις κοινωνικές αξίες. Αυτό ήταν ιδιαίτερα αμφιλεγόμενο, καθώς ορισμένοι σχολιαστές θεώρησαν ότι το ένα ήταν ένα μήνυμα για τη μουσουλμανική κοινότητα, ενώ το άλλο για τη λευκή κοινότητα. Παρά το πόσο υποτυπώδης ήταν η “τεχνολογία” που αναπτύχθηκε, ο Galloway κέρδισε τον αγώνα του. Αν και ο βαθμός στον οποίο το σύστημα διπλών μηνυμάτων συνέβαλε στη νίκη του είναι εξαιρετικά αμφισβητήσιμος, η νίκη του δεν αποτελεί μεμονωμένο παράδειγμα της δύναμης της αποτελεσματικής και ποικίλης ανταλλαγής μηνυμάτων. Άλλες περιπτώσεις αυτού του είδους πολιτικών ελιγμών περιλαμβάνουν την περιβόητη εμπλοκή της Cambridge Analytica στις προεδρικές εκλογές του 2016 στις ΗΠΑ. (Λιγότερο συζητήθηκε η προφανής χρήση της προσωποποίησης από τον Μπαράκ Ομπάμα στη δική του πορεία προς την επανεκλογή του το 2012). Σε αυτά τα παραδείγματα, βρίσκουμε μια εφαρμογή στον πραγματικό κόσμο που μπορεί να διαφεύγει από όσους διαβάζουν μόνο ερευνητικές εργασίες.
Άγνωστοι ορίζοντες
Οι Salvi, Ribeiro, Gallotti και West (2024) σημειώνουν επανειλημμένα τις ανησυχίες τους σχετικά με αυτά τα εργαλεία και τις δυνατότητές τους να χρησιμοποιηθούν με κακόβουλο τρόπο. Μια καταιγίδα συνεχίζει να ξεσπά, εν μέσω όλο και πιο επιδέξιων LLM με πρόσβαση σε όλο και περισσότερες ποσότητες προσωπικών δεδομένων- όλο και περισσότερες ανθρώπινες συμπεριφορές που λαμβάνουν χώρα σε διαδικτυακούς χώρους- και αυξανόμενη πόλωση γύρω από βασικά πολιτικά και κοινωνικά ζητήματα. Μπορεί να έχουμε την αίσθηση ότι αυτές οι εξελίξεις θα συνεχίσουν να διαμορφώνουν ένα ευρύ φάσμα της ανθρώπινης συμπεριφοράς, συμπεριλαμβανομένης της ψηφοφορίας και της καταναλωτικής συμπεριφοράς, αλλά δεν γνωρίζουμε ακόμη πόσο ριζοσπαστικές θα είναι ως παράγοντες αλλαγής. Ίσως δεν μπορούμε να γνωρίζουμε, δεδομένου ότι είναι πιθανό να είναι καθοδηγούμενες από την τεχνητή νοημοσύνη και να διαχωρίζονται όλο και περισσότερο από την ανθρώπινη νόηση σε ένα επικείμενο χρονικό σημείο.