Ποιος είναι ο Elias Thorne; Το όνομα εμφανίζεται διαρκώς σε ιστορίες που γράφουν chatbots, όπως παρατήρησε πρώτος ο μηχανικός λογισμικού Daniel May. Μια νέα προδημοσίευση, που ανέφερε πρώτη το 404 Media, δείχνει ότι ο «μύθος» μπορεί να σχετίζεται με τις δικλείδες ασφαλείας που μπαίνουν στα μοντέλα κατά την εκπαίδευση και την ευθυγράμμισή τους.
Η μελέτη, από τους Sil Hamilton και David Mimno στο Cornell University, εξετάζει πώς ανταποκρίνονται μοντέλα τεχνητής νοημοσύνης όταν τους ζητείται να γράψουν ιστορίες. Οι ερευνητές έδωσαν σε αρκετά μοντέλα —ανάμεσά τους τα OpenAI’s GPT-5.4 Mini, Anthropic’s Claude Haiku 4.5 και Google’s Gemini 3.1 Flash-Lite— πέντε διαφορετικά prompts. Αναλύοντας περίπου 20.000 ιστορίες, εντόπισαν εντυπωσιακή επανάληψη: 11 λέξεις —«Lighthouse, Keeper, Baker, Mayor, Clockmaker, Fisherman, Librarian, Conductor» και τα ονόματα «Mara, Elias, Elara»— εμφανίζονται στο 88% των ιστοριών.
Ο πιο συχνός συνδυασμός είναι ο «Elias the lighthouse keeper», που καταγράφεται στα δύο τρίτα όλων των κειμένων. Αυτό συμφωνεί με τα παραδείγματα του May, ο οποίος δοκίμασε διάφορα μοντέλα και είδε επανειλημμένα να εμφανίζεται ο ίδιος ήρωας-φανός.
Τι συμβαίνει; Οι ερευνητές αρχικά σκέφτηκαν ότι φταίνε τα προεκπαιδευτικά δεδομένα, αλλά το απέκλεισαν όταν δεν βρήκαν ενδείξεις πως το «Elias the lighthouse keeper» εμφανίζεται με υπερβολική συχνότητα στη βιβλιογραφία ή στα corpora εκπαίδευσης.
Αντ’ αυτού, αποδίδουν το φαινόμενο στη χρήση συγκεκριμένων, ευρέως διαδεδομένων datasets. Ενδεικτικά αναφέρουν το WildChat, ένα ανοιχτού κώδικα σύνολο δεδομένων με εκατομμύρια συνομιλίες μεταξύ ανθρώπων και chatbot που βασίζεται σε GPT-3.5. Το dataset δημιουργήθηκε για να βοηθήσει την έρευνα στην ανθρώπινη-μηχανική αλληλεπίδραση, αλλά έχει χρησιμοποιηθεί έκτοτε στην εκπαίδευση πολλών μοντέλων. Η υπόθεσή τους είναι ότι οι διαδικασίες ευθυγράμμισης, που στοχεύουν να αποτρέψουν τη χρήση κατοχυρωμένων χαρακτήρων και περιεχομένου ενηλίκων, ίσως άθελά τους προώθησαν «ασφαλείς» εναλλακτικές —όπως το «Elias the lighthouse keeper»— σε βαθμό που αυτές να επανεμφανίζονται όταν ζητείται από τα μοντέλα να γράψουν μια ιστορία.
Ο Elias Thorne, ο φύλακας του φάρου, μπορεί να ταιριάζει σε μια παιδική καληνύχτα, αλλά, σύμφωνα με το 404 Media, το όνομα φαίνεται να διαχέεται. Το μέσο εντόπισε παραδείγματα με τον ίδιο πρωταγωνιστή σε βιβλία φαντασίας, καθώς και ως «artist» σε κομμάτια ambient μουσικής στο Amazon. Ο May βρήκε επίσης τον Elias Thorne ως συγγραφέα βιβλίων, ανάμεσά τους και ένα εγχειρίδιο που ισχυρίζεται ότι παρέχει πληροφορίες για εναλλακτικές θεραπείες καρκίνου. Όχι και ό,τι καλύτερο.
Σε κάθε περίπτωση, η ιδιοτροπία αυτή στις αφηγήσεις των LLM υπενθυμίζει ότι η τεχνητή νοημοσύνη δεν είναι δημιουργική. Μελέτη που δημοσιεύτηκε πέρυσι έδειξε ότι τα μοντέλα παραγωγής εικόνας συχνά επαναλαμβάνουν μία από μόλις 12 συγκεκριμένες φόρμες, όσο «εξωφρενικά» κι αν είναι τα prompts. Με άλλα λόγια, δώσε στην τεχνητή νοημοσύνη ένα δημιουργικό έργο και θα σου επιστρέψει το ισοδύναμο μουσικής για ασανσέρ.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
