Εκατοντάδες εργολάβοι της OpenAI διαβάζουν συνομιλίες ChatGPT στο «Project Lily»

Η OpenAI αξιοποιεί εκατοντάδες εξωτερικούς συνεργάτες που διαβάζουν πραγματικές συνομιλίες χρηστών στο ChatGPT στο πλαίσιο του «Project Lily». Την ύπαρξη και τη λειτουργία του προγράμματος αποκάλυψε το 404 Media, παρουσιάζοντας έγγραφα, κανάλια Slack και ανώνυμα απομαγνητοφωνημένα αποσπάσματα συνομιλιών.

Οι μεγάλες πλατφόρμες συχνά δοκιμάζονται σε θέματα ιδιωτικότητας και πνευματικών δικαιωμάτων, την ώρα που οι χρήστες βασίζονται ολοένα και περισσότερο σε εργαλεία τεχνητής νοημοσύνης για προσωπικά ζητήματα. Η OpenAI αναφέρει ότι το περιεχόμενο καταναλωτών μπορεί να χρησιμοποιηθεί για τη βελτίωση των μοντέλων της, εκτός αν οι χρήστες κάνουν opt-out. Έτσι, κάποιες συνομιλίες εντάσσονται σε διαδικασίες βελτίωσης μελλοντικών εκδόσεων.

Σύμφωνα με τα στοιχεία που παρουσίασε το 404 Media, η εταιρεία εφαρμόζει ένα χειροκίνητο σύστημα ελέγχου συνομιλιών υπό την ομπρέλα του Project Lily. Τα αρχεία που δημοσιοποιήθηκαν – από εγχειρίδια έως κανάλια Slack και πραγματικά transcripts – δείχνουν πώς λειτουργεί ο μηχανισμός.

Οι εργαζόμενοι που αποκαλούνται ‘prompt reviewers’ εξετάζουν ανωνυμοποιημένες συνομιλίες πραγματικού κόσμου για να διαπιστώσουν αν το μοντέλο απαντά στο ερώτημα και αν τηρεί συγκεκριμένα κριτήρια. Ελέγχουν ζητήματα όπως υπερβολικό ‘AI-speak’, συγκαταβατική γλώσσα, emojis και κολακεία.

Οι οδηγίες απαγορεύουν στο bot να «παριστάνει τον άνθρωπο» ή να μοιράζεται ‘personal’ λεπτομέρειες. Επιτρέπεται, για παράδειγμα, η διατύπωση ‘I found some information’, αλλά μπλοκάρονται φράσεις όπως ‘as a chef, I like to…’ ή ισχυρισμοί τύπου ‘I know what that’s like’.

Ένας αξιολογητής περιέγραψε τη δουλειά ως ‘very rote’, με την αμοιβή να αναφέρεται πάνω από $50 (£37.13) την ώρα – υψηλή για το είδος του έργου. Το ίδιο άτομο επισήμανε ότι οι κανόνες αλλάζουν συχνά και ενίοτε συγκρούονται μεταξύ τους, σύμφωνα με το 404 Media.

Άτομο που συμμετέχει στη διαδικασία είπε στο 404 Media ότι πολλοί χρήστες ίσως δεν γνωρίζουν πως άνθρωποι μπορούν να δουν τις συνομιλίες τους. Αυτό έχει βαρύτητα, καθώς πολλοί αντιμετωπίζουν τα chatbots σαν ανεπίσημο φίλο ή «θεραπευτή», καταθέτοντας ευαίσθητα μυστικά στα πεδία κειμένου.

Παρότι τα logs περνούν αρχικό καθαρισμό για την αφαίρεση στοιχείων ταυτοποίησης, η OpenAI αναγνώρισε στο μέσο ότι ευαίσθητες λεπτομέρειες μπορεί να διαφεύγουν των φίλτρων, ιδίως σε πιο σύντομες συνεδρίες. Οι ερευνητές σημείωσαν επίσης ότι χρήστες συχνά ζητούν από το chatbot να «κρατήσει μυστικά».

Κατά τις ίδιες αναφορές, το υλικό που φτάνει στο προσωπικό συνοδεύεται από user memory summary με προηγούμενες προτροπές, προσωπικά ενδιαφέροντα, βιογραφικά στοιχεία και ενδεχομένως πληροφορίες τοποθεσίας.

Αξιοσημείωτο είναι ότι το Project Lily δεν βαθμολογεί την ακρίβεια πέρα από την επισήμανση προφανών λαθών, κάτι που υποδηλώνει ότι χωριστές ομάδες αναλαμβάνουν τους ελέγχους ορθότητας. Η διαδικασία αυτή λειτουργεί ξεχωριστά από τις ομάδες ασφάλειας που εντοπίζουν απειλές βλάβης ή αυτοβλάβης.

Η τρέχουσα πολιτική της OpenAI αναφέρει επίσης ότι περιορισμένος αριθμός εξουσιοδοτημένων στελεχών και έμπιστων παρόχων υπηρεσιών μπορεί να αποκτά πρόσβαση σε περιεχόμενο χρηστών για συγκεκριμένους σκοπούς, όπως η βελτίωση της απόδοσης των μοντέλων, υπό ελέγχους πρόσβασης και απαιτήσεις εμπιστευτικότητας.

Η ύπαρξη του Project Lily αναδεικνύει τον ρόλο του ανθρώπινου ελέγχου στη διαμόρφωση των απαντήσεων του ChatGPT, παρά τις αναβαθμίσεις λογισμικού και τα πιο σύνθετα datasets. Όταν το 404 Media ρώτησε αρχικά αν οι χρήστες γνωρίζουν ότι άνθρωποι μπορούν να διαβάζουν τα logs τους, η OpenAI δεν απάντησε ευθέως και στη συνέχεια παρέπεμψε σε παλαιότερη σελίδα FAQ για ελέγχους στο πλαίσιο εκπαίδευσης μοντέλων.

Το Tom’s Hardware ανέφερε ότι η σχετική γνωστοποίηση της OpenAI ήταν διαθέσιμη στο διαδίκτυο για τουλάχιστον δύο χρόνια. Η εταιρεία ενημέρωσε τη σελίδα καθοδήγησης για το opt-out, εξηγώντας πώς οι χρήστες μπορούν να αποτρέψουν τη χρήση των δεδομένων τους για τη βελτίωση μοντέλων, χωρίς όμως να αναφέρεται ρητά σε εργολάβους που ελέγχουν απομαγνητοφωνήσεις συνομιλιών.