Η επόμενη γενιά μοντέλων AI προορίζεται να εκπαιδεύεται από ανθρώπους που πληρώνονται για να κάνουν συνομιλίες μαζί τους, όμως αρκετοί από αυτούς τους εργαζομένους παραδέχονται στο New Scientist ότι στην πράξη αφήνουν τα chatbots να κάνουν τη δουλειά. Αυτή η πρακτική, που περιγράφεται ως «AI inbreeding», μπορεί να μειώσει τη δύναμη και τη χρησιμότητα των μελλοντικών μοντέλων, προειδοποιούν ειδικοί.
Το να εκπαιδεύει ένα chatbot ένα άλλο θα μπορούσε να αποδειχθεί συνταγή καταστροφής. φωτογραφία/Getty Images
Το να εκπαιδεύει ένα chatbot ένα άλλο θα μπορούσε να αποδειχθεί συνταγή καταστροφής.
Άτομα που πληρώνονται για να εκπαιδεύουν νέα μοντέλα AI, παρέχοντάς τους ποιοτικές συνομιλίες και τεστ, κάνουν «κοπάνα» και χρησιμοποιούν chatbots όπως το ChatGPT για να ολοκληρώσουν τη δουλειά, σύμφωνα με πολλαπλούς πληροφοριοδότες που μίλησαν στο New Scientist. Η πρακτική αυτή, που φαίνεται να είναι ευρέως διαδεδομένη, κινδυνεύει να υπονομεύσει το μέλλον της AI, καθώς μπορεί να οδηγήσει στην «κατάρρευση» πιο προηγμένων μοντέλων.
Τα περισσότερα μοντέλα AI που λειτουργούν σήμερα εκπαιδεύτηκαν πάνω σε κείμενα και δεδομένα που συλλέχθηκαν από το διαδίκτυο. Όμως, καθώς τα μοντέλα μεγάλωσαν και χρειάζονται ακόμη περισσότερα δεδομένα εκπαίδευσης, οι εταιρείες AI άρχισαν να χρησιμοποιούν εργαζομένους που πραγματοποιούν συνομιλίες και τεστ με την AI, με την ελπίδα ότι τα δεδομένα υψηλής ποιότητας που θα προκύψουν θα βελτιώσουν τη δύναμη και τη χρησιμότητα των μελλοντικών μεγάλων γλωσσικών μοντέλων (LLMs).
Οι AIs δεν μπορούν να σταματήσουν να προτείνουν πυρηνικά πλήγματα σε προσομοιώσεις πολεμικών παιχνιδιών.
Οι εργαζόμενοι αυτοί συνήθως απασχολούνται από τρίτες εταιρείες και όχι απευθείας από τις εταιρείες AI, ενώ συχνά δουλεύουν χωρίς μόνιμες συμβάσεις και με χαμηλές αμοιβές. Αυτό, σύμφωνα με μια εργαζόμενη με το όνομα Alice*, μπορεί να τους ωθεί να παίρνουν συντομεύσεις, όπως το να χρησιμοποιούν chatbots για να ολοκληρώνουν πιο γρήγορα τις εργασίες, παρότι αυτό παραβιάζει τις πολιτικές των εταιρειών.
«Είναι πολύ διαδεδομένο. Σε κάθε εταιρεία όπου έχω δουλέψει υπήρχαν σαφείς οδηγίες γι’ αυτό και προφανώς προσπαθούν να εντοπίσουν όσους το κάνουν, οπότε νομίζω ότι τους νοιάζει. Αλλά δεν πιστεύω ότι μπορούν να το σταματήσουν», λέει η Alice.
Η Alice λέει ότι δεν νιώθει «ούτε στο ελάχιστο» ενοχές που χρησιμοποιεί το ChatGPT για να ολοκληρώσει εργασίες εκπαίδευσης. Όπως λέει, είναι εύκολο να το ξεπεράσει κανείς, αρκεί να δώσει εντολή στα chatbots να αποφεύγουν τα συνηθισμένα σημάδια που προδίδουν περιεχόμενο AI, όπως η υπερβολική χρήση παύλας em-dash. «Μόνο οι πιο πρόχειροι χρήστες πιάνονται», λέει. «Όποιος έχει έστω και στοιχειώδη επίγνωση των χαρακτηριστικών της AI μπορεί να πει στην έξοδο να μην τα χρησιμοποιεί, και σε εκείνο το σημείο τι θα κάνεις;»
Η πιο πρόσφατη ενημέρωση για το τι νέο υπάρχει στην επιστήμη και γιατί έχει σημασία κάθε μέρα.
«Αν αυτές οι εταιρείες θέλουν ποιοτικά δεδομένα, τότε θα πρέπει να προσφέρουν ποιοτικά συμβόλαια», λέει η Alice. «Αντί γι’ αυτό, ρίχνουν χαμηλές προσφορές σε ανθρώπους που δυσκολεύονται οικονομικά, τους απασχολούν για το ελάχιστο δυνατό χρονικό διάστημα και τους πετούν στην άκρη μόλις τελειώνουν τα projects, χωρίς καμία προειδοποίηση».
Ένας άλλος εργαζόμενος, ο Bob*, δούλεψε σε πλατφόρμα εκπαίδευσης με την ονομασία Outlier. Στην αρχή είχε αναλάβει εργασίες εκπαίδευσης AI, τις οποίες λέει ότι έκανε παράνομα με τη βοήθεια AI, και στη συνέχεια προήχθη σε ρόλο ευθύνης, όπου ένα μέρος της δουλειάς του ήταν να εντοπίζει άλλους που έκαναν το ίδιο.
Γιατί άλλαξα γνώμη για την AI και γιατί θα έπρεπε να το κάνετε κι εσείς
«Η διοίκηση ταλαντευόταν ανάμεσα σε ήπια ανοχή και σε πλήρη απαγόρευση», λέει ο Bob. Στο Outlier, οι εργαζόμενοι παρακολουθούνταν με ένα εργαλείο που ονομάζεται Hubstaff, το οποίο τραβά τυχαία στιγμιότυπα οθόνης από τον υπολογιστή τους, ώστε να διαπιστώνεται αν πράγματι κάνουν τις εργασίες που τους έχουν ανατεθεί. Ο Bob έψαχνε σε αυτά τα στιγμιότυπα για ενδείξεις χρήσης μοντέλων AI.
«Άνθρωποι είχαν το [AI μοντέλα όπως το ChatGPT] ανοιχτό σε άλλες καρτέλες ή ελαχιστοποιημένο, οπότε φυσικά μπορούσαμε να το δούμε στη γραμμή εργασιών», λέει ο Bob. «Ακόμη και πράγματα όπως οι φάκελοι στην επιφάνεια εργασίας με ονόματα το πρόδιναν [τη χρήση AI]».
Η Outlier, που ανήκει στη Scale AI, δεν απάντησε σε αίτημα για σχόλιο. Η Scale AI αναφέρει στην ιστοσελίδα της ότι συνεργάζεται με τεχνολογικούς κολοσσούς όπως η Meta και η Cisco, οι οποίες επίσης δεν απάντησαν στο αίτημα του New Scientist για σχόλιο. Ο Bob λέει ότι ο ίδιος είχε δουλέψει σε projects για τη Google, η οποία επίσης δεν απάντησε σε αίτημα για σχόλιο.
Μια άλλη εργαζόμενη, η Carol*, που έχει εργαστεί σε αρκετές πλατφόρμες, λέει ότι η χρήση AI από την πλευρά της ξεκίνησε με το να ελέγχει τη δουλειά της για οτιδήποτε παραβίαζε τις εκτενείς οδηγίες ενός task, γιατί οποιαδήποτε παράβαση μπορούσε να οδηγήσει σε αποπομπή από το project και απώλεια εισοδήματος.
«Φοβόμουν τρομερά μήπως χάσω την πηγή εισοδήματός μου, και μετά από αυτό έγινε απλώς πιο εύκολο να περνάω τα πάντα από LLMs», λέει η Carol. «Για πολλά από τα projects που κάνω τώρα, πρόκειται για τη δημιουργία σεναρίων, οπότε χρησιμοποιώ ένα LLM για να με βοηθήσει να δημιουργήσω το σενάριο και μετά ένα διαφορετικό LLM για να με βοηθήσει να δημιουργήσω τα αρχεία που συνοδεύουν το σενάριο. Νιώθω ενοχές, αλλά όπως είπα, στην αρχή είχε περισσότερο να κάνει με το να βεβαιωθώ ότι δεν έκανα λάθη».
«Ανησυχώ ότι στην πραγματικότητα το κάνω χειρότερο [το AI]. Πίστευα ότι η χρήση των μοντέλων για να εκπαιδεύουν τον εαυτό τους ακυρώνει μέρος της αξίας», λέει η Carol.
Ο Mark Lee από το Πανεπιστήμιο του Birmingham, στο Ηνωμένο Βασίλειο, λέει ότι η έρευνα έχει δείξει πως τα μοντέλα AI «καταρρέουν» αν εκπαιδεύονται επαναληπτικά πάνω σε περιεχόμενο που έχει παραχθεί από AI. Όταν συμβαίνει αυτό, οι ικανότητες του μοντέλου πέφτουν δραματικά και γίνεται λιγότερο χρήσιμο. Η διαδικασία είναι μερικές φορές γνωστή ως AI cannibalism ή AI inbreeding.
Η AI μπορεί να αμβλύνει τις ικανότητές μας στη σκέψη — δείτε τι μπορείτε να κάνετε γι’ αυτό.
«Αυτό είναι το είδος του χειρότερου σεναρίου. Και μάλλον δεν είναι αυτό που συμβαίνει στην πραγματική ζωή», λέει ο Lee. «Υπάρχουν ακόμη λίγοι άνθρωποι. Και αν έχεις, ας πούμε, 10% ανθρώπινα δεδομένα, αυτό το μετριάζει, αποτρέπει την κατάρρευση του μοντέλου».
Όμως ο Lee λέει ότι η απάτη στην οποία προχωρούν αυτοί οι εργαζόμενοι δεν είναι χωρίς συνέπειες και θα επηρεάσει την απόδοση. «Αντί να είναι καταστροφικό, θα δεις ότι η AI δεν είναι τόσο καλή στο να κάνει ανθρώπινες εργασίες. Είναι πρόβλημα, γιατί πιστεύω ότι τα μοντέλα δεν είναι τόσο καλά όσο θα μπορούσαν να είναι».
Τα ονόματα έχουν αλλάξει για την προστασία της ταυτότητας.
