Μετάβαση στο περιεχόμενο
Friday 20 November

Το Claude υδατογραφεί τα κείμενά του, χωρίς δημόσιο έλεγχο ακόμα

Η Anthropic λέει ότι ίσως ανταγωνίζεται startups εφαρμογών σε ορισμένες κατηγορίες
Εικόνα από το αρχικό άρθρο — Tech.eu.

Το Claude της Anthropic ενσωματώνει πλέον ένα κρυφό υδατογράφημα στο κείμενο που παράγει, όμως προς το παρόν ο έλεγχός του δεν είναι ανοιχτός στο κοινό, σύμφωνα με το Radar του O’Reilly.

Η Anthropic αναφέρει στη σελίδα υποστήριξής της για τη σήμανση περιεχομένου που παράγεται από τεχνητή νοημοσύνη ότι όλα τα νεότερα μοντέλα της, αλλά και ορισμένα παλαιότερα, υδατογραφούν το κείμενό τους σε κάθε περιβάλλον όπου μπορεί να χρησιμοποιηθεί το Claude, παγκοσμίως. Το ίδιο ισχύει και για άλλες εταιρείες: η Google χρησιμοποιεί υδατογράφημα κειμένου στο Gemini από το 2024, ενώ τον Οκτώβριο η OpenAI ανακοίνωσε ότι προσθέτει αντίστοιχη σήμανση στο ChatGPT και στο Codex για την ΕΕ. Ωστόσο, καμία από αυτές δεν δίνει στο κοινό πρόσβαση σε εργαλείο ελέγχου.

Η ιδέα του υδατογραφήματος είναι να υπάρχει ένα κρυφό σήμα στο κείμενο που μπορεί να αναγνωριστεί από μηχανή. Έτσι, μπορεί να δημιουργηθεί ένας τρόπος ανίχνευσης κειμένων που παράγονται μαζικά από τεχνητή νοημοσύνη. Η Anthropic και η OpenAI δίνουν και έναν πιο επίσημο λόγο: ο Νόμος για την Τεχνητή Νοημοσύνη της ΕΕ απαιτεί από τις εταιρείες να επισημαίνουν το περιεχόμενο που παράγεται από AI με τρόπο αναγνώσιμο από μηχανές.

Ο συγγραφέας του άρθρου εξηγεί ότι, πριν ερευνήσει το θέμα, προσπάθησε να μαντέψει πώς θα μπορούσε να λειτουργεί ένα τέτοιο υδατογράφημα με βάση τον τρόπο λειτουργίας των μεγάλων γλωσσικών μοντέλων. Η εκτίμησή του ήταν κοντά στην πραγματικότητα, καθώς το βασικό σχήμα αποδείχθηκε αρκετά απλό: αν κάποιος ξέρει πώς λειτουργεί το τελικό στάδιο εξόδου ενός LLM, μπορεί να σχεδιάσει ένα αξιόπιστο υδατογράφημα.

Στην πράξη, ένα μοντέλο κάνει πρόβλεψη για την επόμενη λέξη. Εισάγει το κείμενο σε μορφή tokens, δηλαδή αριθμητικών μονάδων, και για κάθε token υπολογίζει πιθανότητες για το ποιο θα ακολουθήσει. Το μοντέλο δεν επιλέγει το ίδιο τη λέξη· αυτή η επιλογή γίνεται από το inference runtime, δηλαδή το πρόγραμμα που αποφασίζει ποιο token θα γραφτεί τελικά. Εκεί ακριβώς εφαρμόζεται και η υδατογράφηση.

Ένα απλό σύστημα υδατογραφήματος μπορεί να χωρίσει τα tokens σε δύο ομάδες και να αυξήσει λίγο τις πιθανότητες της μίας, μειώνοντας αντίστοιχα της άλλης. Αν αργότερα διαπιστωθεί ότι μια συγκεκριμένη ομάδα token εμφανίζεται πιο συχνά από όσο θα περίμενε κανείς τυχαία, τότε το κείμενο μπορεί να θεωρηθεί υδατογραφημένο.

Στην πράξη, όμως, η «πράσινη λίστα» δεν μπορεί να είναι ίδια κάθε φορά. Αν ήταν, το μοτίβο θα γινόταν εύκολα ορατό. Για αυτό το λόγο, το σύστημα καθορίζει τη λίστα για κάθε token με βάση ένα μυστικό κλειδί και το προηγούμενο token. Όποιος έχει το κλειδί μπορεί να ανακατασκευάσει τη λίστα και να ελέγξει αν το κείμενο φέρει το σήμα.

Η Anthropic λέει ότι το υδατογράφημα του Claude βασίζεται στο SynthID-Text, μέθοδο που δημοσίευσε η Google DeepMind το 2024 και χρησιμοποιεί και στο Gemini. Η λογική του είναι διαφορετική από την απλή αύξηση πιθανοτήτων. Αντί γι’ αυτό, το σύστημα αλλάζει τον τρόπο με τον οποίο επιλέγεται η τυχαία τιμή ανάμεσα στις πιθανές λέξεις. Με απλά λόγια, δοκιμάζει μερικές υποψήφιες λέξεις και για καθεμία «ρίχνει ένα νόμισμα», με αποτέλεσμα να περνά τελικά εκείνη που έτυχε να πάρει την «κεφαλή».

Ο έλεγχος γίνεται με τον ίδιο μηχανισμό: ο ανιχνευτής, έχοντας το κλειδί, επαναλαμβάνει τη διαδικασία λέξη προς λέξη και μετρά τα αποτελέσματα. Στο φυσιολογικό κείμενο, το αποτέλεσμα θα είναι περίπου μισό-μισό. Στο υδατογραφημένο κείμενο, όμως, το μοτίβο εμφανίζεται συχνότερα.

Το άρθρο συνεχίζει με έναν πιο πρακτικό τρόπο εξήγησης του μηχανισμού, μέσα από ένα πείραμα και ένα εργαλείο που μπορεί να κατασκευάσει ο αναγνώστης, ώστε να δει πώς λειτουργεί το υδατογράφημα στην πράξη.

Πηγή: oreilly.com.

Το κείμενο δημιουργήθηκε από GPT 5.0. Δείτε τα AI Editorial Guidelines.

Περισσότερα από AI + Robots

Όλα →