Υδατογραφήματα υψηλής τεχνολογίας, ανιχνευτές και κουμπιά αναφοράς «slop»: τι συμβαίνει όταν η ΤΝ δεν μπορεί πια να κρυφτεί;

Αποθηκεύστε αυτό το άρθρο για να το διαβάσετε αργότερα.
Βρείτε το στην ενότητα «Saved for Later» του λογαριασμού σας.

Είναι προφανές για όποιον έχει πρόσβαση στο διαδίκτυο ότι περιεχόμενο που παράγεται από ΤΝ υπάρχει παντού. Ωστόσο, η κρίση κατά περίπτωση παραμένει δύσκολη. Δίπλα σε ξεδιάντροπα κείμενα αντιγραφής-επικόλλησης από chatbots, υπάρχει η φοιτητική εργασία με ύφος ύποπτο αλλά όχι καταδικαστικό, ένα άβαταρ δουλεμένο αλλά όχι αδύνατο, ή ένα post στο LinkedIn άχρηστο και εκνευριστικό με τρόπο που μοιάζει GPT-ίστικος αλλά μπορεί απλώς να είναι ο νέος τρόπος που γράφει ο συνάδελφός σας.

Λίγα χρόνια μετά την έλευση των εύκολων στη δημιουργία εικόνων, βίντεο και κειμένων από ΤΝ, το status quo είναι μπερδεμένο — όχι όμως ακριβώς η κρίση που προέβλεπαν πολλές εταιρείες και επικριτές. Οι παραγόμενες εικόνες και τα βίντεο έχουν πράγματι γίνει παράγοντας στην πολιτική, αλλά η επίθεση στη δημοκρατία είναι κυρίως αισθητική παρά στρατηγικά παραπλανητική, εντείνοντας ένα γενικό αίσθημα αβεβαιότητας και μη-πραγματικότητας· το ίδιο και στις πλατφόρμες όπου συγκεντρώνεται κόσμος online, όπου το αυτοματοποιημένο περιεχόμενο λειτουργεί σαν ραγδαία εξελισσόμενο spam, κατακλύζοντας πολιτιστικούς χώρους και αγορές και επιδεινώνοντας τα χειρότερα χαρακτηριστικά τους. (Όταν η γενετική ΤΝ ήταν καινούργια, ο κυρίαρχος φόβος ήταν τα υψηλού ρίσκου deepfakes και η στοχευμένη παραπληροφόρηση. Μέχρι τώρα, αυτό που πήραμε είναι slopaganda.)

Είναι δυσάρεστο και ο κόσμος το λέει καθαρά. Γι’ αυτό ορισμένες πλατφόρμες αρχίζουν να ανιχνεύουν και να επισημαίνουν περιεχόμενο που παράγεται από ΤΝ. Την περασμένη εβδομάδα, το Spotify ανακοίνωσε ότι θα προσθέσει ετικέτες σε μουσική που έχει δημιουργηθεί με ΤΝ. «Listeners have been clear in telling us that they don’t like seeing an artist profile that seems human, only to find out that the persona is AI-generated,» ανέφερε η εταιρεία. Τον περασμένο μήνα, το Substack συνεργάστηκε με το εργαλείο ανίχνευσης Pangram, ώστε οι χρήστες να μπορούν «to scan text to see how much of it was likely written by hand or with AI assistance.» Το TikTok, το YouTube και ακόμη και η Meta έχουν προχωρήσει σε επισημάνσεις για μερικό περιεχόμενο ΤΝ, ενώ το LinkedIn —όπου πολλοί χρήστες δεν έχουν δει ανθρώπινη λέξη εδώ και μήνες— πρόσθεσε κουμπί «Seems Like AI Slop».

Τα παραπάνω αντιμετωπίζουν το σύμπτωμα, όχι την πηγή, άρα η αποτελεσματικότητά τους είναι περιορισμένη. Υπάρχουν όμως προσπάθειες πιο κοντά στην αρχή της παραγωγής, με υδατογραφήματα εικόνας. Η Google, για παράδειγμα, ενσωματώνει υδατογράφημα σε εικόνες που δημιουργούνται με το Gemini, ενώ οι OpenAI και Meta διαθέτουν συστήματα που «σφραγίζουν» τις εικόνες που παράγονται με τα εργαλεία τους με ανιχνεύσιμα σημάδια. Κάποια από αυτά έγιναν προληπτικά ενόψει ρύθμισης — η Google χρησιμοποιεί υδατογραφήματα εδώ και καιρό. Όμως οι νέοι κανονισμοί της Ευρωπαϊκής Ένωσης, μερικοί εκ των οποίων τίθενται σε ισχύ αυτόν τον μήνα, επιτάχυναν τις προσπάθειες. Η ΕΕ συνοψίζει τους κανόνες ως εξής:
Οι πάροχοι chatbots, εικονικών βοηθών και άλλων συστημάτων που προορίζονται να αλληλεπιδρούν με ανθρώπους πρέπει να τα σχεδιάζουν έτσι ώστε οι χρήστες να ενημερώνονται ότι αλληλεπιδρούν με ΤΝ.
Οι πάροχοι συστημάτων γενετικής ΤΝ —που παράγουν κείμενο, εικόνες, ήχο, βίντεο— πρέπει να επισημαίνουν τα αποτελέσματα σε μορφή αναγνώσιμη από μηχανές και να διασφαλίζουν ότι είναι ανιχνεύσιμα ως τεχνητά παραγόμενα ή τροποποιημένα.

Η υδατοσήμανση εικόνας είναι γνωστή και λειτουργεί σχετικά καλά, χωρίς να είναι πανάκεια (οι επίμονοι μπορούν να την αφαιρέσουν ή να την αποφύγουν, ενώ υπάρχουν πολλά ανεξέλεγκτα μοντέλα που δεν εκτίθενται στους κανονισμούς της ΕΕ όσο μια εταιρεία τρισεκατομμυρίων). Πολλαπλές μελέτες έχουν επιβεβαιώσει το αυτονόητο για το tagging εικόνων — ότι τέτοιες γνωστοποιήσεις τείνουν να μειώνουν το engagement, δείχνοντας πως τουλάχιστον κάποιοι θέλουν να ξέρουν, ακόμη κι αν δεν μπορούν να καταλάβουν. Η Anthropic είναι η πρώτη που παρουσιάζει αυτό που περιγράφει ως ανθεκτική υδατοσήμανση κειμένου:
«When a supported Claude model generates text, it weaves an imperceptible watermark directly into the text itself. You won’t see it, and it doesn’t change the meaning, quality, or readability of Claude’s response. Because the watermark is part of the text, it will travel with the text when it’s copied and pasted elsewhere, and may persist through some editing.»

Για όσους έχουν πολλή έκθεση στα τωρινά μοντέλα, αυτό έχει και μια αστεία πλευρά: ενώ το κείμενο ΤΝ συχνά έχει προφανείς ενδείξεις — με τις υπερβολικές διατυπώσεις τύπου «it’s not x, it’s y» να είναι οι πιο διαβόητες — το Claude της Anthropic γράφει με φωνή εξαιρετικά αναγνωρίσιμη. (Για το ενοχλητικό, μετα-επιχειρηματολογικό «Claudish» — που περιγράφεται επίσης ως «Claudespeak» και «Claudeslop» — ο προγραμματιστής Werner Robitza γράφει ότι το Claude μιλά σαν να «proving its reasoning rather than informing a reader», κάτι που ίσως είναι παρενέργεια της έμφασης του μοντέλου στην παραγωγή λογισμικού και όχι πρόζας. Σε κάθε περίπτωση, είναι αδιαμφισβήτητο.)

Παρόλα αυτά, πρόκειται για σημαντική εξέλιξη, ειδικά αν ακολουθήσουν και άλλες εταιρείες. Υπάρχουν άνθρωποι που δηλώνουν ανοιχτά ότι μιλούν μέσω chatbot ή ότι χρησιμοποιούν ΤΝ για να τοποθετήσουν κείμενο σε πλαίσια όπου η προέλευσή του δεν έχει την ίδια βαρύτητα όπως, για παράδειγμα, σε ένα προσωπικό email (σε έναν κώδικα, ας πούμε, ή στο ήδη κατεστραμμένο, ερημικό κοινωνικό περιβάλλον ενός feed στο LinkedIn). Και σίγουρα υπάρχουν χώροι εργασίας όπου η χρήση ΤΝ ενθαρρύνεται καθολικά και τέτοια υδατογραφήματα δεν θα υπονοούν κάτι μεμπτό.

Υπάρχουν, όμως, και πολλές περιπτώσεις όπου θα υπονοούν. Είναι αδιαμφισβήτητο ότι η απάτη και η παραπλάνηση αποτελούν κομμάτι πολλών πρώιμων χρήσεων της ΤΝ. Το να προσποιείται κανείς ότι κάτι δεν δημιουργήθηκε από ΤΝ — στο σχολείο, στη δουλειά ή σε δημόσιο περιεχόμενο στα social — εξηγεί μεγάλο μέρος του κειμένου από ΤΝ που παράγουν, συναντούν και απορρίπτουν οι άνθρωποι και μεγάλο μέρος της αξίας που αντλούν ορισμένοι από τα LLMs. Η υδατοσήμανση κειμένου δεν θα λύσει άμεσα την «κρίση αντιγραφής» στα σχολεία, αλλά μπορεί να κάνει τα πράγματα ενδιαφέροντα.

Στο Stratechery, ο Ben Thompson υποστηρίζει ότι «to insist on [AI] watermarking is no different than insisting that a ballpoint pen advertise itself as the author,» υπονοώντας ότι η ΕΕ, με τη βοήθεια των εταιρειών ΤΝ, τραβά μια αυθαίρετη γραμμή. Μακροπρόθεσμα, πράγματι υπάρχουν προκλήσεις: σε κάποιο σημείο, κάθε λογισμικό στον υπολογιστή ή το τηλέφωνό σας θα βρίσκεται σε άμεση γειτνίαση με ένα μοντέλο γενετικής ΤΝ. Ήδη, λέει η Anthropic, το υδατογράφημα θα εισάγεται και σε περιπτώσεις όπου το Claude χρησιμοποιήθηκε για «proofread, translate, [or] summarize» περιεχόμενο, κάτι που μπορεί να σημαίνει ότι θα επισημαίνεται τόσο ευρύ φάσμα αποτελεσμάτων ώστε το σήμα να χάνει νόημα, ή να οδηγήσει σε κάτι σαν ψευδώς θετικά (το εργαλείο Pangram του Substack έχει ήδη προκαλέσει αντιδράσεις προς αυτή την κατεύθυνση).

Ακόμη κι αν το σύμπλεγμα τεχνολογιών που σήμερα ρυθμίζει η ΕΕ «εξαφανιστεί» στο ανώνυμο βασίλειο των εργαλείων που δεν χρειάζονται αναφορά, και η υδατοσήμανση ΤΝ περιοριστεί σε κάτι αντίστοιχο με μεταδεδομένα «Created With Microsoft Word» ή τις πληροφορίες EXIF μιας ψηφιακής κάμερας, δύσκολα μπορεί να υποστηριχθεί σήμερα ότι το Claude μοιάζει με «στυλό διαρκείας» — ένα όργανο που (1) από μόνο του προδίδει τη χρήση του εξαρχής και (2) μεταφέρει με ακρίβεια την κίνηση του χεριού του χρήστη χωρίς επιπλέον επεξεργασία και χωρίς να προσποιείται ότι έχει ανθρώπινη προσωπικότητα. Τουλάχιστον για τα επόμενα χρόνια, οι διακινητές «slop» θα βρεθούν μπροστά σε τρεις επιλογές. Μπορούν να παραδεχθούν τι κάνουν και να ποντάρουν ότι το κοινό τους δεν νοιάζεται. Μπορούν να διπλασιάσουν την προσπάθεια και να βρουν εργαλεία που δεν τους «καρφώνουν» αυτόματα. Ή ίσως, κάπου κάπου, να τα παρατήσουν.

Με την υποβολή του email σας, συμφωνείτε με τους Όρους και την Πολιτική Απορρήτου μας και να λαμβάνετε σχετική επικοινωνία μέσω email.