Καθώς τα chatbots τεχνητής νοημοσύνης έχουν μπει για τα καλά στην καθημερινότητα, πολλοί αναρωτιούνται αν ένα κείμενο που διαβάζουν έχει γραφτεί από άνθρωπο ή από μηχανή. Σε απάντηση της ευρωπαϊκής νομοθεσίας, πολλές εταιρείες AI προσθέτουν πλέον υδατογραφήματα σε κείμενα, εικόνες και βίντεο που δημιουργούν τα μοντέλα τους, με στόχο ακριβώς αυτό: να μπορεί ο χρήστης να ξεχωρίζει την προέλευσή τους.
Η προσδοκία είναι ότι τα υδατογραφήματα θα συμβάλουν στον περιορισμό της παραπληροφόρησης και θα ενισχύσουν τη διαφάνεια στη χρήση της AI. Ωστόσο, όπως σημειώνουν ειδικοί, τουλάχιστον στην περίπτωση του κειμένου, η υδατογράφηση δύσκολα θα αποδειχθεί αποτελεσματική.
Η υποχρέωση για υδατογράφηση περιλαμβάνεται στο AI Act της ΕΕ και τέθηκε σε ισχύ στις 2 Αυγούστου. Η OpenAI, η εταιρεία πίσω από το ChatGPT, ήδη προσθέτει υδατογραφήματα σε εικόνες και ήχο και αναφέρει ότι σχεδιάζει να προσθέσει και υδατογράφηση κειμένου στο μέλλον. Η Anthropic, η εταιρεία πίσω από το Claude, έχει ανακοινώσει ότι τα μελλοντικά μοντέλα της θα υδατογραφούν το κείμενο. Ο AI Act προβλέπει μεταβατική περίοδο για τα μοντέλα που έχουν ήδη κυκλοφορήσει, όμως όλα τα μοντέλα θα πρέπει να παρέχουν υδατογράφηση έως τις 2 Δεκεμβρίου φέτος.
Ο James Padolsey της NOPE, μιας εταιρείας που ασχολείται με την ασφάλεια στην AI, λέει ότι τα υδατογραφήματα σε εικόνες και βίντεο είναι πιο αξιόπιστα επειδή βασίζονται σε πυκνά και πολυεπίπεδα δεδομένα, ενώ στα κείμενα είναι πολύ δυσκολότερο να εφαρμοστούν.
Μία προσέγγιση για την υδατογράφηση κειμένου είναι η εφαρμογή ενός μαθηματικά ανιχνεύσιμου μοτίβου στην επιλογή των λέξεων. Τα μεγάλα γλωσσικά μοντέλα, όπως το ChatGPT, δημιουργούν προτάσεις προσθέτοντας κάθε φορά τη λέξη που είναι στατιστικά πιθανότερο να ακολουθήσει. Αλλάζοντας αυτή την επιλογή λέξεων, για παράδειγμα διαλέγοντας εναλλάξ την πιο πιθανή επόμενη λέξη και έπειτα τη δεύτερη πιο πιθανή, επαναλαμβανόμενα σε όλη την πρόταση, τα μοντέλα μπορούν να ενσωματώσουν ένα μοτίβο χωρίς να αλλάζει το συνολικό νόημα του κειμένου. Με βάση τον AI Act, οι εταιρείες AI θα πρέπει να παρέχουν εργαλεία που θα μπορούν να εντοπίζουν αυτά τα μοτίβα, ώστε να είναι δυνατή η αναγνώριση κειμένων που έχουν παραχθεί από AI.
Ο Padolsey επισημαίνει όμως ότι αυτά τα μοτίβα υδατογράφησης είναι ευάλωτα ακόμα και σε μικρές επεμβάσεις. «Δεν είναι χρήσιμο και ο τρόπος με τον οποίο οι άνθρωποι θα προσπαθήσουν να το χρησιμοποιήσουν θα είναι λανθασμένος», λέει. Για να το δείξει, έχει δημιουργήσει ένα διαδικτυακό εργαλείο με την ονομασία declaude, το οποίο παίρνει κείμενο που έχει παραχθεί από AI και το αλλάζει ελαφρά με τέτοιον τρόπο ώστε οι υπάρχοντες ανιχνευτές AI να μην λειτουργούν πια. Η ίδια διαδικασία, λέει, θα πρέπει να λειτουργεί και σε υδατογραφημένο κείμενο.
Ακόμη και χωρίς τέτοια εργαλεία, ο Padolsey σημειώνει ότι θα υπάρχουν πάντα διαθέσιμα ορισμένα open-source μοντέλα AI που δεν συμμορφώνονται με τους κανόνες της ΕΕ, επειδή δεν ελέγχονται από μία μόνο τεχνολογική εταιρεία. «Όσοι έχουν κακή πρόθεση θα χρησιμοποιούν απλώς αυτά. Και πιθανότατα θα είναι φθηνότερα και ευκολότερα στη χρήση», λέει. «Αν είσαι κακόβουλο άτομο ή κακός παράγοντας και προσπαθείς να παράγεις τέτοιο περιεχόμενο μαζικά, δεν είναι δύσκολο να το κάνεις».
«Αυτοί οι κανόνες θα βοηθήσουν τους ανθρώπους να αναγνωρίζουν πότε αλληλεπιδρούν με AI ή πότε το περιεχόμενο έχει παραχθεί ή αλλοιωθεί από AI», αναφέρει εκπρόσωπος της Ευρωπαϊκής Επιτροπής. «Η ανθεκτικότητα των λύσεων σήμανσης και ανίχνευσης απέναντι σε εχθρική συμπεριφορά πρέπει να αξιολογείται ως προς την αντοχή σε κακόβουλες ενέργειες, όπως επιθέσεις αντιγραφής, αφαίρεσης, αναδημιουργίας και τροποποίησης της σήμανσης».
Την ώρα που ο Padolsey ανησυχεί ότι τα υδατογραφήματα αφαιρούνται εύκολα, άλλοι φοβούνται τα ψευδώς θετικά αποτελέσματα, όταν δηλαδή ένα κείμενο χαρακτηρίζεται λανθασμένα ως παραγόμενο από AI ή όταν ένα μοντέλο είχε ακόμη και μικρό ρόλο στη δημιουργία ενός έργου. Ο Peter Scarfe από το Πανεπιστήμιο του Reading στη Βρετανία λέει ότι πολλές εταιρείες έχουν προτείνει στο τμήμα του προϊόντα που ισχυρίζονται ότι μπορούν να βοηθήσουν στον εντοπισμό λογοκλοπής φοιτητών, έστω και με άλλες μεθόδους πέρα από την υδατογράφηση, ενώ ταυτόχρονα περιλαμβάνουν μικρά γράμματα που αναφέρουν ότι τα συστήματά τους δεν πρέπει να χρησιμοποιούνται για την οριστική απόδειξη ή την τιμωρία περιστατικών λογοκλοπής, επειδή δεν είναι αλάνθαστα.
«Αν λέει ότι υπάρχει 67,8% πιθανότητα αυτό το κείμενο να έχει παραχθεί με κάποιον τρόπο από AI, ως εκπαιδευτικός πώς θα έπρεπε να το χειριστώ; Δεν είμαι πραγματικά σίγουρος», λέει. «Αυτά τα συστήματα δεν λειτουργούν τέλεια και, γι’ αυτό, η χρησιμότητά τους είναι περιορισμένη».
Τα εργαλεία ανίχνευσης υδατογραφημάτων θα λειτουργούν με παρόμοιο τρόπο και μπορεί να επισημαίνουν κείμενο που απλώς έχει υποστεί επεξεργασία από AI, όχι μόνο κείμενο που έχει παραχθεί εξ ολοκλήρου από αυτό. Ένας φοιτητής θα μπορούσε να βρεθεί σε δύσκολη θέση ακόμη κι αν είχε ζητήσει από ένα μοντέλο μόνο να ελέγξει τη χειρόγραφα γραμμένη εργασία του για γραμματικά λάθη πριν την υποβολή.
Ο Scarfe λέει ότι η AI μπορεί να χρησιμοποιηθεί για πολλούς σκοπούς και δεν διαδίδει από μόνη της παραπληροφόρηση, άρα ίσως μια καθολική πολιτική υδατογράφησης να είναι ένα μάλλον αδρό εργαλείο. Την ίδια στιγμή, όμως, σημειώνει ότι μπορεί να κάνει λάθη, να «παραληρεί» σε γεγονότα και να χρησιμοποιηθεί επίσης για τη γρήγορη διάδοση ψεμάτων, όπως μέσω δικτύων παραπληροφόρησης στα social media.
«Επειδή αυτές οι τεχνολογίες μπήκαν τόσο γρήγορα και εξελίχθηκαν τόσο γρήγορα, όλοι σε κάθε τομέα της ζωής βρίσκονται κάπως σε θέση άμυνας», λέει. «Αλλά δεν νομίζω ότι η υδατογράφηση είναι πανάκεια. Δεν νομίζω ότι θα λύσει ξαφνικά αυτό που ίσως ελπίζει η ΕΕ ότι θα λύσει».
Ίσως όμως τα υδατογραφήματα να δημιουργούν αρκετή τριβή ώστε να περιορίζουν ορισμένες κακόβουλες χρήσεις της AI, όπως η μαζική παραγωγή αναρτήσεων στα social media που προωθούν παραπληροφόρηση. Ο Erman Ayday από το Case Western Reserve University στο Κλίβελαντ του Οχάιο λέει ότι ακόμη κι αν η αφαίρεση ενός υδατογραφήματος απαιτεί ελάχιστη προσπάθεια, αυτό μακροπρόθεσμα μπορεί να κάνει ορισμένες μορφές κατάχρησης μη πρακτικές.
«Ο καθένας μπορεί να αλλοιώσει το υδατογράφημα αν αφιερώσει αρκετό χρόνο, αλλά τότε, αν αφιερώνεις τόσο χρόνο, ίσως θα έπρεπε εξαρχής να έχεις δημιουργήσει το περιεχόμενο μόνος σου, σωστά;» λέει ο Ayday.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
