Η Αμερική έχει πρόβλημα με το Pangram

Τα εργαλεία ανίχνευσης κειμένου που παράγεται από συστήματα τεχνητής νοημοσύνης γίνονται καλύτερα. Αλλά ακόμη δεν είναι αρκετά καλά.

Σχεδόν κάθε πρόσφατη, προβεβλημένη καταγγελία ότι κάποιος πέρασε για δικό του κείμενο που έγραψε ένα bot ξεκίνησε με το ίδιο εργαλείο: το Pangram. Τον Μάρτιο, ένα μυθιστόρημα τρόμου από μεγάλο εκδοτικό οίκο αποσύρθηκε λίγες ημέρες πριν από την προγραμματισμένη κυκλοφορία του στις ΗΠΑ, εν μέρει επειδή το Pangram, ένα πρόγραμμα ανίχνευσης AI, είχε «δείξει» πως το κείμενο ήταν παραγόμενο από AI. Άλλοι έβαλαν κείμενα στο Pangram για να υπονοήσουν ότι chatbots χρησιμοποιήθηκαν για τη συγγραφή άρθρων σε μεγάλα μέσα όπως οι The New York Times, για πολλά διηγήματα που βραβεύτηκαν με σημαντικό λογοτεχνικό βραβείο και, πιο πρόσφατα, για μεγάλα τμήματα της εγκυκλίου του Pope Leo XIV που προειδοποιεί για τους κινδύνους της AI. Το εργαλείο χρησιμοποιείται επίσης από πανεπιστήμια για τον έλεγχο φοιτητικών εργασιών και από επιστημονικές ενώσεις για τον έλεγχο ερευνητικών άρθρων. Καθώς ο πανικός για τα AI κείμενα μεγαλώνει, το Pangram βρίσκεται στον πυρήνα.

Μέχρι πριν λίγα χρόνια, έμοιαζε αδύνατο να διαπιστώσεις άμεσα και με αξιοπιστία αν ένα κείμενο γράφτηκε από άνθρωπο ή bot. Το 2023, ένα εργαλείο, το ZeroGPT, «αποφάνθηκε» ότι το Σύνταγμα των ΗΠΑ γράφτηκε από AI· την ίδια χρονιά, η OpenAI εγκατέλειψε εντελώς τον δικό της ανιχνευτή λόγω «χαμηλής ακρίβειας». Και τότε η ποιότητα γραφής του ChatGPT ήταν αισθητά χειρότερη από σήμερα. Παρ’ όλα αυτά, τα εργαλεία ανίχνευσης βελτιώθηκαν σημαντικά—και το Pangram, ειδικά, αναδείχθηκε σε χρυσό στάνταρ: επικολλάς ένα απόσπασμα και το μοντέλο αποτιμά ποια τμήματα είναι “AI Generated”, “AI Assisted” ή “Human Written”.

Ένας ανιχνευτής που είναι κατά βάση αξιόπιστος μπορεί να αποδειχθεί πιο επικίνδυνος από έναν που είναι απλώς χαλασμένος. Ενώ το Pangram συσσωρεύει δύναμη ικανή να τερματίζει καριέρες και φήμες, κάνει λάθη—ίσως σε μεγαλύτερη κλίμακα από όσο κατανοείται σήμερα. Έτσι, οι κατηγορίες για χρήση AI μπορούν να εξελιχθούν γρήγορα σε κυνήγι μαγισσών.

Διαβάστε: Τα σκάνδαλα με κείμενα AI γίνονται όλο και πιο μπερδεμένα

Το Pangram υποστηρίζει ότι ο αλγόριθμός του είναι τόσο ακριβής ώστε εσφαλμένα ταυτοποιεί κείμενο ως παραγόμενο από AI περίπου μία στις 10.000 φορές. «Υπάρχει μεγάλη ευθύνη, ένα τεράστιο βάρος» στο να λες ότι κάτι είναι AI-generated, μου είπε ο Max Spero, CEO της Pangram. «Ο μόνος λόγος που το κάνουμε είναι επειδή είμαστε εξαιρετικά σίγουροι». Αρκετές ανεξάρτητες αναλύσεις επιβεβαιώνουν επίσης ότι τα πάει πολύ καλά. Μία μελέτη, από το University of Chicago, διαπίστωσε σχεδόν μηδενικά false positives σε περίπου 3.000 δείγματα κειμένων 500 έως 1.000 λέξεων.

Όμως η ικανότητα του Pangram να εγγυηθεί ότι κάτι γράφτηκε από άνθρωπο είναι πιο ασταθής. Ο Spero μου έδειξε ένα τεστ που δείχνει ότι το false-negative rate—το πόσο συχνά το μοντέλο εσφαλμένα χαρακτηρίζει κείμενο ως ανθρώπινο—είναι πιο κοντά στο μία στις 70 (αν και κάποιες άλλες αξιολογήσεις το βρίσκουν ακριβέστερο).

Μέρος του προβλήματος είναι ο αγώνας ταχύτητας με τα μεγάλα AI labs, που έχουν συμφέρον να κάνουν τη γραφή των ChatGPT και Claude να ακούγεται όσο πιο φυσική και ανθρώπινη γίνεται. Ταυτόχρονα, το Pangram έχει να αντιμετωπίσει τα AI “humanizers”—προγράμματα σχεδιασμένα ρητά για να μεταμφιέζουν AI κείμενο ως δικό σου. Χρήστες στο Reddit αποθεώνουν ένα humanizer ονόματι Walter Writes AI, το οποίο αποφάσισα να δοκιμάσω. Ζήτησα από ChatGPT και Claude να γράψουν σύντομα άρθρα και μετά τα πέρασα από το Walter Writes AI. Το πρόγραμμα, όπως και άλλα humanizers, κάνει ανώδυνες αναδιατυπώσεις, αντικαθιστά μια άτεχνη μεταβατική φράση με μια άλλη και εισάγει γραμματικές ιδιορρυθμίες. Για παράδειγμα, το «The numbers are no longer small enough to ignore» του ChatGPT έγινε «The sheer size of these usage figures can no longer be ignored.» Όποτε επικόλλουσα έξοδο του Walter Writes AI στο Pangram, αδιάλειπτα μου έλεγε ότι το διπλο-επεξεργασμένο AI άρθρο ήταν ανθρώπινο. (Αξίζει να αναφερθεί ότι το The Atlantic απαγορεύει τη χρήση AI-generated κειμένου εκτός αν επισημαίνεται ως τέτοιο, και ότι δεν χρησιμοποιώ AI για έρευνα.)

Με άλλα λόγια, το Pangram μπορεί να προσφέρει μόνο έναν βαθμό εικόνας. Ένας καθηγητής δημόσιου λυκείου στη Νέα Υόρκη μου είπε ότι έχει «τρέξει μερικές εργασίες μαθητών στο Pangram και βγαίνουν 100 τοις εκατό human. Και δεν το πιστεύω». Γνωρίζει τις δυνατότητες των παιδιών του και, ειδικά για όσους έχουν ιστορικό αντιγραφής με AI, έχει βάσιμους λόγους να αμφιβάλλει για το Pangram. (Συμφώνησα να μην τον κατονομάσω ώστε να μιλήσει ελεύθερα για τις υποψίες του.) Από την άλλη, το να κατηγορήσεις έναν μαθητή ότι χρησιμοποίησε κρυφά chatbot με έμμεσες ενδείξεις είναι υπόθεση υψηλού ρίσκου: ο μαθητής είτε θα κοπεί είτε, αν δικαιωθεί, θα αγανακτήσει. «Τα διακυβεύματα είναι τεράστια», είπε ο καθηγητής, «αλλά ο τρόπος που αποτιμούμε τι είναι AI-generated παραμένει αδιαμόρφωτος».

Τα πράγματα περιπλέκουν κι άλλο οι αδιαφανείς τρόποι σχεδιασμού του Pangram και παρόμοιων εργαλείων. Το μοντέλο εκπαιδεύτηκε με βουνά παραδειγμάτων γραμμένων από άνθρωπο και από bot—μια βιβλιοκριτική σε πραγματικό περιοδικό και μετά κριτική για το ίδιο βιβλίο στο ύφος του ίδιου περιοδικού, αλλά από ChatGPT—μέχρι να μπορεί να τα ξεχωρίσει. Κάτι σαν να ταΐζεις εκατομμύρια φωτογραφίες γατών και σκύλων σε έναν αλγόριθμο αναγνώρισης εικόνας μέχρι να μάθει τις διαφορές. Το Pangram δεν μπορεί να υποδείξει πολλά συγκεκριμένα τεκμήρια ή πρότυπα λεξιλογίου, φρασεολογίας ή στίξης για να στηρίξει γιατί κρίνει κάτι ως AI ή ανθρώπινο. (Δεν καταλαβαίνω, για παράδειγμα, γιατί το «these usage figures» ήταν πιο ανθρώπινο από το «the numbers».) Επιπλέον, παρότι το Pangram ξεχωρίζει ανάμεσα σε «ελαφρώς» και «μέτρια AI-assisted», αυτές οι γενικές κατηγορίες μπορούν να σημαίνουν σχεδόν οτιδήποτε εκτός από copy-paste από το Claude—χρήση AI για έρευνα, για αντεπιχειρήματα, ως συνώνυμο, για έλεγχο γραμματικής. Τα εσωτερικά του αλγόριθμου είναι «pretty uninterpretable», είπε ο Spero, και παρότι θέλει να κάνει την ένδειξη «AI-assisted» πιο λεπτομερή, «δεν είναι σίγουρος πόσο εφικτό είναι». Μέσα στις ανησυχίες για την υπερ-εξάρτηση από chatbots, κινδυνεύουμε να προσθέσουμε άλλη μία εξάρτηση από έναν ακόμη αλγόριθμο-μαύρο κουτί.

Διαβάστε: Οι άνθρωποι που εκχωρούν τη σκέψη τους σε AI

Ο Spero μου είπε ότι το Pangram «δεν θα πρέπει ποτέ να είναι ο τελικός κριτής», αλλά η αφετηρία για πιο ενδελεχή διερεύνηση, και ότι η εταιρεία εξετάζει κάθε αναφερόμενο λάθος του μοντέλου. Σημείωσε επίσης ότι κάθε λογής τεχνολογία ανίχνευσης στην οποία βασιζόμαστε—ανιχνευτές καπνού, scanners της TSA—έχει επίσης βασικά ποσοστά σφάλματος. Σε ένα βαθύτερο επίπεδο, μεγάλο μέρος του προβλήματος δεν είναι οι ίδιες οι τεχνολογίες αλλά αυτό που προσπαθούν να εντοπίσουν. Είναι πρόβλημα ότι κτίρια πιάνουν φωτιά. Είναι πρόβλημα ότι η AI εισχωρεί άτσαλα σε κάθε πτυχή της γραπτής επικοινωνίας.

Καθώς οι κατηγορίες για κείμενα AI κλιμακώνονται, η εξάρτηση από το Pangram—ή όποιον ανιχνευτή το εκτοπίσει—για «καταδίκη» ή «αθώωση» θα μεγαλώνει. Σκεφτείτε ότι το Pangram μπορεί να συνδεθεί με το Canvas, την δημοφιλή εκπαιδευτική πλατφόρμα, επιτρέποντας σε εκπαιδευτικούς να σκανάρουν εργασίες μαθητών. Στις ΗΠΑ υπάρχουν πάνω από 10 εκατ. μαθητές λυκείου και περίπου 20 εκατ. προπτυχιακοί φοιτητές, καθένας από τους οποίους πιθανότατα παραδίδει δεκάδες γραπτές εργασίες κάθε χρόνο. Σε αυτή την κλίμακα, το Pangram θα παρήγαγε αρκετές ψευδείς κατηγορίες ακόμη και με σφάλμα μία στις 10.000.

Ούτε είναι δεδομένο ότι το Pangram θα βελτιωθεί ή θα διατηρήσει την τωρινή του ικανότητα να εντοπίζει AI πρόζα. Καθώς chatbots και humanizers προσαρμόζονται, η ανίχνευση AI «θα αυξομειώνεται σε αποτελεσματικότητα για λόγους που δεν μπορούμε να προβλέψουμε, σε χρόνους που δεν μπορούμε να προβλέψουμε», μου είπε ο Tim Requarth, νευροεπιστήμονας που διδάσκει επιστημονική γραφή στο NYU και έχει γράψει εκτενώς για την ανίχνευση AI. Ακόμη κι όταν σχολεία, εκδότες, επιστημονικοί φορείς κ.ά. βασίζονται όλο και περισσότερο σε ανιχνευτές, οποιεσδήποτε ανεξάρτητες αξιολογήσεις της ακρίβειας του Pangram θα είναι από εβδομάδες—αν όχι μήνες—πριν, κάτι που στον επιταχυνόμενο κόσμο της AI τις καθιστά σχεδόν παρωχημένες. Το να θεμελιώνεις κανόνες ή νόρμες γύρω από την αξιοπιστία της ανίχνευσης AI είναι σαν να χτίζεις κάστρο στην άμμο στην άμπωτη.

Όλα αυτά μοιάζουν με καταστροφή που έρχεται. Η θολούρα και η αμφισημία στην ανίχνευση AI αφήνουν χώρο να εκτοξεύονται ή να διαψεύδονται σχεδόν κάθε λογής κατηγορίες. Νωρίτερα μέσα στον μήνα, η δημοσιογράφος τεχνολογίας Taylor Lorenz κατηγορήθηκε στο X ότι χρησιμοποίησε AI για να γράψει κείμενο στο Vanity Fair, κάτι που αρνήθηκε κατηγορηματικά. Ο Spero διερεύνησε και, όπως εξήγησε στο X, διαπίστωσε ότι το Pangram είχε κάνει λάθος. «Thank god for edit history», μου είπε η Lorenz. Η εμπειρία ενίσχυσε τους φόβους της για τέτοιες καταγγελίες: «I’m so paranoid», είπε.

Οι όροι «AI-generated» και «AI-assisted» μπερδεύονται εύκολα, από λάθος ή εκ προθέσεως. Ο James Taranto, editor στη Wall Street Journal, αποκάλεσε πρόσφατα το Pangram «defamation machine» και ισχυρίστηκε ότι ψευδώς «σήκωσε» τρία op-eds της εφημερίδας ως AI-generated· δύο από τους συγγραφείς παραδέχτηκαν ότι χρησιμοποίησαν AI για να αναθεωρήσουν μέρος της δουλειάς τους, κάτι που, όπως έγραψε ο Taranto, είναι «inaccurate and unfair to characterize» ως «AI-generated». Ένα από τα πρόσωπα που πρώτα ανέλυσαν με Pangram την εγκύκλιο του Pope Leo σημείωσε ότι, επειδή μόνο ορισμένα τμήματα έμοιαζαν AI-generated ή AI-assisted, ίσως δεν ήταν ο ίδιος ο πάπας αλλά κάποιοι ανώτεροι αξιωματούχοι του Βατικανού που χρησιμοποίησαν AI κατά τη σύνταξη. Αυτό δεν εμπόδισε τίτλους όπως «Did the Pope Use AI to Write About the Dangers of AI?» (Το Βατικανό δεν απάντησε σε αίτημα για σχόλιο, αν και ένας συντάκτης που καλύπτει το Βατικανό είπε στο X ότι οι κατηγορίες είναι «100 percent false» και ότι ο Leo συνέταξε την εγκύκλιο με χαρτί και μολύβι.)

Όλα αυτά θυμίζουν άλλη μια πρόσφατη ηθική σταυροφορία για υποτιθέμενα συγγραφικά παραπτώματα: τους πολέμους περί λογοκλοπής του 2023 και ’24, όταν δεξιοί ακτιβιστές όπως ο Christopher Rufo κινητοποιήθηκαν για να κατηγορήσουν προβεβλημένους ακαδημαϊκούς και πανεπιστημιακούς ηγέτες για λογοκλοπή—οδηγώντας, πιο χαρακτηριστικά, στην παραίτηση της τότε προέδρου του Harvard, Claudine Gay. Πολλές από αυτές τις κατηγορίες ήταν αστήρικτες και πιθανότατα βασίστηκαν σε αλγορίθμους ανίχνευσης λογοκλοπής που, όπως έκρινε τότε ο συνάδελφός μου Ian Bogost, ήταν σχεδόν άχρηστοι. Οι επερχόμενοι «πόλεμοι ανίχνευσης AI» ίσως αποδειχθούν ακόμη πιο οξείς.

Για να είμαστε σαφείς, το Pangram δεν είναι άχρηστο. Κι ακριβώς εδώ βρίσκεται το πρόβλημα: τα συμπεράσματά του είναι πολύ εύκολο να διαστρέφονται και να αμφισβητούνται, ειδικά όταν δεν υπάρχει πραγματική συμφωνία για το ποιες χρήσεις της AI είναι ή δεν είναι δεοντολογικές. Όπως και τα chatbots, έτσι και τα εργαλεία ανίχνευσης AI έχουν γίνει αρκετά αποτελεσματικά για εκτεταμένη χρήση, αλλά όχι τόσο αξιόπιστα ώστε να τους έχεις απόλυτη εμπιστοσύνη. Με αυτή την έννοια, το Pangram και οι υπόλοιποι ανιχνευτές είναι κατοπτρικές εικόνες των προϊόντων AI που κυνηγούν.