Τα εργαλεία που υπόσχονται να εντοπίζουν κείμενα γραμμένα από AI μπορεί να είναι αμφίβολα, όμως εκπαιδευτικοί και εκδότες τα χρησιμοποιούν ούτως ή άλλως.
Πολύ πριν το ChatGPT γίνει καθημερινότητα, εκπαιδευτικοί και συντάκτες χρησιμοποιούσαν συχνά εργαλεία κατά της λογοκλοπής για να ελέγχουν αν οι συγγραφείς ήταν ειλικρινείς για τη δουλειά τους. Τα εργαλεία αυτά συγκρίνουν ένα γραπτό με βάση δεδομένων που περιλαμβάνει περιεχόμενο από ολόκληρο το διαδίκτυο, επιστημονικά άρθρα και άλλα κείμενα, ώστε να εντοπίσουν κοινές προτάσεις και φράσεις. Ορισμένα, όπως το Turnitin, δίνουν και ένα ποσοστό που υποτίθεται ότι δείχνει πόσο το κείμενο του φοιτητή επικαλύπτεται με άλλα έργα. Ανάμεσα στα πιθανά ψευδώς θετικά αποτελέσματα και στην αβεβαιότητα για το αν η αντιγραφή έγινε σκόπιμα, αρκετοί εκπαιδευτικοί έχουν απομακρυνθεί από τη χρήση του συγκεκριμένου εργαλείου.
Τώρα, όμως, το κυνήγι του αντιγραμμένου περιεχομένου εξελίσσεται σε πόλεμο κατά του κειμένου που έχει παραχθεί από AI. Όσο γρήγορα οι φοιτητές υιοθέτησαν το ChatGPT, το Google Gemini και το Microsoft Copilot, τόσο γρήγορα οι δάσκαλοι υιοθέτησαν τα λεγόμενα AI detectors. Έρευνα του Center for Democracy and Technology έδειξε ότι το 43% των εκπαιδευτικών από την έκτη έως τη 12η τάξη στις ΗΠΑ χρησιμοποιούσαν τακτικά AI detectors μεταξύ 2024 και 2025. Ορισμένα πανεπιστήμια που ήδη χρησιμοποιούσαν το Turnitin στα συστήματα διαχείρισης μάθησης διαπίστωσαν ότι η υπηρεσία ενεργοποίησε αυτόματα την ανίχνευση AI όταν το εργαλείο κυκλοφόρησε το 2023.
Αντί να συγκρίνουν κείμενα, οι ανιχνευτές AI όπως τα GPTZero, Pangram και εκείνος που δημιούργησε το Turnitin βασίζονται στα δικά τους μοντέλα AI για να μαντέψουν αν κάτι δεν έχει γραφτεί από άνθρωπο. Πρόκειται για μια διαδικασία ακόμη πιο ασαφή από τη σύγκριση κειμένου στο διαδίκτυο. Όπως σημειώνει το GPTZero, οι ανιχνευτές AI χρησιμοποιούν έναν αλγόριθμο που αναλύει τη διατύπωση, τον ρυθμό και τη δομή ενός κειμένου, καθώς και μοτίβα στο μήκος και τον τόνο που μπορεί να εμφανίζονται πιο συχνά σε κείμενα γραμμένα από AI. Αυτή η σχετικά υποκειμενική αξιολόγηση δεν είναι τόσο ισχυρή όσο η αντιστοίχιση κειμένου στο διαδίκτυο και μπορεί να «μπερδευτεί» με συγγραφείς που μιλούν αγγλικά ως δεύτερη γλώσσα. Παρ’ όλα αυτά, το Turnitin έχει αναφέρει ότι ο ανιχνευτής του χαρακτηρίζει λανθασμένα ως AI λιγότερο από το 1% του ανθρώπινου κειμένου, ενώ το Pangram υποστηρίζει ότι το ποσοστό ψευδώς θετικών είναι μόλις 1 στις 10.000. Το GPTZero λέει ότι έχει αντίστοιχα χαμηλό ποσοστό λανθασμένης ταυτοποίησης ανθρώπινου περιεχομένου ως AI.
Στο διαδίκτυο, άνθρωποι ήδη κατηγορούν ο ένας τον άλλον ότι «ακούγονται σαν AI», όμως η εύκολη πρόσβαση σε εργαλεία ανίχνευσης τροφοδοτεί ακόμη περισσότερο το κυνήγι των LLM. Σε ορισμένες περιπτώσεις υψηλού προφίλ, οι κατηγορίες για χρήση AI είχαν άμεσο αντίκτυπο στα προς το ζην και τη φήμη ανθρώπων. Τον περασμένο μήνα, ο εκδοτικός οίκος Minotaur ακύρωσε συμφωνία βιβλίου 2 εκατ. δολαρίων λόγω ανησυχιών ότι ο συγγραφέας του, Jerry Falade, χρησιμοποίησε AI, κάτι που εκείνος αρνείται κατηγορηματικά.
Υπάρχει και η περίπτωση του Thierry Rignol, ενός Γάλλου υπηκόου που πέρυσι μήνυσε το Yale, αφού καθηγητής τον κατηγόρησε ότι έγραψε με τη βοήθεια AI μέρη της τελικής του εξέτασης, με αποτέλεσμα να πάρει βαθμό αποτυχίας και να τιμωρηθεί με αναστολή ενός έτους. Ο καθηγητής χρησιμοποίησε το GPTZero για να ελέγξει το γραπτό του Rignol για ενδείξεις AI, όμως η αγωγή υποστηρίζει ότι «τα εργαλεία επιτήρησης και ανίχνευσης AI είναι γνωστό ότι στοχοποιούν άδικα μη φυσικούς ομιλητές της αγγλικής», όπως ο Rignol. Τον Φεβρουάριο, φοιτητής στο Adelphi University κέρδισε αγωγή κατά του πανεπιστημίου, αφού καθηγητής υποστήριξε παρόμοια ότι χρησιμοποίησε AI για να γράψει μια έκθεση. Αν και η αγωγή δεν αναφέρει ποιο εργαλείο AI χρησιμοποίησε ο καθηγητής για να εξετάσει το δοκίμιο, το Adelphi University έχει σύμβαση αδειοδότησης με το Turnitin.
Μελέτη του Stanford το 2023 διαπίστωσε ότι οι ανιχνευτές AI χαρακτήριζαν λανθασμένα ως AI εκθέσεις γραμμένες από μη φυσικούς ομιλητές της αγγλικής πιο συχνά απ’ ό,τι εκείνες φυσικών ομιλητών. Κάποιες υπηρεσίες εξακολουθούν να υποστηρίζουν ότι τα εργαλεία τους είναι ακριβή όταν εξετάζουν κείμενα γραμμένα από μη φυσικούς ομιλητές. Τα εργαλεία αυτά μπορεί επίσης να έχουν προκατάληψη απέναντι σε νευροδιαφορετικούς συγγραφείς.
Όπως επισημαίνει το University of California, Los Angeles, τα εργαλεία ανίχνευσης AI εκπαιδεύονται να εντοπίζουν μοτίβα που μπορεί να δείχνουν χρήση AI, όπως επαναλαμβανόμενους όρους και φράσεις, κείμενο που ακούγεται υπερβολικά επίσημο ή ανεπίσημο και παράξενες διατυπώσεις χωρίς νόημα. Ορισμένα, όπως το QuillBot, μετρούν επίσης την «απρόβλεπτη» φύση του κειμένου, καθώς, όπως αναφέρει το UCLA, «η AI τείνει να κάνει τις πιο “προφανείς” ή πιο συνηθισμένες γλωσσικές επιλογές σε σύγκριση με τη γραφή που παράγει ο άνθρωπος». Μπορεί επίσης να εξετάζουν αν η δομή των προτάσεων παραμένει ίδια σε όλο το κείμενο ως ακόμη μία ένδειξη AI. Όμως αυτά τα στοιχεία από μόνα τους δεν αποδεικνύουν τίποτα, αφού κάποιοι άνθρωποι μπορεί απλώς να γράφουν έτσι.
Παρότι το Turnitin προβάλλει χαμηλά ποσοστά ψευδών θετικών, παραδέχεται ότι το εργαλείο του «μπορεί να μην είναι πάντα ακριβές» και δεν πρέπει να χρησιμοποιείται για τη λήψη μέτρων εις βάρος φοιτητή. Η Grammarly προειδοποιεί ότι οι χρήστες «δεν πρέπει ποτέ να βασίζονται αποκλειστικά στα αποτελέσματα ενός AI detector», ενώ το GPTZero λέει πως «κανένας AI detector δεν μπορεί ποτέ να είναι 100% τέλειος». Ακόμη και η OpenAI σταμάτησε το δικό της εργαλείο ανίχνευσης AI το 2023 λόγω χαμηλής ακρίβειας.
Παρά ταύτα, οι κατηγορίες για γραφή με AI συνεχίζουν να εκτοξεύονται στο διαδίκτυο. Την περασμένη εβδομάδα, σε βίντεο που μεταδόθηκε στους περισσότερους από 3,5 εκατ. ακολούθους του στα social media, ο Jack, γιος του Ozzy Osbourne, κατηγόρησε τη δημοσιογράφο και συνεργάτιδα του Verge, Kat Tenbarge, ότι χρησιμοποίησε AI για να γράψει άρθρο για το Rolling Stone, προβάλλοντας τα αποτελέσματα ενός AI detector, του Getsolved, ως «απόδειξη» του ισχυρισμού του. Η Tenbarge απέρριψε την κατηγορία σε βίντεο και σε ανάρτηση στον ιστότοπό της, όμως ο Osbourne δεν ανακάλεσε την κατηγορία ούτε διέγραψε το βίντεο, αφήνοντας την Tenbarge να αντιμετωπίσει τα τρολ.
Υπάρχουν πολλά παραδείγματα ψευδών κατηγοριών, από συγγραφείς έως φοιτητές, με πολλούς από όσους κατηγορούν να αγνοούν τις επισημάνσεις που συνοδεύουν ορισμένα από αυτά τα εργαλεία ανίχνευσης AI.
Η αβεβαιότητα γύρω από τους ανιχνευτές AI είναι αρκετή για να ωθήσει ορισμένα εκπαιδευτικά ιδρύματα να τους εγκαταλείψουν εντελώς. Το Yale University, το Johns Hopkins University, το Vanderbilt University, το Georgetown University και άλλα έχουν απενεργοποιήσει ή περιορίσει τη χρήση εργαλείων ανίχνευσης AI. Το Massachusetts Institute of Technology προειδοποιεί επίσης ότι «οι ανιχνευτές AI δεν λειτουργούν».
Αντί να βασίζονται σε εργαλεία για να ξεχωρίσουν το AI, πολλά σχολεία ενθαρρύνουν τους εκπαιδευτικούς να επανεξετάσουν τα μαθήματά τους. Το University of Chicago, για παράδειγμα, προτείνει να ζητείται από τους φοιτητές να διαβάζουν πιο αργά, να σπάνε τις μεγαλύτερες εργασίες σε μικρότερα κομμάτια και να καλούνται να αναστοχάζονται πάνω στη δουλειά τους. Το Stanford University λέει ότι οι καθηγητές μπορούν να εξετάσουν τη διενέργεια αξιολογήσεων μέσα στην τάξη, ενώ το MIT προτείνει να δίνεται χώρος στους φοιτητές να δηλώνουν αν χρησιμοποίησαν AI για βοήθεια σε μια εργασία, χωρίς ποινή.
Καθώς η AI γίνεται ολοένα πιο παρούσα μέσα και έξω από την τάξη, εντείνονται και οι προσπάθειες να διαπιστωθεί τι έχει γραφτεί από άνθρωπο και τι από μηχανή. Ορισμένες διαδικτυακές πλατφόρμες ενισχύουν ακόμη περισσότερο τη δυσπιστία γύρω από τη χρήση AI. Το Substack έχει ενσωματώσει το Pangram στην εφαρμογή του, επιτρέποντας στους χρήστες να σαρώνουν ιστολόγια για ύποπτο AI-generated περιεχόμενο, ενώ το LinkedIn πρόσθεσε κουμπί «seems like AI slop» στις αναρτήσεις. Το αποτέλεσμα είναι μια νέα εποχή δυσπιστίας, όπου οι αναγνώστες αμφισβητούν διαρκώς αν αυτό που διαβάζουν είναι AI και οι πραγματικοί άνθρωποι προσπαθούν όσο μπορούν να μη μοιάζουν με αυτό.
Το παρόν κείμενο δημιουργήθηκε με τη χρήση τεχνητής νοημοσύνης.
