Καθώς οι απάτες πλαστοπροσωπίας στις ΗΠΑ αυξάνονται, αναδεικνύεται μία ανησυχητική τάση. Η τεχνολογία καθιστά ευκολότερο και φθηνότερο για ηθοποιούς να μιμούνται φωνές, πείθοντας τους ανθρώπους, συχνά τους ηλικιωμένους, ότι τα αγαπημένα τους πρόσωπα βρίσκονται σε κίνδυνο. Το 2022, οι απάτες με απατεώνες ήταν η δεύτερη πιο δημοφιλής απάτη στην Αμερική, με πάνω από 36.000 αναφορές ανθρώπων που εξαπατήθηκαν από εκείνους που προσποιούνταν ότι ήταν φίλοι και συγγενείς, σύμφωνα με στοιχεία της Ομοσπονδιακής Επιτροπής Εμπορίου. Πάνω από 5.100 από αυτά τα περιστατικά συνέβησαν μέσω τηλεφώνου, αντιπροσωπεύοντας πάνω από 11 εκατομμύρια δολάρια σε απώλειες, δήλωσαν οι αξιωματούχοι της FTC.
Οι εξελίξεις στην τεχνητή νοημοσύνη έχουν προσθέσει ένα νέο τρομακτικό επίπεδο, επιτρέποντας στους κακοποιούς να αναπαράγουν μια φωνή με ένα μόνο ηχητικό δείγμα μερικών προτάσεων. Με τη βοήθεια της τεχνητής νοημοσύνης, μια πληθώρα φθηνών διαδικτυακών εργαλείων μπορεί να μεταφράσει ένα αρχείο ήχου σε αντίγραφο μιας φωνής, επιτρέποντας σε έναν απατεώνα να το κάνει να “μιλήσει” ό,τι πληκτρολογήσει.
Οι ειδικοί λένε ότι οι ομοσπονδιακές ρυθμιστικές αρχές, η επιβολή του νόμου και τα δικαστήρια δεν είναι επαρκώς εξοπλισμένα για να περιορίσουν την αναπτυσσόμενη απάτη. Τα περισσότερα θύματα έχουν ελάχιστα στοιχεία για την αναγνώριση του δράστη και είναι δύσκολο για την αστυνομία να εντοπίσει κλήσεις και κεφάλαια από απατεώνες που δραστηριοποιούνται σε ολόκληρο τον κόσμο. Και υπάρχει ελάχιστο νομικό προηγούμενο για τα δικαστήρια ώστε να καταστήσουν τις εταιρείες που κατασκευάζουν τα εργαλεία υπόλογες για τη χρήση τους.
“Είναι τρομακτικό”, δήλωσε ο Hany Farid, καθηγητής ψηφιακής εγκληματολογίας στο Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ. “Είναι κάτι σαν την τέλεια καταιγίδα … [με] όλα τα συστατικά που χρειάζονται για να δημιουργηθεί χάος”.
Παρόλο που οι απάτες έχουν πολλές μορφές, ουσιαστικά λειτουργούν με τον ίδιο τρόπο: ένας απατεώνας υποδύεται κάποιον αξιόπιστο – ένα παιδί, έναν εραστή ή έναν φίλο – και πείθει το θύμα να του στείλει χρήματα επειδή βρίσκεται σε δυσχερή θέση.
Η Ruth Card από τη Regina του Saskatchewan παραλίγο να πέσει θύμα μιας απάτης όπου κάποιος παρίστανε τον εγγονό της. “Μας ρούφηξαν”, λέει η ίδια. “Ήμασταν πεπεισμένοι ότι μιλούσαμε με τον Μπράντον”. (Kayle Neis/Regina Leader-Post/Postmedia)
Αλλά η τεχνολογία τεχνητής φωνής κάνει το τέχνασμα πιο πειστικό. Τα θύματα αναφέρουν ότι αντιδρούν με σπλαχνικό τρόμο όταν ακούνε αγαπημένα τους πρόσωπα να κινδυνεύουν.
Πρόκειται για μια σκοτεινή επίπτωση της πρόσφατης αύξησης της τεχνητής νοημοσύνης, η οποία υποστηρίζει λογισμικό που δημιουργεί κείμενα, εικόνες ή ήχους με βάση δεδομένα που του παρέχονται. Η πρόοδος στα μαθηματικά και την υπολογιστική ισχύ έχει βελτιώσει τους μηχανισμούς εκπαίδευσης αυτού του λογισμικού, ωθώντας έναν στόλο εταιρειών να κυκλοφορήσουν chatbots, δημιουργούς εικόνων και φωνών που είναι παράξενα αληθοφανείς.
Το λογισμικό δημιουργίας φωνής τεχνητής νοημοσύνης αναλύει τι κάνει τη φωνή ενός ατόμου μοναδική – συμπεριλαμβανομένης της ηλικίας, του φύλου και της προφοράς – και αναζητά μια τεράστια βάση δεδομένων φωνών για να βρει παρόμοιες και να προβλέψει μοτίβα, δήλωσε ο Farid.
Στη συνέχεια, μπορεί να αναδημιουργήσει το ύψος, τη χροιά και τους επιμέρους ήχους της φωνής ενός ατόμου για να δημιουργήσει ένα συνολικό αποτέλεσμα που είναι παρόμοιο, πρόσθεσε. Απαιτείται ένα σύντομο δείγμα ήχου, που λαμβάνεται από μέρη όπως το YouTube, podcasts, διαφημίσεις, TikTok, Instagram ή βίντεο στο Facebook, δήλωσε ο Farid.
“Πριν από δύο χρόνια, ακόμη και πριν από ένα χρόνο, χρειαζόσουν πολύ ήχο για να κλωνοποιήσεις τη φωνή ενός ατόμου”, δήλωσε ο Farid. “Τώρα … αν έχετε μια σελίδα στο Facebook … ή αν έχετε ηχογραφήσει ένα TikTok και η φωνή σας είναι εκεί για 30 δευτερόλεπτα, οι άνθρωποι μπορούν να κλωνοποιήσουν τη φωνή σας”.
Εταιρείες όπως η ElevenLabs, μια νεοσύστατη επιχείρηση σύνθεσης φωνής AI που ιδρύθηκε το 2022, μετατρέπουν ένα σύντομο φωνητικό δείγμα σε μια συνθετικά παραγόμενη φωνή μέσω ενός εργαλείου μετατροπής κειμένου σε ομιλία. Το λογισμικό ElevenLabs μπορεί να είναι δωρεάν ή να κοστίζει μεταξύ 5 και 330 δολαρίων το μήνα για χρήση, σύμφωνα με τον ιστότοπο, με υψηλότερες τιμές που επιτρέπουν στους χρήστες να παράγουν περισσότερο ήχο.
Η ElevenLabs έσκασε στην επικαιρότητα μετά από κριτική για το εργαλείο της, το οποίο έχει χρησιμοποιηθεί για την αναπαραγωγή φωνών διασημοτήτων που λένε πράγματα που δεν έκαναν ποτέ, όπως η Έμμα Γουάτσον που απαγγέλλει ψευδώς αποσπάσματα από το “Mein Kampf” του Αδόλφου Χίτλερ. Η ElevenLabs δεν απάντησε σε αίτημα για σχολιασμό, αλλά σε ένα νήμα στο Twitter η εταιρεία δήλωσε ότι ενσωματώνει διασφαλίσεις για να περιορίσει την κακή χρήση, συμπεριλαμβανομένης της απαγόρευσης στους δωρεάν χρήστες να δημιουργούν προσαρμοσμένες φωνές και της έναρξης λειτουργίας ενός εργαλείου για την ανίχνευση ήχου που έχει δημιουργηθεί από τεχνητή νοημοσύνη.
