Η μεγάλη κοινωνική απειλή του deepfake πορνό

Ένα σημαντικό πρόβλημα που δημιουργείται από την τεχνητή νοημοσύνη είναι τα deepfakes: βίντεο, εικόνες ή ήχος που παράγονται από την τεχνητή νοημοσύνη και μπορούν να σχεδιαστούν για να μιμηθούν ένα θύμα να λέει ή να κάνει κάτι που δεν συνέβη ποτέ.

Ορισμένα deepfakes τοποθετούν ένα ομοίωμα σε πραγματικό βίντεο, ενώ άλλα είναι εντελώς υπολογιστικά παραγόμενα. Η δυναμική όμως που έχουν τα deepfake πορνό αποτελούν μία σημαντική απειλή για χρήστες και celebrities.

Μία από τις περιπτώσεις που απασχόλησαν τη δημοσιότητα ήταν οι εικόνες πορνό της Swift που δημιουργήθηκαν από τεχνητή νοημοσύνη και πολλαπλασιάστηκαν στο X. Οι Swifties έπεσαν πάνω της για να την προστατεύσουν, δημοσιεύοντας μηνύματα “Protect Taylor Swift” για να κατακλύσουν τον ιστότοπο με το όνομά της και να περιορίσουν τις πιθανότητες διάδοσης των εικόνων. Τελικά, το X μπλόκαρε τις αναζητήσεις για την “Taylor Swift”.

Το περιστατικό τράβηξε την προσοχή του Λευκού Οίκου, ο οποίος δήλωσε “θορυβημένος” και κάλεσε το Κογκρέσο να “λάβει νομοθετικά μέτρα”. Και αφού το 404 Media ανέφερε ότι οι εικόνες του X δημιουργήθηκαν με τη χρήση του Microsoft Designer, η Microsoft ενημέρωσε το εργαλείο για να εμποδίσει τους ανθρώπους να δημιουργούν εικόνες με διάσημους σε σεξουαλικές καταστάσεις.

Ωστόσο, λίγοι άνθρωποι έχουν δίαυλο επικοινωνίας με τον Λευκό Οίκο ή τις κορυφαίες εταιρείες τεχνολογίας στον κόσμο. Η deepfake πορνογραφία αποτελεί το 98% όλων των deepfake βίντεο στο διαδίκτυο και το 99% των ατόμων που στοχεύουν είναι γυναίκες. Πρόσφατα, η 14χρονη Mia Janin έβαλε τέλος στη ζωή της μετά από εκφοβισμό στο διαδίκτυο από μια ομάδα αγοριών, εν μέρει με το να μοιράζονται ψεύτικα γυμνά της.

Το περασμένο φθινόπωρο, πάνω από 30 κορίτσια ηλικίας 12 έως 14 ετών σε μια ισπανική πόλη έγιναν αντικείμενο deepfake πορνογραφικών εικόνων τους που διαδόθηκαν μέσω των μέσων κοινωνικής δικτύωσης. Ο δράστης ενός πλήθους πορνογραφικών εικόνων κοριτσιών που δημιουργήθηκαν από τεχνητή νοημοσύνη και κυκλοφόρησαν στα τέλη του περασμένου έτους σε λύκειο της πολιτείας της Ουάσινγκτον δεν τιμωρήθηκε. Ένας ερευνητής δημοσιογράφος παρενοχλήθηκε επίσης από deepfake πορνό.

Το deepfake porn είναι σεξουαλική βία. Προκαλεί τραύμα, κατάθλιψη και άγχος και μπορεί να έχει ως αποτέλεσμα μια ολόκληρη ζωή φήμης και οικονομικής ζημίας για τα θύματά του.

Ωστόσο, δεν υπάρχει σχεδόν καμία δικαιοσύνη για εκείνους των οποίων οι ζωές τραυματίζονται από το deepfake porn. Μόνο λίγες πολιτείες έχουν νόμους κατά του deepfake porn, μερικές από τις οποίες το καθιστούν έγκλημα και μερικές από τις οποίες επιτρέπουν μόνο στο θύμα να ασκήσει αστική αγωγή. Αυτή τη στιγμή, η 15χρονη Francesca Mani, η οποία ήταν ένα από τα περισσότερα από 30 κορίτσια που εμφανίστηκαν σε deepfake πορνό που διακινήθηκε μέσω των κοινωνικών δικτύων στο λύκειό της στο Νιου Τζέρσεϊ, είναι μόνη στην προσπάθειά της να κάνει το Κογκρέσο να λάβει σοβαρά υπόψη του το ζήτημα.

Με την πολιτιστική δύναμη που ασκεί, η Swift έχει την ευκαιρία να γίνει αυτή που θα σταματήσει το deepfake porn. Ξέρουμε ότι είναι πρόθυμη να κυνηγήσει όσους συμπεριφέρονται ανάρμοστα στον πραγματικό κόσμο. Τώρα μπορεί να απαιτήσει από τις εταιρείες και τους νομοθέτες να βοηθήσουν όσους τρομοκρατούνται στον εικονικό κόσμο. Θα μπορούσε να είναι μία από τις τελευταίες ευκαιρίες που έχουν οι γυναίκες να καταστήσουν υπόλογους εκείνους που χρησιμοποιούν την τεχνητή νοημοσύνη ως όπλο.

Must read

Related Articles