Με ποια μορφή μπορούν οι αρχές επιβολής του νόμου να χρησιμοποιούν deepfakes; Αυτό είναι το αντικείμενο ενός προγράμματος στο Πανεπιστήμιο του Μπάιροϊτ στη Γερμανία. Η χρήση deepfake και παραποιημένου περιεχομένου δεν εγείρει μόνο νομικά ζητήματα.
“Χρειάζομαι μερικές χιλιάδες ευρώ. Γιαγιά, σε παρακαλώ, δεν μπορώ να μιλήσω σε κανέναν άλλο”, ακούγεται από το μεγάφωνο. Αν προσέξετε καλά, η φωνή ακούγεται λίγο αποσπασματική. Αλλά πολλοί άνθρωποι είναι απίθανο να προσέξουν το βίντεο στο οποίο ο Νίκλας Καλ, καθηγητής επιχειρηματικής πληροφορικής, φέρεται να ζητά βοήθεια από τη γιαγιά του.
“Η βιντεοσκόπηση είναι πραγματική, είναι μια διάλεξη που έδωσα κάποτε. Αυτό που δεν είναι αληθινό είναι αυτό που λέω και το πώς κινούνται τα χείλη μου”, λέει ο Καλ σχετικά με ένα deepfake. Σκοπός του είναι να καταδείξει πώς οι απατεώνες μπορούν να κάνουν χρήση της τεχνητής νοημοσύνης (ΤΝ).
Πώς μπορούν η αστυνομία και οι εισαγγελείς να χρησιμοποιήσουν την ΤΝ στο μέλλον;
Ο Καλ είναι ένας από τους τρεις καθηγητές του Πανεπιστημίου του Μπάιροϊτ, ο οποίος, μαζί με άλλους ερευνητές και εισαγγελείς, ξεκίνησαν πριν από λίγες εβδομάδες ένα ερευνητικό πρόγραμμα με θέμα τα deepfake στην επιβολή του νόμου”. Στόχος είναι να διερευνηθεί πώς μπορεί να αξιοποιηθεί η τεχνητή νοημοσύνη σε αυτόν τον τομέα – με άλλα λόγια, αν μια τεχνολογία που σήμερα χρησιμοποιείται από απατεώνες θα μπορούσε στο μέλλον να γίνει εργαλείο για την αστυνομία και τη δικαιοσύνη.
“Η βασική ιδέα είναι ότι πρώτα έχω ηχογραφήσεις κάποιου που δραστηριοποιείται σε ένα τέτοιο εγκληματικό κύκλωμα για ένα ορισμένο χρονικό διάστημα”, εξηγεί ο Καλ. Αυτό επιτρέπει στους ερευνητές να κλωνοποιήσουν την εικόνα και τη φωνή. “Από αυτό το σημείο και μετά, θα μπορούσα στη συνέχεια να υποδυθώ εικονικά αυτό το άτομο”. Στην περίπτωση ομάδων δραστών που συναντώνται μόνο μέσω του διαδικτύου, οι ερευνητές θα μπορούσαν να διεισδύσουν ψηφιακά με αυτόν τον τρόπο – και στην καλύτερη περίπτωση να αποκτήσουν πρόσβαση και να συλλάβουν τους δράστες σε μεταγενέστερο χρόνο.
Η κλοπή ταυτότητας αποτελεί παραβίαση των προσωπικών δικαιωμάτων
Η παραδοσιακή μυστική αστυνομική έρευνα θα μπορούσε να βελτιστοποιηθεί με τη βοήθεια της τεχνητής νοημοσύνης, εξηγεί ο Κρίστιαν Ρίκερτ, Καθηγητής Ποινικού Δικαίου στο Πανεπιστήμιο του Μπάιροϊτ. “Η νέα δυνατότητα είναι η πλήρης απομίμηση υπαρκτών προσώπων. Αυτό δεν το έχουν κάνει ακόμη οι γερμανικές αρχές – τουλάχιστον απ’ όσο γνωρίζω” πρόσθεσε. Μέρος του έρευνας είναι επομένως και η διερεύνηση του κατά πόσον οι αρχές επιβολής του νόμου θα μπορούν να το κάνουν αυτό στο μέλλον. Εξάλλου, το ερώτημα αν επιτρέπεται στο κράτος να κλέβει ταυτότητες εγείρει νομικά ζητήματα.
Στην καλύτερη περίπτωση, η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στην ταχύτερη καταδίκη των παραβατών. Αλλά η τεχνητή νοημοσύνη διασφαλίζει επίσης “ότι αντιγράφουμε ταυτόχρονα την ταυτότητα ενός άλλου ατόμου και επομένως καταπατάμε και το γενικό δικαίωμα της προσωπικότητάς του”, λέει ο Ρίκερτ. Αυτού του είδους η καταπάτηση των θεμελιωδών δικαιωμάτων είναι κάτι καινούργιο.
Η κανονικοποίηση των deepfake έχει κοινωνικές συνέπειες
Το ζήτημα της «τεχνητής νοημοσύνης στην επιβολή του νόμου» κρύβει, επομένως, περιθώρια σύγκρουσης όχι μόνο σε νομικό επίπεδο. Η ερευνητική ομάδα ενσωματώνει επομένως και μια ηθική προοπτική στην έρευνά της. Εξάλλου, τα νέα μέτρα θα μπορούσαν να έχουν μακροπρόθεσμες συνέπειες, λέει η καθηγήτρια φιλοσοφίας Λένα Κάστνερ. “Αν υποθέσουμε ότι τα deepfake νομιμοποιήθηκαν σε μεγάλο βαθμό, το αποτέλεσμα θα μπορούσε να είναι ότι ο καθένας θα μπορούσε να πλαστογραφήσει τον καθένα ακόμη πιο εύκολα. Και αυτό μου φαίνεται προβληματικό για διάφορους λόγους” τόνισε.
Ασαφής η νομική κατάσταση στη Γερμανία
Παρεμπιπτόντως, η τρέχουσα κατάσταση της χρήσης της τεχνητής νοημοσύνης στην επιβολή του νόμου στη Γερμανία είναι ασαφής, τονίζει ο καθηγητής ποινικού δικαίου. “Δεν υπάρχει συγκεκριμένη νομική ρύθμιση για τη χρήση προσώπων από deepfakes. Αν το αναζητήσετε στον νόμο, δεν θα βρείτε τίποτα”. Υπάρχουν μόνο γενικές ρυθμίσεις, για παράδειγμα για τους “μυστικούς” αστυνομικούς.
Είναι οι κανονισμοί αυτοί επαρκείς; Και πώς μπορούν τα deepfake να αλλάξουν τη διαδικασία δίωξης των εγκληματιών; Αυτά και παρόμοια ερωτήματα εξετάζει η ομάδα του Πανεπιστημίου του Μπαϊρόιτ, το ερευνητικό έργο της οποίας θα διαρκέσει τρία χρόνια. Στόχος της βασικής έρευνας είναι η διατύπωση κατευθυντήριων γραμμών για τους νομοθέτες και τις αρχές επιβολής του νόμου.
💡 Τι είναι το deepfake;
Το deepfake είναι ψηφιακό περιεχόμενο που μοιάζει αληθινό, αλλά στην πραγματικότητα έχει παραποιηθεί με τη χρήση τεχνητής νοημοσύνης. Ο όρος συνδυάζει τις λέξεις «deep» και «fake» και αναφέρεται σε μια τεχνική μηχανικής μάθησης, μέσω της οποίας ένας υπολογιστής «διδάσκεται» να δημιουργεί ρεαλιστικές παραποιήσεις. Σε τέτοια βίντεο, μια ψηφιακή μάσκα τοποθετείται πάνω σε πρόσωπα –συχνά διασήμων– τοποθετώντας τους σε διαφορετικά περιβάλλοντα ή καταστάσεις. Άλλη τεχνική περιλαμβάνει την τροποποίηση των εκφράσεων και της κίνησης των χειλιών σε αυθεντικό βίντεο, ώστε να συγχρονίζονται με νέο, συνθετικό ηχητικό περιεχόμενο.