Η γενετική τεχνητή νοημοσύνη υπονομεύει τη βασική παραδοχή ότι οι φωτογραφίες διατηρούν μια αιτιώδη σχέση με την πραγματικότητα. Κι αυτό είναι κακό νέο για τη δημοκρατία.
Η τεχνητή νοημοσύνη σβήνει το όριο ανάμεσα στο πραγματικό και το επινοημένο, σε βαθμό που «το βλέπω, άρα το πιστεύω» να μην ισχύει πια. Χρειαζόμαστε ένα κοινωνικό και νομικό πλαίσιο που να διαχωρίζει τις πραγματικές εικόνες από τις συνθετικές, μαζί με τεχνικές λύσεις, όπως καθολικά «υδατογραφήματα AI», ώστε ο θεατής να ξεχωρίζει αμέσως το αυθεντικό από το ψεύτικο. Χωρίς τέτοιο πλαίσιο, η εμπιστοσύνη που προσφέρει η φωτογραφία θα χαθεί. Και αυτό θα ήταν πλήγμα για τη δημοκρατία.
Στις 6 Ιουνίου 1944, οι Συμμαχικές δυνάμεις αποβιβάστηκαν στη Νορμανδία. Οι φωτογραφίες που προέκυψαν — κοκκώδεις, θολές, χαοτικές — δεν κατέγραψαν απλώς την Ιστορία· τη διαμόρφωσαν. Για εκατομμύρια ανθρώπους που δεν θα έβλεπαν ποτέ το πεδίο μάχης, αυτές οι εικόνες έγιναν ο ίδιος ο πόλεμος: απτή απόδειξη θυσίας, γενναιότητας και συλλογικού σκοπού. Υπέρβηκαν τη γλώσσα και έφεραν κοντά τον παρατηρητή με το γεγονός.
Το ίδιο ισχύει για άλλες καθοριστικές στιγμές. Ο μοναχικός άνθρωπος μπροστά στα τανκς στην Πλατεία Τιενανμέν. Ο άνθρωπος που πέφτει από το Παγκόσμιο Κέντρο Εμπορίου. Το άψυχο σώμα του 3χρονου Alan Kurdi σε τουρκική ακτή. Αυτές οι εικόνες δεν είναι απλά αρχεία· είναι πολιτισμικά ορόσημα. Αποτελούν κοινό οπτικό υπόστρωμα πάνω στο οποίο οικοδομείται η δημόσια κατανόηση — και συχνά η πολιτική βούληση. Επιτρέπουν στις κοινωνίες να συγχρονίζουν συναίσθημα, κρίση και δράση σε κλίμακα.
Τι συμβαίνει όμως όταν αυτό το υπόστρωμα διαβρώνεται;
Οι εξελίξεις στη γενετική AI επιτρέπουν τη δημιουργία εικόνων όχι μόνο ρεαλιστικών, αλλά και συναισθηματικά πειστικών και συμφραζομενικά εύλογων. Σε αντίθεση με παλαιότερες τεχνικές αλλοίωσης που απαιτούσαν δεξιότητα και συχνά άφηναν ίχνη, οι σημερινές συνθετικές εικόνες παράγονται γρήγορα, φθηνά και μαζικά. Μπορούν να απεικονίσουν γεγονότα που δεν συνέβησαν ποτέ και ανθρώπους που δεν υπήρξαν, σε σκηνές που ωστόσο μοιάζουν παράδοξα αυθεντικές. Και οι δημιουργοί εικόνων AI βελτιώνονται σταθερά.
Η μετατόπιση αυτή δημιουργεί ένα βαθύ γνωσιολογικό πρόβλημα. Ιστορικά, οι φωτογραφίες είχαν προνομιακή θέση στην ιεραρχία των αποδεικτικών στοιχείων. Το «Seeing is believing» δεν είναι απλώς κλισέ· αποτυπώνει ένα ισχυρό γνωστικό συντόμευμα που υπερβαίνει και τη γραπτή και την προφορική γλώσσα. Παρότι πάντα γνωρίζαμε ότι οι εικόνες μπορούν να στηθούν ή να επεξεργαστούν, η προεπιλεγμένη υπόθεση ήταν πως οι φωτογραφίες διατηρούν κάποια αιτιώδη σύνδεση με την πραγματικότητα. Η γενετική AI κόβει αυτόν τον δεσμό.
Οι κίνδυνοι δεν είναι αφηρημένοι. Σε συνθήκες πολέμου, συνθετικές εικόνες χρησιμοποιούνται ως προπαγάνδα — κατασκευασμένες θηριωδίες που αποδίδονται στον εχθρό ή σκηνοθετημένες νίκες για τόνωση του ηθικού. Για παράδειγμα, μια εικόνα αμερικανικού συστήματος ραντάρ που υποτίθεται ότι υπέστη ζημιά από ιρανικό πλήγμα drone και κυκλοφόρησε ευρέως αποδείχθηκε ψεύτικη. Στην εσωτερική πολιτική, χρησιμοποιούνται για να οξύνουν φυτικές εντάσεις, να επινοούν διαδηλώσεις ή να εμφανίζουν δημόσια πρόσωπα σε ανύπαρκτες καταστάσεις. Για παράδειγμα, μια ψεύτικη εικόνα με υποτιθέμενη φωτογραφία σύλληψης του Donald Trump διαδόθηκε ευρέως.
Η ταχύτητα και η κλίμακα διάδοσης στα κοινωνικά δίκτυα σημαίνουν ότι αυτές οι εικόνες διαμορφώνουν αντιλήψεις πριν ελεγχθούν ή διαψευστούν. Ενδεικτικά, μια φωτογραφία με 250 poodle mixes σε αιχμαλωσία που δημοσίευσε φιλανθρωπική οργάνωση για τα ζώα απορρίφθηκε ως ψεύτικη. Κι όμως, ήταν αληθινή.
Το παράδειγμα αυτό αναδεικνύει μια πιο ύπουλη δευτερογενή συνέπεια: όταν το κοινό συνειδητοποιήσει ότι οι εικόνες μπορούν να πλαστογραφηθούν πειστικά, οι γνήσιες εικόνες χάνουν την αποδεικτική τους ισχύ. Αυτό είναι το «liar’s dividend» — η δυνατότητα των επιτήδειων να απορρίπτουν αυθεντικά οπτικά τεκμήρια ως κατασκευασμένα. Σε έναν τέτοιο κόσμο, ακόμη και η πιο ισχυρή φωτογραφία συναντά δυσπιστία, με την αλήθεια της να αμφισβητείται διαρκώς.
Οι δημοκρατικές κοινωνίες στηρίζονται σε μια κοινή βάση γεγονότων και εμπειριών. Οι διαφωνίες για την ερμηνεία είναι αναπόφευκτες — και συχνά υγιείς — αλλά πρέπει να υπάρχει ελάχιστη συμφωνία για το τι συνέβη. Οι εικόνες διαδραμάτιζαν κρίσιμο ρόλο σε αυτό. Όταν καταρρέει η αξιοπιστία τους, υπονομεύεται και η ικανότητα συλλογικής κρίσης.
Δεν πρόκειται για πρόβλημα που λύνεται μόνο με τεχνολογία. Τα εργαλεία ανίχνευσης και οι εγκληματολογικές μέθοδοι θα βελτιώνονται, αλλά λειτουργούν σε ένα ανταγωνιστικό περιβάλλον με τα γενετικά συστήματα. Κάθε πρόοδος στην ανίχνευση θα συναντά αντίστοιχη πρόοδο στην παράκαμψη. Επιπλέον, οι τεχνικές λύσεις δυσκολεύονται να κλιμακωθούν σε πλατφόρμες και δικαιοδοσίες και απαιτούν επίπεδο κατανόησης από το κοινό που δεν μπορεί να θεωρείται δεδομένο.
Παρότι πάντα γνωρίζαμε ότι οι εικόνες μπορούν να στηθούν ή να επεξεργαστούν, η προεπιλεγμένη υπόθεση ήταν πως οι φωτογραφίες διατηρούν κάποια αιτιώδη σύνδεση με την πραγματικότητα. Η γενετική AI κόβει αυτόν τον δεσμό.
Αυτό που χρειάζεται είναι μια κοινωνική και νομική απάντηση που να αποκαθιστά την εμπιστοσύνη στα οπτικά μέσα. Υπάρχει ιστορικό προηγούμενο. Τον 20ό αιώνα, η άνοδος της φωτογραφίας έφερε νομικές καινοτομίες γύρω από τη δημιουργία και την ιδιοκτησία. Το δίκαιο περί πνευματικής ιδιοκτησίας δεν απέτρεψε την αλλοίωση ή την κατάχρηση, αλλά δημιούργησε πλαίσιο απόδοσης σε ταυτοποιήσιμους δημιουργούς, επιτρέποντας λογοδοσία και ένδικα μέσα όπου χρειάζεται. Σε γενικές γραμμές, αυτό το πλαίσιο καθιστά δυνατές αγωγές για δυσφήμηση, συκοφαντία κ.ά.
Ένα ανάλογο μοντέλο μπορεί να προσαρμοστεί στην εποχή της γενετικής AI. Ένα στοιχείο είναι η υποχρεωτική γνωστοποίηση: οι εικόνες που παράγονται από AI να επισημαίνονται καθαρά ως τέτοιες, τόσο κατά τη δημιουργία όσο και στη μετέπειτα διανομή. Αυτό μπορεί να επιβληθεί με πολιτικές πλατφορμών και, όπου χρειάζεται, κανονιστικές υποχρεώσεις. Έτσι ακόμη και ο απρόσεκτος θεατής θα γνωρίζει άμεσα αν μια εικόνα είναι συνθετική.
Ακόμη σημαντικότερη είναι η ιχνηλασιμότητα. Οι εξελίξεις στην κρυπτογραφική υδατοσήμανση και στα συστήματα προέλευσης περιεχομένου προσφέρουν διέξοδο. Με την ενσωμάτωση μεταδεδομένων που καταγράφουν την προέλευση και το ιστορικό μετασχηματισμών μιας εικόνας, καθίσταται εφικτή η επαλήθευση του αν ένα οπτικό τεκμήριο είναι αυθεντικό, συνθετικό ή αλλοιωμένο. Καθοριστικής σημασίας είναι τα συστήματα αυτά να είναι τυποποιημένα, διαλειτουργικά και ανθεκτικά στη νόθευση.
Τα νομικά πλαίσια πρέπει να στηρίξουν τα τεχνικά μέτρα. Μπορούν να περιλαμβάνουν καθεστώτα ευθύνης για κακόβουλη χρήση συνθετικών μέσων, καθώς και υποχρεώσεις για τις πλατφόρμες να διατηρούν και να μεταφέρουν πληροφορίες προέλευσης. Εξίσου σημαντικό είναι να υπάρχουν θεσμικοί φορείς — δημοσιογράφοι, δικαστήρια και οργανώσεις της κοινωνίας των πολιτών — που να μπορούν να ερμηνεύουν και να επικοινωνούν αυτές τις πληροφορίες στο κοινό.
Κανένα από αυτά δεν θα αποκαταστήσει πλήρως το κύρος ή την «αληθινότητα» που κάποτε είχαν οι φωτογραφίες. Η εποχή της αφελούς οπτικής εμπιστοσύνης έχει παρέλθει. Στόχος δεν είναι η επιστροφή στο παρελθόν, αλλά η οικοδόμηση νέων μηχανισμών εμπιστοσύνης, ανθεκτικών στις πραγματικότητες της ψηφιακής αλλοίωσης.
Οι εικόνες της Νορμανδίας, της Πλατείας Τιενανμέν και αμέτρητων άλλων στιγμών συνεχίζουν να συγκινούν επειδή γίνονται ευρέως αποδεκτές ως αντανάκλαση της πραγματικότητας. Η διατήρηση αυτής της δυνατότητας — οι εικόνες να αγκυρώνουν μια κοινή κατανόηση — δεν είναι μόνο τεχνική πρόκληση. Είναι δημοκρατική επιταγή.
Ο Akhil Bhardwaj είναι αναπληρωτής καθηγητής Στρατηγικής και Οργάνωσης στο University of Bath, UK. Μελετά ακραία γεγονότα, από οργανωτικές καταστροφές έως ριζική καινοτομία. Ενδιαφέρεται για το γνωσιολογικό πρόβλημα κατανόησης των υποκείμενων δυναμικών που οδηγούν σε αυτά τα γεγονότα. Μελετά επίσης πώς μπορεί να βελτιωθεί η σκέψη και ποιες είναι οι συνέπειες της υιοθέτησης AI στο πλαίσιο της στρατηγικής διοίκησης, της επιχειρηματικότητας και των συστημάτων υψηλού ρίσκου. Το έργο του εδράζεται φιλοσοφικά στον πραγματισμό. Πριν την ακαδημαϊκή του πορεία, εργάστηκε ως μηχανικός και μάνατζερ στην CAT., Inc και ως σύμβουλος SOX compliance analyst στις ΗΠΑ.
