Το Project Maven ξεκίνησε το 2017 ως ένα εργαλείο ανάλυσης drone footage για τον αμερικανικό στρατό. Σήμερα, έχει εξελιχθεί σε ένα δίκτυο 800 AI προγραμμάτων που αλλάζουν ριζικά τον τρόπο που διεξάγεται ο πόλεμος. Η δημοσιογράφος Katrina Manson αφηγείται αυτή την ιστορία με πρόσβαση σε πάνω από 200 πηγές — και το αποτέλεσμα είναι εξίσου συναρπαστικό και ανησυχητικό.
Ο πόλεμος με AI δεν είναι σενάριο επιστημονικής φαντασίας. Είναι ήδη εδώ. Το Ισραήλ χρησιμοποιεί τεχνητή νοημοσύνη για να εντοπίζει στόχους στη Γάζα. Οι ΗΠΑ κάνουν το ίδιο στο Ιράν. Η Ουκρανία αναπτύσσει έξυπνα drones που λαμβάνουν αποφάσεις χωρίς ανθρώπινη εντολή. Αυτό είναι το παρόν της σύγχρονης σύγκρουσης, και το βιβλίο της Katrina Manson, Project Maven, είναι ίσως η πιο ολοκληρωμένη αφήγηση για το πώς φτάσαμε ως εδώ.
Το Project Maven ξεκίνησε το 2017 με έναν σχετικά ταπεινό στόχο: να επεξεργάζεται το τεράστιο όγκο βίντεο που συλλέγουν τα αμερικανικά drones — δεδομένα που ξεπερνούσαν κατά πολύ την ανθρώπινη ικανότητα ανάλυσης. Η αρχή, ωστόσο, ήταν τραχιά. Οκτώ μήνες μετά την έναρξη του προγράμματος, αλγόριθμοι που δοκιμάστηκαν στη Σομαλία «έβλεπαν» σχολικά λεωφορεία στα σύννεφα και ανθρώπους στα δέντρα. Τα λάθη ήταν αναπόφευκτα — αλλά αυτό δεν σταμάτησε κανέναν.
Η Manson, με πρόσβαση σε πάνω από 200 ανθρώπους που εμπλέκονται στο πρόγραμμα, αποκαλύπτει ότι η φιλοδοξία πήγαινε πολύ πιο μακριά από την απλή ανάλυση εικόνων. Ο στόχος ήταν να εντοπίζει στόχους, να τους παρακολουθεί και τελικά να τους εξουδετερώνει — χωρίς την αργή, επίπονη ανθρώπινη διαδικασία λήψης αποφάσεων. «Σκοτώνουμε λάθος ανθρώπους συνέχεια. Μια μηχανή δεν μπορεί να τα κάνει χειρότερα από έναν άνθρωπο», λέει ένας εκ των εμπλεκομένων. Αυτή η λογική, όσο ανατριχιαστική κι αν ακούγεται, είναι η κινητήρια δύναμη πίσω από δεκάδες αμυντικά AI projects.
Σήμερα, 32 εταιρείες εργάζονται στο Maven και 25.000 χρήστες του αμερικανικού στρατού συνδέονται τακτικά στο σύστημα. Το πρόγραμμα έχει επεκταθεί σε συνοριακούς ελέγχους και στην καταδίωξη διακινητών ναρκωτικών στην Καραϊβική. Το ερώτημα που αναδύεται αβίαστα: μπορεί ένα κράτος που διαθέτει τέτοια εργαλεία να αντισταθεί στον πειρασμό να τα χρησιμοποιήσει και εναντίον των πολιτών του;
Το πιο ανησυχητικό κεφάλαιο, ωστόσο, αφορά το μέλλον. Drones όπως το Goalkeeper και το Whiplash μπορούν ήδη να εντοπίζουν και να εξουδετερώνουν στόχους αυτόνομα, χωρίς ανθρώπινη εντολή. Η Manson θυμίζει τον Stanislav Petrov, τον Σοβιετικό αξιωματικό που το 1983 αποφάσισε με βάση την κρίση του — και όχι τα δεδομένα — ότι η αναφορά για αμερικανική πυρηνική επίθεση ήταν ψευδής συναγερμός. Αποτρέποντας έτσι έναν πυρηνικό πόλεμο. Θα έπαιρνε ένα AI την ίδια απόφαση;
Το βιβλίο δεν είναι μόνο για την τεχνολογία. Είναι εξίσου αποκαλυπτικό για τη γραφειοκρατία του Πενταγώνου και για την προθυμία της Silicon Valley να αναλάβει οποιοδήποτε συμβόλαιο, ανεξάρτητα από τις ηθικές συνέπειες, αρκεί τα χρήματα να είναι αρκετά. Ένα από τα πιο ανατριχιαστικά στοιχεία του βιβλίου: υποψήφιος για θέση στο Maven δήλωσε στην επιτροπή επιλογής ότι κίνητρό του ήταν να «μειώσει τον μη αμερικανικό πληθυσμό». Και πήρε τη δουλειά.
Ο πόλεμος ήταν πάντα σκληρός. Αλλά όταν ένας άνθρωπος χιλιάδες χιλιόμετρα μακριά αποφασίζει μέσα από μια οθόνη αν κάποιος αξίζει να πεθάνει, ο θάνατος γίνεται αφηρημένος. Αν αυτή την απόφαση την πάρει ένας αλγόριθμος, ο πόλεμος κινδυνεύει να γίνει πολύ εύκολος για να αρχίσει — και πολύ απρόσωπος για να μας νοιάξει.
