Ένα ανώτερο στέλεχος της ουκρανικής αμυντικής βιομηχανίας είπε στο New Scientist ότι πριν από δύο χρόνια πραγματοποιήθηκε δοκιμή με πλήρως αυτόνομα drones, ρυθμισμένα να καταστρέφουν οτιδήποτε σε μια συγκεκριμένη περιοχή, με επιβεβαιωμένα θύματα.
Τα drones είναι πλέον συνηθισμένη εικόνα στα πεδία μάχης της Ουκρανίας, όμως συνήθως ελέγχονται από ανθρώπινους χειριστές.
Frank Herrmann/Getty Images
Για πρώτη φορά, πλήρως αυτόνομα drones χωρίς ανθρώπινη επίβλεψη σκότωσαν στρατιώτες στο πεδίο της μάχης. Αυτό υποστηρίζει ανώτερο στέλεχος της ουκρανικής αμυντικής βιομηχανίας, σε μια εξέλιξη που σηματοδοτεί σημείο καμπής για τον πόλεμο.
Η μία και μοναδική δοκιμή αφορούσε 10 drones “Terminator”, με έλεγχο από τεχνητή νοημοσύνη, στην πρώτη γραμμή του πολέμου στην Ουκρανία. Νεκροί ήταν Ρώσοι στρατιώτες.
Η τεχνητή νοημοσύνη επιμένει να προτείνει πυρηνικά πλήγματα σε πολεμικές προσομοιώσεις.
«Το δοκιμάσαμε», λέει ο κατασκευαστής drones Αλεξάντερ Κοχανόφσκυ, ο οποίος παρείχε την τεχνολογία και μίλησε στο New Scientist σε εκδήλωση της ουκρανικής πρεσβείας. «Ήταν μια δοκιμή. Δεν το εφαρμόσαμε ποτέ [ευρύτερα].»
Η δοκιμή έγινε πριν από δύο χρόνια και αφορούσε drones τύπου quadcopter, τα οποία είχαν προγραμματιστεί να πετάξουν προς την πρώτη γραμμή, να καλύψουν απόσταση 3 έως 5 χιλιομέτρων σε περίπου 10 λεπτά και στη συνέχεια να ενεργοποιήσουν τη λειτουργία “Terminator mode”, στην οποία ένα μοντέλο τεχνητής νοημοσύνης αναζητά και αναχαιτίζει στόχους.
«Απλώς το εκτοξεύουμε και ξέρουμε ότι όλα θα είναι νεκρά – ό,τι βρεθεί εκεί, σε αυτή τη συγκεκριμένη περιοχή, θα είναι νεκρό», λέει ο Κοχανόφσκυ. «Δεν υπάρχει καμία σύνδεση με το drone, δεν μπορείς να δεις το βίντεο, τίποτα… Ό,τι βλέπει, θα σκοτωθεί.»
Η τελευταία ενημέρωση για όσα αλλάζουν στην επιστήμη και γιατί έχουν σημασία κάθε μέρα.
Αφού δεν υπήρχε τρόπος να διαπιστωθεί τι είχαν δει ή στοχεύσει τα αυτοματοποιημένα drones, στην περιοχή στάλθηκαν drones με ανθρώπινο χειρισμό για να ελέγξουν χειροκίνητα το αποτέλεσμα. Τα θύματα περιλάμβαναν «δύο στρατιώτες, ένα φορτηγό», λέει ο Κοχανόφσκυ. Αν και δεν υπάρχει καταγραφή των αυτόνομων drones να επιτίθενται σε αυτούς τους στόχους, το συμπέρασμα ήταν ότι τα drones τους είχαν σκοτώσει.
Γιατί άλλαξα γνώμη για την τεχνητή νοημοσύνη και γιατί πρέπει να το κάνετε κι εσείς.
Ο Κοχανόφσκυ λέει ότι δεν ήταν ο ίδιος παρών στη δοκιμή, αλλά ότι πραγματοποιήθηκε από ανώνυμη στρατιωτική μονάδα κοντά στις πόλεις Μπαχμούτ και Τσάσιβ Γιαρ, στο πλαίσιο μιας ουκρανικής αντεπίθεσης. Το υπουργείο Άμυνας της Ουκρανίας δεν απάντησε σε ερωτήσεις για τη δοκιμή ή για το ισχύον νομικό πλαίσιο σχετικά με τη χρήση πλήρως αυτόνομων όπλων.
Η χρήση της τεχνητής νοημοσύνης είναι διαδεδομένη στους στρατούς σε όλο τον κόσμο, καθώς βοηθά στην επιλογή στόχων μέσα από τεράστιους όγκους πληροφοριών και αυτοματοποιεί ορισμένες λειτουργίες των όπλων, όμως σε κάποιο σημείο υπάρχει πάντα ανθρώπινη παρέμβαση. Η παραδοχή του Κοχανόφσκυ αποτελεί την πιο σαφή μέχρι τώρα ένδειξη ότι ένας θάνατος στο πεδίο της μάχης προήλθε αποκλειστικά από την τεχνητή νοημοσύνη.
Η ουκρανική κυβέρνηση απαγορεύει σήμερα τη χρήση τεχνητής νοημοσύνης στο τελικό στάδιο αναχαίτισης στόχων, σύμφωνα με πηγές αμυντικής εταιρείας που μίλησαν στη συνέντευξη Τύπου στην πρεσβεία. Ωστόσο, η τεχνητή νοημοσύνη χρησιμοποιείται σε πολλά μέρη της διαδικασίας από πολλές συσκευές έως εκείνο το σημείο. Ο Κοχανόφσκυ λέει ότι η κυβέρνηση γνωρίζει τις αυξανόμενες δυνατότητες της τεχνητής νοημοσύνης και συζητά με αμυντικές εταιρείες αν οι κανόνες θα πρέπει να γίνουν πιο χαλαροί.
Αναφορές του 2023 έδειχναν ότι ουκρανικά επιθετικά drones εξοπλισμένα με τεχνητή νοημοσύνη εντόπιζαν και χτυπούσαν στόχους χωρίς ανθρώπινη βοήθεια, όμως χρησιμοποιούνταν εναντίον οχημάτων όπως τα άρματα μάχης και όχι εναντίον πεζικού. Τότε δεν είχαν επιβεβαιωθεί ανθρώπινα θύματα.
Η τεχνητή νοημοσύνη μπορεί να αποδυναμώσει τις ικανότητες σκέψης μας – δείτε τι μπορείτε να κάνετε.
Παρότι δεν υπάρχει επίσημη διεθνής απαγόρευση για τα αυτόνομα όπλα που μπορούν να σκοτώνουν χωρίς ανθρώπινη παρέμβαση, ο γενικός γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες έχει ζητήσει μια τέτοια απαγόρευση, λέγοντας πέρυσι ότι «δεν υπάρχει θέση για θανατηφόρα αυτόνομα οπλικά συστήματα στον κόσμο μας».
Ο ΟΗΕ έχει επισημάνει ότι υπάρχουν ανησυχίες πως τέτοια όπλα θα μπορούσαν να παραβιάσουν το διεθνές ανθρωπιστικό και το διεθνές δίκαιο ανθρωπίνων δικαιωμάτων, αφαιρώντας την ανθρώπινη κρίση από τον πόλεμο. Υπάρχει επίσης ο κίνδυνος τα αυτόνομα συστήματα να κάνουν λάθος, πλήττοντας στρατιώτες ή εξοπλισμό της ίδιας πλευράς ή χτυπώντας αμάχους.
Οι περισσότεροι στρατοί αναπτύσσουν συσκευές που αυτοματοποιούν τουλάχιστον ένα μέρος της διαδικασίας επίθεσης σε στόχους. Οι ΗΠΑ διαθέτουν λογισμικό που συγκεντρώνει και αναλύει τεράστιες ποσότητες ετερογενών δεδομένων και επιλέγει στόχους στο πεδίο της μάχης, οι οποίοι στη συνέχεια μπορούν να πληγούν από drones, αλλά, θεωρητικά, αυτό απαιτεί ανθρώπινη επιβεβαίωση. Έχουν υπάρξει επίσης ισχυρισμοί ότι οι ΗΠΑ αναπτύσσουν τα λεγόμενα Goalkeeper flying drones και Whiplash naval drones, τα οποία μπορούν να βρίσκουν μόνα τους τους στόχους και να τους εξουδετερώνουν.
Έκθεση του ΟΗΕ από το 2021 υπέδειξε ακόμη ότι ένα quadcopter Kargu-2, που παράγεται από τουρκική εταιρεία, ενδέχεται να χρησιμοποιήθηκε για αυτόνομη επίθεση σε ανθρώπους το προηγούμενο έτος. Η έκθεση δεν έδωσε συγκεκριμένες λεπτομέρειες για την πηγή των ισχυρισμών ούτε για το αν υπήρξαν τραυματισμοί ή θάνατοι, αλλά ανέφερε ότι η Κυβέρνηση Εθνικής Συμφωνίας της Λιβύης (GNA) είχε χρησιμοποιήσει τα drones εναντίον δυνάμεων του Χαφτάρ που υποχωρούσαν.
Ο ταγματάρχης Ντανίλο Πολοζούχνο, ανώτερο στέλεχος του 21ου Ξεχωριστού Συντάγματος Μη Επανδρωμένων Συστημάτων της 3ης Στρατιάς της Ουκρανίας, ο οποίος δεν γνώριζε ή δεν είχε εμπλακεί στη δοκιμή, είπε στο New Scientist ότι οι στρατιώτες του χρησιμοποιούν ημιαυτόνομα συστήματα ελέγχου, αλλά πάντα υπάρχει άνθρωπος στον βρόχο.
«Αυτά τα συστήματα και οι πλατφόρμες drones μπορούν να αποκτούν και να παρακολουθούν στόχους αυτόματα, καθώς και να καθοδηγούνται αυτόνομα στα τελευταία μέτρα της προσέγγισης, κάτι που διευκολύνει το έργο των χειριστών. Ωστόσο, δεν χρησιμοποιούμε πλήρως αυτόνομα συστήματα drones που επιλέγουν και πλήττουν στόχους χωρίς καμία εμπλοκή χειριστή», λέει ο Πολοζούχνο. «Η Ουκρανία τηρεί το διεθνές ανθρωπιστικό δίκαιο και αντιμετωπίζει με σοβαρότητα την ευθύνη της να προστατεύει τα δικαιώματα όλων των μαχητών. Επίσης, δείχνει μεγάλη προσοχή στη λήψη αποφάσεων, ώστε να αποφεύγονται απώλειες αμάχων.»
Η Μαριαροζάρια Ταντέο από το Πανεπιστήμιο της Οξφόρδης λέει ότι η θανάτωση με τη βοήθεια της τεχνητής νοημοσύνης αφαιρεί την αξιοπρέπεια του στρατιώτη, μεταφέρει την ευθύνη μακριά από τον επιτιθέμενο και πρέπει να απαγορευτεί. «Δεν είναι απλώς προβληματικό, είναι φρικτό», λέει. «Θέλουμε να είμαστε η κοινωνία που σκοτώνει άλλους ανθρώπους, που επιτρέπει στην κυβέρνησή της να σκοτώνει άλλους ανθρώπους, χωρίς να εμπλέκονται άνθρωποι;»
Ο Άντονι Κινγκ από το Πανεπιστήμιο του Έξετερ στη Βρετανία λέει ότι, παρότι οι πλήρως αυτόνομες επιθέσεις χωρίς ανθρώπινη εμπλοκή είναι τεχνολογικά εφικτές, μπορεί να είναι λιγότερο καθοριστικές απ’ όσο νομίζουν πολλοί.
«Είναι σίγουρα πιθανό οι κυβερνήσεις να το επέτρεπαν αν τους έδινε οποιοδήποτε στρατιωτικό πλεονέκτημα», λέει. «Ωστόσο, το γεγονός παραμένει ότι πολύ λίγα, αν όχι κανένα, από τα εκατομμύρια drones που έχουν χρησιμοποιηθεί στον πόλεμο της Ουκρανίας από ρωσικές και ουκρανικές δυνάμεις έχουν υπάρξει [πλήρως] αυτόνομα.»
Πόσο πρέπει να σας ανησυχεί μια αποκάλυψη για την τεχνητή νοημοσύνη;
«Άρα, δεν είναι μόνο ότι είναι ηθικά σωστό να παραμένει ο άνθρωπος στον βρόχο· σε αυτό το σημείο, είναι και πιο αποτελεσματικό στρατιωτικά», λέει ο Κινγκ.
Ο Κοχανόφσκυ λέει ότι το πρόγραμμα Terminator δεν προχώρησε μετά τη δοκιμή εξαιτίας των κανόνων της Ουκρανίας. Είναι πλέον διευθύνων σύμβουλος της κατασκευάστριας drones Aero Center, η οποία, όπως λέει, δεν είχε εμπλακεί στη δοκιμή επειδή δεν υπήρχε τότε ως εταιρεία, ουκρανικής επιχείρησης που εργάζεται πάνω σε αυτόνομα drones αναχαίτισης. Αυτά έχουν σχεδιαστεί για να στοχεύουν τα ρωσικά drones Shahed kamikaze και να τα εξουδετερώνουν πριν φτάσουν σε πόλεις γεμάτες αμάχους ή σε σημαντικές υποδομές.
Το σύστημα ALITA της εταιρείας θα αποτελείται από 16 σημεία εκτόξευσης, εξοπλισμένα με 64 drones. Θα είναι έτοιμο μέχρι τον Οκτώβριο και θα μπορεί να εντοπίζει επερχόμενα drones, να εκτοξεύεται αυτόματα και να κινείται προς τον στόχο με ταχύτητα 450 χιλιομέτρων την ώρα, πριν εξουδετερώσει οτιδήποτε, από μικρά drones έως ελικόπτερα.
Ωστόσο, οι ισχύοντες κανόνες της Ουκρανίας θα απαγορεύουν την πλήρως αυτόνομη λειτουργία και θα απαιτούν από ανθρώπους να επιβεβαιώνουν τους στόχους στο τελικό στάδιο της αναχαίτισης. Ακόμη και σε αυτή τη λειτουργία, ολόκληρη η συστοιχία των 64 drones θα χρειάζεται μόλις δύο χειριστές, μειώνοντας σημαντικά το απαιτούμενο προσωπικό.
«Κάθε βήμα σε αυτό μπορεί να είναι είτε χειροκίνητο είτε αυτόματο. Δεν μας επιτρέπεται να κάνουμε το τελικό στάδιο αυτόματα», λέει ο Κοχανόφσκυ, ο οποίος θεωρεί ότι οι κανόνες θα πρέπει να αλλάξουν. «Θα το ήθελα πολύ», λέει.
