Πλήρως αυτόνομα drones χωρίς ανθρώπινη επίβλεψη σκότωσαν στρατιώτες στο πεδίο της μάχης για πρώτη φορά. Αυτό υποστηρίζει ένα ανώτερο στέλεχος της ουκρανικής αμυντικής βιομηχανίας, σηματοδοτώντας μια στιγμή-ορόσημο στον πόλεμο.

Η εφάπαξ δοκιμή περιλάμβανε 10 ελεγχόμενα από AI drones «Terminator» στην πρώτη γραμμή του πολέμου στην Ουκρανία. Ρώσοι στρατιώτες σκοτώθηκαν.

«Το δοκιμάσαμε», λέει ο κατασκευαστής drones Αλεξάντερ Κοχανόφσκι (Alexander Kokhanovskyy), ο οποίος παρείχε την τεχνολογία και μίλησε στο New Scientist σε μια εκδήλωση τύπου που φιλοξενήθηκε από την πρεσβεία της Ουκρανίας. «Είναι μια δοκιμή. Δεν το εφαρμόσαμε ποτέ [πιο ευρέως]».

Η δοκιμή πραγματοποιήθηκε πριν από δύο χρόνια και περιλάμβανε drones τύπου τετρακοπτέρου (quadcopter) που είχαν προγραμματιστεί να πετάξουν προς την πρώτη γραμμή, να καλύψουν απόσταση μεταξύ 3 και 5 χιλιομέτρων σε περίπου 10 λεπτά και στη συνέχεια να ενεργοποιήσουν τη «λειτουργία Terminator», κατά την οποία ένα μοντέλο AI αναζητά και αναχαιτίζει στόχους.

«Απλώς το εκτοξεύουμε και ξέρουμε ότι τα πάντα θα είναι νεκρά – ό,τι βρεθεί εκεί, στη συγκεκριμένη περιοχή, θα είναι νεκρό», λέει ο Κοχανόφσκι. «Δεν υπάρχει καμία απολύτως σύνδεση με το drone, δεν μπορείς να δεις το βίντεο, τίποτα… Ό,τι βλέπει θα σκοτώνεται».

Μην έχοντας κανέναν τρόπο να γνωρίζουν τι είχαν δει ή στοχοποιήσει τα αυτοματοποιημένα drones, drones που καθοδηγούνταν από ανθρώπους στάλθηκαν στην περιοχή μετά τη δοκιμή για να ελέγξουν χειροκίνητα τα αποτελέσματα. Τα θύματα περιλάμβαναν «μερικούς στρατιώτες, ένα φορτηγό», λέει ο Κοχανόφσκι. Αν και δεν υπάρχει καταγραφή των αυτοματοποιημένων drones να επιτίθενται σε αυτούς τους στόχους, συμπεράνθηκε ότι τα drones τούς είχαν σκοτώσει.

Ο Κοχανόφσκι λέει ότι δεν ήταν ο ίδιος παρών στη δοκιμή, αλλά ότι αυτή πραγματοποιήθηκε από μια ανώνυμη στρατιωτική μονάδα κοντά στις πόλεις Μπαχμούτ (Bakhmut) και Τσάσιβ Γιαρ (Chasiv Yar) στο πλαίσιο μιας ουκρανικής αντεπίθεσης. Το Υπουργείο Άμυνας της Ουκρανίας δεν απάντησε σε ερωτήσεις σχετικά με τη δοκιμή ή την τρέχουσα νομική θέση για τη χρήση πλήρως αυτόνομων όπλων.

Η χρήση του AI είναι κοινή στους στρατούς σε όλο τον κόσμο, βοηθώντας στην επιλογή στόχων μέσα από τεράστιους όγκους δεδομένων πληροφοριών και αυτοματοποιώντας ορισμένες λειτουργίες όπλων, αλλά οι άνθρωποι βρίσκονται πάντα στη διαδικασία ελέγχου (in the loop) σε κάποιο σημείο. Η παραδοχή του Κοχανόφσκι είναι η πιο κατηγορηματική απόδειξη μέχρι σήμερα ότι ένας θάνατος έχει συμβεί σε μάχη αποκλειστικά από τα χέρια της τεχνητής νοημοσύνης.

Η ουκρανική κυβέρνηση απαγορεύει επί του παρόντος τη χρήση AI στο τελικό στάδιο της αναχαίτισης στόχων, σύμφωνα με πηγές αμυντικών εταιρειών που μίλησαν στη συνέντευξη τύπου της πρεσβείας, αν και το AI χρησιμοποιείται για πολλά μέρη της διαδικασίας από πολλές συσκευές μέχρι εκείνο το σημείο. Ο Κοχανόφσκι λέει ότι η κυβέρνηση γνωρίζει τις αυξανόμενες δυνατότητες του AI και ότι βρίσκεται σε συνομιλίες με αμυντικές εταιρείες σχετικά με το αν οι κανόνες θα πρέπει να γίνουν πιο χαλαροί.

Αναφορές το 2023 υποστήριζαν ότι ουκρανικά drones επίθεσης εξοπλισμένα με τεχνητή νοημοσύνη έβρισκαν και επιτίθενταν σε στόχους χωρίς ανθρώπινη βοήθεια – αλλά αναπτύσσονταν εναντίον οχημάτων όπως άρματα μάχης, αντί για πεζικό. Εκείνη την εποχή, δεν είχαν επιβεβαιωθεί ανθρώπινες απώλειες.

Παρόλο που δεν υπάρχει επίσημη διεθνής απαγόρευση στα αυτόνομα όπλα που μπορούν να σκοτώσουν χωρίς ανθρώπινη παρέμβαση, ο Γενικός Γραμματέας των Ηνωμένων Εθνών Αντόνιο Γκουτέρες (António Guterres) έχει ζητήσει την επιβολή μιας τέτοιας απαγόρευσης, δηλώνοντας πέρυσι ότι «δεν υπάρχει θέση για φονικά αυτόνομα οπλικά συστήματα στον κόσμο μας».

Ο ΟΗΕ έχει δήλωσει ότι υπάρχουν ανησυχίες ότι τέτοια όπλα θα μπορούσαν να παραβιάσουν το διεθνές ανθρωπιστικό δίκαιο και το δίκαιο των ανθρωπίνων δικαιωμάτων, αφαιρώντας την ανθρώπινη κρίση από τον πόλεμο. Υπάρχει επίσης ο κίνδυνος τα αυτόνομα συστήματα να κάνουν λάθη, είτε επιτιθέμενα σε στρατιώτες ή εξοπλισμό της δικής τους πλευράς είτε πλήττοντας αμάχους.

Οι περισσότεροι στρατοί αναπτύσσουν συσκευές που αυτοματοποιούν τουλάχιστον κάποιο μέρος της διαδικασίας επίθεσης σε στόχους. Οι ΗΠΑ διαθέτουν λογισμικό που συγκεντρώνει και αναλύει τεράστιες ποσότητες ανόμοιων δεδομένων και επιλέγει στόχους στο πεδίο της μάχης οι οποίοι μπορούν στη συνέχεια να πληγούν από drones, αλλά, θεωρητικά, αυτό απαιτεί ανθρώπινη επιβεβαίωση. Έχουν υπάρξει ισχυρισμοί ότι οι ΗΠΑ αναπτύσσουν επίσης τα λεγόμενα ιπτάμενα drones «Goalkeeper» και ναυτικά drones «Whiplash», τα οποία είναι ικανά να βρίσκουν μόνα τους τους στόχους τους και να τους εξουδετερώνουν.

Μια έκθεση του ΟΗΕ από το 2021 άφηνε μάλιστα να εννοηθεί ότι ένα τετρακόπτερο Kargu-2 που κατασκευάστηκε από τουρκική εταιρεία ενδέχεται να είχε χρησιμοποιηθεί για αυτόνομη επίθεση εναντίον ανθρώπων το προηγούμενο έτος. Η έκθεση δεν έδωσε συγκεκριμένες λεπτομέρειες για την πηγή των ισχυρισμών ή για το αν κάποιοι άνθρωποι είχαν τραυματιστεί ή σκοτωθεί, αλλά υποστήριζε ότι η Κυβέρνηση Εθνικής Συμφωνίας της Λιβύης (GNA) είχε χρησιμοποιήσει τα drones εναντίον των δυνάμεων του Χαφτάρ (Haftar) που υποχωρούσαν.

Ο ταγματάρχης Ντανίλο Πολοζούχνο (Major Danylo Polozhukhno), ανώτερο στέλεχος του 21ου Ξεχωριστού Συντάγματος Μη Επανδρωμένων Συστημάτων του 3ου Σώματος Στρατού της Ουκρανίας, ο οποίος δεν γνώριζε ούτε συμμετείχε στη δοκιμή, δήλωσε στο New Scientist ότι οι στρατιώτες του χρησιμοποιούν ημιαυτόνομα συστήματα ελέγχου, αλλά ότι υπάρχει πάντα ένας άνθρωπος στη διαδικασία ελέγχου.

«Αυτά τα συστήματα και οι πλατφόρμες drones είναι ικανά να εντοπίζουν και να παρακολουθούν αυτόματα στόχους, καθώς και να καθοδηγούνται αυτόνομα κατά τα τελευταία μέτρα της προσέγγισης, γεγονός που βοηθά στην απλοποίηση της εργασίας των χειριστών. Ωστόσο, δεν χρησιμοποιούμε πλήρως αυτόνομα συστήματα drones που επιλέγουν και προσβάλλουν στόχους ανεξάρτητα, χωρίς καμία συμμετοχή χειριστή», λέει ο Πολοζούχνο. «Η Ουκρανία τηρεί το διεθνές ανθρωπιστικό δίκαιο και λαμβάνει σοβαρά υπόψη την ευθύνη της να υπερασπίζεται τα δικαιώματα όλων των εμπόλεμων. Επίσης, επιδεικνύει μεγάλη προσοχή στη λήψη αποφάσεων προκειμένου να αποτραπούν οι απώλειες αμάχων».

Η Μαριαροζάρια Ταντέο (Mariarosaria Taddeo) στο Πανεπιστήμιο της Οξφόρδης λέει ότι η θανάτωση με τη χρήση AI κλέβει την αξιοπρέπεια του στρατιώτη, αφαιρεί την ευθύνη από τον επιτιθέμενο και πρέπει να απαγορευτεί. «Δεν είναι απλώς προβληματικό, είναι φρικτό», λέει η ίδια. «Θέλουμε να είμαστε η κοινωνία που σκοτώνει άλλους ανθρώπους, που επιτρέπει στην κυβέρνησή της να σκοτώνει άλλους ανθρώπους, χωρίς να εμπλέκονται άνθρωποι;»

Ο Άντονι Κινγκ (Anthony King) στο Πανεπιστήμιο του Έξετερ (University of Exeter) στο Ηνωμένο Βασίλειο, λέει ότι παρόλο που οι πλήρως αυτόνομες επιθέσεις χωρίς ανθρώπους στη διαδικασία ελέγχου είναι τεχνολογικά εφικτές, μπορεί να αποτελούν ένα λιγότερο αποφασιστικό εργαλείο από ό,τι πιστεύουν πολλοί.

«Είναι σίγουρα πιθανό οι κυβερνήσεις να το επέτρεπαν αυτό εάν τους έδινε οποιοδήποτε στρατιωτικό πλεονέκτημα», λέει ο ίδιος. «Ωστόσο, το γεγονός παραμένει ότι ελάχιστα, αν όχι κανένα, από τα εκατομμύρια drones που έχουν χρησιμοποιηθεί στον πόλεμο της Ουκρανίας από τις ρωσικές και τις ουκρανικές δυνάμεις έχουν υπάρξει [πλήρως] αυτόνομα».

«Επομένως, δεν είναι μόνο ότι είναι ηθικά σωστό να κρατάμε τους ανθρώπους στη διαδικασία ελέγχου· σε αυτό το σημείο, είναι πιο αποτελεσματικό από στρατιωτική άποψη», λέει ο Κινγκ.

Ο Κοχανόφσκι λέει ότι το έργο Terminator δεν έχει σημειώσει πρόοδο μετά τη δοκιμή λόγω των κανόνων της Ουκρανίας. Ο ίδιος είναι πλέον διευθύνων σύμβουλος της εταιρείας κατασκευής drones Aero Center —η οποία, όπως λέει, δεν είχε εμπλοκή στη δοκιμή καθώς δεν είχε δημιουργηθεί εκείνη την εποχή— μιας ουκρανικής εταιρείας που εργάζεται πάνω σε αυτόνομα drones αναχαίτισης. Αυτά έχουν σχεδιαστεί για να στοχεύουν εισερχόμενα ρωσικά drones καμικάζι Shahed και να τα εξουδετερώνουν προτού προλάβουν να φτάσουν σε κωμοπόλεις και πόλεις γεμάτες αμάχους ή σημαντικές υποδομές.

Το σύστημα ALITA της εταιρείας θα αποτελείται από 16 πλατφόρμες εκτόξευσης, εξοπλισμένες με 64 drones. Θα είναι έτοιμο μέχρι τον Οκτώβριο και θα είναι ικανό να επιτηρεί για εισερχόμενα drones, να εκτοξεύει αυτόματα και να κινείται προς τον στόχο με ταχύτητα 450 χιλιομέτρων την ώρα, προτού εξουδετερώσει τα πάντα, από μικρά drones μέχρι ελικόπτερα.

Όμως οι τρέχοντες κανόνες της Ουκρανίας θα απαγορεύουν την πλήρως αυτόνομη λειτουργία και θα απαιτούν από τους ανθρώπους να επαληθεύουν τους στόχους στα τελικά στάδια της αναχαίτισης. Ακόμη και σε αυτή τη λειτουργία, ολόκληρη η συστοιχία των 64 drones θα απαιτεί μόλις δύο ανθρώπινους χειριστές, πράγμα που σημαίνει ότι θα μειώσει δραματικά το προσωπικό.

«Κάθε βήμα αυτού του συστήματος μπορεί να είναι είτε χειροκίνητο είτε αυτόματο. Δεν μας επιτρέπεται να εκτελούμε το τελικό στάδιο αυτόματα», λέει ο Κοχανόφσκι, ο οποίος πιστεύει ότι οι κανόνες πρέπει να αλλάξουν. «Θα το ήθελα πολύ», λέει ο ίδιος.

newscientist.com