Ένας σημαντικός εσφαλμένος υπολογισμός καθοδηγούμενος από την τεχνητή νοημοσύνη σύμφωνα με πληροφορίες παραλίγο να ωθήσει τον στρατό των ΗΠΑ να αναχαιτίσει ένα κινεζικό σκάφος στη Μέση Ανατολή αυτή την άνοιξη, εν μέσω της συνεχιζόμενης σύγκρουσης με το Ιράν.

Μονάδες ειδικών δυνάμεων, υποστηριζόμενες από στρατιωτικά αεροσκάφη, προετοιμάζονταν να επιβιβαστούν στο σκάφος αφού μια έκθεση πληροφοριών ισχυρίστηκε ότι μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων, σύμφωνα με ρεπορτάζ του CNN.

Η αναχαίτιση, η οποία βασίστηκε σε πληροφορίες σχετικά με το δηλωτικό φορτίου του πλοίου που προήλθαν από τη Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού των ΗΠΑ (U.S. Special Operations Command Pacific) στη Χαβάη, θα μπορούσε να είχε πυροδοτήσει ένοπλη σύγκρουση με την Κίνα εάν είχε εκτελεστεί.

Η επιχείρηση ματαιώθηκε λίγο πριν από την εκτέλεσή της όταν αξιωματούχοι ανακάλυψαν ότι η έκθεση βασιζόταν σε ανακριβή δεδομένα που παρήγαγε ένα AI chatbot. Μια βαθύτερη εξέταση αποκάλυψε ότι ο αναλυτής είχε εισαγάγει αρχικές πληροφορίες σε ένα chatbot, το οποίο δημιούργησε μια «ψευδαίσθηση» (hallucination) αναγνωρίζοντας λανθασμένα το φορτίο. Μία πηγή ανέφερε στο CNN ότι οι πληροφορίες ήταν «εντελώς ψευδείς» και «παραλίγο να ξεκινήσουν πόλεμο».

Το συγκλονιστικό περιστατικό αναδεικνύει τους αυξανόμενους κινδύνους καθώς το Πεντάγωνο ενσωματώνει ραγδαία αυτοματοποιημένα εργαλεία σε κρίσιμες επιχειρήσεις, συμπεριλαμβανομένης της επιλογής στόχων. Ένας πρώην ανώτερος αξιωματούχος των ΗΠΑ εξοικειωμένος με τα στρατιωτικά εργαλεία τεχνητής νοημοσύνης δήλωσε στο μέσο: «Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών προϊόντων πασπαλισμένα με κραγιόν [wearing lipstick]».

Ο αξιωματούχος πρόσθεσε ότι τα εργαλεία συγχωνεύουν συστηματικά πληροφορίες ανοιχτών πηγών (open-source) με διαβαθμισμένες πληροφορίες σημάτων (signals intelligence), δημιουργώντας συχνά μια ψευδή αίσθηση ακρίβειας.

Το λάθος συνέβη όταν ένας αναλυτής εισήγαγε μια εντολή (prompt) σε ένα chatbot χρησιμοποιώντας πληροφορίες από τη Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού των ΗΠΑ στη Χαβάη. Το εργαλείο ανέμειξε δεδομένα ανοιχτών πηγών με απόρρητες πληροφορίες σημάτων, αναγνωρίζοντας εσφαλμένα το φορτίο προτού ο αναλυτής χρησιμοποιήσει την τεχνητή νοημοσύνη για να μορφοποιήσει τα ευρήματα σε μια τυπική έκθεση πληροφοριών προς διανομή.

Το CNN σημείωσε ότι δεν μπόρεσε να επιβεβαιώσει ανεξάρτητα ποιο ήταν στην πραγματικότητα το εσφαλμένα αναγνωρισμένο φορτίο, ούτε εάν το λογισμικό που χρησιμοποιήθηκε ήταν εμπορικό προϊόν ή ένα προσαρμοσμένο κυβερνητικό εργαλείο.

Αν και ηγετικά στελέχη της άμυνας υποστηρίζουν ότι τα αυτοματοποιημένα συστήματα είναι απαραίτητα για τη διατήρηση ενός τεχνολογικού πλεονεκτήματος, η έλλειψη ενιαίων προτύπων ασφαλείας σε όλες τις αποκεντρωμένες στρατιωτικές μονάδες έχει εγείρει ανησυχίες. Πολλαπλοί αξιωματούχοι επεσήμαναν ότι διαφορετικοί κλάδοι της κυβέρνησης αναπτύσσουν εξαιρετικά διαφορετικό αυτοματοποιημένο λογισμικό που λειτουργεί υπό ξεχωριστούς κανόνες ασφαλείας και επιχειρησιακούς περιορισμούς.

Ο υπουργός Άμυνας Πιτ Χέγκσεθ (Pete Hegseth) ανακοίνωσε πρόσφατα μια «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης». Με εντολή του Προέδρου Ντόναλντ Τραμπ, η πρωτοβουλία επιδιώκει να καθιερώσει τις Ηνωμένες Πολιτείες ως μια «μαχητική δύναμη ενισχυμένη με τεχνητή νοημοσύνη» (AI-enabled fighting force) μέσω επτά βασικών πρωτοβουλιών, συμπεριλαμβανομένου ενός προγράμματος με τίτλο GenAI.mil για την παροχή πρόσβασης του προσωπικού σε εμπορικά μοντέλα, παράλληλα με προσπάθειες για την εξάλειψη των γραφειοκρατικών εμποδίων.

«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι είμαστε πρωτοπόροι στη στρατιωτική τεχνητή νοημοσύνη», δήλωσε ο Χέγκσεθ σε ομιλία του αναλύοντας τη στρατηγική. «Θα γίνουμε μια πολεμική δύναμη με προτεραιότητα στην τεχνητή νοημοσύνη (“AI-first”) σε όλους τους τομείς».

Ένα συνοδευτικό υπόμνημα περιέγραψε σχέδια για «εκδημοκρατισμό του πειραματισμού και του μετασχηματισμού της τεχνητής νοημοσύνης σε ολόκληρο το Υπουργείο, θέτοντας τα κορυφαία παγκοσμίως μοντέλα τεχνητής νοημοσύνης της Αμερικής απευθείας στα χέρια των τριών εκατομμυρίων μελών του πολιτικού και στρατιωτικού προσωπικού μας, σε όλα τα επίπεδα διαβάθμισης».

Ωστόσο, πηγές δήλωσαν στο CNN ότι οι νεαροί αναλυτές ήταν ιδιαίτερα επιρρεπείς στο να εμπιστεύονται αυτά τα συστήματα άκριτα, αυξάνοντας τον κίνδυνο ταχέως εξελισσόμενων σφαλμάτων. Πρόσωπα εκ των έσω προειδοποίησαν ότι οι βετεράνοι εντός της κοινότητας των πληροφοριών ένιωθαν έντονη πίεση να επιταχύνουν την παραγωγή, οδηγώντας σε βιαστική διανομή ανεπιβεβαίωτου υλικού.

Αναφερόμενη στην πίεση για γρήγορη παραγωγή πληροφοριών, μία πηγή δήλωσε στο μέσο: «Η τεχνητή νοημοσύνη σου επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».

«Η τεχνητή νοημοσύνη στη στοχοποίηση είναι σίγουρα κάτι που κλιμακώνεται και δεν υπάρχει καμία πραγματική καθοδήγηση για το πώς η ύπαρξη ανθρώπινης παρέμβασης [human in the loop] θα αποτρέψει τις απώλειες αμάχων ή τα πλήγματα από φίλια πυρά», ανέφερε άλλη πηγή.