Σε μια μετωπική σύγκρουση με την ηγεσία του αμερικανικού αμυντικού κατεστημένου προχώρησε η Anthropic, μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στον κόσμο, θέτοντας ηθικές και επιχειρησιακές «κόκκινες γραμμές» στη χρήση της τεχνολογίας Claude. Ο διευθύνων σύμβουλος της εταιρείας, Dario Amodei, με μια εκτενή και βαρυσήμαντη δήλωσή του, ξεκαθάρισε ότι η Anthropic αρνείται να ενδώσει στις πιέσεις του Υπουργείου Πολέμου των ΗΠΑ για την αφαίρεση δικλείδων ασφαλείας, παρά τις απειλές για οικονομικό αποκλεισμό και τον χαρακτηρισμό της ως «κίνδυνο για την εφοδιαστική αλυσίδα».
Η διαμάχη φέρνει στο προσκήνιο το θεμελιώδες δίλημμα της σύγχρονης εποχής: τη λεπτή ισορροπία ανάμεσα στην εθνική ασφάλεια και την προστασία των δημοκρατικών αξιών από την ανεξέλεγκτη ισχύ των αλγορίθμων. Η Anthropic, η οποία υπήρξε πρωτοπόρος στη διάθεση μοντέλων τεχνητής νοημοσύνης στα απόρρητα δίκτυα της αμερικανικής κυβέρνησης και στα Εθνικά Εργαστήρια, τονίζει ότι η υποστήριξή της προς τις ένοπλες δυνάμεις παραμένει ακλόνητη, αλλά όχι άνευ όρων.
Η στρατηγική συμμαχία και οι οικονομικές θυσίες
Η Anthropic δεν τοποθετείται ως ένας ουδέτερος παρατηρητής, αλλά ως ένας ενεργός υποστηρικτής της δυτικής δημοκρατίας. Σύμφωνα με τον κ. Amodei, η εταιρεία έχει εργαστεί προληπτικά για την ενίσχυση της κοινότητας των υπηρεσιών πληροφοριών, με το μοντέλο Claude να χρησιμοποιείται ήδη σε κρίσιμες αποστολές, από την ανάλυση πληροφοριών έως τις κυβερνοεπιχειρήσεις.
Η δέσμευση αυτή, ωστόσο, συνοδεύτηκε από σημαντικό οικονομικό κόστος. Η εταιρεία αποκάλυψε ότι παραιτήθηκε από έσοδα εκατοντάδων εκατομμυρίων δολαρίων προκειμένου να αποτρέψει τη χρήση της τεχνολογίας της από οντότητες που συνδέονται με το Κινεζικό Κομμουνιστικό Κόμμα. Η στάση αυτή, σε συνδυασμό με την υποστήριξη αυστηρών ελέγχων στις εξαγωγές μικροτσιπ, υπογραμμίζει την πρόθεση της Anthropic να διαφυλάξει το τεχνολογικό πλεονέκτημα των ΗΠΑ έναντι αυταρχικών αντιπάλων, ακόμη και εις βάρος των βραχυπρόθεσμων κερδών της.
Το «όχι» στη μαζική επιτήρηση και τα αυτόνομα συστήματα
Το ρήγμα με το Υπουργείο Πολέμου εντοπίζεται σε δύο συγκεκριμένους τομείς, τους οποίους η Anthropic θεωρεί ασυμβίβαστους με την αποστολή της. Ο πρώτος αφορά τη μαζική εγχώρια επιτήρηση. Η εταιρεία προειδοποιεί ότι η ισχυρή τεχνητή νοημοσύνη επιτρέπει τη σύνθεση διάσπαρτων και φαινομενικά ακίνδυνων δεδομένων σε μια πλήρη εικόνα της ζωής οποιουδήποτε πολίτη, αυτόματα και σε μαζική κλίμακα. Ο Amodei επισημαίνει ότι αν τέτοιες πρακτικές θεωρούνται σήμερα νόμιμες, αυτό οφείλεται αποκλειστικά στο γεγονός ότι η νομοθεσία δεν έχει προλάβει να ακολουθήσει την αλματώδη εξέλιξη της τεχνολογίας.
Ο δεύτερος τομέας αφορά τα πλήρως αυτόνομα όπλα. Ενώ τα μερικώς αυτόνομα συστήματα κρίνονται απαραίτητα για τη σύγχρονη άμυνα —όπως αποδεικνύεται στο πεδίο της Ουκρανίας— η Anthropic υποστηρίζει ότι τα τρέχοντα μοντέλα αιχμής δεν είναι επαρκώς αξιόπιστα για να λαμβάνουν αυτόνομα αποφάσεις ζωής και θανάτου. Η απουσία της ανθρώπινης κρίσης και των απαραίτητων δικλείδων ασφαλείας εγκυμονεί κινδύνους τόσο για τους Αμερικανούς μαχητές όσο και για τους αμάχους, μια ευθύνη που η εταιρεία αρνείται να αναλάβει.
Τελεσίγραφα και η αντίφαση του «κινδύνου εφοδιαστικής αλυσίδας»
Η αντίδραση του Υπουργείου Πολέμου υπήρξε σφοδρή. Σύμφωνα με τη δήλωση της Anthropic, το Υπουργείο απαιτεί τη συμμόρφωση με τον όρο της «οποιασδήποτε νόμιμης χρήσης», απειλώντας με αποκλεισμό της εταιρείας από τα κρατικά συστήματα. Η πλέον αμφιλεγόμενη πτυχή είναι η απειλή χαρακτηρισμού της Anthropic ως «κίνδυνο για την εφοδιαστική αλυσίδα», έναν τίτλο που ιστορικά προορίζεται για εχθρικές ξένες δυνάμεις και ποτέ έως τώρα για αμερικανική επιχείρηση.
Ο Dario Amodei υπογραμμίζει την εσωτερική αντίφαση αυτών των απειλών: από τη μία η εταιρεία χαρακτηρίζεται ασφαλιστικός κίνδυνος και από την άλλη το Υπουργείο απειλεί να επικαλεστεί τον Νόμο περί Αμυντικής Παραγωγής για να την εξαναγκάσει να παραδώσει την τεχνολογία της, αναγνωρίζοντας ουσιαστικά ότι το Claude είναι απαραίτητο για την εθνική ασφάλεια.
Ακολουθεί η μετάφραση της δήλωσης του Dario Amodei στα ελληνικά:
Δήλωση του Dario Amodei σχετικά με τις συνομιλίες μας με το Υπουργείο Πολέμου
Πιστεύω βαθύτατα στην υπαρξιακή σημασία της χρήσης της Τεχνητής Νοημοσύνης για την προάσπιση των Ηνωμένων Πολιτειών και άλλων δημοκρατιών, καθώς και για την ήττα των αυταρχικών αντιπάλων μας.
Ως εκ τούτου, η Anthropic εργάστηκε προληπτικά για τη διάθεση των μοντέλων μας στο Υπουργείο Πολέμου και την κοινότητα των υπηρεσιών πληροφοριών. Υπήρξαμε η πρώτη εταιρεία τεχνητής νοημοσύνης αιχμής που διέθεσε τα μοντέλα της στα απόρρητα δίκτυα της κυβέρνησης των ΗΠΑ, η πρώτη που τα διέθεσε στα Εθνικά Εργαστήρια και η πρώτη που παρείχε προσαρμοσμένα μοντέλα για πελάτες στον τομέα της εθνικής ασφάλειας. Το Claude χρησιμοποιείται εκτενώς σε όλο το Υπουργείο Πολέμου και σε άλλες υπηρεσίες εθνικής ασφάλειας για αποστολές κρίσιμης σημασίας, όπως η ανάλυση πληροφοριών, η μοντελοποίηση και προσομοίωση, ο επιχειρησιακός σχεδιασμός, οι κυβερνοεπιχειρήσεις και πολλά άλλα.
Η Anthropic έδρασε επίσης για να υπερασπιστεί το προβάδισμα της Αμερικής στην Τεχνητή Νοημοσύνη, ακόμη και όταν αυτό ήταν αντίθετο προς το βραχυπρόθεσμο συμφέρον της εταιρείας. Επιλέξαμε να παραιτηθούμε από έσοδα εκατοντάδων εκατομμυρίων δολαρίων προκειμένου να διακόψουμε τη χρήση του Claude από εταιρείες που συνδέονται με το Κινεζικό Κομμουνιστικό Κόμμα (ορισμένες από τις οποίες έχουν χαρακτηριστεί από το Υπουργείο Πολέμου ως Κινεζικές Στρατιωτικές Εταιρείες), σταματήσαμε κυβερνοεπιθέσεις υποστηριζόμενες από το ΚΚΚ που επιχείρησαν να καταχραστούν το Claude και υποστηρίξαμε ισχυρούς ελέγχους στις εξαγωγές τσιπ για να διασφαλίσουμε το δημοκρατικό πλεονέκτημα.
Η Anthropic κατανοεί ότι το Υπουργείο Πολέμου, και όχι οι ιδιωτικές εταιρείες, λαμβάνει τις στρατιωτικές αποφάσεις. Ποτέ δεν εγείραμε αντιρρήσεις σε συγκεκριμένες στρατιωτικές επιχειρήσεις ούτε επιχειρήσαμε να περιορίσουμε τη χρήση της τεχνολογίας μας με τρόπο ad hoc.
Ωστόσο, σε ένα περιορισμένο σύνολο περιπτώσεων, πιστεύουμε ότι η Τεχνητή Νοημοσύνη μπορεί να υπονομεύσει, αντί να υπερασπιστεί, τις δημοκρατικές αξίες. Ορισμένες χρήσεις είναι επίσης απλώς πέρα από τα όρια αυτού που η σημερινή τεχνολογία μπορεί να κάνει με ασφάλεια και αξιοπιστία. Δύο τέτοιες περιπτώσεις χρήσης δεν συμπεριλήφθηκαν ποτέ στις συμβάσεις μας με το Υπουργείο Πολέμου και πιστεύουμε ότι δεν πρέπει να συμπεριληφθούν ούτε τώρα:
-
Μαζική εγχώρια επιτήρηση. Υποστηρίζουμε τη χρήση της Τεχνητής Νοημοσύνης για νόμιμες αποστολές ξένων πληροφοριών και αντικατασκοπείας. Αλλά η χρήση αυτών των συστημάτων για μαζική εγχώρια επιτήρηση είναι ασυμβίβαστη με τις δημοκρατικές αξίες. Η μαζική επιτήρηση μέσω Τεχνητής Νοημοσύνης παρουσιάζει σοβαρούς, πρωτόγνωρους κινδύνους για τις θεμελιώδεις ελευθερίες μας. Στον βαθμό που τέτοιου είδους επιτήρηση είναι επί του παρόντος νόμιμη, αυτό συμβαίνει μόνο επειδή ο νόμος δεν έχει ακόμη προλάβει τις ραγδαία αυξανόμενες δυνατότητες της Τεχνητής Νοημοσύνης. Για παράδειγμα, βάσει της ισχύουσας νομοθεσίας, η κυβέρνηση μπορεί να αγοράσει λεπτομερή αρχεία των κινήσεων των Αμερικανών, της περιήγησής τους στο διαδίκτυο και των επαφών τους από δημόσιες πηγές χωρίς να λάβει δικαστικό ένταλμα – μια πρακτική που η κοινότητα των υπηρεσιών πληροφοριών έχει παραδεχθεί ότι εγείρει ανησυχίες για την ιδιωτικότητα και που έχει προκαλέσει διακομματική αντίθεση στο Κογκρέσο. Η ισχυρή Τεχνητή Νοημοσύνη καθιστά δυνατή τη συναρμολόγηση αυτών των διάσπαρτων, μεμονωμένα ακίνδυνων δεδομένων σε μια ολοκληρωμένη εικόνα της ζωής οποιουδήποτε ατόμου – αυτόματα και σε μαζική κλίμακα.
-
Πλήρως αυτόνομα όπλα. Τα μερικώς αυτόνομα όπλα, όπως αυτά που χρησιμοποιούνται σήμερα στην Ουκρανία, είναι ζωτικής σημασίας για την άμυνα της δημοκρατίας. Ακόμη και τα πλήρως αυτόνομα όπλα (εκείνα που απομακρύνουν εντελώς τον άνθρωπο από τη διαδικασία λήψης αποφάσεων και αυτοματοποιούν την επιλογή και την προσβολή στόχων) μπορεί να αποδειχθούν κρίσιμα για την εθνική μας άμυνα. Όμως σήμερα, τα συστήματα Τεχνητής Νοημοσύνης αιχμής απλώς δεν είναι αρκετά αξιόπιστα για να τροφοδοτήσουν πλήρως αυτόνομα όπλα. Δεν θα παράσχουμε εν γνώσει μας ένα προϊόν που θέτει σε κίνδυνο τους Αμερικανούς μαχητές και τους πολίτες. Προσφερθήκαμε να συνεργαστούμε απευθείας με το Υπουργείο Πολέμου στην έρευνα και ανάπτυξη (R&D) για τη βελτίωση της αξιοπιστίας αυτών των συστημάτων, αλλά δεν έχουν αποδεχθεί αυτή την προσφορά. Επιπλέον, χωρίς την κατάλληλη επίβλεψη, δεν μπορεί κανείς να βασιστεί στα πλήρως αυτόνομα όπλα για την άσκηση της κρίσιμης κρίσης που επιδεικνύουν καθημερινά τα άρτια εκπαιδευμένα, επαγγελματικά στρατεύματά μας. Πρέπει να αναπτύσσονται με τις κατάλληλες δικλείδες ασφαλείας, οι οποίες δεν υπάρχουν σήμερα.
Εξ όσων γνωρίζουμε, αυτές οι δύο εξαιρέσεις δεν αποτέλεσαν εμπόδιο στην επιτάχυνση της υιοθέτησης και της χρήσης των μοντέλων μας εντός των ενόπλων δυνάμεών μας μέχρι σήμερα.
Το Υπουργείο Πολέμου δήλωσε ότι θα συνάπτει συμβάσεις μόνο με εταιρείες Τεχνητής Νοημοσύνης που συναινούν σε «οποιαδήποτε νόμιμη χρήση» και αφαιρούν τις δικλείδες ασφαλείας στις περιπτώσεις που προαναφέρθηκαν. Απείλησαν να μας απομακρύνουν από τα συστήματά τους εάν διατηρήσουμε αυτές τις δικλείδες. Απείλησαν επίσης να μας χαρακτηρίσουν ως «κίνδυνο για την εφοδιαστική αλυσίδα» –ένας χαρακτηρισμός που προορίζεται για τους αντιπάλους των ΗΠΑ και δεν έχει εφαρμοστεί ποτέ ξανά σε αμερικανική εταιρεία– και να επικαλεστούν τον Νόμο περί Αμυντικής Παραγωγής (Defense Production Act) για να εξαναγκάσουν την αφαίρεση των δικλείδων ασφαλείας. Αυτές οι δύο τελευταίες απειλές είναι εγγενώς αντιφατικές: η μία μας χαρακτηρίζει κίνδυνο για την ασφάλεια, η άλλη χαρακτηρίζει το Claude ως απαραίτητο για την εθνική ασφάλεια.
Σε κάθε περίπτωση, οι απειλές αυτές δεν αλλάζουν τη θέση μας: δεν μπορούμε με καθαρή συνείδηση να συναινέσουμε στο αίτημά τους.
Αποτελεί προνόμιο του Υπουργείου να επιλέγει τους αναδόχους που είναι περισσότερο ευθυγραμμισμένοι με το όραμά του. Ωστόσο, δεδομένης της σημαντικής αξίας που παρέχει η τεχνολογία της Anthropic στις ένοπλες δυνάμεις μας, ελπίζουμε να το ξανασκεφτούν. Η ισχυρή μας προτίμηση είναι να συνεχίσουμε να υπηρετούμε το Υπουργείο και τους μαχητές μας – με τις δύο ζητούμενες δικλείδες ασφαλείας σε ισχύ. Εάν το Υπουργείο επιλέξει να διακόψει τη συνεργασία με την Anthropic, θα εργαστούμε για να επιτρέψουμε μια ομαλή μετάβαση σε άλλον πάροχο, αποφεύγοντας οποιαδήποτε διατάραξη του συνεχιζόμενου στρατιωτικού σχεδιασμού, των επιχειρήσεων ή άλλων κρίσιμων αποστολών. Τα μοντέλα μας θα είναι διαθέσιμα υπό τους διευρυμένους όρους που προτείναμε για όσο διάστημα απαιτηθεί.
Παραμένουμε έτοιμοι να συνεχίσουμε το έργο μας για την υποστήριξη της εθνικής ασφάλειας των Ηνωμένων Πολιτειών.
Δεν μπορούν όλοι να πληρώσουν. Και το σεβόμαστε.
Αν βρίσκεσαι σε δύσκολη οικονομική κατάσταση, συνέχισε να μας διαβάζεις δωρεάν. Η ενημέρωση πρέπει να παραμένει προσβάσιμη για όλους.
Αν όμως μπορείς, στήριξέ μας σήμερα. Ορίστε δύο καλοί λόγοι για να το κάνεις:
- Η στήριξή σου ενισχύει άμεσα την ποιότητα και την ανεξαρτησία της δημοσιογραφίας μας.
- Κοστίζει λιγότερο από έναν καφέ και η διαδικασία διαρκεί λιγότερο από 1 λεπτό.
Επίλεξε σήμερα να γίνεις συνδρομητής ή δωρητής.
Σας ευχαριστούμε θερμά.
