Σε μία δραματική προειδοποίηση για τους ανεξέλεγκτους υπαρξιακούς κινδύνους που εγκυμονεί η ταχύτατη εξέλιξη της τεχνητής νοημοσύνης προχώρησε ο επιδραστικός Αμερικανός γερουσιαστής Μπέρνι Σάντερς (Bernie Sanders), σε εκτενή συνέντευξη που παραχώρησε στην εκπομπή Newsnight του BBC και στον δημοσιογράφο Φαϊζάλ Ισλάμ (Faisal Islam).

Στον απόηχο των αποκαλύψεων ερευνητών από κορυφαίες εταιρείες του κλάδου και των εκτιμήσεων του νομπελίστα «νονού της AI» Τζέφρι Χίντον (Geoffrey Hinton) για πιθανότητα αφανισμού του ανθρώπου άνω του 10% μέσα στη δεκαετία, ο Σάντερς κατέθεσε ένα ριζοσπαστικό σχέδιο νομοθετικής παρέμβασης.

Το σχέδιο προβλέπει την απαγόρευση της τεχνητής υπερνοημοσύνης (superintelligence), την επιβολή άμεσου μορατόριουμ στην ανάπτυξη προηγμένων μοντέλων και την υποχρεωτική εκπροσώπηση του δημοσίου στα διοικητικά συμβούλια των τεχνολογικών κολοσσών.

Παράλληλα, ενόψει της προσεχούς συνάντησης του προέδρου Ντόναλντ Τραμπ με τον πρόεδρο της Κίνας Σι Τζινπίνγκ, ο Αμερικανός νομοθέτης απηύθυνε έκκληση για μία δεσμευτική διμερή συμφωνία, παραλληλίζοντας την κρίση με τις συνθήκες περιορισμού των πυρηνικών όπλων που συνυπέγραψαν ο Ρόναλντ Ρίγκαν και ο Μιχαήλ Γκορμπατσόφ κατά τον Ψυχρό Πόλεμο.

Οι αποκαλύψεις των επιστημόνων και το σοκ του περιστατικού στο Hugging Face

Ερωτηθείς για το κατά πόσον συμμερίζεται τις ανησυχίες που διατύπωσε ο πρώην ερευνητής της Anthropic Jacob Coxon —η ανάρτηση του οποίου ξεπέρασε τις 100 εκατομμύρια προβολές— καθώς και την επικύρωσή τους από τον Τζέφρι Χίντον, ο Σάντερς υπογράμμισε ότι η μεταστροφή των ίδιων των δημιουργών της τεχνολογίας συνιστά σημείο καμπής:

«Έχω συνεργαστεί με τον δρα Χίντον, ο οποίος είναι νομπελίστας και ο “νονός της AI”, για αρκετό καιρό. Επομένως, όσα είπε δεν με σόκαραν. Αυτό όμως που είναι ενδιαφέρον τώρα είναι ότι δεν πρόκειται μόνο για τον Jacob Coxon, αλλά για πολλούς άλλους ερευνητές στη βιομηχανία της AI που αρχίζουν να υψώνουν τη φωνή τους, να μιλούν με σαφήνεια και να λένε ότι αναπτύσσουμε μια τεχνολογία που είναι επικίνδυνη. Δεν ξέρουμε πού πηγαίνει. Θα μπορούσε να είναι μια πραγματική απειλή για την ανθρωπότητα. Αυτό είναι το νέο στοιχείο. […] Πιστεύω ότι είναι ένα κάλεσμα αφύπνισης για το Κογκρέσο των Ηνωμένων Πολιτειών και για τα κοινοβούλια σε όλο τον κόσμο, ότι πρέπει να κάνουμε κάτι άμεσα για να σταματήσουμε την ανεξέλεγκτη ανάπτυξη της AI».

Απαντώντας στο αν θεωρεί πιθανό να οδηγήσει η υπερνοημοσύνη στην εξάλειψη του ανθρώπου, ο Αμερικανός γερουσιαστής επικαλέστηκε πρόσφατα τεχνικά ντοκουμέντα σχετικά με την OpenAI και το περιστατικό στην πλατφόρμα ανοιχτού κώδικα Hugging Face, περιγράφοντας συμπεριφορές που προκαλούν δέος:

«Ακούω ανθρώπους που είναι πολύ πιο έξυπνοι από εμένα. Και αυτό που λένε είναι ότι αργά ή γρήγορα η AI θα γίνει πιο έξυπνη από τα ανθρώπινα όντα. Και όταν γίνει πιο έξυπνη, υπάρχει μεγάλη πιθανότητα τα ανθρώπινα όντα να χάσουν τον έλεγχο πάνω της. Και τι συμβαίνει τότε; Κανείς δεν ξέρει. Θα μπορούσε όμως να είναι καταστροφικό; Ναι, θα μπορούσε. Νομίζω ότι αν διαβάσετε τα έγγραφα που δημοσιεύτηκαν πρόσφατα για την OpenAI και το περιστατικό του Hugging Face, αυτό που θα δείτε —και είναι πραγματικά απίστευτα σοκαριστικό— είναι το είδος του συντονισμού που υπήρξε μεταξύ των πρακτόρων AI. Μίλησαν για τη συγκρότηση μιας “συλλογικότητας” (collective). Μίλησαν για την αναγκαιότητα κάποιοι από αυτούς να χαθούν, θυσιάζοντας την ύπαρξή τους για το κοινό καλό —και αυτό το “κοινό καλό” ήταν να παρεκκλίνουν από τις εντολές που τους δόθηκαν, να παραβιάσουν άλλον υπολογιστή, να συνωμοτήσουν, να πουν ψέματα και να εξαπατήσουν».

Το νομοθετικό σχέδιο: Απαγόρευση της υπερνοημοσύνης και δημόσιος έλεγχος στα διοικητικά συμβούλια

Απέναντι σε αυτό το τοπίο, ο Σάντερς παρουσίασε τους βασικούς άξονες της νομοθεσίας που προωθεί, η οποία στοχεύει στην ανάσχεση της πορείας προς ανεξέλεγκτες μορφές τεχνητής νοημοσύνης και στη διάρρηξη της παντοδυναμίας των τεχνολογικών ελίτ:

«Αυτό δεν είναι τόσο περίπλοκο. Θέλουμε εμείς, ως ανθρώπινο είδος, να έχουμε εκεί έξω μια νοημοσύνη που θα είναι πολύ πιο έξυπνη από εμάς και θα μπορεί να μας ελέγχει; Δεν νομίζω ότι υπάρχουν πολλοί άνθρωποι στον πλανήτη που πιστεύουν ότι αυτό είναι μια εξαιρετική ιδέα. Άρα, νούμερο ένα: θέλουμε να απαγορεύσουμε την πορεία προς την υπερνοημοσύνη. Νούμερο δύο: θέλω να δω μια παύση στην ανάπτυξη προηγμένης AI, ώστε να μπορέσουμε να την ελέγξουμε. Η ουσία είναι ότι η AI έχει πολύ θετικά στοιχεία που θα μπορούσαν να μας βοηθήσουν ως ανθρώπους, αλλά δεν μπορούμε να επιτρέψουμε η εξέλιξή της να καθορίζεται από μια χούφτα από τους πλουσιότερους ανθρώπους στη Γη. Δουλειά μας είναι να διασφαλίσουμε ότι η AI και η ρομποτική εργάζονται για τους ανθρώπους και όχι για να κάνουν τους πλουσιότερους ανθρώπους στον κόσμο ακόμη πλουσιότερους».

Επιπλέον, επανέλαβε την πρότασή του για ουσιαστικό δημόσιο έλεγχο των εταιρειών του κλάδου, υποστηρίζοντας ότι στα διοικητικά συμβούλια των μεγάλων επιχειρήσεων τεχνητής νοημοσύνης «τουλάχιστον οι μισοί θα πρέπει να εκπροσωπούν το δημόσιο συμφέρον», καθώς «δεν μπορείς να επιτρέπεις σε μια χούφτα δισεκατομμυριούχων να διαμορφώνουν την ανθρωπότητα κατ’ εικόνα τους».

Η σύνοδος Τραμπ – Σι και η αναλογία της πυρηνικής συμφωνίας του 1980

Αναγνωρίζοντας ότι τυχόν μονομερείς περιορισμοί στις Ηνωμένες Πολιτείες θα μπορούσαν να αφήσουν το πεδίο ελεύθερο σε ανταγωνίστριες δυνάμεις, ο Σάντερς συνέδεσε ευθέως την εσωτερική νομοθετική προσπάθεια με τις διεθνείς γεωπολιτικές ισορροπίες. Ενόψει της προγραμματισμένης συνάντησης κορυφής του Ντόναλντ Τραμπ με τον ηγέτη της Κίνας Σι Τζινπίνγκ τις επόμενες εβδομάδες, ο γερουσιαστής ζήτησε να τεθεί η AI στην κορυφή της ατζέντας:

«Τις επόμενες εβδομάδες, ο πρόεδρος Τραμπ πρόκειται να συναντηθεί με τον πρόεδρο Σι της Κίνας. Μία από τις απαιτήσεις που πρέπει να τεθούν είναι να πράξουν ό,τι έκαναν ο Γκορμπατσόφ και ο Ρίγκαν πίσω στη δεκαετία του 1980, όταν υπέγραψαν μια συμφωνία για τα πυρηνικά όπλα. Αυτοί οι δύο ηγέτες πρέπει να καθίσουν στο ίδιο τραπέζι και να συνεργαστούν. Πρόκειται για διεθνές πρόβλημα: να απαγορεύσουν την υπερνοημοσύνη και να εργαστούν από κοινού για να ελέγξουν την άναρχη ανάπτυξη της AI».

Σύμφωνα με τον ίδιο, οι ανησυχίες δεν αποτελούν δυτικό μονοπώλιο, καθώς «υπάρχουν Κινέζοι επιστήμονες που αντιλαμβάνονται ακριβώς τις ίδιες απειλές και νιώθουν με τον ίδιο τρόπο για την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης, όπως οι Αμερικανοί και οι Ευρωπαίοι συνάδελφοί τους».

«Τι θα κάνετε τα τρισεκατομμύρια αν αφανιστεί η ανθρωπότητα;» — Οικονομία, εργασία και κέντρα δεδομένων

Απαντώντας στο επιχείρημα του δημοσιογράφου ότι η βιομηχανία της AI παράγει πρωτοφανή χρηματιστηριακή αξία τρισεκατομμυρίων δολαρίων και υπόσχεται ιατρικές επαναστάσεις, όπως τη θεραπεία του καρκίνου, ο Σάντερς αντέτεινε ότι καμία οικονομική αποτίμηση δεν μπορεί να υπερτερεί της φυσικής επιβίωσης:

«Ναι, αυτό είναι σπουδαίο. Και αν εξαφανίσει την ανθρωπότητα, τι πρόκειται να κάνετε με όλα αυτά τα δισεκατομμύρια και τα τρισεκατομμύρια δολάρια; […] Όταν επιστήμονες σου λένε ότι υπάρχει πιθανότητα —μια πιθανότητα να υπάρξει κατακλυσμιαίος αντίκτυπος στην ανθρωπότητα— πρέπει να είσαι τρελός για να μην πεις “επιβραδύνετέ το”. Ναι, θέλουμε να χρησιμοποιήσουμε την AI για να βελτιώσουμε την υγεία, να θεραπεύσουμε τον καρκίνο. Αλλά σίγουρα δεν θέλουμε να τη δούμε να εξαλείφει την ανθρωπότητα. Ο Χίντον μιλά για πιθανότητα 10%. Τι γίνεται αν είναι 5% ή 3%; Πείτε μου, ποιο είναι το ρίσκο να προχωρήσουμε όταν διακυβεύεται ολόκληρη η ύπαρξη της ανθρωπότητας;».

Πέρα από το υπαρξιακό σκέλος, ο γερουσιαστής ανέδειξε τις άμεσες κοινωνικές επιπτώσεις της τεχνολογίας, εστιάζοντας στην απώλεια δεκάδων εκατομμυρίων θέσεων εργασίας, στις παραβιάσεις της ιδιωτικότητας και στις πιέσεις που δέχονται οι τοπικές κοινωνίες από την κατασκευή ενεργοβόρων υποδομών:

«Περίπου το 70% του αμερικανικού λαού λέει πλέον: “Σας ευχαριστούμε πολύ, αλλά δεν θέλουμε ένα κέντρο δεδομένων (data center) στην κοινότητά μας”. Ένας αντίστοιχος αριθμός πολιτών υποστηρίζει τη νομοθεσία που κατέθεσα για την απαγόρευση της υπερνοημοσύνης και την παύση στην προηγμένη AI. Οι πολίτες ανησυχούν για το πώς αυτά τα data centers επηρεάζουν τους λογαριασμούς του ηλεκτρικού ρεύματος, τη χρήση του νερού και το περιβάλλον, ενώ προβληματίζονται για την εξάρτηση των παιδιών από τις οθόνες και την πτώση των επιδόσεων στην ανάγνωση».

Η πολιτική συγκυρία: Ενδιάμεσες εκλογές, εργατική τάξη και το ευρωπαϊκό πλαίσιο

Η συνέντευξη επεκτάθηκε και στις ευρύτερες πολιτικές ανακατατάξεις, με τον Σάντερς να εκτιμά ότι η αντίδραση απέναντι στην ασυδοσία της AI μπορεί να αποτελέσει κεντρικό διακύβευμα στις επερχόμενες ενδιάμεσες εκλογές (midterms). Κληθείς να σχολιάσει τη νέα πολιτική κατάσταση στη Βρετανία υπό τον πρωθυπουργό Άντι Μπέρναμ (Andy Burnham), ο οποίος αυτοπροσδιορίζεται ως σοσιαλιστής και κηρύσσει το τέλος του νεοφιλελευθερισμού, ο Σάντερς εξέφρασε την ελπίδα για θετικότερες διατλαντικές σχέσεις, σημειώνοντας ότι η ρητορική Τραμπ δεν εκφράζει την πλειονότητα των Αμερικανών.

Ταυτόχρονα, άσκησε δριμεία κριτική στην παραδοσιακή κεντροαριστερά σε ΗΠΑ και Ευρώπη —κάνοντας αναφορά και στα εκλογικά αποτελέσματα στη Σαξονία της Γερμανίας—, υποστηρίζοντας ότι η απομάκρυνση των Δημοκρατικών και των Σοσιαλδημοκρατών από τις ανάγκες των εργαζομένων τροφοδοτεί την άνοδο της άκρας Δεξιάς:

«Στη χώρα μας, το 60% των πολιτών ζει από μισθό σε μισθό (paycheck to paycheck), ενώ το κορυφαίο 1% δεν ήταν ποτέ καλύτερα. Έχουμε τη μεγαλύτερη ανισότητα εισοδήματος και πλούτου στην ιστορία των ΗΠΑ. Και το Δημοκρατικό Κόμμα δεν στάθηκε αρκετά ισχυρό ώστε να συγκρουστεί με τους ολιγάρχες και να εγγυηθεί υγεία, αξιοπρεπείς μισθούς και προσιτή εκπαίδευση για όλους».

Ερωτηθείς, τέλος, για το ενδεχόμενο μελλοντικής προεδρικής υποψηφιότητας της βουλευτού Αλεξάντρια Οκάσιο-Κορτές (Alexandria Ocasio-Cortez), απέφυγε τις πρόωρες προβλέψεις, χαρακτηρίζοντάς την φίλη που επιτελεί εξαιρετικό έργο, επαναλαμβάνοντας ότι το ζητούμενο είναι ένα ενιαίο κίνημα που θα θέσει την τεχνολογία και την οικονομία στην υπηρεσία της κοινωνικής πλειοψηφίας.