Του Johnny Thompson *
Η δυσπιστία μας προς τους πολιτικούς αυξάνεται συνεχώς και χάνουμε την εμπιστοσύνη μας στο έργο τους. Κάτι πρέπει να αλλάξει στην πολιτική. Μια πρόταση είναι η εισαγωγή μιας «αλγοκρατίας», όπου βασικές κυβερνητικές αποφάσεις καθοδηγούνται ή ακόμα και εφαρμόζονται από έναν αλγόριθμο. Παρότι η ιδέα έχει τουλάχιστον αρκετά σοβαρά προβλήματα, ίσως η αλγοκρατία να είναι αναπόφευκτη.
Τη δεκαετία του 1960, το 77% των Αμερικανών εμπιστευόταν την κυβέρνηση να κάνει το σωστό τις περισσότερες φορές. Σήμερα, το ποσοστό αυτό είναι 20%. Μέσα σε μία γενιά, η εμπιστοσύνη και ο σεβασμός προς τους πολιτικούς έχει καταβαραθρωθεί. Ιρονικά, σε μια εποχή έντονου θυμού και κομματικής λάσπης, Ρεπουμπλικανοί και Δημοκρατικοί συμφωνούν ότι η κυβέρνηση κάνει πολύ λίγα για να βοηθήσει «ανθρώπους σαν εσένα». Μπορεί να διαφωνούμε σε πολλά, αλλά μας ενώνει η δυσπιστία μας προς την Εξουσία.
Είναι προφανές πως κάτι δεν λειτουργεί στην πολιτική. Ζούμε σε μια εποχή πυραύλων, νανορομπότ και CRISPR. Το μέλλον της επιστημονικής φαντασίας είναι ήδη εδώ. Κι όμως, οι πολιτικοί μας θεσμοί αγκομαχούν να συμβαδίσουν. Χρησιμοποιούμε συστήματα αιώνων σε έναν σύγχρονο, μεταβαλλόμενο κόσμο. Είναι σαν να έχεις έναν υπολογιστή των 2.000 δολαρίων και να τρέχεις DOS και να παίζεις Pong. Σίγουρα μπορούμε καλύτερα.
Αλγοκρατία
Πώς θα μπορούσαμε να αξιοποιήσουμε τη σύγχρονη τεχνολογία για να βελτιώσουμε την πολιτική; Αυτό που πολλοί δεν κατανοούν είναι ότι μεγάλο μέρος της πολιτικής είναι… βαρετό. Περιλαμβάνει εγγραφές γης, δρομολόγια μεταφορών, νομικές λεπτομέρειες και επεξεργασία πολύπλοκων πινάκων. Πέρα από τις εκλογές και τις τηλεοπτικές ομιλίες, μεγάλο μέρος της διακυβέρνησης είναι καθαρά λογιστικό. Και αν υπάρχει κάτι που οι υπολογιστές κάνουν πολύ καλά, είναι το βαρετό και το λογιστικό.
Ο όρος «αλγοκρατία» έχει αρχίσει να εμφανίζεται σε κάποιες σχολές πολιτικής φιλοσοφίας. Σημαίνει τη χρήση υπολογιστικών αλγορίθμων και τεχνολογιών blockchain για να αναλάβουν μέρος (ή και όλο) του βάρους της διακυβέρνησης. Πρόκειται για διακυβέρνηση μέσω τεχνολογίας. Μία μελέτη της Deloitte εκτιμά ότι, με συντηρητικούς υπολογισμούς, «η αυτοματοποίηση θα μπορούσε να εξοικονομήσει 96,7 εκατομμύρια ώρες ομοσπονδιακής εργασίας ετησίως, με πιθανή εξοικονόμηση 3,3 δισ. δολαρίων». Χρήματα που θα μπορούσαν να επενδυθούν σε κατοικίες, σχολεία ή τη δημόσια υγεία.
Η ιδέα είναι ότι μια αλγοκρατία θα μπορούσε να χρησιμοποιεί δεδομένα από τα smartphones ή τους υπολογιστές των πολιτών για να λαμβάνει έξυπνες — και πολύ γρήγορες — κυβερνητικές αποφάσεις. Συχνά παραπονιόμαστε ότι οι πολιτικοί είναι «εκτός πραγματικότητας». Όμως, με μια αλγοκρατική κυβέρνηση, θα είμαστε συνεχώς συνδεδεμένοι με τη διοίκηση — δεν πρόκειται ακριβώς για «ψηφιακή δημοκρατία», αλλά για ένα κυβερνητικό σώμα που γνωρίζει άμεσα και πλήρως τα κρίσιμα δεδομένα.
Δεν μπορεί να είναι χειρότερο απ’ αυτούς που έχουμε
Υπάρχουν έρευνες που δείχνουν ότι μια αλγοκρατία είναι πιο ορθολογική και πιο αποτελεσματική από τις «ανθρώπινες γραφειοκρατίες» — τουλάχιστον σε ορισμένα πολιτικά πλαίσια. Επιπλέον, ενδείξεις δείχνουν πως μπορεί να είναι και πιο δημοφιλής. Το 2021, μια ομάδα από την Ισπανία διαπίστωσε ότι το 51% των Ευρωπαίων ήταν υπέρ της παραχώρησης κάποιων κοινοβουλευτικών εδρών σε αλγόριθμους. Το ποσοστό ήταν υψηλότερο σε Ισπανία, Εσθονία και Ιταλία και χαμηλότερο σε Ολλανδία, Ηνωμένο Βασίλειο και Γερμανία. Αξιοσημείωτα, «Κίνα και ΗΠΑ έχουν αντίθετες απόψεις: 75% των Κινέζων υποστηρίζουν [την αντικατάσταση ηγετών από αλγόριθμους], ενώ 60% των Αμερικανών την απορρίπτουν.»
Έρευνα διαπίστωσε ότι όσο λιγότερη εμπιστοσύνη έχει κάποιος στην κυβέρνηση, τόσο πιο ευχαριστημένος είναι με την ιδέα ένας υπολογιστής να αναλάβει το έργο. Όπως το διατυπώνουν οι Spatola και MacDorman: «οι συμμετέχοντες που θεωρούσαν τους πολιτικούς ηγέτες αναξιόπιστους, τείνουν να αποδέχονται ευκολότερα τους τεχνητούς πράκτορες ως εναλλακτική λύση, επειδή τους θεωρούν πιο αξιόπιστους και λιγότερο επιρρεπείς σε ηθικά παραστρατήματα». Αν είσαι απογοητευμένος από τον αντιπρόσωπό σου, τότε πόσο χειρότερος μπορεί να είναι ένας υπολογιστής;
Αλγοριθμική μεροληψία
Όταν σκεφτόμαστε τους αλγόριθμους ή τις υπολογιστικές διαδικασίες, σκεφτόμαστε συχνά κάτι σαν αριθμομηχανή ή τύπο σε λογιστικό φύλλο: γρήγορα, αποδοτικά, χωρίς περιττά στοιχεία. Όμως, όταν έχουμε να κάνουμε με ανθρώπινα δεδομένα, τα πράγματα γίνονται πολύ πιο περίπλοκα και λιγότερο διαφανή.
Υπάρχουν τουλάχιστον τρία σοβαρά προβλήματα με την αλγοκρατία.
Πρώτον, είναι συχνά ασαφές το πώς κατασκευάζονται αυτοί οι αλγόριθμοι. Μεγάλες τεχνολογικές εταιρείες ή ιδιωτικοί φορείς είναι συνήθως υπεύθυνοι για τον προγραμματισμό τους — και συνήθως δεν είναι ιδιαίτερα διαφανείς. Στην πραγματικότητα, είναι συχνότερα απόρρητοι. Αν θέλουμε οι δημοκρατίες μας να είναι διαφανείς και ελέγξιμες, τότε μια πολιτική που τρέχει από προγραμματιστές πίσω από κλειστές πόρτες δεν το πετυχαίνει. Όπως το γράφει η Meredith Broussard στο βιβλίο της Artificial Unintelligence: «Τα προβλήματα κρύβονται μέσα στον κώδικα και τα δεδομένα, κάτι που τα καθιστά πιο δύσκολα ορατά και πιο εύκολα αγνοήσιμα».
Δεύτερον, συχνά όταν κάποιος μάθει πώς λειτουργεί ένας αλγόριθμος, δεν αργεί να ανακαλύψει πώς να τον ξεγελάσει. Μια έρευνα από το Πανεπιστήμιο του Μέριλαντ αποκάλυψε πόσο τρομακτικά εύκολο είναι να ξεγελάσεις τους αλγόριθμους στο γραφείο ευρεσιτεχνιών των ΗΠΑ — αν θέλεις η ιδέα σου να φαίνεται πρωτότυπη στην τεχνητή νοημοσύνη, αρκεί να προσθέσεις μια παύλα. Έτσι, θα μπορούσες να κατοχυρώσεις π.χ. ένα «i-Phone» ή ένα burger «Mc-Donalds».
Τρίτον, έχουμε πλέον μεγαλύτερη συνείδηση του γεγονότος ότι δεν υπάρχει αποστασιοποιημένος, αμερόληπτος αλγόριθμος. Το 2020, το Netflix παρουσίασε το ντοκιμαντέρ Coded Bias, όπου η ερευνήτρια Μέσων Joy Buolamwini έδειξε πόσο φτωχά αποδίδουν οι τεχνολογίες αναγνώρισης προσώπου όταν πρόκειται για μαύρους ανθρώπους. Το ντοκιμαντέρ αποκάλυψε πόσο εύκολα οι αλγόριθμοι ενισχύουν υπάρχουσες προκαταλήψεις με τρόπους που δεν είχαμε προβλέψει. Οι αλγόριθμοι χρησιμοποιούν δεδομένα — και υπάρχουν περισσότερα (και συγκεκριμένα είδη) δεδομένων για περιθωριοποιημένες, καταπιεσμένες ομάδες.
Αυτό λειτουργεί ως φαύλος κύκλος που διαιωνίζει το πρόβλημα. Η Virginia Eubanks, στο βιβλίο της Automating Inequality, το περιγράφει ως εξής:
«Οι περιθωριοποιημένες ομάδες εκτίθενται σε περισσότερη συλλογή δεδομένων όταν έχουν πρόσβαση σε δημόσιες παροχές, περνούν από περιοχές με αυξημένη αστυνόμευση, εισέρχονται στο σύστημα υγείας ή διασχίζουν σύνορα. Αυτά τα δεδομένα ενισχύουν την περιθωριοποίησή τους όταν χρησιμοποιούνται για να στοχοποιούνται για υποψία ή υπερβολικό έλεγχο. Οι ομάδες που θεωρούνται “ανάξιες” στοχοποιούνται από τιμωρητικές δημόσιες πολιτικές και πιο εντατική επιτήρηση — και ο κύκλος επαναλαμβάνεται. Είναι μια μορφή συλλογικής “σήμανσης”, ένας βρόχος ανατροφοδότησης αδικίας.»
Ήρθαν για να μείνουν
Ωστόσο, κανένα από αυτά τα προβλήματα δεν είναι άλυτο. Δεν αποτελούν θανάσιμο χτύπημα για την ιδέα της αλγοκρατίας. Όπως και οι συζητήσεις γύρω από την τεχνολογία γενικότερα, τα ζητήματα σχετίζονται περισσότερο με τη νηπιακή φάση και την ανωριμότητα των τεχνολογιών. Οι προκαταλήψεις μπορούν να εξομαλυνθούν και τα ελαττώματα να διορθωθούν. Οι τεχνολογικές εταιρείες μπορούν να εξαναγκαστούν να είναι πιο διαφανείς. Με τον καιρό, τα αλγοκρατικά συστήματα μπορεί να τελειοποιηθούν σε σημείο που να αποτελούν βιώσιμη εναλλακτική στους σημερινούς πολιτικούς.
Η τεχνολογία καταλαμβάνει ολοένα και περισσότερο χώρο στην κοινωνία μας. Η τεχνητή νοημοσύνη, οι αλγόριθμοι και οι υπολογιστές είναι πλέον απαραίτητο μέρος της διαδικασίας λήψης αποφάσεων των ηγετών μας. Ίσως, τελικά, να γλιστρήσουμε αβίαστα στην αλγοκρατία — χωρίς καν να το καταλάβουμε.
* Ο Jonny Thomson διδάσκει φιλοσοφία στην Οξφόρδη. Διαχειρίζεται τον δημοφιλή λογαριασμό Mini Philosophy και είναι συγγραφέας του βιβλίου «Mini Philosophy: A Small Book of Big Ideas».
