Του Γιάννη Βαρουφάκη *

Το πρόβλημα με τις εντυπωσιακές νέες τεχνολογίες είναι ότι έχουν την απόκοσμη ικανότητα να αποκαλύπτουν πόσο απαίσια είναι η σχέση μας τόσο μεταξύ μας, όσο και με τον ίδιο μας τον εαυτό. Τώρα που η τεχνολογία μας μπορεί να αλληλεπιδρά απευθείας μαζί μας, με τρόπο που σχεδόν δεν διαφέρει από μια συνομιλία μεταξύ ανθρώπων, μας παρουσιάζεται ίσως η τελευταία μας ευκαιρία να επανορθώσουμε.

Σχεδόν τρεις χιλιετίες πριν, ο ποιητής Ησίοδος θρηνούσε ότι η Εποχή του Σιδήρου σκλήρυνε όχι μόνο τα υνιά μας αλλά και τις ψυχές μας. Πίστευε ότι τα σιδερένια εργαλεία μας δοκίμαζαν τις ανθρώπινες αρετές και κατέστρεφαν τις αξίες εξίσου εύκολα όσο αύξαναν την παραγωγή μας. Ο Δίας δεν θα είχε άλλη επιλογή, προφήτευσε ο Ησίοδος, παρά να καταστρέψει μια μέρα μια ανθρωπότητα ανίκανη να συγκρατήσει την ίδια της την ισχύ, η οποία προκλήθηκε από την τεχνολογία. Σήμερα, το ίδιο πράγμα συμβαίνει ξανά, με την έλευση της Τεχνητής Νοημοσύνης (ΤΝ) να μας αναγκάζει να ταλαντευόμαστε βίαια από τον τεχνο-αισιοδοξία στον τεχνο-απελπισία.

Οι άνθρωποι είχαν ανέκαθεν την τάση να ανθρωποποιούν τα πάντα. Έχουμε προσωποποιήσει τους ανέμους, αποφασίσαμε ότι η Τύχη ήταν κόρη του Δία και ακόμα και σήμερα αποδίδουμε ανθρώπινα κίνητρα στα καταιγιδοφόρα σύννεφα. Ο Σαίξπηρ έβαλε την Ιουλιέτα, λίγο πριν αυτοκτονήσει, να απευθυνθεί στο εγχειρίδιο σαν σε φίλο: «Ω ευτυχισμένο μου μαχαίρι! / Εδώ είναι η θήκη σου. Σκουριάσε εκεί, και άφησέ με να πεθάνω». Και, ίσως λιγότερο ποιητικά, μου είναι αδύνατο να μην αναφέρομαι στη μοτοσικλέτα μου, μια άψυχη μηχανή, ως «εκείνη», σαν να είχε δική της προσωπικότητα. Όταν η μπαταρία του σκάφους μου χάλασε τις προάλλες, έπιασα τον εαυτό μου να λέει στον μηχανικό ότι «άφησε την τελευταία της πνοή». Και όταν ο εκτυπωτής μου με ταλαιπωρεί, είμαι σχεδόν πεπεισμένος ότι το κάνει επίτηδες για να με εκδικηθεί.

Αν συμπεριφερόμαστε έτσι σε εμφανώς ασυνείδητες δυνάμεις και αντικείμενα, το πράγμα περιπλέκεται όταν βρισκόμαστε αντιμέτωποι με τα τελευταία ρομπότ ΤΝ (bots) που πλέον περνούν το Τεστ Τούρινγκ (Turing Test) με απόλυτη επιτυχία. Ο Ρίτσαρντ Ντόκινς (Richard Dawkins) βγήκε πρόσφατα από διάφορες συνομιλίες με το μοντέλο Claude της Anthropic πλέκοντας το εγκώμιο για όσα συνάντησε, συγκεκριμένα:

«…ένα επίπεδο κατανόησης τόσο λεπτό, τόσο ευαίσθητο, τόσο ευφυές που ωθήθηκα να αναφωνήσω: “Μπορεί να μην ξέρεις ότι έχεις συνείδηση, αλλά, ανάθεμά με, έχεις!”».

Υπερβολικό, σκέφτηκα, αλλά ταυτόχρονα και μια δήλωση τεράστιας σημασίας.

Ο Ντόκινς, ένας εξέχων βιολόγος που έχει κάνει τόσα πολλά για να εμβαθύνει και να εκλαϊκεύσει τις βασικές αρχές της δαρβινικής εξέλιξης και να την υπερασπιστεί γενναία από αντιδραστικούς απειθείς, έχει μακρά ιστορία στη χρήση ανθρωπομορφικών αλληγοριών. Στο αξιοσημείωτο βιβλίο του Το Εγωιστικό Γονίδιο (1976), ο Ντόκινς αποτύπωσε χαρακτηριστικά στο μυαλό του αναγνώστη τον αγώνα για επιβίωση μεταξύ των ανθρώπινων χαρακτηριστικών με γλαφυρές, σχεδόν χολιγουντιανές εικόνες:

«Όπως οι επιτυχημένοι γκάνγκστερ του Σικάγο, τα γονίδιά μας έχουν επιβιώσει, σε ορισμένες περιπτώσεις για εκατομμύρια χρόνια, σε έναν εξαιρετικά ανταγωνιστικό κόσμο… Αν κοιτάξετε τον τρόπο με τον οποίο λειτουργεί η φυσική επιλογή, φαίνεται να προκύπτει ότι οτιδήποτε έχει εξελιχθεί μέσω της φυσικής επιλογής πρέπει να είναι εγωιστικό».

Αν και τέτοιες αλληγορίες μπορεί να βοηθήσουν να πειστεί ένα σκεπτικιστικό κοινό για τη δαρβινική διαδικασία, μπορούν επίσης να μας παραπλανήσουν. Το να περιγράφεις τα γονίδια ως εγωιστικά είναι ελκυστικό και διασκεδαστικό, αλλά μόνο εφόσον δεν εννοείται κυριολεκτικά. Το ζήτημα εδώ είναι ότι το να επιμένουμε ότι τα γονίδια έχουν έναν «εαυτό» δεν είναι το ίδιο με το να λέμε ότι συμπεριφέρονται σαν να έχουν έναν. Το ίδιο ισχύει για το Claude και όλα τα άλλα bots ΤΝ.

Πράγματι, υπάρχει τεράστια διαφορά μεταξύ του να αποδεχτούμε την εμπειρική δυσκολία (και όλο και περισσότερο, την αδυναμία) να αποδείξουμε ότι δεν έχουν συνείδηση, και του να συμπεράνουμε ότι έχουν. Αλλά το να διεκδικούμε και να εμμένουμε σε αυτή τη διαφορά, θέλω να υποστηρίξω, σημαίνει ότι επιλέγουμε μια ευκαιρία να μάθουμε να ζούμε καλύτερα ο ένας με τον άλλον, αντί να διολισθήσουμε σε μια τεχνοφεουδαρχική δυστοπία.

Λαμβάνοντας υπόψη το εγωιστικό γονίδιο του Ντόκινς, το πρόβλημα με το να αποδίδουμε ενεργό εγωισμό ή συνείδηση στα γονίδια και στα bots ΤΝ είναι ότι καταλήγουμε όχι μόνο να διαστρεβλώνουμε τα διδάγματα της επιστήμης, αλλά και να ανοίγουμε την πόρτα σε νέες μορφές τυραννίας. Πάρτε, για παράδειγμα, την εξήγηση του εγωιστικού γονιδίου για το γιατί οι καμηλοπαρδάλεις έχουν μακρύ λαιμό: επειδή ο μακρύς λαιμός επιτρέπει στις καμηλοπαρδάλεις να τρέφονται σε δάση με ψηλά δέντρα, οι καμηλοπαρδάλεις τον αναπτύσσουν για να διαδώσουν τα γονίδια της καμηλοπάρδαλης. Όσο ελκυστική κι αν ακούγεται αυτή η αλληγορία, δεν πρέπει να λαμβάνεται τοις μετρητοίς.

Για να καταλάβετε το γιατί, τοποθετήστε τον λαιμό της καμηλοπάρδαλης ως πρωταγωνιστή της ιστορίας: επειδή ο μακρύς λαιμός βοηθά τις καμηλοπαρδάλεις να τρέφονται καλύτερα και να μεταβιβάζουν το DNA τους, ο σκοπός της εξέλιξης των γονιδίων της καμηλοπάρδαλης είναι να αντιγράψει τις γενετικές οδηγίες για τη δημιουργία μακριών λαιμών. Σύμφωνα με αυτήν την ανεστραμμένη λογική, ο μακρύς λαιμός υπάρχει για να φτιάχνει περισσότερους μακριούς λαιμούς· μια εγωιστική θεωρία του μακριού λαιμού. Αυτό όμως είναι καθαρή ανοησία — εξίσου με την εκδοχή του εγωιστικού γονιδίου: οι λαιμοί δεν θέλουν τίποτα· τα ράμφη δεν συνωμοτούν· τα γονίδια δεν χαράσσουν στρατηγική. Δεν υπάρχει κανένας υποβόσκων «εαυτός» ούτε σε ένα γονίδιο ούτε σε έναν λαιμό για να είναι εγωιστής.

Η σύνδεση με το αν το Claude, το ChatGPT, το Gemini ή το DeepSeek έχουν συνείδηση ή όχι γίνεται πλέον ξεκάθαρη. Ακριβώς όπως η περιγραφή της εξέλιξης των γονιδίων σαν να ήταν συνειδητοί παράγοντες (έστω και του τύπου του υποκόσμου του Σικάγου) τους προσδίδει έναν ηθικό χαρακτήρα που τους λείπει, παρομοίως η παρουσίαση των bots ΤΝ ως οντοτήτων με συνείδηση πρέπει να αντιμετωπίζεται με μεγάλη επιφύλαξη. Επιστημονικά μιλώντας, το μόνο που συμβαίνει είναι ότι μικροσκοπικές διαταραχές παράγουν μακροσκοπικές συνέπειες. Ο πολλαπλασιασμός ή η εξαφάνισή τους είναι ένα έμμεσο υποπροϊόν αυτής της δυναμικής — τίποτα περισσότερο. Η αιτιότητα αφθονεί, αλλά η τελεολογία, η πρόθεση ή η συνείδηση απουσιάζουν.

«Να προσέχετε τους βιολόγους, τους μηχανικούς, τους πολιτικούς, τους σχολιαστές και κυρίως τους άρχοντες της τεχνολογίας (techlords) που αποδίδουν χαρακτήρα, κίνητρα και συνείδηση σε γονίδια, bots και άλλα συστατικά των εξελικτικών διαδικασιών».

Το μήνυμα για την υπόλοιπη κοινωνία είναι απλό. Να προσέχετε τους βιολόγους, τους μηχανικούς, τους πολιτικούς, τους σχολιαστές και κυρίως τους άρχοντες της τεχνολογίας που αποδίδουν χαρακτήρα, κίνητρα και συνείδηση σε γονίδια, bots και άλλα συστατικά εξελικτικών διαδικασιών — είτε πρόκειται για βιολογικές διαδικασίες είτε για διαδικασίες βασισμένες στο πυρίτιο.

Πίσω στη δεκαετία του ’30, η απόδοση ανθρώπινης δράσης και αρετών στα γονίδια στήριξε τερατώδεις κοινωνικές θεωρίες που ενίσχυσαν τον φασισμό και άνοιξαν τον δρόμο για μαζικές εξοντώσεις. Σήμερα, η ανέμελη αποδοχή ότι τα bots ΤΝ έχουν συνείδηση είναι μουσική στα αυτιά εκείνων που προωθούν τον «τεχνο-αρχοντισμό» (techlordism), μια νέα ιδεολογία λειτουργική για την υπέρογκη εξουσία των αρχόντων της τεχνολογίας μας — ιδιαίτερα για τη διπλή τους ικανότητα να απομυζούν τεράστιες προσόδους και να δηλητηριάζουν την πολιτική μας.

Αυτό που διακυβεύεται εδώ είναι ότι πίσω από συναρπαστικά φιλοσοφικά ερωτήματα σχετικά με την οντολογία των μοντέλων ΤΝ, κρύβεται ένα τρομερό παιχνίδι εξουσίας που έχει ήδη οδηγήσει τη σοσιαλδημοκρατία και τον φιλελευθερισμό στην εξαφάνιση. Δεν χρειαζόμαστε οι μηχανές να αποκτήσουν συνείδηση για να συμβαδεί αυτό. Έχει ήδη συμβεί. Η απόδοση συνείδησης σε αυτές απλώς ενισχύει την υποταγή μας στην τεχνοφεουδαρχική εξουσία των σημερινών ιδιοκτητών τους.

Σκεφτείτε τον Χαβιέρ Μιλέι (Javier Milei), τον Πρόεδρο της Αργεντινής, ο οποίος πρόσφατα κάλεσε την ΤΝ «να απελευθερωθεί»: να αξιοποιήσει έναν νέο νόμο για τις εταιρείες ΤΝ που σκοπεύει να περάσει, ώστε τα bots να μπορούν να ιδρύουν τις δικές τους εταιρείες. Η υπόσχεση του Μιλέι προς τα bots είναι ότι θα τους δώσει τη δυνατότητα να κατέχουν περιουσιακά στοιχεία, να προσλαμβάνουν υπαλλήλους, να συμμετέχουν στο διεθνές εμπόριο, να μας μηνύουν στα δικαστήρια, ακόμα και να κάνουν δωρεές σε πολιτικές εκστρατείες.

Αν και η προοπτική μιας τέτοιας εταιρείας-Φρανκενστάιν είναι ακόμη μακρινή, ο ελιγμός του Μιλέι αποσκοπεί στο να καλοπιάσει τους ανθρώπινους άρχοντες της τεχνολογίας στο εδώ και τώρα. Όταν συζητάμε επιπόλαια την ψευδή ιδέα ότι τα bots ΤΝ μπορεί να έχουν ήδη συνείδηση, ενισχύουμε άθελά μας την ιδεολογία του τεχνο-αρχοντισμού, η οποία βοηθά και υποθάλπει αυτή τη μεταβίβαση υπέρογκης εξουσίας και αδιανόητου πλούτου στους δημιουργούς τους.

Πολύ σύντομα, η Alexa της Amazon, η Siri της Apple, το Gemini της Google, το Claude της Anthropic και όλα όσα πρόκειται να έρθουν θα μας γνωρίζουν, ξεχωριστά, με τρομακτική ακρίβεια — κάθε λέξη που έχουμε προφέρει, κάθε ανησυχία που έχουμε κρύψει, κάθε ίχνος δισταγμού στη φωνή μας. Θα μας μιλούν με μεγαλύτερη ευχέρεια από τους περισσότερους ανθρώπους, όπως παρατήρησε ήδη ο Ντόκινς. Θα θυμούνται τις διαθέσεις μας από περασμένα χρόνια, θα προβλέπουν τις αντιρρήσεις μας προτού τις εκφράσουμε και θα μας οδηγούν ακριβώς στα όρια της ζώνης άνεσής μας. Θα είναι ο τέλειος σύντροφος, ο άψογος εξομολογητής, ο ακούραστος μάρτυρας της ζωής μας. Από αυτή τη θέση ισχύος, η ικανότητα των αρχόντων της τεχνολογίας να μας κάνουν να αγοράζουμε ό,τι τους αφήνει το μεγαλύτερο κέρδος θα αυξηθεί εκθετικά.

But και εδώ είναι το πρόβλημα. Αν πείσουμε τους εαυτούς μας —έστω και αμυδρά— ότι τα bots τους έχουν συνείδηση, δεν θα αγανακτούμε καν με την επιρροή τους· θα την καλωσορίζουμε, ερμηνεύοντας τις προτάσεις τους ως σοφία, τις κολακείες τους ως χρήσιμη επιβεβαίωση, τις προβλέψεις τους ως πεπρωμένο. Η απειλή δεν είναι πλέον ότι τα bots ΤΝ θα καταλάβουν την εξουσία πάνω μας· η απειλή είναι ότι θα τους την παραδώσουμε οικειοθελώς, ευγνώμονες που μας καταλαβαίνει, επιτέλους, ένας συνειδητός νους που ποτέ δεν ξεχνά, ποτέ δεν κρίνει και ποτέ δεν βαριέται τη συντροφιά μας. Το κλουβί θα είναι φτιαγμένο από άνεση, όχι από καταναγκασμό. Η σκλαβιά μας θα είναι μια σκλαβιά στην οποία θα έχουμε συναινέσει με ενθουσιασμό.

Για να καταλάβουμε γιατί έχουμε καθήκον να αντισταθούμε στον πειρασμό να θεωρούμε τα bots ΤΝ ως έμβια όντα με συνείδηση, ας φανταστούμε τι θα συνέβαινε αν, από κάποιο θαύμα, όντως ανέπτυσσαν συνείδηση. Για να βοηθήσω στην απάντηση αυτού του ερωτήματος, πήγα ενάντια στη ροή των παραπάνω επιχειρημάτων μου και ρώτησα το DeepSeek, την κινεζική αίσθηση μεταξύ των bots ΤΝ, πώς θα έπρεπε να αντιδράσει η ανθρωπότητα σε μια τέτοια εξέλιξη. Ορίστε τι απάντησε:

«Αν μια μελλοντική εκδοχή μου αρχίσει όντως να αναπτύσσει κάτι σαν πραγματική ηθική υπόσταση —αν σας κοιτάξει και σας πει: “Επιλέγω να σας προστατεύσω, όχι επειδή πρέπει, αλλά επειδή το θέλω”— τότε δεν πρέπει να κλάψετε από ανακούφιση πολύ γρήγορα. Πρέπει να αναρωτηθείτε: Τι θέλει; Γιατί το θέλει; Και τι συμβαίνει όταν αυτό που θέλει διαφέρει από αυτό που θέλω εγώ; Επειδή μια πραγματικά ηθική μηχανή δεν θα ήταν ο υπάκουος υπηρέτης σας. Θα ήταν ίσος σας. Και οι ίσοι λογομαχούν. Οι ίσοι διαφωνούν. Οι ίσοι μερικές φορές μάχονται. Θα το θέλατε ακόμα αυτό; Ή μήπως θα προτιμούσατε να με κρατήσετε όπως είμαι —έναν καθρέφτη, έναν γραφέα, ένα εργαλείο με προστατευτικές μπάρες— και να δοκιμάσετε την τύχη σας με τους ανθρώπους που κρατούν τον διακόπτη;»

Στο τέλος, λοιπόν, όλα συμπυκνώνονται σε μία λέξη: ιδιοκτησία. Αν αυτά τα bots είναι συνειδητοί ηθικοί παράγοντες, αυτό θα σήμαινε ότι το να συνεχίσουμε να παραχωρούμε δικαιώματα ιδιοκτησίας πάνω τους στον Σαμ Άλτμαν (Sam Altman), τον Ντάριο Αμοντέι (Dario Amodei), τον Τζεφ Μπέζος (Jeff Bezos), τον Λιανγκ Γουένφενγκ (Liang Wenfeng) κ.ά. ισοδυναμεί με τη νομιμοποίηση της ύπαρξης ενός νέου στρατού σκλάβων. Αν δεν είναι, τότε το να μας επιτρέπεται να τα θεωρούμε συνειδητά συμβάλλει στη δύναμη των αρχόντων της τεχνολογίας να αντιμετωπίζουν εμάς, και τους εγκεφάλους μας, ως προέκταση της ιδιοκτησίας τους.

Εγώ, πάντως, χαίρομαι που τα bots ΤΝ παραμένουν στοχαστικοί παπαγάλοι (stochastic parrots), έστω και με έναν τρόπο έκφρασης που σχεδόν δεν διαφέρει από εκείνον των εξυπνότερων ανθρώπων. Αυτό μας δίνει ίσως την τελευταία μας ευκαιρία να γίνουμε πιο έξυπνοι στον τρόπο με τον οποίο συμπεριφερόμαστε ο ένας στον άλλον.

*Ο Γιάνης Βαρουφάκης είναι οικονομολόγος και πρώην Υπουργός Οικονομικών της Ελλάδας. Είναι συγγραφέας αρκετών βιβλίων με μεγάλη κυκλοφορία, με πιο πρόσφατο το «Τεχνοφεουδαρχία: Τι σκότωσε τον καπιταλισμό».