Ο Τζόναθαν Παζό (Jonathan Pageau) έκλεισε τη 2η Ημέρα του ARC 2026 με μια κεντρική ομιλία που άφησε ολόκληρη την αίθουσα άφωνη. Ανάμεσα στις πολλές φωνές γύρω από την παγκόσμια συζήτηση για την Τεχνητή Νοημοσύνη (AI), ο Παζό έθεσε ένα απλό ερώτημα που μας έκανε να σταματήσουμε απότομα: «Ποιον υπηρετεί;»

Αυτή είναι η ομιλία του:

Λατρεύω τις παλιές ιστορίες. Μερικές φορές μας λένε ότι οι παλιές ιστορίες έχουν λίγα να προσφέρουν στην εύρεση λύσεων για τις προκλήσεις που αντιμετωπίζουμε σήμερα, επειδή τα προβλήματά μας είναι εντελώς πρωτόγνωρα. Αυτό, πιστεύω, είναι μη σοφό.

Είναι αλήθεια ότι στον Μεσαίωνα δεν είχαν το Claude ή το ChatGPT, αλλά ο θρύλος λέει ότι ο Αλβέρτος ο Μέγας δημιούργησε μια χάλκινη κεφαλή που μπορούσε να απαντήσει σε οποιαδήποτε ερώτηση. Η ιστορία λέει ότι ο μαθητής του —κάποιος Θωμάς Ακινάτης, τον οποίο ίσως έχετε ακούσει— εκνευρίστηκε τόσο πολύ με το συνεχές μπλα-μπλα της κεφαλής που την έκανε κομμάτια. Αυτή είναι η πρώτη γνωστή αντίδραση στη σαβούρα της Τεχνητής Νοημοσύνης (AI slop) στην ανθρώπινη ιστορία.

Η αρχαία σοφία συχνά περιέχει χρυσό τόσο αγνό, που η λάμψη του μπορεί να φωτίσει καταστάσεις που ούτε οι αρχαίοι δεν θα μπορούσαν να φανταστούν. Θέλω, λοιπόν, να σας πω μια ιστορία. Είναι μια πολύ σημαντική ιστορία, ειδικά καθώς βρισκόμαστε εδώ, στη Μεγάλη Βρετανία.

Πριν από πολύ καιρό, στο Κάστρο του Δισκοπότηρου —όπου τόσο το Άγιο Δισκοπότηρο όσο και η Αγία Λόγχη του Λογγίνου φυλάσσονταν σε ένα παρεκκλήσι— μπήκε ένας ιππότης ονόματι Μπέιλιν (Balin). Έγινε δεκτός με φιλοξενία, αλλά βρισκόταν εκεί κρυφά για να σκοτώσει έναν από τους καλεσμένους, προδίδοντας έτσι τον αρχαίο κώδικα που κρατά τη γη ενωμένη για χιλιετίες.

Μετά τον φόνο, ο Μπέιλιν καταδιώχθηκε στους διαδρόμους του κάστρου μέχρι που βρέθηκε παγιδευμένος στο Παρεκκλήσι του Δισκοπότηρου. Βλέποντας τη λόγχη που είχε τρυπήσει τα πλευρά του Χριστού και το κύπελλο που είχε δεχτεί το αίμα Του, ήταν πολύ τυφλωμένος από την οργή του για να διακρίνει τον βαθύτερο σκοπό αυτών των αντικειμένων. Ο Μπέιλιν άρπαξε τη λόγχη και κατάφερε ένα καταστροφικό πλήγμα στη βουβωνική χώρα του Βασιλιά του Δισκοπότηρου, καθιστώντας τον βασιλιά ανίκανο και μετατρέποντας ολόκληρο το βασίλειο σε μια ρημαγμένη γη.

Οριακές Περιπτώσεις της Τεχνολογίας

Συχνά σκεφτόμαστε το Άγιο Δισκοπότηρο και την Αγία Λόγχη ως καθαρά μυστικιστικά αντικείμενα, αλλά στην πραγματικότητα αποτελούν βαθιά παραδείγματα τεχνολογίας:

• Το Κύπελλο του Δισκοπότηρου ήταν ένα σκεύος που γέμιζε συνεχώς με όποιο φαγητό και ποτό επιθυμούσε κανείς. Ήταν η απόλυτη γεννήτρια αφθονίας.

• Η Λόγχη ήταν ένα όπλο σχεδιασμένο να καταφέρει το απόλυτο πλήγμα, ικανό να τρυπήσει τον ίδιο τον Θεάνθρωπο.

Αυτά τα δύο αντικείμενα αντιπροσωπεύουν τις οριακές περιπτώσεις της τεχνολογίας — τους απόλυτους ορίζοντες προς τους οποίους κλίνει κάθε ανθρώπινη εφεύρεση. Η μία πλευρά κινείται προς τα μέσα, προς τη δημιουργία απεριόριστης αφθονίας, ενώ η άλλη κινείται προς τα έξω, προς τις μάχες που απαιτούνται για την απόκτηση ή την προστασία αυτής της αφθονίας. Από την αυγή του χρόνου, αυτοί ήταν οι δύο κύριοι σκοποί της τεχνολογίας. Το ίδιο ακριβώς κομμάτι ακονισμένου πυριτόλιθου μπορούσε να καλλιεργήσει το έδαφος ή μπορούσε να σκοτώσει έναν εχθρό.

Το Ερώτημα του Δισκοπότηρου

Μετά την τραγωδία στο παρεκκλήσι, το Άγιο Δισκοπότηρο χάθηκε και οι ιππότες του βασιλιά Αρθούρου ξεκίνησαν μια θρυλική αναζήτηση για να το βρουν. Συνήθως εστιάζουμε στο φυσικό ταξίδι, αλλά συχνά ξεχνάμε το πιο κρίσιμο μέρος του μύθου: ο ιππότης που βρίσκει τελικά το Άγιο Δισκοπότηρο πρέπει να κάνει μια συγκεκριμένη ερώτηση.

«Ποιον υπηρετεί το Δισκοπότηρο;»

Η ερώτηση είναι πολύ πιο σημαντική από την εύρεση. Η ερώτηση, και η τελική της απάντηση, είναι το μόνο πράγμα που μπορεί να θεραπεύσει τη ρημαγμένη γη. Αυτό ακριβώς το ερώτημα ξέχασε να θέσει ο Μπέιλιν όταν άρπαξε τη λόγχη στην απελπισμένη του επιθυμία για εξουσία. Ξέχασε να ρωτήσει: Ποιον υπηρετούν το Δισκοπότηρο και η λόγχη;

Σήμερα, ο κόσμος μας γιορτάζει όσους βρίσκουν το επόμενο μεγάλο τεχνολογικό θαύμα — το νεότερο, ταχύτερο, ισχυρότερο πράγμα. Αυτές οι ανακαλύψεις μάς κάνουν ασύλληπτα πιο ισχυρούς, πιο αποτελεσματικούς στη δημιουργία αφθονίας και πιο θανατηφόρους στην εξόντωση των εχθρών μας. Γιορτάζουμε όσους βρίσκουν το Δισκοπότηρο, αλλά ποιος αναρωτιέται σήμερα το ερώτημα του Δισκοπότηρου;

Η Υποκρισία της Σύγχρονης Ρημαγμένης Γης

Υπάρχουν λίγοι που το ρωτούν. Όταν ο Ρος Ντάουθατ (Ross Douthat) ρώτησε τον Ντάριο Αμοντέι (Dario Amodei), τον διευθύνοντα σύμβουλο της Anthropic, γιατί ονόμασε το ελπιδοφόρο τεχνολογικό του δοκίμιο Machines of Loving Grace (Μηχανές Στοργικής Χάριτος) από ένα ποίημα στο οποίο οι άνθρωποι χάνουν την κυριαρχία τους και γίνονται σαν ζώα που εξουσιάζονται από μηχανές, ο Ρος έθετε το ερώτημα του Δισκοπότηρου. Όταν ο Τζόναθαν Χάιντ (Jonathan Haidt) έγραψε το The Anxious Generation (Η Αγχώδης Γενιά), καταγράφοντας τον εθισμό των παιδιών μας στις οθόνες και τις καταστροφικές του επιπτώσεις στην ψυχική τους υγεία, έθετε το ερώτημα του Δισκοπότηρου.

Το πραγματικά παράδοξο, ωστόσο, είναι ότι οι άνθρωποι που αναπτύσσουν αυτές τις νέες τεχνολογίες είναι συχνά τα ίδια ακριβώς άτομα που μας λένε ότι οι εφευρέσεις τους θα μπορούσαν εξίσου εύκολα να επιφέρουν έναν πολιτισμικό όλεθρο. Μας προειδοποιούν για το πώς θα μπορούσε να μας σκοτώσει όλους, την ίδια στιγμή που τα δικά τους χέρια απλώνονται για να αρπάξουν τη λόγχη. Πώς γίνεται ο Ίλον Μασκ (Elon Musk) να προειδοποιεί ότι η Τεχνητή Νοημοσύνη είναι πιο επικίνδυνη από τα πυρηνικά όπλα, να εκλιπαρεί τον κόσμο να πατήσει μια παύση στην ανάπτυξή της, και αμέσως μετά να κάνει στροφή για να ιδρύσει τη δική του εταιρεία AI;

Δεν είστε όλοι ανυπόμονοι να ρωτήσετε ποιον υπηρετεί η Palantir; Ποιον υπηρετεί; Δεν είμαστε ανόητοι. Γνωρίζουμε ότι στη μυθολογία από την οποία πάρθηκε το όνομα —τον Άρχοντα των Δαχτυλιδιών— αυτή η τεχνολογία τελικά κατέληξε να υπηρετεί μόνο τον Σκοτεινό Άρχοντα, τον Σάουρον. Όταν οι ολιγάρχες της τεχνολογίας χτίζουν αθόρυβα καταφύγια επιβίωσης σε απομακρυσμένα νησιά και προετοιμάζονται για τη μέρα της κρίσης, θα έπρεπε όλοι μας να ουρλιάζουμε: «Ποιον υπηρετεί αυτό; Για ποιον είναι;»

Η Παγίδα του Μολώχ

Έχει γίνει πολλή συζήτηση την τελευταία δεκαετία για τις παιγνιοθεωρητικές παγίδες κλιμάκωσης. Πρόκειται για συστήματα όπου, για λόγους καθαρού ανταγωνισμού, πρέπει να εφαρμοστούν ορισμένες επικίνδυνες τεχνολογίες. Δεν τις εφαρμόζουμε απλώς· κάνουμε αγώνα δρόμου για να τις αναπτύξουμε από τον απόλυτο φόβο μήπως χάσουμε στον ανταγωνισμό.

Αυτό ίσχυε απόλυτα για την κούρσα των πυρηνικών εξοπλισμών, και είναι αυτό που πολλοί τώρα αποκαλούν παγίδα του Μολώχ (Moloch trap). Ξαφνικά, βρισκόμαστε και πάλι πίσω στις αρχαίες ιστορίες — ιστορίες πολύ παλαιότερες από τον μύθο του Δισκοπότηρου.

Ο Μολώχ είναι μια αρχαία θεότητα των Χαναναίων που απαιτούσε από τους ανθρώπους να θυσιάζουν τα ίδια τους τα παιδιά με αντάλλαγμα την εξουσία. Στη σύγχρονη θεωρία παιγνίων, μια παγίδα του Μολώχ συμβαίνει όταν η πίεση για διατήρηση της ισχύος μέσω ενός ανελέητου ανταγωνισμού μάς αναγκάζει να θυσιάσουμε ό,τι πιο πολύτιμο έχουμε, ακόμη και όταν αυτό είναι ρητά αντίθετο με τα μακροπρόθεσμα συμφέροντά μας.

Από τον φόβο μήπως η Κίνα μάς προλάβει στην εφαρμογή της τεχνητής νοημοσύνης, θυσιάζουμε οικειοθελώς εκατομμύρια θέσεις εργασίας, το νερό μας, τα ενεργειακά μας δίκτυα και το μυαλό των παιδιών μας. Στην πραγματικότητα, θυσιάζουμε ενεργά την ίδια μας την ικανότητα να διακρίνουμε το αληθινό από το ψεύτικο, απλώς και μόνο για να κερδίσουμε τον ανταγωνισμό.

Οι περισσότεροι θεωρητικοί των παιγνίων δεν πιστεύουν ότι ο Μολώχ διαθέτει κάποιου είδους ανεξάρτητη, υπερφυσική ύπαρξη· τον βλέπουν απλώς ως έναν μαθηματικό μηχανισμό. Αλλά ακόμα και οι θεωρητικοί των παιγνίων μπορούν να κοιτάξουν τα δεδομένα και να δουν ότι ο Μολώχ κινείται. Κάτι θέλει. Και καθώς ανταγωνιζόμαστε τυφλά ο ένας τον άλλον, γινόμαστε οικειοθελώς τα πόδια του. Γινόμαστε τα χέρια του.

Το Αντίστροφο Εργαλείο: Υπηρετώντας τη Μηχανή