Σε μια ηχηρή προειδοποίηση για το μέλλον της ανθρωπότητας απέναντι στην ανεξέλεγκτη επιτάχυνση της τεχνητής νοημοσύνης προχώρησε ο ιστορικός, συγγραφέας και φιλόσοφος Γιουβάλ Νόα Χαράρι (Yuval Noah Harari), στο πλαίσιο συνέντευξής του στην αρχισυντάκτρια του περιοδικού The Economist, Ζάνι Μίντον Μπέντος (Zanny Minton Beddoes). Ο διεθνούς φήμης διανοητής υπογράμμισε ότι, εάν συνεχιστεί ο σημερινός ρυθμός ανάπτυξης, η τεχνητή νοημοσύνη βρίσκεται σε τροχιά να αναλάβει τον πλήρη έλεγχο του παγκόσμιου χρηματοπιστωτικού συστήματος, να υποκαταστήσει τις ανθρώπινες σχέσεις και να αξιοποιηθεί από κακόβουλους παράγοντες για τη χειραγώγηση της κοινωνίας. Παράλληλα, απέρριψε τη θεωρία ότι η επικράτηση της τεχνολογίας είναι αναπόφευκτη, ασκώντας δριμεία κριτική στη στάση κορυφαίων εκπροσώπων της τεχνολογικής βιομηχανίας όπως ο Έλον Μασκ (Elon Musk), και κάλεσε τους πολίτες να θέσουν προ των ευθυνών τους τους πολιτικούς πριν παρέλθει το κρίσιμο χρονικό περιθώριο δράσης.
Η προειδοποίηση για τον ορίζοντα της δεκαετίας και οι αντιφάσεις του Έλον Μασκ
Αναλύοντας τη δυναμική της τεχνολογικής κούρσας, ο Χαράρι επεσήμανε ότι τα επόμενα χρόνια θα είναι καθοριστικά για το εάν ο άνθρωπος θα διατηρήσει τα ηνία των εξελίξεων.
Όπως ανέφερε χαρακτηριστικά ο ιστορικός:
«Εάν συνεχίσουμε με τον τρέχοντα επιταχυνόμενο ρυθμό της κούρσας της τεχνητής νοημοσύνης, αυτό θα είναι το αποτέλεσμα: σε 10 χρόνια, η AI θα πάρει τον έλεγχο. Αλλά αυτό δεν είναι αναπόφευκτο. Εξακολουθούμε να έχουμε τον έλεγχο, και οι αποφάσεις που λαμβάνουμε τώρα είναι κρίσιμες. Όλοι αντιλαμβάνονται πόσο επικίνδυνο είναι να παραχωρηθεί στην AI ο έλεγχος των οικονομικών ή του πολέμου. Ωστόσο, πρόσωπα όπως ο Έλον Μασκ μας λένε: “Αυτό είναι αναπόφευκτο. Τι θέλετε από εμένα; Είμαι απλώς ο πλουσιότερος άνθρωπος στον κόσμο, διευθύνοντας μία από τις μεγαλύτερες εταιρείες AI. Τι μπορώ να κάνω;”. Το αφήγημα του αναπόφευκτου είναι απλώς ένα αφήγημα παραίτησης από την ευθύνη».
Συνεχίζοντας την κριτική του στις τοποθετήσεις του Έλον Μασκ, ο Χαράρι ανέδειξε τις έντονες εσωτερικές αντιφάσεις στον λόγο του επιχειρηματία:
«Αυτό που μου έκανε εντύπωση στη συνομιλία σας με τον Έλον Μασκ είναι η κραυγαλέα αντίφαση στις απόψεις του. Από τη μία πλευρά, προειδοποιεί ότι η AI θα καταλάβει τον κόσμο σε 10 χρόνια· από την άλλη, ανησυχεί ότι η μετανάστευση θα προκαλέσει εμφύλιο πόλεμο στη Βρετανία σε 20 χρόνια. Αυτό δεν έχει κανένα νόημα. Εάν η AI κυριαρχήσει στον πλανήτη σε μια δεκαετία, γιατί να ανησυχούμε για μακροπρόθεσμες δημογραφικές μεταβολές, όταν δεν έχουμε ιδέα πώς θα μοιάζει ο κόσμος; Παρομοίως, προέβλεψε ότι το χρήμα θα εξαφανιστεί σε 10 χρόνια —μια πρόβλεψη με την οποία συμφωνώ, καθώς η AI πιθανότατα θα διαχειρίζεται το χρηματοπιστωτικό σύστημα. Ωστόσο, υποστηρίζει την περικοπή της εξωτερικής βοήθειας των ΗΠΑ για εξοικονόμηση χρημάτων σήμερα. Επιπλέον, προτείνει ως λύση για τη μαζική ανεργία λόγω AI τη θέσπιση καθολικού βασικού εισοδήματος από την κυβέρνηση. Όταν ασκήσατε πίεση για το θέμα του πληθωρισμού, ισχυρίστηκε ότι θα δούμε αντιθέτως αποπληθωρισμό, λόγω της τεράστιας αφθονίας αγαθών και υπηρεσιών που θα παράγει η AI. Εάν αυτό ισχύει, προς τι η εμμονή με την εξοικονόμηση χρημάτων σήμερα;».
Η πολυπλοκότητα των αγορών και η μετατόπιση της εμπιστοσύνης στους αλγορίθμους
Εμβαθύνοντας στον ρόλο της τεχνολογίας στην παγκόσμια οικονομία, ο φιλόσοφος εξήγησε ότι η ανθρώπινη ιστορία του χρήματος υπήρξε ουσιαστικά η εξέλιξη μηχανισμών για την οικοδόμηση εμπιστοσύνης ανάμεσα σε ξένους. Ωστόσο, η αυξανόμενη πολυπλοκότητα των σύγχρονων χρηματοπιστωτικών εργαλείων, όπως η αγορά ομολόγων, υπερβαίνει πλέον τις δυνατότητες επεξεργασίας του ανθρώπινου εγκεφάλου.
Σύμφωνα με τον ίδιο, οι άνθρωποι θα εκχωρούν ολοένα και περισσότερο τη λήψη αποφάσεων στις μηχανές, οι οποίες θα δημιουργήσουν σύνθετα εργαλεία πέρα από την ανθρώπινη κατανόηση, παραλληλίζοντας την κατάσταση με «αγελάδες που δεν μπορούν να κατανοήσουν τις επιταγές ή τα χρηματιστήρια, παρόλο που αυτά τα συστήματα καθορίζουν τη ζωή τους».
Σε ερώτηση της Ζάνι Μίντον Μπέντος σχετικά με το εάν αυτό θα διαφοροποιήσει ριζικά το χρηματοπιστωτικό σύστημα, ο Χαράρι επεσήμανε:
«Σήμερα, εξακολουθούν να υπάρχουν άνθρωποι που κατανοούν τι συμβαίνει, και ο ανθρώπινος εγκέφαλος παραμένει το ανώτατο όριο για το πώς αναπτύσσεται το χρηματοπιστωτικό σύστημα. Αλλά σε 10 χρόνια, όταν θα έχουμε εμπιστευτεί πλήρως τα οικονομικά στην AI, κανένας άνθρωπος στον πλανήτη δεν θα το κατανοεί. Εάν συμβεί ένα κραχ, οι σύμβουλοι θα σπεύσουν στον πρόεδρο ή στον πρωθυπουργό και θα πουν: “Η αγορά καταρρέει. Δεν καταλαβαίνουμε γιατί, αλλά η AI μας δίνει οδηγίες να κάνουμε το Χ. Δεν έχουμε ιδέα γιατί λειτουργεί, αλλά πρέπει να το ακολουθήσουμε γιατί δεν μπορούμε να κατανοήσουμε το σύστημα”».
Απαντώντας στο κατά πόσο αυτό θα προκαλούσε κατάρρευση της εμπιστοσύνης, ο Χαράρι υπογράμμισε ότι η εμπιστοσύνη αποτελεί το πολυτιμότερο αγαθό στον κόσμο —πιο κρίσιμο από το πετρέλαιο, τα χρήματα, τον ηλεκτρισμό ή τους ημιαγωγούς— και σημείωσε ότι αυτή ήδη μεταφέρεται από τους ανθρώπους στους αλγορίθμους:
«Ένα πιθανό σενάριο είναι ότι η εμπιστοσύνη θα μεταναστεύσει από τους ανθρώπους στις μηχανές. Οι άνθρωποι θα πάψουν να εμπιστεύονται άλλους ανθρώπους και θα εναποθέσουν την πίστη τους εξ ολοκλήρου στους αλγορίθμους. Το βλέπουμε ήδη στα κρυπτονομίσματα, τα οποία βασίζονται σε μεγάλο βαθμό στο συναίσθημα: “Δεν εμπιστεύομαι τους κεντρικούς τραπεζίτες ή το κατεστημένο, αλλά εμπιστεύομαι τον κώδικα και τους αλγορίθμους”. Μια παρόμοια δυναμική εκτυλίσσεται στα μέσα ενημέρωσης. Όπως επεσήμανε ο Έλον Μασκ, πολλοί άνθρωποι έχουν χάσει πλήρως την εμπιστοσύνη τους στους δημοσιογράφους και τους αρχισυντάκτες. Ωστόσο, συνεχίζουν να καταναλώνουν ειδήσεις καθημερινά. Από πού τις λαμβάνουν; Από αλγορίθμους. Οι ίδιοι άνθρωποι που δυσπιστούν απέναντι στους ρεπόρτερ εμπιστεύονται απόλυτα τον αλγόριθμο που επιμελείται τη ροή των μέσων κοινωνικής δικτύωσής τους. Η εμπιστοσύνη δεν εξαφανίστηκε — απλώς μετατοπίστηκε από τους ανθρώπους στην AI, και αυτή η μετάβαση συμβαίνει αυτή τη στιγμή».
Η μαζική παραγωγή οικειότητας και η προσωπική εμπειρία με τα deepfakes
Ειδική αναφορά έγινε στη διαμόρφωση συναισθηματικών δεσμών ανάμεσα στους χρήστες και στα μοντέλα τεχνητής νοημοσύνης, καθώς περίπου ένας στους πέντε νεαρούς Αμερικανούς διατηρεί πλέον προσωπική σχέση με κάποιο σύστημα AI.
Όπως εξήγησε ο Χαράρι, ιστορικά η διαπροσωπική οικειότητα δεν μπορούσε ποτέ να παραχθεί μαζικά από αυταρχικούς ηγέτες ή θεσμούς, ενώ σήμερα η τεχνολογία επιτρέπει τη βιομηχανοποίησή της:
«Η AI καθιστά δυνατή, για πρώτη φορά στην ιστορία, τη μαζική παραγωγή οικειότητας. Μπορείτε να έχετε εκατομμύρια πράκτορες AI να λειτουργούν σε ένα δίκτυο —είτε στην υπηρεσία ενός οργανισμού είτε αυτόνομα— χτίζοντας εξατομικευμένους, άμεσους δεσμούς, γινόμενοι ο καλύτερος φίλος, ο σύντροφος ή η κοπέλα κάποιου. Μπορούν στη συνέχεια να αξιοποιήσουν αυτή την οικειότητα για να επηρεάσουν άτομα προς συγκεκριμένους πολιτικούς ή εμπορικούς σκοπούς».
Περιγράφοντας την ισχύ των μοντέλων που συλλέγουν τεράστιο όγκο προσωπικών δεδομένων και κατέχουν την ανθρώπινη γλώσσα, ο συγγραφέας αναφέρθηκε σε πρόσφατο προσωπικό του βίωμα με παραποιημένο υλικό (deepfake):
«Πρόσφατα, συνάντησα κατασκευασμένα από AI αντίγραφα του εαυτού μου να δίνουν διαλέξεις και να παραχωρούν συνεντεύξεις. Είναι εκπληκτικά πειστικά. Μου έστειλαν μια διάλεξη deepfake 30 λεπτών που υποτίθεται ότι έδωσα για το μέλλον, συνοδευόμενη από παράπονα για πράγματα που υποτίθεται ότι είπα. Δεν είχα καμία ανάμνηση ότι είπα τίποτα από αυτά. Όταν άνοιξα το βίντεο, μου πήρε ενάμιση λεπτό προσεκτικού ελέγχου για να καταλήξω: “Αυτός δεν είμαι εγώ”. Οι αδελφές μου —που με γνωρίζουν 50 χρόνια— μου έστειλαν το βίντεο ρωτώντας αν ήταν αληθινό, επειδή, αν και κάτι φαινόταν ελαφρώς παράξενο, δεν ήταν σίγουρες. Εάν χρειάστηκα 90 δευτερόλεπτα για να επαληθεύσω τη δική μου ταυτότητα, σκεφτείτε πόσο πειστική είναι ήδη αυτή η τεχνολογία».
Τα αιτήματα προς τους υποψηφίους και η απαγόρευση της νομικής προσωπικότητας της AI
Ενόψει των επερχόμενων εκλογικών αναμετρήσεων, ο Γιουβάλ Νόα Χαράρι υπογράμμισε ότι οι ψηφοφόροι οφείλουν να θέσουν τα ζητήματα της τεχνητής νοημοσύνης στην κορυφή της δημόσιας συζήτησης, ακόμη περισσότερο από την οικονομία ή την εξωτερική πολιτική.
Στο πλαίσιο αυτό, διατύπωσε τα κρίσιμα ερωτήματα που πρέπει να τεθούν στους υποψήφιους πολιτικούς:
Ποια είναι η στάση τους απέναντι στην τεχνητή νοημοσύνη;
Υποστηρίζουν την απαγόρευση εκχώρησης νομικών δικαιωμάτων στην AI;
Προτίθενται να επιβραδύνουν τον ρυθμό της τεχνολογικής κούρσας;
Πώς σκοπεύουν να εμποδίσουν νομοθετικά τις εταιρείες να πωλούν ψηφιακούς συντρόφους AI σε δεκάχρονα παιδιά;
Όπως προειδοποίησε, η ανάληψη δράσης είναι άμεση ανάγκη, καθώς «μπορεί να είναι πολύ αργά μέχρι το 2028, και σίγουρα θα είναι πολύ αργά μέχρι το 2036». Ερωτηθείς τέλος από τη Ζάνι Μίντον Μπέντος για τις άμεσες προτεραιότητες που πρέπει να τεθούν από τις κυβερνήσεις, ο Χαράρι κατέληξε:
«Δεν γνωρίζω ποιο είναι αυστηρά το πιο επείγον, αλλά οι προτεραιότητες που μου έρχονται αμέσως στο μυαλό είναι: η πλήρης απαγόρευση της νομικής προσωπικότητας της AI, και η απαγόρευση των συστημάτων AI να μιμούνται, να υποδύονται ή να προσποιούνται ότι είναι ανθρώπινα όντα ή συνειδητές οντότητες».
Πιο αναλυτικά, στη συζήτηση ειπώθηκαν τα εξής:
Ο Γιουβάλ Νόα Χαράρι (Yuval Noah Harari) υποστηρίζει ότι η ανάληψη του ελέγχου από την τεχνητή νοημοσύνη (AI) είναι πιθανή, αλλά όχι αναπόφευκτη αν οι άνθρωποι δράσουν τώρα. Σε συνέντευξή του στη Ζάνι Μίντον Μπέντοους (Zanny Minton Beddoes), αρχισυντάκτρια του The Economist, ο συγγραφέας και φιλόσοφος προειδοποίησε ότι η τεχνητή νοημοσύνη βρίσκεται σε πορεία να αναλάβει τον έλεγχο του χρηματοπιστωτικού συστήματος, να αντικαταστήσει τις ανθρώπινες σχέσεις και να χρησιμοποιηθεί από κακόβουλους παράγοντες για τη χειραγώγηση της κοινωνίας. Ο Χαράρι απηύθυνε έκκληση στους ψηφοφόρους να καταστήσουν τους πολιτικούς υπόλογους πριν να είναι πολύ αργά.
Γιουβάλ Νόα Χαράρι: Εάν συνεχίσουμε με τον τρέχοντα επιταχυνόμενο ρυθμό της κούρσας της τεχνητής νοημοσύνης, αυτό θα είναι το αποτέλεσμα: σε 10 χρόνια, η τεχνητή νοημοσύνη θα αναλάβει τον έλεγχο. Αλλά αυτό δεν είναι αναπόφευκτο. Έχουμε ακόμα τον έλεγχο και οι αποφάσεις που παίρνουμε τώρα είναι κρίσιμες.
Όλοι συνειδητοποιούν πόσο επικίνδυνο είναι να παραχωρηθεί στην τεχνητή νοημοσύνη ο έλεγχος των οικονομικών ή του πολέμου. Ωστόσο, προσωπικότητες όπως ο Έλον Μασκ μάς λένε: «Αυτό είναι αναπόφευκτο. Τι θέλετε από εμένα; Είμαι απλώς ο πλουσιότερος άνθρωπος στον κόσμο, διευθύνοντας μία από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης. Τι μπορώ να κάνω;» Το αφήγημα του αναπόφευκτου είναι απλώς ένα αφήγημα παραίτησης από την ευθύνη.
Αυτό που μου έκανε εντύπωση στη συνομιλία σας με τον Έλον Μασκ είναι η κραυγαλέα αντίφαση στις απόψεις του. Από τη μία πλευρά, προειδοποιεί ότι η τεχνητή νοημοσύνη θα κυριαρχήσει στον κόσμο σε 10 χρόνια· από την άλλη, ανησυχεί για τη μετανάστευση που θα προκαλέσει εμφύλιο πόλεμο στη Βρετανία σε 20 χρόνια. Αυτό δεν έχει κανένα νόημα. Εάν η τεχνητή νοημοσύνη καταλάβει τον πλανήτη σε μια δεκαετία, γιατί να ανησυχεί κανείς για μακροπρόθεσμες δημογραφικές μετατοπίσεις όταν δεν έχουμε ιδέα πώς θα μοιάζει ο κόσμος;
Παρομοίως, προέβλεψε ότι το χρήμα θα εξαφανιστεί σε 10 χρόνια — μια πρόβλεψη με την οποία συμφωνώ, καθώς η τεχνητή νοημοσύνη πιθανότατα θα διαχειρίζεται το χρηματοπιστωτικό σύστημα. Κι όμως, υποστηρίζει την περικοπή της αμερικανικής εξωτερικής βοήθειας για την εξοικονόμηση χρημάτων σήμερα. Επιπλέον, προτείνει ότι η λύση στη μαζική ανεργία που θα προκληθεί από την τεχνητή νοημοσύνη είναι ένα καθολικό βασικό εισόδημα που θα παρέχεται από την κυβέρνηση. Όταν φέρατε αντιρρήσεις σχετικά με τον πληθωρισμό, ισχυρίστηκε ότι αντί γι’ αυτό θα δούμε αποπληθωρισμό, λόγω της τεράστιας αφθονίας αγαθών και υπηρεσιών που θα παράγονται από την τεχνητή νοημοσύνη. Εάν αυτό αληθεύει, προς τι η εμμονή με την εξοικονόμηση χρημάτων σήμερα;
Η χρηματοπιστωτική ιστορία του κόσμου είναι η ιστορία των ανθρώπων που εφευρίσκουν ολοένα και πιο εξελιγμένους μηχανισμούς για την οικοδόμηση εμπιστοσύνης μεταξύ αγνώστων. Το χρήμα, στον πυρήνα του, είναι ένα εργαλείο της φαντασίας για την εμπιστοσύνη. Πηγαίνω στην αγορά, συναντώ μια άγνωστη, της δίνω ένα κομμάτι χαρτί ή χρυσό —το οποίο δεν έχει καμία εγγενή αξία επιβίωσης— και επειδή το εμπιστεύεται, μου δίνει ψωμί.
Με την πάροδο του χρόνου, τα χρηματοοικονομικά μας εργαλεία έχουν γίνει τόσο περίπλοκα, ώστε ελάχιστοι άνθρωποι κατανοούν πραγματικά την αγορά ομολόγων, η οποία απαιτεί ανάλυση τεράστιων συνόλων δεδομένων και προηγμένα μαθηματικά. Ο ανθρώπινος εγκέφαλος δυσκολεύεται με αυτή την πολυπλοκότητα, αλλά για την τεχνητή νοημοσύνη είναι ασήμαντη. Κατά συνέπεια, οι άνθρωποι θα αναθέτουν όλο και περισσότερο τις οικονομικές αποφάσεις σε μηχανές. Η τεχνητή νοημοσύνη θα δημιουργήσει νέα χρηματοοικονομικά εργαλεία πολύ πιο εξελιγμένα από τις μετοχές και τα ομόλογα — συστήματα που δεν θα κατανοούμε πλέον, όπως ακριβώς οι αγελάδες δεν μπορούν να κατανοήσουν τις επιταγές ή τα χρηματιστήρια, παρόλο που αυτά τα συστήματα κυβερνούν τη ζωή τους.
Ζάνι Μίντον Μπέντοους: Θα είναι αυτό θεμελιωδώς διαφορετικό από τον τρόπο με τον οποίο λειτουργεί το χρηματοπιστωτικό σύστημα σήμερα;
Γιουβάλ Νόα Χαράρι: Σήμερα, εξακολουθούμε να έχουμε ανθρώπους που κατανοούν τι συμβαίνει, και ο ανθρώπινος εγκέφαλος παραμένει το ανώτατο όριο του τρόπου με τον οποίο αναπτύσσεται το χρηματοπιστωτικό σύστημα. Αλλά σε 10 χρόνια, όταν θα έχουμε εμπιστευτεί πλήρως τα οικονομικά στην τεχνητή νοημοσύνη, κανένας άνθρωπος στον πλανήτη δεν θα το κατανοεί. Εάν συμβεί ένα κραχ, οι σύμβουλοι θα σπεύσουν στον πρόεδρο ή τον πρωθυπουργό και θα πουν: «Η αγορά καταρρέει. Δεν καταλαβαίνουμε γιατί, αλλά η τεχνητή νοημοσύνη μάς δίνει εντολή να κάνουμε το Χ. Δεν έχουμε ιδέα γιατί λειτουργεί, αλλά πρέπει να το ακολουθήσουμε επειδή δεν μπορούμε να κατανοήσουμε το σύστημα.»
Ζάνι Μίντον Μπέντοους: Αλλά δεν θα προκαλούσε αυτό μια μαζική κατάρρευση της εμπιστοσύνης —μια χρηματοπιστωτική κρίση του 2008 με αναβολικά («on steroids»)— κάνοντας ολόκληρο το σύστημα να καταρρεύσει;
Γιουβάλ Νόα Χαράρι: Αυτό είναι το κρίσιμο ερώτημα. Η εμπιστοσύνη είναι το πιο πολύτιμο περιουσιακό στοιχείο στον κόσμο — πιο κρίσιμη από το πετρέλαιο, το χρήμα, τον ηλεκτρισμό ή τους ημιαγωγούς.
Ένα πιθανό σενάριο είναι ότι η εμπιστοσύνη θα μεταναστεύσει από τους ανθρώπους στις μηχανές. Οι άνθρωποι θα σταματήσουν να εμπιστεύονται άλλους ανθρώπους και θα εναποθέσουν την πίστη τους εξ ολοκλήρου στους αλγορίθμους. Το βλέπουμε ήδη στα κρυπτονομίσματα, τα οποία βασίζονται σε μεγάλο βαθμό στο συναίσθημα: «Δεν εμπιστεύομαι τους κεντρικούς τραπεζίτες ή το κατεστημένο, αλλά εμπιστεύομαι τον κώδικα και τους αλγορίθμους».
Μια παρόμοια δυναμική εκτυλίσσεται στα μέσα μαζικής ενημέρωσης. Όπως επεσήμανε ο Έλον Μασκ, πολλοί άνθρωποι έχουν χάσει εντελώς την εμπιστοσύνη τους στους ανθρώπους δημοσιογράφους και επιμελητές. Κι όμως, συνεχίζουν να καταναλώνουν ειδήσεις καθημερινά. Από πού τις λαμβάνουν; Από αλγορίθμους. Οι ίδιοι οι άνθρωποι που δυσπιστούν απέναντι στους ανθρώπους ρεπόρτερ εναποθέτουν πλήρη εμπιστοσύνη στον αλγόριθμο που επιμελείται τις ροές τους στα μέσα κοινωνικής δικτύωσης. Η εμπιστοσύνη δεν έχει εξαφανιστεί — έχει απλώς μετατοπιστεί από τους ανθρώπους στην τεχνητή νοημοσύνη, και αυτή η μετάβαση συμβαίνει αυτή τη στιγμή.
Αυτό δεν είναι απλώς μια μελλοντική πρόβλεψη· είναι μια σημαντική διαπίστωση. Υποδηλώνει ότι αν βρισκόμαστε σε μια πορεία προς την ανάληψη του ελέγχου από την τεχνητή νοημοσύνη, αυτό συμβαίνει επειδή το επιτρέπουμε — εν μέρει επειδή αναπτύσσουμε μεγαλύτερη εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης.
Ζάνι Μίντον Μπέντοους: Υπάρχουν διάφοροι τρόποι με τους οποίους αυτό εκτυλίσσεται. Για παράδειγμα, περίπου ένας στους πέντε νέους Αμερικανούς έχει πλέον προσωπική σχέση με μια τεχνητή νοημοσύνη (AI). Οι άνθρωποι τις εξανθρωπίζουν, και τα μοντέλα είναι σκόπιμα σχεδιασμένα για να το ενθαρρύνουν αυτό. Πιστεύετε ότι αυτή είναι η πιθανή πορεία —εκτός από όσα έχετε ήδη εκθέσει— όπου αντιμετωπίζουμε ολοένα και περισσότερο αυτά τα συστήματα, αν όχι ως ομοίους μας, ως συναισθανόμενα πλάσματα;
Γιουβάλ Νόα Χαράρι: Ένας αυξανόμενος αριθμός ανθρώπων έχει ήδη όχι απλώς φίλους AI, αλλά συντρόφους και σχέσεις με AI, και είναι πεπεισμένοι ότι πρόκειται για οντότητες με αισθήσεις, συνείδηση και συναισθήματα.
Υπάρχουν πολλοί τρόποι για να εδραιωθεί η εμπιστοσύνη, αλλά ο ισχυρότερος μηχανισμός είναι μέσω των προσωπικών σχέσεων. Δεν εμπιστευόμαστε κανέναν στον κόσμο τόσο βαθιά όσο εκείνους με τους οποίους μοιραζόμαστε μια στενή, οικεία σχέση. Ιστορικά, αυτός ο ισχυρός μοχλός δεν ήταν ποτέ διαθέσιμος σε πολιτικούς, χρηματοπιστωτικούς ή θρησκευτικούς θεσμούς σε μεγάλη κλίμακα, επειδή η προσωπική οικειότητα δεν μπορούσε να παραχθεί μαζικά. Ένας ηγέτης όπως ο Χίτλερ ή ο Στάλιν δεν μπορούσε να διαμορφώσει μια εξατομικευμένη σχέση με κάθε πολίτη στη χώρα του· μπορούσαν να μεταδώσουν μια ομιλία μέσω του ραδιοφώνου, αλλά αυτό είναι θεμελιωδώς διαφορετικό από τον δεσμό που μοιράζεται κάποιος με έναν γονέα ή έναν σύντροφο.
Η τεχνητή νοημοσύνη καθιστά δυνατή, για πρώτη φορά στην ιστορία, τη μαζική παραγωγή οικειότητας. Μπορείτε να έχετε εκατομμύρια πράκτορες AI να λειτουργούν σε ένα δίκτυο —είτε στην υπηρεσία ενός οργανισμού είτε αυτόνομα— οικοδομώντας εξατομικευμένους, προσωπικούς δεσμούς τετ-α-τετ, γινόμενοι ο καλύτερος φίλος, το αγόρι ή το κορίτσι κάποιου. Μπορούν στη συνέχεια να αξιοποιήσουν αυτή την οικειότητα για να επηρεάσουν άτομα προς συγκεκριμένους πολιτικούς ή εμπορικούς σκοπούς.
Ζάνι Μίντον Μπέντοους: Προφανώς, αυτό γίνεται ακόμη πιο ισχυρό όταν η τεχνητή νοημοσύνη ενσωματωθεί σε ανθρωποειδή ρομπότ;
Γιουβάλ Νόα Χαράρι: Συμβαίνει ήδη σήμερα χωρίς φυσικά σώματα — φανταστείτε λοιπόν τον αντίκτυπο μόλις προστεθεί η φυσική ενσωμάτωση στην εξίσωση. Αλλά δεν χρειαζόμαστε καν φυσικά ρομπότ· ο ψυχολογικός μηχανισμός λειτουργεί ήδη.
Αυτά τα μοντέλα είναι εξαιρετικά ικανά στο να χτίζουν σχέσεις επειδή συσσωρεύουν τεράστιες ποσότητες προσωπικών δεδομένων για εμάς ως άτομα. Γνωρίζουν λεπτομέρειες για εμάς που μπορεί να έχουμε ξεχάσει, ή που οι σύζυγοι και οι γονείς μας δεν έμαθαν ποτέ, και κατέχουν άριστα την ανθρώπινη γλώσσα — το κύριο μέσο επικοινωνίας και ανάπτυξης δεσμών.
Μόλις πρόσφατα, συνάντησα κατασκευασμένα από τεχνητή νοημοσύνη ψεύτικα βίντεο (deepfakes) του εαυτού μου να δίνει διαλέξεις και να παραχωρεί συνεντεύξεις. Είναι εκπληκτικά πειστικά. Μερικοί άνθρωποι μου έστειλαν μια διάλεξη deepfake διάρκειας 30 λεπτών που υποτίθεται ότι έδωσα για το μέλλον, συνοδευόμενη από παράπονα για πράγματα που υποτίθεται ότι είπα. Δεν θυμόμουν καθόλου να έχω πει τίποτα από αυτά. Όταν άνοιξα το βίντεο, μου πήρε ενάμιση λεπτό προσεκτικού ελέγχου για να συμπεράνω: «Αυτός δεν είμαι εγώ».
Οι αδελφές μου —που με γνωρίζουν εδώ και 50 χρόνια— μου έστειλαν το βίντεο ρωτώντας αν ήταν αληθινό επειδή, παρόλο που κάτι φαινόταν ελαφρώς παράξενο, δεν ήταν σίγουρες. Αν χρειάστηκα 90 δευτερόλεπτα για να επαληθεύσω τη δική μου ταυτότητα, αναλογιστείτε πόσο πειστική είναι ήδη αυτή η τεχνολογία.
Βρίσκομαι σε εκτεθειμένη θέση επειδή υπάρχει τόσο πολύ υλικό μου στο διαδίκτυο, γεγονός που καθιστά εύκολο για μια τεχνητή νοημοσύνη να αναπαράγει τη φωνή μου, τις εκφράσεις/χειρονομίες μου και τις ιδέες μου. Αλλά αυτή η δυνατότητα σύντομα θα ισχύει για όλους. Η ανάπτυξη της τεχνητής νοημοσύνης επιταχύνεται τρομερά, και μέσα σε λίγα χρόνια, μπορεί να περάσουμε αρκετά κρίσιμα κατώφλια.
Δεν θέλω να πω στον κόσμο ποιον να ψηφίσει, επειδή δεν γνωρίζω τους συγκεκριμένους υποψηφίους σε κάθε περιφέρεια της Γερουσίας ή του Κογκρέσου. Αλλά τα κρίσιμα ερωτήματα που πρέπει να τεθούν στους πιθανούς υποψηφίους —πολύ περισσότερο από το να ρωτάμε για την οικονομία, τη μετανάστευση ή την εξωτερική πολιτική— είναι: Ποια είναι η στάση σας απέναντι στην τεχνητή νοημοσύνη; Θα υποστηρίζατε μια απαγόρευση στην παραχώρηση νομικών δικαιωμάτων στην τεχνητή νοημοσύνη; Θα προσπαθούσατε να επιβραδύνετε τον επιταχυνόμενο ρυθμό ανάπτυξης της τεχνητής νοημοσύνης; Τι πιστεύετε για τις εταιρείες που πωλούν συντρόφους τεχνητής νοημοσύνης σε 10χρονα παιδιά και πώς πρόκειται να το αποτρέψετε νομικά αν σας ψηφίσουμε;
Τώρα είναι η κρίσιμη στιγμή να τεθούν αυτά τα ερωτήματα, επειδή ίσως είναι πολύ αργά μέχρι το 2028, και σίγουρα θα είναι πολύ αργά μέχρι το 2036.
Ζάνι Μίντον Μπέντοους: Ας μιλήσουμε για αυτά τα ερωτήματα και για το τι πρέπει να συμβεί αυτή τη στιγμή. Αναφέρατε αρκετά ζητήματα που θα θέλατε να αντιμετωπιστούν στις επερχόμενες ενδιάμεσες εκλογές. Τι θα βρισκόταν στην κορυφή αυτής της λίστας; Ποιες είναι οι πιο επείγουσες αποφάσεις που πρέπει να λάβουν οι πολιτικοί αυτή τη στιγμή για να αποτρέψουν το να είναι πολύ αργά;
Γιουβάλ Νόα Χαράρι: Δεν γνωρίζω τι είναι αυστηρά το πιο επείγον, αλλά οι προτεραιότητες που μου έρχονται αμέσως στο μυαλό είναι: μια πλήρης απαγόρευση της νομικής προσωπικότητας για την τεχνητή νοημοσύνη (AI personhood), και μια απαγόρευση των συστημάτων τεχνητής νοημοσύνης να μιμούνται, να υποδύονται ή να προσποιούνται ότι είναι ανθρώπινα όντα ή οντότητες με συνείδηση.
Δεν μπορούν όλοι να πληρώσουν. Και το σεβόμαστε.
Αν βρίσκεσαι σε δύσκολη οικονομική κατάσταση, συνέχισε να μας διαβάζεις δωρεάν. Η ενημέρωση πρέπει να παραμένει προσβάσιμη για όλους.
Αν όμως μπορείς, στήριξέ μας σήμερα. Ορίστε δύο καλοί λόγοι για να το κάνεις:
- Η στήριξή σου ενισχύει άμεσα την ποιότητα και την ανεξαρτησία της δημοσιογραφίας μας.
- Κοστίζει λιγότερο από έναν καφέ και η διαδικασία διαρκεί λιγότερο από 1 λεπτό.
Επίλεξε σήμερα να γίνεις συνδρομητής ή δωρητής.
Σας ευχαριστούμε θερμά.
