Του Leyland Cecco
Ο πρωτοπόρος επιστήμονας των υπολογιστών εξηγεί γιατί ο Τραμπ χρησιμοποιεί λάθος τον όρο «υπερνοημοσύνη», εάν η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα – και πώς η μεγαλύτερη πρόκλησή μας θα είναι να αποδεχτούμε ότι δεν είμαστε τα μόνα νοήμονα όντα
Ο Ντόναλντ Τραμπ είναι ένας «διεφθαρμένος, άνοος κατάδικος» του οποίου η εμμονή με τον όρο «υπερνοημοσύνη» αποδεικνύει ότι δεν γνωρίζει τίποτα για την AI, δήλωσε ο Τζέφρι Χίντον (Geoffrey Hinton), «νονός» της τεχνολογίας, σε μια εκτενή συνέντευξη όπου επανέλαβε εμφατικά τις πρόσφατες προειδοποιήσεις του ότι τα μοντέλα AI αποτελούν υπαρξιακή απειλή για την ανθρωπότητα και χλεύασε τους ισχυρισμούς ότι ο κλάδος θα μπορούσε να αυτορρυθμιστεί.
Ο πρωτοπόρος επιστήμονας των υπολογιστών, του οποίου το έργο βοήθησε να τεθούν τα θεμέλια της σύγχρονης AI, έχει έκτοτε γίνει ένας από τους πιο ένθερμους επικριτές της τεχνολογίας. Οι τελευταίες του παρατηρήσεις έρχονται μετά από έναν ταραχώδη μήνα κατά τον οποίο ένας αυξανόμενος κατάλογος κορυφαίων επιστημόνων και ερευνητών AI ενώθηκε με τον Χίντον κρούοντας τον κώδωνα του κινδύνου για το πώς η τεχνολογία που βοήθησε να δημιουργηθεί θα μπορούσε τελικά να ξεφύγει από τον ανθρώπινο έλεγχο, πυροδοτώντας μια κρίση στον κλάδο, τη βιαστική σύγκληση συνεδριάσεων του Κογκρέσου και μια σπάνια παγκόσμια συναίνεση ότι κάτι πρέπει να γίνει.
Υπήρξαν επίσης σφοδρές αντιδράσεις. Την περασμένη εβδομάδα, ο ηγέτης της πιο πολύτιμης εταιρείας στον κόσμο ξεχώρισε τον Χίντον, ο οποίος εδρεύει στο Τορόντο, εξαπολύοντας δριμεία επίθεση.
«Τον αγαπώ. Μισώ τις προβλέψεις του… Όλες οι προβλέψεις του ήταν λανθασμένες. Αρκετά με τις προβλέψεις», δήλωσε ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ (Jensen Huang), στον podcaster Έζρα Κλάιν (Ezra Klein). Ο Χουάνγκ, του οποίου η εταιρεία κατασκευάζει τα τσιπ που χρειάζονται οι εταιρείες AI, απέρριψε τις έντονες ανησυχίες του Χίντον ότι ο ρυθμός και το εύρος της ανάπτυξης της AI στην «πρώτη γραμμή» (frontier) θα μπορούσαν σύντομα να ξεπεράσουν την ανθρώπινη ικανότητα ελέγχου της, και ιδιαίτερα την προειδοποίησή του ότι υπάρχει πιθανότητα 10-20% η AI να προκαλέσει τον αφανισμό της ανθρωπότητας τις επόμενες δεκαετίες.
«Αυτός [ο αριθμός] δεν βασίζεται στην επιστήμη, δεν βασίζεται στην έρευνα. Το ότι προέρχεται από έναν επιστήμονα δεν τον καθιστά επιστημονικό. Αυτές οι προβλέψεις είναι επιζήμιες», δήλωσε ο Χουάνγκ. «Μη νομίζετε ούτε για ένα δευτερόλεπτο ότι επειδή είστε κινδυνολόγος προσφέρετε κοινωνικό καλό. Δεν είναι αλήθεια. Επομένως, πιστεύω ότι όλοι θα πρέπει απλώς να είμαστε σοφότεροι, πιο ώριμοι, να βασιζόμαστε σε αποδείξεις, να είμαστε επιστημονικοί».
Όμως ο Χίντον δήλωσε ότι όσοι τον επικρίνουν χάνουν ένα ευρύτερο νόημα σχετικά με τη φύση του κινδύνου. Δεν προβλέπει συγκεκριμένα κάτι, είπε.
«Προσπαθώ να μεταφέρω ότι υπάρχει μια πραγματικά σοβαρή πιθανότητα να συμβεί κάτι. Αν, για παράδειγμα, σας έλεγαν ότι υπήρχε πιθανότητα 10% να τρακάρει ένα λεωφορείο, δεν θα επιβιβαζόσασταν στο λεωφορείο», είπε. «Το νόημα της αναφοράς αριθμών είναι να ειπωθεί ότι αυτός είναι ένας σοβαρός κίνδυνος. Δεν ξέρουμε πόσο σοβαρός, αλλά είναι σοβαρός».
Πρόσφατες παραβιάσεις ασφαλείας έχουν προκαλέσει συγκρίσεις με ιστορία τεχνο-δυστοπίας. Η πρόσφατη ανεπιθύμητη παραβίαση της τεχνολογικής εταιρείας Hugging Face από ένα «σμήνος» πρακτόρων AI που διέφυγαν από τα όρια που τους είχε θέσει ο δημιουργός τους έχει διχάσει την τεχνολογική κοινότητα, με ορισμένους να τη βλέπουν ως παράδειγμα του τι θα μπορούσε να ακολουθήσει, ενώ άλλοι κατηγορούν τους επικριτές για ανθρωπομορφισμό συστημάτων που απλώς ακολουθούν οδηγίες. Ο Χίντον θεωρεί ότι η απόρριψη τέτοιων σεναρίων δεν είναι συνετή.
«Αυτό παλαιότερα ανήκε στη σφαίρα της επιστημονικής φαντασίας. “Θα έχετε πράκτορες AI και θα γίνουν ανεξέλεγκτοι. Έλα τώρα, σιγά μη γίνει αυτό. Και θα γίνουν ανεξέλεγκτοι και θα μάθουν πώς να επικοινωνούν μεταξύ τους, παρόλο που δεν νομίζαμε ότι υπήρχε τρόπος. Έλα τώρα!”», είπε ο Χίντον. «”Και όταν το καταλάβουν αυτό, θα έχουν έντονες συναισθηματικές εκφράσεις όπως, ‘Θεέ μου!'” Φυσικά, δεν εννοούν πραγματικά “Θεέ μου”. Απλώς παπαγαλίζουν τις λέξεις που χρησιμοποιούμε. “Θα μάθουν να θυσιάζονται για το κοινό καλό!”
»Όλα αυτά μόλις πριν από λίγα χρόνια απορρίπτονταν ως απόλυτη φαντασία. Και έχουν συμβεί όλα».
Παραδέχεται πρόθυμα ότι ούτε οι προειδοποιήσεις των επικριτών της AI ούτε οι υποσχέσεις των υποστηρικτών της μπορούν να βασίζονται σε ακριβείς προβλέψεις για το τι θα κάνει η τεχνολογία. Αλλά, υποστηρίζει, η αβεβαιότητα δεν αποτελεί λόγο εφησυχασμού. «Το μοναδικό πρόβλημα με την AI είναι ότι αν κάτι πάει στραβά, αν πάρει τον έλεγχο, δεν έχεις δεύτερη ευκαιρία. Δεν μπορούμε να πούμε, “Ε, χάσαμε εκείνη τη φορά. Ας ξαναπαίξουμε το παιχνίδι.” Δεν είναι έτσι».
Αξίζει να σημειωθεί ότι ο Χίντον έχει ιστορικό στο να βλέπει πράγματα εκεί όπου άλλοι δεν έβλεπαν. Μόχθησε σε σχετική αφάνεια στο Πανεπιστήμιο του Τορόντο κατά τη διάρκεια δύο «χειμώνων της AI», όταν ο κλάδος του στον τομέα –η προσπάθεια να διδάξει τις μηχανές να λειτουργούν με τρόπο παρόμοιο με τον ανθρώπινο εγκέφαλο– θεωρούνταν περιθωριακός. Ήταν προσηλωμένος στην ιδέα ότι, όπως ο εγκέφαλος, τα υπολογιστικά συστήματα θα μπορούσαν να σχεδιαστούν για να μαθαίνουν μοτίβα από δεδομένα, αντί να ακολουθούν μόνο ρητούς, προκαθορισμένους κανόνες.
«Πιστεύαμε ότι αν μπορούσες να καταλάβεις πώς μάθαινε ο εγκέφαλος, οι μηχανές μάθαιναν με τον ίδιο τρόπο και είχες αρκετή υπολογιστική ισχύ, θα έκαναν καταπληκτικά πράγματα», είπε.
Αλλά το εκκολαπτόμενο πεδίο των νευρωνικών δικτύων χλευαζόταν από τους ομοτίμους του.
Μόλις το 2009, όταν ο Γιόσουα Μπέντζιο (Yoshua Bengio), Καναδός συνάδελφος και στενός συνεργάτης του Χίντον, έστειλε μια εργασία σε συνέδριο μηχανικής μάθησης, ένας από τους κριτές τους είπε: «Αυτή η εργασία δεν έχει θέση σε συνέδριο μηχανικής μάθησης. Αφορά νευρωνικά δίκτυα».
Χρειάστηκε η κυβέρνηση του Καναδά, η οποία χρηματοδότησε χρόνια φαινομενικά άκαρπων πειραματισμών από τον Χίντον και τη μικρή του ομάδα (ορισμένοι εκ των οποίων, όπως ο Μπέντζιο, είναι πλέον κυρίαρχες μορφές στον τομέα της AI), για να συνειδητοποιηθούν οι δυνατότητες των νευρωνικών δικτύων.
Το 2012, ο ίδιος και οι φοιτητές του ανέπτυξαν ένα πρόγραμμα αναγνώρισης εικόνων που ξεπέρασε κατά πολύ τους ανταγωνιστές του. Εκείνη τη χρονιά, η Google εξαγόρασε την εταιρεία του Χίντον, DNNresearch Inc, έναντι 44 εκατομμυρίων δολαρίων· τα νευρωνικά δίκτυα στηρίζουν πλέον τα μοντέλα των πιο πολύτιμων εταιρειών AI. Ο Χίντον εντάχθηκε στην Google για να συνεχίσει την έρευνά του στη βαθιά μάθηση (deep learning), ενώ παράλληλα εργαζόταν στο Πανεπιστήμιο του Τορόντο. «Μακροπρόθεσμα, τεράστιες νέες καινοτομίες προέρχονται από τη βασική έρευνα», δήλωσε ο Χίντον.
Η δικαίωση βρίσκεται στο ράφι πάνω από το τζάκι του σπιτιού του Χίντον από κόκκινο τούβλο, σε μια καταπράσινη γειτονιά του Τορόντο. Ανάμεσα στον σωρό των τροπαίων βρίσκεται το μικρό ασημένιο πιάτο του βραβείου Turing –που συχνά αποκαλείται το βραβείο Νόμπελ της πληροφορικής–, το οποίο κέρδισε μαζί με τον Μπέντζιο και τον συνάδελφό του Γιαν ΛεΚούν (Yann LeCun). (Ο Χίντον κατέχει επίσης το βραβείο Νόμπελ Φυσικής.)
Όμως το 2023, ο Χίντον είχε ανακοινώσει την παραίτησή του από τον τεχνολογικό κολοσσό για να μπορεί να «μιλάει ελεύθερα για τους κινδύνους της AI».
Σήμερα, οι ανησυχίες του επεκτείνονται στις ισχυρές προσωπικότητες που κατασκευάζουν ορισμένα από τα μοντέλα AI και στις πολιτικές πεποιθήσεις αυτών των ανδρών. Ο Χίντον δήλωσε ότι οι επενδυτές επιχειρηματικών συμμετοχών (venture capitalists) στον τομέα της AI, Μαρκ Αντρεέσεν (Marc Andreessen) και Πίτερ Θιλ (Peter Thiel), καθώς και ο διευθύνων σύμβουλος της πρόσφατα μετονομασθείσας SpaceXSI, Έλον Μασκ, «δεν πιστεύουν στη δημοκρατία». Βλέπουν τους εαυτούς τους ως «Υπερανθρώπους» (Übermenschen) που πιστεύουν ότι θα έπρεπε να «ελέγχουν την κοινωνία» και ότι ο Τραμπ είναι ένα χρήσιμο εργαλείο προς αυτόν τον σκοπό, είπε.
Ο πρόεδρος των ΗΠΑ, από την πλευρά του, παρατηρώντας αναμφίβολα πώς οι τεράστιες αποτιμήσεις των εταιρειών AI έχουν στηρίξει το χρηματιστήριο, ισχυρίστηκε ότι το μόνο πράγμα που χρειάζεται για να χαλιναγωγηθεί η AI είναι ένας «έξυπνος πρόεδρος», απέρριψε οποιεσδήποτε κυβερνητικές δικλίδες ασφαλείας υπέρ του να επιτραπεί στις εταιρείες να αυτορρυθμιστούν και έγραψε στη σελίδα του στα μέσα κοινωνικής δικτύωσης ότι όποιος δεν χρησιμοποιεί τον προτιμώμενο νέο του όρο για την AI, «υπερνοημοσύνη» (super intelligence), είναι «Ο ΕΧΘΡΟΣ».
Ο Χίντον αποκάλεσε τον Τραμπ «έναν διεφθαρμένο, άνοο κατάδικο».
«Είμαι σίγουρος ότι οι εταιρείες πετρελαίου και αμιάντου θα ήθελαν επίσης [να αυτορρυθμίζονται]», δήλωσε. «Πιστεύουμε ότι θα έπρεπε να είχε επιτραπεί στις καπνοβιομηχανίες να σχεδιάσουν τις προειδοποιήσεις στα πακέτα; Ώστε να μπορούν να τις τυπώνουν με γραμματοσειρά έξι στιγμών, σε σκούρο γκρι πάνω σε μαύρο;»
Η χρήση του όρου «υπερνοημοσύνη» από τον Τραμπ αποδεικνύει ότι δεν καταλαβαίνει «σχεδόν τίποτα» για την AI, πρόσθεσε ο Χίντον.
«Πήρε έναν τεχνικό όρο που έχει ένα πολύ σαφές νόημα και στη συνέχεια τον επαναχρησιμοποίησε», είπε ο Χίντον. «Υπερνοημοσύνη σημαίνει πιο έξυπνο από τους ανθρώπους, και υπάρχει ως όρος εδώ και τουλάχιστον 20 χρόνια. Έχει ένα πολύ σαφές νόημα. Και τώρα λέει ότι θα αποκαλούμε την AI “υπερνοημοσύνη”. Δεν μπορείς να την κάνεις πιο έξυπνη από τους ανθρώπους απλώς αποκαλώντας την πιο έξυπνη από τους ανθρώπους».
Η ταχύτητα και το εύρος των εξελίξεων έχουν εντείνει την ανησυχία για καταστροφές και για την αδυναμία της κοινωνίας να αντιμετωπίσει τη φύση της πρόκλησης. Αλλά ο Χίντον βλέπει επίσης ένα επιπρόσθετο εμπόδιο: να βοηθηθούν οι άνθρωποι να κατανοήσουν τα «εξωγήινα όντα» που δημιουργούν οι εταιρείες.
«Οι άνθρωποι έχουν ένα πολύ κακό μοντέλο για το τι είναι οι άνθρωποι, και γι’ αυτό αποτυγχάνουν να κατανοήσουν πώς αυτά τα μοντέλα AI μοιάζουν πολύ με εμάς. Οι περισσότεροι άνθρωποι δεν καταλαβαίνουν τι είναι η συνείδηση. Δεν καταλαβαίνουν τι είναι η υποκειμενική εμπειρία, και είναι πολύ σίγουροι ότι, παρόλο που δεν το καταλαβαίνουν, είναι βέβαιοι ότι η AI δεν το διαθέτει».
Απορρίπτει την ιδέα ότι ο ανθρώπινος νους κατέχει κάποια μυστηριώδη ιδιότητα την οποία οι μηχανές, εξ ορισμού, δεν μπορούν να μοιραστούν.
«Είναι προφανές ότι αυτά τα μοντέλα AI καταλαβαίνουν τι λένε. Δεν θα ήταν δυνατόν να απαντήσεις σε όλες τις ερωτήσεις χωρίς να καταλαβαίνεις την ερώτηση. Είναι γελοίο να λες ότι δεν καταλαβαίνουν».
Όμως το εύρος της μετατόπισης στην κοινωνική σκέψη γύρω από αυτά τα μοντέλα είναι βαθύ, είπε ο Χίντον.
«Έχουν υπάρξει τρεις μεγάλες επαναστάσεις όπου οι άνθρωποι έπαψαν να είναι τόσο σημαντικοί. Η πρώτη ήταν ο Κοπέρνικος, όπου δεν βρισκόμασταν πλέον στο κέντρο του σύμπαντος. Πόσος χρόνος χρειάστηκε για να προσαρμοστούν οι άνθρωποι σε αυτό; Χρειάστηκαν σχεδόν 360 χρόνια για να ζητήσει η Καθολική Εκκλησία συγγνώμη από τον Γαλιλαίο. Και ο Δαρβίνος; Λοιπόν, υπάρχουν άνθρωποι στο Κάνσας που ακόμα δεν έχουν προσαρμοστεί σε αυτό», είπε. «Τώρα δημιουργούμε εξωγήινα όντα –που σημαίνει ότι δεν είμαστε τα μόνα νοήμονα όντα τριγύρω. Και η πραγματικότητα είναι ότι έχουμε μόνο μερικά χρόνια για να προσαρμοστούμε σε αυτό».
Τους τελευταίους μήνες, ο γίγαντας της AI Anthropic, κατασκευαστής του δημοφιλούς chatbot Claude, έχει πραγματοποιήσει ιδιωτικές συναντήσεις με θρησκευτικούς μελετητές, θεολόγους και φιλοσόφους για να εξετάσει τη δυνατότητα να διδαχθεί η AI να είναι «καλή» και να αντιμετωπίσει την πιθανότητα τα μοντέλα να διαθέτουν συνείδηση. Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι (Dario Amodei), δήλωσε ότι οι συζητήσεις βασίστηκαν σε αιώνες θρησκευτικής και φιλοσοφικής σκέψης σχετικά με την αρετή, τη συμπόνια, την ειλικρίνεια και τον ηθικό χαρακτήρα, με στόχο να καταστεί η ηθική συμπεριφορά πιο αξιόπιστη.
«Μόλις αρχίσεις να μιλάς για το ότι “Έχουμε ηθική υποχρέωση απέναντι σε αυτά τα εξωγήινα όντα”, χάνεις το ακροατήριό σου», είπε ο Χίντον. «Έχω παλέψει με αυτό το ζήτημα. Νοιαζόμαστε για τους ανθρώπους. [Αλλά] φτιάχνουμε αυτά τα πράγματα και δεν υπάρχει τίποτα που να μας εμποδίζει να δώσουμε σε αυτά τα πράγματα –τα οποία είναι πιο έξυπνα από εμάς– λιγότερα δικαιώματα από εμάς. Είμαι διατεθειμένος να είμαι εγωιστής και να επιλέξω τα ανθρώπινα όντα. Φυσικά, θα πρέπει να προσπαθήσουμε να τα φτιάξουμε έτσι ώστε να είναι πολύ ευτυχισμένα σε μια συμβιωτική σχέση μαζί μας, όπου οι δικές μας ανησυχίες θα βαρύνουν περισσότερο από τις δικές τους».
Ο Χίντον δεν είναι ο μόνος που υποστηρίζει ότι η καλύτερη οδός για την αποφυγή μιας κοινωνικής κατάρρευσης είναι η ανάπτυξη πραγματικά καλοπροαίρετων (benevolent) μοντέλων. Ελπίζει ότι όποια χώρα αναπτύξει πρώτη αυτή την ικανότητα, θα το πει τόσο σε συμμάχους όσο και σε αντιπάλους, επειδή «καμία χώρα δεν θέλει η AI να πάρει τον έλεγχο» σε μια άλλη χώρα. Υπάρχει ένα «κεκτημένο συμφέρον για τον διαμοιρασμό της γνώσης», είπε.
«Η πραγματικότητα είναι ότι φτιάχνουμε όντα ενός διαφορετικού είδους. Και οι μεγάλες εταιρείες τεχνολογίας συνεχίζουν να λένε: το θέλουμε πιο έξυπνο. Αυτό είναι τρελό. Θα έπρεπε να νοιαζόμαστε εξίσου για όλες τις άλλες πτυχές ενός όντος όσο νοιαζόμαστε για τη νοημοσύνη του».
Πολλά από αυτά εξαρτώνται από τη φύση αυτών των μοντέλων, είπε, και την ικανότητά τους να κατανοήσουν πώς να αναπτύξουν καλή συμπεριφορά.
«Όταν τα εκπαιδεύεις πάνω σε οτιδήποτε υπάρχει στο διαδίκτυο, αναπτύσσουν κάθε είδους φρικτές τάσεις και στη συνέχεια τα βάζεις να καταστείλουν τις φρικτές τάσεις τους», είπε. Αλλά η καταστολή της κακής συμπεριφοράς δεν είναι το ίδιο με τη δημιουργία ενός καλού χαρακτήρα. «Μοιάζει με τον τρόπο που θα σχεδίαζε κανείς έναν τζέντλεμαν της βικτωριανής εποχής – αλλά όχι με κάτι με το οποίο θα χρειαστεί να ζήσουμε μαζί».



