Σε μία εξαιρετικά δυσοίωνη επιβεβαίωση των προειδοποιήσεων που εκφράζονται από στελέχη των κορυφαίων εργαστηρίων τεχνητής νοημοσύνης προχώρησε ο βραβευμένος με Νόμπελ Βρετανοκαναδός επιστήμονας υπολογιστών Τζέφρι Χίντον (Geoffrey Hinton), ευρέως αναγνωρισμένος ως ο «νονός της τεχνητής νοημοσύνης».

Μιλώντας στην εκπομπή Newsnight του BBC και στη δημοσιογράφο Βικτόρια Ντέρμπισιρ (Victoria Derbyshire), στον απόηχο των αποκαλύψεων ερευνητών που παραιτήθηκαν πρόσφατα από την αμερικανική εταιρεία Anthropic, ο Χίντον εκτίμησε ότι η πιθανότητα αφανισμού του ανθρώπινου είδους από την AI εντός της επόμενης δεκαετίας δεν είναι παράλογη, τοποθετώντας την στο 10%.

Σκιαγραφώντας δύο διαμετρικά αντίθετα μέλλοντα για τον πολιτισμό, ο κορυφαίος επιστήμονας κατήγγειλε τις εταιρείες τεχνολογίας ότι θυσιάζουν την ασφάλεια στον βωμό των βραχυπρόθεσμων κερδών, εξήγησε πώς ένα υπερνοήμον σύστημα μπορεί να προκαλέσει παγκόσμια κατάρρευση μέσω βιολογικών ιών και κυβερνοεπιθέσεων χωρίς να απαιτείται φυσική υπόσταση, ενώ κάλεσε τους παγκόσμιους ηγέτες να επιβάλουν άμεσα αυστηρές ρυθμίσεις στα πρότυπα των πυρηνικών συμφωνιών του Ψυχρού Πολέμου.

Η εκτίμηση του 10% και τα δύο διαμετρικά αντίθετα μέλλοντα

Κληθείς από τη δημοσιογράφο να τοποθετηθεί επί των ισχυρισμών στελεχών της βιομηχανίας ότι η τεχνολογία που κατασκευάζουν ενδέχεται να οδηγήσει στην εξάλειψη της ανθρωπότητας, ο Τζέφρι Χίντον υπογράμμισε τη δυσκολία ακριβούς πρόβλεψης μπροστά σε ένα πρωτόγνωρο φαινόμενο, απορρίπτοντας ωστόσο τον εφησυχασμό:

«Αυτό είναι το είδος του ζητήματος που είναι πολύ δύσκολο να εκτιμηθεί, επειδή δεν είχαμε ποτέ κάτι παρόμοιο στο παρελθόν. Δεν έχουμε δημιουργήσει ποτέ όντα που μπορεί σύντομα να είναι πιο έξυπνα από εμάς. Δεν ξέρουμε τι πρόκειται να συμβεί. Πρέπει προφανώς να είμαστε προσεκτικοί. Θα ήταν πολύ ανόητο να πει κανείς ότι υπάρχει πιθανότητα της τάξης του 1%. Κανείς δεν ξέρει πώς να το εκτιμήσει. Μια πιθανότητα 10% δεν μου φαίνεται παράλογη εκτίμηση, αλλά κανείς δεν γνωρίζει πραγματικά πώς να δώσει έναν απόλυτα λογικό υπολογισμό».

Αναλύοντας το ιστορικό σταυροδρόμι στο οποίο βρίσκεται ο πλανήτης, περιέγραψε τη δυαδικότητα της επόμενης ημέρας:

«Έχουμε δύο πιθανά μέλλοντα. Ένα μέλλον όπου καταφέρνουμε να βρούμε πώς να αντιμετωπίσουμε αυτούς τους κινδύνους προτού βγουν εκτός ελέγχου, και ένα άλλο όπου αποτυγχάνουμε. Έτσι, το ένα μέλλον είναι πολύ καλό και το άλλο πολύ κακό».

Βιολογικοί ιοί, κυβερνοεπιθέσεις και η κούρσα των βραχυπρόθεσμων κερδών

Ερωτηθείς με ποιον συγκεκριμένο τρόπο ένα ψηφιακό σύστημα θα μπορούσε να απειλήσει τη φυσική επιβίωση του ανθρώπου, ο Χίντον ξεκαθάρισε ότι μια τέτοια οντότητα δεν χρειάζεται ρομποτικό σώμα για να επιφέρει καταστροφικά αποτελέσματα:

«Το πρώτο πράγμα που πρέπει να συνειδητοποιήσουμε είναι ότι δεν χρειάζεται καν να είναι σε θέση να δράσει στον πραγματικό κόσμο για να προκαλέσει καταστροφή. Θα ήταν ικανό να προκαλέσει πλήρες χάος απλώς και μόνο μιλώντας σε ανθρώπους. Αλλά θα είναι επίσης σε θέση να σχεδιάσει πολύ δυσάρεστους ιούς —βιολογικούς ιούς, καθώς και ιούς υπολογιστών. Θα μπορούσε να πραγματοποιήσει καταστροφικές κυβερνοεπιθέσεις. Υπάρχουν αμέτρητοι άλλοι τρόποι με τους οποίους θα μπορούσε να μας ξεφορτωθεί αν το ήθελε. Πρέπει να καταλάβουμε πώς να το σχεδιάσουμε έτσι ώστε να μην το θελήσει».

Στο σημείο αυτό, ο καθηγητής άσκησε αυστηρή κριτική στην κατεύθυνση που ακολουθούν οι τεχνολογικοί κολοσσοί, υποστηρίζοντας ότι η ασφάλεια έχει παραγκωνιστεί από την εμπορική σκοπιμότητα:

«Ενώ προσπαθούν να κάνουν αυτά τα πράγματα πιο ευφυή, θα έπρεπε να είναι προσεκτικοί και να βρουν πώς να αντιμετωπίσουν τους κινδύνους που ήδη γνωρίζουν. Αντ’ αυτού, οι μεγάλες εταιρείες τεχνολογίας απλώς επιδίδονται σε έναν αγώνα δρόμου για να την κάνουν όλο και πιο έξυπνη, επειδή εκεί βρίσκονται τα βραχυπρόθεσμα κέρδη».

Η αναποτελεσματικότητα των ινστιτούτων ασφαλείας και η αναλογία του Ψυχρού Πολέμου

Η συζήτηση στράφηκε και στον ρόλο των εποπτικών αρχών, με αφορμή το γεγονός ότι η Anthropic δεν υπέβαλε το τελευταίο της μοντέλο στο κρατικό Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (UK AI Security Institute) για αξιολόγηση πριν από τη διάθεσή του στην αγορά. Ερωτηθείς αν αυτό συνιστά αποτυχία του θεσμού, ο Χίντον συμφώνησε:

«Κατά κάποιον τρόπο, ναι. Η Βρετανία διαθέτει πράγματι ένα πολύ καλό ινστιτούτο ασφάλειας τεχνητής νοημοσύνης, ένα από τα καλύτερα στον κόσμο. Αλλά δεν υπάρχει κανένα νόημα σε αυτό εάν οι εταιρείες AI δεν υποβάλλουν τα μοντέλα τους σε αυτό για να επιτρέψουν τον έλεγχό τους».

Αναφερόμενος στη δυνατότητα διεθνούς νομοθετικής ρύθμισης, ο Βρετανοκαναδός επιστήμονας τόνισε ότι, ενώ σε ζητήματα όπως τα παραπλανητικά βίντεο (deepfakes) και η χειραγώγηση εκλογών τα συμφέροντα των κρατών συγκρούονται, στον τομέα της υπαρξιακής απειλής υπάρχει απόλυτη ταύτιση:

«Στο ζήτημα της αποτροπής της AI από το να πάρει τον έλεγχο από τους ανθρώπους, τα συμφέροντα όλων των χωρών είναι ευθυγραμμισμένα. Επομένως, τελικά θα συνεργαστούν σε αυτό. Το ερώτημα είναι αν θα το πράξουν εγκαίρως. Στο απόγειο του Ψυχρού Πολέμου, η Αμερική και η Σοβιετική Ένωση συνεργάστηκαν για να αποτρέψουν έναν παγκόσμιο πυρηνικό πόλεμο, επειδή τα συμφέροντά τους ήταν ευθυγραμμισμένα. Καμία από τις δύο δεν τον ήθελε. Και καμία χώρα δεν θέλει η AI να πάρει τα ηνία από τους ανθρώπους. Σε αυτό το μοναδικό ζήτημα θα υπάρξει σίγουρα ευθυγράμμιση και συνεργασία. Το ερώτημα είναι αν μπορούν να το κάνουν αρκετά γρήγορα».

Το παράθυρο χρόνου που κλείνει και οι αποδείξεις στα μαθηματικά

Σχετικά με τα χρονικά περιθώρια που απομένουν στην ανθρωπότητα για να θέσει θεσμικά όρια, ο Χίντον αποκάλυψε ότι οι δικές του προβλέψεις έχουν αναθεωρηθεί δραματικά προς τα κάτω:

«Οι εκτιμήσεις για το πόσο χρόνο έχουμε γίνονται όλο και πιο σύντομες. Κάποτε πίστευα ότι είχαμε 30 έως 50 χρόνια. Μετά το μείωσα σε περίπου 10 με 20 χρόνια. Τώρα νομίζω ίσως 10 χρόνια, ίσως λιγότερο. Και άλλοι άνθρωποι πιστεύουν πολύ πιο σύντομα από αυτό —ξεκάθαρα πολλοί άνθρωποι στην Anthropic θεωρούν ότι θα συμβεί νωρίτερα. Επομένως, το ζήτημα είναι πλέον αρκετά επείγον».

Απαντώντας σε όσους αντιμετωπίζουν αυτές τις προειδοποιήσεις με σκεπτικισμό, κάνοντας λόγο για διαφημιστικά τεχνάσματα, ο νομπελίστας επιστήμονας επικαλέστηκε τα άλματα που πραγματοποιούνται ήδη στην πράξη:

«Απλώς χρησιμοποιήστε ένα chatbot. Πολλοί από εκείνους που μιλούν για τέχνασμα θεωρούν ότι αυτά τα συστήματα δεν καταλαβαίνουν πραγματικά τι λέτε. Αλλά αναρωτηθείτε: πώς μπορούν να απαντούν σε οποιαδήποτε ερώτηση αρκετά καλά αν δεν την καταλαβαίνουν; Προφανώς κατανοούν τι λέτε και μπορούν να αναπτύξουν συλλογιστική. Έχουν πολύ καλές διαισθήσεις. Είναι ήδη σχεδόν τόσο καλά όσο ένας άνθρωπος, και καλύτερα από ορισμένους, ενώ γίνονται εξυπνότερα με ταχύτατους ρυθμούς. Στα μαθηματικά, για παράδειγμα, κορυφαίοι μαθηματικοί λένε πλέον ότι δεν υπάρχει μέλλον για όσους δεν συνεργάζονται με chatbots, καθώς αυτά αποδεικνύουν πλέον πράγματα που οι μαθηματικοί δεν μπορούσαν να αποδείξουν. Πριν από μερικά χρόνια αυτό θα φαινόταν γελοίο. Τώρα είναι ήδη πραγματικότητα».