New York Times: Ο «Νονός της Τεχνητής Νοημοσύνης» φεύγει από την Google και προειδοποιεί για τον κίνδυνο μπροστά – “Μετανιώνω για το έργο της ζωής μου”

Ο Τζέφρι Χίντον ήταν πρωτοπόρος της τεχνητής νοημοσύνης. Το 2012, ο Δρ. Hinton και δύο από τους μεταπτυχιακούς φοιτητές του στο Πανεπιστήμιο του Τορόντο δημιούργησαν τεχνολογία που έγινε το πνευματικό θεμέλιο για τα συστήματα AI που οι μεγαλύτερες εταιρείες της τεχνολογικής βιομηχανίας πιστεύουν ότι είναι το κλειδί για το μέλλον τους.

Τη Δευτέρα, ωστόσο, εντάχθηκε επίσημα σε μια αυξανόμενη χορωδία κριτικών που λένε ότι αυτές οι εταιρείες τρέχουν προς τον κίνδυνο με την επιθετική τους καμπάνια για τη δημιουργία προϊόντων που βασίζονται στη γενετική τεχνητή νοημοσύνη, την τεχνολογία που τροφοδοτεί δημοφιλή chatbots όπως το ChatGPT.

Ο Δρ. Hinton είπε ότι παραιτήθηκε από τη δουλειά του στη Google, όπου εργάστηκε για περισσότερο από μια δεκαετία και έγινε μια από τις πιο σεβαστές φωνές στον τομέα, ώστε να μπορεί ελεύθερα να μιλήσει για τους κινδύνους της τεχνητής νοημοσύνης Ένα μέρος του, είπε, τώρα μετανιώνει για το έργο της ζωής του.

«Παρηγορώ τον εαυτό μου με την δικαιολογία ότι αν δεν το είχα κάνει εγώ, κάποιος άλλος θα το έκανε», είπε ο Δρ Χίντον κατά τη διάρκεια μιας εκτενούς συνέντευξης την περασμένη εβδομάδα στην τραπεζαρία του σπιτιού του στο Τορόντο, σε μικρή απόσταση με τα πόδια από όπου οι μαθητές του έκαναν το επίτευγμά τους.

Το ταξίδι του Δρ. Hinton από τον πρωτοπόρο της τεχνητής νοημοσύνης σε έντονο κριτικό σηματοδοτεί μια αξιοσημείωτη στιγμή για τον κλάδο της τεχνολογίας στο σημαντικότερο ίσως σημείο καμπής της εδώ και δεκαετίες. Οι ηγέτες του κλάδου πιστεύουν ότι τα νέα συστήματα AI θα μπορούσαν να είναι εξίσου σημαντικά με την εισαγωγή του προγράμματος περιήγησης Ιστού στις αρχές της δεκαετίας του 1990 και θα μπορούσαν να οδηγήσουν σε ανακαλύψεις σε τομείς που κυμαίνονται από την έρευνα για τα ναρκωτικά μέχρι την εκπαίδευση.

Αλλά αυτό που κατατρώει πολλούς από τους ηγέτες της βιομηχανίας είναι ένας φόβος ότι απελευθερώνουν κάτι πολύ επικίνδυνο στη φύση. Το Generative AI μπορεί ήδη να είναι ένα εργαλείο παραπληροφόρησης. Σύντομα, θα μπορούσε να αποτελέσει κίνδυνο για τις θέσεις εργασίας. Κάπου κατά μήκος της γραμμής, λένε ότι θα μπορούσε να είναι κίνδυνος για την ανθρωπότητα.

«Είναι δύσκολο να δεις πώς μπορείς να αποτρέψεις τους κακούς ηθοποιούς από το να το χρησιμοποιήσουν για κακά πράγματα», είπε ο Δρ Χίντον.

Aπό τότε που η start-up OpenAI από το Σαν Φρανσίσκο κυκλοφόρησε μια νέα έκδοση του ChatGPT τον Μάρτιο , περισσότεροι από 1.000 ηγέτες τεχνολογίας και ερευνητές υπέγραψαν μια ανοιχτή επιστολή ζητώντας ένα εξάμηνο μορατόριουμ για την ανάπτυξη νέων συστημάτων, επειδή οι τεχνολογίες τεχνητής νοημοσύνης αποτελούν «έναν μεγάλο κίνδυνο για την κοινωνία και την ανθρωπότητα”

Αρκετές μέρες αργότερα, 19 νυν και πρώην ηγέτες του Association for the Advancement of Artificial Intelligence, μιας ακαδημαϊκής κοινωνίας 40 ετών, δημοσίευσαν τη δική τους επιστολή προειδοποιώντας για τους κινδύνους της τεχνητής νοημοσύνης. η οποία έχει αναπτύξει την τεχνολογία του OpenAI σε ένα ευρύ φάσμα προϊόντων, συμπεριλαμβανομένης της μηχανής αναζήτησης Bing .

Ο Δρ Hinton, που συχνά αποκαλείται «ο Νονός της AI», δεν υπέγραψε καμία από αυτές τις επιστολές και είπε ότι δεν ήθελε να επικρίνει δημόσια την Google ή άλλες εταιρείες μέχρι να παραιτηθεί από τη δουλειά του. Ενημέρωσε την εταιρεία τον περασμένο μήνα ότι παραιτήθηκε και την Πέμπτη, μίλησε τηλεφωνικά με τον Sundar Pichai, τον διευθύνοντα σύμβουλο της μητρικής εταιρείας της Google, Alphabet. Αρνήθηκε να συζητήσει δημόσια τις λεπτομέρειες της συνομιλίας του με τον κ. Πιχάι.

Ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν, δήλωσε σε μια δήλωση:

«Παραμένουμε δεσμευμένοι σε μια υπεύθυνη προσέγγιση για την τεχνητή νοημοσύνη. Μαθαίνουμε συνεχώς να κατανοούμε τους αναδυόμενους κινδύνους, ενώ παράλληλα καινοτομούμε με τόλμη».

Ο Δρ Hinton, ένας 75χρονος Βρετανός ομογενής, είναι ακαδημαϊκός του οποίου η καριέρα καθοδηγήθηκε από τις προσωπικές του πεποιθήσεις σχετικά με την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης Το 1972, ως μεταπτυχιακός φοιτητής στο Πανεπιστήμιο του Εδιμβούργου, ο καθηγητής ήρθε με την ιδέα που ονομάζεται νευρωνικό δίκτυο. Ένα νευρωνικό δίκτυο είναι ένα μαθηματικό σύστημα που μαθαίνει δεξιότητες αναλύοντας δεδομένα. Εκείνη την εποχή, λίγοι ερευνητές πίστευαν στην ιδέα. Αλλά έγινε το έργο της ζωής του.

Τη δεκαετία του 1980, ο Δρ Χίντον ήταν καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο Carnegie Mellon, αλλά άφησε το πανεπιστήμιο για τον Καναδά επειδή είπε ότι ήταν απρόθυμος να λάβει χρηματοδότηση από το Πεντάγωνο. Εκείνη την εποχή, οι περισσότερες έρευνες για την τεχνητή νοημοσύνη στις Ηνωμένες Πολιτείες χρηματοδοτούνταν από το Υπουργείο Άμυνας. Ο Δρ Χίντον είναι βαθιά αντίθετος στη χρήση της τεχνητής νοημοσύνης στο πεδίο της μάχης – αυτό που αποκαλεί «στρατιώτες ρομπότ».

Το 2012, ο Δρ Hinton και δύο από τους μαθητές του στο Τορόντο, ο Ilya Sutskever και ο Alex Krishevsky, δημιούργησαν ένα νευρωνικό δίκτυο που μπορούσε να αναλύσει χιλιάδες φωτογραφίες και να διδάξει τον εαυτό του να αναγνωρίζει κοινά αντικείμενα, όπως λουλούδια, σκύλους και αυτοκίνητα.

Η Google ξόδεψε 44 εκατομμύρια δολάρια για να αποκτήσει μια εταιρεία που ξεκίνησε ο Δρ Hinton και οι δύο μαθητές του. Και το σύστημά τους οδήγησε στη δημιουργία ολοένα και πιο ισχυρών τεχνολογιών, συμπεριλαμβανομένων νέων chatbots όπως το ChatGPT και το Google Bard . Ο κ. Sutskever έγινε επικεφαλής επιστήμονας στο OpenAI. Το 2018, ο Δρ. Hinton και δύο άλλοι μακροχρόνιοι συνεργάτες του έλαβαν το βραβείο Turing , που συχνά αποκαλείται «Βραβείο Νόμπελ υπολογιστών», για την εργασία τους στα νευρωνικά δίκτυα.

Την ίδια περίοδο, η Google, η OpenAI και άλλες εταιρείες άρχισαν να κατασκευάζουν νευρωνικά δίκτυα που διδάσκονταν από τεράστιες ποσότητες ψηφιακού κειμένου. Ο Δρ Hinton πίστευε ότι ήταν ένας τρόπος για τις μηχανές να κατανοούν και να δημιουργούν γλώσσα, αλλά ήταν κατώτερος από τον τρόπο που οι άνθρωποι χειρίζονταν τη γλώσσα.

Στη συνέχεια, πέρυσι, καθώς η Google και το OpenAI κατασκεύασαν συστήματα χρησιμοποιώντας πολύ μεγαλύτερες ποσότητες δεδομένων, η άποψή του άλλαξε. Εξακολουθούσε να πίστευε ότι τα συστήματα ήταν κατώτερα από τον ανθρώπινο εγκέφαλο κατά κάποιο τρόπο, αλλά πίστευε ότι επισκίαζαν την ανθρώπινη νοημοσύνη σε άλλους. «Ίσως αυτό που συμβαίνει σε αυτά τα συστήματα», είπε, «είναι στην πραγματικότητα πολύ καλύτερο από αυτό που συμβαίνει στον εγκέφαλο».

Καθώς οι εταιρείες βελτιώνουν τα συστήματα τεχνητής νοημοσύνης τους, πιστεύει, γίνονται όλο και πιο επικίνδυνες. «Κοιτάξτε πώς ήταν πριν από πέντε χρόνια και πώς είναι τώρα», είπε για την τεχνολογία AI. «Δείτε τη διαφορά και προσπαθήστε τι θα συμβεί το επόμενο διάστημα. Αυτό είναι τρομακτικό.”

Μέχρι πέρυσι, είπε, η Google λειτουργούσε ως «σωστός διαχειριστής» για την τεχνολογία, προσέχοντας να μην κυκλοφορήσει κάτι που θα μπορούσε να προκαλέσει βλάβη. Αλλά τώρα που η Microsoft έχει αυξήσει τις δυνατότητες της μηχανής αναζήτησής της Bing με ένα chatbot – αμφισβητώντας τη βασική δραστηριότητα της Google – η Google αγωνίζεται να αναπτύξει το ίδιο είδος τεχνολογίας. Οι τεχνολογικοί γίγαντες είναι εγκλωβισμένοι σε έναν ανταγωνισμό που μπορεί να είναι αδύνατο να σταματήσει, είπε ο Δρ Hinton.

Η άμεση ανησυχία του είναι ότι το διαδίκτυο θα πλημμυρίσει από ψεύτικες φωτογραφίες , βίντεο και κείμενα και ο μέσος άνθρωπος «δεν θα μπορεί πλέον να γνωρίζει τι είναι αλήθεια».

Ανησυχεί επίσης ότι οι τεχνολογίες AI θα ανατρέψουν με τον καιρό την αγορά εργασίας. Σήμερα, τα chatbots όπως το ChatGPT τείνουν να συμπληρώνουν τους ανθρώπινους εργαζομένους, αλλά θα μπορούσαν να αντικαταστήσουν τους δικηγόρους, τους προσωπικούς βοηθούς, τους μεταφραστές και άλλους που χειρίζονται επίμονες εργασίες. «Απομακρύνει την βαρετή δουλειά», είπε. «Όμως τώρα μπορεί να αφαιρέσει περισσότερα από αυτό».

Στην πορεία, ανησυχεί ότι οι μελλοντικές εκδόσεις της τεχνολογίας αποτελούν απειλή για την ανθρωπότητα, επειδή συχνά αποκτούν απροσδόκητη συμπεριφορά από τις τεράστιες ποσότητες δεδομένων που αναλύουν. Αυτό γίνεται ένα ζήτημα, είπε, καθώς άτομα και εταιρείες επιτρέπουν στα συστήματα τεχνητής νοημοσύνης όχι μόνο να δημιουργούν τον δικό τους κώδικα υπολογιστή, αλλά στην πραγματικότητα να εκτελούν αυτόν τον κώδικα από μόνα τους. Και φοβάται μια μέρα ότι τα πραγματικά αυτόνομα όπλα – αυτά τα ρομπότ δολοφόνων – θα γίνουν πραγματικότητα.

«Η ιδέα ότι αυτά τα πράγματα θα μπορούσαν στην πραγματικότητα να γίνουν πιο έξυπνα από τους ανθρώπους – μερικοί άνθρωποι το πίστευαν αυτό», είπε. «Αλλά οι περισσότεροι νόμιζαν ότι ήταν πολύ μακριά. Και νόμιζα ότι ήταν πολύ μακριά. Νόμιζα ότι ήταν 30 με 50 χρόνια ή και περισσότερο μακριά. Προφανώς, δεν το σκέφτομαι πια αυτό».

Πολλοί άλλοι ειδικοί, συμπεριλαμβανομένων πολλών μαθητών και συναδέλφων του, λένε ότι αυτή η απειλή είναι υποθετική. Αλλά ο Δρ Hinton πιστεύει ότι ο αγώνας μεταξύ Google και Microsoft και άλλων θα κλιμακωθεί σε έναν παγκόσμιο αγώνα που δεν θα σταματήσει χωρίς κάποιου είδους παγκόσμια ρύθμιση.

Αλλά αυτό μπορεί να είναι αδύνατο, είπε. Σε αντίθεση με τα πυρηνικά όπλα, είπε, δεν υπάρχει τρόπος να γνωρίζουμε εάν εταιρείες ή χώρες εργάζονται κρυφά στην τεχνολογία. Η καλύτερη ελπίδα είναι οι κορυφαίοι επιστήμονες του κόσμου να συνεργαστούν για τρόπους ελέγχου της τεχνολογίας. «Δεν νομίζω ότι πρέπει να το αυξήσουν περισσότερο μέχρι να καταλάβουν αν μπορούν να το ελέγξουν», είπε.

Ο Δρ Hinton είπε ότι όταν οι άνθρωποι τον ρωτούσαν πώς θα μπορούσε να εργαστεί σε τεχνολογία που ήταν δυνητικά επικίνδυνη, παρέφραζε τον Robert Oppenheimer, ο οποίος ηγήθηκε της προσπάθειας των ΗΠΑ για την κατασκευή της ατομικής βόμβας: «Όταν βλέπεις κάτι που είναι τεχνικά γλυκό, προχωρήστε και κάντε το.”

Δεν το λέει πια.

New York Times