26.8 C
Chania
Monday, July 15, 2024

Γιουβάλ Νόα Χαράρι: «Δεν ξέρω εάν η ανθρωπότητα θα καταφέρει να επιβιώσει από την τεχνητή νοημοσύνη»

Ημερομηνία:

«Με αυτόν τον τρόπο το ρεύμα σβήνει για πρώτη φορά στην ιστορία. Δημιουργούμε κάτι που μας αποδυναμώνει. Και συμβαίνει τόσο γρήγορα που οι περισσότεροι άνθρωποι δεν συνειδητοποιούν καν τι ακριβώς συμβαίνει. Πρέπει να εκπαιδεύσουμε την τεχνητή νοημοσύνη να λαμβάνει σωστές αποφάσεις για τη ζωή μας. Είμαστε ακόμη πολύ μακριά από αυτό», είπε ο Ισραηλινός ιστορικός Γιουβάλ Νόα Χαράρι στη βρετανική Telegraph.

Ο ειδικός ανησυχεί βαθιά για την ανάπτυξη της τεχνητής νοημοσύνης. «Είναι η πρώτη τεχνολογία που κατακτά τη γλώσσα στην ιστορία», τονίζει.

Ο Ισραηλινός ιστορικός και φιλόσοφος υποστηρίζει ότι «η εξελιγμένη τεχνητή νοημοσύνη δεν θα μπορεί μόνο να διανείμει περιεχόμενο που δημιουργείται από τον άνθρωπο, αλλά θα μπορεί η ίδια παράγει το περιεχόμενο».

Τις τελευταίες μέρες επικρατεί έντονη συζήτηση γύρω από τις επιπτώσεις του Α.Ι. στον πολιτισμό, καθώς, μελλοντικά, ο δημιουργός κειμένων, μελωδιών, τηλεοπτικών σειρών και διαφόρων εικόνων δεν θα είναι ο άνθρωπος.

«Απλώς δεν μπορούμε να κατανοήσουμε τι σημαίνει αυτό. Ποιες είναι οι συνέπειες εάν η τεχνητή νοημοσύνη αναλάβει την κουλτούρα;» προειδοποιεί ο Yuval Noah Harari.

Δεδομένης της δυνατότητας της τεχνητής νοημοσύνης να δημιουργεί ιστορίες που μπορούν να χρησιμοποιηθούν για καλό ή κακό, προκύπτει μια νέα πρόκληση για τους ανθρώπους. Για το λόγο αυτό, ο Χαράρι πρόσθεσε, τον προηγούμενο μήνα, το όνομά του σε μια επιστολή που υπογράφηκε από χιλιάδες ειδικούς, συμπεριλαμβανομένου του επιχειρηματία Έλον Μασκ, ζητώντας μορατόριουμ στη νέα τεχνολογία.

Σύμφωνα με τον Χαράρι, η δύναμη χειραγώγησης του δημόσιου λόγου μπορεί να επηρεαστεί σε μεγάλο βαθμό από τα εργαλεία Α.Ι., με τους ειδικούς στην παραπληροφόρηση να συμφωνούν και να υποστηρίζουν ότι η τεχνητή νοημοσύνη αποτελεί σημαντική απειλή.

«Αυτό (AI) αποτελεί μεγαλύτερη απειλή για τις δημοκρατίες από τα αυταρχικά καθεστώτα, επειδή οι δημοκρατίες εξαρτώνται από τη δημόσια ομιλία», δήλωσε ο Χαράρι στην Telegraph.

«Η δημοκρατία είναι ουσιαστικά συζήτηση. Οι άνθρωποι μιλούν μεταξύ τους. Εάν η τεχνητή νοημοσύνη αναλάβει τη συζήτηση, η δημοκρατία θα τελειώσει», προειδοποιεί.

Ο Ισραηλινός ειδικός υπενθυμίζει ότι οι τρέχουσες τεχνολογίες έχουν πολύ μεγαλύτερες δυνατότητες από τα ολοκληρωτικά καθεστώτα του παρελθόντος.

«Το ναζιστικό καθεστώς χρησιμοποιούσε τεχνολογίες όπως τρένα, ηλεκτρισμό και ραδιόφωνο. Δεν είχαν εργαλεία όπως η τεχνητή νοημοσύνη. Αλλά στον 21ο αιώνα, ένα νέο καθεστώς θα έχει πιο ισχυρά εργαλεία. Τότε οι συνέπειες θα ήταν πολύ πιο καταστροφικές. Θα συμβεί κάτι που δεν ξέρω αν η ανθρωπότητα θα καταφέρει να το ξεπεράσει», λέει με ανησυχία.

Μιλώντας σε επιστημονικό συνέδριο στην Ελβετία, ο Χαράρι, αναφέρθηκε και στο ότι η τεχνητή νοημοσύνη θα μπορεί να μας ελέγξει δημιουργώντας νέες θρησκείες τις οποίες θα ακολουθούν τυφλά οι άνθρωποι παγιδευμένοι σε ένα κόσμο παρόμοιο με αυτόν που παρουσιάζεται στην σειρά κινηματογραφικών ταινιών «Matrix».

«Στο μέλλον ίσως δούμε τις πρώτες λατρείες και θρησκείες στην ανθρώπινη ιστορία των οποίων τα σεβαστά κείμενα θα έχουν γραφτεί από κάποια μη ανθρώπινη νοημοσύνη. Φυσικά, οι θρησκείες σε όλη την ιστορία ισχυρίζονταν ότι τα ιερά τους βιβλία γράφτηκαν από κάποια άγνωστη ανθρώπινη νοημοσύνη. Αυτό δεν ίσχυε ποτέ πριν αλλά θα μπορούσε να γίνει αληθινό πολύ, πολύ γρήγορα, με εκτεταμένες συνέπειες. Οι μηχανές έχουν πλέον τα εργαλεία για να μας τοποθετήσουν σε ένα κουκούλι, σε έναν κόσμο ψευδαισθήσεων που θα μοιάζει με το Matrix» προειδοποίησε ο Χαράρι.

«Σε αντίθεση με ορισμένες θεωρίες συνωμοσίας, δεν χρειάζεται πραγματικά να εμφυτευθούν τσιπ στον εγκέφαλο των ανθρώπων για να τους ελεγχθούν ή να χειραγωγηθούν. Για χιλιάδες χρόνια προφήτες και πολιτικοί χρησιμοποιούσαν τη γλώσσα και την αφήγηση για να χειραγωγήσουν και να ελέγξουν τους ανθρώπους και να αναδιαμορφώσουν την κοινωνία. Τώρα η τεχνητή νοημοσύνη είναι πιθανό να μπορεί να το κάνει. Και από τη στιγμή που μπορεί δεν χρειάζεται να στείλει ρομπότ δολοφόνους για να μας πυροβολήσουν. Μπορεί να κάνει τους ανθρώπους να πατήσουν τη σκανδάλη μόνοι τους».

Ο Χαράρι εξέφρασε επίσης τη λύπη του για την κυκλοφορία εργαλείων τεχνητής νοημοσύνης στο κοινό χωρίς κανέναν έλεγχο.

«Με όλο τον σεβασμό προς τον Έλον Μασκ και τον (Μαρκ) Ζούκερμπεργκ ή τους άλλους ηγέτες μεγάλων εταιρειών τεχνολογίας, κανείς δεν τους εκλέγει, δεν εκπροσωπούν κανέναν παρά μόνο τους μετόχους τους και δεν υπάρχει λόγος να τους εμπιστευόμαστε», είπε ο Χαράρι.

Υποστηρίζει ότι η τεχνητή νοημοσύνη έχει ήδη «χακάρει» το λειτουργικό σύστημα του ανθρώπινου πολιτισμού

Οι φόβοι για την τεχνητή νοημοσύνη (ΑΙ) έχουν στοιχειώσει την ανθρωπότητα από την αρχή της εποχής των υπολογιστών. Μέχρι τώρα αυτοί οι φόβοι επικεντρώνονταν σε μηχανές που χρησιμοποιούν φυσικά μέσα για να σκοτώσουν, να υποδουλώσουν ή να αντικαταστήσουν ανθρώπους. Όμως τα τελευταία δύο χρόνια έχουν εμφανιστεί νέα εργαλεία τεχνητής νοημοσύνης που απειλούν την επιβίωση του ανθρώπινου πολιτισμού από μια απροσδόκητη κατεύθυνση. Η τεχνητή νοημοσύνη έχει αποκτήσει μερικές αξιοσημείωτες ικανότητες χειρισμού και δημιουργίας γλώσσας, είτε με λέξεις, ήχους ή εικόνες. Με τον τρόπο αυτόν έχει χακάρει το λειτουργικό σύστημα του πολιτισμού μας.

Η γλώσσα είναι το υλικό από το οποίο αποτελείται σχεδόν όλος ο ανθρώπινος πολιτισμός. Τα ανθρώπινα δικαιώματα, για παράδειγμα, δεν είναι εγγεγραμμένα στο DNA μας. Μάλλον, είναι πολιτιστικά αντικείμενα που δημιουργήσαμε λέγοντας ιστορίες και γράφοντας νόμους. Οι θεοί δεν είναι φυσικές πραγματικότητες. Μάλλον, είναι πολιτιστικά αντικείμενα που δημιουργήσαμε επινοώντας μύθους και γράφοντας «ιερές» γραφές.

Τα χρήματα, επίσης, είναι ένα πολιτιστικό τεχνούργημα. Τα τραπεζογραμμάτια είναι απλά πολύχρωμα κομμάτια χαρτιού και επί του παρόντος περισσότερο από το 90% των χρημάτων δεν είναι καν τραπεζογραμμάτια — είναι απλώς ψηφιακές πληροφορίες σε υπολογιστές. Αυτό που δίνει αξία στα χρήματα είναι οι ιστορίες που μας λένε γι’ αυτό τραπεζίτες, υπουργοί Οικονομικών και γκουρού κρυπτονομισμάτων. Ο Σαμ Μπάνκμαν-Φριντ, η Ελίζαμπεθ Χολμς και ο Μπέρνι Μάντοφ δεν ήταν ιδιαίτερα καλοί στη δημιουργία πραγματικής αξίας, αλλά ήταν όλοι εξαιρετικά ικανοί αφηγητές.

Τι θα συνέβαινε όταν μια μη ανθρώπινη νοημοσύνη γίνει καλύτερη από τον μέσο άνθρωπο στο να λέει ιστορίες, να συνθέτει μελωδίες, να σχεδιάζει εικόνες και να γράφει νόμους και γραφές; Όταν οι άνθρωποι σκέφτονται για το Chatgpt και άλλα νέα εργαλεία τενητής νοημοσύνης, συχνά προσελκύονται από παραδείγματα όπως τα παιδιά σχολικής ηλικίας που χρησιμοποιούν την τεχνητή νοημοσύνη για να γράψουν τα δοκίμιά τους. Τι θα συμβεί στο σχολικό σύστημα όταν τα παιδιά το κάνουν αυτό; Αλλά αυτού του είδους η ερώτηση χάνει τη μεγάλη εικόνα. Ξεχάστε τα σχολικά δοκίμια. Σκεφτείτε την επόμενη αμερικανική προεδρική κούρσα το 2024 και προσπαθήστε να φανταστείτε τον αντίκτυπο των εργαλείων τεχνητή νοημοσύνη που μπορούν να κατασκευαστούν για τη μαζική παραγωγή πολιτικού περιεχομένου, ψευδών ειδήσεων και «ιερών» γραφών για νέες αιρέσεις.

Τα τελευταία χρόνια η «αίρεση» qAnon έχει συσπειρωθεί γύρω από ανώνυμα διαδικτυακά μηνύματα, γνωστά ως “q drops”, σταγόνες q. Οι ακόλουθοι συνέλεξαν, λάτρεψαν και ερμήνευσαν αυτές τις σταγόνες q ως ιερά κείμενα. Ενώ από όσο γνωρίζουμε όλα τα προηγούμενα q drops συνέθεταν άνθρωποι και τα bots απλώς βοηθούσαν στη διάδοσή τους, στο μέλλον μπορεί να δούμε τις πρώτες αιρέσεις στην ιστορία των οποίων τα ιερά κείμενα γράφτηκαν από μια μη ανθρώπινη νοημοσύνη. Οι θρησκείες σε όλη την ιστορία έχουν διεκδικήσει μια μη ανθρώπινη πηγή για τα ιερά τους βιβλία. Σύντομα αυτό μπορεί να γίνει πραγματικότητα.

Σε ένα πιο πεζό επίπεδο, μπορεί σύντομα να βρεθούμε να διεξάγουμε μακροχρόνιες διαδικτυακές συζητήσεις σχετικά με την άμβλωση, την κλιματική αλλαγή ή τη ρωσική εισβολή στην Ουκρανία με οντότητες που πιστεύουμε ότι είναι άνθρωποι – αλλά στην πραγματικότητα είναι τεχνητή νοημοσύνη. Το πρόβλημά μας είναι ότι είναι εντελώς άσκοπο για εμάς να ξοδεύουμε χρόνο προσπαθώντας να αλλάξουμε τις δηλωμένες απόψεις ενός bot τεχνητής νοημοσύνης, ενώ η τεχνητή νοημοσύνη θα μπορούσε να τελειοποιήσει τα μηνύματά του με τόση ακρίβεια ώστε να έχει πολλές πιθανότητες να μας επηρεάσει.

Μέσω της δεξιοτεχνίας της στη γλώσσα, θα μπορούσε ακόμη και να δημιουργήσει στενές σχέσεις με τους ανθρώπους και να χρησιμοποιήσει τη δύναμη της οικειότητας για να αλλάξει τις απόψεις και τις κοσμοθεωρίες μας. Αν και δεν υπάρχει καμία ένδειξη ότι η τεχνητή νοημοσύνη έχει κάποια συνείδηση ​​ή συναισθήματα, για να καλλιεργηθεί η ψεύτικη οικειότητα με τους ανθρώπους αρκεί η τεχνητή νοημοσύνη να μπορεί να τους κάνει να αισθάνονται συναισθηματικά δεμένοι μαζί της. Τον Ιούνιο του 2022, ο μηχανικός της Google Μπλέικ Λεμόιν, ισχυρίστηκε δημόσια ότι το chatbot Lamda με τεχνητή νοημοσύνη, στο οποίο εργαζόταν, είχε γίνει ενσυνείδητο. Ο αμφιλεγόμενος ισχυρισμός του κόστισε τη δουλειά του. Το πιο ενδιαφέρον σε αυτό το επεισόδιο δεν ήταν ο ισχυρισμός του κ. Λεμόιν, ο οποίος ήταν μάλλον ψευδής. Αντίθετα, ήταν η προθυμία του να ρισκάρει την προσοδοφόρα δουλειά του για χάρη του chatbot τεχνητής νοημοσύνης. Εάν η τεχνητή νοημοσύνη μπορεί να επηρεάσει τους ανθρώπους να ρισκάρουν τις δουλειές τους για αυτήν, τι άλλο θα μπορούσε να τους παρακινήσει να κάνουν;

Σε μια πολιτική μάχη για «νόες και καρδιές» [σ.σ. όταν επιδιώκεται επικράτηση όχι με τη χρήση ισχύος, αλλά μέσω συναισθηματικών ή διανοητικών εκκλήσεων], η οικειότητα είναι το πιο αποτελεσματικό όπλο και μόλις απέκτησε την ικανότητα να παράγει μαζικά στενές σχέσεις με εκατομμύρια ανθρώπους. Όλοι γνωρίζουμε ότι την τελευταία δεκαετία τα μέσα κοινωνικής δικτύωσης έχουν γίνει πεδίο μάχης για τον έλεγχο της προσοχής των ανθρώπων. Με τη νέα γενιά τεχνητής νοημοσύνης, το μέτωπο της μάχης μετατοπίζεται από την προσοχή στην οικειότητα. Τι θα συμβεί στην ανθρώπινη κοινωνία και ψυχολογία όταν μια τεχνητή νοημοσύνη αντιπαλεύει με άλλη τεχνητή νοημοσύνη σε μια μάχη προσποιούμενες στενές σχέσεις με εμας, οι οποίες μπορούν στη συνέχεια να χρησιμοποιηθούν για να μας πείσουν να ψηφίσουμε συγκεκριμένους πολιτικούς ή να αγοράσουμε συγκεκριμένα προϊόντα;

Ακόμη και χωρίς τη δημιουργία «ψευδούς οικειότητας», τα νέα εργαλεία τεχνητής νοημοσύνης θα είχαν τεράστια επιρροή στις απόψεις και τις κοσμοθεωρίες μας. Οι άνθρωποι μπορεί να φτάσουν να χρησιμοποιούν έναν και μόνο σύμβουλο τεχνητής νοημοσύνης ως μαντείο, παντογνώστη. Δεν είναι περίεργο που η Google είναι τρομοκρατημένη. Γιατί να μπω στον κόπο να ψάξω, όταν μπορώ απλώς να ρωτήσω το μαντείο; Οι βιομηχανίες ειδήσεων και διαφήμισης θα πρέπει επίσης να τρομοκρατούνται. Γιατί να διαβάζω μια εφημερίδα όταν μπορώ απλώς να ζητήσω τον χρησμό του μαντείου για να μάθω τα τελευταία νέα; Και ποιος είναι ο σκοπός των διαφημίσεων, όταν μπορώ απλώς να ζητήσω από το μαντείο να μου πει τι να αγοράσω;

Και ακόμη και αυτά τα σενάρια δεν αποτυπώνουν πραγματικά τη μεγάλη εικόνα. Αυτό για το οποίο μιλάμε είναι δυνητικά το τέλος της ανθρώπινης ιστορίας. Όχι το τέλος της ιστορίας, απλώς το τέλος του ανθρωποκυριαρχούμενου μέρους της. Η ιστορία είναι η αλληλεπίδραση μεταξύ βιολογίας και πολιτισμού. Ανάμεσα στις βιολογικές μας ανάγκες και επιθυμίες για πράγματα όπως το φαγητό και το σεξ, και τις πολιτιστικές μας δημιουργίες όπως οι θρησκείες και οι νόμοι. Η ιστορία είναι η διαδικασία μέσω της οποίας νόμοι και θρησκείες διαμορφώνουν το φαγητό και το σεξ.

Τι θα συμβεί με την πορεία της ιστορίας όταν [η τεχνητή νοημοσύνη] αναλάβει τον πολιτισμό και αρχίσει να παράγει ιστορίες, μελωδίες, νόμους και θρησκείες; Προηγούμενα εργαλεία όπως το τυπογραφείο και το ραδιόφωνο βοήθησαν στη διάδοση των ανθρώπινων πολιτιστικών ιδεών, αλλά ποτέ δεν δημιούργησαν νέες δικές τους πολιτιστικές ιδέες. Η τεχνητή νοημοσύνη είναι κάτι θεμελιωδώς διαφορετικό. Μπορεί να δημιουργήσει εντελώς νέες ιδέες, εντελώς νέα κουλτούρα.

Στην αρχή, η τεχνητή νοημοσύνη πιθανότατα θα μιμηθεί τα ανθρώπινα πρότυπα πάνω στα οποία εκπαιδεύτηκε στα σπάργανα. Αλλά κάθε χρόνο που περνάει, η κουλτούρα της τεχνητής νοημοσύνης θα πηγαίνει με τόλμη εκεί που δεν έχει πάει κανένας άνθρωπος πριν [σ.σ. σλόγκαν από την τηλεοπτική σειρά Star Trek]. Για χιλιετίες τα ανθρώπινα όντα ζουν μέσα στα όνειρα άλλων ανθρώπων. Τις επόμενες δεκαετίες μπορεί να βρεθούμε να ζούμε μέσα στα όνειρα μιας εξωγήινης νοημοσύνης.

Ο φόβος της τεχνητής νοημοσύνης στοιχειώνει την ανθρωπότητα μόνο τις τελευταίες δεκαετίες. Αλλά για χιλιάδες χρόνια οι άνθρωποι στοιχειώνονται από έναν πολύ βαθύτερο φόβο. Πάντα αναγνωρίζαμε τη δύναμη των αφηγημάτων και των εικόνων να χειραγωγούν το μυαλό μας και να δημιουργούν ψευδαισθήσεις. Κατά συνέπεια, από την αρχαιότητα οι άνθρωποι φοβούνταν ότι θα παγιδευτούν σε έναν κόσμο ψευδαισθήσεων.

Τον 17ο αιώνα ο Ρενέ Ντεκάρτ (Καρτέσιος) φοβόταν ότι ίσως ένας κακόβουλος δαίμονας τον παγίδευε σε έναν κόσμο ψευδαισθήσεων, δημιουργώντας όλα όσα έβλεπε και άκουγε. Στην αρχαία Ελλάδα ο Πλάτων διηγήθηκε την περίφημη Αλληγορία του Σπηλαίου, στην οποία μια ομάδα ανθρώπων είναι αλυσοδεμένοι μέσα σε μια σπηλιά όλη τους τη ζωή, απέναντι από έναν κενό τοίχο, που είναι απλά μια ΟΘΟΝΗ. Σε αυτή την οθόνη βλέπουν να προβάλλονται διάφορες σκιές. Οι κρατούμενοι μπερδεύουν τις ψευδαισθήσεις που βλέπουν εκεί με την πραγματικότητα.

Στην αρχαία Ινδία, βουδιστές και ινδουιστές σοφοί επεσήμαναν ότι όλοι οι άνθρωποι ζούσαν παγιδευμένοι μέσα στους Μάγια – τον κόσμο των ψευδαισθήσεων. Αυτό που συνήθως θεωρούμε πραγματικότητα είναι συχνά απλώς μυθοπλασίες στο μυαλό μας. Οι άνθρωποι μπορεί να διεξάγουν ολόκληρους πολέμους, σκοτώνοντας άλλους ανθρώπους και πρόθυμοι να σκοτωθούν οι ίδιοι, λόγω της πίστης τους σε αυτή ή την άλλη ψευδαίσθηση.

Η επανάσταση της τεχνητής νοημοσύνης μας φέρνει αντιμέτωπους με τον δαίμονα του Ντεκάρτ, με τη σπηλιά του Πλάτωνα, με τους Μάγια. Αν δεν είμαστε προσεκτικοί, μπορεί να παγιδευτούμε πίσω από ένα παραπέτασμα ψευδαισθήσεων, το οποίο δεν θα μπορούσαμε να σκίσουμε – ή ακόμα και να συνειδητοποιήσουμε ότι βρίσκεται εκεί.

Φυσικά, η νέα ισχύς της τεχνητής νοημοσύνης θα μπορούσε να χρησιμοποιηθεί και για καλούς σκοπούς. Δεν θα σταθώ σε αυτό, γιατί οι άνθρωποι που το αναπτύσσουν μιλούν για αυτό αρκετά. Η δουλειά ιστορικών και φιλοσόφων όπως εγώ είναι να επισημαίνουν τους κινδύνους. Αλλά σίγουρα, η τεχνητή νοημοσύνη μπορεί να μας βοηθήσει με αμέτρητους τρόπους, από την εύρεση νέων θεραπειών για τον καρκίνο μέχρι την ανακάλυψη λύσεων για την οικολογική κρίση. Το ερώτημα που αντιμετωπίζουμε είναι πώς να διασφαλίσουμε ότι τα νέα εργαλεία τεχνητής νοημοσύνης χρησιμοποιούνται για καλό και όχι για κακό. Για να γίνει αυτό, πρέπει πρώτα να εκτιμήσουμε τις πραγματικές δυνατότητες αυτών των εργαλείων.

Από το 1945 γνωρίζουμε ότι η πυρηνική τεχνολογία θα μπορούσε να παράγει φθηνή ενέργεια προς όφελος των ανθρώπων — αλλά θα μπορούσε επίσης να καταστρέψει τον ανθρώπινο πολιτισμό. Ως εκ τούτου, αναμορφώσαμε ολόκληρη τη διεθνή τάξη για να προστατεύσουμε την ανθρωπότητα και να διασφαλίσουμε ότι η πυρηνική τεχνολογία θα χρησιμοποιηθεί κυρίως για καλό. Τώρα πρέπει να παλέψουμε με ένα νέο όπλο μαζικής καταστροφής που μπορεί να εκμηδενίσει τον ψυχικό και κοινωνικό μας κόσμο.

Μπορούμε ακόμα να ρυθμίσουμε τα νέα εργαλεία τεχνητής νοημοσύνης, αλλά πρέπει να δράσουμε γρήγορα. Ενώ τα πυρηνικά δεν μπορούν να εφεύρουν πιο ισχυρά πυρηνικά, η τεχνητή νοημοσύνη μπορεί να παράγει μια εκθετικά πιο ισχυρή τεχνητή νοημοσύνη. Το πρώτο κρίσιμο βήμα είναι να απαιτηθούν αυστηροί έλεγχοι ασφάλειας πριν κυκλοφορήσουν ισχυρά εργαλεία τεχνητής νοημοσύνης στον δημόσιο τομέα. Ακριβώς όπως μια φαρμακευτική εταιρεία δεν μπορεί να κυκλοφορήσει νέα φάρμακα πριν δοκιμάσει τις βραχυπρόθεσμες και μακροπρόθεσμες παρενέργειές τους, έτσι και οι εταιρείες τεχνολογίας δεν θα πρέπει να κυκλοφορούν νέα εργαλεία τεχνητής νοημοσύνης πριν γίνουν ασφαλή. Χρειαζόμαστε ένα ισοδύναμο της Υπηρεσίας Τροφίμων και Φαρμάκων για τη νέα τεχνολογία, και το χρειαζόμαστε χθες.

Η επιβράδυνση της ανάπτυξης από το κράτος τεχνητής νοημοσύνης δεν θα κάνει τις δημοκρατίες να υστερούν απέναντι σε πιο αδίστακτα αυταρχικά καθεστώτα; Ακριβώς το αντίθετο. Οι ανεξέλεγκτες αναπτύξεις τεχνητής νοημοσύνης θα δημιουργούσαν κοινωνικό χάος, το οποίο θα ωφελούσε τα αυταρχικά καθεστώτα και θα κατέστρεφε τις δημοκρατίες. Η δημοκρατία είναι συζήτηση και οι συνομιλίες βασίζονται στη γλώσσα. Όταν η τεχνητή νοημοσύνη χακάρει τη γλώσσα, θα μπορούσε να καταστρέψει την ικανότητά μας να έχουμε ουσιαστικές συνομιλίες, καταστρέφοντας έτσι τη δημοκρατία.

Μόλις ήρθε μια εξωγήινη νοημοσύνη, εδώ στη Γη. Δεν γνωρίζουμε πολλά για αυτό, εκτός από το ότι μπορεί να καταστρέψει τον πολιτισμό μας. Θα πρέπει να σταματήσουμε την ανεύθυνη ανάπτυξη εργαλείων τεχνητής νοημοσύνης στη δημόσια σφαίρα και να ρυθμίσουμε την τεχνητή νοημοσύνη πριν αυτή ρυθμίσει εμάς. Και ο πρώτος κανονισμός που θα πρότεινα είναι να καταστεί υποχρεωτικό για την τεχνητή νοημοσύνη να αποκαλύπτει ότι είναι τεχνητή νοημοσύνη. Αν συνομιλώ με κάποιον και δεν μπορώ να πω αν είναι άνθρωπος ή τεχνητή νοημοσύνη – αυτό είναι το τέλος της δημοκρατίας.

*Ο Γιουβάλ Νόα Χαράρι είναι ιστορικός, φιλόσοφος και συγγραφέας των «Sapiens», «Homo Deus» και της παιδικής σειράς «Unstoppable Us». Είναι λέκτορας στο τμήμα ιστορίας του Εβραϊκού Πανεπιστημίου της Ιερουσαλήμ και συνιδρυτής της Sapienship, μιας εταιρείας κοινωνικού αντίκτυπου.

primenews

"google ad"

Ακολουθήστε το agonaskritis.gr στο Google News, στο facebook και στο twitter και μάθετε πρώτοι όλες τις ειδήσεις

Αγώνας της Κρήτηςhttp://bit.ly/agonaskritis
Ο “Αγώνας της Κρήτης” εκδόθηκε στις 8 Ιουλίου του 1981. Είναι η έκφραση μιας πολύχρονης αγωνιστικότητας. Έμεινε όλα αυτά τα χρόνια σταθερός στη διακήρυξή του για έγκυρη – έγκαιρη ενημέρωση χωρίς παρωπίδες. Υπηρετεί και προβάλλει, με ευρύτητα αντίληψης, αξίες και οράματα για μία καλύτερη κοινωνία. Η βασική αρχή είναι η κριτική στην εξουσία όποια κι αν είναι αυτή, ιδιαίτερα στα σημεία που παρεκτρέπεται από τα υποσχημένα, που μπερδεύεται με τη διαφθορά, που διαφθείρεται και διαφθείρει. Αυτός είναι και ο βασικός λόγος που η εφημερίδα έμεινε μακριά από συσχετισμούς και διαπλοκές, μακριά από μεθοδεύσεις και ίντριγκες.

Τελευταία Νέα

Περισσότερα σαν αυτό
ΕΠΙΚΑΙΡΟΤΗΤΑ

Κρήτη: Εξαντλημένη, κάτω από ένα λιόφυτο, βρήκαν οι Σαμαρείτες την 75χρονη που χάθηκε!

Εμφανώς εξαντλημένη αλλά σώα, βρέθηκε ξαπλωμένη σε ένα λιόφυτο,...

Γαύδος: Νέα επιχείρηση απομάκρυνσης των “survivors” από το νησί

Την απομάκρυνση των παραπηγμάτων ή «δεντρόσπιτων» όπως τα λένε...

Ελαιόλαδο «χρυσάφι» εκτινάσσει τις τιμές στα τρόφιμα

Η ακρίβεια στα τρόφιμα, λόγω των υψηλών τιμών που έχουν...