Μέσα στις πολλές συζητήσεις γύρω από την αλματώδη ανάπτυξη της λεγόμενης τεχνητής νοημοσύνης, υπάρχει μια σχετικά σκοτεινή αψιμαχία που επικεντρώνεται στην επιλογή της λέξης «ψευδαίσθηση».
Αυτός είναι ο όρος στον οποίο έχουν καταλήξει οι αρχιτέκτονες και οι υποστηρικτές της δημιουργικής τεχνητής νοημοσύνης για να χαρακτηρίσουν τις απαντήσεις που σερβίρουν τα chatbots και οι οποίες είναι εντελώς κατασκευασμένες ή εντελώς λανθασμένες. Όπως, για παράδειγμα, όταν ζητάτε από ένα ρομπότ έναν ορισμό για κάτι που δεν υπάρχει και αυτό, μάλλον πειστικά, σας δίνει έναν ορισμό, μαζί με κατασκευασμένες υποσημειώσεις.
«Κανείς στον τομέα αυτό δεν έχει λύσει ακόμη τα προβλήματα ψευδαισθήσεων», δήλωσε πρόσφατα ο Σούνταρ Πιτσάι, ο διευθύνων σύμβουλος της Google και της Alphabet, σε συνέντευξή του.
Αυτό είναι αλήθεια – αλλά γιατί να αποκαλούνται τα λάθη «ψευδαισθήσεις»; Γιατί όχι αλγοριθμικά σκουπίδια; Ή δυσλειτουργίες; Λοιπόν, οι ψευδαισθήσεις αναφέρονται στη μυστηριώδη ικανότητα του ανθρώπινου εγκεφάλου να αντιλαμβάνεται φαινόμενα που δεν υπάρχουν, τουλάχιστον όχι με συμβατικούς, υλιστικούς όρους. Οικειοποιούμενοι μια λέξη που χρησιμοποιείται συνήθως στην ψυχολογία και τις διάφορες μορφές μυστικισμού, οι υποστηρικτές της τεχνητής νοημοσύνης, ενώ αναγνωρίζουν την αστοχία των μηχανών τους, τροφοδοτούν ταυτόχρονα την πιο αγαπημένη μυθολογία του τομέα: ότι με τη δημιουργία αυτών των μεγάλων γλωσσικών μοντέλων και την εκπαίδευσή τους σε όλα όσα έχουμε γράψει, πει και αναπαραστήσει οπτικά εμείς οι άνθρωποι, βρίσκονται στη διαδικασία γέννησης μιας έμψυχης νοημοσύνης που βρίσκεται στο κατώφλι ενός εξελικτικού άλματος για το είδος μας.
Ωστόσο, στον κόσμο της τεχνητής νοημοσύνης όντως παρατηρούνται παραληρητικές ψευδαισθήσεις – όμως δεν είναι τα ρομπότ που τις έχουν, αλλά οι διευθύνοντες σύμβουλοι τεχνολογίας που τις διέδωσαν, μαζί με μια φάλαγγα από οπαδούς τους, οι οποίοι βρίσκονται στη δίνη άγριων ψευδαισθήσεων, τόσο ατομικά όσο και συλλογικά. Εδώ, ορίζω τις ψευδαισθήσεις -όχι με τη μυστικιστική ή ψυχεδελική έννοια- καταστάσεις αλλαγής του νου που μπορούν πράγματι να βοηθήσουν στην πρόσβαση σε βαθιές, προηγουμένως μη αντιληπτές αλήθειες. Όχι. Αυτοί οι τύποι απλώς τριπάρουν: βλέπουν, ή τουλάχιστον ισχυρίζονται ότι βλέπουν, στοιχεία που δεν υπάρχουν καθόλου, δημιουργούν ακόμη και ολόκληρους κόσμους που θα χρησιμοποιήσουν τα προϊόντα τους για την παγκόσμια «ανύψωση» και εκπαίδευσή μας.
Η δημιουργική τεχνητή νοημοσύνη θα βάλει τέλος στη φτώχεια, μας λένε. Θα θεραπεύσει όλες τις ασθένειες. Θα λύσει την κλιματική αλλαγή. Θα κάνει τις δουλειές μας πιο ουσιαστικές και συναρπαστικές. Θα απελευθερώσει ζωές αναψυχής και περισυλλογής, βοηθώντας μας να ανακτήσουμε την ανθρωπιά που χάσαμε από την ύστερη καπιταλιστική μηχανοποίηση. Θα δώσει τέλος στη μοναξιά. Θα κάνει τις κυβερνήσεις μας ορθολογικές και ευέλικτες. Αυτά, φοβάμαι, είναι οι πραγματικές ψευδαισθήσεις της τεχνητής νοημοσύνης και τις ακούμε όλοι σε επανάληψη από τότε που ξεκίνησε το Chat GPT στα τέλη του περασμένου έτους.
Υπάρχει ένας κόσμος στον οποίο η δημιουργική τεχνητή νοημοσύνη, ως ισχυρό εργαλείο πρόβλεψης και εκτέλεσης κουραστικών εργασιών, θα μπορούσε πράγματι να χρησιμοποιηθεί προς όφελος της ανθρωπότητας. Αλλά για να συμβεί αυτό, οι τεχνολογίες αυτές θα πρέπει να αναπτυχθούν μέσα σε ένα πολύ διαφορετικό οικονομικό και κοινωνικό σύστημα από το δικό μας, ένα σύστημα που θα έχει ως σκοπό την ικανοποίηση των ανθρώπινων αναγκών και την προστασία κάθε είδους ζωής.
Και όπως καλά καταλαβαίνουν όσοι από εμάς παραμένουν νηφάλιοι, το σημερινό μας σύστημα δεν έχει καμία σχέση με αυτό. Αντίθετα, είναι φτιαγμένο για να μεγιστοποιεί την απόσπαση πλούτου και κέρδους τόσο από τους ανθρώπους όσο και από τη φύση, μια πραγματικότητα που μας έχει φέρει σε αυτό που θα μπορούσαμε να σκεφτούμε ως το στάδιο τεχνολογικής νεκρικής ακαμψίας του καπιταλισμού. Σε αυτή την πραγματικότητα της υπερσυγκεντρωμένης εξουσίας και του πλούτου, η τεχνητή νοημοσύνη απέχει πολύ από το να ανταποκριθεί σε όλες αυτές τις ουτοπικές ψευδαισθήσεις – είναι πολύ πιο πιθανό να γίνει ένα τρομακτικό εργαλείο περαιτέρω στέρησης και λεηλασίας.
Θα ερευνήσω γιατί συμβαίνει αυτό. Αλλά πρώτα, είναι χρήσιμο να σκεφτούμε τον σκοπό που εξυπηρετούν οι ουτοπικές ψευδαισθήσεις για την τεχνητή νοημοσύνη. Τι έργο επιτελούν αυτές οι καλοπροαίρετες ιστορίες στην κουλτούρα καθώς συναντάμε αυτά τα παράξενα νέα εργαλεία;
Η «δημιουργική» κλοπή της πνευματικής ιδιοκτησίας
Να μια υπόθεση: είναι οι ισχυρές και δελεαστικές ιστορίες συγκάλυψης για αυτό που μπορεί να αποδειχθεί η μεγαλύτερη και πιο συνεπακόλουθη κλοπή στην ανθρώπινη ιστορία. Διότι αυτό που παρακολουθούμε είναι οι πλουσιότερες εταιρείες στην ιστορία (Microsoft, Apple, Google, Meta, Amazon, κτλ ) να αρπάζουν μονομερώς το σύνολο της ανθρώπινης γνώσης που υπάρχει σε ψηφιακή, αξιοποιήσιμη μορφή και να το περιφράσσουν μέσα σε ιδιόκτητα προϊόντα, πολλά από τα οποία θα στοχεύουν ευθέως τους ανθρώπους των οποίων η ισόβια εργασία εκπαίδευσε τις μηχανές, χωρίς να δώσουν την άδεια ή τη συγκατάθεσή τους.
Αυτό δεν θα έπρεπε να είναι νόμιμο. Στην περίπτωση του υλικού που προστατεύεται από πνευματικά δικαιώματα και που πλέον γνωρίζουμε ότι σε αυτά εκπαιδεύτηκαν τα μοντέλα τεχνητής νοημοσύνης, έχουν κατατεθεί διάφορες αγωγές που θα υποστηρίξουν ότι αυτό ήταν σαφώς παράνομο. Γιατί, για παράδειγμα, θα πρέπει να επιτρέπεται σε μια κερδοσκοπική εταιρεία να τροφοδοτεί τους πίνακες, τα σχέδια και τις φωτογραφίες καλλιτεχνών εν ζωή σε ένα πρόγραμμα όπως το Stable Diffusion ή το Dall-E 2, ώστε να μπορεί στη συνέχεια να χρησιμοποιηθεί για να δημιουργήσει εκδοχές- σωσίες των έργων των καλλιτεχνών, με τα οφέλη να εισρέουν σε όλους εκτός από τους ίδιους τους καλλιτέχνες;
Η ζωγράφος και εικονογράφος Μόλι Κρέιμπαπλ συμμετέχει ενεργά σε ένα κίνημα για αυτή την κλοπή. «Η δημιουργική τεχνητή νοημοσύνη που σχετίζεται με τη τέχνη εκπαιδεύονται σε τεράστια σύνολα δεδομένων, τα οποία περιέχουν εκατομμύρια έργα και εκατομμύρια εικόνες που προστατεύονται από πνευματικά δικαιώματα και συλλέγονται χωρίς τη γνώση του δημιουργού τους, πόσο μάλλον χωρίς αποζημίωση ή συγκατάθεση. Πρόκειται ουσιαστικά για τη μεγαλύτερη ληστεία τέχνης στην ιστορία. Διαπράττεται από εταιρικές οντότητες που φαίνονται αξιοσέβαστες και υποστηρίζονται από επιχειρηματικά κεφάλαια της Σίλικον Βάλεϊ. Πρόκειται για ληστεία στο φως της ημέρας», αναφέρει μια νέα ανοιχτή επιστολή που συνέταξε.
Το κόλπο, βέβαια, είναι ότι η Σίλικον Βάλεϊ συνήθως αποκαλεί την κλοπή «διατάραξη» – και πολύ συχνά τη γλιτώνει. Ο τρόπος είναι γνωστός: ορμάς σε άνομο έδαφος, ισχυρίζεσαι ότι οι παλιοί κανόνες δεν ισχύουν για τη νέα σου τεχνολογία, φωνάζεις ότι ένα ρυθμιστικό πλαίσιο θα ωφελήσει την Κίνα.
Μέχρι να ξεπεράσουμε όλοι την καινοτομία αυτών των νέων παιχνιδιών και να αρχίσουμε να κάνουμε απολογισμό των κοινωνικών, πολιτικών και οικονομικών καταστροφών, η τεχνολογία είναι ήδη τόσο διαδεδομένη που τα δικαστήρια και οι υπεύθυνοι χάραξης πολιτικής σηκώνουν τα χέρια ψηλά.
Το είδαμε με τη σάρωση βιβλίων και έργων τέχνης της Google. Με τον αποικισμό του διαστήματος από τον Μασκ. Με την επίθεση της Uber στον κλάδο των ταξί. Με την επίθεση της Airbnb στην αγορά ενοικίασης. Με την ασυδοσία του Facebook με τα δεδομένα μας. «Μην ζητάτε άδεια, ζητήστε συγχώρεση» αρέσκονται να λένε οι εκπρόσωποι αυτής της καινοτομίας, προσφέροντας παράλληλα γενναιόδωρη προεκλογική στήριξη.
Στο βιβλίο The Age of Surveillance Capitalism (Η εποχή του καπιταλισμού της επιτήρησης), η Σοσάνα Ζούμποφ περιγράφει με λεπτομέρεια πώς οι χάρτες Street View της Google ξεπέρασαν τους κανόνες προστασίας της ιδιωτικής ζωής, στέλνοντας τα αυτοκίνητά της με τις κάμερες να φωτογραφίζουν τους δημόσιους δρόμους και τους εξωτερικούς χώρους των σπιτιών μας. Μέχρι να ξεκινήσουν οι αγωγές για την υπεράσπιση των δικαιωμάτων της ιδιωτικής ζωής, το Street View ήταν ήδη τόσο πανταχού παρόν στις συσκευές μας (και τόσο ωραίο, και τόσο βολικό …) που ελάχιστα δικαστήρια ήταν πρόθυμα να παρέμβουν.
Τώρα το ίδιο πράγμα συμβαίνει στις λέξεις, τις εικόνες, τα τραγούδια μας, σε ολόκληρη την ψηφιακή μας ζωή. Επί του παρόντος όλα κατασχέθηκαν και χρησιμοποιούνται για να εκπαιδεύσουν τις μηχανές να προσομοιώνουν τη σκέψη και τη δημιουργικότητα. Αυτές οι εταιρείες πρέπει να γνωρίζουν ότι εμπλέκονται σε κλοπή, ή τουλάχιστον ότι μπορεί να διατυπωθεί μια ισχυρή υπόθεση ότι το κάνουν. Απλώς ελπίζουν ότι το παλιός δοκιμασμένος τρόπος λειτουργεί για άλλη μια φορά – ότι η κλίμακα της ληστείας είναι ήδη τόσο μεγάλη και εξελίσσεται με τέτοια ταχύτητα ώστε τα δικαστήρια και οι υπεύθυνοι χάραξης πολιτικής θα σηκώσουν για άλλη μια φορά τα χέρια ψηλά μπροστά στο υποτιθέμενο αναπόφευκτο όλων αυτών.
Είναι επίσης ο λόγος για τον οποίο οι ψευδαισθήσεις τους για όλα τα υπέροχα πράγματα που θα κάνει η τεχνητή νοημοσύνη για την ανθρωπότητα είναι τόσο σημαντικές. Επειδή αυτοί οι υψηλοί ισχυρισμοί μεταμφιέζουν αυτή τη μαζική κλοπή ως δώρο – την ίδια στιγμή που βοηθούν στον εξορθολογισμό των αναμφισβήτητων κινδύνων της τεχνητής νοημοσύνης.
Μέχρι τώρα, οι περισσότεροι από εμάς έχουμε ακούσει για την έρευνα που ζήτησε από τους ερευνητές και τους προγραμματιστές τεχνητής νοημοσύνης να εκτιμήσουν την πιθανότητα τα προηγμένα συστήματα τεχνητής νοημοσύνης να προκαλέσουν «την εξαφάνιση του ανθρώπου ή παρόμοια μόνιμη και σοβαρή αποδυνάμωση του ανθρώπινου είδους». Η απάντηση ανατριχιαστική, ότι υπάρχει πιθανότητα 10%.
Πώς μπορεί κανείς να εκλογικεύσει το να πηγαίνει στη δουλειά του και να προωθεί εργαλεία που ενέχουν τέτοιους υπαρξιακούς κινδύνους; Συχνά, ο λόγος που δίνεται είναι ότι αυτά τα συστήματα φέρουν επίσης τεράστια δυνητικά πλεονεκτήματα – μόνο που αυτά τα πλεονεκτήματα είναι, ως επί το πλείστον, ψευδαισθήσεις.
Ψευδαίσθηση 1η: Η τεχνητή νοημοσύνη θα δώσει λύση στην κλιματική κρίση
Σχεδόν πάντα στην κορυφή των καταλόγων των πλεονεκτημάτων της τεχνητής νοημοσύνης βρίσκεται ο ισχυρισμός ότι τα συστήματα αυτά θα λύσουν με κάποιο τρόπο την κλιματική κρίση. Το έχουμε ακούσει από το Παγκόσμιο Οικονομικό Φόρουμ μέχρι το Συμβούλιο Εξωτερικών Σχέσεων και την Boston Consulting Group, η οποία εξηγεί ότι η τεχνητή νοημοσύνη «μπορεί να χρησιμοποιηθεί για να υποστηρίξει όλους τους ενδιαφερόμενους φορείς στην υιοθέτηση μιας πιο τεκμηριωμένης και βασισμένης στα δεδομένα προσέγγισης για την καταπολέμηση των εκπομπών διοξειδίου του άνθρακα και την οικοδόμηση μιας πιο πράσινης κοινωνίας. Μπορεί επίσης να χρησιμοποιηθεί για την αναπροσαρμογή της βαρύτητας των παγκόσμιων κλιματικών προσπαθειών προς τις περιοχές που διατρέχουν τον μεγαλύτερο κίνδυνο».
Ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιντ, συνόψισε την όλη υπόθεση όταν δήλωσε στο Atlantic ότι οι κίνδυνοι της τεχνητής νοημοσύνης αξίζει να αναληφθούν, διότι «αν σκεφτείτε τα μεγαλύτερα προβλήματα στον κόσμο, είναι όλα πολύ δύσκολα – κλιματική αλλαγή, ανθρώπινες οργανώσεις κ.λπ. Και γι’ αυτό, θέλω πάντα οι άνθρωποι να είναι πιο έξυπνοι».
Βάσει αυτού του σκεπτικού, η αποτυχία «επίλυσης» μεγάλων προβλημάτων όπως η κλιματική αλλαγή οφείλεται σε έλλειμμα νοημοσύνης. Δεν έχει σημασία ότι οι έξυπνοι άνθρωποι, με διδακτορικά και βραβεία Νόμπελ, λένε στις κυβερνήσεις μας εδώ και δεκαετίες τι πρέπει να γίνει για να βγούμε από αυτό το χάλι: να μειώσουμε τις εκπομπές μας, να αφήσουμε τον άνθρακα στο έδαφος, να αντιμετωπίσουμε την υπερκατανάλωση των πλουσίων και την υποκατανάλωση των φτωχών, επειδή καμία πηγή ενέργειας δεν είναι απαλλαγμένη από οικολογικό κόστος.
Ο λόγος για τον οποίο αγνοήθηκε αυτή η πολύ έξυπνη συμβουλή, δεν οφείλεται σε κάποιο πρόβλημα κατανόησης ή στο ότι χρειαζόμαστε κατά κάποιο τρόπο μηχανές να κάνουν τη σκέψη μας για εμάς. Είναι επειδή το να κάνουμε αυτό που απαιτεί από εμάς η κλιματική κρίση θα δεσμεύσει περιουσιακά στοιχεία ορυκτών καυσίμων αξίας τρισεκατομμυρίων δολαρίων, ενώ θα αμφισβητήσει το μοντέλο ανάπτυξης που βασίζεται στην κατανάλωση και βρίσκεται στην καρδιά των διασυνδεδεμένων οικονομιών μας. Η κλιματική κρίση δεν είναι, στην πραγματικότητα, ένα μυστήριο ή ένας γρίφος που δεν έχουμε ακόμη λύσει λόγω ανεπαρκώς αξιόπιστων συνόλων δεδομένων. Ξέρουμε τι θα χρειαζόταν, αλλά δεν είναι μια γρήγορη λύση – είναι μια αλλαγή παραδείγματος. Το να περιμένουμε από τις μηχανές να μας δώσουν μια πιο εύπεπτη ή/και κερδοφόρα απάντηση δεν αποτελεί θεραπεία για την κρίση, αλλά ένα ακόμη σύμπτωμά της.
Αν δούμε τα πράγματα χωρίς ψευδαισθήσεις, είναι πολύ πιο πιθανό η τεχνητή νοημοσύνη να εντείνει την κλιματική κρίση.
Πρώτον, οι γιγάντιοι διακομιστές που καθιστούν τις εκθέσεις και τα έργα τέχνης άμεσα διαθέσιμα προς επεξεργασία στα chatbots, είναι μια τεράστια και αυξανόμενη πηγή εκπομπών διοξειδίου του άνθρακα.
Δεύτερον, καθώς εταιρείες όπως η Coca-Cola αρχίζουν να κάνουν τεράστιες επενδύσεις για να χρησιμοποιήσουν τη δημιουργική τεχνητή νοημοσύνη για να πουλήσουν περισσότερα προϊόντα, γίνεται ολοένα και πιο σαφές ότι αυτή η νέα τεχνολογία θα χρησιμοποιηθεί με τους ίδιους τρόπους όπως και η τελευταία γενιά ψηφιακών εργαλείων: ότι αυτό που ξεκινάει με μεγαλόστομες υποσχέσεις για την εξάπλωση της ελευθερίας και της δημοκρατίας καταλήγει σε μικροσκοπική στόχευση διαφημίσεων σε εμάς, ώστε να αγοράζουμε περισσότερα άχρηστα πράγματα που εκτοξεύουν άνθρακα.
Και υπάρχει και ένας τρίτος παράγοντας, ο οποίος είναι λίγο πιο δύσκολο να προσδιοριστεί. Όσο περισσότερο τα μέσα μαζικής ενημέρωσης κατακλύζονται από βαθιές απομιμήσεις και κλώνους διαφόρων ειδών, τόσο περισσότερο έχουμε την αίσθηση ότι βουλιάζουμε στην πληροφοριακή κινούμενη άμμο. Ο Τζέφρι Χίντον, που συχνά αναφέρεται ως «ο νονός της τεχνητής νοημοσύνης» επειδή το νευρωνικό δίκτυο που ανέπτυξε πριν από μια δεκαετία που πλέον αποτελεί δομικό στοιχείο των σημερινών μεγάλων γλωσσικών μοντέλων, το καταλαβαίνει καλά αυτό. Πρόσφατα παραιτήθηκε από έναν ανώτερο ρόλο στην Google, ώστε να μπορεί να μιλάει ελεύθερα για τους κινδύνους της τεχνολογίας που βοήθησε να δημιουργηθεί, συμπεριλαμβανομένου, όπως δήλωσε στους New York Times, του κινδύνου ότι οι άνθρωποι «δεν θα είναι πλέον σε θέση να γνωρίζουν τι είναι αλήθεια».
Αυτό είναι εξαιρετικά σχετικό με τον ισχυρισμό ότι η τεχνητή νοημοσύνη θα βοηθήσει στην καταπολέμηση της κλιματικής κρίσης. Διότι όταν είμαστε δύσπιστοι απέναντι σε ό,τι διαβάζουμε και βλέπουμε στο όλο και πιο αλλόκοτο περιβάλλον των μέσων μαζικής ενημέρωσης, γινόμαστε ακόμη λιγότερο εξοπλισμένοι για να λύσουμε πιεστικά συλλογικά προβλήματα. Η κρίση εμπιστοσύνης προϋπήρχε του ChatGPT, φυσικά, αλλά δεν υπάρχει αμφιβολία ότι ο πολλαπλασιασμός των βαθιών πλαστογραφιών θα συνοδευτεί από μια εκθετική αύξηση των ήδη ακμάζουσας συνωμοσιολογικής «κουλτούρας» . Τι διαφορά θα έχει λοιπόν αν η τεχνητή νοημοσύνη έρθει με τεχνολογικές και επιστημονικές ανακαλύψεις; Αν ο ιστός της κοινής πραγματικότητας ξετυλίγεται στα χέρια μας, θα βρεθούμε ανίκανοι να ανταποκριθούμε με οποιαδήποτε συνοχή.
Ψευδαίσθηση 2η: Η τεχνητή νοημοσύνη θα προσφέρει σοφή διακυβέρνηση
Αυτή η ψευδαίσθηση επικαλείται ένα κοντινό μέλλον στο οποίο οι πολιτικοί και οι γραφειοκράτες, βασιζόμενοι στην τεράστια συσσωρευμένη νοημοσύνη των συστημάτων τεχνητής νοημοσύνης, θα είναι σε θέση «να βλέπουν τα μοτίβα των αναγκών και να αναπτύσσουν προγράμματα βασισμένα σε αποδείξεις» που έχουν μεγαλύτερα οφέλη για τους ψηφοφόρους τους. Αυτός ο ισχυρισμός προέρχεται από ένα έγγραφο που δημοσιεύθηκε από το ίδρυμα Boston Consulting Group, αλλά βρίσκει ανταπόκριση από άλλα think tank και εταιρείες συμβούλων διαχείρισης. Και είναι χαρακτηριστικό ότι αυτές οι συγκεκριμένες εταιρείες -οι εταιρείες που προσλαμβάνονται από κυβερνήσεις και άλλες εταιρείες για να εντοπίσουν την εξοικονόμηση κόστους, συχνά με την απόλυση μεγάλου αριθμού εργαζομένων- έχουν πηδήξει πιο γρήγορα στο άρμα της τεχνητής νοημοσύνης. Η PwC (πρώην PricewaterhouseCoopers) μόλις ανακοίνωσε επένδυση ύψους 1 δισ. δολαρίων, και η Bain & Company καθώς και η Deloitte φέρονται να είναι ενθουσιασμένες με τη χρήση αυτών των εργαλείων για να κάνουν τους πελάτες τους πιο «αποδοτικούς».
Όπως και με τους ισχυρισμούς για το κλίμα, είναι απαραίτητο να αναρωτηθούμε: μήπως ο λόγος που οι πολιτικοί επιβάλλουν σκληρές και αναποτελεσματικές πολιτικές είναι ότι πάσχουν από έλλειψη στοιχείων; Μια ανικανότητα να «δουν μοτίβα», όπως υποδηλώνει το έγγραφο της BCG; Μήπως δεν κατανοούν το ανθρώπινο κόστος της λιμοκτονίας, την ανάγκη δημόσιας υγειονομικής περίθαλψης εν μέσω πανδημιών, ή της αποτυχίας να επενδύσουν σε μη αγοραίες κατοικίες όταν οι σκηνές γεμίζουν τα αστικά μας πάρκα, ή της έγκρισης νέων υποδομών ορυκτών καυσίμων ενώ οι θερμοκρασίες ανεβαίνουν στα ύψη; Χρειάζονται τεχνητή νοημοσύνη για να γίνουν «εξυπνότεροι» – ή είναι ακριβώς αρκετά έξυπνοι ώστε να γνωρίζουν ποιος θα χρηματοδοτήσει την επόμενη εκστρατεία τους ή, αν ξεστρατίσουν, θα χρηματοδοτήσει τους αντιπάλους τους;
Θα ήταν φοβερά ωραίο αν η τεχνητή νοημοσύνη μπορούσε πραγματικά να αποκόψει τη σύνδεση μεταξύ των εταιρικών χρημάτων και της απερίσκεπτης χάραξης πολιτικής – αλλά αυτή η σύνδεση έχει να κάνει με το γιατί εταιρείες όπως η Google και η Microsoft είχαν τη δυνατότητα να διαθέσουν τα chatbots τους στο κοινό – παρά τη χιονοστιβάδα των προειδοποιήσεων και τους γνωστούς κινδύνους. Πέρυσι, οι κορυφαίες εταιρείες τεχνολογίας δαπάνησαν το ποσό ρεκόρ των 70 εκατομμυρίων δολαρίων για να ασκήσουν λόμπι στην Ουάσιγκτον – περισσότερα από τον τομέα πετρελαίου και φυσικού αερίου – και το ποσό αυτό, σημειώνει το Bloomberg News, είναι επιπλέον των εκατομμυρίων που δαπανήθηκαν «για το ευρύ φάσμα των εμπορικών ομάδων, των μη κερδοσκοπικών οργανισμών και των think tanks».
Και όμως, παρά τη βαθιά γνώση τους για το πώς ακριβώς το χρήμα διαμορφώνει την πολιτική, όταν ακούτε τον Σαμ Άλτμαν -διευθύνοντα σύμβουλο της OpenAI και κατασκευαστή του ChatGPT- να μιλάει για τα καλύτερα σενάρια για τα προϊόντα του, όλα αυτά ξεχνιούνται. Αντ’ αυτού, φαίνεται να φαντάζεται έναν κόσμο εντελώς διαφορετικό από τον δικό μας, έναν κόσμο στον οποίο οι πολιτικοί και η βιομηχανία λαμβάνουν αποφάσεις με βάση τα καλύτερα δεδομένα και δεν θα έθεταν ποτέ σε κίνδυνο αμέτρητες ζωές για το κέρδος και το γεωπολιτικό πλεονέκτημα. Το οποίο μας φέρνει σε μια άλλη παραίσθηση.
Ψευδαίσθηση 3η: Μπορούμε να εμπιστευτούμε τους τεχνολογικούς κολοσσούς
Ερωτηθείς αν ανησυχεί για την ξέφρενη πορεία που ήδη διαγράφεται στον προσοδοφόρο τομέα της τεχνητής νοημοσύνης μετά το ChatGPT, ο Άλτμαν είπε ότι ανησυχεί, αλλά πρόσθεσε με αισιοδοξία: «Ελπίζω ότι όλα θα πάνε καλά».
Σχετικά με τους συναδέλφους του, τους διευθύνοντες συμβούλους τεχνολογίας -αυτούς που ανταγωνίζονται για να βγάλουν γρήγορα τα αντίπαλα chatbots τους- είπε: «Νομίζω ότι οι καλύτεροι άγγελοι θα νικήσουν».
Οι καλύτεροι άγγελοι; Στην Google; Είμαι αρκετά σίγουρη ότι η εταιρεία απέλυσε τους περισσότερους από αυτούς επειδή δημοσίευαν επικριτικές απόψεις σχετικά με την τεχνητή νοημοσύνη ή εγκαλούσαν την εταιρεία για ρατσισμό και σεξουαλική παρενόχληση στον εργασιακό χώρο. Σε αντίθεση με τις ψευδαισθήσεις των ανθρώπων που επωφελούνται περισσότερο από την Τεχνητή Νοημοσύνη, η Google δεν λαμβάνει αποφάσεις με βάση το τι είναι καλύτερο για τον κόσμο – λαμβάνει αποφάσεις με βάση το τι είναι καλύτερο για τους μετόχους της Alphabet, οι οποίοι δεν θέλουν να χάσουν την τελευταία φούσκα, όχι όταν η Microsoft, η Meta και η Apple είναι ήδη εντός της.
Ψευδαίσθηση 4η: Η τεχνητή νοημοσύνη θα μας απελευθερώσει από την αγγαρεία
Αν οι καλοπροαίρετες παραισθήσεις της Σίλικον Βάλεϊ φαίνονται αληθοφανείς σε πολλούς, υπάρχει ένας απλός λόγος γι’ αυτό.
Η δημιουργική τεχνητή νοημοσύνη βρίσκεται επί του παρόντος σε αυτό που θα μπορούσαμε να θεωρήσουμε ως το στάδιο του ψευτο-σοσιαλισμού. Αυτό αποτελεί μέρος ενός γνωστού πλέον εγχειριδίου της Σίλικον Βάλεϊ.
Πρώτον, δημιουργήστε ένα ελκυστικό προϊόν: μια μηχανή αναζήτησης, ένα εργαλείο χαρτογράφησης, ένα κοινωνικό δίκτυο, μια πλατφόρμα βίντεο, ένα ride share, κτλ.
Δώστε το δωρεάν ή σχεδόν δωρεάν για μερικά χρόνια, χωρίς διακριτό βιώσιμο επιχειρηματικό μοντέλο. «Παίξτε με τα ρομπότ», μας λένε, «δείτε τι διασκεδαστικά πράγματα μπορείτε να δημιουργήσετε!».
Στη συνέχεια, παρακολουθήστε τους ανθρώπους να εθίζονται χρησιμοποιώντας αυτά τα δωρεάν εργαλεία και τους ανταγωνιστές σας να κηρύσσουν πτώχευση. Μόλις το πεδίο είναι ελεύθερο, εισαγάγετε τις στοχευμένες διαφημίσεις, τη συνεχή επιτήρηση, τα αστυνομικά και στρατιωτικά συμβόλαια, τις πωλήσεις δεδομένων στο μαύρο κουτί και τις κλιμακούμενες συνδρομές.
Πολλές ζωές και τομείς έχουν αποδεκατιστεί από προηγούμενες επαναλήψεις αυτού του εγχειριδίου, από τους οδηγούς ταξί μέχρι τις αγορές ενοικίασης και τις τοπικές εφημερίδες. Με την επανάσταση της τεχνητής νοημοσύνης, αυτού του είδους οι απώλειες θα μπορούσαν να μοιάζουν με στρογγυλοποιητικά λάθη, με τους εκπαιδευτικούς, τους προγραμματιστές, τους εικαστικούς καλλιτέχνες, τους δημοσιογράφους, τους μεταφραστές, τους μουσικούς, τους εργαζόμενους στη φροντίδα και τόσους άλλους να αντιμετωπίζουν την προοπτική να αντικατασταθούν από έναν κώδικα με δυσλειτουργίες.
Μην ανησυχείτε, οι λάτρεις της τεχνητής νοημοσύνης έχουν ψευδαισθήσεις – θα είναι υπέροχα. Σε ποιον αρέσει η δουλειά έτσι ή άλλως; Η δημιουργική τεχνητή νοημοσύνη δεν θα είναι το τέλος της απασχόλησης, μας λένε, παρά μόνο η «βαρετή εργασία» – με τα chatbots να κάνουν βοηθητικά όλες τις ψυχοφθόρες, επαναλαμβανόμενες εργασίες και τους ανθρώπους απλώς να τις επιβλέπουν. Ο Άλτμαν, από την πλευρά του, βλέπει ένα μέλλον όπου η εργασία «μπορεί να είναι μια ευρύτερη έννοια, όχι κάτι που πρέπει να κάνεις για να μπορείς να φας, αλλά κάτι που κάνεις ως δημιουργική έκφραση και ως ένας τρόπος να βρεις την ικανοποίηση και την ευτυχία».
Αυτό είναι ένα συναρπαστικό όραμα μιας πιο όμορφης, χαλαρής ζωής, το οποίο πολλοί αριστεροί συμμερίζονται, συμπεριλαμβανομένου του γαμπρού του Καρλ Μαρξ, Πωλ Λαφάργκ, ο οποίος έγραψε ένα μανιφέστο με τίτλο «Το δικαίωμα στην τεμπελιά». Αλλά εμείς οι αριστεροί ξέρουμε επίσης ότι, αν το να κερδίζουμε χρήματα δεν είναι πλέον η κινητήρια επιταγή της ζωής, τότε πρέπει να υπάρχουν άλλοι τρόποι για να ικανοποιήσουμε τις ανάγκες για στέγη και τροφή. Ένας κόσμος χωρίς άθλιες δουλειές σημαίνει ότι το ενοίκιο πρέπει να είναι δωρεάν, η υγειονομική περίθαλψη πρέπει να είναι δωρεάν, και κάθε άνθρωπος πρέπει να έχει αναφαίρετα οικονομικά δικαιώματα. Και τότε ξαφνικά δεν μιλάμε καθόλου για τεχνητή νοημοσύνη – μιλάμε για σοσιαλισμό.
Ωστόσο, ζούμε στον καπιταλισμό και στο πλαίσιο αυτού του συστήματος, τα αποτελέσματα του κατακλυσμού της αγοράς με τεχνολογίες που μπορούν να εκτελέσουν τα καθήκοντα αμέτρητων εργαζόμενων δεν σημαίνει ότι αυτοί οι εργαζόμενοι είναι ξαφνικά ελεύθεροι να γίνουν φιλόσοφοι και καλλιτέχνες. Σημαίνει ότι θα βρεθούν να κοιτάζουν την άβυσσο – με τους πραγματικούς καλλιτέχνες να είναι από τους πρώτους που θα πέσουν.
Αυτό είναι το μήνυμα της ανοιχτής επιστολής της Μόλι Κρέιμπαπλ, η οποία καλεί «καλλιτέχνες, εκδότες, δημοσιογράφους, συντάκτες και ηγέτες δημοσιογραφικών συνδικάτων να δεσμευτούν για τις ανθρώπινες αξίες ενάντια στη χρήση των εικόνων που παράγονται από την τεχνητή νοημοσύνη» και «να δεσμευτούν να υποστηρίξουν την εκδοτική τέχνη που γίνεται από ανθρώπους, όχι από φάρμες διακομιστών». Η επιστολή, που υπογράφεται πλέον από εκατοντάδες καλλιτέχνες, δημοσιογράφους και άλλους, αναφέρει ότι όλοι, εκτός από τους πιο εκλεκτούς καλλιτέχνες, βρίσκουν το έργο τους «υπό κίνδυνο εξαφάνισης». Και σύμφωνα με τον Χίντον, «νονό» της τεχνητής νοημοσύνης, δεν υπάρχει κανένας λόγος να πιστεύουμε ότι η απειλή δεν θα εξαπλωθεί. Τα chatbots αφαιρούν «την αγγαροδουλειά», αλλά «μπορεί να αφαιρέσουν περισσότερα από αυτό».
Όπως αναφέρει η επιστολή, «η τέχνη της δημιουργικής τεχνητής νοημοσύνης είναι βαμπιρική, τρώγοντας από τις προηγούμενες γενιές έργων τέχνης, ακόμη και όταν ρουφάει το αίμα από τους ζωντανούς καλλιτέχνες». Υπάρχουν όμως τρόποι αντίστασης: μπορούμε να αρνηθούμε να χρησιμοποιήσουμε αυτά τα προϊόντα και να οργανωθούμε για να απαιτήσουμε από τους εργοδότες και τις κυβερνήσεις μας να τα απορρίψουν επίσης.
Μια επιστολή από διακεκριμένους μελετητές της ηθικής της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της Τίμνιτ Γκέμπρου, η οποία απολύθηκε από την Google το 2020 επειδή επέκρινε τις διακρίσεις στο χώρο εργασίας, παραθέτει μερικά από τα ρυθμιστικά εργαλεία που μπορούν να εισαγάγουν άμεσα οι κυβερνήσεις – συμπεριλαμβανομένης της πλήρους διαφάνειας σχετικά με το ποια σύνολα δεδομένων χρησιμοποιούνται για την εκπαίδευση των μοντέλων:
«Όχι μόνο θα πρέπει να είναι πάντα σαφές πότε συναντάμε συνθετικά μέσα, αλλά οι εταιρείες που κατασκευάζουν αυτά τα συστήματα τεχνητής νοημοσύνης θα πρέπει επίσης να υποχρεούνται να τεκμηριώνουν και να γνωστοποιούν τα δεδομένα πάνω στα οποία εκπαιδεύτηκαν τα μοντέλα. Θα πρέπει να κατασκευάζουμε μηχανές που λειτουργούν για εμάς, αντί να “προσαρμόζουμε” την κοινωνία ώστε να είναι αναγνώσιμη και εγγράψιμη από τις μηχανές».
Αν και οι εταιρείες τεχνολογίας θα ήθελαν να πιστεύουμε ότι είναι ήδη πολύ αργά για να ανατρέψουμε αυτό το προϊόν μαζικής μίμησης που αντικαθιστά τον άνθρωπο, υπάρχουν εξαιρετικά σημαντικά νομικά και ρυθμιστικά προηγούμενα που μπορούν να εφαρμοστούν. Για παράδειγμα, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ (FTC) ανάγκασε την Cambridge Analytica, καθώς και την Everalbum, τον ιδιοκτήτη μιας εφαρμογής φωτογραφιών, να καταστρέψουν ολόκληρους αλγορίθμους που βρέθηκαν να έχουν εκπαιδευτεί με παράνομα οικειοποιημένα δεδομένα και σκραπαρισμένες φωτογραφίες. Κατά τις πρώτες ημέρες της, η κυβέρνηση Μπάιντεν προέβαλε πολλούς τολμηρούς ισχυρισμούς σχετικά με τη ρύθμιση της Big Tech (των τεχνολογικών κολοσσών), συμπεριλαμβανομένης της πάταξης της κλοπής προσωπικών δεδομένων για τη δημιουργία ιδιόκτητων αλγορίθμων. Με τις προεδρικές εκλογές να πλησιάζουν, τώρα θα ήταν μια καλή στιγμή να γίνουν πράξη αυτές οι υποσχέσεις – και να αποτραπούν οι επόμενες μαζικές απολύσεις πριν συμβούν.
Ένας κόσμος με βαθιά ψεύδη, βρόχους μιμητισμού και επιδείνωση της ανισότητας δεν είναι αναπόφευκτος. Είναι ένα σύνολο πολιτικών επιλογών. Μπορούμε να ρυθμίσουμε την τρέχουσα μορφή των chatbots και να αρχίσουμε να οικοδομούμε τον κόσμο στον οποίο οι πιο συναρπαστικές υποσχέσεις της Τεχνητής Νοημοσύνης θα είναι κάτι περισσότερο από ψευδαισθήσεις της Σίλικον Βάλεϊ.
Επειδή εμείς εκπαιδεύσαμε τις μηχανές. Όλοι μας. Αλλά ποτέ δεν δώσαμε τη συγκατάθεσή μας. Δημιουργήθηκαν από τη συλλογική εφευρετικότητα, την έμπνευση και τις αποκαλύψεις της ανθρωπότητας (μαζί με τα πιο διεφθαρμένα χαρακτηριστικά μας). Αυτά τα μοντέλα είναι μηχανές περίφραξης και οικειοποίησης, που καταβροχθίζουν και ιδιωτικοποιούν τις ατομικές μας ζωές καθώς και τις συλλογικές πνευματικές και καλλιτεχνικές μας κληρονομιές. Και ο στόχος τους δεν ήταν ποτέ να λύσουν την κλιματική αλλαγή ή να κάνουν τις κυβερνήσεις μας πιο υπεύθυνες ή την καθημερινότητά μας πιο χαλαρή. Ήταν πάντα να επωφεληθούν από τη μαζική εξαθλίωση, η οποία, στον καπιταλισμό, είναι η κραυγαλέα και λογική συνέπεια της αντικατάστασης των ανθρώπινων λειτουργιών με bots.
*Πηγή: Guardian