Στην έκδοση ενός νέου, αναλυτικού δοκιμίου υπό τον τίτλο «Πολιτική για το Εκθετικό της Τεχνητής Νοημοσύνης» προχώρησε τον Ιούνιο του 2026 ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι (Dario Amodei).
Ο κ. Αμοντέι υπογραμμίζει την έντονη αναντιστοιχία ταχύτητας ανάμεσα στην αλματώδη εξέλιξη της τεχνολογίας και τους παραδοσιακούς μηχανισμούς χάραξης πολιτικής των κρατών, επισημαίνοντας ότι η τεχνολογία αναπτύσσεται πολύ ταχύτερα από όσο έχουν σχεδιαστεί να διαχειρίζονται οι κυβερνητικές διαδικασίες.
Μέσα από μια λεπτομερή χαρτογράφηση των τρεχουσών δυνατοτήτων των μοντέλων, ο επικεφαλής της Anthropic προτείνει τη μετάβαση από το υφιστάμενο καθεστώς της απλής διαφάνειας σε ένα αυστηρό, δεσμευτικό ρυθμιστικό πλαίσιο, το οποίο θα είναι ικανό να προστατεύσει τη δημόσια ασφάλεια, να θωρακίσει τις πολιτικές ελευθερίες και να προετοιμάσει τις δημοκρατίες για τις ριζικές μακροοικονομικές και γεωπολιτικές ανατροπές που προμηνύει η έλευση της «Ισχυρής Τεχνητής Νοημοσύνης».
Η αναντιστοιχία ταχυτήτων και το ορόσημο της «Ισχυρής Τεχνητής Νοημοσύνης»
Χρησιμοποιώντας μια λογοτεχνική αναλογία από τον «Άρχοντα των Δαχτυλιδιών», ο κ. Αμοντέι παρομοιάζει τη σχέση της Τεχνητής Νοημοσύνης (AI) με τους πολιτικούς θεσμούς με τη συνάντηση των Χόμπιτ με τον Δεντρογένη, ένα σοφό αλλά εξαιρετικά δυσκίνητο ον που λειτουργεί σε εντελώς διαφορετική χρονική κλίμακα. Ενώ η νομοθεσία κινείται αργά —συχνά για βάσιμους λόγους, ώστε να αποφεύγεται η βιαστική χρήση της κρατικής εξουσίας— η Τεχνητή Νοημοσύνη εξελίσσεται με εκθετικούς ρυθμούς. Μέσα σε διάστημα τεσσάρων ετών, τα μοντέλα AI μετατράπηκαν από συστήματα που δυσκολεύονταν να παράγουν συνεκτικό κώδικα, σε εργαλεία που γράφουν το μεγαλύτερο μέρος του κώδικα σε μεγάλες εταιρείες του κλάδου, καταγράφοντας ανάλογη πρόοδο στη βιολογία, τη φυσική, τα μαθηματικά, τη νομική και τα χρηματοοικονομικά.
Οι νόμοι κλιμάκωσης (scaling laws), οι οποίοι προβλέπουν εκθετική αύξηση των γνωστικών ικανοτήτων με την προσθήκη υπολογιστικής ισχύος, υποστηρίζονται πλέον από μια δεκαετία εμπειρικών αποδείξεων. Ο κ. Αμοντέι εκτιμά ότι αν η τάση αυτή συνεχιστεί για ένα ή δύο ακόμη έτη, η ανθρωπότητα θα βρεθεί ενώπιον της «Ισχυρής Τεχνητής Νοημοσύνης» (Powerful AI), την οποία περιγράφει χαρακτηριστικά ως «μια χώρα ιδιοφυιών σε ένα κέντρο δεδομένων (datacenter)». Η επώδυνη αναντιστοιχία έγκειται στο ότι στα χρόνια που απαιτούνται για τη λήψη αποφάσεων από θεσμικά όργανα όπως το Κογκρέσο, η τεχνολογία ενδέχεται να μεταβληθεί ριζικά.
Από τη διαφάνεια στη δεσμευτική ρύθμιση: Το μοντέλο της FAA
Μέχρι πρόσφατα, η απουσία άμεσων, ορατών επιπτώσεων καθιστούσε δύσκολο τον σχεδιασμό συγκεκριμένων πολιτικών, ωθώντας τους υπεύθυνους χάραξης πολιτικής σε μια προσέγγιση ελεύθερης αγοράς (laissez faire). Σε αυτό το πλαίσιο, εταιρείες όπως η Anthropic επικεντρώθηκαν στην υποστήριξη μέτρων που προετοιμάζουν το έδαφος, όπως οι έλεγχοι εξαγωγών στα μικροτσίπ και η νομοθεσία για τη διαφάνεια. Η στρατηγική αυτή συνέβαλε στην ψήφιση των νόμων SB 53 στην Καλιφόρνια, RAISE στη Νέα Υόρκη το 2025, καθώς και του SB 315 στο Ιλινόις στις αρχές του 2026.
Ωστόσο, ο κ. Αμοντέι τονίζει ότι οι κίνδυνοι είναι πλέον παρόντες, με πιο εμβληματικό παράδειγμα το Claude Mythos Preview, η παρουσία του οποίου αποκάλυψε ότι τα μοντέλα αιχμής (frontier models) εγκυμονούν πραγματικούς κινδύνους για την κυβερνοασφάλεια, τις κρίσιμες υποδομές και την εθνική ασφάλεια. Πέρα από τους κυβερνοκινδύνους, ο ίδιος προβλέπει ότι σύντομα ενδέχεται να ακολουθήσουν βιολογικοί κίνδυνοι, καθώς και απειλές που σχετίζονται με την αυτονομία των συστημάτων.
Ως εκ τούτου, προτείνεται η μοντελοποίηση της ρύθμισης της Τεχνητής Νοημοσύνης βάσει υπηρεσιών όπως η Ομοσπονδιακή Υπηρεσία Πολιτικής Αεροπορίας (FAA) των ΗΠΑ. Η πρόταση της Anthropic περιλαμβάνει τα εξής σημεία:
-
Υποχρεωτικές Δοκιμές: Μοντέλα που υπερβαίνουν ένα συγκεκριμένο όριο υπολογιστικής ισχύος (compute) θα υποβάλλονται σε υποχρεωτικές δοκιμές από εξειδικευμένο τρίτο μέρος σε τέσσερις τομείς: κυβερνοασφάλεια, βιολογικά όπλα, απώλεια ελέγχου και αυτοματοποιημένη έρευνα και ανάπτυξη (R&D).
-
Κρατική Εξουσία Παρέμβασης: Η κυβέρνηση θα έχει την εξουσία να μπλοκάρει ή να αποτρέπει την ανάπτυξη (deployment) ενός μοντέλου, εάν διαπιστωθούν απαράδεκτοι κίνδυνοι στους προαναφερθέντες τομείς, με παράλληλη θεσμοθέτηση προστατευτικών μέτρων έναντι αυθαίρετων ή πολιτικών αποφάσεων.
-
Ρυθμιζόμενες Αγορές: Η αξιολόγηση θα διενεργείται είτε από μια κρατική υπηρεσία τύπου FAA είτε από εγκεκριμένους ιδιωτικούς οργανισμούς ελεγχόμενους από την κυβέρνηση.
-
Πρότυπα Ασφαλείας: Οι εταιρείες υποχρεούνται να προστατεύουν τα βάρη των μοντέλων τους (model weights), να εκτελούν δοκιμές προσομοίωσης επίθεσης (red teaming) και διείσδυσης, καθώς και να αναφέρουν αμέσως τυχόν περιστατικά ασφαλείας.
Ο κ. Αμοντέι σημειώνει ότι αν τα συστήματα αυτά εξελιχθούν σε απειλή για την ανθρωπότητα, θυμίζοντας περισσότερο οπλικά πυρηνικά υλικά παρά αεροπλάνα, ενδέχεται να απαιτηθούν ακόμη πιο επιθετικά μέτρα, αν και προκρίνει τον σχεδιασμό με βάση τους κινδύνους που αναδύονται σήμερα.
Μακροοικονομικές ανατροπές και η διαχείριση της απασχόλησης
Η έλευση της Ισχυρής Τεχνητής Νοημοσύνης αναμένεται να ανατρέψει την παραδοσιακή παραδοχή ότι η οικονομική ανάπτυξη είναι εύθραυστη και δύσκολη. Η ικανότητα των συστημάτων AI να εκτελούν γνωστικές εργασίες και να αναπαράγουν τον εαυτό τους μπορεί να οδηγήσει σε εξαιρετικά γρήγορη ανάπτυξη, αλλά ταυτόχρονα κινδυνεύει να προκαλέσει εκτεταμένες και μόνιμες διαταραχές στην αγορά εργασίας, οδηγώντας σε ένα περιβάλλον υπερανάπτυξης και υπερ-ανισότητας.
Ο επικεφαλής της Anthropic ξεκαθαρίζει ότι η μόνιμη εκτόπιση θέσεων εργασίας είναι μια επικίνδυνη προοπτική που πρέπει να αποτραπεί. Επισημαίνει ότι η εταιρεία του εστιάζει σε υποδείγματα αλληλεπίδρασης που διατηρούν ενεργό τον ρόλο του ανθρώπου, ενώ παράλληλα αναγνωρίζει ότι η απώλεια εργασίας μπορεί να αποτελέσει εγγενή ιδιότητα της τεχνολογίας. Για την αντιμετώπιση του φαινομένου, προτείνονται συγκεκριμένες πολιτικές παρεμβάσεις:
-
Μέτρηση και Παρακολούθηση: Επέκταση των κρατικών στατιστικών δεδομένων για την ακριβή καταγραφή της εκτόπισης εργασίας. Η Anthropic λειτουργεί ήδη έναν σχετικό Οικονομικό Δείκτη (Economic Index) για τη χρήση του Claude εδώ και ενάμισι χρόνο.
-
Κίνητρα Απασχόλησης: Θεσμοθέτηση πολιτικών ασφάλισης μισθού (wage insurance) για την κάλυψη της εισοδηματικής διαφοράς σε νέες εργασίες, φορολογικά κίνητρα διατήρησης προσωπικού και επιχορηγήσεις κατάρτισης, το κόστος των οποίων θα αντισταθμιστεί από τα κέρδη παραγωγικότητας.
-
Μακροπρόθεσμη Εισοδηματική Στήριξη: Σε περίπτωση μεγάλης κλίμακας μείωσης της ζήτησης εργασίας, προτείνεται η εφαρμογή μηχανισμών όπως το καθολικό βασικό εισόδημα (universal basic income) ή οι καθολικοί λογαριασμοί κεφαλαίου (universal capital accounts), χρηματοδοτούμενοι από φόρους στις εταιρείες AI ή από την αύξηση του φόρου κεφαλαιακών κερδών.
Αναφορικά με την ενεργειακή επιβάρυνση από τα κέντρα δεδομένων, ο κ. Αμοντέι δηλώνει ότι οι εταιρείες AI οφείλουν να πληρώνουν για την απορρόφηση των αυξήσεων στα τιμολόγια, δέσμευση την οποία η Anthropic έχει ήδη αναλάβει.
Μεταρρύθμιση στη βιοϊατρική και προστασία των πολιτικών ελευθεριών
Σε αντίθεση με την ίδια την Τεχνητή Νοημοσύνη, όπου προέχει η ασφάλεια, στις μεταγενέστερες εφαρμογές της τεχνολογίας (downstream), όπως η βιοϊατρική, ο κλινικός ρυθμιστικός μηχανισμός κινδυνεύει να καθυστερήσει την πρόοδο. Σήμερα, ο τυπικός χρόνος έγκρισης ενός φαρμάκου από τον FDA ή τον EMA ανέρχεται σε 7-8 χρόνια. Το AI αναμένεται να αυξήσει τον ρυθμό εισαγωγής νέων φαρμάκων και να βελτιώσει τα προφίλ ασφάλειάς τους, γεγονός που θα μπορούσε να υπερφορτώσει το σύστημα χωρίς μεταρρυθμίσεις.
Προτείνεται η άμεση ανάπτυξη προτύπων από τις ρυθμιστικές υπηρεσίες για την αποδοχή μεθόδων που βασίζονται σε AI προσομοιώσεις, όπως η μοντελοποίηση φαρμακοδυναμικής (PD/PK), η πρόβλεψη τοξικολογίας χωρίς δοκιμές σε ζώα, η επικύρωση βιοδεικτών, οι συνθετικοί βραχίονες ελέγχου (synthetic control arms) και τα υποκατάστατα τελικά σημεία (surrogate endpoints).
Στο πεδίο των πολιτικών ελευθεριών, η Ισχυρή Τεχνητή Νοημοσύνη ενέχει τον κίνδυνο ξαφνικής κατάληψης της εξουσίας από επικίνδυνους παράγοντες μέσω της παράκαμψης των δημοκρατικών μηχανισμών (π.χ. αυτόνομοι στρατοί drones ή συστήματα μαζικής επιτήρησης). Για τη θωράκιση των δημοκρατιών, προτείνονται:
-
Κανόνες Λοοδοσίας Όπλων: Υπαγωγή των αυτόνομων όπλων σε συνταγματικούς μηχανισμούς, δίνοντας στον δικαστικό κλάδο την πρόσβαση σε έναν «διακόπτη απενεργοποίησης» (off switch).
-
Απαγόρευση Εγχώριας Χρήσης: Πλήρης αποκλεισμός της χρήσης αυτόνομων όπλων στο εσωτερικό των χωρών, συμπεριλαμβανομένης της επιβολής του νόμου.
-
Προστασία Ιδιωτικότητας: Κλείσιμο του νομικού κενού που επιτρέπει σε μεσίτες δεδομένων (data brokers) να πουλούν προσωπικά δεδομένα πολιτών για κρατική επιτήρηση.
-
Ισότιμη Πρόσβαση στο AI: Διασφάλιση του δικαιώματος κάθε πολίτη ή οργανισμού που αντιμετωπίζει δυσμενή κυβερνητική ενέργεια να έχει πρόσβαση σε ένα σύστημα AI εξίσου ικανό με αυτό της κυβέρνησης.
Ο κ. Αμοντέι κρούει επίσης τον κώδωνα του κινδύνου για την υπερβολική συγκέντρωση ισχύος σε ιδιωτικές εταιρείες, προτείνοντας δομές διαχωρισμού εξουσιών και λογοδοσίας, όπως το Long-Term Benefit Trust που εφαρμόζει η Anthropic.
Πολιτική για το Εκθετικό της Τεχνητής Νοημοσύνης
Ιούνιος 2026
Σε μια από τις παράλληλες ιστορίες του Άρχοντα των Δαχτυλιδιών (The Lord of the Rings), δύο από τα Χόμπιτ επιχειρούν να ξεσηκώσουν τον Δεντρογένη (Treebeard) —ένα σοφό αλλά δυσκίνητο νοήμον δέντρο— να υπερασπιστεί το δάσος του από έναν στρατό που το καταστρέφει. Το πρόβλημα είναι ότι ο Δεντρογένης λειτουργεί σε πολύ διαφορετική ταχύτητα από τα Χόμπιτ. Του παίρνει μια ολόκληρη μέρα απλώς για να πει ένα γεια σε ένα άλλο δέντρο, επομένως το να κάνει αυτόν και τους ομοίους του να δράσουν αρκετά γρήγορα είναι σχεδόν αδύνατο.
Η τομή της Τεχνητής Νοημοσύνης (AI) και των πολιτικών μας θεσμών μοιάζει λίγο με τα Χόμπιτ και τον Δεντρογένη. Η Τεχνητή Νοημοσύνη εξελίσσεται με αστραπιαία ταχύτητα —μέσα σε μόλις τέσσερα χρόνια, τα μοντέλα AI έχουν περάσει από το να μπορούν με δυσκολία να γράψουν μια συνεκτική γραμμή κώδικα, στο να γράφουν το μεγαλύτερο μέρος του κώδικα σε μεγάλες εταιρείες AI. Παρόμοια πρόοδος έχει σημειωθεί στη βιολογία, τη φυσική, τα μαθηματικά, τα χρηματοοικονομικά, τη νομική, τη μετάφραση και πολλούς άλλους τομείς. Οι νόμοι κλιμάκωσης (scaling laws) της Τεχνητής Νοημοσύνης, οι οποίοι προβλέπουν μια εκθετική αύξηση των γενικών γνωστικών ικανοτήτων με την αύξηση της υπολογιστικής ισχύος, έχουν πλέον πίσω τους πάνω από μια δεκαετία εμπειρικών αποδείξεων. Εάν αυτοί οι νόμοι κλιμάκωσης συνεχιστούν για έναν ή δύο ακόμη χρόνια, είναι πιθανό να οδηγηθούμε σε αυτό που έχω αποκαλέσει Ισχυρή Τεχνητή Νοημοσύνη (Powerful AI), ή «μια χώρα ιδιοφυιών σε ένα κέντρο δεδομένων (datacenter)».
Αντίθετα, η πολιτική —και ιδιαίτερα η νομοθεσία— κινείται πολύ αργά. Συχνά αυτό συμβαίνει για καλούς λόγους: οι κυβερνήσεις έχουν σοβαρές εξουσίες και είναι συνήθως για το καλύτερο να μην χρησιμοποιούνται πολύ βιαστικά. Ωστόσο, η αναντιστοιχία στη χρονική κλίμακα είναι παρόλα αυτά πολύ επώδυνη: στα αρκετά χρόνια που μπορεί να χρειαστούν για να δράσει το Κογκρέσο, η Τεχνητή Νοημοσύνη μπορεί να μετατραπεί από ένα διασκεδαστικό παιχνίδι σε μια ολόκληρη χώρα ιδιοφυιών.
Το Δίλημμα της Υπεύθυνης Διαχείρισης
Τα τελευταία λίγα χρόνια, αφότου η Τεχνητή Νοημοσύνη έγινε μια σημαντική εμπορική τεχνολογία, όσοι από εμάς θέλαμε να τη χειριστούμε υπεύθυνα βρεθήκαμε αντιμέτωποι με ένα δίλημμα. Μπορούσαμε να δούμε καθαρά πού οδηγούσε η εκθετική τάση: υποψιαζόμασταν έντονα ότι μέσα σε λίγα χρόνια η Τεχνητή Νοημοσύνη θα ήταν μία από τις σπάνιες τεχνολογίες που αναδιαμορφώνουν ριζικά ολόκληρο το τοπίο της πολιτικής, με τον ίδιο τρόπο που τα πυρηνικά όπλα αναδιαμόρφωσαν τη γεωπολιτική και η βιομηχανική επανάσταση αναδιαμόρφωσε θεμελιωδώς κάθε οικονομικό και κοινωνικό ζήτημα.
Όμως, για όσους κοίταζαν μόνο τι μπορούσε να κάνει η Τεχνητή Νοημοσύνη εκείνη την εποχή, φαινόταν σαν μια πολύ πιο πεζή τεχνολογία —παρόμοια ίσως με την τελευταία εφαρμογή για καταναλωτές ή ένα κρυπτονόμισμα. Ήταν δύσκολο να πειστούν οι περισσότεροι υπεύθυνοι χάραξης πολιτικής και οι εταιρείες ότι είχε νόημα οποιαδήποτε άλλη στάση πέρα από μια προσέγγιση ελεύθερης αγοράς (laissez faire). Και για να είμαστε δίκαιοι, το γεγονός ότι οι ριζικές επιπτώσεις της Τεχνητής Νοημοσύνης δεν ήταν ακόμη παρούσες, και ότι δεν γνωρίζαμε ακριβώς τι μορφή θα μπορούσαν να πάρουν, καθιστούσε δύσκολο τον σχεδιασμό των σωστών πολιτικών, ακόμη κι αν υπήρχε η βούληση για δράση.
Δεδομένων των περιορισμών που επέβαλλε αυτή η κατάσταση, πολλοί υποστηρικτές της ασφάλειας (συμπεριλαμβανομένης της Anthropic) έχουν επικεντρωθεί μέχρι στιγμής στην υποστήριξη πολιτικών δράσεων που διατηρούν την ελευθερία επιλογών, προετοιμάζουν μια γρήγορη αντίδραση στο μέλλον ή δίνουν στον κόσμο μια καλύτερη εικόνα για το τι πρόκειται να ακολουθήσει – πράγματα όπως η νομοθεσία για τη διαφάνεια, οι έλεγχοι εξαγωγών στα μικροτσίπ και η συλλογή δεδομένων για τις επιπτώσεις της Τεχνητής Νοημοσύνης στην εργασία. Αυτά δεν είναι αρκετά, αλλά έμοιαζαν ως τα μόνα δυνατά.
Μια Νέα Πραγματικότητα
Τους τελευταίους μήνες, ωστόσο, οι αποδείξεις για την απίστευτη ισχύ της Τεχνητής Νοημοσύνης, καθώς και για τους κινδύνους της, έχουν γίνει αναμφισβήτητες. Ίσως το πιο εμβληματικό παράδειγμα είναι το Claude Mythos Preview και η ανακάλυψη ότι τα μοντέλα αιχμής (frontier models) εγκυμονούν πολύ πραγματικούς κινδύνους για την κυβερνοασφάλεια, δημιουργώντας πιθανότητες για διαταραχή στον χρηματοπιστωτικό τομέα, στις κρίσιμες υποδομές και στην εθνική ασφάλεια.
Το Mythos Preview αναστάτωσε το παγκόσμιο τοπίο της κυβερνοασφάλειας. Όμως, η ευρύτερη σημασία του είναι ότι αποδεικνύει πέρα από κάθε αμφιβολία ότι τα μοντέλα Τεχνητής Νοημοσύνης αποτελούν πλέον εργαλεία παγκόσμιας και εθνικής στρατηγικής σημασίας. Οι κυβερνοκίνδυνοι που παρουσιάζουν τα μοντέλα της κατηγορίας Mythos δεν θα είναι οι τελευταίοι που θα κληθούμε να αντιμετωπίσουμε. Πιστεύω ότι οι βιολογικοί κίνδυνοι ενδέχεται να ακολουθήσουν σύντομα, και ότι οι σοβαροί κίνδυνοι που σχετίζονται με την αυτονομία της Τεχνητής Νοημοσύνης μπορεί να μην απέχουν πολύ¹.
Τελικά, καταλήξαμε στο συμπέρασμα ότι η σωστή προσέγγιση εκείνη την εποχή ήταν η διαφάνεια. Οι δημιουργοί μοντέλων Τεχνητής Νοημοσύνης θα έπρεπε να υποχρεούνται να αποκαλύπτουν τις διαδικασίες ασφαλείας τους και τις δοκιμές που εκτελούν στα μοντέλα τους, καθώς και να αναφέρουν τυχόν κρίσιμα περιστατικά ασφαλείας, ώστε το κοινό και η επιστημονική κοινότητα να αποκτήσουν καλύτερη ορατότητα στους κινδύνους καθώς αυτοί εμφανίζονται. Όταν και εάν οι κίνδυνοι γίνουν πιο συγκεκριμένοι και η μορφή τους πιο ξεκάθαρη, τότε τα στοιχεία που αποκτήθηκαν μέσω της διαφάνειας θα μπορούσαν να χρησιμοποιηθούν για τον σχεδιασμό έξυπνης νομοθεσίας με στόχο να στοχεύσει με ακρίβεια τους πιο ανησυχητικούς κινδύνους. Έτσι, το 2025, η Anthropic υποστήριξε τη νομοθεσία για τη διαφάνεια, βοηθώντας στην ψήφιση του SB 53 στην Καλιφόρνια, του RAISE στη Νέα Υόρκη, του SB 315 στο Ιλινόις (στις αρχές του 2026), και υποστηρίζοντας ένα πρότυπο διαφάνειας σε ομοσπονδιακό επίπεδο.
Ωστόσο, τώρα οι κίνδυνοι είναι ξεκάθαρα εδώ. Είναι καιρός να προχωρήσουμε πέρα από τη διαφάνεια, σε μια πιο σοβαρή και δεσμευτική ρύθμιση της Τεχνητής Νοημοσύνης. Πιστεύω ότι η καλύτερη αναλογία, τουλάχιστον στο τρέχον στάδιο της εκθετικής εξέλιξης, είναι με τα αυτοκίνητα, τα αεροπλάνα ή τα φάρμακα — ισχυρές τεχνολογίες απαραίτητες για τη σύγχρονη οικονομία, αλλά ικανές να σκοτώσουν μεγάλο αριθμό ανθρώπων εάν σχεδιαστούν ή λειτουργήσουν ελαττωματικά. Ως εκ τούτου, πιστεύω ότι θα πρέπει να μοντελοποιήσουμε τη ρύθμιση της Τεχνητής Νοημοσύνης βάσει υπηρεσιών όπως η Ομοσπονδιακή Υπηρεσία Πολιτικής Αεροπορίας (FAA). Τα μοντέλα Τεχνητής Νοημοσύνης αιχμής (frontier AI models), όπως και τα αεροπλάνα, θα πρέπει να υποχρεούνται να περνούν από τεχνικές δοκιμές και ελέγχους, και η κυκλοφορία τους θα πρέπει να μπλοκάρεται ή να ανακαλείται ως απειλή για τη δημόσια ασφάλεια εάν δεν πληρούν υψηλά πρότυπα ασφάλειας. Με ικανοποίηση βλέπω το Εκτελεστικό Διάταγμα της κυβέρνησης Τραμπ να κινείται σταδιακά προς έναν μεγαλύτερο ρόλο της κυβέρνησης στην Τεχνητή Νοημοσύνη, αν και η πρόταση της Anthropic συνιστά ακόμη περαιτέρω δράση. Η πρότασή μας περιλαμβάνει τα ακόλουθα στοιχεία:
-
Τα μοντέλα που υπερβαίνουν ένα συγκεκριμένο όριο υπολογιστικής ισχύος (compute) θα πρέπει να υποβάλλονται σε υποχρεωτικές δοκιμές από εξειδικευμένο τρίτο μέρος για το επίπεδο κινδύνου τους σε τέσσερις συγκεκριμένους τομείς: κυβερνοασφάλεια, βιολογικά όπλα, απώλεια ελέγχου των συστημάτων Τεχνητής Νοημοσύνης και αυτοματοποιημένη έρευνα και ανάπτυξη (R&D) που θα μπορούσε να επιταχύνει αυτούς τους άλλους κινδύνους.
-
Η κυβέρνηση θα πρέπει να έχει την εξουσία να μπλοκάρει ή να αποτρέπει την ανάπτυξη (deployment) του μοντέλου εάν διαπιστωθεί, υπό το πρίσμα της αξιολόγησης από τρίτους, ότι παρουσιάζει απαράδεκτους κινδύνους. Αυτή η εξουσία πρέπει να περιορίζεται στους παραπάνω τέσσερις συγκεκριμένους κινδύνους και πρέπει να υπάρχουν προστατευτικά μέτρα έναντι της πολιτικής εύνοιας ή των αυθαίρετων αποφάσεων.
-
Η αξιολόγηση από τρίτους θα μπορούσε να γίνει από μια κυβερνητική υπηρεσία (παρόμοια με την FAA) ή από ένα σύνολο ιδιωτικών οργανισμών που είναι εξουσιοδοτημένοι και ελέγχονται από την κυβέρνηση για την αξιολόγηση μοντέλων σύμφωνα με ορισμένα πρότυπα (μια προσέγγιση «ρυθμιζόμενων αγορών»).
-
Οι εταιρείες Τεχνητής Νοημοσύνης που αναπτύσσουν προηγμένα μοντέλα πρέπει να διαθέτουν ισχυρά πρότυπα ασφαλείας που προστατεύουν τα βάρη των μοντέλων τους (model weights), να διεξάγουν τακτικές δοκιμές προσομοίωσης επίθεσης (red teaming) και δοκιμές διείσδυσης (penetration testing), και να συνεργάζονται με την κυβέρνηση για την άμυνα έναντι σημαντικών απειλητικών παραγόντων (threat actors).
-
Τα περιστατικά ασφαλείας στους τέσσερις κρίσιμους τομείς πρέπει να αναφέρονται αμέσως.
Μπορεί να έρθει μια στιγμή, ίσως σχετικά σύντομα, που θα χρειαστεί να προχωρήσουμε πέρα από αυτό, όταν τα πιο ισχυρά συστήματα Τεχνητής Νοημοσύνης θα μοιάζουν λιγότερο με αεροπλάνα ή αυτοκίνητα και περισσότερο με οπλικά πυρηνικά υλικά — μια απειλή για την ανθρωπότητα και όχι «απλώς» μια απειλή για τη δημόσια ασφάλεια. Εάν συμβεί αυτό, ίσως χρειαστούμε πιο επιθετικά ρυθμιστικά μέτρα από αυτά που έχω εκθέσει³. Αλλά, όπως ακριβώς ήταν δύσκολο το 2024 να στοχεύσουμε και να εφαρμόσουμε τα μέτρα που προτείνω τώρα, δεν νομίζω ότι πρέπει να προτρέχουμε. Θα πρέπει να σχεδιάζουμε πολιτικές για τους κινδύνους που αναδύονται σήμερα, θέτοντας παράλληλα τα θεμέλια για να εντείνουμε την ανταπόκρισή μας ακόμη πιο γρήγορα καθώς εμφανίζονται νέοι κίνδυνοι.
2. Μακροοικονομία και φορολογική πολιτική
Οι κυβερνήσεις αντιμετωπίζουν εδώ και καιρό το πρόβλημα του πώς να ενθαρρύνουν την οικονομική ανάπτυξη, παρέχοντας παράλληλα σημαντικές δημόσιες υπηρεσίες και διασφαλίζοντας ότι οι λιγότερο τυχεροί προστατεύονται. Μια σημαντική (και γενικά σωστή) παραδοχή αυτών των συζητήσεων ήταν ότι η οικονομική ανάπτυξη είναι εύθραυστη και δύσκολο να επιτευχθεί — ότι ενώ η μείωση της ανισότητας μπορεί να προσφέρει σημαντικά οφέλη, πρέπει να σταθμιστεί έναντι του οικονομικού βάρους των αυξημένων φόρων ή των ελλειμμάτων.
Υποψιάζομαι ότι η ισχυρή Τεχνητή Νοημοσύνη μπορεί να ανατρέψει αυτή την παραδοχή. Εάν η Τεχνητή Νοημοσύνη αποκτήσει την ικανότητα να εκτελεί τις περισσότερες γνωστικές εργασίες πολύ καλύτερα από τους ανθρώπους, είναι λογικό ότι θα μπορούσε να οδηγήσει σε εξαιρετικά γρήγορη και εύρωστη οικονομική ανάπτυξη μέσω της επιτάχυνσης της επιστήμης, της τεχνολογίας και της επιχειρησιακής αποτελεσματικότητας. Η επαναληπτική ικανότητα της Τεχνητής Νοημοσύνης να κατασκευάζει ακόμη καλύτερη Τεχνητή Νοημοσύνη μπορεί να υπερφορτώσει αυτή την ανάπτυξη ακόμη περισσότερο.
Αλλά για τους ίδιους ακριβώς λόγους, η Τεχνητή Νοημοσύνη μπορεί επίσης να λειτουργήσει ως ένα πιο γενικό οικονομικό υποκατάστατο για τις ανθρώπινες γνωστικές ικανότητες από ό,τι οι προηγούμενες τεχνολογίες, μεταβάλλοντας παράλληλα την οικονομία πολύ ταχύτερα από ό,τι οι προηγούμενες τεχνολογίες. Επομένως, είναι λογικό να πιστεύουμε ότι η Τεχνητή Νοημοσύνη θα μπορούσε να προκαλέσει πολύ μεγαλύτερες διαταραχές στην αγορά εργασίας από ό,τι οι προηγούμενες τεχνολογίες και, ενδεχομένως, πιο μόνιμες διαταραχές. Κινδυνεύουμε να καταλήξουμε σε έναν κόσμο όπου ο δείκτης των οικονομικών συμβιβασμών θα είναι κολλημένος στη ρύθμιση της υπερανάπτυξης και της υπερ-ανισότητας, και ενδέχεται να είναι πολύ δύσκολο να ξεκολλήσει από αυτή τη ρύθμιση. Η βασική πρόκληση σε έναν τέτοιο κόσμο δεν θα είναι η παροχή κινήτρων για ανάπτυξη, αλλά η εξεύρεση ενός τρόπου ώστε όλοι να μοιράζονται τα οφέλη.
Από τα θέματα που συζητούνται σε αυτό το δοκίμιο, η μακροοικονομία και η μόνιμη εκτόπιση εργασίας είναι αναμφίβολα εκείνα που έχουν προσελκύσει τη μεγαλύτερη προσοχή του κοινού και τη μεγαλύτερη παρεξήγηση, επομένως θέλω να είμαι εξαιρετικά σαφής σε δύο σημεία.
Πρώτον, η μόνιμη εκτόπιση θέσεων εργασίας είναι ανεπιθύμητη και επικίνδυνη, και θα πρέπει να κάνουμε ό,τι μπορούμε για να την ελαχιστοποιήσουμε ή να την αποτρέψουμε, όχι για να την προκαλέσουμε. Έχω προειδοποιήσει για την εκτόπιση θέσεων εργασίας σε συνεντεύξεις και δοκίμια επειδή θέλω τόσο οι υπεύθυνοι χάραξης πολιτικής όσο και ο ιδιωτικός τομέας να έχουν την καλύτερη ευκαιρία να προσαρμοστούν και να ανταποκριθούν, όχι επειδή προσπαθώ να γίνω «προφήτης καταστροφής».
Ως εταιρεία, η Anthropic κάνει πάντα ό,τι μπορεί για να συνεργαστεί με τους πελάτες της ώστε να βρει δημιουργικές νέες περιπτώσεις χρήσης και νέες πηγές εσόων που τους επιτρέπουν να κάνουν περισσότερα με το υπάρχον εργατικό δυναμικό τους, αντί να επικεντρώνεται αποκλειστικά στην εξοικονόμηση κόστους (κάτι που συχνά σημαίνει μείωση του εργατικού δυναμικού). Προσπαθούμε επίσης συνεχώς να σκεφτόμαστε νέα υποδείγματα αλληλεπίδρασης που επιτρέπουν στους ανθρώπους να έχουν όσο το δυνατόν πιο ενεργό ρόλο στη συνεργασία με τα συστήματα Τεχνητής Νοημοσύνης καθώς αυτά τα συστήματα εξελίσσονται.
Ευρύτερα, είναι πολύτιμο για όλο τον κόσμο να πειραματιστεί με τη χρήση της Τεχνητής Νοημοσύνης με όσο το δυνατόν περισσότερους νέους τρόπους, καθώς αυτός είναι ο τρόπος για να ανακαλύψει η κοινωνία νέες πιθανές διαμορφώσεις θέσεων εργασίας. Πιστεύω ότι η Τεχνητή Νοημοσύνη θα επιτρέψει μια σειρά από νέες οικονομικές ευκαιρίες. Έχω προβλέψει ότι η Τεχνητή Νοημοσύνη θα επιτρέψει σε μεμονωμένα άτομα να δημιουργήσουν εταιρείες δισεκατομμυρίων δολαρίων, και ήδη βλέπουμε ομάδες λίγων μόνο ατόμων να χτίζουν επιχειρήσεις με εκατοντάδες εκατομμύρια έσοδα.
Αλλά ταυτόχρονα θα πρέπει να αναγνωρίσουμε ότι υπάρχει μια σοβαρή πιθανότητα, παρά τις προσπάθειές μας, η Τεχνητή Νοημοσύνη να προκαλέσει σημαντική μόνιμη απώλεια θέσεων εργασίας — και ότι αυτό μπορεί να είναι μια εγγενής ιδιότητα της τεχνολογίας και του τρόπου με τον οποίο αναπαράγει ευρέως την ανθρώπινη νόηση⁴.
Δεύτερον, κάθε απάντηση στην εκτόπιση θέσεων εργασίας λόγω της Τεχνητής Νοημοσύνης πρέπει να αντιμετωπίζει τόσο την ανάγκη για οικονομική εξασφάλιση όλων, όσο και την ανάγκη των ανθρώπων να βρίσκουν νόημα, σκοπό και αυτενέργεια (agency). Το τελευταίο είναι τελικά πιο σημαντικό και εξαρτάται από βαθιά ερωτήματα σχετικά με το πώς είναι οργανωμένη η κοινωνία, τι πρέπει να επιδιώκουν οι άνθρωποι και τι συνιστά την καλή ζωή. Είμαι στην πραγματικότητα πολύ αισιόδοξος ότι, ακόμη και σε έναν κόσμο με συστήματα AI που είναι καλύτερα από τον καθένα στα πάντα, οι άνθρωποι μπορούν να ζήσουν ζωές με βαθύ σκοπό και να προσπαθήσουν να χτίσουν πράγματα που προκαλούν δέος και είναι όμορφα⁵. Αλλά αυτό είναι κάτι που πρέπει να επεξεργαστεί συλλογικά η κοινωνία στο σύνολό της, όχι κάτι που μπορεί να αντιμετωπίσει άμεσα η πολιτική. Η πολιτική μπορεί να φανεί εξαιρετικά χρήσιμη στο να μας κερδίσει χρόνο για να κάνουμε αυτή τη δουλειά, επιβραδύνοντας την απώλεια θέσεων εργασίας και παρέχοντας οικονομική στήριξη σε όσους ενδέχεται να επηρεαστούν.
Σε αυτό το πνεύμα, ορισμένες βασικές πολιτικές παρεμβάσεις που είναι πιθανό να φανούν χρήσιμες περιλαμβάνουν:
-
Μέτρηση και παρακολούθηση. Είναι εύκολο να απορρίψει κανείς την απλή συλλογή και ανάλυση δεδομένων ως ανεπαρκή για την κλίμακα του προβλήματος, αλλά είναι απίθανο να έχουμε μια καλή πολιτική εάν δεν μπορούμε να μετρήσουμε με ακρίβεια τι συμβαίνει στην πράξη. Η Anthropic λειτουργεί έναν Οικονομικό Δείκτη (Economic Index) για το πώς οι άνθρωποι χρησιμοποιούν το Claude εδώ και σχεδόν ενάμισι χρόνο, αλλά οι κυβερνήσεις έχουν πρόσβαση σε είδη δεδομένων που εμείς δεν έχουμε, και θα μπορούσαν να επεκτείνουν σημαντικά τις οικονομικές τους στατιστικές για να παρακολουθούν πιο προσεκτικά την εκτόπιση θέσεων εργασίας από το AI.
-
Κίνητρα υπέρ της απασχόλησης. Ένα ευρύ φάσμα πολιτικών κινήτρων υπέρ της απασχόλησης μπορεί να βοηθήσει στην επιβράδυνση ή τη μείωση της εκτόπισης θέσεων εργασίας, συμπεριλαμβανομένων: πολιτικών ασφάλισης μισθού (wage insurance) που αποζημιώνουν τους ανθρώπους όταν αναγκάζονται να αναλάβουν μια χαμηλότερα αμειβόμενη εργασία⁶, φορολογικών κινήτρων διατήρησης προσωπικού για να ενθαρρύνονται οι εργοδότες να μην κάνουν απολύσεις, επιχορηγήσεων κατάρτισης του εργατικού δυναμικού ή υποδομών για τη διευκόλυνση της αντιστοίχισης εργοδοτών και εργαζομένων με σκοπό την επιτάχυνση του ρυθμού προσαρμογής της αγοράς εργασίας. Αν και οι ιδιαιτερότητες σχετικά με το ποιες παρεμβάσεις είναι οι καλύτερες θα εξαρτηθούν από το είδος της εκτόπισης εργασίας που θα φέρει η Τεχνητή Νοημοσύνη, θα πρέπει να αποδεχθούμε πρόθυμα το κόστος και τις αναποτελεσματικότητες της αγοράς που θα μπορούσαν να συνεπάγονται αυτές οι πολιτικές, ιδίως καθώς είναι πιθανό να αντισταθμιστούν από τα κέρδη παραγωγικότητας που οδηγούνται από το AI.
-
Μακροπρόθεσμη μακροοικονομική υποστήριξη. Εάν η εκτόπιση εργασίας λόγω του AI καταλήξει να είναι μεγάλης κλίμακας και μειώσει μόνιμα τη ζήτηση για εργασία, θα είναι πιθανώς απαραίτητο να προχωρήσουμε πέρα από απλά προγράμματα κινήτρων, σε μια μακροπρόθεσμη εισοδηματική στήριξη για ένα σημαντικό τμήμα του εργατικού δυναμικού. Μηχανισμοί όπως το καθολικό βασικό εισόδημα (universal basic income) θα μπορούσαν να χρηματοδοτηθούν μέσω φόρων στις σχετικές εταιρείες ή μέσω της αύξησης του φόρου κεφαλαιακών κερδών. Οι καθολικοί λογαριασμοί κεφαλαίου (universal capital accounts) προσφέρουν ένα άλλο μέσο. Γενικά μιλώντας, η γρήγορη οικονομική ανάπτυξη θα πρέπει να δημιουργήσει τη φορολογική βάση για μια κοινή ευημερία.
Ένα κοινό επίκεντρο οικονομικής ανησυχίας σχετικά με το AI που δεν έχω αναφέρει είναι τα κέντρα δεδομένων (datacenters) και συγκεκριμένα η πιθανότητά τους να αυξήσουν τις τιμές της ενέργειας. Η άποψή μου είναι ότι οι εταιρείες AI θα πρέπει να πληρώνουν για να απορροφούν τις αυξήσεις των τιμολογίων —και η Anthropic έχει ήδη δεσμευτεί να το πράξει— αλλά βλέπω τη δημόσια εχθρότητα προς τα κέντρα δεδομένων κυρίως ως σύμβολο ή διέξοδο για ευρύτερες οικονομικές ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη. Είναι σημαντικό να έχουμε μια άμεση κοινωνική συζήτηση για αυτά τα ευρύτερα οικονομικά ζητήματα και να έχουμε πραγματικά πειστικές λύσεις για αυτά, αλλιώς είναι πιθανό να εκδηλωθούν έμμεσα, όπως συνέβη με τα κέντρα δεδομένων.
3. Επιτάχυνση του θετικού αντίκτυπου της Τεχνητής Νοημοσύνης
Ακριβώς όπως πρέπει να παλέψουμε με την ισορροπία μεταξύ καινοτομίας και ασφάλειας για την ίδια την Τεχνητή Νοημοσύνη, πρέπει να παλέψουμε με την ίδια ισορροπία και για τεχνολογίες που είναι πιθανό να επιταχυνθούν από αυτήν, όπως η βιοϊατρική, η ενέργεια ή η επιστήμη των υλικών. Όμως, ενώ η ίδια η Τεχνητή Νοημοσύνη είναι πιθανό να παρουσιάσει πρωτόγνωρες προκλήσεις που αναδύονται πολύ γρήγορα και για τις οποίες δεν έχουμε προηγούμενη εμπειρία διαχείρισης, άλλοι τομείς που επιταχύνονται από το AI είναι πιθανό να αντιμετωπίσουν ένα πολύ διαφορετικό πρόβλημα: ρυθμιστικά συστήματα που σχεδιάστηκαν για έναν πιο αργό ρυθμό καινοτομίας και δεν είναι προετοιμασμένα να διαχειριστούν τον κατακλυσμό νέων προϊόντων και προόδων που θα φέρει η Τεχνητή Νοημοσύνη. Το AI μπορεί επίσης να καταστήσει αυτές τις μεταγενέστερες (downstream) τεχνολογίες ασφαλέστερες και πιο προβλέψιμες, με έναν τρόπο που καταρρίπτει τις σκεπτικιστικές παραδοχές ρυθμιστικών φορέων όπως ο Οργανισμός Τροφίμων και Φαρμάκων των ΗΠΑ (FDA).
Επομένως, για τις μεταγενέστερες εφαρμογές της Τεχνητής Νοημοσύνης —σε αντίθεση με την ίδια την Τεχνητή Νοημοσύνη— ανησυχώ περισσότερο μήπως ο ρυθμιστικός μηχανισμός επιβραδύνει την πρόοδο (επειδή δεν μπορεί να διαχειριστεί τον αυξημένο ρυθμό αλλαγής) παρά μήπως αποτύχει να αντιμετωπίσει σημαντικούς κινδύνους. Το τελευταίο πράγμα που θέλουμε είναι να καθυστερήσουν τα οφέλη της Τεχνητής Νοημοσύνης ενώ οι κίνδυνοί της διαφαίνονται μεγάλοι, επομένως είναι σημαντικό να αναλάβουμε δράση για αυτό το πρόβλημα το συντομότερο δυνατό.
Το πρόβλημα και οι λύσεις του θα εκδηλωθούν διαφορετικά σε κάθε τομέα της επιστήμης, του εμπορίου και της τεχνολογίας, επομένως θα επικεντρωθώ σε έναν ενδεικτικό τομέα: τη βιοϊατρική καινοτομία. Αυτό συμβαίνει τόσο επειδή πιθανότατα θα είναι η πηγή των μεγαλύτερων ανθρωπιστικών οφελών της Τεχνητής Νοημοσύνης, όσο και επειδή πρόκειται για έναν τομέα όπου η ρύθμιση είναι ιδιαίτερα περίπλοκη. Δεν γνωρίζουμε ακριβώς πώς το AI θα επιταχύνει τη βιοϊατρική καινοτομία, αλλά φαίνεται πιθανό να:
-
Αυξήσει σημαντικά τον ρυθμό με τον οποίο νέα υποψήφια φάρμακα εισέρχονται στη ρυθμιστική διαδικασία έγκρισης·
-
Αυξήσει το μέγεθος του αποτελέσματος (effect sizes) και να βελτιώσει τα προφίλ ασφαλείας των νέων φαρμάκων, λόγω καλύτερης βελτιστοποίησης και ίσως καλύτερης κατανόησης της υποκείμενης βιολογίας τους·
-
Αναπτύξει υποψήφια φάρμακα για ασθένειες που δεν έχουν αντιμετωπιστεί ποτέ με επιτυχία στο παρελθόν·
-
Δημιουργήσει γρήγορα εντελώς νέες μορφές θεραπειών, παρόμοια με το πώς τα αντισώματα, τα πεπτίδια και οι κυτταρικές θεραπείες έγιναν νέες κατηγορίες θεραπείας τις τελευταίες δεκαετίες.
Ορισμένες από αυτές τις προόδους θα επιταχύνουν φυσικά τα ρυθμιστικά χρονοδιαγράμματα χωρίς ανάγκη για δομικές αλλαγές. Φάρμακα με μεγαλύτερο μέγεθος αποτελέσματος μπορούν να οδηγήσουν σε μικρότερες, λιγότερο δαπανηρές κλινικές δοκιμές και να ενεργοποιήσουν μηχανισμούς για επιταχυνόμενη έγκριση. Όμως το ρυθμιστικό σύστημα είναι επί του παρόντος σχεδιασμένο να εφαρμόζει υψηλό επίπεδο ελέγχου και πολλά στάδια δοκιμών, υπό την παραδοχή ότι τα υποψήφια φάρμακα συχνά δεν λειτουργούν και συχνά παρουσιάζουν σοβαρά προβλήματα ασφάλειας ακόμη και όταν λειτουργούν. Τόσο στον FDA όσο και στον Ευρωπαϊκό Οργανισμό Φαρμάκων (EMA), ο τυπικός χρόνος για να περάσει ένα υποψήφιο φάρμακο από τη ρυθμιστική διαδικασία είναι 7-8 χρόνια, εν μέρει λόγω αυτών των απαισιόδοξων παραδοχών. Χωρίς μεταρρυθμίσεις, το AI απλώς θα μπλοκάρει ή θα υπερφορτώσει αυτό το σύστημα.
Προφανώς, δεν θέλουμε να αλλάξουμε τα πράγματα με τρόπο που θα οδηγήσει σε μια σοδειά από αναποτελεσματικά φάρμακα-θαύματα (snake-oil drugs) ή σε εκτεταμένα περιστατικά ασφάλειας. Αλλά μερικές σχετικά απλές μεταρρυθμίσεις θα μπορούσαν να καταστήσουν τον FDA, τον EMA και παρόμοιες υπηρεσίες πιο προσαρμόσιμες σε μια γρήγορη επιστημονική επιτάχυνση καθοδηγούμενη από το AI, εάν μια τέτοια συνέβαινε.
Πολλά από τα βήματα στην κλινική διαδικασία που προηγουμένως απαιτούσαν δαπανηρά και αργά πειράματα ενδέχεται σύντομα να γίνονται μέσω προσομοίωσης ή ανάλυσης AI. Οι ρυθμιστικές υπηρεσίες θα πρέπει να εξετάσουν το ενδεχόμενο ανάπτυξης προτύπων από τώρα για το τι θα χρειαζόταν ώστε να γίνουν αποδεκτές τέτοιες μέθοδοι. Αυτό θα σήμαινε ότι μπορούν να υιοθετηθούν γρήγορα μόλις λειτουργήσουν, αντί να υπάρξει μια παρατεταμένη περίοδος κατά την οποία θα συνεχίσουν να απαιτούνται περιττές δοκιμές. Οι τομείς στους οποίους θα μπορούσε να εφαρμοστεί αυτό περιλαμβάνουν:
-
Μοντελοποίηση φαρμακοδυναμικής και φαρμακοκινητικής (PD/PK) που βασίζεται σε AI·
-
Πρόβλεψη τοξικολογίας για την αποφυγή της ανάγκης για τοξικολογικές δοκιμές σε ζώα πολλαπλών ειδών·
-
Πιο ακριβής επιλογή δόσης, για τη μείωση της ανάγκης για μεγάλα εύρη δόσεων στις δοκιμές·
-
Επικύρωση βιοδεικτών μέσω ανάλυσης μεγάλων συνόλων δεδομένων·
-
Συνθετικοί βραχίονες ελέγχου (synthetic control arms) σε κλινικές δοκιμές, για τη μείωση της ανάγκης προσέλκυσης περισσότερων συμμετεχόντων·
-
Ανάπτυξη υποκατάστατων τελικών σημείων (surrogate endpoints – ιδιαίτερα σημαντικό στη γήρανση και τον νευροεκφυλισμό).
Πέρα από αυτά τα συγκεκριμένα παραδείγματα, οι υπηρεσίες θα πρέπει επίσης να εξετάσουν πιο ριζοσπαστικούς και ευέλικτους μηχανισμούς για επιταχυνόμενη έγκριση. Εάν οι προβλέψεις μου για το AI είναι σωστές, σύντομα θα υπάρξουν πολλές περιπτώσεις παρεμβάσεων που θα λειτουργούν εξαιρετικά καλά εντελώς ξαφνικά, και το ρυθμιστικό σύστημα θα πρέπει να είναι προετοιμασμένο να τις λάβει σοβαρά υπόψη και να μην υιοθετήσει μια στάση υπερβολικού σκεπτικισμού.
Η βιοϊατρική επιτάχυνση θα πρέπει να αυξήσει σημαντικά τα οφέλη του AI, αλλά αξίζει να σημειωθεί ότι μπορεί επίσης να βοηθήσει στη μείωση των κινδύνων του. Η μεταρρύθμιση των βιοϊατρικών εγκρίσεων μπορεί να βοηθήσει στη βιοάμυνα, και η καθοδηγούμενη από το AI βιοϊατρική πρόοδος μπορεί επίσης να βελτιώσει την ψυχική υγεία, κάτι που θα μπορούσε να έχει σταθεροποιητική επίδραση στην κοινωνία.
4. Το κράτος και οι πολιτικές ελευθερίες
Κάθε σύστημα διακυβέρνησης πρέπει να αντιμετωπίσει το ερώτημα της κρατικής εξουσίας και των ορίων της. Το κράτος έχει ένα νόμιμο, συχνά υπαρξιακό, συμφέρον να προστατεύει τον πληθυσμό του από εσωτερικές και εξωτερικές απειλές. Αλλά η παραχώρηση υπερβολικής εξουσίας σε αυτό είναι ο δρόμος προς την τυραννία. Οι σύγχρονες δημοκρατίες έχουν καταφέρει σε μεγάλο βαθμό να διαχειριστούν αυτή την ισορροπία με επιτυχία, αλλά πρόκειται για μια εύθραυστη ισορροπία ακόμη και στις καλύτερες στιγμές της. Η επιβολή της απαιτούσε έναν τεράστιο νομικό και συνταγματικό μηχανισμό που οικοδομήθηκε κατά τη διάρκεια αιώνων — για παράδειγμα στις Ηνωμένες Πολιτείες η Πρώτη, η Τέταρτη και η Πέμπτη Τροπολογία του Συντάγματος, ο νόμος Posse Comitatus, ο νόμος FISA κ.ο.κ.
Η Τεχνητή Νοημοσύνη απειλεί να ανατρέψει αυτή την ισορροπία, ανεβάζοντας παράλληλα δραματικά το διακύβευμα. Αλλά εάν αντιδράσουμε γρήγορα και φανούμε αντάξιοι των περιστάσεων, μπορούμε να χρησιμοποιήσουμε το AI για να δημιουργήσουμε έναν κόσμο που θα έχει πιο ισχυρές και ανθεκτικές εγγυήσεις ελευθερίας και καλύτερη άμυνα έναντι απειλών από ό,τι είχαμε ποτέ στο παρελθόν.
Η ισχυρή Τεχνητή Νοημοσύνη σε λάθος χέρια θα μπορούσε να είναι το απόλυτο εργαλείο απολυταρχίας, και οι υπάρχουσες νομικές και συνταγματικές μας προστασίες δεν είναι πλήρως εξοπλισμένες για να αντιμετωπίσουν αυτή την απειλή. Θεμελιωδώς, οι τεράστιες αποδόσεις της νοημοσύνης σε όρους ισχύος στον κόσμο, σε συνδυασμό με τον γρήγορο ρυθμό προόδου του AI, δημιουργούν μια τέλεια καταιγίδα για μια ξαφνική κατάληψη της εξουσίας από μια σειρά επικίνδυνων παραγόντων⁷.
Ο κίνδυνος θα μπορούσε να πάρει διάφορες συγκεκριμένες τεχνολογικές ή επιχειρησιακές μορφές, αλλά αυτό που όλες έχουν κοινό είναι η ιδέα ότι το AI θα μπορούσε ξαφνικά να προσδώσει τεράστια ισχύ παρακάμπτοντας τους υπάρχοντες μηχανισμούς δημοκρατικής εποπτείας. Ένας πλήρως αυτοματοποιημένος στρατός από drones που σήμερα ακούγεται σαν επιστημονική φαντασία θα μπορούσε, στο μέλλον, να υπακούει σε παράνομες διαταγές και να επιτρέπει στις κυβερνήσεις να εδραιώνουν μονομερώς την εξουσία τους· οι επαγγελματικά εκπαιδευμένοι άνθρωποι είναι πιο πιθανό να φέρουν αντιρρήσεις σε μια τέτοια παράνομη κατεύθυνση. Ένα AI εστιασμένο στην επιτήρηση θα μπορούσε να αναλύει ευρέως διαθέσιμες πληροφορίες σε μαζική κλίμακα και να τις χρησιμοποιεί για να συμπεραίνει τις πιο μύχιες λεπτομέρειες της ζωής κάθε πολίτη — μια τεχνολογική ικανότητα που δεν έχει προβλεφθεί από την τρέχουσα νομοθεσία για τις πολιτικές ελευθερίες. Όλα αυτά θα μπορούσαν να συμβούν πολύ γρήγορα ή στα κρυφά, επομένως είναι σημαντικό να θωρακίσουμε προληπτικά τη δέσμευση των δημοκρατιών στην ελευθερία και τις πολιτικές ελευθερίες.
Ακολουθούν ορισμένες ιδέες πολιτικής που θα πρέπει να εξετάσουμε:
-
Δημιουργία αξιόπιστων κανόνων λογοδοσίας για πλήρως αυτόνομα όπλα. Τα αυτόνομα όπλα, και ειδικά τυχόν αυτόνομα συστήματα που τα συντονίζουν ή τα κατευθύνουν, θα πρέπει να υποχρεούνται να ανταποκρίνονται σε μηχανισμούς συνταγματικής και διοικητικής λογοδοσίας (π.χ. δικαστικές αποφάσεις, νομοθεσία και λογοδοσία σε ανώτερους ανθρώπινους επόπτες) αντί να ακολουθούν τυφλά εντολές. Αυτό θα μπορούσε να σημαίνει ότι μια κατάλληλα σχεδιασμένη επιτροπή νομικού ελέγχου ή ο δικαστικός κλάδος θα έχουν το χέρι τους σε έναν «διακόπτη απενεργοποίησης» (off switch), ότι τα ίδια τα συστήματα θα είναι εγγενώς εκπαιδευμένα να αναζητούν και να ανταποκρίνονται σε νόμιμη αρχή εποπτείας, ή και τα δύο.
-
Απαγόρευση της εγχώριας χρήσης πλήρως αυτόνομων όπλων. Ενώ υπάρχει βάσιμη επιχειρηματολογία για την αναγκαιότητα των πλήρως αυτόνομων όπλων για την άμυνα έναντι ξένων αντιπάλων (όπως η εισβολή της Ρωσίας στην Ουκρανία), δεν υπάρχει καμία δικαιολογία για τη χρήση τους εναντίον Αμερικανών πολιτών. Ο στρατός έχει ήδη κάποιους περιορισμούς στην ικανότητά του να δραστηριοποιείται στο εσωτερικό της χώρας, αλλά ιδανικά αυτά τα όπλα θα πρέπει να απαγορευτούν και στην επιβολή του νόμου.
-
Κλείσιμο του παραθύρου της μαζικής συλλογής δεδομένων / μεσιτών δεδομένων (data brokers). Βάσει της τρέχουσας νομοθεσίας, δεδομένα που οι Αμερικανοί μοιράζονται με ιδιωτικές εταιρείες (όπως οι πάροχοι διαδικτύου) μπορούν να αγοραστούν και να χρησιμοποιηθούν για μαζική ανάλυση στην εγχώρια επιτήρηση και την επιβολή του νόμου. Αυτό το κενό στις προστασίες της ιδιωτικότητας προϋπήρχε του AI, αλλά η Τεχνητή Νοημοσύνη θα ανεβάσει σημαντικά το διακύβευμα, καθιστώντας τη μαζική ανάλυση τέτοιων δεδομένων πολύ πιο αποκαλυπτική και χρήσιμη από ό,τι στο παρελθόν. Αυτό το «παραθυράκι» πρέπει να κλείσει.
-
Δημόσια δικαιώματα σε συμβουλές AI κατά τη διάρκεια δυσμενών κυβερνητικών ενεργειών. Ως γενική αρχή, φαίνεται σημαντικό ότι οποιοδήποτε πρόσωπο ή οργανισμός αποτελεί αντικείμενο δυσμενούς κυβερνητικής ενέργειας (π.χ. ρυθμιστικής ή νομικής δράσης) να έχει πρόσβαση σε ένα AI που είναι τουλάχιστον εξίσου ικανό με αυτό που επιτρέπεται να χρησιμοποιεί η κυβέρνηση στη συγκεκριμένη ενέργεια. Αυτό θα σήμαινε ότι δεν δίνεται στην κυβέρνηση ένα άδικο πλεονέκτημα, υπονομεύοντας ουσιαστικά τα νομικά δικαιώματα των πολιτών. Αυτό θα μπορούσε να προστεθεί ως επέκταση ή ερμηνεία του Νόμου περί Διοικητικής Διαδικασίας (Administrative Procedure Act), των προστασιών της δίκαιης διαδικασίας (due process), ή του δικαιώματος σε νομική εκπροσώπηση της Έκτης Τροπολογίας του Συντάγματος.
Τέλος, αξίζει να σημειωθεί ότι οι κυβερνήσεις δεν είναι οι μόνες οντότητες που θα πρέπει να προσέχουμε όταν πρόκειται για την κατάληψη της εξουσίας με τη βοήθεια του AI. Σε διάφορες στιγμές της ιστορίας (όπως η Επίχρυση Εποχή — Gilded Age — στις Ηνωμένες Πολιτείες ή η Εταιρεία Ανατολικών Ινδιών στο Ηνωμένο Βασίλειο), οι εταιρείες έγιναν τόσο ισχυρές που κατέλαβαν το κράτος ή υιοθέτησαν οιονεί κρατικά χαρακτηριστικά. Η Τεχνητή Νοημοσύνη θα γίνει σύντομα τόσο ικανή, που ανησυχώ ότι δεν μπορεί να ανατεθεί με ασφάλεια εξολοκλήρου ούτε σε κυβερνήσεις ούτε σε εταιρείες, και πρέπει να υπάρχουν θεσμοί ελέγχου και εξισορρόπησης (checks and balances) για καθεμία.
Η ρύθμιση είναι μια απάντηση στο πώς να χαλιναγωγηθούν οι εταιρείες (και οι ιδέες μου για αυτό βρίσκονται στην Ενότητα 1), αλλά είναι επίσης σημαντικό οι εταιρείες AI να έχουν μεγαλύτερο διαχωρισμό εξουσιών και λογοδοσία από ό,τι είναι σύνηθες για τις ιδιωτικές οντότητες. Το Long-Term Benefit Trust της Anthropic (ένα ανεξάρτητο όργανο διακυβέρνησης που έχει σχεδιαστεί για να δεσμεύει την εταιρεία στην αποστολή της) είναι μια τέτοια δομή, και ο κλάδος θα πρέπει να συνεχίσει να εξερευνά μηχανισμούς που προχωρούν ακόμη περισσότερο. Η επίτευξη της σωστής ισορροπίας —ώστε τόσο οι εταιρείες όσο και η κυβέρνηση να έχουν ουσιαστικούς ελέγχους στις εξουσίες τους— είναι θεμελιώδους σημασίας.
5. Διασφάλιση της ηγεσίας από τις δημοκρατίες
Έχει γίνει κοινό ένστικτο, που ίσως αναπτύχθηκε από την πρόσφατη εμπειρία με το διαδίκτυο και τις τηλεπικοινωνίες, να αντιμετωπίζονται γεωπολιτικά οι νέες τεχνολογίες ως εργαλεία εμπορικής πολιτικής, με στόχο τη «διάχυση της τεχνολογικής μας υποδομής (technology stack) σε όλο τον κόσμο». Όμως, είναι βαθιά μου πεποίθηση ότι η Τεχνητή Νοημοσύνη είναι κάτι πολύ πιο βαθύ, κάτι που αναδιατάσσει πλήρως τη σκακιέρα και γύρω από το οποίο πρέπει να διαμορφωθεί όλη η μελλοντική γεωπολιτική στρατηγική — όπως τα πυρηνικά όπλα, αλλά ενδεχομένως ακόμη περισσότερο.
Εάν η Τεχνητή Νοημοσύνη (AI) γίνει πράγματι σύντομα «μια χώρα ιδιοφυιών σε ένα κέντρο δεδομένων (datacenter)», ή οτιδήποτε έστω και ελάχιστα κοντινό σε αυτό, τότε η Τεχνητή Νοημοσύνη είναι πιθανό να αποτελέσει την κυρίαρχη πηγή στρατιωτικής και οικονομικής ισχύος για κάθε έθνος. Σε μια εικονική χώρα 100 εκατομμυρίων ιδιοφυιών, 10 εκατομμύρια θα μπορούσαν να απασχοληθούν στη στρατιωτική στρατηγική, 10 εκατομμύρια στην κατασκευή drones, 10 εκατομμύρια στην έρευνα και ανάπτυξη (R&D) όπλων, 10 εκατομμύρια στη συλλογή και ανάλυση πληροφοριών, 10 εκατομμύρια στη γενική επιστημονική πρόοδο κ.ο.κ. Ένα έθνος που κατέχει ισχυρή Τεχνητή Νοημοσύνη απέναντι σε ένα που δεν τη διαθέτει —ή ακόμη και απέναντι σε ένα που έχει μείνει πίσω στην Τεχνητή Νοημοσύνη κατά 3 χρόνια— θα μπορούσε να είναι το ισοδύναμο ενός στρατού πεζοναυτών του Β’ Παγκοσμίου Πολέμου απέναντι σε έναν στρατό μεσαιωνικών σπαθοφόρων.
Επιπλέον, εάν η ισχυρή Τεχνητή Νοημοσύνη επιτρέψει βαθύτερες και ενδεχομένως μόνιμες μορφές απολυταρχικής καταστολής (βλ. Ενότητα 4), αυτό καθιστά ακόμη πιο σημαντικό το να είναι δημοκρατίες τα πιο ισχυρά έθνη του κόσμου — ή τουλάχιστον να υπάρχουν ισχυρές προστασίες έναντι της καταστολής που καθοδηγείται από το AI. Αυξάνει επίσης τον επείγοντα χαρακτήρα μιας στοχευμένης γεωπολιτικής στρατηγικής.
Οι δημοκρατίες θα πρέπει να επιδιώξουν τη δημιουργία μιας παγκόσμιας συμμαχίας με επίκεντρο την ανάπτυξη της Τεχνητής Νοημοσύνης σύμφωνα με τις κοινές τους αξίες, προσπαθώντας σταδιακά να προσελκύσουν τον υπόλοιπο κόσμο, καθιστώντας όλο και πιο ελκυστικό το να είναι κανείς μέρος της συμμαχίας και όλο και λιγότερο ελκυστικό το να βρίσκεται εκτός αυτής. Η συμμαχία θα πρέπει να αποτελεί μια συντονισμένη διεθνοποίηση των ιδεών πολιτικής για το AI που συζητήθηκαν στις Ενότητες 1 έως 4, μαζί με μια προσπάθεια θωράκισης της εφοδιαστικής αλυσίδας που είναι κρίσιμη για την κατασκευή της Τεχνητής Νοημοσύνης, μέσω του διαμοιρασμού της εντός της συμμαχίας και του αποκλεισμού όσων βρίσκονται εκτός αυτής. Ορισμένες αρχές και επιχειρησιακοί στόχοι θα μπορούσαν να περιλαμβάνουν:
-
Διαχείριση της εφοδιαστικής αλυσίδας του AI. Τα μέλη της αξιόπιστης συμμαχίας θα πρέπει να μοιράζονται ελεύθερα μεταξύ τους μικροτσίπ και εξοπλισμό κατασκευής ημιαγωγών (SME), ενώ θα συνεργάζονται για να τα στερήσουν από τους αντιπάλους τους. Οι έλεγχοι εξαγωγών των ΗΠΑ σε τσιπ αιχμής και SME προς την Κίνα έχουν συμβάλει σημαντικά στο συνολικό προβάδισμα των ΗΠΑ στην Τεχνητή Νοημοσύνη, και αυτές οι πολιτικές πρέπει να επεκταθούν, να αυστηροποιηθούν και να συντονιστούν με άλλα ομοмыκούντα κράτη. Η εκκρεμής νομοθεσία, όπως το MATCH και το OVERWATCH, αποτελεί ένα καλό πρώτο βήμα εδώ, και οι σύμμαχοι δημοκρατίες πρέπει να εξετάσουν παρόμοια μέτρα.
-
Συντονισμός για την αντιμετώπιση των κινδύνων του AI. Οι πολιτικές για την αντιμετώπιση των βιολογικών κινδύνων, των κινδύνων κυβερνοασφάλειας και της αυτονομίας που περιγράφονται στην Ενότητα 1 θα είναι πιο αποτελεσματικές (καθώς και λιγότερο επιβαρυντικές για τον κλάδο) εάν συντονιστούν διεθνώς. Αυτό θα σήμαινε ότι οι εταιρείες μπορούν να συμμορφώνονται με συμβατά πρότυπα και οι ρυθμιστικές αρχές μπορούν να διδάσκονται η μία από την άλλη πώς να μετρούν και να μετριάζουν καλύτερα αυτούς τους κινδύνους. Οι υπηρεσίες επιβολής του νόμου και οι υπηρεσίες πληροφοριών θα πρέπει επίσης να συνεργάζονται στενότερα για τον εντοπισμό και την εξάρθρωση απειλών κακής χρήσης, όπως οι προσπάθειες τρομοκρατών να κατασκευάσουν βιολογικά όπλα με τη χρήση AI.
-
Διαμοιρασμός των οφελών του AI. Η εμπορική και η ρυθμιστική πολιτική μπορούν να χρησιμοποιηθούν για να διευκολύνουν την ταχύτερη διάχυση των οικονομικών οφελών της Τεχνητής Νοημοσύνης εντός της συμμαχίας, μοιραζόμενες διδάγματα για τον τρόπο επιτάχυνσης της καινοτομίας. Ο συντονισμός των προσεγγίσεων για την επωφελή ανάπτυξη θα μπορούσε να βοηθήσει να φτάσουν τα οφέλη της Τεχνητής Νοημοσύνης στις αναπτυσσόμενες χώρες. Για παράδειγμα, η εναρμόνιση των καθεστώτων ιατρικής έγκρισης θα μπορούσε να οδηγήσει σε ταχύτερη και καλύτερη δοκιμή και έγκριση φαρμάκων που υποστηρίζονται από AI (όπως συζητήθηκε στην Ενότητα 3 παραπάνω).
-
Αμοιβαία άμυνα. Οι χώρες της συμμαχίας θα πρέπει να συνεργαστούν για να υπερασπιστούν η μία την άλλη με τη χρήση του AI και από το AI των αντιπάλων. Η συμμαχία θα πρέπει να διασφαλίσει συλλογικά την επαρκή παραγωγή κυβερνοάμυνας καθοδηγούμενης από το AI, drones που υποστηρίζονται από AI, παραγωγής καθοδηγούμενης από το AI, διαβαθμισμένης υπολογιστικής ισχύος AI, έρευνας και ανάπτυξης (R&D) καθοδηγούμενης από το AI, καθώς και τον διαμοιρασμό της συλλογής πληροφοριών που βασίζεται στο AI.
-
Απόρριψη της καταστολής που υποστηρίζεται από το AI. Τα μέλη της συμμαχίας θα πρέπει να απορρίψουν την υψηλής τεχνολογίας, εξαιρετικά κατασταλτική τυραννία που υποστηρίζεται από το AI, για την οποία προειδοποίησα στο The Adolescence of Technology, και πρέπει να διαθέτουν διασφαλίσεις παρόμοιες με αυτές που περιέγραψα στην Ενότητα 4 παραπάνω.
-
Μακροοικονομική συνεργασία. Οι κρίσεις απασχόλησης ή εργασιακής σταθερότητας, όπως κάθε άλλη οικονομική κρίση, μπορούν να είναι μεταδοτικές πέρα από τα σύνορα. Επομένως, οι χώρες έχουν αμοιβαίο συμφέρον να συνεργαστούν για τον συντονισμό των πολιτικών μακροοικονομικής υποστήριξης και σταθεροποίησης, όπως αυτές που περιγράφονται στην Ενότητα 2, για την αντιμετώπιση τυχόν επιπτώσεων στην απασχόληση.
Ο στόχος θα πρέπει να είναι να καταστεί η συμμετοχή στη συμμαχία όσο το δυνατόν πιο ελκυστική — και το κόστος της παραμονής εκτός αυτής ξεκάθαρο. Η συμμαχία θα βασίζεται στον συντονισμό μεταξύ κυρίαρχων κρατών, με κάθε έθνος να διατηρεί την πλήρη εξουσία επί των δικών του υποθέσεων. Θα μπορούσε να αναπτυχθεί σταδιακά, ξεκινώντας από ιδεολογικά ευθυγραμμισμένες δημοκρατίες (οι οποίες θα είναι εκ φύσεως πρόθυμες να προσχωρήσουν) και καλωσορίζοντας προοδευτικά χώρες που είναι λιγότερο φυσικά ευθυγραμμισμένες αλλά προετοιμασμένες να πληρούν τα πρότυπα της συμμαχίας με αντάλλαγμα τα τεράστια οφέλη της συμμετοχής. Ιδανικά, ολόκληρος ο κόσμος θα εντασσόταν τελικά. Αλλά ακόμη κι αν αυτό δεν είναι δυνατό, η οικοδόμηση της συμμαχίας φέρνει τις δημοκρατίες στην ισχυρότερη θέση να περιορίσουν και να ανταγωνιστούν επιτυχώς τα καθεστώτα που παραμένουν προσηλωμένα στην καταστολή.
Ένα παράθυρο ευκαιρίας
Η εκθετική πρόοδος της Τεχνητής Νοημοσύνης έχει δημιουργήσει έναν επείγοντα χαρακτήρα και έναν ρυθμό αλλαγής που η διαδικασία χάραξης πολιτικής είναι συνήθως ανεπαρκώς εξοπλισμένη να διαχειριστεί. Αλλά έχει επίσης δημιουργήσει ένα μοναδικό παράθυρο ευκαιρίας. Η σύγκλιση σαφών και παρόντων αποδείξεων για τους κινδύνους της Τεχνητής Νοημοσύνης, μια πρώτη γεύση των δυνατοτήτων του AI τόσο για τη δημιουργία οικονομικής αξίας όσο και για την οικονομική διαταραχή, και μια αξιοσημείωτη αντίδραση του κοινού ενάντια στις ανεξέλεγκτες προσεγγίσεις στην Τεχνητή Νοημοσύνη έχουν δημιουργήσει μια κατάσταση όπου οι υπεύθυνοι χάραξης πολιτικής είναι ασυνήθιστα ανοιχτοί σε ενέργειες με μελλοντική προοπτική. Ο Δεντρογένησ (Treebeard) και το δάσος του ξυπνούν.
Έχει γίνει δημοφιλές στους κύκλους του κλάδου της Τεχνητής Νοημοσύνης να αντιμετωπίζεται αυτό ως πρόβλημα δημοσίων σχέσεων (PR): να λέγεται ότι η Τεχνητή Νοημοσύνη χρειάζεται «καλύτερο μάρκετινγκ». Απορρίπτω εντελώς αυτή τη θεώρηση. Οι άνθρωποι ανησυχούν για την Τεχνητή Νοημοσύνη επειδή αντιλαμβάνονται σωστά ότι οι κίνδυνοί της είναι πραγματικοί, όχι επειδή οι διευθύνοντες σύμβουλοι των εταιρειών AI υπήρξαν ανεπαρκώς αισιόδοξοι. Πιστεύω ότι είναι καθήκον μου ως ηγέτης στον τομέα του AI να συνεχίσω να είμαι διαφανής σχετικά με αυτούς τους κινδύνους, και η ανησυχία του κοινού ως απάντηση σε αυτή τη διαφάνεια συνιστά τη δημοκρατική λογοδοσία να λειτουργεί όπως θα έπρεπε. Η βασική πρόκληση είναι η εστίαση αυτής της ανησυχίας σε εποικοδομητικές λύσεις και το να μην επιτραπεί να διολισθήσει σε άμορφη οργή και βία.
Είμαι αισιόδοξος για την εξεύρεση λύσεων επειδή πολλά από αυτά τα ζητήματα —από την αντιμετώπιση της εκτόπισης θέσεων εργασίας, τις δοκιμές των μοντέλων πριν από την κυκλοφορία τους, τους ελέγχους εξαγωγών στα μικροτσίπ, έως άλλα θέματα πολιτικής που σχετίζονται με το AI, όπως η χρήση ενέργειας— έχουν μια απήχηση κοινής λογικής σε όλο το πολιτικό φάσμα. Υπάρχει ένας φιλόδοξος αλλά ρεαλιστικός μελλοντικός κόσμος στον οποίο μια ευρεία, υπερκομματική συμμαχία, καθοδηγούμενη από την άμεση αναγνώριση των προκλήσεων που θέτει η Τεχνητή Νοημοσύνη, οδηγεί στην υιοθέτηση λογικών και μακροπρόθεσμων πολιτικών πολύ ταχύτερα από το συνηθισμένο. Όσο νωρίτερα το πράξουμε αυτό, τόσο νωρίτερα θα μπορέσουμε όλοι να μοιραστούμε τα απίστευτα οφέλη της Τεχνητής Νοημοσύνης.
Θα ήθελα να ευχαριστήσω τους Άλαν Νταφόε (Allan Dafoe), Μαριάνο-Φλορεντίνο Κουέγιαρ (Mariano-Florentino Cuéllar), Ρίτσαρντ Φοντέιν (Richard Fontaine), Μπάντι Σαχ (Buddy Shah), Βας Ναρασίμχαν (Vas Narasimhan), Ματ Ιγκλέσιας (Matt Yglesias), Νικ Μπέκστεντ (Nick Beckstead), Τζέισον Μαθέινι (Jason Matheny), Μπραντ Κάρσον (Brad Carson) και πολλά από τα μέλη του προσωπικού της Anthropic για τα σχόλια και τις παρατηρήσεις τους σε προσχέδια αυτού του δοκιμίου.
Υποσημειώσεις
-
Συζητώ τους βιολογικούς κινδύνους και τους κινδύνους αυτονομίας, μεταξύ άλλων, στο δοκίμιό μου The Adolescence of Technology. Το Ινστιτούτο Anthropic έχει επίσης δημοσιεύσει ορισμένα αρχικά εσωτερικά δεδομένα στο When AI Builds Itself σχετικά με την πιθανότητα αναδρομικής αυτοβελτίωσης, ή μοντέλων που είναι αυτόνομα ικανά να κατασκευάζουν καλύτερα μοντέλα.
-
Αυτό το φαινόμενο δεν είναι θεωρητικό: το έχουμε παρατηρήσει πολλαπλές φορές στα δικά μας εθελοντικά πλαίσια διακυβέρνησης, όπως η Πολιτική Υπεύθυνης Κλιμάκωσης (Responsible Scaling Policy). Εάν θέσουμε στους εαυτούς μας μια σταθερή ή άκαμπτη λίστα απαιτήσεων ασφαλείας για τα μελλοντικά μοντέλα AI, ένα πολύ πιθανό αποτέλεσμα είναι ότι απαιτήσεις που αποδεικνύεται ότι έχουν ελάχιστη σημασία θα καταλήξουν να καταναλώνουν το 95% των προσπαθειών συμμόρφωσής μας, ενώ ταυτόχρονα ανακαλύπτουμε ότι μερικές από τις μεγαλύτερες πηγές κινδύνου δεν είχαν προβλεφθεί καθόλου στη λίστα μας. Τα εθελοντικά πλαίσια μπορούν να αλλάξουν και να προσαρμοστούν, αλλά αυτό είναι πολύ πιο δύσκολο με τη νομοθεσία. Οι προσπάθειές μου να παλέψω με αυτό το δίλημμα φαίνονται στις δύο δημόσιες επιστολές μου σχετικά με το SB 1047, έναν νόμο της Καλιφόρνια του 2024 που προσπάθησε να αντιμετωπίσει καταστροφικούς κινδύνους και για τον οποίο είχα ανάμικτα συναισθήματα για τους λόγους που προαναφέρθηκαν.
-
Για παράδειγμα, οι πραγματικά σοβαροί βιολογικοί κίνδυνοι μπορεί να είναι πολύ πιο δύσκολο να διαχειριστούν από τους κινδύνους στον κυβερνοχώρο, επειδή οι επιτιθέμενοι έχουν ισχυρό πλεονέκτημα έναντι των αμυνόμενων και η σοβαρότητα μιας καταστροφής μπορεί να είναι πολύ μεγαλύτερη.
-
Βλ. The Adolescence of Technology για μια πιο λεπτομερή ανάλυση του γιατί η λογική που οδήγησε σε ταχεία ανάκαμψη της αγοράς εργασίας και στην απουσία μόνιμης εκτόπισης εργατικού δυναμικού σε άλλες τεχνολογίες ενδέχεται να μην ισχύει για την Τεχνητή Νοημοσύνη, και ειδικότερα γιατί οι συνήθεις μηχανισμοί προσαρμογής, όπως το παράδοξο του Jevon ή το συγκριτικό πλεονέκτημα, μπορεί να κατακλυστούν από τον ρυθμό της τεχνολογίας.
-
Ως παράδειγμα, οι άνθρωποι εξακολουθούν να αφιερώνουν τη ζωή τους παίζοντας σκάκι ή Γκο (Go), ή σκαρφαλώνοντας σε βουνά, και εξακολουθούν να χαίρουν σεβασμού για αυτές τις δραστηριότητες, παρόλο που όλες μπορούν να γίνουν καλύτερα από μηχανές.
-
Αυτό ουσιαστικά δίνει στους ανθρώπους ένα επιπλέον κίνητρο να μεταβούν σε μια νέα θέση εργασίας και να ξεκινήσουν εκπαίδευση για μια νέα επαγγελματική κλίμακα, ακόμη κι αν αυτό είναι επώδυνο βραχυπρόθεσμα, πληρώνοντάς τους τη διαφορά μεταξύ του νέου και του παλιού μισθού τους, εάν ο νέος είναι χαμηλότερος.
-
Βλ. The Adolescence of Technology για περισσότερα σχετικά με αυτό το θέμα.
Δεν μπορούν όλοι να πληρώσουν. Και το σεβόμαστε.
Αν βρίσκεσαι σε δύσκολη οικονομική κατάσταση, συνέχισε να μας διαβάζεις δωρεάν. Η ενημέρωση πρέπει να παραμένει προσβάσιμη για όλους.
Αν όμως μπορείς, στήριξέ μας σήμερα. Ορίστε δύο καλοί λόγοι για να το κάνεις:
- Η στήριξή σου ενισχύει άμεσα την ποιότητα και την ανεξαρτησία της δημοσιογραφίας μας.
- Κοστίζει λιγότερο από έναν καφέ και η διαδικασία διαρκεί λιγότερο από 1 λεπτό.
Επίλεξε σήμερα να γίνεις συνδρομητής ή δωρητής.
Σας ευχαριστούμε θερμά.
