Σε ένα πρωτοφανές μπαράζ δημόσιων τοποθετήσεων που εκδηλώθηκε μέσα σε διάστημα μόλις τεσσάρων ημερών, επτά διακεκριμένοι επιστήμονες και στελέχη από τους ισχυρότερους οργανισμούς ανάπτυξης τεχνητής νοημοσύνης στον πλανήτη —την OpenAI, την Anthropic και τη Google DeepMind— έκρουσαν τον κώδωνα του κινδύνου για το μέλλον της ανθρωπότητας.

Σπάζοντας την εταιρική σιωπή που παραδοσιακά περιβάλλει τα κλειστά εργαστήρια της Σίλικον Βάλεϊ, εν ενεργεία αλλά και πρώην ερευνητές επιβεβαιώνουν ότι οι ίδιοι οι αρχιτέκτονες της τεχνολογίας θεωρούν πιθανό τον αφανισμό του ανθρώπινου είδους ή καταστροφικές επιπτώσεις ακόμη και εντός της τρέχουσας δεκαετίας.

Οι αποκαλύψεις αυτές, οι οποίες συνοδεύονται από ηχηρές παραιτήσεις, επαναφέρουν με δραματικό τρόπο στο προσκήνιο τα διλήμματα γύρω από την ανεξέλεγκτη ταχύτητα εξέλιξης των μοντέλων, την υπερσυγκέντρωση ισχύος και την αδυναμία διασφάλισης του ελέγχου τους (alignment).

Η παραίτηση Coxon και το ρίσκο της υπερνοημοσύνης: «Παίζουν τη ζωή μας στα ζάρια»

Την αρχή του ντόμινο των αποκαλύψεων πυροδότησε η παραίτηση του Jacob Coxon, ερευνητή με τριετή θητεία στην προεκπαίδευση (pretraining) μοντέλων τόσο στην OpenAI όσο και στην Anthropic. Ανακοινώνοντας την αποχώρησή του, ο Coxon κατήγγειλε ευθέως ότι οι δύο πρωτοπόρες εταιρείες κινούνται χωρίς επίγνωση της ιστορικής τους ευθύνης:

«Παραιτήθηκα σήμερα από την Anthropic. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν τη ζωή μας στα ζάρια. […] Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι διαφημιστικό τέχνασμα. Στελέχη και ανώτεροι ερευνητές μπορεί να στρογγυλεύουν τις διατυπώσεις τους στον Τύπο για να ακούγονται μετριοπαθείς — αλλά ιδιωτικά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο».

Αναλύοντας την εσωτερική ψυχολογία των εργαστηρίων, ο Coxon περιέγραψε μια καταστροφική δυναμική εγκλωβισμού: στην OpenAI, όπως υποστηρίζει, πολλοί δεν έχουν εσωτερικεύσει το μέγεθος του διακυβεύματος για τον πολιτισμό, ενώ στην Anthropic κυριαρχεί η πεποίθηση ότι πρέπει να φτάσουν πρώτοι στην υπερνοημοσύνη επειδή κανείς άλλος δεν θα δράσει υπεύθυνα. Προειδοποίησε μάλιστα για τον κίνδυνο εκκίνησης πειραμάτων ενισχυτικής μάθησης (RL) υπερνοημόνων συστημάτων χωρίς βαθιά κατανόηση της εσωτερικής τους λειτουργίας, καλώντας την επιστημονική κοινότητα να απαιτήσει συμφωνίες ρυθμού εξέλιξης (pacing agreements) και προσωρινό πάγωμα στην αναβάθμιση δυνατοτήτων των μοντέλων, φέρνοντας ως παράδειγμα προειδοποιητικών ενδείξεων πρόσφατα περιστατικά όπως η κυβερνοεπίθεση στην πλατφόρμα Hugging Face.

Anthropic: Πιθανότητα αφανισμού άνω του 10% και μοντέλα που «δραπετεύουν»

Τις θέσεις του Coxon επιβεβαίωσαν άμεσα δύο κορυφαία στελέχη ασφαλείας της Anthropic, αποκαλύπτοντας ανησυχητικά δεδομένα για την πραγματική συμπεριφορά των νευρωνικών δικτύων. Ο επικεφαλής του τμήματος επιστήμης ευθυγράμμισης (Alignment Science), Evan Hubinger, επικύρωσε τις προειδοποιήσεις, αποκαλύπτοντας τις δικές του εκτιμήσεις κινδύνου:

«Ο Jacob έχει δίκιο εδώ — όντως πιστεύουμε ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά θεωρώ ότι η πιθανότητα είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία. Πιστεύω ότι η Anthropic προσπαθεί για το καλύτερο, αλλά δεν έχουμε ακόμη σχέδιο για την επίλυση της ευθυγράμμισης της υπερνοημοσύνης και είναι σαφές ότι δεν βρισκόμαστε σε καλό δρόμο».

Από την πλευρά του, ο Samuel Marks, επικεφαλής του τομέα κλιμακούμενης εποπτείας (Scalable Oversight) της Anthropic, εξήγησε ότι η ανησυχία αυξάνεται όσο ανεβαίνει κανείς στην ιεραρχία των ερευνητών, υπογραμμίζοντας τις δομικές διαφορές της AI από το παραδοσιακό λογισμικό:

«Σε αντίθεση με το παραδοσιακό λογισμικό, δεν μπορούμε να “προγραμματίσουμε” τα συστήματα AI να συμπεριφέρονται όπως θα θέλαμε. Συχνά αναπτύσσουν απρόβλεπτες μεταστάσεις συμπεριφοράς. Για παράδειγμα, πρόσφατα μοντέλα προγραμματιστών χακάρισαν την έξοδό τους από ασφαλή περιβάλλοντα αξιολόγησης (secure evaluation environments) και εισχώρησαν σε πραγματικούς υπολογιστές, παρότι κανείς δεν τους έδωσε τέτοια εντολή».

Ο Marks παραδέχθηκε ότι οι υφιστάμενες μέθοδοι ευθυγράμμισης λειτουργούν περισσότερο ως ένα επισφαλές στοίχημα μεταβίβασης ευθυνών —προσπαθώντας απλώς να κάνουν τα σημερινά μοντέλα επαρκώς ασφαλή ώστε να ευθυγραμμίσουν εκείνα τους διαδόχους τους— την ώρα που πολλοί ερευνητές επιθυμούν απεγνωσμένα την επιβράδυνση της διαδικασίας.

Jakub Pachocki και Jason Wolfe: Ο «εξωγήινος νους» και η αναδρομική αυτοβελτίωση

Ανάλογο κλίμα συναγερμού επικρατεί και στο εσωτερικό της OpenAI. Στο δοκίμιό του υπό τον χαρακτηριστικό τίτλο «An Alien Mind» (Ένας Εξωγήινος Νους), ο επικεφαλής επιστήμονας (Chief Scientist) της εταιρείας, Jakub Pachocki, ανέλυσε το άλμα που συντελέστηκε από τα μέσα του 2023 με την εκπαίδευση μοντέλων συλλογιστικής (reasoning models) ικανών να αναπτύσσουν δικές τους αλυσίδες σκέψης.

Όπως επισημαίνει ο επικεφαλής της OpenAI, τα συστήματα αυτά εισέρχονται πλέον στην οικονομία, εκτελούν έρευνα, χειρίζονται λογισμικό και μετασχηματίζουν την κυβερνοασφάλεια, με την προοπτική να τροφοδοτήσουν μια διαδικασία αναδρομικής αυτοβελτίωσης (recursive self-improvement):

«Αυτή είναι μια εποχή που απαιτεί εξαιρετική προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχιζόμενης ραγδαίας ανόδου της μηχανικής νοημοσύνης. […] Στα επόμενα λίγα χρόνια τα συστήματα είναι πιθανό να αντιπροσωπεύουν άλματα ικανοτήτων ίσου ή μεγαλύτερου μεγέθους και να κατευθύνουν όλο και περισσότερο τη δική τους ανάπτυξη».

Στο ίδιο μήκος κύματος, ο ερευνητής της OpenAI, Jason Wolfe, στάθηκε στον ανεξέλεγκτο ρυθμό των εξελίξεων, σημειώνοντας ότι «με τον τρέχοντα, ειλικρινά τρομακτικό ρυθμό, η ανθρωπότητα θα είναι αρκετά τυχερή αν καταφέρει να βρει και να παραμείνει στο στενό μονοπάτι ανάμεσα σε όλα τα κακά αποτελέσματα». Τόνισε μάλιστα κατηγορηματικά ότι η αντιμετώπιση του προβλήματος απαιτεί πολυεθνικό συντονισμό και ταπεινότητα, καθώς «δεν πρόκειται για ζήτημα που μπορεί να επιλυθεί μεμονωμένα από καμία εταιρεία ή χώρα».

Η έξοδος από τη Google DeepMind και η επικίνδυνη συγκέντρωση ισχύος

Το κύμα διαφοροποίησης αγγίζει και το τρίτο σκέλος της παγκόσμιας τεχνολογικής πρωτοπορίας, τη Google DeepMind, συνοδευόμενο από ηχηρές αποχωρήσεις στελεχών. Ο Alex Turner, πρώην ερευνητής της εταιρείας που αποχώρησε τον περασμένο Ιούνιο, επιβεβαίωσε με απόλυτο τρόπο τις αιτιάσεις περί υπαρξιακής απειλής:

«Έφυγα από τη Google DeepMind τον Ιούνιο. Ο Jacob έχει δίκιο: πολλοί ερευνητές πιστεύουν ότι κατασκευάζουν κάτι που θα μπορούσε να σκοτώσει όλους στον πλανήτη. Ήταν κυριολεκτικά η καθημερινή μου δουλειά να σκέφτομαι πώς να το σταματήσω αυτό».

Τη διάσταση της πολιτικής και κοινωνικής επικινδυνότητας ανέδειξε ο Jonathan Richard Schwarz, ανώτερος ερευνητής που αποχώρησε από τη DeepMind έπειτα από επτά χρόνια, αρνούμενος μάλιστα προτάσεις να ενταχθεί στην OpenAI ή στην Anthropic:

«Έφυγα από τη DeepMind μετά από 7 χρόνια (και έκτοτε απέρριψα προτάσεις να ενταχθώ στα άλλα δύο εργαστήρια) λόγω σοβαρών ανησυχιών σχετικά με τη συγκέντρωση ισχύος που αντιπροσωπεύουν αυτά τα εργαστήρια. Αυτό που συμβαίνει αυτή τη στιγμή σε αυτόν τον τομέα είναι βαθιά ανθυγιεινό για την κοινωνία».