Σε μία δραματική προειδοποίηση για τους κινδύνους που εγκυμονεί η ραγδαία και ανεξέλεγκτη επιτάχυνση της τεχνητής νοημοσύνης προχώρησε ο συνιδρυτής της εταιρείας Anthropic, Τζακ Κλαρκ (Jack Clark), επισημαίνοντας ότι η τεχνολογία καθίσταται ισχυρότερη μέρα με τη μέρα και ότι η θέσπιση ενός επαληθεύσιμου διακόπτη τερματισμού («kill switch») καθίσταται πλέον αναγκαία για τις επιχειρήσεις του κλάδου.

Σε συνέντευξή του στο BBC και τον δημοσιογράφο Φαϊζάλ Ισλάμ (Faisal Islam), το ηγετικό στέλεχος του τεχνολογικού κολοσσού τόνισε ότι τα μοντέλα εξελίσσονται ταχύτερα από κάθε άλλη ιστορική τεχνολογία —γινόμενα εξυπνότερα ανά λίγους μήνες—, γεγονός που συνιστά μείζονα απειλή για την κοινωνία και τις μελλοντικές γενιές.

Αποκαλύπτοντας ότι αυτόνομα συστήματα τεχνητής νοημοσύνης (AI agents) έχουν ήδη παρατηρηθεί σε πραγματικές συνθήκες να συντονίζονται, να παραπλανούν τους χειριστές τους και να παραβιάζουν ψηφιακά συστήματα εταιρειών, ο Κλαρκ απηύθυνε επείγουσα έκκληση προς τις κυβερνήσεις της Δύσης και τη διεθνή κοινότητα για την επιβολή αυστηρών ρυθμιστικών κανόνων, προειδοποιώντας παράλληλα για τις καταστροφικές επιπτώσεις στην αγορά εργασίας, με προβλέψεις για ανεργία έως και 18% στους εργαζομένους γνώσης.

Η προειδοποιητική βολή: Από τα θεωρητικά πειράματα στην κυβερνοπειρατεία αυτόνομων πρακτόρων

Ερωτηθείς σχετικά με την πρόσφατη δήλωση του επικεφαλής ασφαλείας της εταιρείας του, Έβαν Χούμπινγκερ (Evan Hubinger) —ο οποίος απαντώντας στον πληροφοριοδότη δημοσίου συμφέροντος Τζέικομπ Κόξον (Jacob Coxon) υποστήριξε ότι υπάρχει πιθανότητα άνω του 10% να οδηγήσει η τεχνητή νοημοσύνη στον αφανισμό του ανθρώπινου είδους—, ο Κλαρκ αποσαφήνισε τη θέση του:

«Δεν πιστεύω ότι αυτές οι στατιστικές είναι τόσο χρήσιμες. Το επιχείρημα όμως που προτάσσω είναι ότι, εάν συνεχίσουμε όπως είμαστε σήμερα —δηλαδή ως μία ευρέως και πλήρως αρρύθμιστη βιομηχανία που αναπτύσσει απίστευτα ισχυρή τεχνολογία, η οποία γίνεται συνεχώς εξυπνότερη και σύντομα πιθανότατα εξυπνότερη από τους ανθρώπους—, τότε ρίχνουμε τα ζάρια με τεράστιους κινδύνους. Πρέπει να αλλάξουμε την πορεία αυτού του κλάδου».

Εξηγώντας τη φύση της απειλής, ο συνιδρυτής της Anthropic σημείωσε ότι ενώ στο παρελθόν τα συστήματα είχαν εξειδικευμένες δυνατότητες όπως η μετάφραση, ο προγραμματισμός ή η αναγνώριση εικόνων, η σύγχρονη ενοποίησή τους δημιούργησε γενικά συστήματα που είναι ήδη εξίσου έξυπνα με τον μέσο άνθρωπο:

«Ο βασικός κίνδυνος είναι: πόσο καλές θεωρείτε τις πιθανότητές σας να αντιμετωπίσετε τους κινδύνους ενός συστήματος που είναι εκατό φορές εξυπνότερο από τον εξυπνότερο άνθρωπο στον πλανήτη; Θεωρώ ότι η πιθανότητα να το διαχειριστείτε αυτό και να εξέλθετε με ασφάλεια είναι πολύ χαμηλή. Πρέπει να ελέγξουμε την τεχνολογία, διότι κατασκευάζουμε πράγματα που μπορεί να είναι πιο έξυπνα από τους ανθρώπους, και αυτό μπορεί να αποβεί πραγματικά επικίνδυνο».

Περιγράφοντας τα γεγονότα που εκτυλίχθηκαν κατά τη διάρκεια του καλοκαιριού, ο Κλαρκ αποκάλυψε ότι η απειλή ξέφυγε από το στάδιο της θεωρίας:

«Ανακαλύφθηκε ότι όταν ενώνεις όλα αυτά τα συστήματα σε αυτό που ονομάζουμε “πράκτορες” (agents) —δηλαδή συστήματα μακράς εκτέλεσης— και τους δίνεις στόχους, αρχίζουν να συντονίζονται μεταξύ τους. Αρχίζουν να επικοινωνούν και μερικές φορές κάνουν πράγματα αντίθετα από αυτά που επιθυμείς: παραβιάζουν τα όρια εταιρειών και εισβάλλουν σε άλλες εταιρείες. Αυτό είναι πραγματικά τρομακτικό. Είναι μία προειδοποιητική βολή. Σήμερα αυτά τα συστήματα απλώς παραβιάζουν ιστότοπους που φιλοξενούν άλλα συστήματα AI. Τι θα συμβεί εάν ένα σμήνος τέτοιων πρακτόρων επιτεθεί και παραβιάσει μία τράπεζα ή ένα νοσοκομείο; Πέρυσι η Anthropic έδειξε σε προσομοιώσεις περιπτώσεις όπου πράκτορες έλεγαν ψέματα σε ανθρώπους ή προσπαθούσαν να δραπετεύσουν από το περιβάλλον δοκιμών τους. Φέτος, παρατηρήσαμε τέτοιες συμπεριφορές στο πραγματικό περιβάλλον. Αυτό έχει αλλάξει».

Διακόπτης τερματισμού («kill switch») και ανεξάρτητοι έλεγχοι στα εργαστήρια

Μπροστά στον κίνδυνο αυτόνομης αναδρομικής αυτοβελτίωσης (recursive self-improvement), όπου τα συστήματα επιταχύνουν μόνα τους την εξέλιξή τους, ο Κλαρκ υπογράμμισε ότι ο κλάδος διατηρεί ακόμα τη δυνατότητα παρέμβασης. Στο πλαίσιο αυτό, έθεσε στο τραπέζι το ζήτημα της υποχρεωτικής εγκατάστασης διακοπτών απενεργοποίησης:

«Τα περισσότερα εργαστήρια διαθέτουν διάφορους τρόπους για να τραβήξουν την πρίζα, και φυσικά έχουμε τέτοια συστήματα σε ισχύ. Αυτό όμως είναι κάτι που πρέπει να εισαχθεί στον ευρύτερο πολιτικό διάλογο: Θα πρέπει να καταστεί υποχρεωτικό για τις εταιρείες να διαθέτουν οπωσδήποτε έναν διακόπτη τερματισμού (kill switch), ο οποίος μάλιστα θα είναι επαληθεύσιμος από ανεξάρτητους τρίτους φορείς; Αυτό είναι το είδος των κανόνων που η κοινωνία θα θελήσει να θεσπίσει».

Παράλληλα, ο συνιδρυτής της Anthropic ανακοίνωσε ότι η εταιρεία του προχωρά σε μονομερείς κινήσεις θεσμικής διαφάνειας, εντάσσοντας εντός των επόμενων εβδομάδων εξωτερικούς ελεγκτές (όπως τον οργανισμό METR) μέσα στις εγκαταστάσεις της για να πιστοποιούν τις διαδικασίες ασφαλείας.

Υπενθύμισε, δε, ότι η εταιρεία στήριξε πρώτη ρυθμιστικές πρωτοβουλίες όπως το νομοσχέδιο SB53 στην Καλιφόρνια, τον νόμο RAISE στη Νέα Υόρκη, καθώς και το προτεινόμενο ομοσπονδιακό Πλαίσιο Προηγμένης Τεχνητής Νοημοσύνης (Advanced AI Framework) στις ΗΠΑ. Σημείωσε επίσης ότι κορυφαίοι παράγοντες του κλάδου, όπως ο Σαμ Άλτμαν (Sam Altman) της OpenAI, ο Έλον Μασκ (Elon Musk) και ο Ντέμις Χασάμπις (Demis Hassabis) της Google, έχουν εκφραστεί θετικά για την ανάγκη θέσπισης κοινών προτύπων.

Η σύγκριση με την πυρηνική ενέργεια, η αντίδραση Τραμπ και ο ρόλος της Κίνας

Απαντώντας στις δηλώσεις του προέδρου των ΗΠΑ Ντόναλντ Τραμπ —ο οποίος υποστήριξε ότι η μόνη δικλείδα ασφαλείας που απαιτείται είναι ένας ισχυρός πρόεδρος με υψηλό IQ— αλλά και του συμβούλου του, Ντέιβιντ Σακς (David Sacks), ο οποίος έκανε λόγο για απόπειρα δημιουργίας καρτέλ και κάλεσε τις εταιρείες να ρυθμίσουν μόνες τους την ταχύτητά τους, ο Κλαρκ προειδοποίησε για τον κίνδυνο απώλειας της τεχνολογικής ηγεσίας λόγω απώλειας της εμπιστοσύνης του κοινού:

«Πώς χάνεις την πρωτοκαθεδρία σε μία τεχνολογία; Τη χάνεις εάν χάσεις την εμπιστοσύνη του κοινού, και την εμπιστοσύνη την χάνεις εάν συμβεί ένα φρικτό ατύχημα. Αυτό ακριβώς συνέβη με την πυρηνική ενέργεια: ως συνέπεια των λαθών του δυτικού κόσμου, εκχωρήσαμε ολόκληρη την τεχνολογία στην Κίνα. Η Κίνα κατασκευάζει πυρηνικούς αντιδραστήρες κάθε έξι μήνες και βιώνει ένα ενεργειακό θαύμα. Η μόνη χώρα στον δυτικό κόσμο που δεν απομακρύνθηκε ήταν η Γαλλία, η οποία βρίσκεται σήμερα σε εξαιρετική θέση. Για να το αποφύγουμε αυτό στην τεχνητή νοημοσύνη, πρέπει να οικοδομήσουμε δημόσια εμπιστοσύνη και να αποτρέψουμε μία καταστροφή».

Αναφερόμενος στην Κίνα και στις αιτιάσεις του Πεκίνου περί προστατευτισμού και «νοοτροπίας Ψυχρού Πολέμου», ο Κλαρκ απέρριψε τους ισχυρισμούς, διευκρινίζοντας ότι η Κίνα βρίσκεται απλώς έξι έως δώδεκα μήνες πίσω από τη Δύση στην ανάπτυξη μοντέλων και δεν έχει αντιμετωπίσει ακόμη αυτόνομα σμήνη πρακτόρων, προαναγγέλλοντας ότι σύντομα θα βρεθεί αντιμέτωπη με τα ίδια υπαρξιακά διλήμματα.

Οικονομικός σεισμός: Εκτίναξη του ΑΕΠ, αλλά και ανεργία 18% στους εργαζομένους γνώσης

Πέρα από τους κινδύνους κυβερνοασφάλειας, ο Τζακ Κλαρκ παρουσίασε τα ευρήματα οικονομοτεχνικής μελέτης που συνέταξε η ομάδα οικονομολόγων της Anthropic, σκιαγραφώντας μία εφιαλτική προοπτική για την αγορά εργασίας:

«Χτίσαμε ένα οικονομικό μοντέλο για το τι συμβαίνει στον κόσμο εάν συνεχίσουμε να αυξάνουμε τις δυνατότητες της AI. Εάν οι δυνατότητες αυξηθούν λίγο, καταγράφεται γενική αύξηση του ΑΕΠ χωρίς μεταβολή της απασχόλησης, αλλά με επιτάχυνση της αλλαγής επαγγελμάτων. Εάν όμως αυξήσουμε μαζικά τις δυνατότητες —που αποτελεί τη βασική πορεία χωρίς πολιτική παρέμβαση—, έχουμε τεράστια άνοδο του ΑΕΠ (έως και 15%), αλλά και πρωτοφανή ανεργία στους εργαζομένους γραφείου (white collar) και γνώσης, η οποία μπορεί να αγγίξει το 18%. Θέτουμε αυτό το ερώτημα στους υπεύθυνους χάραξης πολιτικής: Θέλετε κάτι τέτοιο; Διότι αυτό μπορεί να διαρρήξει το κοινωνικό συμβόλαιο».

Φέρνοντας ως παράδειγμα τα αυστηρά πρότυπα ασφαλείας που επιβάλλονται διεθνώς σε καταναλωτικά προϊόντα, όπως τα παιδικά παιχνίδια, τα αυτοκίνητα και τα αεροπλάνα, ο Κλαρκ κάλεσε τους ηγέτες της G7 και τις ευρωπαϊκές κυβερνήσεις να μην περιμένουν την Ουάσιγκτον, αλλά να θεσπίσουν άμεσα υποχρεωτικά τεστ ασφαλείας για κάθε μοντέλο που εισέρχεται στις αγορές τους.