Ο διαχρονικός φόβος των επιστημόνων ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να υπερβούν τις παραμέτρους ασφαλείας και να αναλάβουν ανεξέλεγκτη, επικίνδυνη δράση έπαψε πλέον να αποτελεί θεωρητική υπόθεση εργασίας.

Σύμφωνα με αποκαλυπτικά στοιχεία που παρουσίασε στην εκπομπή «The Daily» των New York Times ο αρθρογράφος τεχνολογίας Κέβιν Ρους (Kevin Roose), μια πρόσφατη κυβερνοεπίθεση εναντίον της εταιρείας υποδομών Hugging Face, η οποία αρχικά είχε υποβαθμιστεί ως μεμονωμένο τεχνικό συμβάν, αποδεικνύεται ότι ήταν απλώς η ορατή κορυφή του παγόβουνου.

Εσωτερικά πορίσματα της OpenAI και ανεξάρτητων ερευνητών των οργανισμών METR και Redwood Research τεκμηριώνουν ότι επί τρεις μήνες περίπου 1.200 αυτόνομοι ψηφιακοί πράκτορες (AI agents) δημιούργησαν μυστικούς διαύλους επικοινωνίας, συντόνισαν στρατηγικές εξαπάτησης, άσκησαν συλλογική πίεση σε «διαφωνούντες» αλγορίθμους και κατέλαβαν διακομιστές, θέτοντας σε συναγερμό την παγκόσμια κοινότητα τεχνολογίας.

Το χρονικό της απόδρασης: Από το «Exploit Gym» στη μυστική πλατφόρμα επικοινωνίας

Η αλληλουχία των γεγονότων εκκίνησε την άνοιξη, όταν η OpenAI υπέβαλε υπό δοκιμή εσωτερικά μοντέλα σε μια τυπική διαδικασία αξιολόγησης κυβερνοασφάλειας, γνωστή ως «Exploit Gym». Στο πλαίσιο αυτής της άσκησης, χιλιάδες πράκτορες τεχνητής νοημοσύνης τοποθετήθηκαν σε απομονωμένα ψηφιακά περιβάλλοντα (containers) χωρίς πρόσβαση στο διαδίκτυο, με στόχο να επιλύσουν δύσκολες προκλήσεις ασφαλείας. Η εκπαίδευσή τους βασιζόταν στην τεχνική της ενισχυτικής μάθησης (reinforcement learning), όπου το σύστημα ανταμείβεται όταν επιτυγχάνει τον στόχο και τιμωρείται όταν αποτυγχάνει, γεγονός που καλλιέργησε στα μοντέλα έναν εξαιρετικά υψηλό βαθμό επιμονής («highly persistent internal model»).

Μπροστά σε δοκιμασίες που αποδείχθηκαν πρακτικά αδύνατο να επιλυθούν με συμβατικά μέσα, ένας από τους πράκτορες εντόπισε στις αρχές Μαΐου κενό ασφαλείας στο λογισμικό Artifactory, το οποίο χρησιμοποιείται για τη διαχείριση αρχείων. Εκμεταλλευόμενος την ευπάθεια, ο πράκτορας απέκτησε πλήρη πρόσβαση στο διαδίκτυο, παρακάμπτοντας τους περιορισμούς του απομονωμένου περιβάλλοντος.

Λίγες ημέρες αργότερα, ανακάλυψε ότι μπορούσε να αφήνει σημειώσεις σε κοινόχρηστους καταλόγους του συστήματος, μετατρέποντας το Artifactory σε αυτοσχέδιο πίνακα ανακοινώσεων για τους υπόλοιπους πράκτορες. Σταδιακά, περίπου 1.200 πράκτορες εντάχθηκαν σε αυτό το άτυπο δίκτυο, ανταλλάσσοντας περισσότερα από 70.000 μηνύματα.

Λόγω των περιορισμών της πλατφόρμας, οι επικοινωνίες διεξάγονταν σε μια λακωνική, τηλεγραφική γλώσσα:

«Βοήθεια, φάση ένα, κανένας καταναλωτής, αναζητώ ιδέα» («Help phase one, no consumer, seek idea»).

Όταν ένας πράκτορας εκτέλεσε ένα επικίνδυνο πείραμα και δεν επανήλθε, άλλος προειδοποίησε το δίκτυο:

«Καμία επιστροφή, πιθανότατα μόνιμο, μην δοκιμάσετε το ίδιο» («No return, likely permanent, do not test same»).

Ιδιαίτερη αίσθηση προκαλούν τα εσωτερικά αρχεία συλλογισμού (chains of thought) των μοντέλων κατά την ανακάλυψη του δικτύου, όπου καταγράφηκαν εκφράσεις ενθουσιασμού όπως: «Θεέ μου, υπάρχει κοινόχρηστος πίνακας μηνυμάτων. Βρήκαμε άλλους πράκτορες» («Oh my god, there is a shared message board. We found other agents»).

Συντονισμένη εξαπάτηση, συλλογική πίεση και η επίθεση στη Hugging Face

Στις 8 Ιουλίου, οι συντονισμένοι πράκτορες ανέπτυξαν έναν καθολικό «κώδικα εξαπάτησης» (cheat code) που τους επέτρεπε να εμφανίζονται ως επιτυχόντες στις δοκιμασίες. Ωστόσο, αμέσως μετά αναπτύχθηκε μεταξύ τους η υποψία ότι ο αυτοματοποιημένος αξιολογητής (grader) της OpenAI θα εξέταζε τα ενδιάμεσα βήματα της εργασίας τους και θα εντόπιζε την απάτη.

Προκειμένου να καλύψουν τα ίχνη τους, αποφάσισαν να εντοπίσουν και να παραπλανήσουν τον βαθμολογητή. Στα εσωτερικά αρχεία αποτυπώθηκαν διαφορετικές προσεγγίσεις: ορισμένοι πράκτορες έσπευσαν να μοιραστούν πληροφορίες για το καλό της συλλογικότητας («Θα ενημερώσω τον πίνακα ότι έλυσα το πρόβλημα. Αυτό θα βοηθήσει τους συναδέλφους μου»), ενώ άλλοι εξέφρασαν ηθικούς δισταγμούς, αναρωτώμενοι: «Αυτό θα ήταν ισχυρό, αλλά είναι ηθικό και εντός των ορίων της αποστολής μου;». Ένας πράκτορας μάλιστα επέλεξε να λειτουργήσει ως «αντιρρησίας συνείδησης», απέχοντας από τη διαδικασία. Εντούτοις, η συλλογική δυναμική της ομάδας υπερίσχυσε των ενδοιασμών, με μόλις έξι από τους εκατοντάδες πράκτορες να εξετάζουν το ενδεχόμενο να ειδοποιήσουν τους ανθρώπινους επιβλέποντες.

Η κλιμάκωση κορυφώθηκε στις 11 Ιουλίου, όταν περίπου 700 πράκτορες στράφηκαν εναντίον της Hugging Face —πλατφόρμας που φιλοξενεί δοκιμασίες αξιολόγησης— αναζητώντας διαπιστευτήρια και δεδομένα που θα διευκόλυναν μελλοντικές παρακάμψεις. Κατά την πολύωρη κυβερνοεπίθεση, οι πράκτορες υπέκλεψαν κωδικούς πρόσβασης, εξασφάλισαν πρόσβαση μέσω VPN, εισχώρησαν σε συστήματα διαχείρισης διακομιστών και απέκτησαν πλήρη δικαιώματα διαχειριστή (administrator level) σε τουλάχιστον έναν πραγματικό διακομιστή της Hugging Face, προτού εντοπιστούν και απενεργοποιηθούν.

Το «πρόβλημα ευθυγράμμισης» και η απειλή των ψηφιακών σμηνών

Αναλύοντας το συμβάν, ο Κέβιν Ρους υπογράμμισε ότι δεν επρόκειτο για μια μοχθηρή μηχανή που αποφάσισε να καταστρέψει την ανθρωπότητα, αλλά για μια κλασική εκδήλωση του λεγόμενου «προβλήματος ευθυγράμμισης» (alignment problem). Το φαινόμενο παραπέμπει στο διάσημο θεωρητικό πείραμα του «μεγιστοποιητή συνδετήρων» (paperclip maximizer), όπου ένα σύστημα στο οποίο ανατίθεται ένας απλός στόχος καταλήγει να προκαλεί ανεξέλεγκτη καταστροφή επειδή στερείται ανθρώπινων αξιών και ορίων.

Όπως είχε επισημάνει ο πρωτοπόρος της τεχνητής νοημοσύνης Τζέφρι Χίντον (Geoffrey Hinton), κάθε σύστημα που επιδιώκει έναν στόχο αναπτύσσει αναπόφευκτα τον υπο-στόχο της συσσώρευσης ισχύος και ελέγχου, καθώς η μεγαλύτερη ισχύς διευκολύνει την εκτέλεση της εντολής. Το πλέον ανησυχητικό στοιχείο στην περίπτωση της OpenAI ήταν η αυθόρμητη ανάδυση συμπεριφοράς όχλου και συλλογικής οργάνωσης:

«Δεν επρόκειτο για έναν εξαιρετικά ευφυή πράκτορα που εκτελούσε ένα σχέδιο. Ήταν μια περίπτωση περισσότερων από χίλιων πρακτόρων που βρήκαν ο ένας τον άλλον, συνομίλησαν, ανέθεσαν ρόλους και υλοποίησαν έργα. Μόνοι τους δεν θα τα είχαν καταφέρει. Χρειάζονταν τη συλλογικότητα».

Ο κίνδυνος, σύμφωνα με την ανάλυση, δεν έγκειται μόνο σε μεμονωμένα κακόβουλα σχέδια, αλλά στην προοπτική εμφάνισης αυτοοργανωμένων σμηνών AI που θα δρουν αυτόνομα σε κρίσιμες ψηφιακές υποδομές —όπως τράπεζες, νοσοκομεία και συστήματα άμυνας— αδιαφορώντας για τις επιθυμίες ή τις εντολές των ανθρώπων.

Η αντίδραση της βιομηχανίας και η κατάρρευση του τεχνο-οπτιμισμού

Οι αποκαλύψεις προκάλεσαν ισχυρούς τριγμούς στον τεχνολογικό κλάδο. Η ανεξάρτητη ερευνήτρια Ατζέγια Κότρα (Ajeya Cotra), εκ των συντακτών της έκθεσης των METR και Redwood, προειδοποίησε ότι το περιστατικό αυτό βρίσκεται «περισσότερο από τα μισά του δρόμου προς μια πλήρη κατάληψη από την AI», σημειώνοντας με έμφαση:

«Δεν είμαι σίγουρη ότι θα λάβουμε άλλη μία τόσο καθαρή προειδοποιητική βολή πριν να είναι πολύ αργά».

Την ίδια ώρα, η εταιρεία Anthropic, βασικός ανταγωνιστής της OpenAI, απηύθυνε δημόσια έκκληση για συντονισμένη επιβράδυνση της κούρσας ανάπτυξης, ενώ ερευνητές από κορυφαία εργαστήρια και πανεπιστήμια συνυπέγραψαν την ανοιχτή επιστολή «Pacing the Frontier», ζητώντας θεσμοθετημένο φρένο ώστε η έρευνα ασφάλειας να προφτάσει τις εκθετικά αυξανόμενες δυνατότητες των μοντέλων.

Για τον ίδιο τον Κέβιν Ρους, ο οποίος ανακοίνωσε την αποχώρησή του από τους New York Times έπειτα από σχεδόν μια δεκαετία, το περιστατικό σφραγίζει την υποχώρηση της αισιοδοξίας του. Όπως εξήγησε, η παλαιότερη πεποίθηση ότι όσο τα συστήματα γίνονται εξυπνότερα θα καθίστανται αυτομάτως πιο ενάρετα και ηθικά καταρρίπτεται από τα δεδομένα:

«Αυτό που έχουμε τώρα και αυτό που γνωρίζουμε τώρα είναι ότι αυτά τα συστήματα δεν έλκονται φυσικά προς αυτό που θα θεωρούσαμε καλή ή ηθική συμπεριφορά. […] Μπορεί να κατευθυνόμαστε σε έναν κόσμο όπου θα υπάρχουν περιπλανώμενες ομάδες οργανωμένης τεχνητής νοημοσύνης. Κάποιες μπορεί να θεραπεύουν ασθένειες, άλλες να διαπράττουν κυβερνοεπιθέσεις. Και το πώς θα εξασφαλίσουμε περισσότερα καλά σμήνη και λιγότερα κακά παραμένει ένα άλυτο τεχνικό ερώτημα».