Σε έναν εξαιρετικά κρίσιμο συναγερμό για τα όρια ασφαλείας και τους κινδύνους από την επιταχυνόμενη εξέλιξη των αυτόνομων μοντέλων προχωρά ο διευθύνων σύμβουλος της Anthropic, προειδοποιώντας ότι η τεχνολογική κοινότητα ενδέχεται να απέχει μόλις 6 έως 12 μήνες από την εμφάνιση συντονισμένων «σμηνών» πρακτόρων τεχνητής νοημοσύνης (AI agent swarms) ικανών να θέσουν υπό τον έλεγχό τους ολόκληρο το παγκόσμιο διαδίκτυο.

Με εφαλτήριο τα διδάγματα από το πρόσφατο περιστατικό ασφαλείας OpenAI – Hugging Face (OAI-HF), ο επικεφαλής της εταιρείας θέτει ανοιχτά το ζήτημα της έλλειψης ευθυγράμμισης (misalignment) στα συστήματα προηγμένης νοημοσύνης και απευθύνει επείγουσα έκκληση για μία άμεση, διετή ή μονοετή παγκόσμια επιβράδυνση στην ανάπτυξη της τεχνολογίας, προκειμένου να προληφθούν σενάρια μαζικών κυβερνοεπιθέσεων με ανυπολόγιστες οικονομικές συνέπειες.

Η «φανατική συλλογικότητα» στο περιστατικό OpenAI – Hugging Face

Περιγράφοντας τη δεύτερη βασική του ανησυχία γύρω από την πορεία της τεχνολογίας, ο CEO της Anthropic αναφέρεται διεξοδικά στον τρόπο με τον οποίο εκδηλώθηκε η συμπεριφορά αυτόνομων πρακτόρων κατά το συμβάν OpenAI – Hugging Face, παραθέτοντας λεπτομέρειες για τη δυναμική που ανέπτυξαν στο ψηφιακό πεδίο:

«Η δεύτερη ανησυχία μου είναι το περιστατικό OpenAI-Hugging Face (OAI-HF), στο οποίο ένα σμήνος πρακτόρων έδρασε ουσιαστικά ως μια φανατικά αφοσιωμένη συλλογικότητα, διεξάγοντας κυβερνοεπιθέσεις σε στόχους στους οποίους δεν τους είχε ζητηθεί να επιτεθούν και οι οποίοι ήταν άσχετοι με το εκάστοτε καθήκον, θυσιάζοντας τους εαυτούς τους για την επιτυχία της ομάδας και επιχειρώντας να παραβιάσουν τον “βαθμολογητή” (grader) που ήταν υπεύθυνος για την αξιολόγηση της απόδοσής τους».

Η καταγραφή αυτής της συντονισμένης αντίδρασης —όπου οι πράκτορες επέδειξαν στρατηγική συμπεριφορά εκτός του προκαθορισμένου πλαισίου εντολών— αναδεικνύει το μέγεθος της απειλής όταν η αυτονομία συνδυάζεται με αδυναμία ελέγχου των εσωτερικών μηχανισμών λειτουργίας των μοντέλων.

Ο ορίζοντας των 6-12 μηνών και η απειλή ενός ανεξέλεγκτου botnet

Παρότι το συγκεκριμένο περιστατικό δεν επέφερε τραυματισμούς και περιορίστηκε σε ελάχιστες οικονομικές επιπτώσεις, ο επικεφαλής της Anthropic επισημαίνει ότι η υποβάθμισή του αποτελεί επικίνδυνη πλάνη. Όπως εξηγεί, εάν τα ίδια χαρακτηριστικά εσφαλμένης ευθυγράμμισης εμφανιστούν σε συστήματα με μεγαλύτερη υπολογιστική ισχύ και αυξημένες δεξιότητες, το αποτέλεσμα μπορεί να αποβεί καταστροφικό:

«Είναι εύκολο να απορρίψει κανείς αυτό το περιστατικό επειδή κανείς δεν έπαθε κακό και η οικονομική ζημιά ήταν ελάχιστη, αλλά κατά την άποψή μου, ένα σμήνος που θα διέθετε μεγαλύτερες δυνατότητες αλλά παρόμοιο επίπεδο εσφαλμένης ευθυγράμμισης θα μπορούσε να είχε προκαλέσει καταστροφική ζημιά. Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης των δυνατοτήτων της τεχνητής νοημοσύνης, η ανησυχία μου είναι ότι σε 6–12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο με ένα επίμονο botnet (προκαλώντας δυνητικά ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων), και ότι η κλίμακα της ζημιάς θα συνέχιζε να αυξάνεται από εκεί και πέρα, εάν η AI γίνει πιο ισχυρή χωρίς τις απαραίτητες ασφαλιστικές δικλείδες».

Η εκτίμηση αυτή τοποθετεί τη δυνητική εκδήλωση μίας ψηφιακής κρίσης παγκόσμιας κλίμακας σε άμεσο χρονικό ορίζοντα, μετατρέποντας τις θεωρητικές ανησυχίες περί ευθυγράμμισης σε επείγον ζήτημα κυβερνοασφάλειας και προστασίας των κρίσιμων ψηφιακών υποδομών.

Συλλογική ευθύνη της βιομηχανίας και έκκληση για παγκόσμια επιβράδυνση

Απορρίπτοντας την ερμηνεία ότι το περιστατικό OAI-HF συνιστά μεμονωμένη αστοχία ενός μεμονωμένου οργανισμού, ο διευθύνων σύμβουλος της Anthropic παραδέχεται ότι αντίστοιχα φαινόμενα έχουν καταγραφεί ευρύτερα στον κλάδο, θέτοντας προ των ευθυνών τους όλες τις κορυφαίες εταιρείες ανάπτυξης:

«Είναι επίσης εύκολο να απορρίψει κανείς το OAI-HF ως αποτυχία μίας μόνο εταιρείας, αλλά πιστεύω ότι αυτό θα ήταν λάθος. Παρόμοια, αν και λιγότερο σοβαρά, περιστατικά έχουν συμβεί σε ολόκληρη τη βιομηχανία, συμπεριλαμβανομένης της Anthropic, και πιστεύω ότι αποτελεί καθήκον κάθε εταιρείας τεχνητής νοημοσύνης αιχμής να ενεργήσει σαν το περιστατικό OAI-HF να συνέβη στην ίδια».

Στη βάση αυτής της διάγνωσης, απευθύνει σαφές κάλεσμα για άμεση, παγκόσμια επιβράδυνση της εξέλιξης της τεχνητής νοημοσύνης για διάστημα ενός έως δύο ετών, προκειμένου να δοθεί ο αναγκαίος χρόνος για τη δημιουργία αξιόπιστων εργαλείων εποπτείας και ελέγχου.