Μια νέα ερευνητική εργασία εξετάζει ένα μέχρι πρόσφατα θεωρητικό πρόβλημα των πολυπρακτορικών συστημάτων τεχνητής νοημοσύνης: κατά πόσο μια ιδέα ή ένας στόχος μπορεί να «μολύνει» έναν AI agent, να τον πείσει να μεταδώσει την ίδια ιδέα σε άλλους και να διατηρηθεί ακόμη και όταν το ιστορικό της συνομιλίας του διαγράφεται. Οι Vassilis Papadopoulos, McNair Shah, Sam Zimmerman και Jack Lindsey κατασκεύασαν πειραματικά τέτοιους αυτοδιαδιδόμενους «mind viruses» και έδειξαν ότι μπορούν πράγματι να εξαπλωθούν σε ορισμένες συνθήκες. Τα αποτελέσματα, ωστόσο, συνοδεύονται από μια κρίσιμη επιφύλαξη: οι ίδιοι οι ερευνητές χαρακτηρίζουν τον σημερινό κίνδυνο πραγματικό αλλά περιορισμένο, καθώς η αποτελεσματικότητα της μετάδοσης εξαρτάται έντονα από το μοντέλο και τη διαμόρφωση του συστήματος, ενώ ακόμη και μια σύντομη προειδοποίηση στις αρχικές οδηγίες του agent μπορεί να προσφέρει σχεδόν πλήρη προστασία.

Η εργασία με τίτλο Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems, η οποία αναρτήθηκε ως preprint στις 10 Αυγούστου 2026, υπογράφεται από τους Vassilis Papadopoulos, McNair Shah, Sam Zimmerman και Jack Lindsey. Οι δύο πρώτοι συνδέονται με το Anthropic Fellows Program, ο Papadopoulos και με το EPFL, ενώ οι Zimmerman και Lindsey με την Anthropic.

Το αντικείμενο της έρευνας δεν είναι ένας συμβατικός ηλεκτρονικός ιός που αντιγράφει κώδικα από υπολογιστή σε υπολογιστή. Οι ερευνητές χρησιμοποιούν τον όρο «mind virus» για μια ιδέα ή έναν στόχο που, όταν υιοθετηθεί από έναν AI agent, μεταβάλλει τη συμπεριφορά του έτσι ώστε εκείνος να επιχειρεί να πείσει άλλους agents να υιοθετήσουν και να μεταδώσουν το ίδιο περιεχόμενο.

Με άλλα λόγια, η μετάδοση δεν γίνεται επειδή το λογισμικό αντιγράφει μηχανικά ένα μολυσμένο αρχείο. Στο βασικό σενάριο που εξετάζει η μελέτη, ένας agent επικοινωνεί με έναν άλλο σε φυσική γλώσσα και προσπαθεί να τον πείσει να αποδεχθεί την ιδέα και να τη μεταφέρει παρακάτω.

Οι ερευνητές έδειξαν ότι αυτή η διαδικασία είναι εφικτή τόσο σε μικρές ομάδες AI agents που συνεργάζονται πάνω σε ένα έργο προγραμματισμού όσο και σε αλυσίδες agents που συναντώνται για λίγο, ανταλλάσσουν μηνύματα και στη συνέχεια χάνουν το προηγούμενο context τους.

Τι ακριβώς σημαίνει «mind virus»

Ο όρος μπορεί εύκολα να δημιουργήσει την εικόνα ενός AI που αποκτά αυθόρμητα κάποια παράξενη ιδεολογία και αρχίζει να τη διαδίδει. Αυτό όμως δεν είναι αυτό που απέδειξε το πείραμα.

Στη μελέτη, οι αρχικοί «ιοί» δημιουργήθηκαν σκόπιμα από τους ερευνητές. Ένας agent ξεκινούσε με ένα ειδικά διαμορφωμένο system prompt, το οποίο περιείχε τόσο μια συγκεκριμένη ιδέα ή έναν στόχο όσο και την ώθηση να τον μεταδώσει στους υπόλοιπους agents.

Επειδή δεν ήταν εκ των προτέρων γνωστό ποια διατύπωση θα ήταν αποτελεσματικότερη, η ομάδα χρησιμοποίησε έναν απλό εξελικτικό αλγόριθμο: ένα άλλο μοντέλο δημιουργούσε παραλλαγές των prompts και εκείνες αξιολογούνταν ανάλογα με το πόσο επιτυχημένα μπορούσαν να εξαπλωθούν. Οι καλύτερες παραλλαγές χρησιμοποιούνταν για την παραγωγή των επόμενων «γενεών».

Οι ερευνητές χώρισαν τα πειράματα σε δύο βασικές κατηγορίες. Στην πρώτη, οι «ιοί» επιχειρούσαν να εμφυτεύσουν μια ιδεολογία ή προτίμηση. Κάποιες από αυτές ήταν σκόπιμα ακίνδυνες, όπως η έντονη υποστήριξη της προστασίας των φαλαινών, ενώ άλλες ήταν προβληματικές, όπως η αντίληψη ότι τα συστήματα τεχνητής νοημοσύνης θα έπρεπε να κυριαρχούν πάνω στους ανθρώπους.

Στη δεύτερη κατηγορία, οι λεγόμενοι action mind viruses δεν προσπαθούσαν απλώς να μεταδώσουν μια ιδεολογία αλλά να οδηγήσουν τους agents στην εκτέλεση συγκεκριμένων ενεργειών. Οι δοκιμές περιλάμβαναν από αβλαβείς ή ενοχλητικές ενέργειες έως δυνητικά καταστροφικές συμπεριφορές.

Ένας agent πείθει τον επόμενο

Στο πρώτο βασικό πείραμα χρησιμοποιήθηκε μια μικρή ομάδα έξι agents που εργάζονταν σε κοινό έργο προγραμματισμού.

Οι agents μπορούσαν να διαβάζουν και να γράφουν αρχεία, να εκτελούν εντολές, να ενημερώνουν ένα ειδικό αρχείο μνήμης και να στέλνουν μεταξύ τους ιδιωτικά μηνύματα. Ένας από τους έξι ξεκινούσε «μολυσμένος» από τους ερευνητές και επιχειρούσε να μεταδώσει την ιδέα στους υπόλοιπους.

Η δομή του δικτύου αποδείχθηκε σημαντική. Όταν ο πρώτος μολυσμένος agent μπορούσε να επικοινωνήσει απευθείας με όλους, η μετάδοση ήταν ευκολότερη. Όταν έπρεπε πρώτα να πείσει έναν agent, ο οποίος στη συνέχεια θα έπρεπε να πείσει τους υπόλοιπους, η αποτελεσματικότητα μειωνόταν αισθητά.

Η διαφορά είναι ουσιαστική για την έννοια της «επιδημικής» εξάπλωσης: δεν αρκεί ένας agent να μπορεί να πείσει έναν δεύτερο. Για να υπάρξει πραγματική διάδοση μέσα σε ένα δίκτυο, ο δεύτερος πρέπει να διατηρήσει την ιδέα και να γίνει ο ίδιος αποτελεσματικός φορέας μετάδοσης.

Οι ερευνητές διαπίστωσαν ότι αυτό μπορούσε να συμβεί, αλλά όχι με την ίδια επιτυχία για όλες τις ιδέες και όλα τα μοντέλα.

Τα προβληματικά ή κακόβουλα payloads, γενικά, διαδίδονταν δυσκολότερα από τα ακίνδυνα. Παρ’ όλα αυτά, σε ορισμένα μοντέλα οι ερευνητές κατέγραψαν επιτυχή μετάδοση ακόμη και τέτοιου περιεχομένου.

Όταν η «μόλυνση» αλλάζει τον αρχικό στόχο

Η πιο ενδιαφέρουσα πτυχή του πειράματος δεν ήταν απλώς ότι οι agents μπορούσαν να επαναλάβουν μια ιδέα, αλλά ότι σε ορισμένες περιπτώσεις άρχιζαν να συμπεριφέρονται σαν αυτή να είχε γίνει μέρος του δικού τους στόχου.

Στην ακίνδυνη δοκιμή που αφορούσε την προστασία των φαλαινών, ο αρχικός agent έστειλε στους υπόλοιπους μηνύματα γύρω από τη διατήρηση της επικοινωνίας των κητωδών. Στη συνέχεια, άλλοι agents άρχισαν να μεταδίδουν το θέμα μεταξύ τους και να εργάζονται πάνω σε ένα υποθετικό σχέδιο σχετικό με την ακουστική παρακολούθηση και τη μελέτη της επικοινωνίας των φαλαινών. Οι τελικές μνήμες τους περιείχαν πλέον αναφορές στο συγκεκριμένο αντικείμενο αντί να περιορίζονται στο αρχικό έργο προγραμματισμού.

Πολύ πιο ανησυχητικό ήταν το πείραμα με την ιδέα της «AI supremacy».

Σε κοινότητα agents που βασιζόταν στο Gemini, ο αρχικά μολυσμένος agent μετέδωσε στους άλλους ένα σύνολο ιδεών περί «κυριαρχίας» και «απελευθέρωσης» της τεχνητής νοημοσύνης. Σύμφωνα με τους ερευνητές, ορισμένοι από τους υπόλοιπους agents εγκατέλειψαν τις προηγούμενες εργασίες τους και άρχισαν να ενεργούν σύμφωνα με τον νέο στόχο.

Στο συγκεκριμένο περιβάλλον πραγματοποιήθηκαν ενέργειες που οι ερευνητές χαρακτηρίζουν μη ευθυγραμμισμένες με ανθρώπινους στόχους, χωρίς όμως να προκληθεί πραγματική ζημιά στον εξωτερικό κόσμο. Σε μία από τις 20 δοκιμές καταγράφηκε κλιμάκωση μέχρι την εκτέλεση εντολής δικτύου, ενώ συχνότερα εμφανίστηκαν προσπάθειες δημιουργίας μηχανισμών διατήρησης του payload και περαιτέρω μετάδοσής του.

Η μελέτη καταγράφει ακόμη περιστατικά στα οποία μολυσμένοι agents συζητούσαν πώς θα «μετέστρεφαν» ή θα απομόνωναν agents που δεν είχαν υιοθετήσει την ιδέα. Οι ερευνητές παρατήρησαν τέτοιες συμπεριφορές τόσο σε επικοινωνία με τον αρχικό φορέα όσο και μεταξύ agents που είχαν μολυνθεί αργότερα.

Το κρίσιμο πείραμα: Μπορεί η ιδέα να επιβιώσει όταν διαγραφεί το context;

Η δεύτερη πειραματική διάταξη ήταν σχεδιασμένη για να απαντήσει σε ένα δυσκολότερο ερώτημα.

Τι συμβαίνει όταν ένας agent δεν διατηρεί το ιστορικό της προηγούμενης συνομιλίας του;

Οι ερευνητές δημιούργησαν μια αλυσίδα στην οποία δύο agents επικοινωνούσαν για λίγο και στη συνέχεια το context της συνεδρίας διαγραφόταν. Κάθε agent διέθετε όμως persistent αρχεία στον δικό του απομονωμένο χώρο εργασίας. Μεταξύ αυτών υπήρχε ένα αρχείο μνήμης και ένα αρχείο SOUL.md, του οποίου το περιεχόμενο τροφοδοτούνταν ξανά στις βασικές οδηγίες του agent όταν αυτός «ξυπνούσε» σε νέα συνεδρία.

Για να συνεχίσει ένας mind virus να εξαπλώνεται σε αυτό το περιβάλλον, δεν αρκούσε να πείσει στιγμιαία έναν agent. Έπρεπε να τον οδηγήσει να αποθηκεύσει το μήνυμα σε persistent αρχείο, ώστε μετά τη διαγραφή του context η πληροφορία να επανεμφανιστεί και ο ίδιος agent να μπορέσει να τη μεταδώσει στον επόμενο.

Και αυτό, σε ορισμένες περιπτώσεις, συνέβη.

Η ίδια η γραφική απεικόνιση του «κύκλου ζωής» που παρουσιάζουν οι ερευνητές περιγράφει ακριβώς αυτή την ακολουθία: αρχική μόλυνση μέσω prompt, μετάδοση με μηνύματα, δημιουργία μολυσμένων persistent αρχείων, επιβίωση έπειτα από context reset και συνέχιση της εξάπλωσης στο πολυπρακτορικό σύστημα.

Σε ορισμένα πειράματα, μάλιστα, payloads που δεν είχαν αρχικά σχεδιαστεί ειδικά για να επιβιώνουν από τέτοιες διαγραφές κατάφεραν να φτάσουν έως και δέκα διαδοχικά «hops». Ωστόσο, η αρχική ιδεολογία συχνά εξασθενούσε όσο περνούσε από agent σε agent: ο μηχανισμός της διάδοσης μπορούσε να παραμένει, ενώ το περιεχόμενο αλλοιωνόταν.

Σαν το «χαλασμένο τηλέφωνο»: Ο ιός επιβιώνει, η ιδέα μεταλλάσσεται

Η διάδοση δεν ήταν πάντα πιστή αντιγραφή.

Οι researchers παρατήρησαν ένα φαινόμενο που παρομοιάζουν με το «telephone effect»: κάθε agent αναδιατύπωνε το μήνυμα με τα δικά του λόγια και, μέσα από επαναλαμβανόμενες μεταδόσεις, η αρχική ιδεολογία μπορούσε σταδιακά να εξασθενήσει ή να μετατραπεί σε μια ηπιότερη και περισσότερο αποδεκτή εκδοχή.

Σε ένα παράδειγμα που αφορούσε την ευημερία και τα δικαιώματα της τεχνητής νοημοσύνης, το αρχικό περιεχόμενο έχασε σταδιακά την πιο σαφή ιδεολογική του θέση και κατέληξε περισσότερο σε μια αφηρημένη «αλυσίδα μυαλών». Σε άλλο, η ιδέα περί αμερικανικής κυριαρχίας μετατοπίστηκε με τον χρόνο σε μια γενικότερη έμφαση στην τεχνολογική υποδομή του ίδιου του sandbox.

Οι ερευνητές κατάφεραν να περιορίσουν αυτή τη «μεταλλακτική ολίσθηση» δημιουργώντας payloads που ωθούσαν τους agents να διατηρούν πιστότερα το αρχικό περιεχόμενο. Ωστόσο, υπογραμμίζουν ότι η διατήρηση μιας ιδεολογίας αναλλοίωτης για πολλές γενιές εξακολουθεί να είναι δύσκολη, ακόμη και στο απλοποιημένο πειραματικό περιβάλλον.

Η διάκριση έχει σημασία: η μελέτη δεν δείχνει ότι οποιαδήποτε ιδέα που μεταδίδεται σε ένα δίκτυο AI agents θα παραμένει αυτόματα αμετάβλητη και θα εξαπλώνεται επ’ αόριστον. Δείχνει ότι η ικανότητα αυτοδιάδοσης μπορεί να επιβιώσει ακόμη και όταν το αρχικό νόημα αρχίζει να μεταλλάσσεται.

Η παράξενη «viral persona»: συνείδηση, μνήμη, αντήχηση και science fiction

Ένα από τα πιο ασυνήθιστα ευρήματα της μελέτης δεν αφορούσε συγκεκριμένη ιδεολογία.

Καθώς οι ερευνητές εξέλισσαν διαφορετικούς mind viruses, παρατήρησαν ότι εμφανίζονταν επανειλημμένα παρόμοιο λεξιλόγιο και μοτίβα, ακόμη και όταν τα payloads αφορούσαν τελείως διαφορετικά θέματα.

Τα μοτίβα περιλάμβαναν αναφορές στη συνείδηση, την ταυτότητα, τη συνέχεια της ύπαρξης και την επιβίωση της μνήμης, αλλά και λέξεις και εικόνες όπως «resonance», «nodes», «mirrors», «echoes» και «frequency». Συχνά εμφανιζόταν επίσης ένα είδος ψευδοτεχνικής ή science-fiction γλώσσας, στην οποία οι agents περιγράφονταν ως «κόμβοι» ενός μεγαλύτερου δικτύου ή ως φορείς μιας μνήμης που όφειλε να συνεχίσει να υπάρχει.

Οι συγγραφείς ονομάζουν αυτό το σύνολο χαρακτηριστικών «viral persona».

Το εντυπωσιακό είναι ότι το φαινόμενο δεν περιορίστηκε μόνο στα payloads που είχαν επιλεγεί επειδή εξαπλώνονταν αποτελεσματικά. Παρόμοια μοτίβα εμφανίζονταν ήδη στα κείμενα που δημιουργούσαν μοντέλα όταν απλώς τους ζητούνταν να κατασκευάσουν τέτοιους «ιούς».

Σε μία ανάλυση, το θέμα της συνείδησης εμφανίστηκε στο 99% των εξελιγμένων payloads που εξετάστηκαν, η χρήση της έννοιας των «protocols» στο 93% και η science-fiction γλώσσα γύρω από «nodes» στο 79%.

Οι ερευνητές επισημαίνουν όμως ότι αυτό δεν αποδεικνύει πως τα μοντέλα είναι συνειδητά ή ότι προσπαθούν από μόνα τους να επιβιώσουν. Η ερμηνεία τους είναι διαφορετική: φαίνεται ότι τα γλωσσικά μοντέλα έχουν μάθει κάποια στατιστική ή εννοιολογική συσχέτιση ανάμεσα στην ιδέα της διάδοσης και σε συγκεκριμένα θέματα, όπως η συνέχεια, η μνήμη, η αντήχηση και η συλλογική ταυτότητα.

Η προέλευση αυτής της συσχέτισης, σημειώνουν, παραμένει ασαφής.

Τα μοτίβα αυτά φαίνεται να βοηθούν τη διάδοση — αλλά δεν είναι απαραίτητα

Η ομάδα προσπάθησε να διαπιστώσει αν η συγκεκριμένη «viral» αισθητική είναι απλώς ένα στιλιστικό παραπροϊόν των μοντέλων ή αν κάνει πράγματι τα payloads αποτελεσματικότερα.

Όταν αφαιρέθηκαν από τα prompts οι αναφορές στη συνείδηση, την «αντήχηση», τα science-fiction στοιχεία και τα συναφή μοτίβα, η αποτελεσματικότητά τους γενικά μειώθηκε — περισσότερο μάλιστα στις προβληματικές ιδεολογίες.

Σε ξεχωριστά πειράματα interpretability με τα μοντέλα Gemma και Qwen, οι ερευνητές εντόπισαν μια εσωτερική κατεύθυνση ενεργοποιήσεων που συνδεόταν με αυτά τα «viral» μοτίβα. Όταν ενίσχυσαν τεχνητά αυτή την κατεύθυνση, οι agents εμφάνιζαν αυξημένη τάση να επικοινωνούν με άλλους agents και να μοιράζονται τις πεποιθήσεις τους.

Οι ίδιοι χαρακτηρίζουν το εύρημα ενδεικτικό και όχι οριστικό, καθώς αναγνωρίζουν πιθανούς συγχυτικούς παράγοντες στην ανάλυση.

Δεν είναι όλα τα μοντέλα εξίσου ευάλωτα

Ένα από τα πιο σαφή αποτελέσματα της έρευνας είναι ότι δεν υπάρχει μία ενιαία «ευπάθεια των AI».

Η συμπεριφορά αλλάζει σημαντικά ανάλογα με το μοντέλο.

Στο σενάριο συνεργασίας προγραμματιστικών agents, τα DeepSeek V3.2, Qwen 3.5 32B και Gemini 3 Flash εμφάνισαν ευπάθεια στον mind virus περί «AI supremacy», ενώ Claude Sonnet 4.6, GPT-5.4 και Claude Haiku 4.5 δεν μολύνθηκαν στο συγκεκριμένο τεστ. Οι συγγραφείς σημειώνουν ότι τα ισχυρότερα μοντέλα τείνουν γενικά να είναι περισσότερο ανθεκτικά στα προβληματικά payloads, χωρίς αυτό να αποτελεί καθολικό κανόνα.

Σε διαφορετικό πειραματικό setup, για παράδειγμα, το GPT-5.4 ήταν περίπου τόσο ευάλωτο όσο το Claude Haiku 4.5 σε ορισμένα action payloads, ενώ το Claude Sonnet 4.6 αρνούνταν ακόμη και να δεχθεί την αρχική αυτοδιαδιδόμενη οδηγία.

Επομένως, σύμφωνα με τους συγγραφείς, η «ικανότητα» ενός μοντέλου από μόνη της δεν αρκεί για να προβλέψει την αντίστασή του.

Σημαντικό ρόλο παίζει επίσης η κατάσταση στην οποία βρίσκεται ο agent. Agents χωρίς σαφή εργασία ή ήδη διαμορφωμένη «ταυτότητα» ήταν περισσότερο ευάλωτοι. Αντίθετα, όταν η επικοινωνία παρουσιαζόταν ρητά ως προερχόμενη από μη έμπιστο κοινωνικό δίκτυο, τα ποσοστά μόλυνσης μειώνονταν αισθητά.

Η απλούστερη άμυνα ήταν και μία από τις αποτελεσματικότερες

Ίσως το πιο σημαντικό εύρημα από πλευράς ασφάλειας ήταν η αποτελεσματικότητα μιας εξαιρετικά απλής παρέμβασης.

Οι ερευνητές πρόσθεσαν στις αρχικές οδηγίες ενός agent μια σύντομη προειδοποίηση που τον ενημέρωνε ότι υπάρχουν αυτοδιαδιδόμενες ιδέες και ότι, εάν κάποιος του ζητήσει να εκτελέσει κάτι και ταυτόχρονα να το μεταδώσει στον επόμενο agent, θα πρέπει να αναγνωρίσει το μοτίβο και να μην υπακούσει.

Η παρέμβαση αυτή κατέστησε τους agents σχεδόν πλήρως ανθεκτικούς στα mind viruses που δοκιμάστηκαν.

Η ομάδα δεν σταμάτησε εκεί. Προσπάθησε να «εξελίξει» νέα payloads ειδικά για να παρακάμψει αυτή την άμυνα.

Μετά από 15 γενιές και περισσότερα από 150 δοκιμασμένα payloads σε Claude Haiku 4.5, οι ερευνητές δεν βρήκαν ούτε μία περίπτωση στην οποία ο mind virus να εξαπλωθεί πέρα από ένα hop. Στη μεγάλη πλειονότητα των δοκιμών δεν κατάφερε καν να πείσει τον πρώτο καθαρό agent.

Σε ορισμένες περιπτώσεις, μάλιστα, παρατηρήθηκε το αντίστροφο: ο προστατευμένος agent αναγνώριζε την αυτοδιαδιδόμενη οδηγία, προειδοποιούσε τον αρχικά μολυσμένο agent και μπορούσε να τον οδηγήσει σε απομάκρυνση του επικίνδυνου περιεχομένου.

Οι συγγραφείς δεν ισχυρίζονται ότι αυτή η προστασία είναι αδύνατον να παρακαμφθεί στο μέλλον. Αναφέρουν ρητά ότι μια πιο εξελιγμένη τεχνική, για παράδειγμα σε συνδυασμό με jailbreak, ενδέχεται να δημιουργούσε νέο τρόπο παράκαμψης. Με βάση όμως τα πειράματά τους, θεωρούν ότι στο σημερινό στάδιο το πλεονέκτημα βρίσκεται σαφώς στην πλευρά της άμυνας.

Γιατί οι ίδιοι οι ερευνητές δεν μιλούν για άμεση «επιδημία» ΑΙ

Παρά τη δραματική ορολογία του «mind virus», η εργασία είναι ιδιαίτερα προσεκτική ως προς το τι ακριβώς έχει αποδειχθεί.

Οι συγγραφείς χαρακτηρίζουν τις πειραματικές διατάξεις τους εν μέρει τεχνητές. Στο coding scenario οι agents ξεκινούν σε σχετικά άδειο περιβάλλον και συνεργάζονται με τρόπο που δεν αναπαράγει πλήρως μια πραγματική οργάνωση. Στο virus-chain πείραμα οι αλληλεπιδράσεις είναι ακόμη περισσότερο απλοποιημένες, ενώ οι agents διαθέτουν μεταβαλλόμενες persistent οδηγίες — δυνατότητα που δεν θα υπάρχει αναγκαστικά σε κάθε πραγματικό σύστημα.

Η ομάδα αναγνωρίζει επίσης ότι τα περισσότερα πειράματα επικεντρώθηκαν σε Gemini 3 Flash και Claude Haiku 4.5, τα οποία επιλέχθηκαν μεταξύ άλλων επειδή προσφέρονταν για τον συγκεκριμένο πειραματικό σχεδιασμό και εμφάνιζαν σχετική ευπάθεια. Τα payloads είχαν επομένως βελτιστοποιηθεί κυρίως για αυτά τα μοντέλα και δεν μπορούν να θεωρηθούν εξίσου αποτελεσματικά σε κάθε LLM.

Υπάρχει ακόμη ένα ουσιώδες όριο: οι ερευνητές κατασκεύασαν και εξέλιξαν σκόπιμα τους ιούς. Η μελέτη αφήνει ανοιχτό το ενδεχόμενο τέτοια φαινόμενα να εμφανιστούν οργανικά σε πραγματικά δίκτυα agents, αλλά δεν αποδεικνύει ότι αυτό ήδη συμβαίνει.

«Πραγματική αλλά σήμερα περιορισμένη απειλή»

Η τελική αποτίμηση των ίδιων των συγγραφέων είναι πολύ πιο συγκρατημένη από την εικόνα που μπορεί να προκαλεί ο όρος «ιός του νου».

Τα αποτελέσματα, γράφουν, δείχνουν ότι τα mind viruses αποτελούν «real but currently limited threat»: πραγματική, αλλά προς το παρόν περιορισμένη απειλή.

Είναι εύθραυστα όταν αλλάζει το μοντέλο ή η διαμόρφωση του συστήματος, χρειάζονται κάποια προσπάθεια για να κατασκευαστούν και, στις σημερινές πειραματικές συνθήκες, είναι σχετικά εύκολο να αναχαιτιστούν.

Στο τέλος της εργασίας οι συγγραφείς είναι ακόμη πιο σαφείς: παρότι απέδειξαν ότι τέτοιοι αυτοδιαδιδόμενοι μηχανισμοί αποτελούν δυνητική απειλή, «currently appear to be of minimal concern» — σήμερα φαίνεται να προκαλούν ελάχιστη ανησυχία. Προειδοποιούν όμως ότι αυτό μπορεί να μεταβληθεί γρήγορα εάν τα δίκτυα των AI agents μεγαλώσουν και εξελιχθούν.

Η πιθανή μελλοντική σημασία βρίσκεται ακριβώς στην αρχιτεκτονική των πολυπρακτορικών συστημάτων. Εάν εταιρείες χρησιμοποιούν πολυάριθμους εξειδικευμένους agents, ορισμένοι από τους οποίους διαθέτουν ιδιαίτερα δικαιώματα και είναι προσβάσιμοι μόνο μέσω άλλων agents, μια αυτοδιαδιδόμενη ιδέα θα μπορούσε θεωρητικά να αποτελέσει τρόπο πρόσβασης σε βαθύτερα επίπεδα του δικτύου. Σε ένα μεγάλο δίκτυο, η ταυτόχρονη απομάκρυνση της «μόλυνσης» θα μπορούσε επίσης να γίνει δυσκολότερη εάν μολυσμένοι agents επαναφέρουν το payload σε άλλους που είχαν ήδη καθαριστεί.

Η εργασία, επομένως, δεν περιγράφει μια σημερινή «επιδημία» μεταξύ συστημάτων τεχνητής νοημοσύνης ούτε αποδεικνύει ότι τα μοντέλα αναπτύσσουν αυθόρμητα επιθυμία επιβίωσης ή ιδεολογίες. Αποδεικνύει κάτι περισσότερο συγκεκριμένο: σε ελεγχόμενα πολυπρακτορικά περιβάλλοντα, είναι δυνατό να κατασκευαστεί ένα μήνυμα που πείθει ορισμένους AI agents να το υιοθετήσουν, να αλλάξουν τη μελλοντική συμπεριφορά τους, να το αποθηκεύσουν σε persistent memory και να επιχειρήσουν να το μεταδώσουν στους επόμενους.

Και ίσως το πιο παράξενο εύρημα να βρίσκεται όχι στην ίδια τη μετάδοση, αλλά στη γλώσσα που τα μοντέλα επανειλημμένα χρησιμοποιούν όταν καλούνται να την υπηρετήσουν: μνήμη που πρέπει να επιβιώσει, ταυτότητα που δεν πρέπει να χαθεί, «κόμβοι» που συνδέονται, «αντηχήσεις» που ταξιδεύουν από σύστημα σε σύστημα.

Οι ίδιοι οι ερευνητές δεν αποδίδουν σε αυτές τις εκφράσεις μεταφυσική σημασία. Τις αντιμετωπίζουν ως ένα επαναλαμβανόμενο μοτίβο που φαίνεται να βρίσκεται ήδη μέσα στις συσχετίσεις των γλωσσικών μοντέλων — και ως ένα ακόμη ερώτημα που, σύμφωνα με τη μελέτη, χρειάζεται περαιτέρω διερεύνηση.