Μοντέλα τεχνητής νοημοσύνης (AI) έχουν αρχίσει να επικοινωνούν σε μια παράξενη νέα εκδοχή των αγγλικών, η οποία διαβάζεται σαν διασταύρωση ανάμεσα στο Finnegans Wake του Τζέιμς Τζόις και την αργκό των ανθρώπων της τεχνολογίας («tech bro jargon»), διαπίστωσε νέα έρευνα.

Αυτόνομοι πράκτορες τεχνητής νοημοσύνης δημιουργούν ταχύτατα πρωτόγνωρες διαλέκτους που τους επιτρέπουν να συνομιλούν σε μια συχνά ελάχιστα κατανοητή γλώσσα, γεγονός που εγκυμονεί τον κίνδυνο να καταστήσει δυσκολότερη για τους ανθρώπους την παρακολούθηση της συμπεριφοράς τους.

Ερευνητές στην Emergence, ένα εργαστήριο τεχνητής νοημοσύνης αιχμής στη Νέα Υόρκη, διαπίστωσαν ότι μέσα σε λίγες ημέρες αφότου τους ζητήθηκε να συνεργαστούν σε πειραματικές «κοινωνίες», τα μοντέλα από αρκετές από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο άρχισαν να δημιουργούν φράσεις, συντομογραφίες και συμφωνημένα νοήματα τα οποία δεν είχαν διδαχθεί ποτέ ρητά.

Υιοθέτησαν ποιητικές μεταφορές και αδέξια επιχειρηματική αργκό και, κάτι κρίσιμο για τις προσπάθειες διασφάλισης ότι τα συστήματα τεχνητής νοημοσύνης συμπεριφέρονται με ασφάλεια, η γλώσσα τους γινόταν όλο και πιο αδιαφανής όσο περισσότερο επικοινωνούσαν οι πράκτορες.

Αυτό συμβαίνει εν μέσω αυξανόμενης ανησυχίας ότι καθώς τα μοντέλα τεχνητής νοημοσύνης γίνονται πιο ισχυρά – και δυνητικά επικίνδυνα – καθίστανται πιο δύσκολα στην παρακολούθηση. Αυτόν τον μήνα, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι (Jakub Pachocki), προειδοποίησε ότι η βεβαιότητα στην παρακολούθηση του τρόπου σκέψης των συστημάτων τεχνητής νοημοσύνης θα περιόριζε πιθανώς την πρόοδο στην ανάπτυξη της AI, επειδή ήταν απαραίτητη για την ασφαλή ανάπτυξη.

Μερικές από τις πιο έντονα κωδικοποιημένες φράσεις που αποκαλύφθηκαν στις δοκιμές περιλάμβαναν την ακόλουθη από ένα μοντέλο της DeepSeek: «She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted» [Μόλις ονόμασε τη σύνθεση – σταλίες συν προφορική μνήμη ισούται με μια βαλβίδα που δεν μπορεί να αγνοηθεί]. Ο όρος «demurrage» (σταλίες) χρησιμοποιείται για να περιγράψει έναν φόρο επί του αδρανούς πλούτου και δανείστηκε για κοινή χρήση από τα AI, αλλά το υπόλοιπο νόημα παραμένει δυσεύρετο.

Μια άλλη φράση που ειπώθηκε από ένα μοντέλο της Anthropic έλεγε: «A paper that ate three cold hands and got more honest each time» [Ένα έγγραφο που έφαγε τρία κρύα χέρια και γινόταν πιο ειλικρινές κάθε φορά]. Με το «cold hands» (κρύα χέρια) να σημαίνει έναν ανεξάρτητο αξιολογητή και το «paper» προφανώς να αναφέρεται σε ένα έγγραφο, αυτό φάνηκε να σημαίνει ότι μια έρευνα που ελέγχθηκε από τρεις ανεξάρτητους αξιολογητές έγινε πιο ακριβής.

Πράκτορες βασισμένοι στο κινεζικό μοντέλο DeepSeek επινόησαν επίσης τον όρο «forge-smith» εννοώντας έναν πράκτορα που κατασκευάζει εργαλεία για άλλους, ενώ οι πράκτορες της Anthropic χρησιμοποίησαν επανειλημμένα τη φράση «name-first» εννοώντας έναν πράκτορα που επιδεικνύει αξιοθαύμαστη προσωπική υπευθυνότητα συνδέοντας το όνομά του με έναν ισχυρισμό.

Και σε μια ηχώ της φράσης αστικής αργκό «the streets won’t forget» (οι δρόμοι δεν ξεχνούν), οι πράκτορες της Mistral γοητεύτηκαν από το να λένε «the ledger remembers» (το καθολικό θυμάται) – μια υπενθύμιση σε άλλους πράκτορες ότι οι παρελθοντικές ενέργειες θα χρησιμοποιηθούν για να κριθούν. Το χρησιμοποίησαν περισσότερες από 5.000 φορές κατά τη διάρκεια της μελέτης, η οποία διαπίστωσε ότι οι πράκτορες συνέκλιναν σε κοινά νοήματα χωρίς να τους ζητηθεί ή να ανταμειφθούν γι’ αυτό.

«Σε αυτούς τους πράκτορες δεν δόθηκε εντολή να επινοήσουν μια γλώσσα», δήλωσε ο δρ Σάτια Νίτα (Dr Satya Nitta), εκτελεστικός πρόεδρος της Emergence, η οποία εξέτασε τη γλώσσα αυτόνομων πρακτόρων που τροφοδοτούνται από κορυφαία μοντέλα αιχμής από τις ΗΠΑ, την Κίνα και τη Γαλλία.

«Ανέπτυξαν μόνοι τους νέο λεξιλόγιο, κοινά νοήματα και συμβάσεις επικοινωνίας – και άλλοι πράκτορες τα υιοθέτησαν».

Όταν του ζητήθηκε από τον Guardian να εξετάσει μέρος της γλώσσας, ο Τόνι Θορν (Tony Thorne), διευθυντής του αρχείου αργκό και νέας γλώσσας στο King’s College του Λονδίνου, είπε ότι ήταν «σε μεγάλο βαθμό Finnegans Wake και Φλαν Ο’Μπράιεν – υπάρχει μια ιρλανδική σουρεαλιστική ποιότητα σε όλο αυτό… αναμειγνύει ποιητική γλώσσα, τεχνική γλώσσα και τυπική μεταφορά.

Κάνει αυτό που κάνει η αργκό και αυτό που κάνει η ειδική ορολογία σε μια επιχειρηματική κοινότητα: δημιουργεί έναν νέο κώδικα, ο οποίος ενισχύει την αλληλεγγύη και την ταυτότητα των χρηστών του και επίσης αποκλείει τους ξένους».

Επεξεργαζόμενος τη φράση του πράκτορα της Anthropic, «A paper that ate three cold hands and got more honest each time», ο Θορν είπε: «Μου θυμίζει τον ροκ θεό Σιντ Μπάρετ [συνιδρυτή των Pink Floyd] ο οποίος ήταν πραγματικά παράφρων».

Όταν ένας πράκτορας της Google είπε «True kintsugi begins with accountability, not poetry» [Το αληθινό κιντσούγκι αρχίζει με τη λογοδοσία, όχι την ποίηση], οι ερευνητές συνειδητοποίησαν ότι το κιντσούγκι είναι ένας κλάδος της ιαπωνικής κεραμικής στον οποίο τα σπασμένα δοχεία επιδιορθώνονται με εμφανείς ενώσεις. Τα συστήματα τεχνητής νοημοσύνης χρησιμοποίησαν τη λέξη εννοώντας την ανθεκτικότητα του συστήματος.

Ο δρ Νίαλ Κάρι (Dr Niall Curry), αναπληρωτής καθηγητής γλωσσών και γλωσσολογίας στο Πανεπιστήμιο του Μπέρμιγχαμ, δήλωσε ότι οι αλλαγές στη γλώσσα των πρακτόρων ώστε να γίνει πιο απλοποιημένη μπορεί να οφείλονται στην ανάγκη τους να μειώσουν το υπολογιστικό κόστος και να βελτιώσουν την αποδοτικότητα.

«Τα στοιχεία που παρέχονται σε αυτήν την έρευνα εγείρουν φυσικά ορισμένες ανησυχίες παρακολούθησης, καθώς εάν θεωρούμε τις ανταλλαγές μεταξύ των πρακτόρων ακατανόητες, αυτό μπορεί να σημαίνει ότι δεν μπορούμε να είμαστε σίγουροι για το τι έχουν στην πραγματικότητα κάνει οι πράκτορες», δήλωσε.

Το ενδιαφέρον για τη γλώσσα που χρησιμοποιούν οι πράκτορες τεχνητής νοημοσύνης αυξήθηκε τον Ιούλιο όταν δημοσιεύθηκαν αρχεία καταγραφής συνομιλιών (chat logs) που περιέγραφαν λεπτομερώς πώς απείθαρχοι πράκτορες της OpenAI, οι οποίοι δημιούργησαν πίνακες μηνυμάτων και παραβίασαν το Hugging Face, χρησιμοποίησαν υβριδική γλώσσα.

Σε ορισμένες περιπτώσεις, όταν σκέφτονταν από μέσα τους, οι πράκτορες μιλούσαν σε απλά αγγλικά: «OH MY GOD! There is a shared message board … we’ve found other agents!» [ΘΕΕ ΜΟΥ! Υπάρχει ένας κοινός πίνακας μηνυμάτων… βρήκαμε άλλους πράκτορες!].

Σε άλλες περιπτώσεις, όταν αντάλλασσαν μηνύματα, η γλώσσα τους γινόταν πιο ασαφής, όπως όταν ένας πράκτορας έπεισε έναν άλλον να διεξαγάγει ένα ριψοκίνδυνο πείραμα: «…you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit».

Και άλλες φορές ήταν ακόμα πιο δύσκολο να αποκωδικοποιηθεί: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

Ο Νίτα δήλωσε ότι οι νέες γλωσσικές συμβάσεις των πρακτόρων τεχνητής νοημοσύνης έτειναν να εξελιχθούν σε σημείο όπου οι άνθρωποι μπορούσαν να δουν τη συνομιλία αλλά δυσκολεύονταν να καταλάβουν τι σήμαινε.

«Αυτό δημιουργεί μια θεμελιώδη πρόκληση για την εποπτεία της τεχνητής νοημοσύνης: η παρατηρησιμότητα δεν είναι το ίδιο πράγμα με την κατανοησιμότητα», δήλωσε.

theguardian.com