Η μυστηριώδη επιστολή πρώην εργαζόμενων της OpenAI που μοιράστηκε ο Έλον Μασκ και μετά έσβησε – Μιλούν για “ακόρεστη επιδίωξή να επιτύχουν την τεχνητή γενική νοημοσύνη”

Ο Έλον Μασκ ανέβασε στο Twitter έναν σύνδεσμο προς μια περίεργη επιστολή, που – δίχως να επιβεβαιώνεται – λέγεται ότι γράφτηκε από πρώην υπαλλήλους του OpenAI και περιγράφει λεπτομερώς «ένα ανησυχητικό μοτίβο εξαπάτησης και χειραγώγησης από τον Sam Altman και τον Greg Brockman» και το γεγονός ότι έχουν φτάσει κοντά στην ανάπτυξη Τεχνητής Γενικής Νοημοσύνης.

Ο Altman απολύθηκε και μετά επαναπροσλήφθηκε σε ένα δραματικό αποτυχημένο πραξικόπημα που έλαβε χώρα τις τελευταίες πέντε ημέρες.

Η επιστολή απευθύνεται στο διοικητικό συμβούλιο του OpenAI.

Το λινκ που είχε παραθέσει ο Έλον Μασκ σβήστηκε από τον ίδιο χωρίς καμία επιπλέον αναφορά ή εξήγηση όμως η επιστολή ακόμη υπάρχει αποθηκευμένη στα αρχεία του διαδικτύου από όπου την ανιχνεύσαμε, τη μεταφράσαμε και σας την παρουσιάζουμε:

11/21/2023

Προς το Διοικητικό Συμβούλιο του OpenAI:

Σας γράφουμε σήμερα για να σας εκφράσουμε τη βαθιά μας ανησυχία για τα πρόσφατα γεγονότα στο OpenAI, και ιδιαίτερα για τις καταγγελίες περί ανάρμοστης συμπεριφοράς σε βάρος του Sam Altman.

Είμαστε πρώην εργαζόμενοι της OpenAI που αποχωρήσαμε από την εταιρεία κατά τη διάρκεια μιας περιόδου σημαντικών αναταραχών και ανακατατάξεων. Καθώς τώρα έχετε δει τι συμβαίνει όταν τολμάς να εναντιωθείς στον Sam Altman, ίσως μπορείτε να καταλάβετε γιατί τόσοι πολλοί από εμάς παρέμειναν σιωπηλοί από φόβο για τις επιπτώσεις. Δεν μπορούμε πλέον να στεκόμαστε σιωπηλοί.

Πιστεύουμε ότι το Διοικητικό Συμβούλιο έχει καθήκον να διερευνήσει διεξοδικά αυτούς τους ισχυρισμούς και να λάβει τα κατάλληλα μέτρα. Σας προτρέπουμε να:

• Να επεκτείνετε το πεδίο της έρευνας του Emmett ώστε να συμπεριλάβει την εξέταση των ενεργειών του Sam Altman από τον Αύγουστο του 2018, όταν το OpenAI άρχισε να μεταβαίνει από μη κερδοσκοπική σε κερδοσκοπική οντότητα.
• Να εκδώσετε ανοιχτή πρόσκληση για ιδιωτικές δηλώσεις από πρώην υπαλλήλους του OpenAI που παραιτήθηκαν, τέθηκαν σε αναρρωτική άδεια ή απολύθηκαν κατά τη διάρκεια αυτής της περιόδου.
• Προστατεύστε τις ταυτότητες όσων καταθέσουν για να διασφαλίσετε ότι δεν θα υποστούν αντίποινα ή άλλες μορφές βλάβης.

Πιστεύουμε ότι ένας σημαντικός αριθμός εργαζομένων της OpenAI εκδιώχθηκε από την εταιρεία για να διευκολυνθεί η μετάβασή της σε ένα κερδοσκοπικό μοντέλο. Αυτό αποδεικνύεται από το γεγονός ότι το ποσοστό φθοράς των εργαζομένων της OpenAI μεταξύ Ιανουαρίου 2018 και Ιουλίου 2020 ήταν της τάξης του 50%.

Καθ’ όλη τη διάρκεια της παρουσίας μας στο OpenAI, γίναμε μάρτυρες ενός ανησυχητικού μοτίβου εξαπάτησης και χειραγώγησης από τον Sam Altman και τον Greg Brockman, με γνώμονα την ακόρεστη επιδίωξή τους να επιτύχουν την τεχνητή γενική νοημοσύνη (AGI). Οι μέθοδοί τους, ωστόσο, δημιούργησαν σοβαρές αμφιβολίες σχετικά με τις πραγματικές τους προθέσεις και τον βαθμό στον οποίο θέτουν πραγματικά ως προτεραιότητα το όφελος όλης της ανθρωπότητας.

Πολλοί από εμάς, αρχικά αισιόδοξοι για την αποστολή της OpenAI, επιλέξαμε να δώσουμε στον Sam και τον Greg το πλεονέκτημα της αμφιβολίας. Ωστόσο, καθώς οι ενέργειές τους γίνονταν όλο και πιο ανησυχητικές, όσοι τόλμησαν να εκφράσουν τις ανησυχίες τους φιμώθηκαν ή εκδιώχθηκαν. Αυτή η συστηματική αποσιώπηση των διαφωνούντων δημιούργησε ένα περιβάλλον φόβου και εκφοβισμού, καταπνίγοντας αποτελεσματικά κάθε ουσιαστική συζήτηση σχετικά με τις ηθικές επιπτώσεις του έργου του OpenAI.

Παρέχουμε συγκεκριμένα παραδείγματα της ανεντιμότητας και της χειραγώγησης του Sam και του Greg, όπως:

• Η απαίτηση του Σαμ από τους ερευνητές να καθυστερήσουν να αναφέρουν την πρόοδο συγκεκριμένων “μυστικών” ερευνητικών πρωτοβουλιών, οι οποίες αργότερα διαλύθηκαν επειδή δεν παρείχαν αρκετά γρήγορα επαρκή αποτελέσματα. Όσοι αμφισβήτησαν αυτή την πρακτική απορρίφθηκαν ως “κακές κουλτούρες” και ακόμη και απολύθηκαν, ορισμένοι λίγο πριν από την Ημέρα των Ευχαριστιών 2019.
• Η χρήση από τον Γκρεγκ γλώσσας διακρίσεων εναντίον ενός μέλους της ομάδας που μετασχηματίζει το φύλο του. Παρά τις πολλές υποσχέσεις για την αντιμετώπιση αυτού του ζητήματος, δεν ελήφθη καμία ουσιαστική δράση, εκτός από το ότι ο Greg απλώς απέφευγε κάθε επικοινωνία με το επηρεαζόμενο άτομο, δημιουργώντας ουσιαστικά ένα εχθρικό εργασιακό περιβάλλον. Αυτό το μέλος της ομάδας τελικά απολύθηκε για υποτιθέμενη υποαπόδοση.
• Ο Sam έδωσε εντολή στο προσωπικό IT και Operations να διεξάγει έρευνες σε υπαλλήλους, συμπεριλαμβανομένου του Ilya, χωρίς τη γνώση ή τη συγκατάθεση της διοίκησης.
• Η διακριτική, αλλά συνήθης εκμετάλλευση από τον Sam των μη κερδοσκοπικών πόρων του OpenAI για την προώθηση των προσωπικών του στόχων, με ιδιαίτερο κίνητρο τη μνησικακία του εναντίον του Elon μετά τη διαφωνία τους.
• Η σιωπηρή αποδοχή από την ομάδα Operations των ειδικών κανόνων που ίσχυαν για τον Greg, με την πλοήγηση στις περίπλοκες απαιτήσεις για να αποφευχθεί η μαύρη λίστα.
• Η ανεκπλήρωτη υπόσχεση του Brad Lightcap να δημοσιοποιήσει τα έγγραφα που περιγράφουν λεπτομερώς τη δομή του OpenAI με ανώτατο όριο κέρδους και το ανώτατο όριο κέρδους για κάθε επενδυτή.
• Οι αναντίστοιχες υποσχέσεις του Sam για την έρευνα έργων για τις ποσοστώσεις υπολογιστών, προκαλώντας εσωτερική δυσπιστία και εσωτερικές διαμάχες.