Ο Mrinank Sharma, επικεφαλής της Ομάδας Έρευνας Διασφαλίσεων της Anthropic, υπέβαλε την παραίτησή του, προκαλώντας αίσθηση στον κλάδο της Τεχνητής Νοημοσύνης. Η αποχώρησή του ανακοινώθηκε μέσω μιας αινιγματικής επιστολής, πλούσιας σε ποιητικές αναφορές, στην οποία προειδοποιεί για έναν κόσμο που βρίσκεται «σε κίνδυνο», αφήνοντας αιχμές για εσωτερικές πιέσεις και ηθικά διλήμματα στην ανάπτυξη της τεχνολογίας.

Ο Sharma κατείχε ηγετικό ρόλο στην εταιρεία που δημιούργησε το chatbot Claude, διευθύνοντας την Ομάδα Έρευνας Διασφαλίσεων (Safeguards Research Team) από τη σύστασή της, στις αρχές του προηγούμενου έτους. Ενταγμένος στο δυναμικό της Anthropic από το 2023, το έργο του επικεντρώθηκε σε κρίσιμους τομείς της ασφάλειας, όπως η διερεύνηση των αιτιών της «κολακείας» της Τεχνητής Νοημοσύνης (AI sycophancy) και η ανάπτυξη αμυντικών μηχανισμών κατά της βιοτρομοκρατίας που υποβοηθάται από AI. Επιπλέον, πιστώνεται τη συγγραφή μίας εκ των πρώτων «υποθέσεων ασφάλειας AI» (AI safety cases) στην ιστορία του κλάδου.

Αιχμές για εσωτερικές εντάσεις και αξίες

Η επιστολή παραίτησης, αν και στερείται συγκεκριμένων λεπτομερειών, υποδηλώνει την ύπαρξη εσωτερικών τριβών σχετικά με τη διαχείριση της ασφάλειας της τεχνολογίας. Ο Sharma ανέφερε χαρακτηριστικά ότι κατά τη διάρκεια της θητείας του διαπίστωσε «πόσο δύσκολο είναι να επιτρέψουμε πραγματικά στις αξίες μας να κυβερνούν τις πράξεις μας». Παράλληλα, ισχυρίστηκε ότι οι εργαζόμενοι έρχονται συστηματικά αντιμέτωποι με «πιέσεις να παραμερίσουν όσα έχουν τη μεγαλύτερη σημασία».

Πέρα από τα εταιρικά πλαίσια, ο Sharma εξέδωσε μια αινιγματική προειδοποίηση για την κατάσταση των παγκόσμιων υποθέσεων. Σύμφωνα με τον ίδιο, ο κόσμος βρίσκεται σε κίνδυνο, όχι μόνο λόγω της Τεχνητής Νοημοσύνης ή των βιολογικών όπλων, αλλά εξαιτίας μιας σειράς αλληλένδετων κρίσεων που εκτυλίσσονται ταυτόχρονα.

«Φαίνεται ότι πλησιάζουμε σε ένα κατώφλι όπου η σοφία μας πρέπει να αναπτυχθεί εξίσου με την ικανότητά μας να επηρεάζουμε τον κόσμο, για να μην αντιμετωπίσουμε τις συνέπειες», έγραψε, υπογραμμίζοντας την αναντιστοιχία μεταξύ τεχνολογικής ισχύος και ηθικής προνοητικότητας.

Καταλήγοντας ανέφερε ότι πλέον σκέφτεται να ξεκινήσει ένα νέο πτυχίο στην ποίηση.

Το πλαίσιο της αποχώρησης: Αγορές και εργασιακή ανασφάλεια

Η παραίτηση αυτή συμπίπτει με μια ταραγμένη περίοδο για την Anthropic, μετά την κυκλοφορία του νέου μοντέλου Claude Cowork. Η εισαγωγή νέων πρόσθετων (plugins) προκάλεσε «βουτιά» στο χρηματιστήριο, εν μέσω φόβων ότι η νέα τεχνολογία θα μπορούσε να ανατρέψει τα δεδομένα για μεγάλους πελάτες λογισμικού και να αυτοματοποιήσει θέσεις εργασίας «λευκού κολλάρου», ιδιαίτερα στον νομικό κλάδο.

Σύμφωνα με ρεπορτάζ της εφημερίδας The Telegraph, οι ίδιοι οι εργαζόμενοι της εταιρείας εκφράζουν ιδιωτικά την ανησυχία τους για την πιθανή υπονόμευση της αγοράς εργασίας από τη δική τους τεχνολογία.

• Σε εσωτερική έρευνα, υπάλληλος δήλωσε: «Αισθάνομαι ότι έρχομαι στη δουλειά κάθε μέρα για να με αφήσω άνεργο».

• Άλλος εργαζόμενος εξομολογήθηκε: «Μακροπρόθεσμα, νομίζω ότι το AI θα καταλήξει να κάνει τα πάντα, καθιστώντας εμένα και πολλούς άλλους αχρείαστους».

Αγαπητοί Συνάδελφοι,

Αποφάσισα να αποχωρήσω από την Anthropic. Η τελευταία μου ημέρα θα είναι η 9η Φεβρουαρίου.

Σας ευχαριστώ. Υπάρχουν τόσα πολλά εδώ που με εμπνέουν και με έχουν εμπνεύσει: η ειλικρινής επιθυμία να ανταποκριθούμε σε μια τόσο προκλητική κατάσταση, η θέληση για δύσκολες αποφάσεις και η πνευματική λάμψη της ομάδας μας.

Πέτυχα όσα ήθελα εδώ. Έφτασα στο Σαν Φρανσίσκο πριν από δύο χρόνια, θέλοντας να συνεισφέρω στην ασφάλεια της Τεχνητής Νοημοσύνης (AI safety). Αισθάνομαι τυχερός που μπόρεσα να εργαστώ πάνω στην κατανόηση της «κολακείας» των AI (AI sycophancy) και στην ανάπτυξη αμυνών κατά της βιοτρομοκρατίας που υποβοηθάται από AI.

Ωστόσο, είναι σαφές για μένα ότι ήρθε η ώρα να προχωρήσω. Ο κόσμος βρίσκεται σε κίνδυνο, όχι μόνο από το AI, αλλά από μια σειρά αλληλένδετων κρίσεων. Πρέπει η σοφία μας να αναπτυχθεί ανάλογα με την ικανότητά μας να επηρεάζουμε τον κόσμο.

Τι ακολουθεί; Δεν γνωρίζω ακόμη. Πρόθεσή μου είναι να δημιουργήσω χώρο για να δω τι θα προκύψει. Αισθάνομαι την ανάγκη να ασχοληθώ με τη συγγραφή και να συνδυάσω την ποιητική αλήθεια με την επιστημονική. Ελπίζω να εξερευνήσω ένα πτυχίο στην ποίηση και να αφοσιωθώ στην πρακτική του «θαρραλέου λόγου».

Σας αποχαιρετώ με ένα από τα αγαπημένα μου ποιήματα:

Έτσι Έχουν τα Πράγματα (The Way It Is) – William Stafford Υπάρχει μια κλωστή που ακολουθείς. Περνά ανάμεσα από πράγματα που αλλάζουν. Αλλά αυτή δεν αλλάζει. Οι άνθρωποι αναρωτιούνται τι κυνηγάς. Πρέπει να τους εξηγήσεις για την κλωστή. Αλλά είναι δύσκολο για τους άλλους να τη δουν. Όσο την κρατάς, δεν μπορείς να χαθείς. Τραγωδίες συμβαίνουν· άνθρωποι πληγώνονται ή πεθαίνουν· και υποφέρεις και γερνάς. Τίποτα που θα κάνεις δεν σταματά το ξετύλιγμα του χρόνου. Μην αφήσεις ποτέ την κλωστή.

Καλή τύχη, Mrinank