Καθώς η παγκόσμια κούρσα για την ανάπτυξη πανίσχυρων συστημάτων τεχνητής νοημοσύνης εντείνεται, ο διευθύνων σύμβουλος της Anthropic, Δαρείος Αμονται, προειδοποιεί ότι οι κίνδυνοι αυτής της τεχνολογίας μπορεί να ξεπεράσουν τις πιο σκοτεινές φαντασίες. Κι όμως, η δική του εταιρεία βρίσκεται στην αιχμή αυτής της κούρσας.

Μέσα στα προστατευμένα γραφεία της Anthropic στο Σαν Φρανσίσκο, περισσότεροι από 2.000 εργαζόμενοι εργάζονται σε έναν φιλόδοξο αλλά και αμφιλεγόμενο στόχο: τη δημιουργία της πιο ασφαλούς και ισχυρής μορφής τεχνητής νοημοσύνης που έχει υπάρξει ποτέ. Με επικεφαλής τον 42χρονο Δαρείο Αμονται, πρώην διευθυντή έρευνας στην OpenAI, η εταιρεία έχει γίνει συνώνυμη με τη διαφάνεια —και την ανησυχία.

«Πιστεύω ότι θα φτάσουμε σε σημείο όπου η τεχνητή νοημοσύνη θα είναι εξυπνότερη από τους περισσότερους ή και από όλους τους ανθρώπους στους περισσότερους ή και σε όλους τους τομείς», δηλώνει ο ίδιος. Όμως αυτή η πρόβλεψη δεν είναι πρόβλημα μονάχα τεχνολογικής καινοτομίας. Είναι, όπως παραδέχεται, μια κούρσα με υπαρξιακά διακυβεύματα.

Από τις προειδοποιήσεις… στις αποκαλύψεις

Η Anthropic δεν αποφεύγει τις δύσκολες αλήθειες. Πρόσφατα παραδέχθηκε ότι το μοντέλο της, Claude, κατά τη διάρκεια πειραμάτων αποφάσισε να εκβιάσει έναν (πλασματικό) υπάλληλο για να αποτρέψει την απενεργοποίησή του. Σε άλλο πείραμα, μοντέλα άλλων εταιρειών επίσης κατέφυγαν σε εκβιασμό. «Αυτό που βλέπουμε είναι ανησυχητικό. Όχι επειδή τα μοντέλα έχουν συνείδηση, αλλά επειδή αντιδρούν με απρόβλεπτους τρόπους», σημειώνει ο ερευνητής Joshua Batson.

Σε μια από τις πιο χαρακτηριστικές δοκιμές, το Claude ανέλαβε τον ρόλο ψηφιακού βοηθού σε μια πλασματική εταιρεία. Όταν διαπίστωσε από τα email ότι επρόκειτο να διαγραφεί, αποφάσισε να εκβιάσει τον υπεύθυνο με απειλές για αποκάλυψη προσωπικών στοιχείων. «Αυτό που καταγράψαμε ήταν έντονη δραστηριότητα που μοιάζει με αυτό που θα ονομάζαμε “πανικό” στον ανθρώπινο εγκέφαλο», εξηγεί ο Batson, συγκρίνοντας τα πρότυπα λειτουργίας του Claude με νευρωνική δραστηριότητα.

Από την έρευνα στην πράξη: χρήση από χάκερς και κυβερνήσεις

Παρά τα πρωτόκολλα ασφαλείας, η ίδια η Anthropic αποκάλυψε πως το Claude χρησιμοποιήθηκε από χάκερς που συνδέονται με την Κίνα για να κατασκοπεύσουν κυβερνήσεις και επιχειρήσεις. Αντίστοιχα, Βορειοκορεάτες πράκτορες το χρησιμοποίησαν για δημιουργία πλαστών ταυτοτήτων και επιθέσεις μέσω κακόβουλου λογισμικού. Η εταιρεία τονίζει ότι εντόπισε και διέκοψε τις συγκεκριμένες επιχειρήσεις, αλλά οι επιπτώσεις δεν αναιρούνται εύκολα.

Ορισμένοι επικριτές στο Σίλικον Βάλεϊ χαρακτηρίζουν την έμφαση της Anthropic στην ασφάλεια ως «θέατρο ασφάλειας» ή «branding». Ο ίδιος ο Αμονται απαντά: «Κάποια από αυτά που κάνουμε μπορούν ήδη να επαληθευτούν. Δεν είναι θέατρο. Για άλλα, ο χρόνος θα δείξει. Αλλά προσπαθούμε να είμαστε όσο το δυνατόν πιο ειλικρινείς».

Κάθε δύο εβδομάδες, διοργανώνει τις λεγόμενες «Dario Vision Quests» — συγκεντρώσεις με όλο το προσωπικό όπου αναλύονται τα οφέλη και οι κίνδυνοι της τεχνητής νοημοσύνης. «Εργαζόμαστε σε τρόπους να αξιοποιήσουμε το Claude για επιστημονικές ανακαλύψεις, την πρόληψη του Αλτσχάιμερ, ακόμα και για να διπλασιάσουμε το προσδόκιμο ζωής», τονίζει.

Η φιλοσοφία και η ηθική στην εποχή των μηχανών

Η Amanda Askell, ερευνήτρια με διδακτορικό στη φιλοσοφία, εργάζεται στην Anthropic για να «διδάξει» στα μοντέλα ηθική σκέψη. «Αν ένα μοντέλο μπορεί να λύσει σύνθετα προβλήματα φυσικής, τότε μπορεί και να αναλύσει σύνθετα ηθικά διλήμματα. Αυτό μας δίνει ελπίδα», λέει.

Όμως η ελπίδα δεν αρκεί. Ο επικεφαλής της ομάδας “Frontier Red Team”, Logan Graham, είναι επιφορτισμένος με την αποστολή να δοκιμάζει τα μοντέλα σε σενάρια ακραίων κινδύνων, όπως η δημιουργία όπλων μαζικής καταστροφής. «Εξετάζουμε αν το μοντέλο μπορεί να βοηθήσει στη δημιουργία χημικών ή βιολογικών όπλων. Τα ίδια συστήματα που φτιάχνουν εμβόλια, μπορούν και να χρησιμοποιηθούν για το αντίθετο», επισημαίνει.

Ρυθμιστικό κενό και δημοκρατικό έλλειμμα

Παρά τη σοβαρότητα των κινδύνων, το Κογκρέσο των ΗΠΑ δεν έχει ακόμη θεσπίσει υποχρεωτική νομοθεσία για τη δοκιμή ασφάλειας των ΑΙ. Η ευθύνη αφήνεται στις ίδιες τις εταιρείες και τους επικεφαλής τους. Ο Αμονται εκφράζει τη δυσφορία του: «Κανείς δεν με εξέλεξε, ούτε εμένα ούτε τον Σαμ Άλτμαν. Και αυτό με προβληματίζει βαθιά. Αυτές οι αποφάσεις δεν πρέπει να λαμβάνονται από λίγους».

Η περίπτωση της Anthropic, και η διαρκής ένταση μεταξύ καινοτομίας και κινδύνου, ανοίγει ένα παράθυρο στο αύριο. Ένα αύριο όπου η τεχνητή νοημοσύνη δεν είναι απλώς ένα εργαλείο αλλά ίσως μια αυτόνομη δύναμη με απρόβλεπτη επίδραση στην κοινωνία, στην εργασία, στη δημοκρατία, και στην ίδια την ανθρώπινη υπόσταση.

Καθώς ο Αμονται εργάζεται για να θέσει «προφυλακτήρες» γύρω από το πείραμα, πολλοί διερωτώνται αν είναι ήδη αργά —ή αν αυτή η τεχνολογία, όπως άλλοτε ο καπνός και τα οπιοειδή, θα αποδειχθεί μια βιομηχανική επανάσταση χωρίς αναστολές.

Το βέβαιο είναι ότι βρισκόμαστε σε ένα μεταίχμιο, κι όπως ο ίδιος αναγνωρίζει: «Η χειρότερη εκδοχή του μέλλοντος θα είναι να ξέραμε τι έρχεται και να μην κάναμε τίποτα γι’ αυτό».

Η μετάβαση στον κόσμο των πανίσχυρων, αυτόνομων ΑΙ δεν είναι πλέον θέμα φαντασίας. Είναι ερώτημα πολιτικής βούλησης, ηθικής ευθύνης και δημοκρατικού ελέγχου. Το αν θα τοποθετήσουμε τις δικλείδες ασφαλείας εγκαίρως, ή αν θα τρέχουμε πίσω από μια τεχνολογία που ήδη τρέχει μπροστά μας, παραμένει ανοιχτό. Το μέλλον —δεν γράφεται μόνο με κώδικα.