Η παρέμβαση Βαρουφάκη και η καταγγελία για «μηχανή ρυθμιστικής άλωσης»
Αναδημοσιεύοντας την έρευνα του Κέβιν Μπας —ενός ερευνητή με ενδιαφέρον για την τεχνολογία, την τεχνητή νοημοσύνη και τη δημόσια υγεία—, ο Γιάνης Βαρουφάκης εστίασε στην οικονομική σύγκρουση συμφερόντων που καταγγέλλεται ότι διέπει το οικοσύστημα της ασφάλειας των αλγορίθμων:
«Πουλάνε το πρόβλημα και στη συνέχεια πουλάνε τη λύση στο πρόβλημα — από τον ίδιο σωρό χρημάτων: της Anthropic».
Από την πλευρά του, ο Κέβιν Μπας υποστηρίζει ότι τα πορίσματα του ελέγχου που διενήργησε στα οικονομικά δεδομένα της Anthropic αποκαλύπτουν μία παγιωμένη στρατηγική που υπερβαίνει την απλή άσκηση πίεσης προς τις εποπτικές αρχές:
«Έχω διενεργήσει έλεγχο στα οικονομικά της Anthropic. Αυτό που ανακάλυψα είναι τόσο σοκαριστικό που ζητώ έρευνα από το Κογκρέσο. Η Anthropic δεν επιδιώκει απλώς ρυθμιστική άλωση. Έχει κατασκευάσει μία μηχανή ρυθμιστικής άλωσης που δεν μπορεί να απενεργοποιηθεί. Τα δομικά οικονομικά κίνητρα καθιστούν αδύνατο για την Anthropic —αυτό που ονομάζω “Δίκτυο Anthropic”— να απενεργοποιήσει τον δικό της κύκλο καταστροφολογίας για την AI».
Ο οργανισμός METR και η μετοχική έκρηξη των 7,7 δισεκατομμυρίων δολαρίων
Στο επίκεντρο της καταγγελίας τοποθετείται ο ρόλος των φορέων αξιολόγησης επικινδυνότητας των μοντέλων. Όπως αναφέρει ο Μπας, ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι (Dario Amodei), προτείνει τη χρήση «ανεξάρτητων αξιολογητών» για την εκτίμηση του ρίσκου των συστημάτων της Anthropic, υποδεικνύοντας συγκεκριμένα τον οργανισμό METR (Model Evaluation and Threat Research).
Ωστόσο, η οικονομική εξάρτηση του φορέα αμφισβητεί την αντικειμενικότητά του:
«Ο METR εξαρτάται οικονομικά από την επιτυχία της Anthropic — συγκεκριμένα, από την εκρηκτική άνοδο της μετοχής της Anthropic που ξεπερνά τα 7 δισεκατομμύρια δολάρια. Ο Ντάστιν Μόσκοβιτς (Dustin Moskovitz) επένδυσε αυτές τις μετοχές στο ίδρυμα Good Ventures Foundation (GVF), όπου αποτελούν την πλειονότητα του χαρτοφυλακίου του οργανισμού. Και το GVF είναι ο συντριπτικός χρηματοδότης ολόκληρου του οικοσυστήματος του Δικτύου Anthropic. Αυτή η μετοχή άξιζε 500 εκατομμύρια δολάρια στις αρχές του περασμένου έτους. Αξίζει περισσότερα από 7,7 δισεκατομμύρια δολάρια μόλις περίπου 16 μήνες αργότερα».
Σύμφωνα με τον ερευνητή, τα στελέχη του METR και των μητρικών οργανισμών δεν έχουν τη δυνατότητα να διακόψουν αυτή την πορεία: «Εάν η Anthropic καταρρεύσει, πολλοί από τους οργανισμούς που χρηματοδοτούν τον METR καταρρέουν επίσης. Αλλά εάν η Anthropic επιτύχει, ο METR και οι μητρικοί του οργανισμοί χρηματοδοτούνται πλουσιοπάροχα για να ρυθμίσουν την AI — κάτι που οι άνθρωποι του METR επιθυμούν διακαώς. Ο “τρίτος αξιολογητής” δεν είναι καθόλου ανεξάρτητος. Ο αξιολογητής βρίσκεται στο μισθολόγιο της Anthropic».
Το Κέντρο Tarbell, τα διεθνή ΜΜΕ και ο κύκλος της «υστερίας»
Η ανάλυση επεκτείνεται και στον ρόλο της διαμόρφωσης της κοινής γνώμης. Όπως υποστηρίζει ο Μπας, οι ίδιοι φορείς που χρηματοδοτούν τον METR ενισχύουν παράλληλα οργανισμούς όπως το Κέντρο Tarbell (Tarbell Center), το οποίο δημοσιεύει άρθρα υπαρξιακής ανησυχίας (AI Doom) σε κορυφαία διεθνή μέσα ενημέρωσης, μεταξύ των οποίων τα The Verge, Science, Los Angeles Times, The Dispatch και TIME:
«Πουλάνε το πρόβλημα και στη συνέχεια πουλάνε τη λύση στο πρόβλημα — από τον ίδιο σωρό χρημάτων: της Anthropic. Όλοι αυτοί οι οργανισμοί εξαρτώνται οικονομικά από τον ίδιο διογκούμενο σωρό των 7 δισεκατομμυρίων δολαρίων. Καθώς η Anthropic γίνεται πιο ισχυρή, η “Μηχανή Καταστροφολογίας της AI” χρηματοδοτείται ολοένα και καλύτερα — γίνεται όλο και πιο θορυβώδης. Εν τω μεταξύ, το ρυθμιστικό καθεστώς που έχει σπαρεί στον METR μεγαλώνει για να επιλύσει το ολοένα πιο έντονο —πλέον υστερικό— πρόβλημα που δημιούργησε το ίδιο το Δίκτυο Anthropic».
Ο Μπας καταγγέλλει τη λειτουργία μίας «ιδεολογικής μονοκαλλιέργειας», όπου τα πρόσωπα απλώς μετακινούνται μεταξύ των συνδεδεμένων οργανώσεων —παραπέμποντας και στην περίπτωση του Τζέικομπ Κόξον (Jacob Coxon)—, με αποτέλεσμα ούτε ο METR ούτε το Tarbell Center να μπορούν να θεωρηθούν ανεξάρτητοι οργανισμοί.
Η γεωπολιτική διάσταση με την Κίνα και το κάλεσμα στο Κογκρέσο
Στο καταληκτικό μέρος της παρέμβασής του, ο ερευνητής αντιπαραβάλλει την εσωτερική κατάσταση των ΗΠΑ με τη στρατηγική του Πεκίνου, κρούοντας τον κώδωνα του κινδύνου για τις γεωπολιτικές συνέπειες της επιβράδυνσης:
«Η Κίνα διατηρεί αυστηρό έλεγχο στα μηνύματά της. Γι’ αυτό η αισιοδοξία για την AI είναι τόσο υψηλή στην Κίνα. Η Αμερική έχει την Anthropic: μία τεράστια εταιρεία που προωθεί προπαγάνδα κατά της AI σε κρατικό επίπεδο. Η Anthropic είτε θα δημιουργήσει υστερία μέχρι η αμερικανική AI να επιβραδυνθεί και να κερδίσει η Κίνα, είτε θα προκαλέσει ρήγματα στην αμερικανική κοινωνία με σοβαρές πολιτικές συνέπειες».
Κλείνοντας, ο Μπας χαρακτηρίζει την όλη δομή ως έναν αυτοτροφοδοτούμενο ιό που μιμείται ακριβώς τις απειλές τις οποίες υποστηρίζει ότι προσπαθεί να αποτρέψει:
«Κατά ειρωνικό τρόπο, λόγω των δομικών οικονομικών κινήτρων που στηρίζουν το Δίκτυο Anthropic, έχει μετατραπεί στο ίδιο είδος αυτοενισχυόμενου ιού που φαντασιώνεται ότι θα γίνει η AI στο μέλλον — καλύπτοντας τα ίχνη του εξίσου προσεκτικά. Αποτελεί τον καθρέφτη του ίδιου ιού AI που υποθέτει ότι θα καταναλώσει την Αμερική. Το επιχειρηματικό μοντέλο της Anthropic διαμορφώνεται κατ’ εικόνα αυτού ακριβώς που ισχυρίζεται ότι φοβάται. Μόνο που η ιδεολογία της Anthropic μολύνει ανθρώπους, όχι υπολογιστές. Το Κογκρέσο πρέπει να διερευνήσει».
Δεν μπορούν όλοι να πληρώσουν. Και το σεβόμαστε.
Αν βρίσκεσαι σε δύσκολη οικονομική κατάσταση, συνέχισε να μας διαβάζεις δωρεάν. Η ενημέρωση πρέπει να παραμένει προσβάσιμη για όλους.
Αν όμως μπορείς, στήριξέ μας σήμερα. Ορίστε δύο καλοί λόγοι για να το κάνεις:
- Η στήριξή σου ενισχύει άμεσα την ποιότητα και την ανεξαρτησία της δημοσιογραφίας μας.
- Κοστίζει λιγότερο από έναν καφέ και η διαδικασία διαρκεί λιγότερο από 1 λεπτό.
Επίλεξε σήμερα να γίνεις συνδρομητής ή δωρητής.
Σας ευχαριστούμε θερμά.
