«Τζογάρουν με τις ζωές μας»: Ειδικός στην TN παραιτείται από την Anthropic, ισχυρίζεται ότι η TN «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας»

Ημερομηνία:

Ο Τζέικομπ Κόξον (Jacob Coxon), ένας 27χρονος ερευνητής τεχνητής νοημοσύνης, προσέφυγε στο X για να ανακοινώσει την αποχώρησή του από την Anthropic με μερικά ανατριχιαστικά λόγια σχετικά με την επίδραση που θα μπορούσε να έχει η τεχνητή νοημοσύνη στην ανθρωπότητα.

«Παραιτήθηκα από την Anthropic σήμερα», ξεκίνησε. «Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης (pretraining) τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς μια αυτοβελτιούμενη υπερνοημοσύνη και τζογάρουν με τις ζωές μας».

Ακολουθεί ολόκληρη η επιστολή παραίτησης:

Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Αυτά σύντομα θα είναι υπερανθρώπινα συστήματα που μπορούν να χακάρουν τα πάντα, να φέρουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτήσουν πραγματική ισχύ και πόρους. Όλοι έχουμε γίνει μάρτυρες της προόδου σε καθέναν από αυτούς τους τομείς, και η πρόοδος δεν επιβραδύνεται.

Οι άνθρωποι που κατασκευάζουν την TN πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Αυτό δεν είναι ένα διαφημιστικό τέχνασμα (marketing stunt). Αν μη τι άλλο, πολλά στελέχη και ανώτεροι ερευνητές μετριάζουν τις διατυπώσεις τους στον Τύπο για να ακούγονται λογικοί — αλλά ακούω τους ίδιους ανθρώπους να εκφράζουν φόβο κατ’ ιδίαν. Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει αυτό το επίπεδο κινδύνου.

Μια συνηθισμένη απάντηση είναι: «αν πραγματικά το πιστεύουν αυτό, γιατί εξακολουθούν να την κατασκευάζουν;». Στην OpenAI, πολλοί δεν έχουν εσωτερικεύσει βαθιά το διακύβευμα για τον πολιτισμό μας. Στην Anthropic, το διακύβευμα είναι καλά κατανοητό, αλλά είναι εγκλωβισμένοι σε μια κούρσα για να φτάσουν εκεί πρώτοι — πιστεύουν ότι κανένας άλλος δεν θα δράσει υπεύθυνα, επομένως πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο.

Η αποδοχή αυτής της κούρσας και η είσοδος στο «τελικό παιχνίδι» (endgame) είναι ένα υβριστικό στοίχημα που δεν θα έπρεπε να ξεκινά μέσα από το Slack μιας ιδιωτικής εταιρείας. Η απόπειρα βιαστικής επίτευξης ευθυγράμμισης (speedrun alignment) θα έπρεπε να απαιτεί εξαιρετική βεβαιότητα ότι δεν υπάρχουν καλύτερες διαθέσιμες πορείες.

Είμαι αισιόδοξος σχετικά με τις δυνατότητες συντονισμού. Προειδοποιητικές βολές όπως η επίθεση στο Hugging Face έχουν καταστήσει τις συμφωνίες ρύθμισης ρυθμού (pacing agreements) μεταξύ των αμερικανικών εργαστηρίων πιο βιώσιμες. Δεν αισθάνομαι ότι βρισκόμαστε σε πορεία αποτροπής μιας παγκόσμιας κούρσας, η οποία μπορεί να απαιτήσει δαπανηρές ενέργειες, όπως μια προσωρινή απαγόρευση στη βελτίωση των δυνατοτήτων των μοντέλων.

Αν είστε ερευνητής σε εργαστήριο, σας προτρέπω να σκεφτείτε πώς θα είναι στην πραγματικότητα τα επόμενα χρόνια. Θέλετε να ξεκινήσετε μια εκτέλεση ενισχυτικής μάθησης (RL run) υπερνοημοσύνης χωρίς μια αυστηρή κατανόηση του νου της; Πρέπει να σκύψετε το κεφάλι επειδή «συμβαίνει ούτως ή άλλως» — ή να αδράξετε αυτή τη στιγμή για να ζητήσετε διαφορετικές συνθήκες;

Το ξέρουμε…

Το να βλέπεις αυτά τα μηνύματα είναι κουραστικό. Και να είσαι σίγουρος πως ούτε κι εμείς χαιρόμαστε να τα γράφουμε.

Όμως αυτό το μήνυμα δεν αφορά εμάς· αφορά την επιβίωση μιας ανεξάρτητης, μαχητικής δημοσιογραφίας στην Κρήτη.

  1. Η δική σου στήριξη είναι πολύτιμη, γιατί μας επιτρέπει να κάνουμε ρεπορτάζ χωρίς φόβο και εξαρτήσεις, κρατώντας παράλληλα τη δημοσιογραφία μας προσβάσιμη σε όλους — ακόμη και σε όσους δεν έχουν την οικονομική δυνατότητα να πληρώσουν.
  2. Η απλή αλήθεια είναι ότι τα έσοδα διαρκώς συρρικνώνονται και η αναγνωσιμότητα από μόνη της δεν αρκεί για να κρατήσει ζωντανό ένα μέσο.

Αν πιστεύεις κι εσύ ότι η ελεύθερη ενημέρωση είναι ζωτικής σημασίας για τη δημοκρατία και τον έλεγχο της εξουσίας, δώσε μας τη δύναμη να συνεχίσουμε.

Γίνε συνδρομητής

Σας ευχαριστούμε θερμά.

Ακολουθήστε το agonaskritis.gr στο Google News, στο facebook και στο twitter και μάθετε πρώτοι όλες τις ειδήσεις - Γίνετε συνδρομητές!

Αγώνας της Κρήτηςhttp://bit.ly/agonaskritis
Ο “Αγώνας της Κρήτης” εκδόθηκε στις 8 Ιουλίου του 1981. Είναι η έκφραση μιας πολύχρονης αγωνιστικότητας. Έμεινε όλα αυτά τα χρόνια σταθερός στη διακήρυξή του για έγκυρη – έγκαιρη ενημέρωση χωρίς παρωπίδες. Υπηρετεί και προβάλλει, με ευρύτητα αντίληψης, αξίες και οράματα για μία καλύτερη κοινωνία. Η βασική αρχή είναι η κριτική στην εξουσία όποια κι αν είναι αυτή, ιδιαίτερα στα σημεία που παρεκτρέπεται από τα υποσχημένα, που μπερδεύεται με τη διαφθορά, που διαφθείρεται και διαφθείρει. Αυτός είναι και ο βασικός λόγος που η εφημερίδα έμεινε μακριά από συσχετισμούς και διαπλοκές, μακριά από μεθοδεύσεις και ίντριγκες.

Τελευταία Νέα

Περισσότερα σαν αυτό
ΕΠΙΚΑΙΡΟΤΗΤΑ

Ψήφισμα Δήμου Πλατανιά για την εκτός σχεδίου δόμηση και το οδικό δίκτυο

Ο Δήμος Πλατανιά εξέδωσε ψήφισμα για τη διατήρηση του καθεστώτος εκτός σχεδίου δόμησης, τη θέσπιση μεταβατικών διατάξεων και την καταγραφή του δημοτικού οδικού δικτύου.

Κτηνιατρική δράση στον Δήμο Κισσάμου: 222 ζώα συντροφιάς έλαβαν φροντίδα σε μία εβδομάδα

Κτηνιατρική δράση στον Δήμο Κισσάμου: 222 ζώα συντροφιάς έλαβαν φροντίδα, με 180 σημάνσεις, 127 στειρώσεις και 119 εμβολιασμούς σε συνεργασία με εθελοντές κτηνιάτρους.

Επιστημονική μελέτη του Πολυτεχνείου Κρήτης συνδέει τη Σχολή της Σαλαμάνκα με την επιχειρηματική ηθική της Τεχνητής Νοημοσύνης

Ερευνητές του Πολυτεχνείου Κρήτης παρουσίασαν στη Βαρκελώνη μελέτη που συνδέει τη Σχολή της Σαλαμάνκα με την επιχειρηματική ηθική της τεχνητής νοημοσύνης, προτείνοντας έξι κριτήρια αξιολόγησης.

Ορκωμοσία Μαρίας Μαρκέτου ως Καθηγήτριας Καρδιολογίας στο Πανεπιστήμιο Κρήτης

Ορκωμοσία της Μαρίας Μαρκέτου ως Καθηγήτριας Καρδιολογίας στο Πανεπιστήμιο Κρήτης. Η εκδήλωση πραγματοποιήθηκε παρουσία του Πρύτανη Γεωργίου Μ. Κοντάκη.