Πριν από την αποπομπή του διευθύνοντος συμβούλου της OpenAI Σαμ Άλτμαν που κράτησε μόλις 4 ημέρες, αρκετοί ερευνητές της εταιρείας έγραψαν επιστολή προς το διοικητικό συμβούλιο, προειδοποιώντας για μια μεγάλη ανακάλυψη στην τεχνητή νοημοσύνη που, όπως είπαν, θα μπορούσε να απειλήσει την ανθρωπότητα, σύμφωνα με δύο άτομα που γνωρίζουν το θέμα και μίλησαν στο Reuters.
Η επιστολή που δεν είχε αναφερθεί προηγουμένως και ο νέος αλγόριθμος τεχνητής νοημοσύνης αποτέλεσαν εξελίξεις-κλειδιά πριν από την απομάκρυνση του Άλτμαν από το διοικητικό συμβούλιο, σύμφωνα με τους ίδιους. Πριν από τη θριαμβευτική επιστροφή του αργά την Τρίτη, περισσότεροι από 700 εργαζόμενοι είχαν απειλήσει να παραιτηθούν και να ενταχθούν στην χρηματοδότρια Microsoft ως ένδειξη αλληλεγγύης προς τον απολυμένο επικεφαλής τους.
Η επιστολή
Οι πηγές ανέφεραν την επιστολή ως έναν παράγοντα μεταξύ ενός μακρύτερου καταλόγου παραπόνων του διοικητικού συμβουλίου που οδήγησε στην απόλυση του Άλτμαν, μεταξύ των οποίων ήταν οι ανησυχίες για την εμπορευματοποίηση των ανακαλύψεων πριν από την κατανόηση των συνεπειών. Το Reuters δεν μπόρεσε να ελέγξει κάποιο αντίγραφο της επιστολής. Το προσωπικό που συνέταξε την επιστολή δεν απάντησε σε αιτήματα για σχολιασμό.
Αφού επικοινώνησε με το Reuters, η OpenAI, η οποία αρνήθηκε να σχολιάσει, φέρεται να έκανε λόγο -σε ένα εσωτερικό μήνυμα- προς το προσωπικό για ένα project με την ονομασία Q* (Q-Star) και μια επιστολή προς το συμβούλιο πριν από τα γεγονότα του Σαββατοκύριακου, δήλωσε ένας από τους γνωρίζοντες τα όσα συνέβησαν. Εκπρόσωπος της OpenAI δήλωσε ότι το μήνυμα, που εστάλη από το στέλεχος Mira Murati, εμπεριείχε προδειδοποιήσεις.
Σημαντική ανακάλυψη
Κάποιοι στην OpenAI πιστεύουν ότι το Q* θα μπορούσε να είναι μια σημαντική ανακάλυψη στην αναζήτηση της startup για αυτό που είναι γνωστό ως γενική τεχνητή νοημοσύνη (AGI), δήλωσε ένας από τους γνωρίζοντες στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα που ξεπερνούν τον άνθρωπο στις περισσότερες οικονομικά πολύτιμες εργασίες.
Αξίζει να σημειωθεί πως το νέο μοντέλο ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, σύμφωνα με άτομο που μίλησε υπό τον όρο της ανωνυμίας, λόγω του ότι δεν ήταν εξουσιοδοτημένο να μιλήσει εκ μέρους της εταιρείας. Αν και εκτελούσε μαθηματικούς υπολογισμούς μόνο στο επίπεδο των μαθητών του δημοτικού σχολείου, η άριστη επίδοσή του έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*, σύμφωνα με την ίδια πηγή.
Ορόσημο
Οι ερευνητές θεωρούν τα μαθηματικά ως ένα από τα σύνορα της ανάπτυξης της δημιουργικής ΤΝ. Επί του παρόντος, η γεννητική τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλωσσών προβλέποντας στατιστικά την επόμενη λέξη, ενώ οι απαντήσεις στην ίδια ερώτηση μπορεί να διαφέρουν σημαντικά. Αλλά η κατάκτηση της ικανότητας να κάνει μαθηματικά – όπου υπάρχει μόνο μία σωστή απάντηση – συνεπάγεται ότι η ΤΝ θα έχει μεγαλύτερες ικανότητες συλλογισμού που θα μοιάζουν με την ανθρώπινη νοημοσύνη. Αυτό θα μπορούσε να εφαρμοστεί, για παράδειγμα, σε νέα επιστημονική έρευνα, πιστεύουν οι ερευνητές της ΤΝ.
Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει έναν περιορισμένο αριθμό πράξεων, η ΑΓΙ μπορεί να γενικεύει, να μαθαίνει και να κατανοεί.
Στην επιστολή τους προς το διοικητικό συμβούλιο, οι ερευνητές επισήμαναν τις ικανότητες και τους πιθανούς κινδύνους της ΑΙ, ανέφεραν οι πηγές χωρίς να διευκρινίζουν τις ακριβείς ανησυχίες για την ασφάλεια που σημειώνονται στην επιστολή. Εδώ και καιρό υπάρχει συζήτηση μεταξύ των επιστημόνων πληροφορικής σχετικά με τον κίνδυνο που εγκυμονούν οι μηχανές υψηλής νοημοσύνης, για παράδειγμα αν θα μπορούσαν να αποφασίσουν ότι η καταστροφή της ανθρωπότητας είναι προς το συμφέρον τους.
Οι ερευνητές έχουν επίσης επισημάνει τις εργασίες μιας ομάδας “επιστημόνων τεχνητής νοημοσύνης”, την ύπαρξη της οποίας επιβεβαίωσαν πολλαπλές πηγές. Η ομάδα, η οποία σχηματίστηκε από το συνδυασμό προηγούμενων ομάδων “Code Gen” και “Math Gen”, διερευνούσε πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης για να βελτιώσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονικό έργο, δήλωσε ένας από τους ανθρώπους.
Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων σε μια επίδειξη αυτό το μήνα, ο Altman την περασμένη εβδομάδα, σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο, υποσχέθηκε ότι πίστευε ότι σημαντικές εξελίξεις ήταν ορατές.
“Τέσσερις φορές τώρα στην ιστορία του OpenAI, η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες, έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε το πέπλο της άγνοιας πίσω και τα σύνορα της ανακάλυψης προς τα εμπρός, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου”, δήλωσε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.
Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Altman.