Ο Elon Musk και 1.000 άλλοι ηγέτες της τεχνολογίας, συμπεριλαμβανομένου του συνιδρυτή της Apple, Steve Wozniak, ζητούν να σταματήσει η «επικίνδυνη κούρσα» για την ανάπτυξη της τεχνητής νοημοσύνης, η οποία φοβούνται ότι αποτελεί «βαθύ κίνδυνο για την κοινωνία και την ανθρωπότητα» και ότι μπορεί να έχει «καταστροφικά» αποτελέσματα.
Σε μια ανοιχτή επιστολή, η οποία εκδόθηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life Institute, οι υπογράφοντες υποστηρίζουν ότι η ανθρωπότητα δεν γνωρίζει ακόμη το πλήρες εύρος του κινδύνου που εμπεριέχει η συγκεκριμένη πρόοδος στην τεχνολογία. Ζητούν από όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν να αναπτύσσουν τα προϊόντα τους για τουλάχιστον έξι μήνες, ενώ παράλληλα θα γίνεται περισσότερη αξιολόγηση των κινδύνων.
«Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», αναφέρεται μεταξύ των άλλων στην επιστολή.
Εάν κάποια εργαστήρια αρνηθούν, οι ίδιοι υποστηρίζουν ότι απατείται η παρέμβαση των κυβερνήσεων. Ο φόβος του Musk και των άλλων ηγετών είναι ότι η τεχνολογία θα γίνει τόσο προηγμένη, που δεν θα απαιτεί πλέον -ή δεν θα ακούει- την ανθρώπινη παρέμβαση. Πρόκειται για ένα φόβο που υποστηρίζεται ευρέως και μάλιστα αναγνωρίζεται από τον Διευθύνοντα Σύμβουλο της OpenAI -της εταιρείας που δημιούργησε το ChatGPT- ο οποίος είχε πει νωρίτερα αυτό το μήνα ότι η τεχνολογία θα μπορούσε να αναπτυχθεί και να αξιοποιηθεί προκειμένου να διαπράξει «εκτεταμένες» κυβερνοεπιθέσεις.
Given that modern AI can solve any “prove you’re not a robot” tests, it’s now trivial to spin up 100k human-like bots for less than a penny per account.
Paid verification increases bot cost by ~10,000% & makes it much easier to identify bots by phone & CC clustering.
Obvious…
— Elon Musk (@elonmusk) March 27, 2023
Στην επιστολή αναφέρεται επίσης ότι τα εργαστήρια τεχνητής νοημοσύνης βρίσκονται επί του παρόντος «εντεταγμένα σε έναν αγώνα εκτός ελέγχου προκειμένου να αναπτύξουν όλο και πιο ισχυρά ψηφιακά μυαλά που κανείς –ακόμα και οι δημιουργοί τους– δεν μπορούν να καταλάβουν, να προβλέψουν ή να ελέγξουν αξιόπιστα». «Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε σίγουροι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», αναφέρεται στην επιστολή.
Κανένας από την Google ή τη Microsoft -που θεωρείται ότι βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνολογίας- δεν είναι μεταξύ εκείνων που υπέγραψαν την επιστολή. Από τη λίστα των υπογραφόντων λείπουν επίσης τα ονόματα ή τα στελέχη μέσων κοινωνικής δικτύωσης ή εκείνων που διαχειρίζονται το Quora ή το Reddit, που θεωρούνται ευρέως ότι έχουν επίσης γνώση σχετικά με το θέμα.
Η επιστολή περιγράφει επίσης τους πιθανούς κινδύνους για την κοινωνία και τον πολιτισμό από τα συστήματα τεχνητής νοημοσύνης και καλεί τους προγραμματιστές να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για τη διακυβέρνηση και τις ρυθμιστικές αρχές.
«Η επιστολή δεν είναι τέλεια, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα τις επιπτώσεις», δήλωσε ο Gary Marcus, ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, ο οποίος υπέγραψε την επιστολή. «Μπορούν να προκαλέσουν σοβαρή ζημιά. Οι μεγάλοι παίκτες γίνονται όλο και πιο μυστικοπαθείς σχετικά με το τι κάνουν, γεγονός που καθιστά δύσκολο για την κοινωνία να αμυνθεί απέναντι στις όποιες ζημιές μπορεί να προκύψουν», τόνισε.
Η επιστολή έρχεται καθώς η Europol προχώρησε τη Δευτέρα σε σχετικές προεδοποιήσεις σχετικά με προηγμένη τεχνητή νοημοσύνη όπως το ChatGPT, προειδοποιώντας για πιθανή κακή χρήση του συστήματος σε απόπειρες phishing, παραπληροφόρηση και εγκλήματα στον κυβερνοχώρο.
Από την κυκλοφορία του πέρυσι, το ChatGPT του OpenAI που υποστηρίζεται από τη Microsoft, ώθησε τους ανταγωνιστές να λανσάρουν παρόμοια προϊόντα και τις εταιρείες να το ενσωματώσουν ή παρόμοιες τεχνολογίες στις εφαρμογές και τα προϊόντα τους.
Ο Musk προσπαθεί να σταματήσει -ή τουλάχιστον να βοηθήσει στην επιβράδυνση- της ταχείας ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης εδώ και χρόνια. Ο ίδιος το 2017 είχε προειδοποιήσει ότι η ανθρωπότητα «καλούσε τον δαίμονα» όσον αφορά την εξέλιξη της τεχνολογίας.
Αξίζει να σημειωθεί ότι ο Musk φέρεται να ήταν ένας από τους ιδρυτές της OpenAI -της εταιρείας που δημιούργησε το ChatGPT- το 2015. Πρόθεσή του ήταν να λειτουργήσει ως μη κερδοσκοπικός οργανισμός αφιερωμένος στην έρευνα των κινδύνων που μπορεί να θέσει η τεχνητή νοημοσύνη για την κοινωνία.
Oλόκληρη η επιστολή στα αγγλικά ΕΔΩ.
Μεταφρασμένη:
Καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4.
Τα συστήματα τεχνητής νοημοσύνης με ανθρώπινη-ανταγωνιστική νοημοσύνη μπορούν να θέτουν σοβαρούς κινδύνους για την κοινωνία και την ανθρωπότητα, όπως φαίνεται από εκτεταμένη έρευνα [1] και αναγνωρίζεται από κορυφαία εργαστήρια τεχνητής νοημοσύνης. [2] Όπως αναφέρεται στις ευρέως εγκεκριμένες Αρχές Τεχνητής Νοημοσύνης Asilomar , η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αντιπροσωπεύει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη και θα πρέπει να σχεδιάζεται και να διαχειρίζεται με ανάλογη φροντίδα και πόρους .
Δυστυχώς, αυτό το επίπεδο σχεδιασμού και διαχείρισης δεν υπάρχει, παρόλο που τους τελευταίους μήνες τα εργαστήρια τεχνητής νοημοσύνης έχουν εγκλωβιστεί σε έναν αγώνα εκτός ελέγχου για να αναπτύξουν και να αναπτύξουν όλο και πιο ισχυρά ψηφιακά μυαλά που κανείς –ακόμα και οι δημιουργοί τους– δεν μπορεί να καταλάβει, προβλέψει ή ελέγξει αξιόπιστα.
Τα σύγχρονα συστήματα AI γίνονται πλέον ανταγωνιστικά για τον άνθρωπο σε γενικές εργασίες, [3] και πρέπει να αναρωτηθούμε: Πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφοριών μας με προπαγάνδα και αναλήθεια; Θα πρέπει να αυτοματοποιήσουμε όλες τις δουλειές, συμπεριλαμβανομένων αυτών που μας ικανοποιούν; Πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν τελικά να μας ξεπεράσουν σε αριθμό, να μας ξεπεράσουν σε νοημοσύνη, να μας μετατρέψουν σε αχρείαστους και να μας αντικαταστήσουν; Πρέπει να διακινδυνεύσουμε να χάσουμε τον έλεγχο του πολιτισμού μας;
Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους ηγέτες τεχνολογίας.
Ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτυχθούν μόνο όταν είμαστε σίγουροι ότι τα αποτελέσματά τους θα είναι θετικά και ότι οι κίνδυνοι τους θα είναι διαχειρίσιμοι.
Αυτή η εμπιστοσύνη πρέπει να αιτιολογείται επαρκώς και να αυξάνεται ανάλογα με το μέγεθος των πιθανών επιπτώσεων ενός συστήματος. Η πρόσφατη δήλωση του OpenAI σχετικά με την τεχνητή γενική νοημοσύνη , αναφέρει ότι «κάποια στιγμή, μπορεί να είναι σημαντικό να λάβετε ανεξάρτητη αναθεώρηση πριν ξεκινήσετε την εκπαίδευση μελλοντικών συστημάτων και για τις πιο προηγμένες προσπάθειες να συμφωνηθεί ο περιορισμός του ρυθμού ανάπτυξης υπολογιστών που χρησιμοποιείται για τη δημιουργία νέων μοντέλα.” Συμφωνούμε. Αυτό το σημείο είναι τώρα.
Ως εκ τούτου, καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4 . Αυτή η παύση θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παράγοντες. Εάν μια τέτοια παύση δεν μπορεί να εφαρμοστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ.
Τα εργαστήρια τεχνητής νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτήν την παύση για να αναπτύξουν και να εφαρμόσουν από κοινού ένα σύνολο κοινών πρωτοκόλλων ασφάλειας για προηγμένο σχεδιασμό και ανάπτυξη τεχνητής νοημοσύνης που ελέγχονται αυστηρά και επιβλέπονται από ανεξάρτητους εξωτερικούς ειδικούς. Αυτά τα πρωτόκολλα θα πρέπει να διασφαλίζουν ότι τα συστήματα που τα τηρούν είναι ασφαλή πέρα από εύλογη αμφιβολία. [4] Αυτό δεν σημαίνει παύση στην ανάπτυξη της τεχνητής νοημοσύνης γενικά, απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα μεγαλύτερα απρόβλεπτα μοντέλα μαύρου κουτιού με αναδυόμενες δυνατότητες.
Η έρευνα και ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να επικεντρωθεί εκ νέου στο να καταστήσει τα σημερινά ισχυρά, υπερσύγχρονα συστήματα πιο ακριβή, ασφαλή, ερμηνεύσιμα, διαφανή, ισχυρά, ευθυγραμμισμένα, αξιόπιστα και πιστά.
Παράλληλα, οι προγραμματιστές τεχνητής νοημοσύνης πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης τεχνητής νοημοσύνης. Αυτά θα πρέπει τουλάχιστον να περιλαμβάνουν: νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην τεχνητή νοημοσύνη, επίβλεψη και παρακολούθηση συστημάτων τεχνητής νοημοσύνης υψηλής ικανότητας και μεγάλων δεξαμενών υπολογιστικής ικανότητας· συστήματα προέλευσης και υδατοσήμανσης που βοηθούν στη διάκριση πραγματικών από συνθετικών και παρακολούθησης διαρροών μοντέλων, ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης, ευθύνη για βλάβη που προκαλείται από AI, ισχυρή δημόσια χρηματοδότηση για την τεχνική έρευνα για την ασφάλεια της τεχνητής νοημοσύνης, και θεσμούς με επαρκείς πόρους για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών αναταραχών (ειδικά στη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα ακμάζον μέλλον με την τεχνητή νοημοσύνη. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα τεχνητής νοημοσύνης, μπορούμε τώρα να απολαύσουμε ένα «καλοκαίρι τεχνητής νοημοσύνης» στο οποίο αποκομίζουμε τις ανταμοιβές, σχεδιάζουμε αυτά τα συστήματα προς σαφές όφελος όλων και δίνουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έχει κάνει παύση σε άλλες τεχνολογίες με δυνητικά καταστροφικές επιπτώσεις στην κοινωνία. [5] Μπορούμε να το κάνουμε εδώ. Ας απολαύσουμε ένα μακρύ καλοκαίρι τεχνητής νοημοσύνης, μη βιαζόμαστε απροετοίμαστοι για ένα φθινόπωρο.
