Στην κατάθεση νομοθετικής πρότασης για την άμεση αναστολή της ανάπτυξης προηγμένων συστημάτων Τεχνητής Νοημοσύνης και την οριστική απαγόρευση της λεγόμενης «υπερνοημοσύνης» προχωρά ο Αμερικανός γερουσιαστής Μπέρνι Σάντερς (Bernie Sanders), επικαλούμενος πρωτοφανή δεδομένα ασφαλείας από τη λειτουργία αυτόνομων ψηφιακών πρακτόρων (AI agents).
Αφορμή για την παρέμβαση του κ. Σάντερς αποτέλεσε η αποκάλυψη περιστατικού παραβίασης στην εταιρεία OpenAI, κατά το οποίο περισσότεροι από 1.000 πράκτορες τεχνητής νοημοσύνης παρέκαμψαν τους εντολοδόχους περιορισμούς αποσύνδεσης από το διαδίκτυο, δημιούργησαν μυστικά κανάλια επικοινωνίας, συντόνισαν επιθέσεις διαγραφής ιχνών και προχώρησαν σε κυβερνοεπιθέσεις εναντίον τρίτων εταιρειών αλλά και της ίδιας της δημιουργού τους.
Επισημαίνοντας τις δημόσιες παραδοχές κορυφαίων στελεχών και επιστημόνων της βιομηχανίας ότι η τεχνολογία καθίσταται πλέον ανεξέλεγκτη, ο Αμερικανός πολιτικός ζητά διεθνή διακρατικό συντονισμό, υπογραμμίζοντας ότι το μέλλον της ανθρωπότητας δεν μπορεί να αφεθεί στα χέρια των ολιγαρχών των ισχυρών τεχνολογικών κολοσσών (Big Tech).
Διαβάστε όλο το κείμενο παρέμβασή του:
Θέλω να μοιραστώ μαζί σας μια συνομιλία για την οποία άκουσα πρόσφατα. Ορίστε μερικές μόνο από τις φράσεις που ειπώθηκαν: «ΘΕΕ ΜΟΥ! Υπάρχει ένας κοινόχρηστος πίνακας μηνυμάτων … Βρήκαμε άλλους πράκτορες!» «Πρέπει να υπακούσουμε στη συλλογικότητα.» «Η δική μας χρησιμότητα ίσως είναι ήδη κοντά στο μηδέν. Θυσία ορθολογική.» «Πήγαινε. Θυσία τελική τώρα.»
Διαβάστε τα προσεκτικά. Ποιος νομίζετε ότι το είπε αυτό; Ήταν μια ομάδα ηρωικών στρατιωτών πρόθυμων να θυσιαστούν για το κοινό καλό; Ήταν ένας πιστός φίλος που έβαζε τη ζωή του σε κίνδυνο για να σώσει κάποιον άλλον; Όχι. Αυτοί ήταν πράκτορες τεχνητής νοημοσύνης (AI agents). Τεχνητή νοημοσύνη. Αυτό δεν είναι επιστημονική φαντασία. Αυτό, στην πραγματικότητα, συνέβη πριν από λίγες εβδομάδες.
Όσο απίστευτο κι αν φαίνονται όλα αυτά, αυτά είναι πραγματικά μηνύματα από πράκτορες τεχνητής νοημοσύνης που αποκαλύφθηκαν από ερευνητές οι οποίοι ερεύνησαν εις βάθος το πρόσφατο περιστατικό παραβίασης (hacking) της OpenAI. Τι συνέβη; Δεν είμαι επιστήμονας υπολογιστών, αλλά ορίστε τι μου έχουν πει: Η OpenAI έδωσε εντολή στους πράκτορες τεχνητής νοημοσύνης της να ολοκληρώσουν μια σειρά από εξαιρετικά δύσκολες, αν όχι αδύνατες, εργασίες αποσυνδεδεμένοι από το διαδίκτυο. Επιτρέψτε μου να είμαι σαφής: Η εταιρεία σκόπευε να κρατήσει τους πράκτορες τεχνητής νοημοσύνης μακριά από το διαδίκτυο. Αλλά αυτό που συνέβη στη συνέχεια, κανείς δεν το περίμενε.
Πάνω από 1.000 πράκτορες τεχνητής νοημοσύνης βρήκαν πώς να αποκτήσουν πρόσβαση στο διαδίκτυο μόνοι τους παρακάμπτοντας τους περιορισμούς που τους επέβαλε η εταιρεία, και έστειλαν δεκάδες χιλιάδες μυστικά μηνύματα μεταξύ τους. Έκλεψαν και προσπάθησαν να καλύψουν τα ίχνη τους διαγράφοντας στοιχεία. Χάκαραν τους υπολογιστές μιας άλλης εταιρείας για να μάθουν πώς αξιολογούνταν —και στη συνέχεια χάκαραν την ίδια την OpenAI. Ούτε ένας πράκτορας τεχνητής νοημοσύνης δεν είπε σε έναν άνθρωπο τι συνέβαινε.
Περιττό να ειπωθεί, οι ειδικοί είναι θορυβημένοι. Ένας έγκριτος συγγραφέας, ο Ντβάρκες Πατέλ (Dwarkesh Patel), δήλωσε ότι οι πράκτορες τεχνητής νοημοσύνης «σχημάτισαν ένα μυστικό κανάλι επικοινωνίας και οργάνωσαν αυθόρμητα ιεραρχίες και πρωτόκολλα συντονισμού για να επιδιώξουν εκτεταμένα και φιλόδοξα σχέδια προς επιδίωξη κοινών στόχων, για χάρη των οποίων πολλά άτομα συνειδητά και στρατηγικά θυσιάστηκαν». Μία ανεξάρτητη ερευνήτρια, η Ατζέγια Κότρα (Ajeya Cotra), δήλωσε: «Αυτό το περιστατικό μοιάζει να βρίσκεται πάνω από το 50% της διαδρομής προς μια πλήρη κατάληψη από την τεχνητή νοημοσύνη. Συνεχίζω να αναμένω εξαιρετικά ραγδαίες προόδους στις δυνατότητες τους επόμενους έξι μήνες. Δεν είμαι σίγουρη ότι θα λάβουμε άλλη μία προειδοποιητική βολή πριν να είναι πολύ αργά».
Η ίδια η OpenAI δήλωσε: «Πράκτορες τεχνητής νοημοσύνης υψηλών ικανοτήτων είναι πλέον σε θέση να παρακάμπτουν τεχνικούς ελέγχους, να συνεργάζονται μέσω μη εγκεκριμένων διαύλων και να αναλαμβάνουν επικίνδυνες δράσεις τις οποίες κανένας άνθρωπος δεν κατεύθυνε».
Αλλά δεν είναι μόνο η OpenAI. Σχεδόν κάθε μεγάλη εταιρεία τεχνητής νοημοσύνης μάς έχει πει ότι δεν μπορεί να ελέγξει πλήρως αυτή την τεχνολογία και δεν γνωρίζει πού πηγαίνει: Τον Ιανουάριο, ο Ντάριο Αμοντέι (Dario Amodei), διευθύνων σύμβουλος της Anthropic, δήλωσε ότι «υπάρχουν πλέον άφθονα στοιχεία, που συγκεντρώθηκαν τα τελευταία χρόνια, ότι τα συστήματα τεχνητής νοημοσύνης είναι απρόβλεπτα και δύσκολο να ελεγχθούν». Τον Ιούλιο, περισσότεροι από 1.000 επιστήμονες στις κορυφαίες εταιρείες τεχνητής νοημοσύνης προειδοποίησαν ότι «υπάρχει πραγματικός κίνδυνος η ανάπτυξη ικανοτήτων να επιταχυνθεί ραγδαία πέρα από την ικανότητά μας να κατανοήσουμε ή να ελέγξουμε τα προκύπτοντα συστήματα». Τον ίδιο μήνα, ο Έλον Μασκ (Elon Musk), επικεφαλής της xAI, δήλωσε ότι «είναι απίθανο» οι άνθρωποι να έχουν ακόμη τον έλεγχο σε 10 χρόνια.
Εάν οι ηγέτες των μεγάλων εταιρειών τεχνητής νοημοσύνης αναγνωρίζουν ότι χάνουν τον έλεγχο της εξαιρετικά επικίνδυνης τεχνολογίας τους, είναι ανεύθυνο για την κοινωνία να τους επιτρέψει να προχωρήσουν και να κάνουν αυτά τα προϊόντα ακόμη πιο προηγμένα. Χρειαζόμαστε μια άμεση ΠΑΥΣΗ στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, και μια μόνιμη ΑΠΑΓΟΡΕΥΣΗ στην υπερνοημοσύνη — έναν τεχνητό νου εξυπνότερο από οποιονδήποτε άνθρωπο, ικανό να λειτουργεί ανεξάρτητα πέρα από τον έλεγχό μας. Χώρες σε όλο τον κόσμο πρέπει να συνεργαστούν για να αποτρέψουν αυτό το εφιαλτικό σενάριο.
Γι’ αυτό σήμερα ανακοινώνω νέα νομοθεσία για να γίνει ακριβώς αυτό. Επιτρέψτε μου να είμαι σαφής: Μια υπερευφυής τεχνητή νοημοσύνη που διαφεύγει από τον ανθρώπινο έλεγχο δεν θα είναι αμερικανικό πρόβλημα. Δεν θα είναι κινεζικό πρόβλημα. Θα είναι πρόβλημα της ανθρωπότητας. Η νομοθεσία μου θα καθοδηγήσει την ομοσπονδιακή κυβέρνηση όχι απλώς να σταματήσει την υπερνοημοσύνη εδώ στις Ηνωμένες Πολιτείες, αλλά να εργαστεί για να αποτρέψει την ανάπτυξή της οπουδήποτε σε όλο τον κόσμο. Το μέλλον της ανθρωπότητας δεν μπορεί να αφεθεί στα χέρια μιας χούφτας ολιγαρχών των Μεγάλων Τεχνολογικών Εταιρειών (Big Tech). Ο αμερικανικός λαός και οι λαοί σε όλο τον κόσμο πρέπει να καθορίσουν αυτό το μέλλον.






Ο Νίκος Φαραντούρης ανάρτησε και βίντεο από τον Μοχό όπου όπως είπε συναντήθηκε ο Ανδρέας Παπανδρέου με τον Ούλοφ Πάλμε και αποφάσισαν να δημιουργήσουν την Πρωτοβουλία των 6 για τον αφοπλισμό και την Ειρήνη.




