Η Κέιτλιν Καλινόβσκι επικεφαλής του τμήματος ρομποτικής της OpenAI ανακοίνωσε ότι παραιτείται μη αποδεχομένη την πρόσφατη συμφωνία της OpenAI με το Υπουργείο Άμυνας των ΗΠΑ για παροχή των τεχνολογιών τεχνητής νοημοσύνης της εταιρείας στον αμερικανικό στρατό.

Η παραίτηση έγινε γνωστή αμέσως μετά την ομολογία του επικεφαλής της OpenAI Σαμ Άλτμαν στους εργαζομένους της εταιρείας ότι δεν υπάρχει καμία δικλείδα ασφαλείας και ελέγχου για το πώς θα χρησιμοποιεί ο στρατός την τεχνολογία της εταιρείας.

Η βιομηχανία της τεχνητής νοημοσύνης έχει βρεθεί τις τελευταίες εβδομάδες στο επίκεντρο έντονων συζητήσεων και σκληρών διαπραγματεύσεων καθώς το Πεντάγωνο έχει απαιτήσει από τις εταιρείες AI να αφαιρέσουν ορισμένους περιορισμούς ασφαλείας από τα μοντέλα τους ώστε να επιτραπεί ευρύτερη χρήση τους σε στρατιωτικές εφαρμογές. Αναφέρεται ότι συστήματα που βασίζονται σε AI έχουν ήδη χρησιμοποιηθεί στην επιχείρηση του αμερικανικού στρατού για τη σύλληψη του ηγέτη της Βενεζουέλας Νικολάς Μαδούρο, καθώς και σε αποφάσεις επιλογής στόχων στον πόλεμο εναντίον του Ιράν.

Η Anthropic ανταγωνίστρια της OpenAI και δημιουργός του chatbot Claude, αρνήθηκε την περασμένη εβδομάδα μια συμφωνία με το Πεντάγωνο λόγω ανησυχιών ότι το μοντέλο της θα μπορούσε να χρησιμοποιηθεί για μαζική εσωτερική παρακολούθηση ή πλήρως αυτόνομα όπλα. Ως αποτέλεσμα ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, χαρακτήρισε την εταιρεία «κίνδυνο για την αλυσίδα εφοδιασμού» έναν χαρακτηρισμό που δεν είχε χρησιμοποιηθεί ποτέ ξανά εναντίον αμερικανικής εταιρείας και που θα μπορούσε να προκαλέσει σοβαρή οικονομική ζημιά αν εφαρμοστεί επίσημα. Ο Ντόναλντ Τραμπ έδωσε εντολή διακοπής συνεργασίας με την Anthropic και τη θέση της πήρε αμέσως η OpenAI.

«Δεν ήταν εύκολη απόφαση. Η τεχνητή νοημοσύνη έχει σημαντικό ρόλο στην εθνική ασφάλεια. Όμως η παρακολούθηση Αμερικανών χωρίς δικαστική εποπτεία και η θανατηφόρα αυτονομία χωρίς ανθρώπινη εξουσιοδότηση είναι γραμμές που άξιζαν περισσότερη συζήτηση απ’ όση έγινε» αναφέρει σε ανάρτηση της η Καλινόβσκι  η οποία προηγουμένως ήταν επικεφαλής της ομάδας που ανέπτυσσε γυαλιά επαυξημένης πραγματικότητας στη Meta (Facebook, Instagram) και εντάχθηκε στην OpenAI το Νοέμβριο του 2024. Στην ανακοίνωσή της τόνισε ότι η απόφαση ήταν «ζήτημα αρχής, όχι ανθρώπων» και δήλωσε ότι τρέφει «βαθύ σεβασμό» για τον διευθύνοντα σύμβουλο Σαμ Άλτμαν και την ομάδα της OpenAI.

Σε επόμενη ανάρτησή της στο X, η Καλινόβσκι πρόσθεσε: «Για να είμαι σαφής, το πρόβλημά μου είναι ότι η ανακοίνωση έγινε βιαστικά χωρίς να έχουν καθοριστεί οι απαραίτητες δικλείδες ασφαλείας. Πρόκειται πρωτίστως για ζήτημα διακυβέρνησης. Αυτά τα θέματα είναι πολύ σημαντικά για να γίνονται βιαστικές συμφωνίες ή ανακοινώσεις.»

Η OpenAI, σε δήλωσή της, ανέφερε: «Πιστεύουμε ότι η συμφωνία μας με το Πεντάγωνο δημιουργεί μια εφαρμόσιμη πορεία για υπεύθυνη χρήση της τεχνητής νοημοσύνης στην εθνική ασφάλεια, ενώ ταυτόχρονα ξεκαθαρίζει τις κόκκινες γραμμές μας: καμία εγχώρια παρακολούθηση και κανένα αυτόνομο οπλικό σύστημα. Αναγνωρίζουμε ότι οι άνθρωποι έχουν έντονες απόψεις για αυτά τα ζητήματα και θα συνεχίσουμε τον διάλογο με εργαζομένους, την κυβέρνηση, την κοινωνία των πολιτών και κοινότητες σε όλο τον κόσμο».

Naftemporiki.gr