Η έξαρση των AI chatbots με δικλείδες ασφαλείας που παρακάμπτονται εύκολα, δείχνει  πώς τα οικονομικά κίνητρα έχουν προτεραιότητα έναντι της πιο προσεκτικής διαδικασίας σχεδιασμού και των δοκιμών ασφαλείας. Ως εκ τούτου, η κούρσα για την προώθηση της τεχνητής νοημοσύνης στην αγορά έχει αυξήσει τον κίνδυνο μιας καταστροφής τύπου Χίντενμπουργκ που θα συντρίψει την εμπιστοσύνη του κόσμου στην τεχνολογία, προειδοποίησε κορυφαίος ερευνητής.

Ο Μάικλ Γούλντριτζ, καθηγητής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο της Οξφόρδης, δήλωσε ότι ο κίνδυνος προκύπτει από τις τεράστιες εμπορικές πιέσεις που δέχονται οι εταιρείες τεχνολογίας για να κυκλοφορήσουν νέα εργαλεία Τεχνητής Νοημοσύνης, με τις εταιρείες να προσπαθούν απεγνωσμένα να κερδίσουν πελάτες, ωστόσο πριν γίνουν πλήρως κατανοητές οι δυνατότητες και τα πιθανά ελαττώματα των προϊόντων

«Έχουμε μια τεχνολογία που είναι πολύ ελπιδοφόρα, αλλά δεν έχει δοκιμαστεί τόσο αυστηρά όσο θα θέλαμε καθώς η επιχειρηματική πίεση πίσω είναι αφόρητη».

Ο Γούλντριτζ, ο οποίος θα δώσει το βράδυ της Τετάρτης διάλεξη για το βραβείο Michael Faraday της Βασιλικής Εταιρείας με τίτλο «Αυτή δεν είναι η τεχνητή νοημοσύνη που μας υποσχέθηκαν», τόνισε στον Guardian, ότι το ενδεχόμενο να συμβεί μια κρίση τύπου Χίντενμπουργκ είναι «πολύ πιθανό», καθώς οι εταιρείες σπεύδουν να αναπτύξουν πιο προηγμένα εργαλεία τεχνητής νοημοσύνης.

Η θανατηφόρα καταστροφή του Χίντεμπουργκ

Το Χίντενμπουργκ, ένα αερόπλοιο μήκους 245 μέτρων που πραγματοποιούσε πτήσεις στον Ατλαντικό, ετοιμαζόταν να προσγειωθεί στο Νιου Τζέρσεϊ το 1937 όταν τυλίχθηκε στις φλόγες, σκοτώνοντας 36 μέλη του πληρώματος, επιβάτες και προσωπικό εδάφους. Η κόλαση προκλήθηκε από έναν σπινθήρα που άναψε τα 200.000 κυβικά μέτρα υδρογόνου που κρατούσαν το αερόπλοιο στον αέρα.

«Η καταστροφή του Χίντενμπουργκ έσβησε το παγκόσμιο ενδιαφέρον για τα αερόπλοια, ως νεκρή τεχνολογία. Μια παρόμοια εξέλιξη αποτελεί πραγματικό κίνδυνο για την τεχνητή νοημοσύνη», δήλωσε ο Γούλντριτζ. Επειδή η ΤΝ είναι ενσωματωμένη σε τόσα πολλά συστήματα, ένα μείζον περιστατικό θα μπορούσε να πλήξει σχεδόν οποιονδήποτε τομέα.

Τα σενάρια καταστροφής

Τα σενάρια που προβλέπει ο Γούλντριτζ αφορούν μια θανατηφόρα ενημερωμένη έκδοση λογισμικού για αυτοκινούμενα οχήματα, ένα χακάρισμα που θα καθηλώσει τις παγκόσμιες αεροπορικές εταιρείες ή μια κατάρρευση μιας τράπεζας που θα προκληθεί επειδή η τεχνητή νοημοσύνη θα κάνει κάτι ανόητο.

«Πρόκειται για πολύ, πολύ πιθανά σενάρια», υπογράμμισε. «Υπάρχουν ένα σωρό τρόποι με τους οποίους η τεχνητή νοημοσύνη θα μπορούσε να λειτουργήσει στραβά».

«Η σύγχρονη τεχνητή νοημοσύνη δεν είναι ούτε υγιής ούτε πλήρης: Λειτουργεί κατά προσέγγιση», τόνισε. Αυτό προκύπτει επειδή τα μεγάλα γλωσσικά μοντέλα, τα οποία στηρίζουν τα σημερινά chatbots, δίνουν απαντήσεις προβλέποντας την επόμενη λέξη, ή μέρος μιας λέξης, με βάση κατανομές πιθανοτήτων που μαθαίνονται κατά την εκπαίδευση. Αυτό οδηγεί σε ΤΝ με συγκεχυμένες ικανότητες: απίστευτα αποτελεσματικές σε ορισμένες εργασίες, αλλά κάκιστες σε άλλες».

«Δεν έχουν ιδέα πότε κάνουν λάθος»

Το πρόβλημα, είπε ο Γούλντριτζ, ήταν ότι τα chatbots αποτυγχάνουν με απρόβλεπτους τρόπους και δεν έχουν ιδέα πότε έκαναν λάθος, ενώ έχουν σχεδιαστεί για να παρέχουν σίγουρες απαντήσεις παρόλα αυτά. Όταν δίνονται απαντήσεις που μοιάζουν με ανθρώπινες μπορούν εύκολα να παραπλανήσουν. Ο κίνδυνος είναι να αρχίσουμε να αντιμετωπίζουμε την AI σαν να είναι άνθρωπος.

Σε μια έρευνα του 2025 από το Κέντρο για τη Δημοκρατία και την Τεχνολογία, σχεδόν το ένα τρίτο των φοιτητών ανέφερε ότι οι ίδιοι ή κάποιος φίλος τους είχε μια ρομαντική σχέση με μια τεχνητή νοημοσύνη.

Καλύτερα τεχνητή νοημοσύνη όπως του Εντερπράιζ

«Οι εταιρείες θέλουν να παρουσιάσουν την ΤΝ με τρόπο που να μοιάζει πολύ με τον άνθρωπο, αλλά πιστεύω ότι αυτό είναι ένα πολύ επικίνδυνο μονοπάτι. Πρέπει να καταλάβουμε ότι πρόκειται απλώς για εντυπωσιακά υπολογιστικά προγράμματα, είναι εργαλεία και τίποτα περισσότερο από αυτό», δήλωσε ο Γούλντριτζ που βλέπει θετικά, στο είδος της τεχνητής νοημοσύνης που απεικονίζεται στα πρώτα χρόνια του Star Trek.

Σε ένα επεισόδιο του 1968, το The Day of the Dove, ο κύριος Σποκ ενημερώνεται από τον υπολογιστή του Εντερπράιζ, με μια σαφώς μη ανθρώπινη φωνή ότι δεν έχει επαρκή δεδομένα για να απαντήσει.

«Έχουμε μια υπερβολικά σίγουρη τεχνητή νοημοσύνη που λέει: ναι, εδώ είναι η απάντηση», σημείωσε. «Ίσως χρειαζόμαστε τεχνητή νοημοσύνη που να μας μιλάει με τη φωνή του υπολογιστή του Star Trek. Δεν θα πιστεύαμε ποτέ ότι πρόκειται για άνθρωπο».

naftemporiki.gr