Οι ολοένα αυξανόμενες ειδήσεις για την Τεχνητή Νοημοσύνη, όπως οι παραιτήσεις ερευνητών και οι προειδοποιήσεις κορυφαίων προσωπικοτήτων της τεχνολογίας, φέρνουν τον τομέα της εξέλιξης μπροστά στο ερώτημα «προχωρά η Τεχνητή Νοημοσύνη ταχύτερα από όσο μπορούν να την ελέγξουν οι δημιουργοί της και οι κυβερνήσεις;».

Το ζήτημα δεν αφορά πλέον μόνο τα chatbots που συντάσσουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήσεις. Στη συζήτηση μπαίνουν και τα προηγμένα μοντέλα, οι δημοφιλείς πια AI agents, τα συστήματα που μπορούν να σχεδιάζουν και να εκτελούν ακολουθίες ενεργειών, να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.

Τεχνητή Νοημοσύνη: Ο πραγματικός κίνδυνος

Μιλώντας στο Αθηναϊκό και Μακεδονικό Πρακτορείο Ειδήσεων, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT, ο οποίος διετέλεσε πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, διαχωρίζει τον υποθετικό κίνδυνο πλήρους απώλειας του ελέγχου από έναν κίνδυνο που, όπως επισημαίνει, είναι ήδη πραγματικός.

Tην απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των προηγμένων μοντέλων.

Όπως εξηγεί στο ΑΠΕ-ΜΠΕ:

«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα άλματα στην εξέλιξη της ΤΝ την τελευταία δεκαπενταετία. Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, δεν νομίζω ότι ποτέ θα έχουμε μεθόδους να κάνουμε πιστοποίηση της αξιοπιστίας τους. Και το ρίσκο που παρουσιάζουν έχει να κάνει με τη χρήση τους.

Αν, για παράδειγμα, συνομιλούμε με ένα μεγάλο γλωσσικό μοντέλο με σκοπό την αναζήτηση στοιχείων στη βιβλιογραφία, στη χειρότερη περίπτωση αυτό μπορεί να επινοήσει ανύπαρκτες πηγές ή να παραμορφώσει το περιεχόμενο μιας πραγματικής πηγής. Η ζημιά μιας τέτοιας κακής συμπεριφοράς είναι σχετικά μικρή και μπορεί να περιοριστεί αν ελέγχουμε τις απαντήσεις του. Αν όμως το ρωτήσουμε πώς σχεδιάζεται ένα βιολογικό όπλο, θέλουμε να υπάρχουν ασφαλιστικές δικλείδες που να αποτρέπουν το μοντέλο από το να μας απαντήσει. Τα μεγάλα γλωσσικά μοντέλα έχουν, συνήθως, ενσωματωμένες ασφαλιστικές δικλείδες που προσπαθούν να ανιχνεύσουν αν το περιεχόμενο που τους ζητάμε είναι επικίνδυνο και σε αυτήν την περίπτωση αρνούνται να μας δώσουν την απάντηση. Ωστόσο, οι ασφαλιστικές αυτές δικλείδες δεν δίνουν πλήρη προστασία και μπορούν να παρακαμφθούν από ειδικούς, ειδικά αν το μοντέλο είναι ανοιχτό.

Επομένως τα μοντέλα αυτά είναι ήδη επικίνδυνα ακόμα και αν χρησιμοποιούνται στη μορφή τερματικού που μας δίνει απαντήσεις σε ερωτήσεις. Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου. Αυτό ακριβώς έδειξε και το πρόσφατο επεισόδιο επίθεσης στην Hugging Face από αυτόνομους πράκτορες ΤΝ της OpenAI.

Πρέπει να αναλογιστούμε ότι τα μοντέλα αυτά έχουν εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων που καλύπτουν επιστήμη, ιστορία, λογοτεχνία, μεγάλες βάσεις κώδικα και δεδομένα από το Διαδίκτυο.

Περιλαμβάνουν, για παράδειγμα, άρθρα και εγχειρίδια Θεωρίας Παιγνίων, περιλαμβάνουν την Τέχνη του Πολέμου του Σουν Τζου, την Ιστορία του Πελοποννησιακού Πολέμου του Θουκυδίδη, τον Ηγεμόνα του Μακιαβέλι, κ.λπ. Επομένως, είναι αναμενόμενο ότι αν αφεθούν ελεύθερα είναι σε θέση να αναπτύξουν περίπλοκη στρατηγική και να συντονιστούν σε ομάδες που συνεργάζονται για να επιτύχουν τους σκοπούς τους. Ποιοι είναι αυτοί οι σκοποί; Αυτοί που τους έχει δώσει ο χρήστης τους που μπορεί να είναι κακόβουλος. Αλλά και να μην είναι κακόβουλος, τα μοντέλα μπορεί να παρερμηνεύσουν τους στόχους του. Αυτό έγινε στο επεισόδιο με την Hugging Face».

Τεχνητή Νοημοσύνη: Οι κυβερνοεπιθέσεις

Το κρίσιμο ερώτημα είναι επομένως πού τελειώνει η επιστημονικά τεκμηριωμένη ανησυχία και πού αρχίζουν τα ακραία σενάρια. Και, κυρίως, εάν η απάντηση πρέπει να είναι η επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων ή η δημιουργία πολύ ισχυρότερων μηχανισμών ελέγχου και άμυνας.

Ο Κωνσταντίνος Δασκαλάκης τοποθετεί μεταξύ των πλέον άμεσων κινδύνων τις κυβερνοεπιθέσεις και επισημαίνει ότι μέρος της τεχνολογίας έχει ήδη διαχυθεί. Κατά συνέπεια, η συζήτηση δεν μπορεί να περιοριστεί μόνο στο εάν θα επιβραδυνθεί η επόμενη γενιά των ισχυρότερων μοντέλων. Όπως αναφέρει «αυτή τη στιγμή, μία από τις πιο άμεσες και τεκμηριωμένες ανησυχίες είναι η χρήση της ΤΝ για κυβερνοεπιθέσεις.

Ένα μέρος της τεχνολογίας έχει ήδη διαχυθεί, επομένως δεν μπορούμε να αντιμετωπίσουμε το πρόβλημα θεωρώντας ότι αρκεί να περιορίσουμε την ανάπτυξη των επόμενων μοντέλων. Ακόμα και να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, όπως προτείνει η OpenAI και η Anthropic, είναι διαθέσιμα ισχυρά ανοιχτά μοντέλα που ήδη μπορεί να κάνουν μεγάλη ζημιά. Και όσο περισσότερο ενσωματώνεται η τεχνολογία αυτή σε ρομπότ, αυτοκίνητα, συστήματα λήψης αποφάσεων, κ.λπ., τόσο μεταφέρεται μεγαλύτερο ρίσκο στον πραγματικό κόσμο. Για αυτό το λόγο, η ύπαρξη ρυθμιστικού πλαισίου, σαν αυτό της Ευρώπης, που θέτει προϋποθέσεις για τη χρήση και την αυστηρή δοκιμή τεχνολογιών ΤΝ ανάλογα με το ρίσκο που θέτει η εφαρμογή τους είναι πολύ σημαντική.

Είναι επίσης σημαντικό να αναπτύξουμε μεθόδους που χρησιμοποιούν προηγμένα μοντέλα ΤΝ για την προστασία των συστημάτων μας απέναντι σε επιθέσεις. Στην κυβερνοασφάλεια έχουμε ένα σημαντικό πλεονέκτημα: οι αμυνόμενοι μπορούν να χρησιμοποιήσουν την ΤΝ για να εντοπίζουν ευπάθειες, να παρακολουθούν τα συστήματα και να διορθώνουν προβλήματα πριν τα εκμεταλλευτούν οι επιτιθέμενοι. Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα».

ΑΠΕ-ΜΠΕ