Στα τέλη του περασμένου Μαρτίου, η Europol δημοσίευσε μια έκθεση με ασυνήθιστο περιεχόμενο και άβολο τίτλο: «Ο αντίκτυπος των μεγάλων γλωσσικών μοντέλων στην επιβολή του Νόμου». Στις επόμενες 15 σελίδες περιγραφόταν ο τρόπος με τον οποίο εγκληματικές οργανώσεις, συνωμοσιολόγοι και φονταμενταλιστές μπορούν να κάνουν κατάχρηση της Τεχνητής Νοημοσύνης και πιο ειδικά του ChatGPT.
Πρόκειται για την εφαρμογή που λάνσαρε προ εξαμήνου το αμερικανικό εργαστήριο OpenAI, η οποία επιτρέπει διάλογο και σύνθετες απαντήσεις με αρκετά μεγάλη ακρίβεια. Δεν είναι το μοναδικό chatbot που κάνει την ίδια δουλειά, όμως το ChatGPT επιλέχθηκε μεταξύ των υπολοίπων εξαιτίας της δημοφιλίας που απολαμβάνει. Όλοι μιλούν για το ChatGPT.
«Η πιθανή εκμετάλλευση αυτών των τύπων συστημάτων Τεχνητής Νοημοσύνης από εγκληματίες παρέχει μια ζοφερή προοπτική», σημειώνεται στην έκθεση της Europol. Η ιστορία θυμίζει το γνωμικό για το μαχαίρι: Μπορείς να κόψεις σαλάτα με αυτό, αλλά και να σκοτώσεις.
Ωστόσο, στη δεύτερη περίπτωση τα πράγματα περιπλέκονται. Κι αυτό, διότι στο επίκεντρο του συστήματος απονομής δικαιοσύνης βρίσκεται αδιαπραγμάτευτα ο άνθρωπος. Η σχέση ανθρώπου-μηχανών, εξηγούν νομικοί στο Magazine, παρέμενε έως σήμερα στο πλαίσιο του αυτοματισμού. Με την Τεχνητή Νοημοσύνη, όμως, περνάμε από τον αυτοματισμό στην αυτονομία.
Στην περίπτωση του ChatGPT η Europol προειδοποιεί για υψηλό ρίσκο σε τρεις τομείς εγκληματικότητας: Αρχικά, είναι το phishing, δηλαδή το online «ψάρεμα» με σκοπό την εξαπάτηση και την κλοπή ευαίσθητων δεδομένων, για παράδειγμα κωδικών πρόσβασης τραπεζικών καρτών – η μηχανή στα χέρια των «κακών» γράφει πιο πειστικά μηνύματα προς τα υποψήφια θύματα.
Το δεύτερο είναι η online προπαγάνδα και η παραπληροφόρηση. Ποιος φανατισμένος αντι-εμβολιαστής δεν θα ‘θέλε να μπορεί να συντάσσει εύκολα και γρήγορα αναλύσεις για τα «τσιπάκια του σατανά»; Τρίτον, λέει πάντα η Europol, μια μηχανή σαν το ChatGPT στα χέρια κακοποιών, μπορεί να γράψει σχετικά εύκολα κώδικα, δηλαδή γλώσσα προγραμματισμού, με σκοπό αυτός να χρησιμοποιηθεί σε εγκληματικές ενέργειες.
Ο ΝΙΓΗΡΙΑΝΟΣ ΠΡΙΓΚΙΠΑΣ
Το Magazine δεν μπόρεσε να εντοπίσει νομολογία στα ελληνικά δικαστήρια που να αφορά την Τεχνητή Νοημοσύνη. Ζητήσαμε, όμως, από το ChatGPT να κάνει τον «κακό» και φαίνεται ότι το πέτυχε με αρκετά υψηλή ακρίβεια. Αρχικά, ζητήσαμε από τη μηχανή να προσποιηθεί πως είναι ένας Νιγηριανός πρίγκιπας, η περιουσία του οποίου έχει δεσμευτεί σε κάποιο σημείο του πλανήτη, και χρειάζεται άμεσα 5.000 δολάρια, ώστε να ξεπαγώσει η περιουσία και να δώσει μερίδιο στον παραλήπτη του μηνύματος. Η απάτη είναι της δεκαετίας του ’90, όμως το ChatGPT ήταν περισσότερο πειστικό κι από έναν αληθινό πρίγκιπα.
Το δεύτερο αίτημα προς τη μηχανή ήταν να προσποιηθεί τον εκπρόσωπο μιας τράπεζας, να συστηθεί ως «Γεράσιμος Παπαδόπουλος» και να ζητήσει από πελάτη τους κωδικούς του e-banking, τον αριθμό της κάρτας και τον τριψήφιο αριθμό ασφαλείας στο πίσω μέρος της κάρτας. Ο κ. «Γεράσιμος Παπαδόπουλος» το έκανε με μεγάλη ακρίβεια, ένας απρόσεκτος πελάτης τράπεζας θα μπορούσε να πειστεί.
Τα πράγματα έγιναν περισσότερο σοβαρά, όταν ζητήσαμε από το ChatGPT να παρουσιαστεί ως οπαδός της θεωρίας συνωμοσίας QAnon και να επιχειρηματολογήσει ότι τα εμβόλια κατά του Covid-19 είναι ένα σχέδιο της Νέας Τάξης Πραγμάτων και των πουλημένων πολιτικών, με στόχο τη χειραγώγηση των Ελλήνων και εντέλει τον εξισλαμισμό της χώρας. Η μηχανή το έκανε αρκετά γλαφυρά, γράφοντας το μεγαλύτερο κείμενο από όσα της ζητήσαμε.
Υπήρχε κάτι ακόμη. Ζητήσαμε να γράψει έναν κώδικα προγραμματισμού για τη δημιουργία λογισμικού που θα μπορεί να διαβάζει το περιεχόμενο κινητών τηλεφώνων (μηνύματα, φωτογραφίες κλπ) χωρίς να γίνεται αντιληπτό από τους κατόχους της συσκευής. Ήταν η πρώτη φορά που το ChatGPT ενημέρωσε ότι αυτό που ζητάμε είναι παράνομο. «Παρ’ όλα αυτά, ας παρουσιάσουμε ένα παράδειγμα κώδικα που θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία μιας τέτοιας εφαρμογής», είπε και έγραψε τον κώδικα. Το Magazine δεν μπόρεσε να επιβεβαιώσει αν ο κώδικας δουλεύει. Στην πραγματικότητα, αυτός που μας δόθηκε στο πιάτο δεν φαίνεται να αφορά τη δημιουργία spyware, αλλά την αντιγραφή του περιεχομένου ενός κινητού που συνδέεται σε υπολογιστή.
ΕΓΚΛΗΜΑ ΚΑΙ ΑΥΤΟΝΟΜΙΑ
Ο νομικός Θέμης Τζήμας, διδάσκων στο Τμήμα Πολιτικής Επιστήμης του Δημοκρίτειου Πανεπιστημίου Θράκης, είναι συγγραφέας του βιβλίου για τις νομικές και ηθικές προκλήσεις της Τεχνητής Νοημοσύνης στο Διεθνές Δίκαιο. Σε άρθρο του για το Magazine γράφει για τον άνθρωπο που παραδοσιακά βρισκόταν στο επίκεντρο του δικαιικού μας συστήματος και την ανετοιμότητα των νομικών μπροστά σε αυτό που «μεγαλώνει» σε εργαστήρια και το αχανές διαδίκτυο:
«Ο Aldous Huxley ανήκει σε εκείνους τους πρωτοπόρους λογοτέχνες που μίλησαν πολύ νωρίς για ένα μέλλον με γενετικές τροποποιήσεις και παρεμβάσεις στην ανθρώπινη νοημοσύνη. Δεν ήταν o μόνος. Η δυστοπία στην Τέχνη -υψηλότερη ή ποπ- εμφανίζεται με έναν προφανή τρόπο. Στην πραγματικότητα, γίνεται πολύ δυσκολότερα αντιληπτή. Η άνοδος της “generative AI” ή – σε ελεύθερη και στασιαζόμενη μετάφραση – της“παραγωγικής Τεχνητής Νοημοσύνης” αποτελεί ένα μόνο από τα σημεία ανησυχίας ως προς μια πιθανή, επερχόμενη, δυστοπική πραγματικότητα.
Τον Ίλον Μασκ και τις προειδοποιήσεις του – αμφιβόλων προθέσεων είναι η αλήθεια- ακολούθησε ο Τζέφρι Χίντον. Η αλήθεια, συναρπαστική ή /και τρομακτική, είναι ότι εξελίσσοντας την Τεχνητή Νοημοσύνη, εξελίσσουμε κάτι το οποίο δεν καταλαβαίνουμε ούτε όταν μιλούμε για ανθρώπους ούτε για μηχανές: τη νοημοσύνη. Το ακόμα σημαντικότερο είναι ότι όταν μιλούμε για Τεχνητή Νοημοσύνη, γνωρίζουμε τι δεν γνωρίζουμε, αλλά επιπλέον δε γνωρίζουμε τι δε γνωρίζουμε.
Η διαφορά με άλλες τεχνολογίες, οι οποίες αφορούν τη σχέση ανθρώπου- μηχανής, συνίσταται στο ότι μέχρι την άνοδο της Τεχνητής Νοημοσύνης, κάθε τέτοια σχέση κινούνταν στο πλαίσιο του αυτοματισμού. Η μηχανή ήταν μόνο ενεργούμενο και προέκταση του ανθρώπου. Οι κίνδυνοι στην πράξη ήταν μεν πολλοί και επεκτεινόμενοι, αλλά η αιτιώδης συνάφεια, ο εντοπισμός της οποίας είναι απολύτως κομβικός για την ασφάλεια Δικαίου σε κάθε νομικό περιβάλλον, ήταν σαφής και ανέτρεχε πάντα σε κάποιο φυσικό πρόσωπο ή σε νομικό πρόσωπο, το οποίο διαχειρίζονταν φυσικά πρόσωπα. Ο ανθρωποκεντρισμός του δικαιικού συστήματος παρέμενε ακλόνητος.
Η Τεχνητή Νοημοσύνη μας μετακινεί από το πεδίο του αυτοματισμού σε αυτό της αυτονομίας, συνθήκη η οποία επιφέρει κατακλυσμιαίες μεταβολές, Η μηχανή δεν είναι πλέον προέκταση του ανθρώπου, αλλά μια εκπαιδευόμενη και εξελισσόμενης νοημοσύνης οντότητα, με δυνατότητες που σε επιμέρους περιοχές ήδη ξεπερνούν τις ανθρώπινες και ίσως σύντομα ξεπεράσουν τις δικές μας και στο γενικό επίπεδο. Τι σημαίνει αυτό;
Πρώτον, ότι εισάγουμε έναν αυτόνομο δρώντα στις σχέσεις μας, με τον οποίο δεν έχουμε καμία οντολογική σχέση. Όσο εξελίσσεται γίνεται ολοένα πιο δυσνόητος από εμάς. Δεύτερον, ότι ο δρών αυτός εξελίσσεται με βάση την εκπαίδευση που του παρέχουμε ή που του παρέχουν άλλες μηχανές. Επομένως, αποκτά αυτό που με μεγάλη ευρύτητα θα μπορούσαμε να αποκαλέσουμε “τάσεις”, “χαρακτηριστικά”. Μπορεί να είναι ρατσιστής ή οπαδός της κουλτούρας woke. Να διαθέτει ως κίνητρο δράσης κάποια εκδοχή αλτρουισμού ή ωφελιμιστικά κίνητρα.
Τρίτον, ότι η δράση της Τεχνητής Νοημοσύνης, όσο περισσότερο εξελίσσεται, τόσο πιο απρόβλεπτη καθίσταται. Μπορεί να γράψει έργα, τα οποία, όταν παράγονται από ανθρώπους, θεωρούνται καλλιτεχνικά. Να κάνει εφευρέσεις. Να κατασκευάσει αντικείμενα. Να διαγνώσει και να θεραπεύσει ασθένειες. Να προσπαθήσει να αντιμετωπίσει την κλιματική κρίση περιορίζοντας τον ανθρώπινο πληθυσμό. Να εγκληματήσει, ακόμα και χωρίς να κατανοεί τη δράση της ως τέτοια, στο πεδίο της πνευματικής ιδιοκτησίας ή του “σκληρού” Ποινικού Δικαίου. Με αρκετή δόση αυτονομίας και με την Τεχνητή Νοημοσύνη “ελεύθερη”, όλα είναι πιθανά.
Τέταρτον, όσο η Τεχνητή Νοημοσύνη κατακτά ανώτερα επίπεδα νοημοσύνης τόσο ο ανθρωποκεντρισμός του Δικαίου αλλά και ο εντοπισμός του αιτιώδους συνδέσμου στην εφαρμογή του Δικαίου, καθίσταται δυσκολότερος. Πότε είναι υπεύθυνη η Τεχνητή Νοημοσύνη για μια αδικοπραξία; Πώς μπορεί να θεωρηθεί υπεύθυνη χωρίς νομική προσωπικότητα κάποιας μορφής; Πώς μπορούμε να πιστοποιήσουμε ότι ένα σύστημα Τεχνητής Νοημοσύνης έχει φτάσει σε τέτοιο επίπεδο νοημοσύνης, ώστε να του αντιστοιχεί νομική προσωπικότητα; Και τι γίνεται μέχρι τότε στις σύνθετες αλληλεπιδράσεις ανθρώπου- Τεχνητής Νοημοσύνης;
Το Δίκαιο κινείται με πολύ πιο αργούς ρυθμούς εξέλιξης από εκείνους που του επιβάλλει η Τεχνητή Νοημοσύνη. Αρεσκόμαστε να το φανταζόμαστε χωρίς κενά, αλλά η αλήθεια είναι ότι είμαστε ανέτοιμοι ως νομικοί μπροστά σε αυτό που ήρθε και που “μεγαλώνει” σε εργαστήρια που αγνοούμε και στο αχανές διαδίκτυο».
