TEDxAthens: Μπορεί μια μηχανή να αποφασίσει για μια αποφυλάκιση;

Τη Δευτέρα 7 Οκτωβρίου, ερευνητές από το Κέντρο Γονιδιώματος της Κλινικής του Κλίβελαντ και την IBM ανακοίνωσαν πως χρησιμοποίησαν τεχνητή νοημοσύνη για να ανακαλύψουν νέα φάρμακα για τη διαχείριση του χρόνιου πόνου, φτάνοντας σε αισιόδοξα αποτελέσματα. Συγκεκριμένα, το σύστημα βαθιάς μάθησης εντόπισε πολλαπλούς μεταβολίτες που προέρχονται από το μικροβίωμα του εντέρου, καθώς και φάρμακα τα οποία έχει εγκρίνει η Υπηρεσία Τροφίμων και Φαρμάκων (FDA) των ΗΠΑ, τα οποία μπορούν να επαναχρησιμοποιηθούν για την ανάπτυξη μη εθιστικών, μη οπιοειδών επιλογών για τη θεραπεία του χρόνιου πόνου.

Σε αντιδιαστολή με το παραπάνω, ένα μήνα πριν ανακοινώθηκε πως ΗΠΑ, Βρετανία και ΕΕ αναμένεται να υπογράψουν την πρώτη νομικά δεσμευτική διεθνή συνθήκη για τη χρήση Τεχνητής Νοημοσύνης υπό τον φόβο κατάχρησης της AI, και με σκοπό τον σεβασμό των ανθρώπινων δικαιωμάτων, των αρχών της Δημοκρατίας και του κράτους Δικαίου.

Αυτή τη στιγμή Microsoft και Nvidia αποτελούν ηγέτιδες δυνάμεις στον κλάδο της Τεχνητής Νοημοσύνης (AI) με τις startups που δραστηριοποιούνται στον τομέα της τεχνητής νοημοσύνης να εξαρτώνται εν πολλοίς από τις λεγόμενες “Big tech”, ενώ οι εξαγορές και τα ολιγοπώλια διευρύνονται. Παράλληλα, οι αμερικανικές αρχές προχωρούν σε ζητήματα εποπτείας ως προς τις ολιγοπωλιακές πρακτικές, αλλά και έναντι των ζητημάτων ηθικής που αναμένεται να αναδυθούν από την ευρεία χρήση της AI. Η οποία όπως ήδη περιγράψαμε, έχει τόσο θετικές όσο και αρνητικές πτυχές.

Πρακτικά, ο άνθρωπος ήδη βρίσκεται μέσα σε μια νέα βιομηχανική επανάσταση όπου εκτός από τα έμβια όντα ρόλο παίζουν και οι μηχανές. Η χρήση των μηχανών και των αλγορίθμων έχει και κοινωνικές προεκτάσεις, σε τομείς όπως η εργασία και η απονομή Δικαιοσύνης, με τα ηθικά ερωτήματα που ανάγονται να είναι πολλαπλά και ριζικής ουσίας.

Την ώρα λοιπόν που η Τεχνητή Νοημοσύνη βρίσκει θετικές εφαρμογές σε τομείς όπως η επιστήμη και η Υγεία, υπάρχουν και άλλες πτυχές όπου τα πράγματα μπορούν να είναι ανησυχητικά, αν μείνουν σε μη ρυθμισμένο πλαίσιο. Για παράδειγμα, πόσο δυστοπικό θα φάνταζε να απονέμεται δικαιοσύνη μέσω ενός αλγορίθμου που “ζυγίζει” τις καταστάσεις, αντικαθιστώντας την έρευνα ενός ανθρώπινου νου;

AI και ηθικά όρια

Πάνω σε αυτά τα ερωτήματα τοποθετήθηκε ο John Tasioulas, καθηγητής Ηθικής και Νομικής Φιλοσοφίας και ιδρυτικός διευθυντής του Ινστιτούτου Ηθικής στην Τεχνητή Νοημοσύνη στο Πανεπιστήμιο της Οξφόρδης, μιλώντας στο TEDxAthens, το οποίο συμπλήρωσε 15 χρόνια ζωής. Ο καθηγητής της Οξφόρδης επιχείρησε να ρίξει φως σε τομείς όπως αυτούς της ηθικής, και της φιλοσοφίας της τεχνολογίας. Εν πολλοίς, η άκρως ενδιαφέρουσα ομιλία του κινήθηκε πάνω στο τι μας διδάσκει ο Αριστοτέλης, σε σχέση με τη χρήση της AI.

Κατά τον ίδιο, η αριστοτελική προσέγγιση στην ηθική, με προεξέχουσα την έννοια της ευδαιμονίας, έχει μεγάλες δυνατότητες να μας βοηθήσει να αντιμετωπίσουμε το επιτακτικό ερώτημα τι σημαίνει να είσαι άνθρωπος στην εποχή της τεχνητής νοημοσύνης.

Όπως είπε χαρακτηριστικά ο ίδιος, σύμφωνα με τον Αριστοτέλη “το ζήτημα είναι πώς πρέπει να ζούμε. Η ΑΙ κάνει πιο δύσκολη την απάντηση σε αυτή την ερώτηση. Διότι δημιουργεί νέα προβλήματα και απειλές”. Όπως ανέφερε, “η ΑΙ απειλεί το πώς αντιλαμβανόμαστε το ότι είμαστε άνθρωποι. Απειλεί εν μέρει να διαστρεβλώσει την κατανόησή μας για το τι είναι “ανθρώπινο”. Από την άλλη, όλες οι εταιρείες λένε πως αποσκοπούν στην εκμετάλλευση της ΑΙ για τη γενετική. Ωστόσο, ένα σύστημα AI βασίζεται στη στατιστική αναλογία δεδομένων. Αυτή η διαδικασία δεν αντιστοιχεί στον τρόπο που λειτουργεί ο άνθρωπος. Οι άνθρωποι καταλαβαίνουν, επειδή συμμετέχουν στην πραγματικότητα. Η ΑΙ μπορεί να κάνει λάθη, που ένας άνθρωπος δεν θα έκανε. Η βαθιά κατανόηση είναι ένα θέμα. Οι άνθρωποι έχουν τη λογική και την ορθολογική αυτονομία να επιλέξουν μια καριέρα. Η ΑΙ δεν μπορεί να το κάνει αυτό ή να το αντικαταστήσει”.

Όπως συμπλήρωσε στην ομιλία του, “η ανθρώπινη έκφραση, η επικοινωνία, η φιλία, η μάχη για δικαιοσύνη, η αίσθηση του δικαίου, αυτά δεν μπορούν να χαθούν. Υπάρχει κίνδυνος να φτωχύνει η δεοντολογία και η ηθική. Να οδηγηθούμε σε υπερκατανάλωση, έναντι της άσκησης των δικαιωμάτων μας. Υπάρχει και μια άλλη δεοντολογία η οποία αναφέρει ότι είναι σημαντικός ο διανθρωπισμός, που λέει ότι θα πρέπει να επιδιώξουμε να υπερβούμε τη ανθρώπινη υπόστασή μας. Ο Αριστοτέλης έλεγε πως “η ικανοποιητική ζωή είναι αυτή κατά την οποία ασκούμε τις δυνατότητες μας”. Αυτό δεν μπορεί να γίνει στον διανθρωπισμό”.

Μερικές φορές το ταξίδι είναι σημαντικότερο από τον προορισμό

Φέρνοντας ως παραδείγματα αρνητικές χρήσεις της ΑΙ, ο κ. Τασιούλας σημείωσε ακόμη: “Τα εργαλεία αξιολόγησης κινδύνου ήδη χρησιμοποιούνται στο αν πρέπει κάποιος να αποφυλακιστεί. Με εγγύηση ή να κρατείται. Αυτό όμως δεν μπορεί να προκύπτει από μια αντικειμενική απόφαση μιας μηχανής. Η απόφαση αποφυλάκισης δεν έχει να κάνει μόνο με το αν θα διαπράξει κανείς ξανά έγκλημα, ή πόσο κοστοβόρα είναι η κράτησή του. Είναι πολυπαραγοντική. Δεν υπάρχει μια σωστή απόφαση. Η ανησυχία είναι πως με την ΑΙ, αντί να λύσουμε τα προβλήματα μας, ενδέχεται να αλλάξουμε τη φύση των προβλημάτων μας”.

“Άλλη απειλή είναι πως αυτά τα ΑΙ συστήματα θα παράγουν αποτελέσματα πιο γρήγορα από τον άνθρωπο στη υγεία και την εργασία. Όμως αυτή η διαδικασία αγνοεί τις αξίες της διαδικασίας και της αξιολόγησης. Αυτό που έλεγε ο Καβάφης πως σημασία έχει το ταξίδι. Και ο Καζαντζάκης εκεί εστίαζε. Μερικές φορές το ταξίδι είναι σημαντικότερο από τον προορισμό”.

Δίνοντας άλλο παράδειγμα για τη χρήση AI που θα θύμιζε επεισόδιο… Black Mirror, ο κ. Τασιούλας ανέφερε: “Στο να τελειώσουμε μια ερωτική, συζυγική σχέση, το κάνουμε βάσει προσωπικής επιλογής και αξίας. Όχι βάσει επεξεργασίας δεδομένων ενός αλγορίθμου. Το ίδιο ισχύει και στην εργασία μας. Αυτές τις αξίες που προκύπτουν από την επεξεργασία με την ανθρώπινη λογική δεν μπορεί να τις αντικαταστήσει το ΑΙ”.

“Η ΑΙ θα έχει τρομερές συνέπειες αν της δώσουμε δικαίωμα να αναλάβει την ευθύνη”

Επανερχόμενος στην ανησυχία ως προς την απονομή Δικαιοσύνης, είπε: “Στις δικαστικές αποφάσεις υπάρχει το ίδιο. Το LEX Machina για παράδειγμα, που προβλέπει αποτελέσματα υποθέσεων. Δεν εξετάζει τον νόμο, αλλά το πόσα χρήματα διακυβεύονται, ποιος δικηγόρος και δικαστής ανέλαβε μια υπόθεση, κλπ. Η προσέγγιση είναι λάθος. Ακόμη κι αν το αποτέλεσμα είναι σωστό. Οι δικαστές πρέπει να παίρνουν την ευθύνη που έχει τεράστιο αντίκτυπο σε μια ανθρώπινη ζωή. Στην ΑΙ δεν υπάρχει ορθολογική αυτονομία. Ανθρώπινη τάση είναι να αποφύγουμε την ευθύνη. Η ΑΙ θα έχει τρομερές συνέπειες αν της δώσουμε δικαίωμα να αναλάβει την ευθύνη.

Απέναντι όμως σε όλα αυτά, τι πρέπει να κάνουμε; “Υπάρχουν και λύσεις. Δεν υπάρχει όμως μια απλή λύση. Η απάντηση βρίσκεται στη Δημοκρατία. Η ιστορία δείχνει πως η Δημοκρατία είναι το καλύτερο σύστημα για να παράξει τις καλύτερες λύσεις. Όλα πρέπει να υπόκεινται σε αυστηρό δημοκρατικό έλεγχο”, υπογράμμισε ο κ. Τασιούλας.

“Ζούμε σε μια εποχή κρίσης Δημοκρατίας. Αυτό είναι επικίνδυνο. Έχουμε άνοδο του τεχνοκρατισμού και των τεχνοκρατών”, είπε, για να αναφέρει ωστόσο:

“Υπάρχουν και θετικές πλευρές. Να χρησιμοποιήσουμε την ΑΙ στην τεχνολογία για να ενισχύσουμε τη συμμετοχή στη Δημοκρατία. Σε ψηφιακά debate, σε προτάσεις, σε συμμετοχικότητα. Στη Ταϊβάν ένα κίνημα έγινε κυβέρνηση. Χρησιμοποίησε μια πλατφόρμα που επέτρεπε στους πολίτες να ανταλλάξουν απόψεις για τις κρατικές επιλογές”.

“Πρέπει να σκεφτούμε τις πιο βαθιές αξίες μας για να προχωρήσουμε στα επόμενα βήματα του μέλλοντος και να τα ενσωματώσουμε σωστά στη ζωή μας”, κατέληξε ο κ. Τασιούλας.

Περισσότερα για το έργο του κ. Τασιούλα μπορείτε να βρείτε εδώ

* Ο John Tasioulas έχει διατελέσει σύμβουλος σε ζητήματα ανθρωπίνων δικαιωμάτων στην Παγκόσμια Τράπεζα και μέλος της Διεθνούς Συμβουλευτικής Επιτροπής για το Μέλλον της Επιστήμης και της Τεχνολογίας στο Ευρωπαϊκό Κοινοβούλιο. Με το έργο του ενισχύει την κατανόηση των ηθικών διαστάσεων της τεχνητής νοημοσύνης, προσφέροντας βαθιά κατανόηση των επιπτώσεων της τεχνολογίας στη σύγχρονη κοινωνία.