Του Γιάννη Αγγελάκη – πρώτη δημοσίευση huffingtonpost.gr
Είναι γεγονός ότι ακόμη και σήμερα υπάρχουν ειδικοί που επαναλαμβάνουν ότι κάποιες ικανότητες των ανθρώπων θα μείνουν «για πάντα» πέρα από τις δυνατότητες των μηχανών. Αλλά το «για πάντα», πολλές φορές, δε σημαίνει τίποτα παραπάνω παρά μονάχα κάποιες δεκαετίες.
Μέχρι πρόσφατα, η ικανότητα αναγνώρισης προσώπων θεωρούνταν μία απολύτως ανθρώπινη ικανότητα πέρα από τις δυνατότητες ακόμη και των πιο ισχυρών υπολογιστικών συστημάτων. Σήμερα, λίγα μόλις χρόνια μετά, οι υπολογιστές αναγνωρίζουν πρόσωπα πολύ πιο αποτελεσματικά και γρήγορα από τον οποιονδήποτε άνθρωπο.
Το 2004, ο καθηγητής Frank Levy του ΜΙΤ και ο καθηγητής Richard Murnane από το Χάρβαρντ δημοσίευσαν μία έρευνα για το μέλλον της αγοράς εργασίας, παραθέτοντας αυτά τα επαγγέλματα που θεωρούσαν ότι τα επόμενα χρόνια θα αντιμετωπίσουν τον κίνδυνο της εξαφάνισης λόγω του αυτοματισμού. Ο οδηγός φορτηγού ήταν ένα επάγγελμα που χαρακτήρισαν απίθανη την αυτοματοποίησή του. Μόλις 10 χρόνια μετά, η Google, η Ford, η Nissan, η Baidu, η Waymo και η Tesla προχωρούν στη δημιουργία των αυτόνομων οχημάτων με το επάγγελμα του οδηγού φορτηγού να προβλέπεται ότι θα έχει εξαφανιστεί μέσα στα επόμενα χρόνια. [80, 81]
Τα μόνα επαγγέλματα στα οποία η διείσδυση των νέων τεχνολογιών παραμένει σχετικά χαμηλή, είναι χαμηλόμισθα επαγγέλματα που βασίζονται σε ικανότητες όπως η κινητικότητα και η αντίληψη, όπως αυτό του σερβιτόρου, για τα οποία το κόστος αυτοματοποίησης τους θεωρείται ακόμη μεγάλο. Όμως, αν το κόστος εφαρμογής της τεχνολογίας μειωθεί και εκεί θα υπάρξει διείσδυση.
Η αλήθεια είναι ότι εξοικειωνόμαστε με τις μηχανές και μαθαίνουμε να επιζητούμε την ψυχρή αποτελεσματικότητά τους.
Σε πρόσφατη έρευνα της WorldPay που έγινε στη Μεγάλη Βρετανία, τα 2/3 των βρετανών μεταξύ 21 και 34 ετών δήλωσαν ότι θα προτιμούσαν να πληρώνουν το λογαριασμό μέσω μίας μηχανής παρά σε έναν σερβιτόρο. Σύμφωνα με την έρευνα, υπάρχει προοπτική ώστε περισσότερα εστιατόρια και καφετέριες να ακολουθήσουν το δρόμο των σούπερ μάρκετ που όλο και σε μεγαλύτερη συχνότητα αντικαθιστούν τους υπάλληλους με μηχανήματα αυτό-εξυπηρέτησης. [82]
Περισσότερο ασφαλή θεωρούνται επαγγέλματα στα οποία σημαντικό ρόλο παίζει η δημιουργικότητα και η περιέργεια, δηλαδή, η ικανότητα του ανθρώπου να ανταπεξέρχεται σε καινούργιες καταστάσεις και να εφευρίσκει λύσεις.
Ο κυρίαρχος περιορισμός της τεχνολογίας του «machine learning» είναι ότι για να μάθει η μηχανή στηρίζεται σε ένα όγκο δεδομένων που ήδη υπάρχει. Σήμερα, υπάρχει διαθέσιμος ένας απίστευτα μεγάλος αριθμός πληροφοριών και δεδομένων που διαρκώς αυξάνεται μέσω των δυνατοτήτων καταγραφής δεδομένων που δίνει η τεχνολογία. Όμως η απόκτηση αυτών των ”Μεγάλων Δεδομένων” είναι συνήθως μια πολύ ακριβή υπόθεση, ενώ αρκετές φορές είναι υπερβολικά αναξιόπιστα ή απλά μη προσβάσιμα.
Οι άνθρωποι για να δημιουργήσουν, δε χρειάζονται πρόσβαση σε κάποια βάση δεδομένων. Οι άνθρωποι έχουν την ικανότητα να συνδέουν φαινομενικά ασύνδετα στοιχεία για να λύνουν προβλήματα τα οποία δεν έχουν ξαναεμφανιστεί, ή για να διαμορφώνουν νέες καταστάσεις, ή για να δημιουργούν τέχνη. Είναι μία ιδιότητα που μέχρι τώρα οι μηχανές δεν έχουν αναπτύξει. Αντιμετωπίζεται όμως από τους ερευνητές ως ένα πρόβλημα που πρέπει να ξεπεραστεί. Και ήδη γίνονται σημαντικά βήματα προς αυτή την κατεύθυνση.
Ένα τέτοιο βήμα έγινε με τη δημιουργία του αλγόριθμου AlphaGo Zero από την εταιρεία DeepMind.
Το ερώτημα που έθεσαν οι ερευνητές ήταν: Τι θα γινόταν αν δε χρειαζόμασταν καθαρά δεδομένα ή ανθρώπινη γνώση για να μάθει η μηχανή αλλά απλά εμπειρία και η τεχνητή νοημοσύνη μπορούσε να εκπαιδεύσει τον εαυτό της ώστε να την αποκτά;
«Ακόμα και όταν υπάρχουν αξιόπιστες βάσεις δεδομένων, τοποθετούν ένα ταβάνι στην απόδοση των συστημάτων που εκπαιδεύονται χρησιμοποιώντας αυτό τον τρόπο, λόγω των περιορισμένων ανθρώπινων δυνατοτήτων. Αντιθέτως, αν εκπαιδεύονται από την ίδια τους την εμπειρία, τους δίνεται η δυνατότητα να ξεπεράσουν τις ανθρώπινες ικανότητες, και να λειτουργήσουν σε ένα επίπεδο που η ανθρώπινη εξειδίκευση δε θα μπορέσει ποτέ να φτάσει», αναφέρουν οι επιστήμονες της DeepMind για τις δυνατότητες που προσφέρει η νέα προσέγγιση.
Προηγούμενες εκδόσεις του ίδιου προγράμματος μελέτησαν χιλιάδες παιχνίδια επαγγελματιών παικτών, για να εκπαιδευτούν στο αρχαίο παιχνίδι στρατηγικής Go. Το Alpha Go Zero καταργεί αυτό το βήμα και μαθαίνει παίζοντας παιχνίδια ενάντια στον καλύτερο αντίπαλο που μπορεί να αντιμετωπίσει, δηλαδή, τον εαυτό του. Μέσα από αυτή τη διαδικασία, μέσα μόλις σε λίγες μέρες, νίκησε 100 φορές δίχως να χάσει ούτε μία την προηγούμενη έκδοση του αλγόριθμου που είχε εκπαιδευθεί μελετώντας ανθρώπινα δεδομένα. Πρόκειται για την ίδια έκδοση που είχε νικήσει άνετα τον παγκόσμιο πρωταθλητή Go.
Καθώς παίζει, το σύστημα αποκτά εμπειρία και γνώση, συντονίζεται και ανανεώνεται ώστε να βελτιώνει διαρκώς την αποδοτικότητά του. Η διαδικασία επαναλαμβάνεται δημιουργώντας όλο και πιο ισχυρές νέες εκδόσεις του αλγόριθμου. Χαρακτηριστικό είναι ότι μέσα σε λίγες μόλις ημέρες ο νέος αλγόριθμος, δίχως ανθρώπινη παρέμβαση ή τροφοδότηση με δεδομένα που βασίζονται στην ανθρώπινη γνώση, κατόρθωσε να δημιουργήσει νέα γνώση, διαμορφώνοντας νέες στρατηγικές που δεν είχαν ξαναεμφανιστεί ποτέ στα 3.000 χρόνια ανθρώπινης ιστορίας του παιχνιδιού Go. [83, 84, 85]
Το πιο σημαντικό όμως είναι το εξής συμπέρασμα των ερευνητών:
«Αν μπορείς να δημιουργήσεις γνώση από το τίποτα, από έναν λευκό πίνακα, έχεις έναν παράγοντα που μπορεί να μεταφέρεις από το παιχνίδι του Go σε οποιονδήποτε άλλο ανθρώπινο τομέα ή δραστηριότητα» [86]
Η μηχανή που μαθαίνει για τον Άνθρωπο: Από τα ανθρώπινα συναισθήματα στους υπολογισμούς των έξυπνων αλγόριθμων;
Και στον τομέα της δημιουργίας τέχνης γίνονται σημαντικά βήματα. Ένα τέτοιο παράδειγμα είναι το Artificial Intelligence Visual Artist (AIVA), ένα πείραμα πάνω στη μουσική δημιουργία.
Αν και το πρόγραμμα δεν είναι ικανό να μάθει και να δημιουργήσει μόνο του νέα μουσική, χρησιμοποιώντας μία τεράστια βάση δεδομένων από το έργο ανθρώπων δημιουργών, η μηχανή μαθαίνει και συνθέτει καινούργια μουσική.
Ο αλγόριθμος Artificial Intelligence Visual Artist έχει ήδη κυκλοφορήσει έναν δίσκο κλασσικής μουσικής με την επωνυμία «Genesis» ενώ έγινε η πρώτη μηχανή τεχνητής νοημοσύνης που απέκτησε τον τίτλο του «συνθέτη». Το έργο που δημιούργησε καταγράφηκε στην Κοινότητα Πνευματικών Δικαιωμάτων της Γαλλίας και του Λουξεμβούργου. [87, 88]
Το αποτέλεσμα δεν είναι καθόλου άσχημο:
Και δεν είναι η μοναδική προσπάθεια σε αυτό τον τομέα. [89, 90]
Υπάρχουν και άλλοι τομείς που σχετίζονται με την τέχνη όπου η τεχνητή νοημοσύνη κάνει την εμφάνισή της.
Τον Απρίλη του 2017 μία νουβέλα που δημιουργήθηκε από μηχανή τεχνητής νοημοσύνης με τον τίτλο «Η Μέρα που ένας Υπολογιστής έγραψε μία Νουβέλα» ήταν υποψήφιο για το λογοτεχνικό βραβείο Hoshi Shinichi στην Ιαπωνία. Οι κριτές όταν πήραν την απόφαση για να το θέσουν ως υποψήφιο για βραβείο, δε γνώριζαν ότι γράφτηκε από μηχανή τεχνητής νοημοσύνης. [91]
Πρόσφατα δημιουργήθηκε το πρώτο (κακό) σενάριο για μεγάλου μήκους ταινία σε συνεργασία με πρόγραμμα τεχνητής νοημοσύνης. Πρόκειται για το θρίλερ “Impossible Things”.
Η τεχνολογία ήδη εφαρμόζεται σε πολλούς τομείς της παραγωγής ενώ έχει ξεκινήσει η συζήτηση για τις δυνατότητες που δίνει η τεχνολογία για τη δημιουργία τεχνητών χαρακτήρων σε ταινίες[92, 93]
Όλες βεβαίως αυτές οι προσπάθειες είναι μερικές και σίγουρα απέχουν πολύ από το να χαρακτηριστούν σημαντική τέχνη, αλλά πραγματικά, πόσο μακρυά είναι μία τέτοια πραγματικότητα;
Ήδη, και χωρίς τη χρησιμοποίηση αλγόριθμων επόμενης γενιάς, όπως ο AlphaGo Zero, αυτό που προκύπτει είναι ότι μέσω μίας διαδικασίας μάθησης οι μηχανές μπορούν να κωδικοποιήσουν το ανθρώπινο συναίσθημα, να βρουν μοτίβα, να τυποποιήσουν και να παράγουν ακόμη και κάτι που θεωρούμε ολότελα ανθρώπινο, δηλαδή, την ικανότητα να δημιουργούμε τέχνη.
Για πρώτη φορά στην ιστορία της ανθρωπότητας, βρισκόμαστε κοντά στο να δημιουργηθεί πραγματική τέχνη για ανθρώπους που δε θα δημιουργείται από ανθρώπους αλλά εξ ολοκλήρου από μηχανές.
Άραγε στο μέλλον θα υπάρχουν ρομπότ που θα νοιώθουν ή θα προσομοιώνουν το αίσθημα της εμπάθειας; Μηχανές νοσοκόμοι που θα προσφέρουν την κατάλληλη συναισθηματική υποστήριξη στους ασθενείς και θα τους κάνουν να αισθάνονται καλύτερα; Ρομπότ κωμικοί ή ρομπότ που θα γνωρίζουν ποιος είναι ο πιο αποδοτικός τρόπος για να χαρίσουν χαρά ή ευχαρίστηση; Μηχανές που θα εφευρίσκουν εξατομικευμένους νέους τρόπους για να συγκινήσουν τον άνθρωπο, ανάλογα με την προσωπικότητα, τις πολιτισμικές καταβολές και τις προσωπικές εμπειρίες; Θα υπάρχουν ρομπότ ή τεχνολογίες που θα καλύπτουν την σεξουαλική ανάγκη;
Θα μπορεί η ανάγκη για αγάπη να μετατραπεί σε ένα μαζικό προϊόν υψηλής τεχνολογίας το οποίο θα διαφημίζεται στους τοίχους της μοναχικής μεγαλούπολης για να το προμηθευτεί ο καθένας με το κατάλληλο αντίτιμο; Θα είναι αυτή η τεχνητή αγάπη αληθινή; Αν ο άνθρωπος την αισθάνεται ως αληθινή, αν το συναισθηματικό δέσιμο είναι αληθινό, θα έχει σημασία αν είναι τεχνητή; Και γιατί μετά κάποιος να προτιμήσει την ατελή ανθρώπινη αγάπη, μια αγάπη που δεν έχει εγγυήσεις για την ασφάλειά της, που έχει κινδύνους και μπορεί να πληγώσει; Μπορεί ο τέλειος έρωτας από μία σπάνια πιθανότητα που στο πέρασμα των αιώνων εμπνέει ποιητές και συγγραφείς, να μετατραπεί σε ένα προϊόν που θα προσαρμόζεται στις ανάγκες του καταναλωτή; Θα ανήκει σε κάποια εταιρεία που θα έχει τον έλεγχό ή θα είναι ένα βασικό ανθρώπινο δικαίωμα ελεύθερο προς χρήση για όλους; Θα έχει διακόπτη on /off; [94, 95]
O ιστορικός Yuhal Harari πιστεύει ότι είμαστε ακόμα στην αρχή. Περιγράφει μία πραγματικότητα όπου η μηχανή ενώνεται με τον άνθρωπο για να τον κατανοήσει.
Συσκευές όπως το Kindle της Amazon μπορούν να συλλέγουν διαρκώς στοιχεία από τους χρήστες καθώς διαβάζουν βιβλία.
Το Kindle παρακολουθεί και αναγνωρίζει ποια τμήματα του βιβλίου ο χρήστης διάβασε πιο γρήγορα, σε ποια σελίδα έκανε ένα διάλειμμα, και σε ποια φράση παραίτησε το βιβλίο.
Στο μέλλον η συσκευή θα μπορεί να σκανάρει το πρόσωπο για συναισθήματα και να συλλέγει βιομετρικούς δείκτες. Έτσι, το μηχάνημα θα ξέρει πιο καλά και από τον ίδιο τον αναγνώστη τι του προκάλεσε γέλιο, τι τον έκανε να λυπηθεί, τι τον έκανε να θυμώσει. Σύντομα, τα βιβλία θα διαβάζουν τον αναγνώστη όπως ο αναγνώστης διαβάζει το βιβλίο.
Όμως, ενώ ο αναγνώστης θα ξεχάσει αυτό που έχει διαβάσει, η μηχανή δε θα ξεχάσει ποτέ. Όλη η εμπειρία θα έχει μετατραπεί σε υπολογίσιμα δεδομένα τα οποία θα χρησιμοποιούνται για να του προτείνει τα βιβλία που πραγματικά ταιριάζουν περισσότερο σε αυτό που είναι.
Σε μία μεγαλύτερη κλίμακα όμως, η πανίσχυρη εταιρεία Amazon θα έχει αποκτήσει ένα μεγάλο όγκο δεδομένων που θα προσφέρουν αληθινή γνώση γύρω από του τι προκαλεί τι είδους συναίσθημα, σε ποιον τύπο ανθρώπων και με ποιο τρόπο. Με την κατάλληλη ερμηνεία και χρήση, η γνώση αυτή γύρω από τη συμπεριφορά του ανθρώπου θα είναι δύναμη που θα της ανήκει και θα την χρησιμοποιήσει. [96]
Ο καθηγητής ιστορίας πάει ένα βήμα παραπέρα. Λέει πως στο μέλλον αυτό το μοντέλο λειτουργίας θα εφαρμόζεται παντού και θα καθορίζει ακόμη και πολύ σημαντικές πτυχές της ζωής μας, όπως, ποιον θα παντρευτούμε.
Σύμφωνα με τον Harari, αν στο μεσαίωνα οι ιερείς και τα συμφέροντα των οικογενειών αποφάσιζαν ποιος θα είναι ο σύντροφός σου στη ζωή, και στις μοντέρνες κοινωνίες αποφασίζουμε με προσωπικά κριτήρια ή με βάση αυτό που αισθανόμαστε, ίσως στο μέλλον την απόφαση αυτή θα την παίρνει η Google, όπως και μια σειρά άλλες σημαντικές αποφάσεις.
Θα ρωτάμε την εταιρεία:
«Με βάση τα δεδομένα που έχεις συλλέξει για μένα αλλά και των δεδομένων που έχεις για τους υποψήφιους συντρόφους μου και λαμβάνοντας υπόψη τις παρούσες συνθήκες, ποια πιστεύεις ότι θα είναι η καλύτερη επιλογή για σύντροφος, μεταξύ των επιλογών που μου προσφέρονται; Θα ήθελα να μου δώσεις μία περιγραφή των προτερημάτων της κάθε επιλογής και να μου προτείνεις σε ποιο ποσοστό και για ποιους λόγους θεωρείς ότι η μία επιλογή είναι καλύτερη από την άλλη»
Η τελική απόφαση μπορεί να παραμένει του ανθρώπου, αν η μηχανή συμβουλεύει. Όμως, αν η μηχανή έχει πράγματι τη δυνατότητα να προτείνει τον «καλύτερο σύντροφο» – κατά τον ίδιο τρόπο που μπορεί να κάνει την πιο ακριβή ιατρική διάγνωση – πόσο θα λαμβάνει πράγματι την απόφαση ο άνθρωπος; Πόσο συχνά θα επιλέγει ο άνθρωπος συνειδητά τη ”λάθος” επιλογή, ενάντια στη βούληση της μηχανής, εμπιστευόμενος λ.χ. τα συναισθήματα ή τη διαίσθησή του, όταν η μηχανή που «γνωρίζει καλύτερα» τον άνθρωπο από τον εαυτό του, του έχει προτείνει το αντίθετο; Πώς θα μπορείς να αμφισβητήσεις τη βούληση της μηχανής όταν διαρκώς υπενθυμίζεται η αποτελεσματικότητά της;
Βιώνουμε το πέρασμα από τον άνθρωπο, τα ανθρώπινα συναισθήματα, την ανθρώπινη διαίσθηση ως βασικό και μεγαλύτερης βαρύτητας κριτήριο για τη λήψη σημαντικών αποφάσεων, στους υπολογισμούς των έξυπνων αλγορίθμων που στηρίζονται στα Μεγάλα Δεδομένα (Big Data); [97,98]
Citizen Score: Μια αξιοκρατική βαθμολογία για να περιγράφει ποιος είσαι και τι δικαιούσαι
Αλλά δε χρειάζεται να πάμε στο μέλλον για να δούμε πώς θα χρησιμοποιηθούν τέτοιες τεχνολογίες γιατί κάποιες απ′ αυτές ήδη βρίσκονται σε εφαρμογή.
Στην Κίνα τον Ιούνη του 2014 το Κρατικό Συμβούλιο δημοσίευσε ένα ντοκουμέντο με τον τίτλο «Σχεδιασμός για τη Δημιουργία ενός Κοινωνικού Συστήματος Πίστωσης». Μέσα στο ντοκουμέντο αποτυπωνόταν για πρώτη φορά μια ριζοσπαστική ιδέα. Τι θα γινόταν αν υπήρχε ένα σύστημα βαθμολόγησης που θα αξιολογούσε τι είδους πολίτης είσαι;
Φαντάσου έναν κόσμο όπου πολλές από τις καθημερινές δραστηριότητές σου παρακολουθούνται και αξιολογούνται: τι αγοράζεις και από πού, πού είσαι την οποιοδήποτε στιγμή, ποιοι είναι οι φίλοι σου και ποιες οι συνήθειές τους, πώς και για ποιους λόγους επικοινωνείς μαζί τους, πόσες ώρες ξοδεύεις παίζοντας βιντεοπαιχνίδια και ποιους λογαριασμούς και φόρους πληρώνεις στην ώρα σου.
Δεν είναι δύσκολο να το φανταστούμε γιατί ήδη συμβαίνει από εταιρείες όπως η Google και το Facebook ή από προγράμματα παρακολούθησης της υγείας όπως το Fitbit. Αλλά φαντασθείτε τώρα ένα σύστημα όπου όλες αυτές οι συμπεριφορές και οι πληροφορίες που συλλέγονται, θα αξιολογούνται από ένα κεντρικό σύστημα ως είτε θετικές ή αρνητικές, σύμφωνα με κανόνες που θέτει μια κυβέρνηση, και θα μετατρέπονται σε ένα μοναδικό αριθμό που θα ορίζει πολλές σημαντικές πτυχές της ζωής σου. Ο αριθμός αυτός, υψηλός ή χαμηλός, θα περιγράφει τον άνθρωπο.
Το Citizen Score θα δημοσιεύεται δημοσίως ώστε να συγκρίνεται με τη βαθμολογία άλλων πολιτών και θα καθορίζει ”αξιοκρατικά” αν μπορείς να πάρεις δάνειο ή αν θα προσληφθείς, αν τα παιδιά σου θα μπορούν να πάνε σε συγκεκριμένα σχολεία ή αν θα σου εκδοθούν ταξιδιωτικά έγγραφα.
Η Κινέζικη κυβέρνηση παρουσιάζει το σύστημα ως έναν επιθυμητό τρόπο για τη μέτρηση και την ενδυνάμωση της «εμπιστοσύνης» στα πλαίσια της δημιουργίας μίας κουλτούρας «ειλικρίνειας»:
«Θα δημιουργήσει ένα περιβάλλον όπου το να έχεις εμπιστοσύνη θα είναι κυρίαρχο. Θα ενδυναμώσει την ειλικρίνεια έναντι της κυβέρνησης, στις εμπορικές συναλλαγές, στις κοινωνικές επαφές ενώ θα συντελέσει στη δημιουργία και λειτουργία ενός πιο αποδοτικού συστήματος απονομής δικαιοσύνης» [99, 100]
Σήμερα, η συμμετοχή στο σύστημα είναι εθελοντική και πιλοτική σε κάποιες μόνο επαρχίες της χώρας. Όμως από το 2020 και έπειτα θα είναι αναγκαστική σε όλη την Κίνα. Η συμπεριφορά κάθε ατόμου και κάθε επιχείρησης θα βαθμολογείται.
Η βαθμολογία θα ξεκινά από τους 350 πόντους με το ανώτερο όριο να είναι οι 950 πόντοι. Οι πολίτες βαθμολογούνται σε διαφορετικές κατηγορίες, όπως το κατά πόσο πληρώνουν τους λογαριασμούς τους στην ώρα τους, κατά πόσο σέβονται τις υποχρεώσεις που πηγάζουν από συμβόλαια που έχουν υπογράψει, προσωπικά στοιχεία σε σχέση με τη ζωή και τις σχέσεις τους ενώ τέλος βαθμολογούνται συμπεριφορές και καταναλωτικές επιλογές.
Το Alibaba παραδέχεται ότι κρίνει ανθρώπους σύμφωνα με τα προϊόντα που αγοράζουν. «Κάποιοι που αγοράζουν βιντεοπαιχνίδια για να παίζουν 10 ώρες την ημέρα είναι τεμπέληδες», είπε ο Li Yingyun, Διευθυντής του Τμήματος Τεχνολογίας.
Μια σημαντική κατηγορία που καθορίζει τη βαθμολογία είναι οι άνθρωποι του κοντινού περιβάλλοντος. Τι λέει η επιλογή των φίλων και οι συνομιλίες τους για το άτομο που βαθμολογείται; Όποιος μοιράζεται μυνήματα «θετικής ενέργειας» όπως θετικά μυνήματα για το έργο της κυβέρνησης ή για την πορεία της οικονομίας, η βαθμολογία του ανεβαίνει ενώ όποιοι ασκούν κριτική η βαθμολογία τους πέφτει. Όμως, δεν πέφτει μόνο η δική τους βαθμολογία αλλά και η βαθμολογία των ανθρώπων με τους οποίους συναναστρέφονται. Έτσι, αν κάποιος θέλει να διασφαλίσει υψηλή βαθμολογία ή θα πρέπει να αλλάξει τη συμπεριφορά του φίλου του σε σχέση λ.χ. με την κριτική που ασκεί στην κυβέρνηση ή θα πρέπει να διακόψει την όποια επικοινωνία μαζί του, οδηγώντας τον σε μία ιδιότυπη κοινωνική απομόνωση.
Το σύστημα δεν ερευνά απλά συμπεριφορές, συντελεί στη διαμόρφωσή τους. Σπρώχνει τους πολίτες μακριά από αγορές και συμπεριφορές που η κυβέρνηση δε θεωρεί αρεστές επιβάλλοντας αρνητική βαθμολογία. Και η αρνητική βαθμολογία επισύρει ποινές.
Ήδη σήμερα στην εθελοντική του εφαρμογή, το κράτος δίνει κίνητρα σε όσους πολίτες συμμετέχουν για να πετυχαίνουν υψηλή βαθμολογία. Με βαθμολογία πάνω από 600 μπορείς εύκολα να πάρεις ένα δάνειο έως 700 ευρώ. Με βαθμολογία έως 650 πόντους ο χρήστης δικαιούται άμεσα πρόσβαση σε ξενοδοχείο και χρήση της υπηρεσίας VIP στο Διεθνές Αεροδρόμιο της Beijing. Με άνω των 666 πόντων ο πολίτης δικαιούται δάνειο έως 7000 ευρώ ενώ με βαθμολογία 750 πόντων εισέρχεται σε διαδικασία φαστ τρακ για την απόκτηση πανευρωπαϊκής βίζας.
Η υψηλή βαθμολογία έχει επιρροή ακόμα και στις πιθανότητες να βγεις ραντεβού. Όσο υψηλότερη η βαθμολογία, τόσο πιο ψηλά βρίσκεται το προφίλ σου σε υπηρεσίες για ραντεβού. Ήδη σήμερα, στην πιλοτική εφαρμογή του προγράμματος, οι χρήστες με υψηλές βαθμολογίες δημοσιοποιούν στα κοινωνικά μέσα δικτύωσης τη βαθμολογία τους ως κριτήριο επιτυχίας και στάτους.
Στο μέλλον, θα επιβάλλονται ποινές στους ανθρώπους με χαμηλές βαθμολογίες. Θα έχουν χαμηλότερες ταχύτητες στις συνδέσεις ίντερνετ, μειωμένη πρόσβαση σε εστιατόρια, στέρηση του δικαιώματος στη μετακίνηση, άρνηση πρόσβασης σε καλά σχολεία, δε θα επιτρέπεται να κάνουν συγκεκριμένα επαγγέλματα. Στην ουσία πρόκειται για ένα σύστημα που μετατρέπει την υπακοή στη βούληση της κυβέρνησης σε παιχνίδι. Καλεί τον πολίτη να αποδεχτεί τους κανόνες της, να ανταγωνιστεί με άλλους για την υψηλότερη βαθμολογία και να επιβραβευθεί ή να τιμωρηθεί ανάλογα με το πόσο πειθήνια είναι η συμπεριφορά του. [101, 102]
Όπως αναφέρεται σε κυβερνητικό ντοκουμέντο, το σύστημα κοινωνικής πίστωσης θα «επιτρέψει σε αυτούς που αξίζουν της εμπιστοσύνης να κινούνται ελεύθερα όπου θέλουν ενώ όσοι λαμβάνουν κακή βαθμολογία δε θα μπορούν να κάνουν ούτε ένα βήμα».
Αν και όχι υπό κεντρική καθοδήγηση και όχι στον ίδιο βαθμό, πολλά από αυτά που συμβαίνουν στην Κίνα ήδη συμβαίνουν και σε χώρες της Δύσης. [103]
Στο Facebook λ.χ. εκπαιδευόμαστε να παρουσιάζουμε ένα εξιδανικευμένο πορτραίτο του εαυτού μας. Κοιτάζουμε τα προφίλ των άλλων, βαθμολογούμε και βαθμολογούμαστε πατώντας like ή σχολιάζοντας ή δίνοντας βαθμό στις υπηρεσίες μίας εταιρείας. Γνωρίζουμε ότι βαθμολογούμαστε. Αποδεχόμαστε ότι η εικόνα του εαυτού μας ταξιδεύει παντού και επενδύουμε στην επέκτασή της επιρροής της, αναγνωρίζουμε ότι η φυσική πραγματικότητα είναι περιορισμένη, μετατρέπεται στο σκηνικό που εμπλουτίζει το εικονικό. Νοιώθουμε ικανοποίηση όταν συλλέγουμε ένα μεγάλο αριθμό like. Ελκούμαστε από τα άτομα τα οποία συλλέγουν ένα μεγάλο αριθμό like. Η άποψή τους αποκτά μεγαλύτερη βαρύτητα.
Αποδεχόμαστε τους κανόνες και επαναλαμβάνουμε τις συμπεριφορές που θα επιτρέψουν την επανεμφάνιση του φαινομένου. Επιζητούμε το virality. Εκπαιδευόμαστε να παρουσιάζουμε μια συγκεκριμένη εικόνα που ταιριάζει σε αυτό που πρέπει να είμαστε. Προσαρμοζόμαστε στη λειτουργία του μέσου, αυτο-πειθαρχούμε τους εαυτούς μας, προσπαθούμε να βελτιώσουμε την αποδοτικότητα των αναρτήσεών μας. Οι χρήστες βρίσκονται υπό διαρκή παρακολούθηση από την εταιρεία και από τους άλλους χρήστες που τους αξιολογούν. Η εταιρεία καταγράφει τις κινήσεις, ταξινομεί τα δεδομένα, και αξιοποιεί αυτά που τις είναι χρήσιμα. Η υπηρεσία προσφέρεται ελεύθερα.
Κάτι παρόμοιο ισχύει και σε υπηρεσίες όπως το Uber, το Yelp και το Airbnb όπου προσαρμόζουμε τις συμπεριφορές μας γιατί γνωρίζουμε ότι βαθμολογούμαστε και μία κακή βαθμολογία θα έχει επιπτώσεις στους πόσους πελάτες θα έχουμε μελλοντικά.
Πρόσφατα, παρουσιάστηκαν και πιο ριζικά παραδείγματα που αν και δεν τυγχάνουν της δημοφιλίας των παραπάνω εταιρειών και των υπηρεσιών τους, αν μη τι άλλο σπρώχνουν στα άκρα τη λογική λειτουργίας τους, φανερώνοντας έτσι μια κρυφή όψη των τεχνολογιών καθώς αποτυπώνουν την πιθανότητα μίας πιο διαδεδομένης μελλοντικής χρήσης.[104]
Με το πρόγραμμα Peeple, το οποίο ξεκίνησε να λειτουργεί τον Μάρτη του 2016 κάθε χρήστης βαθμολογεί και αξιολογεί κάθε έναν που γνωρίζει, από τους συγγενείς και τους γείτονες, έως το αφεντικό και τη γυναίκα του. Στο προφίλ παρουσιάζεται ο αριθμός σου (Peeple Number), που είναι ένα σκορ το οποίο βασίζεται σε όλες τις κριτικές και αξιολογήσεις που έχουν γίνει για σένα ενώ μέ ένα μικρό ποσό αποκτάς πρόσβαση στην «Αλήθεια».
Ποια είναι η «Αλήθεια»; Είναι ότι έχει γραφτεί για ένα συγκεκριμένο άτομο, είτε δημοσιεύτηκε δημόσια είτε ιδιωτικά. Έτσι, «…έχοντας πρόσβαση σε όλες τις κριτικές που έχουν γραφτεί θα λαμβάνεις καλύτερες, σωστές αποφάσεις σε σχέση με τους ανθρώπους που έχεις γύρω σου. Θα έχεις πρόσβαση σε αυτό που πραγματικά μετράει: στην Αλήθεια»
Όπως αναφέρεται στη σελίδα της εταιρείας, ανεξαρτήτως αν είσαι χρήστης της υπηρεσίας ή όχι, εφόσον το όνομά σου είναι μέσα στο πρόγραμμα, δε μπορεί να αφαιρεθεί, είσαι αντικείμενο της βαθμολόγησης.
To συγκεκριμένο πρόγραμμα αντιμετώπισε την κατακραυγή και δε φαίνεται να εξασφαλίζει κάποια επιτυχία. Όμως αποτέλεσε μια πρώτη αποτύπωση των δυνατοτήτων που προσφέρονται. Και ήδη άλλα παρόμοια προγράμματα κάνουν την εμφάνισή τους, πιο προσεκτικά στην παρουσίαση της υπηρεσίας βαθμολόγησης που προσφέρουν, όπως το Stroovy, και το OkCupid που εξειδικεύονται στο online dating.[105,106, 107]
Φωτογραφίες: depositphotos.com
ΑΝΑΦΟΡΕΣ:
80. Will self-driving cars put cab drivers, truckers out of business?, 03.11.2016, cbsnews.com – California moves towards public access for self-driving cars, 11.10.2017, Associated Press, Dave Gershgorn, The race to build a self-driving car charted, 03.03.2018, qz.com
81. Frank Levy and Richard J. Murnane, Dancing with Robots, content.thirdway.org – amazon.com
82. Tim Wallace, Young shoppers want to pay robots, not humans, 22.09.2017, telegraph.co.uk
83. Alpha Go Zero: Learning from Scratch, deepmind.com
84. Mastering the game of Go without human knowledge, nature.com
85. David Meyer, Google’s new AlphaGo breakthrough could take algorithms where no humans have gone, 19.10.2017, fortune.com
86. Lisa Calhoun, Google artificial intelligence “Alpha Go Zero” just pressed reset on how to learn, 23.10.2017, inc.com
87. Bartu Kaleagasi, A new A.I. can write music as well as human composer, 09.03.2017, futurism.com
88. Anabela Losada, Meet Pierre Barreau, the expert behind the algorithm that creates music with Artificial Intelligence, 08.02.2018, stayrelevant.globant.com
89. Matthew Hutson, How Google is making music with artificial intelligence, 08.08.2017, sciencemag.org
90. Stuart Dregde, AI and music: will we be slaves to the algorithm?, 06.08.2017, theguardian.com
91. Cloe Olewitz, A Japanese AI program just wrote a short novel, and it almost won a literary prize, 23.03.2016, digitaltrends.com
92. Carolyn Giardina, How Artificial Intelligence will make digital humans Hollywood’s new stars, 25.08.2017, hollywoodreporter.com
93. Is Artificial Intelligence poised to revolutionize Hollywood?, 16.08.2017, medium.com
94. Should Algorithms and Robots mimic empathy?, medicalfuturist.com
95. Katy Vans, It’s a riot: the stressful A.I. simulation built to understand your emotions, 29.03.2017, theguardian.com
96. Yuval Noah Harari, Yuval Noah Harari on big data, Google and the end of free will, 26.08.2016, ft.com
97. Yuval Noah Harari, Homo sapiens is an obsolete algorithm: Yuval Noah Harari on how data could eat the world, 01.09.2016, wired.co.uk
98. Corey Breier, Takeaways from Homo Deus by Yuval Harari, 15.04.2017, medium.com
99. Rachel Botsman, Big data meets Big Brother as China moves to rate its citizens, 21.10.2017, wired.co.uk
100. Samuel Osborne, China has made obedience to the state a game, 22.12.2015, independent.co.uk
101. Meg Jing Zeng, China’s social credit system puts its people under pressure to be model citizens, 23.01.2018, theconversation.com
102. Mara Hvistendahl, Inside China’s vast new experiment in social ranking, 14.12.2017, wired.com
103. Amulya Shankar, What’s your citizen “trust score”? China moves to rate its 1.3 billion citizens, 09.11.2017, pri.org
104. Dirk Helbing, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari, Andrej Zwitter,Will democracy survive big date and artificial intelligence?, 25.02.2017, scientificamerican.com
105. Peeple app, https://itunes.apple.com/us/app/peeple/id1008896593?mt=8
106. Sarah Perez, Controversial people-rating app Peeple goes live, has a plan to profit from users’ negative reviews, 08.03.2016, techcrunch.com
107. Ethan Jacobs, Dating app Stroovy is like Yelp for exes, 04.05.2016, inverse.com