Σε μία εποχή όπου η ψηφιακή καταγραφή της καθημερινότητας θεωρείται αυτονόητη, τα πληροφοριακά συστήματα και οι αλγόριθμοι μηχανικής μάθησης έχουν υπερβεί προ πολλού τον ρόλο της απλής αρχειοθέτησης, αποκτώντας τη δυνατότητα να αποκωδικοποιούν τις πιο μύχιες πτυχές της ανθρώπινης ζωής.
Τον μηχανισμό αυτής της ασύμμετρης δύναμης της πληροφορίας και τις άμεσες επιπτώσεις της στην οικονομία, την κοινωνική συνοχή και τους δημοκρατικούς θεσμούς αναλύει ο καθηγητής Οικονομικής Επιστήμης στο Singapore Management University, Κοσμάς Μαρινάκης, στο πλαίσιο της εκπομπής Greekonomics.
Με αφετηρία ιστορικά καταγεγραμμένα περιστατικά πρόβλεψης καταναλωτικών συμπεριφορών στις Ηνωμένες Πολιτείες και με τη συνδρομή του κορυφαίου ειδικού σε θέματα πληροφοριακών συστημάτων, καθηγητή του New York University (NYU) Πάνου Ηπειρώτη, η ανάλυση αποκαλύπτει πώς φαινομενικά ασήμαντα ίχνη συναλλαγών μετατρέπονται σε εργαλεία πρόβλεψης προσωπικών μυστικών, διαφοροποίησης τιμών και στρατηγικής πολιτικής πόλωσης.
Το περιστατικό της Target: Η εγκυμοσύνη που αποκαλύφθηκε από τις αποδείξεις του σούπερ μάρκετ
Το μέγεθος της διεισδυτικότητας των αλγοριθμικών μοντέλων έγινε αντιληπτό ήδη από το 2012, όταν ένας εξοργισμένος πατέρας εισέβαλε σε υποκατάστημα της αλυσίδας σούπερ μάρκετ Target στα προάστια της Μινεάπολης των ΗΠΑ. Κρατώντας ένα δεσμίδα εξατομικευμένων διαφημιστικών φυλλαδίων με εκπτώσεις σε βρεφικά είδη και προϊόντα εγκυμοσύνης που είχαν ταχυδρομηθεί στην ανήλικη κόρη του, ζήτησε εξηγήσεις από τον διευθυντή του καταστήματος:
«Όλα αυτά είναι προσφορές για προϊόντα εγκυμοσύνης. Και τα στέλνετε στην κόρη μου, που είναι ανήλικη! Έχετε χάσει το μυαλό σας τελείως;».
Ο υπεύθυνος απολογήθηκε θεωρώντας ότι επρόκειτο για τεχνικό σφάλμα του συστήματος. Ωστόσο, όταν επικοινώνησε εκ νέου μαζί του λίγες ημέρες αργότερα, η εξέλιξη ήταν απρόσμενη: «Αισθάνομαι πολύ άσχημα», παραδέχθηκε ο πατέρας. «Συνέβαιναν κάποια πράγματα στο σπίτι μου που δεν γνώριζα. Η κόρη μου είναι όντως έγκυος και σε λίγους μήνες θα γεννήσει. Δεν το ήξερα ούτε εγώ, ούτε η σύζυγός μου».
Το σύστημα της Target γνώριζε το γεγονός πριν από την ίδια την οικογένεια, χωρίς να έχει υπάρξει καμία επίσημη δήλωση. Η επιχείρηση δεν είχε υποκλέψει απόρρητα στοιχεία, αλλά αξιοποίησε τα συνήθη δεδομένα των εκπτωτικών καρτών (loyalty cards): το όνομα, τη διεύθυνση και το λεπτομερές ιστορικό αγορών.
Αναλύοντας τη λειτουργία των καρτών πιστότητας, ο καθηγητής του NYU Πάνος Ηπειρώτης εξηγεί:
«Δίνουν τέτοιες κάρτες στους πελάτες, οι οποίοι τις χρησιμοποιούν κάθε φορά που κάνουν μια αγορά, παίρνοντας και κάποιες εκπτώσεις σαν αντάλλαγμα. Έτσι, αλυσίδες όπως το Target μπορούν να χρησιμοποιήσουν αυτά τα στοιχεία για να αναλύουν ένα ολόκληρο ιστορικό αγορών. Και μετά, αναλύοντας αυτές τις αγορές, μπορούν να βγάλουν συσχετίσεις… Για παράδειγμα, κάποιος όταν αγοράζει ένα κινητό, πολύ πιθανό μετά να πάει και να αγοράσει και μια θήκη. Κάποιος ο οποίος αγοράζει πέδιλα του σκι, μετά θα αγοράσει γάντια ή μάσκα. Όταν βλέπεις τι αγοράζουν πάρα πολλοί άνθρωποι μαζί, μπορείς να εντοπίσεις τέτοιες συνδέσεις».
Στην περίπτωση της εγκυμοσύνης, ο αλγόριθμος εφάρμοσε τη μέθοδο της «συνεργατικής διήθησης» (collaborative filtering). Συγκρίνοντας τις αγορές γυναικών που είχαν ανοίξει λίστα γέννας, εντόπισε ένα συγκεκριμένο μοτίβο περίπου 20 προϊόντων που προηγούνταν του τοκετού: άοσμες λοσιόν, μη αρωματικά σαπούνια, συμπληρώματα ασβεστίου, μαγνησίου και ψευδαργύρου, καθώς και μεγάλες συσκευασίες βαμβακιού. Μόλις ένας πελάτης άρχιζε να αγοράζει έναν κρίσιμο αριθμό από αυτά τα προϊόντα, το σύστημα προέβλεπε με μαθηματική ακρίβεια την εγκυμοσύνη.
Από την «αδράνεια του καταναλωτή» στην κατασκευή προτιμήσεων και τις δυναμικές τιμολογήσεις
Το ενδιαφέρον των εμπορικών κολοσσών για τέτοιες καταστάσεις εξηγείται από μία βασική αρχή του μάρκετινγκ: την «αδράνεια επιλογής καταστήματος». Ενώ οι καταναλωτές αλλάζουν εύκολα μάρκες προϊόντων, σπάνια αλλάζουν το κατάστημα στο οποίο πραγματοποιούν τις τακτικές αγορές τους, εκτός εάν βιώσουν ένα μείζον γεγονός ζωής: την αγορά νέου σπιτιού, ένα διαζύγιο ή τον ερχομό ενός παιδιού. Προσελκύοντας τις εγκύους με στοχευμένες προσφορές, τα καταστήματα επιδίωκαν να τις δεσμεύσουν ως μόνιμους πελάτες για το σύνολο των μελλοντικών τους αναγκών.
Παράλληλα, τα συστήματα αυτά δεν καταγράφουν απλώς τις συνήθειες, αλλά τις τροποποιούν (preference engineering). Όπως σημειώνει ο κ. Ηπειρώτης:
«Εδώ βρίσκεται και η δύναμη της κατάταξης. Όταν ψάχνεις για οποιοδήποτε προϊόν, δεν κοιτάς εκατοντάδες επιλογές με την ίδια προσοχή, δίνεις περισσότερο χρόνο σε αυτές που εμφανίζονται πρώτες. Άρα μια εταιρεία μπορεί πολύ εύκολα να επηρεάσει το τι θα αγοράσεις, απλώς αλλάζοντας ποιες επιλογές θα δεις πρώτα… Προσπαθούμε να βρούμε ποια είναι τα προϊόντα τα οποία ο πελάτης θα αγοράσει εύκολα, τα οποία θα είναι πολύ κοντά στις προτιμήσεις του. Πιθανόν να έχουμε και περισσότερο κέρδος… Και τα retail καταστήματα αλλάζουν το πώς παρουσιάζουν τα προϊόντα μέσα στο μαγαζί, αλλά όταν είμαστε online, αυτό γίνεται πάρα πολύ πιο εύκολο».
Η γνώση αυτή μεταφράζεται πλέον σε άμεση οικονομική εκμετάλλευση μέσω της πλήρους διαφοροποίησης των τιμών (price discrimination), όπου ο κάθε πελάτης χρεώνεται το μέγιστο ποσό που είναι διατεθειμένος να καταβάλει:
-
Orbitz (2012): Έρευνα της Wall Street Journal αποκάλυψε ότι η πλατφόρμα εμφάνιζε ακριβότερες επιλογές ξενοδοχείων σε χρήστες που συνδέονταν από υπολογιστές Mac.
-
Staples: Χρέωνε υψηλότερες τιμές σε καταναλωτές των οποίων η διεύθυνση βρισκόταν μακριά από φυσικά καταστήματα ανταγωνιστών.
-
Princeton Review (2015): Έρευνα του ProPublica κατέδειξε ότι τα δίδακτρα προετοιμασίας ήταν ακριβότερα σε γεωγραφικές ζώνες με υψηλό ποσοστό Ασιατών κατοίκων.
-
Uber (2016): Στέλεχος οικονομικής έρευνας της πλατφόρμας παραδέχθηκε ότι η χαμηλή στάθμη της μπαταρίας στο κινητό του χρήστη αποτελεί ισχυρότατο δείκτη αποδοχής αυξημένου κομίστρου.
Μηχανική μάθηση, διαρροή ευαίσθητων δεδομένων και ασφαλιστικές εταιρείες
Ενώ οι πρώτοι αλγόριθμοι ακολουθούσαν προκαθορισμένες οδηγίες σαν συνταγή μαγειρικής, η έλευση της μηχανικής μάθησης (machine learning) άλλαξε άρδην το τοπίο. Όπως τονίζει ο καθηγητής Ηπειρώτης, τα σύγχρονα μοντέλα «μαθαίνουν τα βήματα από τα δεδομένα: δεν γράφει κάποιος τη συνταγή, βλέπει πώς μαγειρεύουν εκατομμύρια άτομα και με βάση τα δεδομένα βγάζει τα βήματα», με την ποσότητα της πληροφορίας να υπερτερεί πλέον της συνθετότητας του κώδικα.
Η τροφοδότηση αυτών των συστημάτων με συμπεριφορικά δεδομένα επιτρέπει την εξαγωγή εξαιρετικά ευαίσθητων συμπερασμάτων:
-
Πανεπιστήμιο MIT (2009): Ερευνητές προσδιόρισαν με ακρίβεια τον σεξουαλικό προσανατολισμό χρηστών αποκλειστικά από τη λίστα των φίλων τους στο Facebook.
-
Μελέτη του 2013: Τα απλά «likes» αποδείχθηκαν επαρκή για την πρόβλεψη των πολιτικών πεποιθήσεων και των εθισμών σε ουσίες.
-
Πανεπιστήμιο Cornell & Facebook (2014): Ανάλυση 1,3 εκατομμυρίων χρηστών εντόπισε με ακρίβεια 70% διαπροσωπικές σχέσεις αλλά και επικείμενους χωρισμούς.
-
Ψυχολογικές έρευνες (2017): Γλωσσικά μοτίβα δημόσιων αναρτήσεων χρησιμοποιήθηκαν για την πρόγνωση ψυχικών νόσων πριν από την επίσημη διάγνωση.
Ο κίνδυνος κλιμακώνεται καθώς τα δεδομένα αυτά διοχετεύονται σε εμπορικές βάσεις (data brokers), επηρεάζοντας κρίσιμους τομείς όπως οι ασφάλειες και η εργασία. Ήδη αυτοκινητοβιομηχανίες όπως η General Motors, η Hyundai και η Honda έχουν μοιραστεί τηλεμετρικά στοιχεία οδήγησης με ασφαλιστικές εταιρείες, οδηγώντας σε αυξήσεις ασφαλίστρων όχι λόγω πρόκλησης ατυχήματος, αλλά επειδή ο οδηγός κινείται τακτικά σε οδούς υψηλής επικινδυνότητας (όπως η λεωφόρος Κατεχάκη).
Υπολογιστική προπαγάνδα, πόλωση και η θωράκιση των θεσμών
Πέρα από το οικονομικό σκέλος, ο κ. Μαρινάκης προειδοποιεί για την απειλή που συνιστά η αλγοριθμική διαχείριση της προσοχής για τη λειτουργία της δημοκρατίας. Επειδή τα συστήματα έχουν σχεδιαστεί να μεγιστοποιούν τον χρόνο παραμονής στην πλατφόρμα, προωθούν συστηματικά περιεχόμενο που πυροδοτεί έντονα αρνητικά συναισθήματα —κυρίως θυμό και αγανάκτηση:
«Οι αλγόριθμοι δεν μας παραπληροφορούν απλώς. Μας πολώνουν. Μας δείχνουν τους απέναντι στη χειρότερη εκδοχή τους, τις πιο εξοργιστικές δηλώσεις τους, τα πιο ακραία μέλη τους. Και το αντίστοιχο κάνουν και σε εκείνους. Όταν λοιπόν συναντιόμαστε στον πραγματικό κόσμο, δεν διαφωνούμε απλώς μεταξύ μας. Μισιόμαστε. Γιατί δεν καταλαβαίνουμε πως οι αλγόριθμοι έχουν παρουσιάσει σε εμάς και σε αυτούς εντελώς διαφορετικές παραποιήσεις της πραγματικότητας».
Η συνθήκη αυτή αξιοποιείται πλέον ως όπλο μαζικής επιρροής. Σύμφωνα με το Πρόγραμμα Υπολογιστικής Προπαγάνδας του Πανεπιστημίου της Οξφόρδης, κράτη όπως η Ρωσία, η Κίνα και οι Φιλιππίνες χρησιμοποιούν εκτεταμένα δίκτυα ψεύτικων λογαριασμών σε πλατφόρμες όπως το TikTok, το X και το Facebook για να κατευθύνουν εκλογικά αποτελέσματα και να προκαλέσουν πολιτική αστάθεια, ενώ ο ΟΗΕ έχει ήδη καταγράψει τον ρόλο του αλγορίθμου του Facebook στην κλιμάκωση της γενοκτονίας των Ροχίνγκια στη Μιανμάρ το 2017.
Αναφερόμενος στην ανάγκη προστασίας της ελληνικής κοινωνίας, ο καθηγητής Μαρινάκης καταλήγει υπογραμμίζοντας ότι η άμυνα απέναντι σε αυτές τις ασύμμετρες απειλές απαιτεί ισχυρά θεσμικά αντίβαρα: ανεξάρτητη δικαιοσύνη, πλουραλιστικά μέσα μαζικής ενημέρωσης, αναβαθμισμένη παιδεία και ένα αυστηρό νομικό πλαίσιο που θα θέτει διαφανή όρια στη συλλογή και την εμπορική εκμετάλλευση των προσωπικών δεδομένων.



