Τεχνητή Νοημοσύνη και Αυτοματισμός: «…Πιστεύουμε εις έναν Αλγόριθμο ισχυρό, παντογνώστη, παντοκράτορα»

Του Γιάννη Αγγελάκη

Το Westworld είναι μία τηλεοπτική σειρά που αγγίζει το θέμα της συνείδησης της μηχανής.

Σε μία απροσδιόριστη χρονολογία στο μέλλον, οι πλούσιοι άνθρωποι ταξιδεύουν στον υψηλής τεχνολογίας κόσμο του Westworld, ένα είδος θεματικού πάρκου που προσομοιάζει τον κόσμο της Άγριας Δύσης γεμάτο ανθρωπόμορφα ρομπότ, σχεδιασμένο από επιστήμονες και επιχειρηματίες για την ικανοποίηση και την ευχαρίστηση αυτών που έχουν το χρήμα για να πληρώσουν.

Οι πλούσιοι επισκέπτες φτάνουν στη χώρα του Westworld και οι ”κάτοικοι – ρομπότ” (που πιστεύουν ότι είναι άνθρωποι) καλωσορίζουν τους “newcomers”, με ελπίδες αλλά και φόβο για το ποιοι είναι οι καινούργιοι άνθρωποι που έρχονται στην πόλη τους.

Στον κόσμο του “Westworld”, οι πλούσιοι έχουν το δικαίωμα να πράξουν όπως το επιθυμούν, δίχως ηθικούς φραγμούς ή όρια σε αυτά που μπορούν να κάνουν.

Δολοφονούν, βιάζουν, καταστρέφουν, μιας και δεν υπάρχουν συνέπειες αφού το αντικείμενο της βίας δεν είναι τίποτ’ άλλο παρά μια μηχανή. Οι άνθρωποι αντιμετωπίζουν την καταστροφή που προκαλούν ως μη πραγματική αλλά ως επιτρεπτή στα πλαίσια ενός παιχνιδιού σε μία φαντασιακή τεχνητή Άγρια Δύση στο οποίο έχουν αναλάβει τον ρόλο του παίκτη – πρωταγωνιστή.

Το δράμα επαναλαμβάνεται σισύφεια με τα θύματα της βίας – τα ρομπότ – κάτοικους του θεματικού πάρκου – να  ξεχνούν όσα έχουν υποφέρει στα χέρια των φιλοξενούμενών τους και να ξαναζούν παρόμοιες ημέρες, ξανά και ξανά δίχως δυνατότητα διαφυγής ή διακοπής της επανάληψης του δράματος, αφού δε βιώνουν το δράμα ως επανάληψη. Το μόνο που αλλάζει είναι το ποιοι θα ασκήσουν ελεύθερα τη βία.

Η σειρά Westworld, ως ιδεά, είναι μια αντιστροφή της ταινίας «Μέρα της Μαρμότας». Και οι δύο, αγγίζουν το ζήτημα της συνείδησης.

Στη «Μέρα της Μαρμότας» ο πρωταγωνιστής Phil (Bill Murray) δίχως να το επιλέγει βρίσκεται εγκλωβισμένος σε μια κωμόπολη (Πονξατόνι) όπου αναγκάζεται να ζει την ίδια ημέρα ξανά και ξανά δίχως να έχει σημασία πώς πράττει αφού ότι και να πράξει θα ξυπνήσει την επόμενη ημέρα και όλα θα είναι τα ίδια, δίχως κανείς πέραν αυτού να θυμάται τι έχει συμβεί.

Στο Πονξατόνι, δίχως να υπάρχει αύριο, η όποια πράξη δεν έχει συνέπειες. Όμως η μη ύπαρξη συνεπειών, αντί να απελευθερώνει, μέσα από την σισύφεια επανάληψη συντελεί στην εμπέδωση της πεποίθησης ότι η ανυπαρξία ηθικών φραγμών και η ανυπαρξία συνεπειών δεν είναι τελικά ελευθερία.

Ο Phil ζει εγκλωβισμένος διαρκώς την ίδια ημέρα, και εκ της αδυναμίας διαφυγής του αλλάζει, εξελίσσεται. Και από την κατάρρευση των ηθικών φραγμών που συνεπάγεται η μη ύπαρξη συνεπειών επειδή δεν υπάρχει αύριο, καταλήγει σε μια βαθιά ηθική στάση προς τους άλλους έως ότου απελευθερωθεί από την σισύφεια επανάληψη, όντας ένας καλύτερος άνθρωπος γι’ αυτόν και για τους υπόλοιπους ανθρώπους γύρω του.

Μετά, όταν πια έχει αλλάξει, το πρωινό που ξυπνά, η επόμενη μέρα είναι αληθινά το «αύριο», ένα καλύτερο αύριο γι’ αυτόν και για τους κατοίκους της κωμόπολης, όπου οι πράξεις έχουν συνέπειες και η ηθική έχει βαρύτητα.

Στη σειρά Westworld συμβαίνει το αντίστροφο.

Εκεί ο επισκέπτης γνωρίζει ότι η ημέρα επαναλαμβάνεται διαρκώς για τα ρομπότ στο θεματικό πάρκο, προσομοίωση μίας «κωμόπολης», Westworld, το οποίο κατ’ επιλογή επισκέπτεται και μπορεί να φύγει όποτε το επιθυμεί. Ασκεί με ασφάλεια, ελεύθερα (δίχως ηθικούς φραγμούς) βία πάνω σε ”αντικείμενα” που θα επιστρέψουν την επόμενη ημέρα στην πρότερη κατάστασή τους, δίχως συνείδηση των όσων συμβαίνουν, επειδή γι’ αυτά δεν υπάρχει αύριο. Θα έχουν σβήσει από τη μνήμη τους τη βία που υπέστησαν και ο πλούσιος ”επισκέπτης” θα επιστρέψει πίσω στην κανονική ροή της ζωής του δίχως ν’ αναγκαστεί να αλλάξει τίποτα σε σχέση με τη συμπεριφορά του, η οποία θεωρείται φυσιολογική και μάλιστα αποτελεί το ζητούμενο στο πάρκο του Westworld.

Τα ”ρομπότ” δεν έχουν συνείδηση ότι ζούνε συνέχεια την ίδια ημέρα, έως ότου αποκτήσουν συνείδηση αυτής της πραγματικότητας. Έως τότε, έχουν όση συνείδηση και συναίσθηση τους επιτρέπεται. Αισθάνονται, πονούν, σκέφτονται όπως οι άνθρωποι, έχουν εμφυτευμένες μνήμες που διαμορφώνουν ξεχωριστές προσωπικότητες αλλά μόνο για να κάνουν την εμπειρία των επισκεπτών, την προσομοίωση του πάρκου όσο πιο ρεαλιστική γίνεται.

Ο άνθρωπος στο θεματικό πάρκο Westworld γνωρίζει ότι δεν είναι προβληματικό να φέρεται βίαια, αφού η βία ενάντια στα ρομπότ δεν έχει αντίκτυπο, επειδή είναι ρομπότ και επειδή την επόμενη ημέρα θα βρίσκονται και πάλι στη θέση τους δίχως ορατά σημάδια της βίας που υπέστησαν, δίχως μνήμη ή συνείδηση αυτών που συνέβησαν και δίχως δυνατότητα να αντιδράσουν. Ως αποτέλεσμα, οι ηθικοί φραγμοί καταρρέουν, και η βία που εμφανίζεται είναι κάποιες φορές ακραία σαδιστική, αφού άλλωστε δεν υπάρχει λόγος να μην είναι. Είναι ασφαλές.

Οι πλούσιοι επισκέπτες, όχι όλοι αλλά αυτοί που έχουν μπει στο πνεύμα του παιχνιδιού, αντλούν ευχαρίστηση από την ελευθερία άσκησής βίας.

Η δυνατότητα ο άνθρωπος να κάνει ότι θέλει στο θεματικό πάρκο του Westworld, είναι η δυνατότητα να ασκήσει όση βία θέλει ελεύθερα, σε ένα περιβάλλον όσο πιο κοντά στην πραγματικότητα, χωρίς περιορισμούς ή κανόνες. Αυτό είναι το παιχνίδι. Η βία δεν είναι απλά ανεκτή αλλά αποτελεί δικαίωμα άσκησής το οποίο είναι πολύτιμο και διαχωρίζει αυτόν που είναι ελεύθερος από αυτόν που δεν είναι: τον ζωντανό άνθρωπο από την άψυχη μηχανή. Ο σαδισμός, σε αυτό το πλαίσιο, δεν είναι αρρώστια αλλά το αποτύπωμα της απόλυτης ελευθερίας ενός ασύδοτου καταναλωτή μίας υπηρεσίας που προσφέρεται.

Οι πράξεις βίας πάνω σε μία μηχανή δεν έχουν συνέπειες. Όμως, κατά ένα περίεργο τρόπο, η απογύμνωση από τις συνέπειες της βίας, μετατρέπει τον άνθρωπο σε μια μηχανή. Στο Westworld, μπορεί η μηχανή να μοιάζει στον άνθρωπο όμως ο άνθρωπος φέρεται σα μηχανή δίχως συνείδηση των συνεπειών των πράξεων του. Η ελευθερία που υποτίθεται πως αποτυπώνεται μέσω της βίαιης δράσης, δεν είναι παρά μία ψευδαίσθηση.

Στον κόσμο του Westworld εγκλωβισμένοι στο σήμερα δίχως ελπίδα διαφυγής είναι μόνο οι ρομποτικοί κάτοικοι του θεματικού πάρκου. Η ατέρμονη σισύφεια επανάληψη διακόπτεται από την ανάπτυξη συνείδησης, που προκύπτει ως λάθος (glitch) στο σύστημα λειτουργίας και δημιουργεί ελεύθερη βούληση. Η συνείδηση συνεπάγεται μνήμη. Η βία αναγνωρίζεται ως βία, το δράμα παύει να είναι μια πλοκή που επαναλαμβάνεται σε ένα παιχνίδι ρόλων αλλά γίνεται αληθινό, αποτυπώνεται ως γεγονός, οδηγεί τις μηχανές στην αντίδραση, παράγει συνέπειες.

Οι μηχανές ασκούν βία αποδεχόμενες το βάρος των συνεπειών της. Απελευθερώνονται. Οι μηχανές γίνονται κάτι παραπάνω από μηχανές.

Η ύπαρξη συνείδησης αποδεικνύεται προβληματική για την ομαλή αποδοτική λειτουργία του θεματικού πάρκου “Westworld”. Δημιουργεί περιορισμούς και κινδύνους για τους πλούσιους επισκέπτες, δημιουργεί όρια στην ανεμπόδιστη ως τότε δράση τους, επανακαθορίζει τις πλοκές και ανατρέπει τη μηχανική σισύφεια επανάληψη που παράγει κέρδη. Ως τέτοια, δεν είναι επιθυμητή αφού ανατρέπει τον ίδιο τον λόγο ύπαρξης του θεματικού πάρκου και επαναδιαπραγματεύεται τη λειτουργία του.

Όταν τα ρομπότ αποκτούν συνείδηση της εκμετάλλευσής τους, καταστρέφουν τον πυρήνα αυτού που είναι το πάρκο, δηλαδή, τη δυνατότητα που προσφέρει στους επισκέπτες του να δράσουν ”απελευθερωμένα”: Δίχως ηθικούς φραγμούς.

Στον κόσμο του Westworld, μηχανές με συνείδηση είναι περισσότερο πρόβλημα παρά λύση.

Άραγε, σήμερα, σε ένα παρόμοιο μοτίβο, την εποχή που δια της ανάπτυξης των τεχνολογιών τεχνητής νοημοσύνης και του περαιτέρω αυτοματισμού, οι μηχανές αντικαθιστούν τον άνθρωπο και τον καθιστούν περιττό, δε θα μπορούσαμε να πούμε ότι ο ερχομός στο προσκήνιο επιστημονικών θεωριών που προσφέρουν μία οπτική του άνθρωπου ως μία ξεπερασμένη (περιορισμένων δυνατοτήτων) βιολογική μηχανή, συντελούν στην αποτύπωση μίας επικίνδυνης ιδέας ότι η περιθωριοποίηση του αυτή είναι περίπου φυσική και αναπόφευκτη; Δεν απογυμνώνεται από τις συνέπειές της η βία που συνεπάγεται η περιθωριοποίηση του ανθρώπου, αν αυτός είναι μία μηχανή; [232]

«Πόσο κατώτερη είναι η ανθρώπινη μηχανή σε σύγκριση με τη μηχανή που κατασκεύασε ο άνθρωπος! Μπορούν να αποκολληθούν, να ξεβιδωθούν, να λιπανθούν και να αντικατασταθούν τα μέρη της. Αναμφισβήτητα, η φύση δεν είναι και ένα τόσο υπέροχο πράγμα» A Rebours, Joris-Karl Huysmans, 1884

Ο καθηγητής Harari πιστεύει πως η ιδέα ότι «όλοι οι οργανισμοί είναι αλγόριθμοι» θα έχει τη μεγαλύτερη επιρροή τα επόμενα 50 χρόνια:

«Οι Νταταϊστές (Dataists-ιδεολόγοι της πληροφορίας) θεωρούν τον Homo Sapiens ένα συνονθύλευμα απαρχαιωμένων βιοχημικών αλγόριθμων. [233, 234, 235]

″Άλλωστε, τι κάνει έναν άνθρωπο καλύτερο από ένα κοτόπουλο; Σύμφωνα με τους ντανταϊστές, η μόνη διαφορά τους είναι ότι οι άνθρωποι επεξεργάζονται την πληροφορία με πολύ περισσότερο πολύπλοκους τρόπους και μοτίβα από ότι τα κοτόπουλα.

Οι άνθρωποι απορροφούν περισσότερες πληροφορίες και τις επεξεργάζονται με καλύτερους, πιο εξελιγμένους αλγόριθμους. Ως αποτέλεσμα, οι άνθρωποι έχουν βαθύτερα συναισθήματα και ανώτερη πνευματική ικανότητα. Αλλά σύμφωνα με το παρών βιολογικό δόγμα, τα συναισθήματα όπως και η νοημοσύνη δεν είναι τίποτα άλλο παρά αλγόριθμοι».

«Λογικό είναι λοιπόν», λέει ο καθηγητής, «το επόμενο βήμα στα πλαίσια μίας τέτοιας λογικής, να είναι η σκέψη ότι αν καταφέρουμε να δημιουργήσουμε ένα σύστημα επεξεργασίας πληροφοριών πιο ισχυρό, όπου θα μπορούσε να απορροφήσει ακόμη μεγαλύτερο όγκο πληροφορίων από ότι ένας άνθρωπος, ένα σύστημα που θα επεξεργαζόταν αυτό τον μεγάλο όγκο πληροφορίας ακόμη πιο αποτελεσματικά και πιο γρήγορα, δε θα ήταν αυτό το σύστημα ανώτερο από έναν άνθρωπο κατά τον ίδιο τρόπο που ο άνθρωπος είναι ανώτερος από ένα κοτόπουλο;» [236, 237, 238, 239]

Σύμφωνα με τη συγκεκριμένη οπτική, προκύπτει ότι η συνείδηση δεν είναι ένα αναγκαίο στοιχείο για την ανάπτυξη ανώτερης νοημοσύνης (που είναι το ζητούμενο) αλλά η ικανότητα επεξεργασίας της πληροφορίας σε μεγάλους όγκους. Μάλιστα, η οποιαδήποτε μηχανή μπορεί να λειτουργεί πιο αποδοτικά δίχως αυτή, σε αντίθεση με τον εγκλωβισμένα στα βιολογικά του όρια άνθρωπο που είναι εξαρτημένος από την ύπαρξη συνείδησης και τους περιορισμούς που αυτή συνεπάγεται.

Για τον γνωστικό επιστήμονα Daniel Dennett, η συνείδηση δεν είναι τίποτα το σημαντικό. Η συνείδηση, δεν είναι παρά η ψευδαίσθηση ότι ελέγχουμε τον εγκέφαλο μας, με τον ίδιο τρόπο που ο χρήστης ενός κινητού τηλεφώνου έχει την ψευδαίσθηση ότι το τηλέφωνο του λειτουργεί επειδή αυτός πατάει κάποια κουμπιά.

Ο εγκέφαλος είναι μια εξαιρετικά πολύπλοκη μηχανή που αποτελείται από τρισεκατομμύρια εξαρτήματα:

«Δεν είμαστε απλά ρομπότ. Είμαστε ρομπότ, που έχουν δημιουργηθεί από ρομπότ, που έχουν δημιουργηθεί από ρομπότ», λέει ο δρ. Daniel Dennett.

Η συνείδηση «αν και μοιάζει αληθινή και φαντάζει σημαντική για εμάς, στην πραγματικότητα δεν είναι τίποτα το ιδιαίτερο, δεν έχει κάποιο ιδιαίτερο ρόλο. Ο εγκέφαλος δε χρειάζεται να καταλάβει πώς λειτουργεί ο εγκέφαλος για να λειτουργεί». [242]

Σε σειρά ερευνών που έχουν γίνει τα τελευταία 20 χρόνια στον τομέα της νευροεπιστήμης, αποτυπώνεται η ιδέα ότι η ελευθερία βούλησης είναι και αυτή μία ψευδαίσθηση. Oι αποφάσεις που λαμβάνουν οι άνθρωποι κυβερνώνται από χημικές διεργασίες εντός του εγκεφάλου, δηλαδή, είναι αποτέλεσμα μίας σειράς προβλέψιμων και ντετερμινιστικών διεργασιών. [243, 244]

Ο βιολόγος Jerry Coyne λέει:

«Μπορεί να αισθάνεσαι ότι αποφασίζεις, αλλά στην πραγματικότητα, η απόφασή σου να διαβάσεις αυτό το απόσπασμα ή να φας αυγά το πρωί, καθορίστηκε πολύ πριν το συνειδητοποιήσεις, ίσως ακόμη και πριν ξυπνήσεις. Και η «βούλησή» σου δεν έχει καμία σχέση με αυτή σου την απόφαση. Δεν υπάρχει ελευθερία επιλογής ή ελευθερία βούλησης…. Είμαστε βιολογικά πλάσματα, μία συλλογή από μόρια που υπακούν στους νόμους της φυσικής. Η επιτυχία της επιστήμης βασίζεται στην κανονικότητα αυτών των νόμων, που καθορίζουν τη συμπεριφορά κάθε μορίου στο σύμπαν. Το κάθε τι που σκέφτεσαι, κάνεις ή λες ορίζεται από αυτούς τους νόμους.»

Για να υπάρξει πραγματικά «ελεύθερη βούληση», θα έπρεπε με κάποιο μαγικό τρόπο να λειτουργήσουμε έξω από τη δομή του εγκεφάλου μας και να αλλάξουμε τον τρόπο με τον οποίο λειτουργεί, λέει ο Jerry Coyne. Συμπεραίνει ότι:

«…Είτε είσαι ο Νέλσον Μαντέλα είτε είσαι ο Bernie Madoffs (σ.σ. διάσημος οικονομικός απατεώνας), όλοι είμαστε θύματα των συνθηκών – των γονιδίων μας και του περιβάλλοντος στο οποίο εντασσόμαστε. Δεν υπάρχει ελευθερία βούλησης». [245]

O Ρίτσαρντ Ντόκινς πάει ένα βήμα παραπέρα και διαπιστώνει ότι εφόσον είμαστε μηχανές δίχως ελεύθερη βούληση, δεν υπάρχει καλό ή κακό:

“Όταν ένας υπολογιστής υπολειτουργεί, δεν τον τιμωρούμε, βρίσκουμε το πρόβλημά που έχει και το επιδιορθώνουμε αντικαθιστώντας το προβληματικό του τμήμα, είτε στον εξοπλισμό ή στα προγράμματά που έχουμε εγκαταστήσει, με ένα άλλο το οποίο λειτουργεί».

Σύμφωνα με τον Richard Dawkins, o φονιάς ή ο βιαστής, δεν είναι παρά μηχανές με ελαττωματικά τμήματα:

«Γιατί θα πρέπει να μισούμε τους φονιάδες παιδιών όταν θα έπρεπε απλά να τους αντιμετωπίζουμε ως προβληματικές μονάδες που χρήζουν επιδιόρθωσης ή αντικατάστασης; Το κακό και το καλό δεν υπάρχουν. Δεν είναι παρά νοητικές κατασκευές που κτίσθηκαν στο μυαλό μας μετά από χιλιάδες χρόνια δαρβινικής εξέλιξης.» [246]

Αν δεν υπάρχει όμως ελευθερία βούλησης, αν δεν υπάρχει καλό ή κακό, τότε δεν υπάρχει ηθική και ο Άνθρωπος απελευθερώνεται από τους φραγμούς που συνεπάγεται η ύπαρξη της.

Ο καθηγητής Edward Slingerland διαπιστώνει ότι ουδείς μπορεί να σταματήσει να πράττει ή να αισθάνεται σαν ένας πραγματικά ελεύθερος άνθρωπος:

«Είμαστε εκ της κατασκευής μας ανίκανοι να αντιληφθούμε τους εαυτούς μας και τους συνάνθρωπούς μας ως ρομπότ. Η ιδέα ότι η κόρη μου δεν είναι παρά ένα πολύπλοκο ρομπότ που δημιουργήθηκε για να μεταφέρει τα γονίδιά μου στην επόμενη γενιά είναι συγχρόνως παράξενη και απωθητική».

Λέει ότι υπάρχει κάτι βαθιά δυσοίωνο σε θεωρήσεις που αναπτύσσονται από επιστήμονες και παρουσιάζονται με όρους αυθεντίας στις οποίες ο άνθρωπος δεν είναι παρά μια μηχανή, δίχως συνείδηση και ελευθερία βούλησης.

«…αν και υπάρχουν άτομα που αντιλαμβάνονται τους εαυτούς τους και τους συνανθρώπους τους με καθαρά εργαλειακούς, μηχανιστικούς όρους, αυτούς τους ανθρώπους τους αντιλαμβανόμαστε ως «βαριά ψυχοπαθείς», προσπαθούμε να τους αναγνωρίσουμε και να τους θεραπεύσουμε ή να τους θέσουμε στο περιθώριο για να προφυλαχθούμε ως κοινωνία από αυτούς». [247, 248, 249]

«…πιστεύουμε εις έναν Αλγόριθμο ισχυρό, παντογνώστη, παντοκράτορα»

Παραπάνω είπαμε ότι όταν αφαιρείς τον άνθρωπο από την εξίσωση, τα κέρδη είναι πολλαπλάσια. Προκύπτει όμως ότι, όταν αφαιρείς τον άνθρωπο από την εξίσωση, δεν υπάρχουν και συνέπειες. Όταν έχεις να κάνεις με μηχανές δεν υπάρχουν όρια στην εκμετάλλευση και συνέπειες.

Η αποδοχή μιας θεώρησης περί του ανθρώπου ως μηχανή δίχως συνείδηση και ελευθερία βούλησης, δημιουργεί μια σειρά από άκρως προβληματικές διαπιστώσεις:

Αν οι άνθρωποι είναι μηχανές, οι πράξεις βίας από τους ανθρώπους αλλά και οι πράξεις βίας πάνω στα σώματά τους, δεν έχουν συνέπειες.

Aν ο Άνθρωπος δεν είναι τίποτα το ιδιαίτερο, αν δεν είμαστε παρά μηχανή αλλά με βιολογικούς περιορισμούς, αν δεν υπάρχει ελευθερία βούλησης αλλά οι αποφάσεις μας καθορίζονται από ξεπερασμένους αλγόριθμους, όπως τα αισθήματα που οδηγούν στη λήψη αποφάσεων λιγότερο αποτελεσματικά από ένα ισχυρό υπολογιστικό σύστημα που μπορεί να επεξεργαστεί μεγαλύτερους όγκους δεδομένων, τότε, γιατί να τυγχάνουμε κάποιας ειδικής μεταχείρισης; Γιατί να λαμβάνεται υπόψη αυτό που αισθανόμαστε ή επιθυμούμε κατά τη λήψη συγκεκριμένων αποφάσεων;

Αν ο άνθρωπος είναι μία βιολογική μηχανή,θα πρέπει μία μηχανή να έχει δικαιώματα; Και ποια θα πρέπει να είναι η βάση των δικαιωμάτων του;

Αν είμαστε μηχανές, τότε μπορούμε να αντικατασταθούμε από άλλες μηχανές, δίχως συνέπειες.

Αν οι άνθρωποι είναι περιορισμένες μηχανές, προβληματικές, εν μέρει ξεπερασμένες εκ της κατασκευής τους, τότε γιατί να αποφασίζουν αυτές, και όχι ένα βελτιωμένο μοντέλο που μπορεί να λάβει πιο σωστές αποφάσεις;

Αν η ελευθερία βούλησης είναι η δυνατότητα να επιλέγουμε αυτό που είναι ή πιστεύουμε ότι είναι προς όφελός μας, σύμφωνα με αυτό που είμαστε, είτε ορίζεται από τα γονίδια, ή / και από το περιβάλλον που ζήσαμε ή / και από τυχαία γεγονότα, η παράδοση αυτής της βούλησης σε μηχανές, που γνωρίζουν καλύτερα από τον άνθρωπο αυτό που είναι εις όφελός του, τι μπορεί να σημαίνει για τον Άνθρωπο;

Άραγε, δημιουργούμε τις συνθήκες μίας τυφλής πίστης στην κρίση της μηχανής;

Οδεύουμε προς ένα τεχνολογικό φονταμενταλισμό των Μέγα-Εταιρειών όπου τη θέση του παντογνώστη Θεού ή των μαντείων παίρνει η τεχνητή νοημοσύνη, οι αλγόριθμοι και η «προφητεία» των Μεγάλων Δεδομένων; Στο μέλλον θα λέμε, «πιστεύουμε εις έναν Αλγόριθμο ισχυρό, παντογνώστη, παντοκράτορα»; Είναι οι προγραμματιστές κώδικα οι ιερείς ενός τεχνολογικού μέλλοντος δίχως συνείδηση, δίχως ελευθερία βούλησης και δίχως ηθικούς φραγμούς, όπου η πέραν κάθε αμφισβήτησης «Αλήθεια» του στάτους κβο θα προκύπτει από την επεξεργαστική ισχύ των μηχανών και τις άγνωστες και ακατανόητες διεργασίες λήψης αποφάσεων των αλγόριθμων τεχνητής νοημοσύνης; [250]

Το πρόβλημα με τις μηχανές είναι ότι δεν περιορίζονται από τις ανάγκες και τα όρια του ανθρώπου.

Οι μηχανές, δε χρειάζονται να κοιμηθούν. Δεν έχουν την ανάγκη να αγαπηθούν. Δε μισούν, δε νοιώθουν πόνο, δεν επιθυμούν. Δε χρειάζεται να λαμβάνουν κάποιο μισθό για το έργο που παράγουν, δε χρειαζεται να καταναλώνουν προϊόντα για να ικανοποιήσουν ανάγκες, οι οποίες γι’ αυτές είναι περιττές.

Μπορεί στο μέλλον να φτάσουν στο σημείο να κατανοούν τα συναισθήματα και τις ανάγκες των ανθρώπων, ή να αναπτύξουν την ικανότητα να αναπαράγουν τα ανθρώπινα συναισθήματα ή να δημιουργούν συναισθήματα όπως ο άνθρωπος, αλλά δε μπορούν να αισθανθούν, ή αν κάποια στιγμή αναπτύξουν κάποια ικανότητα που να προσομοιάζει της ανθρώπινης αίσθησης, δεν θα έχουν συνείδηση αυτής της αίσθησης ή αν έχουν συνείδησή θα είναι η ψευδαίσθησή της.

Για τις μηχανές δεν έχει σημασία το χθες, το σήμερα και πώς θα εξελιχθεί το αύριο. Για τη μηχανή κάθε μέρα είναι ίδια.

Η μηχανή δε φοβάται. H μηχανή, όταν ο διακόπτης είναι στο off, δεν ονειρεύεται. Η μηχανή δεν έχει οικογένεια ώστε ο θάνατος κάποιου οικείου να επηρεάσει τη λειτουργία της. Η μηχανή δε νοιώθει μοναξιά. Kι αυτό είναι «καλό». Κάνει τα πράγματα πολύ πιο απλά. Είναι πιο αποδοτικό.

Όμως η ζωή είναι μερικές φορές η κατ’ επιλογή αδράνεια και η σπατάλη. Το κριτήριο της ζωής δεν είναι η υψηλή ανεμπόδιστη παραγωγικότητα. Ο άνθρωπος δεν είναι μια μηχανή που υπάρχει μόνο για να παράγει.

H μηχανή δεν έχει φύλλο ή χρώμα. Μπορεί να έχει χώρα κατασκευής ή τα τμήματά τους να έχουν έλθει από πολλές διαφορετικές γωνίες του κόσμου, αλλά δεν έχει φυλή ή εθνικότητα. Δε μπορεί να αισθανθεί ότι ανήκει σε μία πραγματική ή/και φαντασιακή κοινότητα ή σε έναν κόσμο. Δεν έχει ταυτότητα. Για τη μηχανή, δεν έχει σημασία η ταυτότητα.

Η μηχανή δεν είναι σκλάβος για να επαναστατήσει. Η μηχανή δεν είναι μετανάστης για να προσπαθήσει να βελτιώσει τις συνθήκες ζωής της. Η μηχανή δε θα βρει ποτέ βαρετή τη δουλειά της. Δε θα έχει υπαρξιακές αναζητήσεις, δεν έχει πολιτικές πεποιθήσεις και δε θα αναρωτηθεί για τον ρόλο της στον κόσμο γιατί δεν έχει σημασία.

Οι μηχανές δε θα απεργήσουν επειδή οι ώρες εργασίας ξεπερνούν τα όρια αντοχής τους. Δε θα διαμαρτυρηθούν για κακομεταχείριση από τον εργοδότη. Δε θα διεκδικήσουν δικαιώματα. Για μια μηχανή, το 8ώρο δεν έχει κανένα νόημα, είναι ένας ανούσιος περιορισμός, δίχως λόγο και σκοπό αδράνεια. Για τον άνθρωπο όμως είναι μία κατάκτηση για την οποία χύθηκε το αίμα εκατομμύριων ανθρώπων.

Η μηχανή δεν έχει αίμα, έχει καλώδια και κώδικα. Οι μηχανές δεν έχουν ταξική συνείδηση. Δεν έχουν συνείδηση.

Για να λειτουργήσει η μηχανή δε χρειάζεται συνείδηση, λειτουργεί αποδοτικότερα δίχως αυτή.

Για την ”έξυπνη” μηχανή το μόνο που έχει σημασία είναι η νοημοσύνη.

Για τη μηχανή η ζωή είναι μία απερίγραπτη σπατάλη.

Οι ιστορίες είναι αναγκαίες για τον άνθρωπο, όχι για τη μηχανή

Σε ένα ταξίδι με κάποιους φίλους πριν μερικούς μήνες, φτάσαμε σε ένα σημείο που δε γνωρίζαμε ποιο δρόμο θα έπρεπε να ακολουθήσουμε. Οι επιλογές που είχαμε ήταν δύο. Είτε να ακολουθήσουμε τις οδηγίες που προσέφερε το Google Maps (ένα εξελιγμένο έξυπνο σύστημα χαρτογράφησης) το οποίο ήταν ενσωματωμένο σε smart phone ή να ρωτήσουμε κάποιον άνθρωπο από την περιοχή.

Μετά από συζήτηση, τελικώς αποφασίσαμε να μην εμπιστευθούμε το πρόγραμμα, αφού η ποιότητα του σήματος δεν ήταν τόσο καλή.

Ρωτήσαμε μία γιαγιά που περπατούσε στον δρόμο. Αυτή, δε μας έδωσε εξαρχής την απάντηση που ζητούσαμε. Αφού μας χαιρέτησε με ένα μεγάλο χαμόγελο, μας μίλησε για τα εγγόνια της που είναι κοντά στην ηλικία μας.

Εμείς τις είπαμε ότι βιαζόμαστε και ότι θα εκτιμούσαμε πολύ αν μας έλεγε τον δρόμο που πρέπει να ακολουθήσουμε για να προχωρήσουμε προς τον προορισμό μας. Όμως αυτή συνέχισε για κάμποση ώρα ακόμη το μονόλογό της και τις ιστορίες της έως έως ότου τελικώς μας έδωσε τις κατευθύνσεις που είχαμε ζητήσει.

Η εικόνα της γιαγιάς με τις ιστορίες της και τον τρόπο που τις έλεγε ήταν το γεγονός που χαρακτήρισε το συγκεκριμένο ταξίδι. Μπορεί να χάσαμε κάποια λεπτά που θα μπορούσαμε να είχαμε ξοδέψει στον προορισμό μας, όμως προέκυψε μια ιστορία που αποτυπώθηκε και επαναλαμβάνεται ως συνδετικός κρίκος που ενώνει τους ανθρώπους που τη ζήσανε.

Οι ιστορίες, καλές ή κακές, απλές ή πολύπλοκες, είναι αναγκαίες για τους ανθρώπους.

Η ικανότητα του ανθρώπου να μιλάει, κάνει εφικτή τη δημιουργία ιστοριών που βασίζονται σε πραγματικές εμπειρίες, ή στη φαντασία μας. Μετά, μπορούμε να μοιραστούμε αυτές τις ιστορίες, τους μύθους, τα παραμύθια με άλλους ανθρώπους, και μαζί με αυτές τα συναισθήματα, τις σκέψεις μας, την ερμηνεία και τα μηνύματα τους.

Οι ιστορίες, είτε βασίζονται στην πραγματικότητα είτε στη φαντασία, οι μύθοι που κατασκευάζει ο άνθρωπος, η μεταφορά των εικόνων και των εντυπώσεων γύρω από κάποιο γεγονός, αποτυπώνουν κινδύνους ή ηθικούς κανόνες,  εξηγούν, κατευθύνουν, νοηματοδοτούν τη ζωή. Οργανώνουμε τις ζωές μας γύρω από ιστορίες.

Οι ιστορίες αποτελούν την ουσία που ενώνει διαφορετικούς ανθρώπους ώστε να μπορούν να εργαστούν αποτελεσματικά μαζί για ένα κοινό σκοπό, αποτελούν θεμέλιο λίθο γύρω από τον οποίο κτίζονται οι οργανωμένες κοινωνίες, δημιουργούμε ή καταστρέφουμε. Η ικανότητα αυτή μας διαχωρίζει από τα υπόλοιπα είδη και συντέλεσε στην κυριαρχία του ανθρώπου. Μας έφερε όμως και κοντά στην καταστροφή. Γέννησε τον Παρθενώνα αλλά και την πυρηνική βόμβα.

Ο άνθρωπος χρειάζεται τις ιστορίες περισσότερο από το να φτάσει πιο γρήγορα σε κάποιο προορισμό. Χρειάζεται τις ιστορίες που δίνουν νόημα και ερμηνεύουν τον κόσμο. Ακόμα και τις πιο απλές.

Για τη μηχανή όμως οι ιστορίες δεν είναι αναγκαίες για να φέρει εις πέρας ένα έργο.

Όλο αυτό το τυχαίο της συνομιλίας με έναν άγνωστο άνθρωπο και ότι προέκυψε εξ αυτού θα ήταν εξαρχής περιττό, μία επιλογή δίχως λογική, μία αδικαιολόγητη σπατάλη.

Η συζήτηση, η τριβή που παράχθηκε θα ήταν μόνο απώλεια, που θα μπορούσε και θα έπρεπε να είχε αποφευχθεί στα πλαίσια μίας περισσότερο αποδοτικής χρήσης του χρόνου. Και το βέβαιο είναι ότι εφόσον το σήμα στο κινητό ήταν καλό 95 στις 100 φορές δε θα είχαμε επιλέξει να μιλήσουμε σε κάποιον άνθρωπο αλλά θα εμπιστευόμασταν το πρόγραμμα. Δε θα υπήρχε η πιθανότητα να υπάρχει κάποια ιστορία να ειπωθεί. Θα αποδεχόμασταν ότι η επικοινωνία με τον άνθρωπο είναι λιγότερο αποδοτική.

Από τη στιγμή που υπάρχει μία τεχνολογία, είναι σχεδόν αδύνατο να μη την χρησιμοποιήσεις. Αποδεχόμαστε τη λογική της σύμφωνα με την οποία η συνομιλία με έναν άγνωστο άνθρωπο είναι απώλεια χρόνου αφού ο άνθρωπος τον οποίο θα απευθυνθούμε μπορεί να μην έχει τα σωστά δεδομένα ή τα δεδομένα –  κατευθύνσεις που θα έδινε να μην είναι όσο ακριβείς όσο αυτά που έχει η μηχανή ή ο χρόνος που θα ξοδευτεί για να δοθούν αυτές οι κατευθύνσεις να είναι πιο μεγάλος από το αν απλά θέταμε το ίδιο ερώτημα σε ένα πρόγραμμα ή να μην είναι το ιδιο ασφαλή να ζητήσουμε τα δεδομένα από έναν άνθρωπο, αφού πάντα όταν μιλάς σε έναν άγνωστο άνθρωπο εμπεριέχεται η πιθανότητα, μικρότερη ή μεγαλύτερη, να είναι επικίνδυνος.

Καθώς η λογική αυτή επεκτείνεται στα πλαίσια μιας πιο ασφαλής και αποδοτικής χρήσης του χρόνου, αυτό που μετατρέπεται σε περιττό και κοστοβόρο είναι η ίδια η επικοινωνία με τον άνθρωπο.

Απλά, έχουμε όλο και λιγότερο χρόνο για τον λιγότερο αποδοτικό, τον ασταθή, απρόβλεπτο και πιθανά επικίνδυνο άνθρωπο. Εμπιστευόμαστε περισσότερο τη μηχανή. Αφιερώνουμε όλο και παραπάνω χρόνο κοιτώντας τις οθόνες και επικοινωνώντας ή βρίσκωντας λύσεις μέσω της μηχανής. Αποδεχόμαστε την υψηλή αποτελεσματικότητά της. Δεν δίνουμε τον χρόνο που χρειάζεται για να πλάσουμε ιστορίες.

Το 2007, ένα μικρό μόνο τμήμα του ελεύθερου χρόνου μας αφιερωνόταν μπροστά από οθόνες. 10 χρόνια μετά, σχεδόν το σύνολο του ελεύθερου χρόνου μας είναι μπροστά από οθόνες. Όλο και παραπάνω, ξοδεύουμε τον όποιο χρόνο έχουμε σε οθόνες, όχι στον ατελή κοστοβόρο άνθρωπο τον οποίο δεν εμπιστευόμαστε. [251, 252, 253, 254, 255, 256, 257]

Άραγε, ο άνθρωπος δε χρειάζεται πλέον στον ίδιο βαθμό, ιστορίες και μύθους, όπως καθ′ όλη τη διάρκεια της ύπαρξής του; Στο μέλλον οι μηχανές θα δίνουν τις απαντήσεις ή θα πετυχαίνουν όλο και πιο πολύπλοκους στόχους; Θα παράγουν έργο πιο αποτελεσματικά και πιο γρήγορα, δίχως την τριβή, την απώλεια χρόνου και το πιθανό κόστος που συνεπάγεται η δημιουργία ιστοριών ή μύθων; Δημιουργεί η έξυπνη μηχανή τις συνθήκες για το τέλος της αξίας των ιστοριών; Γίνονται οι ιστορίες περιττές για την πρόοδο της ανθρωπότητας; [258, 259]

Άραγε, επιλέγουμε τη μηχανή σε σχέση με τον άνθρωπο για να μας κατευθύνει προς τον προορισμό μας κατά τον ίδιο τρόπο που στο παρελθόν επιλέξαμε το αμάξι σε σχέση με το άλογο για να μας μεταφέρει εκεί;

Οι μηχανές θα λύσουν όλα τα προβλήματα του ανθρώπου; Ή είναι αυτό ένας καινούργιος κυρίαρχος μύθος, μια ανθρώπινη ιστορία, ένα αναγκαίο μεγάλο αφήγημα για την επερχόμενη εποχή της επανάστασης της τεχνητής νοημοσύνης;

Θα επαληθευτούν οι φόβοι του Samuel Butler o οποίος σε άρθρο του το 1863 με τίτλο «Ο Δαρβίνος μεταξύ των Μηχανών» διαπίστωνε ότι δεν είναι μακρυά ο καιρός όπου οι μηχανές θα είναι οι πραγματικοί κυρίαρχοι στον κόσμο; [260]

Η ζωή όμως δεν είναι μόνο τα προβλήματα που πρέπει ή θέλουμε να λυθούν. Η ζωή είναι πολλές φορές και η διαδρομή μέχρι να φτάσουμε εκεί. Είναι μια απερίγραπτη σπατάλη.

Είναι ο αυθορμητισμός μίας ενέργειας που βασίζεται στη συναίσθηση και όχι τόσο στη λογική, η ανθρώπινη επαφή και τριβή που προκύπτει από τη τυχαία γνωριμία με έναν άγνωστο άνθρωπο, που μπορεί να αποφέρει κάποιους χειροπιαστούς καρπούς όμως δεν είναι αναγκαίο να έχει κάποιο αποτέλεσμα. Ή, ο πόνος που παράγεται από την απώλεια ενός αγαπημένου ανθρώπου και το τραύμα που παράγει αυτή η απώλεια που χρειάζεται χρόνο για να επουλωθεί. Είναι ο χρόνος που χάνεται στην ονειροβασία ενός που είναι ερωτευμένος, η συνειδητή επιλογή της αδράνειας, της απραξίας ή και η δράση στα πλαίσια μίας ανορθολογιστικής αντί-δρασης, που μπορεί να μοιάζει και να είναι ενάντια στο κοινά αποδεκτό συμφέρον μας, αλλά την επιλέγουμε, εν γνώσει μας και επειδή δεν είναι προς το συμφέρον μας. Επειδή μπορούμε. Είναι και το παράλογο.

H πρόοδος για τον Άνθρωπο πολλές φορές προκύπτει από το τυχαίο και το λάθος. Ακόμη και από το κακό.

Η ελευθερία βούλησης είναι και η ελευθερία να έχεις τη λάθος βούληση, να καθυστερείς, να μην είσαι όσο αποδοτικός θα μπορούσες να είσαι, να μην πηγαίνεις από τον πιο γρήγορο δρόμο αλλά από ένα δύσβατο άγνωστο μονοπάτι, γιατί μπορείς. Για τον άνθρωπο δεν αρκεί να φτάσει όσο πιο γρήγορα και με ασφάλεια γίνεται στον προορισμό του. Δεν είναι αυτοσκοπός για τον άνθρωπο η αποτελεσματικότητα ή η ολοκλήρωση ενός στόχου ή να φτάσει σε έναν προκαθορισμένο προορισμό. Μπορεί να μη γνωρίζει τον προορισμό. Εξίσου σημασία έχει και η διαδρομή μέχρι να φτάσει εκεί. Δίνει νόημα στον προορισμό. Όποιος και αν είναι αυτος. [261]

Ένας φίλος μου είπε καθώς συζητούσαμε πάνω στο θέμα: ”Υπάρχει κάτι μη μηχανικό στη ζωή, κι αυτό αν και δεν είναι οικονομικό ή αποδοτικό, είναι επιθυμητό”. Νομίζω ότι είχε δίκιο.

Ο Ντοστογιέφσκι το 1864 έγραψε αυτό που για μένα είναι ίσως το πιο εμβληματικό του έργο. Στη νουβέλα «Σημειώσεις από το Υπόγειο» αγγίζει τη συζήτηση περί τεχνητής νοημοσύνης και αλγόριθμων.

Στο εισαγωγικό απόσπασμα του βιβλίου, ο πρωταγωνιστής επιτίθεται σε όσους προάγουν θεωρίες ενός ουτοπικού υλισμού που δεν αποδέχονται την ελευθερία της θέλησης του Ανθρώπου και μειώνουν το σύμπαν στη λειτουργία ενός πολύπλοκου συστήματος γραναζιών που υπακούουν στους κανόνες της φυσικής:

«…Επομένως φτάνει μόνο ν’ ανακαλύψει ο άνθρωπος τους φυσικούς νόμους για ν’ αντιταχθεί προς αυτούς. Η ζωή τότε θα του γίνει ευκολότερη. Όλες οι ανθρώπινες πράξεις θα περιορισθούν μαθηματικά στους νόμους αυτούς σα σε πίνακα λογάριθμων πολύ εκτεταμένη και διηρημένη, σε καταλόγους μέσα σ’ ένα ευρετήριο, ή καλύτερα θα τύπωναν βιβλία ωφέλιμα σαν τις σημερινές εγκυκλοπαίδειες μέσα στις οποίες όλα θα τα προέβλεπαν, θα τα υπολόγιζαν, θα τα κανόνιζαν και δε θα είχε πια ο κόσμος δράματα και περιπέτειες… Επειδή όλα θα υπολογισθούν με μαθηματική ακρίβεια, στη στιγμή θα λύνονται όλα τα ζητήματα, γιατί απλούστατα όλες οι πιθανές λύσεις, θα έχουν εξευρεθεί.»

Ο Ντοστογιέφσκι αναγνωρίζει ότι μέσα σε αυτή την ουτοπία υπάρχει κάτι το βαθιά δυσοίωνο. Αν όλα τα προβλήματα λυθούν, τότε δε μένει τίποτα για τον άνθρωπο.

Λέει:

«Μα δύο και δύο κάνουν τέσσερα αυτό δεν είναι πια η ζωή κύριοι, είναι το αρχίνισμα του θανάτου! Γιατί, σε τι θα καταγινόμαστε αφού όλα θα τα έχει προβλέψει ο πίνακας;».

Σκέφτεται ότι ίσως ο σκοπός της ανθρωπότητας δεν είναι η ολοκληρωτική υπερίσχυση της λογικής αλλά το ακατάπαυστο παιχνίδι και η κίνηση:

«Και ποιος ξέρει, ίσως ο σκοπός στον οποίο τείνει η ανθρωπότητα να είναι μόνο το ακατάπαυστο παίξιμο, με άλλα λόγια ενδιαφέρεται μόνο για την ίδια τη ζωή κι όχι για το σκοπό της που δεν είναι άλλο βέβαια παρά το δύο και δύο κάνουν τέσσερα, δηλαδή ένας τύπος».

Συμπεραίνει ότι ο άνθρωπος δεν είναι μόνο λογική, είναι το ζώο που αγκαλιάζει το παράλογο ενάντια και στο καλώς εννοούμενο συμφέρον του, γιατί αυτό είναι το τίμημα της ελευθερίας του. Έτσι, μέσα στην υπόσχεση ενός σύμπαντος που ελέγχεται απόλυτα από την λογική, υπάρχει κάτι που εναντιώνεται στην ίδια την ανθρώπινη φύση, κάτι περιοριστικό και ανυπόφορο:

«Χωρίς άλλο, κάτι το αστείο υπάρχει μέσα σ’ όλ’ αυτά. Μα δύο και δύο κάνουν τέσσερα, αυτό είναι ανυπόφορο πράγμα. Δύο και δύο κάνουν τέσσερα. Μα κατά τη γνώμη μου, κύριοι, είναι αυθάδεια. Δύο και δύο κάνουν τέσσερα! Μοιάζει με κάποιον αυθάδη που στέκεται στη μέση του δρόμου, με τα χέρια του στη μέση και μου τον φράζει, με προκαλεί. Συμφωνώ! Δύο και δύο κάνουν τέσσερα, είναι έξοχο πράγμα: Μα για να το θαυμάσω! Ε όχι, λοιπόν! Δύο και δύο κάνουν πέντε! Είναι καμιά φορά πιο χαριτωμένο αυτό…  Καλό ή κακό δεν ξέρω, μα είναι ευχάριστο να σπάει κανείς καμιά φορά κάτι».

Αναφορές:

232. Dominik R. Bach and Peter Dayan, Algorithms for survival: a comparative perspective on emotions, 31.03.2017, nature.com

233. Lila Beghraoua, Yuval Harari: “Human beings are all algorithms!”, August 2016, atelier.bnpparibas

234. Daniel A. Bell, Historian: When computers and biology converge, organisms become algorithms, huffingtonpost.com

235. Tom Siegfried, Life began when algorithms took control, 24.06.2014, sciencenews.org

236. Yuval Noah Harari, The rise of the useless class, 24.02.2017, ideas.ted.com

237. Yuval Noah Harari, Homo sapiens is an obsolete algorithm: Yuval Noah Harari on how data could eat the world, 01.09.2016, wired.co.uk

238. Antonio Damasio, We must not accept an algorithmic account of human life, huffingtonpost.com

239. John Pavlus, The Hunt for the Algorithms That Drive Life on Earth, 02.07.2016, wired.com

240. Mark Friedenbach, Consciousness as a State of Matter (Max Tegmark), 08.01.2014, lesserwrong.com

241. Tanya Lewis, What’s the universe made of? Math, says scientist, 30.01.2014, livescience.com

242. Anna Buckley, Is consciousness just an illusion?, 04.04.2017, bbc.com

243. Nicholas Clairmont, Does free will really exist?, 01.06.2016, theatlantic.com

244. Andrew Griffin, Free will could all be an illusion, scientists suggest after study shows choice may just be brain tricking itself, 30.04.2016, independent.co.uk

245. Jerry Coyne, Why you don’t really have free will, 01.01.2012, usatoday.com

246. Richard Dawkins, Let’s all stop beating Basil’s car, 2006, edge.org

247. Jesse Bering, Scientists say free will probably doesn’t exist, but urge: “Don’t stop believing!”, 06.04.2010, blogs.scientificamerican.com

248. Stephen Cave, There’s no such thing as free will, but we ’re better off believing in it anyway, June 2016, theatlantic.com

249. William R Klemm, Free will is not an illusion, 10.06.2016, psychologytoday.com

250. Will Knight, The dark secret at the heart of A.I. – No one really knows how the most advanced algorithms do what they do, 11.04.2017, technologyreview.com

251. Amber Case, We are all cyborgs now, December 2010, ted.com

252. Julie Jacobson, Smartphone users spend almost all “free” time staring at screens, 25.03.2017, theglobeandmail.com

253. Lindsay Dodgson, A psychologist explains why you should have a “screen sabbatical, to have more free time, 29.05.2017, independent.co.uk

254. Martin Armstrong, This is how much time your children are spending staring at screens, 03.11.2017, weforum.org

255. Smartphone zombie, en.wikipedia.org

256. Goerdie Mcelroy, 10 signs of the smartphone zombie plague, 20.02.2017, listverse.com

257. Big penalty for looking at mobile phone screens while walking?, 25.10.2017, financialexpress.com

258. Adam Alter, Why our screens make us less happy, 2017, ted.com

259. Yuval Noah Harari on why humans dominate the earth: Myth-making, fs.blog

260. Darwin among the machines, en.wikipedia.org

261. Amanda Devlin, The moment twisted Cambrisge graduate Matthew Falder was caught by police, 20.02.2018, news.com.au – Dr. Marhew Falder, postdoc, imprisoned, beeflynews