Σε μία χαρακτηριστική υπόθεση που αποτυπώνει τα όρια ανάμεσα στην πραγματικότητα και την ψηφιακή παραποίηση στη σύγχρονη δημοσιογραφία, η διεθνούς φήμης συγγραφέας και δημοσιογράφος Ναόμι Κλάιν βρέθηκε στο επίκεντρο μίας ευρύτατης διαδικτυακής διάδοσης ενός αποσπάσματος κριτικής κατά της τεχνητής νοημοσύνης, το οποίο όμως αποδείχθηκε εξ ολοκλήρου κατασκευασμένο από την ίδια την τεχνολογία που κατήγγειλε.

Το περιστατικό έλαβε διαστάσεις όταν η ιστορική ανεξάρτητη ενημερωτική εκπομπή Democracy Now!, με οικοδέσποινα την Έιμι Γκούντμαν, αναγκάστηκε να προβεί σε δημόσια επανόρθωση στον αέρα, καθώς είχε μεταδώσει το υποτιθέμενο απόσπασμα ως αυθεντικό. Φιλοξενούμενη στην εκπομπή για να ξεκαθαρίσει το ζήτημα, η συγγραφέας του εμβληματικού βιβλίου Doppelganger περιέγραψε τον τρόπο με τον οποίο τα συστήματα τεχνητής νοημοσύνης δημιουργούν ψηφιακά «αντίγραφα» δημόσιων προσώπων, εγκλωβίζοντας τον δημόσιο διάλογο και την ενημέρωση σε έναν ανεξέλεγκτο λαβύρινθο παραμορφωτικών κατόπτρων.

Η διάψευση στον αέρα του «Democracy Now!» και το viral γραφικό

Η υπόθεση εκκίνησε κατά τη διάρκεια εκπομπής αφιερωμένης στους κινδύνους της τεχνητής νοημοσύνης, όταν η Έιμι Γκούντμαν, συμπαρουσιάζοντας το μαγκαζίνο με τον Χουάν Γκονζάλες, ανέγνωσε μία δήλωση που κυκλοφορούσε ευρέως στα μέσα κοινωνικής δικτύωσης ως απάντηση της Ναόμι Κλάιν προς τον επικεφαλής της OpenAI, Σαμ Άλτμαν.

Στο επίμαχο κείμενο, ο Άλτμαν υποτίθεται ότι δήλωνε πως «αναπτύσσουμε υπεύθυνα σχεδιασμένη τεχνητή νοημοσύνη για να απελευθερώσουμε την ανθρωπότητα από τη χειρωνακτική εργασία», με την υποτιθέμενη απάντηση της Κλάιν να αναφέρει:

«Αφομοιώσατε ολόκληρη τη γραπτή παραγωγή του ανθρώπινου πολιτισμού χωρίς συναίνεση, χωρίς αποζημίωση και χωρίς αναγνώριση, για να φτιάξετε ένα σύστημα του οποίου η κύρια εμπορική εφαρμογή είναι η εξάλειψη των θέσεων εργασίας των ανθρώπων των οποίων το έργο καταναλώσατε. Δεν απελευθερώνετε την ανθρώπινη δημιουργικότητα. Την απογυμνώνετε επιφανειακά και τη μεταπωλείτε με καπέλο, βαφτίζοντας την κλοπή “δεδομένα εκπαίδευσης”».

Η αποκάλυψη ότι τόσο τα λόγια όσο και οι συνοδευτικές φωτογραφίες προέρχονταν από παραγωγικά εργαλεία τεχνητής νοημοσύνης οδήγησε την παραγωγή της εκπομπής σε άμεση διόρθωση. Όπως παραδέχθηκε η ίδια η Έιμι Γκούντμαν:

«Την Πέμπτη, κατά τη διάρκεια ενός αφιερώματος στην άνοδο της τεχνητής νοημοσύνης, διάβασα ένα απόσπασμα που είχε γίνει viral από την αναγνωρισμένη συγγραφέα και δημοσιογράφο Ναόμι Κλάιν να ασκεί κριτική στη βιομηχανία του AI. […] Το μόνο πρόβλημα: δεν ήταν αληθινό. Μετά την εκπομπή, μάθαμε ότι το απόσπασμα δεν ήταν, στην πραγματικότητα, λόγια της Ναόμι Κλάιν ή του Σαμ Άλτμαν, αλλά κείμενο παραγόμενο από τεχνητή νοημοσύνη που συνόδευε μία εικόνα παραγόμενη επίσης από AI, σε ένα ευρέως διακινούμενο γραφικό».

Ναόμι Κλάιν: «Δημιουργούν ψηφιακά doppelgangers για να εμπορευματοποιήσουν τις ταυτότητές μας»

Προσκεκλημένη για να σχολιάσει το περιστατικό, η Ναόμι Κλάιν —η οποία μαζί με την Άστρα Τέιλορ ετοιμάζει το νέο της βιβλίο με τίτλο End Times Fascism and the Fight for the Living World— εξήγησε πόσο δύσκολο είναι να ελεγχθεί μία τέτοια ψηφιακή κατασκευή όταν αποκτήσει δυναμική στο διαδίκτυο. Η ίδια σημείωσε ότι η πειστικότητα του κειμένου έγκειται στο γεγονός ότι συνδύασε αυθεντικές της θέσεις:

«Ένιωσα —και νιώθω— ότι δεν θα καταφέρω ποτέ να το θέσω υπό έλεγχο, επειδή έχει γίνει τόσο viral. Ξέρετε, έχω γράψει για το γεγονός ότι αυτές οι εταιρείες δημιουργούν ψηφιακά “doppelgangers” μας, προσπαθώντας να εμπορευματοποιήσουν τις ταυτότητές μας. Και αυτό είναι όλο. Δεν ήταν κακόβουλο και βασίστηκε σε πραγματικά πράγματα που έχω πει, απλώς αναμείχθηκαν και συνδυάστηκαν, όπως ακριβώς συνέβη και με τις φωτογραφίες. Ξεγέλασε πολλούς από τους στενότερους φίλους και συναδέλφους μου. Και ειλικρινά, όταν το πρωτοείδα, σκέφτηκα ότι το είχα πει εγώ, επειδή έχω εκφράσει πολύ παρόμοιες απόψεις».

Ο φαύλος κύκλος των μηχανών και η υπόθεση του Γιάνη Βαρουφάκη

Η συγγραφέας επέστησε την προσοχή στις βαθύτερες επιπτώσεις που επιφέρει αυτός ο μηχανισμός στην επαλήθευση των πηγών και στο δημοσιογραφικό λειτούργημα, περιγράφοντας έναν αυτοτροφοδοτούμενο κύκλο παραπληροφόρησης. Όπως ανέφερε, όταν επιχείρησε να κάνει αναζήτηση χρησιμοποιώντας τον όρο «theft tech» (τεχνολογία κλοπής), φράση που είχε χρησιμοποιήσει επικαλούμενη την Άστρα Τέιλορ, το σύστημα τεχνητής νοημοσύνης Gemini την οδήγησε πίσω σε άλλα εργαλεία τεχνητής νοημοσύνης ως πηγές του κατασκευασμένου αποσπάσματος:

«Όταν το εξετάζεις στο πλαίσιο της δημοσιογραφίας, είναι πραγματικά πολύ ανησυχητικό, επειδή δημιουργεί έναν βρόχο ανατροφοδότησης. […] Αναρωτιέται κανείς πώς θα βγούμε ποτέ από αυτόν τον λαβύρινθο των παραμορφωτικών κατόπτρων, εκτός αν οι εταιρείες υποχρεωθούν να επισημαίνουν το παραγόμενο από τεχνητή νοημοσύνη περιεχόμενο, κάτι που θα έπρεπε να είναι υποχρεωμένες να κάνουν».

Στη συζήτηση τέθηκε παράλληλα από την Έιμι Γκούντμαν το παράδειγμα του πρώην υπουργού Οικονομικών Γιάνη Βαρουφάκη, γύρω από τον οποίο έχουν αναπτυχθεί ολόκληρα κανάλια στο YouTube με ψηφιακά αντίγραφα που μιμούνται την εμφάνισή του. Η Κλάιν επιβεβαίωσε ότι είχε έρθει σε επαφή μαζί του κατά τη συγγραφή του βιβλίου της Doppelganger, σημειώνοντας:

«Επειδή έγραψα ένα βιβλίο με τίτλο Doppelganger, το οποίο προέβλεπε ακριβώς αυτό το μέλλον, ο Γιάνης επικοινώνησε μαζί μου. Του πήρα συνέντευξη για αυτό το απολύτως παράδοξο και ανοίκειο φαινόμενο που αντιμετωπίζει —και το οποίο θεωρώ ότι όλο και περισσότεροι άνθρωποι θα κληθούν να αντιμετωπίσουν— όπου υπάρχουν όλα αυτά τα βίντεο που μοιάζουν με τον Γιάνη να σχολιάζει καθημερινά γεγονότα, κάνοντας καλή δουλειά στην απομίμηση της προφοράς του. Και δεν μπορεί να τα σταματήσει».