Μια νέα σοδειά βίντεο και εικόνων deepfake προκαλεί αναστάτωση – ένα περιοδικό φαινόμενο που φαίνεται να συμβαίνει όλο και πιο συχνά – καθώς αρκετά νομοσχέδια που επικεντρώνονται στα deepfakes παραμένουν στο Κογκρέσο.
Το θέμα έγινε πρωτοσέλιδο αυτή την εβδομάδα, καθώς οι ψεύτικες πορνογραφικές εικόνες που υποτίθεται ότι δείχνουν την ποπ σούπερ σταρ Τέιλορ Σουίφτ πολλαπλασιάστηκαν στο X (πρώην Twitter), στο Telegram και αλλού. Πολλές αναρτήσεις αφαιρέθηκαν, αλλά όχι πριν κάποιες από αυτές συγκεντρώσουν εκατομμύρια προβολές.
Η επίθεση στη διάσημη εικόνα της Σουίφτ αποτελεί υπενθύμιση του τρόπου με τον οποίο τα τελευταία χρόνια η δημιουργία deepfakes έχει γίνει ευκολότερη. Ορισμένες εφαρμογές μπορούν να αντικαταστήσουν το πρόσωπο ενός ατόμου σε άλλα μέσα με μεγάλη πιστότητα και οι τελευταίες τεχνολογικές εξελίξεις υπόσχονται να χρησιμοποιήσουν τεχνητή νοημοσύνη για να δημιουργήσουν ακόμη πιο πειστικές εικόνες και βίντεο.
Τα deepfakes συχνά στοχεύουν νεαρές γυναίκες
Πολλές εφαρμογές deepfake προωθούνται στην αγορά ως ένας τρόπος για να κάνουν οι απλοί άνθρωποι αστεία βίντεο και μιμίδια. Αλλά πολλά τελικά αποτελέσματα δεν ανταποκρίνονται σε αυτό το σκοπό. Όπως έγραψε η Caroline Quirk στο Princeton Legal Journal πέρυσι, “από τότε που αυτή η τεχνολογία έγινε ευρύτερα διαθέσιμη, το 90-95% των deepfake βίντεο είναι πλέον μη συναινετικά πορνογραφικά βίντεο και, από αυτά τα βίντεο, το 90% στοχεύει γυναίκες – κυρίως ανήλικες”.
Το deepfake πορνό χρησιμοποιήθηκε πρόσφατα από δύο 13χρονες στο Ηράκλειο που διακινούσαν στο σχολείο τους παραποιημένες πορνογραφικές φωτογραφίες συμμαθήτριάς τους, με σκοπό την εκδίκηση. Μάλιστα, στην υπόθεση ενέπλεξαν και συμμαθητή τους, τον οποίο φέρονται να εξανάγκασαν να παραποιήσει τις φωτογραφίες, απειλώντας τον με ξυλοδαρμό.
Στον πυρήνα τους, τέτοιου είδους deepfakes αποτελούν επίθεση στην ιδιωτική ζωή, σύμφωνα με την καθηγήτρια νομικής Danielle Citron.
“Είναι η μετατροπή των προσώπων των γυναικών σε πορνό, η κλοπή της ταυτότητάς τους, ο εξαναγκασμός σε σεξουαλική έκφραση και η παροχή μιας ταυτότητας που δεν επέλεξαν”, δήλωσε η Citron τον περασμένο μήνα σε ένα podcast από το Πανεπιστήμιο της Βιρτζίνια, όπου διδάσκει και γράφει για την προστασία της ιδιωτικής ζωής, την ελεύθερη έκφραση και τα πολιτικά δικαιώματα στη νομική σχολή του πανεπιστημίου.
Η Citron σημειώνει ότι οι deepfake εικόνες και βίντεο είναι απλώς νέες μορφές ψεύδους – κάτι που η ανθρωπότητα αντιμετωπίζει εδώ και χιλιετίες. Το πρόβλημα, λέει, είναι ότι αυτά τα ψέματα παρουσιάζονται σε μορφή βίντεο, το οποίο τείνει να χτυπήσει τους ανθρώπους σε ενστικτώδες επίπεδο. Και στα καλύτερα deepfakes, τα ψέματα καλύπτονται από εξελιγμένη τεχνολογία που είναι εξαιρετικά δύσκολο να εντοπιστεί.
Όλα αυτά δεν αποτελούν έκπληξη. Τα τελευταία χρόνια, deepfake βίντεο που δείχνουν τον “Tom Cruise” σε διάφορες απίθανες σκηνές έχουν συγκεντρώσει εκατοντάδες εκατομμύρια προβολές στο TikTok και αλλού. Αυτό το πρότζεκτ, που δημιουργήθηκε από τον εικονολήπτη και καλλιτέχνη οπτικών εφέ Chris Umé και τον μιμητή του Cruise Miles Fisher, είναι αρκετά καλοήθες σε σύγκριση με πολλές άλλες deepfake καμπάνιες, και τα βίντεο φέρουν μια ετικέτα υδατογραφήματος που γράφει “#deeptomcruise”, υποδηλώνοντας το μη επίσημο καθεστώς τους.
@deeptomcruiseKeep your hands clean.
Τα deepfakes αποτελούν μια αυξανόμενη πρόκληση, με μικρή ρύθμιση
Ο κίνδυνος ζημίας από τα deepfakes είναι ευρύς, από την οικειοποίηση των προσώπων γυναικών για την παραγωγή σεξουαλικών βίντεο, μέχρι τη χρήση διασημοτήτων σε μη εγκεκριμένες διαφημίσεις, και τη χρήση παραποιημένων εικόνων σε εκστρατείες πολιτικής παραπληροφόρησης.
Οι κίνδυνοι είχαν επισημανθεί πριν από χρόνια – ήδη από το 2017, όταν ερευνητές χρησιμοποίησαν αυτό που ονόμασαν “μια οπτική μορφή συγχρονισμού χειλιών” για να δημιουργήσουν διάφορα πολύ ρεαλιστικά βίντεο του πρώην προέδρου Μπαράκ Ομπάμα που μιλούσε.
Σε αυτό το πείραμα, οι ερευνητές συνδύασαν αυθεντικό ήχο του Ομπάμα που μιλούσε με βίντεο επεξεργασμένο από υπολογιστή. Κατάφερε να δείξει τη δυνητική δύναμη ενός βίντεο που μπορεί να βάλει λόγια στο στόμα ενός από τους πιο ισχυρούς ανθρώπους στον πλανήτη.
Να πώς περιέγραψε τη δύσκολη κατάσταση ένας σχολιαστής του Reddit σε ένα deepfake βίντεο πέρυσι:
“Νομίζω ότι όλοι πρόκειται να εξαπατηθούν: Οι μεγαλύτεροι σε ηλικία που νομίζουν ότι ό,τι βλέπουν είναι αληθινό και οι νεότεροι που έχουν δει τόσα πολλά deepfakes που δεν θα πιστεύουν ότι οτιδήποτε βλέπουν είναι αληθινό”.
Όπως δήλωσε τον περασμένο μήνα ο Citron, καθηγητής νομικής της UVA, “αυτή τη στιγμή το “διαδίκτυο”, και χρησιμοποιώ εισαγωγικά, συχνά θεωρείται σαν την Άγρια Δύση”.
Μέχρι στιγμής, οι ισχυρότεροι περιορισμοί στις ΗΠΑ όσον αφορά τη χρήση των deepfakes δεν παρατηρούνται σε ομοσπονδιακό επίπεδο, αλλά σε πολιτείες όπως η Καλιφόρνια, η Βιρτζίνια και η Χαβάη, οι οποίες απαγορεύουν τη μη συναινετική πορνογραφία deepfake.
Τον τελευταίο μήνα, οι επισκέπτες του YouTube, του Facebook και άλλων πλατφορμών είδαν διαφημίσεις βίντεο που υποτίθεται ότι έδειχναν την Τζένιφερ Άνιστον να προσφέρει μια τόσο καλή και απατηλή προσφορά για φορητούς υπολογιστές Apple.
“Αν παρακολουθείτε αυτό το βίντεο, ανήκετε στην τυχερή ομάδα των 10.000 ανθρώπων που έχουν την ευκαιρία να αποκτήσουν το Macbook Pro με μόλις 2 δολάρια”, λέει η ersatz Aniston στη διαφήμιση. “Είμαι η Τζένιφερ Άνιστον”, δηλώνει ψευδώς το βίντεο, προτρέποντας τους ανθρώπους να κάνουν κλικ σε έναν σύνδεσμο για να διεκδικήσουν τον νέο τους υπολογιστή.
Ένας κοινός στόχος για τέτοιου είδους απάτες είναι να εξαπατήσουν τους ανθρώπους ώστε να υπογράψουν ακριβές συνδρομές στο διαδίκτυο, όπως ανέφερε η ιστοσελίδα Malware Tips κατά τη διάρκεια ενός παρόμοιου, πρόσφατου τεχνάσματος.
Τον περασμένο Οκτώβριο, ο ηθοποιός Τομ Χανκς προειδοποίησε τον κόσμο ότι μια τεχνητή νοημοσύνη χρησιμοποιούσε την εικόνα του, φαινομενικά για να πουλήσει οδοντιατρική ασφάλιση στο διαδίκτυο.
“Δεν έχω καμία σχέση με αυτό”, δήλωσε ο Χανκς σε μια ανάρτηση στο Instagram.
Λίγο αργότερα, η συμπαρουσιάστρια του CBS Mornings Gayle King σήμανε συναγερμό για ένα βίντεο που υποτίθεται ότι την έδειχνε να διαφημίζει τσίχλες για απώλεια βάρους.
“Σας παρακαλώ, μην ξεγελιέστε από αυτά τα βίντεο της τεχνητής νοημοσύνης”, είπε.