Σε έναν σεξουαλικό παραβάτη που καταδικάστηκε για τη δημιουργία περισσότερων από 1.000 άσεμνων εικόνων παιδιών απαγορεύτηκε η χρήση οποιουδήποτε “εργαλείου δημιουργίας τεχνητής νοημοσύνης” για τα επόμενα πέντε χρόνια, στην πρώτη γνωστή περίπτωση του είδους της.
Ο Άντονι Ντόβερ, 48 ετών, διατάχθηκε από βρετανικό δικαστήριο “να μην χρησιμοποιεί, να μην επισκέπτεται και να μην έχει πρόσβαση” σε εργαλεία δημιουργίας τεχνητής νοημοσύνης χωρίς την προηγούμενη άδεια της αστυνομίας, ως προϋπόθεση της διαταγής πρόληψης σεξουαλικής βλάβης που του επιβλήθηκε τον Φεβρουάριο
Η απαγόρευση του απαγορεύει τη χρήση εργαλείων όπως οι γεννήτριες μετατροπής κειμένου σε εικόνα, οι οποίες μπορούν να φτιάχνουν αληθοφανείς εικόνες με βάση μια γραπτή εντολή, και ιστοσελίδες που χρησιμοποιούνται για την κατασκευή “deepfakes”.
Ο Ντόβερ, στον οποίο επιβλήθηκε κοινοτική εντολή και πρόστιμο 200 λιρών, διατάχθηκε επίσης ρητά να μην χρησιμοποιεί το λογισμικό Stable Diffusion, το οποίο φέρεται να έχει αξιοποιηθεί από παιδόφιλους για τη δημιουργία υπερρεαλιστικού υλικού σεξουαλικής κακοποίησης παιδιών, σύμφωνα με τα αρχεία από την ακρόαση της ποινής στο δικαστήριο του Πόουλ.
Η υπόθεση είναι η τελευταία σε μια σειρά από διώξεις όπου η τεχνητή νοημοσύνη έχει αναδειχθεί ως ζήτημα και έρχεται ως συνέχεια μηνών προειδοποιήσεων από οργανώσεις σχετικά με τη διάδοση των εικόνων σεξουαλικής κακοποίησης που δημιουργούνται από τεχνητή νοημοσύνη.
Την περασμένη εβδομάδα, η κυβέρνηση ανακοίνωσε τη δημιουργία ενός νέου αδικήματος που καθιστά παράνομη τη δημιουργία σεξουαλικών deepfakes χωρίς συγκατάθεση. Οι καταδικασθέντες αντιμετωπίζουν ποινική δίωξη και πρόστιμο. Εάν η εικόνα κοινοποιηθεί στη συνέχεια ευρύτερα, οι παραβάτες θα μπορούσαν να οδηγηθούν στη φυλακή.
Η δημιουργία, κατοχή και κοινοποίηση τεχνητού υλικού σεξουαλικής κακοποίησης παιδιών ήταν ήδη παράνομη βάσει νόμων που ισχύουν από τη δεκαετία του 1990, οι οποίοι απαγορεύουν τόσο τις πραγματικές όσο και τις “ψευδοφωτογραφίες” παιδιών κάτω των 18 ετών. Τα προηγούμενα χρόνια, ο νόμος χρησιμοποιήθηκε για τη δίωξη ατόμων για αδικήματα που αφορούσαν αληθοφανείς εικόνες, όπως αυτές που δημιουργήθηκαν με τη χρήση του Photoshop.
Πρόσφατες περιπτώσεις δείχνουν ότι χρησιμοποιείται όλο και περισσότερο για την αντιμετώπιση της απειλής που συνιστά το εξελιγμένο τεχνητό περιεχόμενο.
Σε μια υπόθεση που περνάει από τα δικαστήρια της Αγγλίας, ένας κατηγορούμενος που δήλωσε ένοχος για την κατασκευή και διανομή άσεμνων “ψευδοφωτογραφιών” ανηλίκων κάτω των 18 ετών, επιβλήθηκαν όροι που περιλαμβάνουν την απαγόρευση πρόσβασης σε ιαπωνική πλατφόρμα ανταλλαγής φωτογραφιών όπου φέρεται να έχει πουλήσει και διανείμει τεχνητές εικόνες κακοποίησης, σύμφωνα με τα δικαστικά αρχεία.
Σε μια άλλη υπόθεση, ένας 17χρονος από το Denbighshire, στη βορειοανατολική Ουαλία, καταδικάστηκε τον Φεβρουάριο για τη δημιουργία εκατοντάδων άσεμνων “ψευδοφωτογραφιών”, συμπεριλαμβανομένων 93 εικόνων και 42 βίντεο με τις πιο ακραίες εικόνες. Τουλάχιστον έξι άλλοι έχουν εμφανιστεί στο δικαστήριο κατηγορούμενοι για κατοχή, κατασκευή ή κοινοποίηση ψευδοφωτογραφιών -που καλύπτει εικόνες που δημιουργούνται με τεχνητή νοημοσύνη- τον τελευταίο χρόνο.
Το Ίδρυμα Internet Watch Foundation (IWF) δήλωσε ότι οι διώξεις αποτελούν ένα “ορόσημο” που “θα πρέπει να κρούσει τον κώδωνα του κινδύνου ότι οι εγκληματίες που παράγουν εικόνες σεξουαλικής κακοποίησης παιδιών με τεχνητή νοημοσύνη είναι σαν εργοστάσια ενός ατόμου, ικανά να παράγουν μερικές από τις πιο φρικτές εικόνες”.
Η Susie Hargreaves, διευθύνουσα σύμβουλος της φιλανθρωπικής οργάνωσης, δήλωσε ότι ενώ οι εικόνες σεξουαλικής κακοποίησης που δημιουργούνται από τεχνητή νοημοσύνη αποτελούν σήμερα “σχετικά χαμηλό” ποσοστό των αναφορών, παρατηρείται “αργή αλλά συνεχής αύξηση” των περιπτώσεων και ότι ορισμένα από τα υλικά είναι “εξαιρετικά ρεαλιστικά”. “Ελπίζουμε ότι οι διώξεις στέλνουν ένα αυστηρό μήνυμα σε όσους φτιάχνουν και διανέμουν αυτό το περιεχόμενο ότι είναι παράνομο”, δήλωσε.
Δεν είναι σαφές πόσες ακριβώς υποθέσεις υπήρξαν με εικόνες που δημιουργήθηκαν με τεχνητή νοημοσύνη, επειδή δεν καταμετρώνται χωριστά στα επίσημα στοιχεία και οι ψεύτικες εικόνες είναι δύσκολο να διακριθούν από τις πραγματικές.
Το Ίδρυμα Lucy Faithfull Foundation (LFF), το οποίο διαχειρίζεται την εμπιστευτική τηλεφωνική γραμμή βοήθειας Stop It Now για άτομα που ανησυχούν για τις σκέψεις ή τη συμπεριφορά τους, δήλωσε ότι έχει λάβει πολλαπλά τηλεφωνήματα σχετικά με τις εικόνες ΤΝ και ότι πρόκειται για μια “ανησυχητική τάση που αυξάνεται”.
Ανησυχεί επίσης για τη χρήση εργαλείων “γυμνοποίησης” που χρησιμοποιούνται για τη δημιουργία εικόνων deepfake. Σε μια περίπτωση, ο πατέρας ενός 12χρονου αγοριού δήλωσε ότι είχε βρει τον γιο του να χρησιμοποιεί μια εφαρμογή τεχνητής νοημοσύνης για να φτιάχνει γυμνόστηθες φωτογραφίες φίλων του.
Σε μια άλλη περίπτωση, μια τηλεφωνήτρια στη γραμμή βοήθειας Childline της NSPCC δήλωσε ότι ένας “άγνωστος στο διαδίκτυο” είχε φτιάξει “ψεύτικες γυμνές φωτογραφίες” της. “Μοιάζει τόσο αληθινό, είναι το πρόσωπό μου και το δωμάτιό μου στο φόντο. Πρέπει να πήραν τις φωτογραφίες από το Instagram μου και να τις επεξεργάστηκαν”, δήλωσε η 15χρονη.
Οι φιλανθρωπικές οργανώσεις δήλωσαν ότι, εκτός από τη στοχοποίηση των παραβατών, οι εταιρείες τεχνολογίας πρέπει να σταματήσουν τους παραγωγούς εικόνων από το να παράγουν αυτό το περιεχόμενο εξ αρχής. “Αυτό δεν είναι το πρόβλημα του αύριο”, δήλωσε η Deborah Denis, διευθύνουσα σύμβουλος του LFF.
Η απόφαση να απαγορευτεί σε έναν ενήλικα σεξουαλικό παραβάτη η χρήση εργαλείων δημιουργίας τεχνητής νοημοσύνης θα μπορούσε να αποτελέσει προηγούμενο για τη μελλοντική παρακολούθηση ατόμων που έχουν καταδικαστεί για αδικήματα διακίνησης απαγορευμένων εικόνων.
Οι δράστες σεξουαλικών εγκλημάτων αντιμετωπίζουν εδώ και καιρό περιορισμούς στη χρήση του διαδικτύου, όπως η απαγόρευση περιήγησης σε “ινκόγκνιτο”, η πρόσβαση σε κρυπτογραφημένες εφαρμογές ανταλλαγής μηνυμάτων ή η διαγραφή του ιστορικού τους στο διαδίκτυο. Ωστόσο, δεν υπάρχουν γνωστές περιπτώσεις όπου επιβλήθηκαν περιορισμοί στη χρήση εργαλείων τεχνητής νοημοσύνης.
Στην περίπτωση του Ντόβερ, δεν είναι σαφές αν η απαγόρευση επιβλήθηκε επειδή το αδίκημά του αφορούσε περιεχόμενο που δημιουργήθηκε με τεχνητή νοημοσύνη ή λόγω ανησυχιών για μελλοντικές παραβάσεις. Τέτοιοι όροι συχνά ζητούνται από τους εισαγγελείς με βάση τις πληροφορίες που κατέχει η αστυνομία. Σύμφωνα με τον νόμο, πρέπει να είναι συγκεκριμένοι, ανάλογοι με την απειλή που τίθεται και “αναγκαίοι για την προστασία του κοινού”.
Εκπρόσωπος της Εισαγγελίας του Στέμματος δήλωσε: “Όταν αντιλαμβανόμαστε ότι υπάρχει διαρκής κίνδυνος για την ασφάλεια των παιδιών, θα ζητήσουμε από το δικαστήριο να επιβάλει όρους, οι οποίοι μπορεί να περιλαμβάνουν την απαγόρευση της χρήσης συγκεκριμένης τεχνολογίας”.
Η Stability AI, η εταιρεία που βρίσκεται πίσω από το Stable Diffusion, δήλωσε ότι οι ανησυχίες σχετικά με το υλικό παιδικής κακοποίησης αφορούσαν μια προηγούμενη έκδοση του λογισμικού, η οποία κυκλοφόρησε στο κοινό από έναν από τους συνεργάτες της. Είπε ότι από το 2022 που ανέλαβε την αποκλειστική άδεια χρήσης είχε επενδύσει σε χαρακτηριστικά για την αποτροπή της κακής χρήσης, συμπεριλαμβανομένων “φίλτρων για την αναχαίτιση μη ασφαλών προτροπών και εξόδων” και ότι απαγόρευσε οποιαδήποτε χρήση των υπηρεσιών της για παράνομη δραστηριότητα.