Ο ερευνητής ασφαλείας Alexander Hanff, γνωστός και ως «That Privacy Guy», δημοσίευσε μια νέα ανάλυση υποστηρίζοντας ότι η Google Chrome κατεβάζει σιωπηλά ένα μοντέλο AI περίπου 4GB στις συσκευές των χρηστών χωρίς ειδοποίηση ή συγκατάθεση. Σύμφωνα με τον Hanff, η συμπεριφορά αυτή αντικατοπτρίζει ένα ξεχωριστό ζήτημα που εντόπισε πρόσφατα σχετικά με το λογισμικό επιφάνειας εργασίας της Anthropic, και μαζί οι δύο περιπτώσεις υποδεικνύουν ένα ευρύτερο μοτίβο του τρόπου με τον οποίο οι μεγάλες εταιρείες τεχνολογίας αναπτύσσουν χαρακτηριστικά AI.

Η προηγούμενη αναφορά του Hanff επικεντρώθηκε στην εφαρμογή Claude Desktop της Anthropic, η οποία, όπως λέει, εγκατέστησε αθόρυβα μια γέφυρα ενσωμάτωσης προγράμματος περιήγησης σε πολλαπλά προγράμματα περιήγησης που βασίζονται στο Chromium σε ένα σύστημα, συμπεριλαμβανομένων πέντε προγραμμάτων περιήγησης που δεν είχε καν εγκατεστημένα.

Σύμφωνα με τον ερευνητή, αυτό συνέβη χωρίς καμία προτροπή προς τον χρήστη ή ουσιαστική γνωστοποίηση, και η ενσωμάτωση επανεγκαθίστατο εάν αφαιρείτο. Υποστηρίζει ότι αυτού του είδους η σιωπηλή τροποποίηση του περιβάλλοντος ενός χρήστη παραβιάζει τόσο τις προσδοκίες των χρηστών όσο και, κατά την άποψή του, την ευρωπαϊκή νομοθεσία περί προστασίας της ιδιωτικής ζωής.

Αυτό το προηγούμενο εύρημα χρησιμεύει ως πλαίσιο για αυτό που ο Hanff περιγράφει ως παρόμοιο αλλά ακόμη μεγαλύτερης κλίμακας ζήτημα με την Chrome. Στην τελευταία του ανάρτηση, αναφέρει ότι η Chrome γράφει τώρα ένα αρχείο με την ονομασία «weights.bin» στον δίσκο, το οποίο αποτελεί μέρος του συστήματος AI της εταιρείας που βασίζεται στο ελαφρύ μοντέλο Gemini Nano.

Το αρχείο έχει μέγεθος περίπου 4GB και κατεβαίνει αυτόματα σε συστήματα που πληρούν ορισμένες απαιτήσεις υλικού. Σύμφωνα με τον Hanff, δεν υπάρχει σαφής ροή συγκατάθεσης για αυτό το κατέβασμα. Λέει ότι η Chrome δεν παρουσιάζει μια προτροπή που να εξηγεί ότι ένα μοντέλο AI πολλών gigabyte θα αποθηκευτεί τοπικά, ούτε παρέχει μια απλή ρύθμιση για την αποτροπή του. Οι χρήστες που ανακαλύπτουν και διαγράφουν το αρχείο θα το βρουν να κατεβαίνει ξανά αργότερα, εκτός αν απενεργοποιήσουν ορισμένες πειραματικές ρυθμίσεις (flags) ή αφαιρέσουν εντελώς την Chrome

Για να επαληθεύσει τι συνέβαινε, ο Hanff διεξήγαγε μια ελεγχόμενη δοκιμή χρησιμοποιώντας ένα νέο προφίλ Chrome σε macOS. Βασίστηκε στα αρχεία καταγραφής συμβάντων του συστήματος αρχείων του λειτουργικού συστήματος, τα οποία καταγράφουν τη δραστηριότητα των αρχείων ανεξάρτητα από τις εφαρμογές. Σύμφωνα με την ανάλυσή του, το πρόγραμμα περιήγησης δημιούργησε τον κατάλογο του μοντέλου και κατέβασε το πλήρες πακέτο των 4GB στο παρασκήνιο, ενώ δεν υπήρχε καμία ανθρώπινη αλληλεπίδραση. Η διαδικασία ολοκληρώθηκε σε λίγο περισσότερο από δεκατέσσερα λεπτά, κατά τη διάρκεια αυτού που φαινόταν να είναι χρόνος αδράνειας περιήγησης.

Επισημαίνει επίσης τα εσωτερικά αρχεία κατάστασης της ίδιας της Chrome ως αποδεικτικά στοιχεία. Αυτά δείχνουν ότι το πρόγραμμα περιήγησης αξιολόγησε τις δυνατότητες υλικού του συστήματος και το χαρακτήρισε ως επιλέξιμο για το μοντέλο στη συσκευή πριν πραγματοποιηθεί το κατέβασμα. Κατά τον Hanff, αυτό υποδηλώνει ότι η Chrome αποφασίζει προληπτικά ποιες μηχανές χρηστών θα λάβουν το μοντέλο, αντί να ανταποκρίνεται σε μια ρητή ενέργεια του χρήστη.

Πέρα από τις τεχνικές λεπτομέρειες, ο Hanff εγείρει νομικές ανησυχίες. Υποστηρίζει ότι τόσο η περίπτωση της Anthropic όσο και η περίπτωση της Chrome πιθανόν παραβιάζουν διατάξεις του δικαίου της ΕΕ, συμπεριλαμβανομένων των κανόνων της οδηγίας ePrivacy για την αποθήκευση δεδομένων στις συσκευές των χρηστών και των απαιτήσεων του GDPR σχετικά με τη διαφάνεια και τη νόμιμη επεξεργασία. Αυτοί οι ισχυρισμοί δεν έχουν δοκιμαστεί στο δικαστήριο, αλλά αντικατοπτρίζουν μια αυξανόμενη ένταση μεταξύ της επιθετικής διάθεσης χαρακτηριστικών και των ρυθμιστικών προσδοκιών, ιδιαίτερα στην Ευρώπη.

Περιβαλλοντικό κόστος της ανάπτυξης του Gemini Nano στην Chrome

(Τα παραπάνω δεδομένα υπολογίστηκαν από τον Alexander Hanff)

Ένα βασικό σημείο της ανάρτησης του Hanff είναι το περιβαλλοντικό κόστος της σιωπηλής διανομής ενός μοντέλου AI 4GB, όπου υπογραμμίζει τους κινδύνους της διανομής ενός αρχείου αυτού του μεγέθους σε παγκόσμια κλίμακα. Εάν αναπτυχθεί σε εκατοντάδες εκατομμύρια ή δισεκατομμύρια συσκευές, ο Hanff εκτιμά ότι ο συνολικός αντίκτυπος των εκπομπών από την απλή διανομή του αρχείου (χωρίς καν τη χρήση του) θα μπορούσε να φτάσει τις δεκάδες χιλιάδες τόνους ισοδυνάμου CO2, ποσότητα παρόμοια με την ετήσια παραγωγή δεκάδων χιλιάδων αυτοκινήτων.

Αυτή η εκτίμηση εξαρτάται σε μεγάλο βαθμό από πιθανώς αμφίβολες παραδοχές σχετικά με την κλίμακα και το ενεργειακό μείγμα, αλλά το ευρύτερο επιχείρημά του, ότι η προώθηση μεγάλων δυαδικών αρχείων (binaries) στις συσκευές των χρηστών δεν είναι δωρεάν και το κόστος εξωτερικεύεται, είναι απολύτως έγκυρο ανεξάρτητα από τους μαθηματικούς υπολογισμούς.