Για να διασφαλιστεί μια ανθρωποκεντρική και ηθική ανάπτυξη της Τεχνητής Νοημοσύνης (ΤΝ) στην Ευρώπη, οι ευρωβουλευτές ενέκριναν νέους κανόνες διαφάνειας και διαχείρισης κινδύνου για τα συστήματα τεχνητής νοημοσύνης.
Την Πέμπτη 11 Μαΐου, η επιτροπή Εσωτερικής Αγοράς και Προστασίας των Καταναλωτών (IMCO) και η επιτροπή Πολιτικών Ελευθεριών Δικαιοσύνης και Εσωτερικών Υποθέσεων (LIBE) ενέκριναν σχέδιο διαπραγματευτικής εντολής για τους πρώτους κανόνες για την Τεχνητή Νοημοσύνη με 84 ψήφους υπέρ, 7 κατά και 12 αποχές.
Στις τροπολογίες τους στην πρόταση της Επιτροπής, οι ευρωβουλευτές στοχεύουν να διασφαλίσουν ότι τα συστήματα τεχνητής νοημοσύνης επιβλέπονται από ανθρώπους, είναι ασφαλή, διαφανή, ανιχνεύσιμα, χωρίς διακρίσεις και φιλικά προς το περιβάλλον. Θέλουν επίσης έναν ενιαίο ορισμό για την τεχνητή νοημοσύνη, σχεδιασμένο να είναι τεχνολογικά ουδέτερος, ώστε να μπορεί να ισχύει για τα σημερινά και τα αυριανά συστήματα τεχνητής νοημοσύνης.
Επόμενα βήματα
Προτού ξεκινήσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, η διαπραγματευτική εντολή πρέπει να εγκριθεί από την Ολομέλεια του Ευρωπαϊκού Κοινοβουλίου, με την ψηφοφορία να αναμένεται κατά τη σύνοδο της 12ης-15ης Ιουνίου. Εφόσον εγκριθούν, θα είναι οι πρώτοι κανόνες για την Τεχνητή Νοημοσύνη στον κόσμο.
Προσέγγιση με βάση τον κίνδυνο για την τεχνητή νοημοσύνη – Απαγορευμένες πρακτικές τεχνητής νοημοσύνης
Οι κανόνες ακολουθούν μια προσέγγιση βασισμένη στον κίνδυνο και θεσπίζουν υποχρεώσεις για τους παρόχους και τους χρήστες ανάλογα με το επίπεδο κινδύνου που μπορεί να δημιουργήσει η τεχνητή νοημοσύνη. Συστήματα τεχνητής νοημοσύνης με απαράδεκτο επίπεδο κινδύνου για την ασφάλεια των ανθρώπων θα απαγορεύονται αυστηρά, συμπεριλαμβανομένων συστημάτων που αναπτύσσουν υποσυνείδητες ή σκόπιμα χειραγωγικές τεχνικές, εκμεταλλεύονται τα τρωτά σημεία των ανθρώπων ή χρησιμοποιούνται για κοινωνική βαθμολογία (ταξινόμηση ατόμων με βάση την κοινωνική τους συμπεριφορά, την κοινωνικοοικονομική κατάσταση, την προσωπική τους κατάσταση Χαρακτηριστικά).
Οι ευρωβουλευτές τροποποίησαν ουσιαστικά τον κατάλογο για να συμπεριλάβει απαγορεύσεις για παρεμβατικές και μεροληπτικές χρήσεις συστημάτων τεχνητής νοημοσύνης όπως:
- Απομακρυσμένα βιομετρικά συστήματα αναγνώρισης «σε πραγματικό χρόνο» σε χώρους προσβάσιμους από το κοινό.
- «Αποστολή» απομακρυσμένων βιομετρικών συστημάτων ταυτοποίησης, με μόνη εξαίρεση τις αρχές επιβολής του νόμου για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από δικαστική εξουσιοδότηση.
- Συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. φύλο, φυλή, εθνικότητα, ιθαγένεια, θρησκεία, πολιτικός προσανατολισμός).
- Συστήματα πρόβλεψης αστυνόμευσης (με βάση το προφίλ, την τοποθεσία ή την προηγούμενη εγκληματική συμπεριφορά).
- Συστήματα αναγνώρισης συναισθημάτων στην επιβολή του νόμου, τη διαχείριση των συνόρων, τους χώρους εργασίας και τα εκπαιδευτικά ιδρύματα. και
- Αδιάκριτη απόξεση βιομετρικών δεδομένων από μέσα κοινωνικής δικτύωσης ή πλάνα CCTV για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου (παραβίαση των ανθρωπίνων δικαιωμάτων και του δικαιώματος στην ιδιωτική ζωή).
AI υψηλού κινδύνου
Οι ευρωβουλευτές διεύρυναν την ταξινόμηση των περιοχών υψηλού κινδύνου για να συμπεριλάβουν τις βλάβες στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα ή το περιβάλλον των ανθρώπων. Πρόσθεσαν επίσης συστήματα AI για να επηρεάσουν τους ψηφοφόρους σε πολιτικές εκστρατείες και σε συστήματα συστάσεων που χρησιμοποιούνται από πλατφόρμες μέσων κοινωνικής δικτύωσης (με περισσότερους από 45 εκατομμύρια χρήστες βάσει του νόμου για τις ψηφιακές υπηρεσίες ) στη λίστα υψηλού κινδύνου.
ΤΝ γενικού σκοπού – μέτρα διαφάνειας
Οι ευρωβουλευτές περιλάμβαναν υποχρεώσεις για τους παρόχους θεμελιωδών μοντέλων – μια νέα και ταχέως εξελισσόμενη εξέλιξη στον τομέα της τεχνητής νοημοσύνης – που θα πρέπει να εγγυηθούν την ισχυρή προστασία των θεμελιωδών δικαιωμάτων, της υγείας και της ασφάλειας και του περιβάλλοντος, της δημοκρατίας και του κράτους δικαίου. Θα πρέπει να αξιολογήσουν και να μετριάσουν τους κινδύνους, να συμμορφωθούν με τις απαιτήσεις σχεδιασμού, πληροφοριών και περιβάλλοντος και να εγγραφούν στη βάση δεδομένων της ΕΕ.
Τα μοντέλα δημιουργίας ιδρυμάτων, όπως το GPT, θα πρέπει να συμμορφώνονται με πρόσθετες απαιτήσεις διαφάνειας, όπως η αποκάλυψη ότι το περιεχόμενο δημιουργήθηκε από τεχνητή νοημοσύνη, ο σχεδιασμός του μοντέλου για να αποτρέψει τη δημιουργία παράνομου περιεχομένου και τη δημοσίευση περιλήψεων δεδομένων που προστατεύονται από πνευματικά δικαιώματα που χρησιμοποιούνται για εκπαίδευση.
Υποστήριξη της καινοτομίας και προστασία των δικαιωμάτων των πολιτών
Για να ενισχύσουν την καινοτομία της τεχνητής νοημοσύνης, οι ευρωβουλευτές πρόσθεσαν εξαιρέσεις σε αυτούς τους κανόνες για ερευνητικές δραστηριότητες και στοιχεία τεχνητής νοημοσύνης που παρέχονται με άδειες ανοιχτού κώδικα. Ο νέος νόμος προωθεί ρυθμιστικά sandboxes, ή ελεγχόμενα περιβάλλοντα, που έχουν δημιουργηθεί από τις δημόσιες αρχές για τη δοκιμή της τεχνητής νοημοσύνης πριν από την ανάπτυξή της.
Οι ευρωβουλευτές θέλουν να ενισχύσουν το δικαίωμα των πολιτών να υποβάλλουν καταγγελίες για συστήματα τεχνητής νοημοσύνης και να λαμβάνουν εξηγήσεις για αποφάσεις που βασίζονται σε συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου που επηρεάζουν σημαντικά τα δικαιώματά τους. Οι ευρωβουλευτές αναμόρφωσαν επίσης τον ρόλο του Γραφείου τεχνητής νοημοσύνης της ΕΕ, το οποίο θα είναι επιφορτισμένο με την παρακολούθηση του τρόπου με τον οποίο εφαρμόζεται το εγχειρίδιο κανόνων τεχνητής νοημοσύνης.
Εισαγωγικά
Μετά την ψηφοφορία, ο συνεισηγητής Brando Benifei (S&D, Ιταλία) δήλωσε: «Είμαστε στα πρόθυρα της θέσπισης νομοθεσίας ορόσημο που πρέπει να αντισταθεί στην πρόκληση του χρόνου. Είναι ζωτικής σημασίας να οικοδομηθεί η εμπιστοσύνη των πολιτών στην ανάπτυξη της τεχνητής νοημοσύνης, να οριστεί ο ευρωπαϊκός δρόμος για την αντιμετώπιση των έκτακτων αλλαγών που ήδη συμβαίνουν, καθώς και να καθοδηγηθεί η πολιτική συζήτηση για την τεχνητή νοημοσύνη σε παγκόσμιο επίπεδο. Είμαστε πεπεισμένοι ότι το κείμενό μας εξισορροπεί την προστασία των θεμελιωδών δικαιωμάτων με την ανάγκη παροχής ασφάλειας δικαίου στις επιχειρήσεις και τόνωσης της καινοτομίας στην Ευρώπη».
Ο συνεισηγητής Dragos Tudorache (Ανανέωση, Ρουμανία) δήλωσε: «Δεδομένου του βαθύ μετασχηματιστικού αντίκτυπου που θα έχει η τεχνητή νοημοσύνη στις κοινωνίες και τις οικονομίες μας, ο νόμος για την τεχνητή νοημοσύνη είναι πολύ πιθανό να είναι το πιο σημαντικό νομοθετικό κομμάτι αυτής της εντολής. Είναι το πρώτο νομοσχέδιο αυτού του είδους παγκοσμίως, πράγμα που σημαίνει ότι η ΕΕ μπορεί να πρωτοστατήσει στο να καταστήσει την τεχνητή νοημοσύνη ανθρωποκεντρική, αξιόπιστη και ασφαλή. Εργαστήκαμε για να υποστηρίξουμε την καινοτομία της τεχνητής νοημοσύνης στην Ευρώπη και να δώσουμε στις νεοφυείς επιχειρήσεις, τις ΜΜΕ και τη βιομηχανία χώρο να αναπτυχθούν και να καινοτομήσουν, προστατεύοντας παράλληλα τα θεμελιώδη δικαιώματα, ενισχύοντας τη δημοκρατική εποπτεία και διασφαλίζοντας ένα ώριμο σύστημα διακυβέρνησης και επιβολής της τεχνητής νοημοσύνης».
Επόμενα βήματα
Προτού ξεκινήσουν οι διαπραγματεύσεις με το Συμβούλιο για την τελική μορφή του νόμου, αυτό το σχέδιο διαπραγματευτικής εντολής πρέπει να εγκριθεί από ολόκληρο το Κοινοβούλιο, με την ψηφοφορία να αναμένεται κατά τη σύνοδο της 12ης-15ης Ιουνίου.