Σε μία εκτενή και βαρυσήμαντη δημόσια τοποθέτηση σχετικά με τις δικλείδες ασφαλείας που οφείλουν να συνοδεύουν τη ραγδαία εξέλιξη της τεχνητής νοημοσύνης προχώρησε ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν (Sam Altman). Εστιάζοντας στην ανάγκη αποτροπής δύο θεμελιωδών κινδύνων —της απώλειας ελέγχου του μέλλοντος από αυτόνομα συστήματα και της υπερσυγκέντρωσης ισχύος σε μεμονωμένα κράτη ή τεχνολογικά εργαστήρια—, ο επικεφαλής της εταιρείας διαμηνύει ότι η τεχνολογική πρόοδος πρέπει να τελεί υπό διαρκή ανθρώπινο έλεγχο. Καθώς η καμπύλη αναβάθμισης των μοντέλων καθίσταται ολοένα πιο απότομη, ο κ. Άλτμαν χαιρετίζει τη θέσπιση ενός ομοσπονδιακού ρυθμιστικού πλαισίου στις Ηνωμένες Πολιτείες και την εμπλοκή ανεξάρτητων ελεγκτών, ξεκαθαρίζοντας ταυτόχρονα ότι ο «επιμετρημένος βηματισμός» (pacing) δεν σημαίνει διακοπή της έρευνας, αλλά ουσιαστική διασφάλιση ότι οι μηχανισμοί ευθυγράμμισης και εποπτείας θα προηγούνται πάντα των υπολογιστικών δυνατοτήτων.

Οι δύο δυστοπικοί κίνδυνοι: Η απώλεια ελέγχου και η υπερσυγκέντρωση ισχύος

Ανοίγοντας την παρέμβασή του, ο Σαμ Άλτμαν περιγράφει τα δύο βασικά σενάρια αποτυχίας της τεχνητής νοημοσύνης, τα οποία η βιομηχανία οφείλει να αποφύγει πάση θυσία:

«Υπάρχουν δύο τρόποι με τους οποίους η πρόοδος της AI θα μπορούσε να εξελιχθεί πολύ άσχημα και τους οποίους οφείλουμε να αποφύγουμε. Πρώτον, θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος από την AI. Αυτό είναι απαράδεκτο· είμαστε αναπολογητικά στην Ομάδα της Ανθρωπότητας (Team Humanity) και η AI πρέπει πάντα να υπηρετεί τους ανθρώπους. Για να το διασφαλίσουμε αυτό, χρειαζόμαστε τρόπους ώστε οι τεχνικές ευθυγράμμισης (alignment) και ασφάλειας να προηγούνται της προόδου των δυνατοτήτων των μοντέλων».

Η δεύτερη υπαρξιακή απειλή που επισημαίνει αφορά την πολιτική και οικονομική διάσταση της κυριαρχίας επί της τεχνολογίας:

«Δεύτερον, θα μπορούσαμε να καταλήξουμε σε έναν κόσμο με υπερβολική συγκέντρωση ισχύος. Εάν μία εξαιρετικά ισχυρή AI χρησιμοποιηθεί από ένα άτομο ή μία εταιρεία για να επιβάλει την κοσμοθεωρία της σε όλους τους άλλους, τα αποτελέσματα θα μπορούσαν να είναι εξαιρετικά δυστοπικά. Η αποφυγή αυτών των δύο απειλών απαιτεί τη διάβαση ενός στενού ενδιάμεσου μονοπατιού· για παράδειγμα, μία χώρα θα μπορούσε να αποκτήσει υπερβολική δύναμη. Ένα άλλο παράδειγμα είναι ένα εργαστήριο να καταλήξει με υπερβολική ισχύ».

Ομοσπονδιακό πλαίσιο, ανεξάρτητοι ελεγκτές και άμεση εταιρική ευθύνη

Μπροστά στην επιτάχυνση των επιτευγμάτων στα εργαστήρια αιχμής, ο διευθύνων σύμβουλος της OpenAI υπογραμμίζει ότι η διεθνής κοινότητα δικαιούται να απαιτεί εγγυήσεις υπευθυνότητας από τις αμερικανικές εταιρείες:

«Ο κόσμος αξίζει να έχει εμπιστοσύνη ότι οι αμερικανικές εταιρείες που αναπτύσσουν ολοένα πιο ικανή AI θα ενεργήσουν υπεύθυνα, ειδικά καθώς η τροχιά της προόδου έχει γίνει πιο απότομη. Κάθε εργαστήριο τεχνολογικής αιχμής (frontier lab) οφείλει να ανταποκριθεί σε αυτό, και δεν υπάρχει λόγος να πηγαίνουμε στη δουλειά εάν δεν μπορούμε να το πράξουμε».

Στο πλαίσιο αυτό, δηλώνει θετικός απέναντι σε θεσμικές παρεμβάσεις, σημειώνοντας ωστόσο ότι η ανάληψη πρωτοβουλιών δεν πρέπει να παραλύσει εν αναμονή νομοθετικών διαδικασιών:

«Χαιρετίζουμε ένα ομοσπονδιακό πλαίσιο που θα θέτει συνεπείς απαιτήσεις ασφαλείας για την AI αιχμής. Ωστόσο, δεν πιστεύουμε ότι χρειάζεται να περιμένουμε μία εξαίρεση από την αντιμονοπωλιακή νομοθεσία ή νέα νομοθεσία για να ξεκινήσουμε το έργο της παροχής αυτής της εμπιστοσύνης. Οι συνεπείς κανόνες για τη διαχείριση του κινδύνου της τεχνολογικής αιχμής, ώστε να μεγιστοποιήσουμε τα οφέλη, είναι μια καλή ιδέα (και είμαστε ενθουσιασμένοι με ιδέες όπως οι ανεξάρτητοι ελεγκτές)».

Η στροφή στη διαδικασία ανάπτυξης: Προληπτικοί «φάκελοι ασφαλείας» στην ενισχυτική μάθηση

Αναλύοντας την τεχνική εξέλιξη των πρωτοκόλλων ασφαλείας, ο κ. Άλτμαν εξηγεί ότι τα εργαλεία του παρελθόντος δεν επαρκούν πλέον για τα μοντέλα νέας γενιάς. Όπως αναφέρει, παλαιότερες πρωτοβουλίες, όπως οι Πολιτικές Υπεύθυνης Κλιμάκωσης (Responsible Scaling Policies) και τα Πλαίσια Ετοιμότητας (Preparedness Frameworks), ήταν κατάλληλες για την εποχή τους, ωστόσο επικεντρώνονταν κυρίως στη διάθεση ολοκληρωμένων μοντέλων και όχι στα όσα συμβαίνουν κατά τη διάρκεια της ίδιας της διαδικασίας ανάπτυξης.

Σήμερα, η έμφαση μετατοπίζεται στην ασφαλή ανάπτυξη και αξιολόγηση μέσω νέων μεθοδολογιών:

«Για παράδειγμα, στην OpenAI διαμορφώνουμε πλέον ρητούς φακέλους ασφαλείας (safety cases) εκ των προτέρων, πριν από κύκλους εκπαίδευσης ενισχυτικής μάθησης (reinforcement learning runs) αιχμής που αναμένουμε ότι θα αυξήσουν σημαντικά τις δυνατότητες, επιπλέον του έργου ασφαλείας που παραδοσιακά πραγματοποιούμε πριν από την κυκλοφορία των μοντέλων. Ελπίζουμε ότι και άλλες εταιρείες θα διδαχθούν από τις προσεγγίσεις μας και θα προτείνουν τις δικές τους· πιστεύουμε ότι τα κοινά πρότυπα για τη μη ευθυγράμμιση (misalignment), την παρακολούθηση και την ασφάλεια θα οδηγήσουν σε καλύτερα αποτελέσματα. Ανυπομονούμε να συνεργαστούμε με τους συναδέλφους μας σε ολόκληρο τον κλάδο για να διαμορφώσουμε την καλύτερη εκδοχή αυτών των προτύπων».

Τι σημαίνει «pacing»: Επιβράδυνση χωρίς πάγωμα και η ανάγκη διεθνούς συντονισμού

Απαντώντας στον διάλογο περί επιβράδυνσης της τεχνητής νοημοσύνης, ο επικεφαλής της OpenAI αποσαφηνίζει την έννοια της ρύθμισης του βηματισμού (pacing), τονίζοντας ότι η ανταγωνιστική πίεση δεν μπορεί να αποτελεί δικαιολογία για εκπτώσεις στην ασφάλεια:

«Όταν μιλάμε για “ρύθμιση του βηματισμού” (pacing), δεν εννοούμε “σταμάτημα”. Η πρόοδος υπήρξε ταχύτατη και θα συνεχίσει να είναι. Αλλά θα πρέπει να είναι πιο αργή από ό,τι θα μπορούσε να είναι διαφορετικά· οι παρεμβάσεις όπως οι φάκελοι ασφαλείας και η παρακολούθηση έχουν σημαντικό κόστος. Η ρύθμιση του ρυθμού αξίζει απόλυτα αυτό το κόστος· κανένα επίπεδο αμερικανικής ανταγωνιστικής πίεσης δεν πρέπει να δικαιολογεί την απερισκεψία ή να επιτρέπει στις δυνατότητες να προηγούνται της ευθυγράμμισης και της εποπτείας».

Κλείνοντας, προσδιορίζει τον ρόλο που καλείται να διαδραματίσει η αμερικανική κυβέρνηση στην παγκόσμια σκακιέρα:

«Εκεί όπου θα χρειαστούμε τη βοήθεια της κυβέρνησής μας είναι για τον διεθνή συντονισμό. Πρώτα όμως πρέπει να κάνουμε ό,τι μπορούμε οι ίδιοι».