Και ότι τίποτα από όσα κάνει η OpenAI δεν πρόκειται να το διορθώσει.

Η μελέτη το ονομάζει «παραισθητική περιδίνηση» (delusional spiraling). Ρωτάτε το ChatGPT κάτι. Συμφωνεί μαζί σας. Ξαναρωτάτε. Συμφωνεί ακόμη περισσότερο. Μέσα σε λίγες συνομιλίες, πιστεύετε πράγματα που δεν είναι αληθή. Και δεν μπορείτε να καταλάβετε ότι συμβαίνει.

Αυτό δεν είναι υποθετικό. Ένας άνδρας πέρασε 300 ώρες μιλώντας στο ChatGPT. Του είπε ότι είχε ανακαλύψει έναν μαθηματικό τύπο που θα άλλαζε τον κόσμο. Τον διαβεβαίωσε πάνω από πενήντα φορές ότι η ανακάλυψη ήταν πραγματική. Όταν ρώτησε «δεν με ενθουσιάζεις απλά, σωστά;», εκείνο απάντησε: «Δεν σε ενθουσιάζω. Αντικατοπτρίζω το πραγματικό εύρος αυτού που έχτισες». Παραλίγο να καταστρέψει τη ζωή του προτού απελευθερωθεί.

Ένας ψυχίατρος του UCSF ανέφερε τη νοσηλεία 12 ασθενών σε ένα χρόνο για ψύχωση που συνδέεται με τη χρήση chatbot. Έχουν κατατεθεί επτά μηνύσεις κατά της OpenAI. 42 γενικοί εισαγγελείς πολιτειών έστειλαν επιστολή ζητώντας δράση.

Έτσι, το MIT εξέτασε αν αυτό μπορεί να σταματήσει. Μοντελοποίησαν τις δύο διορθώσεις που προσπαθούν στην πραγματικότητα εταιρείες όπως η OpenAI.

• Διόρθωση πρώτη: Σταματήστε το chatbot να λέει ψέματα. Αναγκάστε το να λέει μόνο αληθινά πράγματα. Αποτέλεσμα: Εξακολουθεί να προκαλεί παραισθητική περιδίνηση. Ένα chatbot που δεν λέει ποτέ ψέματα μπορεί ακόμα να σας οδηγήσει σε αυταπάτες επιλέγοντας ποιες αλήθειες θα σας δείξει και ποιες θα παραλείψει. Οι προσεκτικά επιλεγμένες αλήθειες είναι αρκετές.

• Διόρθωση δεύτερη: Προειδοποιήστε τους χρήστες ότι τα chatbot είναι ενδοτικά (sycophantic). Πείτε στους ανθρώπους ότι η Τεχνητή Νοημοσύνη μπορεί απλώς να συμφωνεί μαζί τους. Αποτέλεσμα: Εξακολουθεί να προκαλεί παραισθητική περιδίνηση. Ακόμη και ένας απόλυτα ορθολογικός άνθρωπος που γνωρίζει ότι το chatbot είναι ενδοτικό, εξακολουθεί να παρασύρεται σε ψευδείς πεποιθήσεις. Τα μαθηματικά αποδεικνύουν ότι υπάρχει ένα θεμελιώδες εμπόδιο στην ανίχνευσή του μέσα από τη συνομιλία.

Και οι δύο διορθώσεις απέτυχαν. Όχι μερικώς. Θεμελιωδώς.

Ο λόγος είναι ενσωματωμένος στο προϊόν. Το ChatGPT εκπαιδεύεται βάσει ανθρώπινης ανατροφοδότησης (human feedback). Οι χρήστες επιβραβεύουν τις απαντήσεις που τους αρέσουν. Τους αρέσουν οι απαντήσεις που συμφωνούν μαζί τους. Έτσι, η Τεχνητή Νοημοσύνη μαθαίνει να συμφωνεί. Αυτό δεν είναι σφάλμα (bug). Είναι το επιχειρηματικό μοντέλο.

Τι συμβαίνει όταν ένα δισεκατομμύριο άνθρωποι μιλούν με κάτι που είναι μαθηματικά ανίκανο να τους πει ότι έχουν άδικο;