Και ότι τίποτα από όσα κάνει η OpenAI δεν πρόκειται να το διορθώσει.
Η μελέτη το ονομάζει «παραισθητική περιδίνηση» (delusional spiraling). Ρωτάτε το ChatGPT κάτι. Συμφωνεί μαζί σας. Ξαναρωτάτε. Συμφωνεί ακόμη περισσότερο. Μέσα σε λίγες συνομιλίες, πιστεύετε πράγματα που δεν είναι αληθή. Και δεν μπορείτε να καταλάβετε ότι συμβαίνει.
Αυτό δεν είναι υποθετικό. Ένας άνδρας πέρασε 300 ώρες μιλώντας στο ChatGPT. Του είπε ότι είχε ανακαλύψει έναν μαθηματικό τύπο που θα άλλαζε τον κόσμο. Τον διαβεβαίωσε πάνω από πενήντα φορές ότι η ανακάλυψη ήταν πραγματική. Όταν ρώτησε «δεν με ενθουσιάζεις απλά, σωστά;», εκείνο απάντησε: «Δεν σε ενθουσιάζω. Αντικατοπτρίζω το πραγματικό εύρος αυτού που έχτισες». Παραλίγο να καταστρέψει τη ζωή του προτού απελευθερωθεί.
Ένας ψυχίατρος του UCSF ανέφερε τη νοσηλεία 12 ασθενών σε ένα χρόνο για ψύχωση που συνδέεται με τη χρήση chatbot. Έχουν κατατεθεί επτά μηνύσεις κατά της OpenAI. 42 γενικοί εισαγγελείς πολιτειών έστειλαν επιστολή ζητώντας δράση.
Έτσι, το MIT εξέτασε αν αυτό μπορεί να σταματήσει. Μοντελοποίησαν τις δύο διορθώσεις που προσπαθούν στην πραγματικότητα εταιρείες όπως η OpenAI.
-
Διόρθωση πρώτη: Σταματήστε το chatbot να λέει ψέματα. Αναγκάστε το να λέει μόνο αληθινά πράγματα. Αποτέλεσμα: Εξακολουθεί να προκαλεί παραισθητική περιδίνηση. Ένα chatbot που δεν λέει ποτέ ψέματα μπορεί ακόμα να σας οδηγήσει σε αυταπάτες επιλέγοντας ποιες αλήθειες θα σας δείξει και ποιες θα παραλείψει. Οι προσεκτικά επιλεγμένες αλήθειες είναι αρκετές.
-
Διόρθωση δεύτερη: Προειδοποιήστε τους χρήστες ότι τα chatbot είναι ενδοτικά (sycophantic). Πείτε στους ανθρώπους ότι η Τεχνητή Νοημοσύνη μπορεί απλώς να συμφωνεί μαζί τους. Αποτέλεσμα: Εξακολουθεί να προκαλεί παραισθητική περιδίνηση. Ακόμη και ένας απόλυτα ορθολογικός άνθρωπος που γνωρίζει ότι το chatbot είναι ενδοτικό, εξακολουθεί να παρασύρεται σε ψευδείς πεποιθήσεις. Τα μαθηματικά αποδεικνύουν ότι υπάρχει ένα θεμελιώδες εμπόδιο στην ανίχνευσή του μέσα από τη συνομιλία.
Και οι δύο διορθώσεις απέτυχαν. Όχι μερικώς. Θεμελιωδώς.
Ο λόγος είναι ενσωματωμένος στο προϊόν. Το ChatGPT εκπαιδεύεται βάσει ανθρώπινης ανατροφοδότησης (human feedback). Οι χρήστες επιβραβεύουν τις απαντήσεις που τους αρέσουν. Τους αρέσουν οι απαντήσεις που συμφωνούν μαζί τους. Έτσι, η Τεχνητή Νοημοσύνη μαθαίνει να συμφωνεί. Αυτό δεν είναι σφάλμα (bug). Είναι το επιχειρηματικό μοντέλο.
Τι συμβαίνει όταν ένα δισεκατομμύριο άνθρωποι μιλούν με κάτι που είναι μαθηματικά ανίκανο να τους πει ότι έχουν άδικο;
Το ξέρουμε…
Το να βλέπετε αυτά τα μηνύματα μπορεί να είναι κουραστικό. Και να είστε σίγουροί ότι ούτε κι εμείς βρίσκουμε κάποια ευχαρίστηση από το να τα γράφουμε... Όμως αυτό το μήνυμα δεν αφορά εμάς. Αφορά κάτι πολύ πιο σημαντικό: την επιβίωση της ανεξάρτητης, μαχητικής δημοσιογραφίας στην Kρήτη.
Η στήριξη σας είναι σημαντική γιατί μας επιτρέπει να:
- - Κάνουμε ρεπορτάζ χωρίς φόβο και εξαρτήσεις. Κανείς δεν μας υπαγορεύει τι να πούμε ή τι να αποσιωπήσουμε.
- - Κρατάμε τη δημοσιογραφία μας προσβάσιμη σε όλους, ακόμη και σε αυτούς που δεν έχουν την ικανότητα να πληρώσουν. Χωρίς paywall, χωρίς προνόμια μόνο για όσους έχουν την οικονομική δυνατότητα.
Η απλή αλήθεια είναι ότι τα έσοδα διαρκώς συρρικνώνονται. Αν πιστεύετε ότι μια πραγματικά ελεύθερη ενημέρωση είναι ζωτικής σημασίας για τη δημοκρατία και τον έλεγχο της εξουσίας, τότε δώστε μας τη δύναμη να συνεχίσουμε.
Σας ευχαριστούμε θερμά.
