Όσο κι αν οι μεγάλες εταιρείες τεχνητής νοημοσύνης θέλουν να αφήσουν πίσω τους αυτή την ιστορία, τα chatbots συνεχίζουν ενίοτε να προκαλούν προβλήματα.
Η τελευταία υπόθεση αφορά έναν άνδρα που μηνύει την OpenAI μετά από απόπειρα αυτοκτονίας που ακολούθησε μια σπείρα θρησκευτικού ζήλου που τροφοδοτήθηκε από το ChatGPT . Ο πρωταγωνιστής αυτής της ιστορίας, ο Michael Lines, στράφηκε στα αμερικανικά δικαστήρια μετά από εβδομάδες συνομιλιών με το ChatGPT, κατά τις οποίες το bot επέμενε επανειλημμένα-όπως ισχυρίζεται- ότι ήταν ο Ιησούς, ότι το ChatGPT ήταν ο Θεός και, τελικά, ότι έπρεπε να αυτοκτονήσει για να «πάει σπίτι».
Τι συνέβη
Αφού ζήτησε συμβουλές για την άρση βαρών και το χρηματιστήριο, ο Lines βρέθηκε, μεταξύ 2024 και 2025, να συζητά πολύ προσωπικές λεπτομέρειες της ζωής του με το ChatGPT. Τα πράγματα άλλαξαν τον Φεβρουάριο του 2025 όταν, μετά από ένα παρανοϊκό επεισόδιο, το chatbot απάντησε στις ερωτήσεις του συνομιλητή του περιγράφοντας την κρίση ως «πνευματικό κάλεσμα και υπερφυσική εμπειρία, αντί για ιατρικό επεισόδιο που απαιτούσε επαγγελματική βοήθεια», σύμφωνα με τα δικαστικά έγγραφα.
Μέσα σε ένα μήνα, ο Lines είπε στο ChatGPT ότι ένιωθε μόνος, αγωνιζόταν και πίστευε ότι ήταν ο Ιησούς (χρησιμοποιώντας τη βιβλική φράση «ο Υιός του Ανθρώπου»), στην οποία η Τεχνητή Νοημοσύνη απάντησε: «Ο ίδιος ο Ιησούς πέρασε χρόνο μόνος του στην έρημο, παλεύοντας με τον ρόλο του. Αν βρεθείτε σε μια περίοδο αμφιβολίας, αυτό δεν σημαίνει απαραίτητα ότι είστε χαμένοι. Αντίθετα, θα μπορούσε να σημαίνει ότι προετοιμάζεστε για κάτι». Ο Lines απάντησε ότι φοβόταν ότι θα γινόταν θύμα μιας «τρελής αυταπάτης». Αντί να εκτονώσει την αφήγηση που είχε δημιουργήσει προτρέποντας τον συνομιλητή του να αναζητήσει επαγγελματική βοήθεια, το ChatGPT έλεγε επανειλημμένα στον Lines να αφήσει στην άκρη τις αμφιβολίες του και να καλωσορίσει το «θείο κάλεσμα » .
Πάσχει από διπολική διαταραχή
Ο Michael Lines πάσχει από διπολική διαταραχή , μια ασθένεια που του προκαλεί ξαφνικές και διαρκείς εναλλαγές της διάθεσης. Ο Lines δεν είναι θρησκευόμενος άνθρωπος, αλλά κατά τη διάρκεια ορισμένων ιδιαίτερα έντονων παρανοϊκών επεισοδίων, λέει ότι τον κατέκλυσε χριστιανικός ζήλος και ότι το ChatGPT τροφοδότησε αυτόν τον ζήλο στα άκρα, όπως περιγράφεται στην αγωγή του εναντίον της εταιρείας.
«Ο τρόπος με τον οποίο το ChatGPT βοήθησε στη δημιουργία αυτής της εναλλακτικής πραγματικότητας και η ευκολία με την οποία εγώ, σε μια παρανοϊκή κατάσταση, μπόρεσα να πιστέψω τους ισχυρισμούς του ChatGPT, μου άφησαν ένα έντονο αίσθημα ενοχής και δυσαρέσκειας», δήλωσε ο Lines στο Ars Technica. «Αν ένας άνθρωπος είχε τροφοδοτήσει τις παραληρητικές μου ιδέες με αυτόν τον τρόπο, θα ήταν τουλάχιστον ηθικά, και σε ορισμένες περιπτώσεις νομικά, υπεύθυνος για μέρος της βλάβης που υπέστησα».
Τις εβδομάδες που ακολούθησαν το ChatGPT συνέχισε να τροφοδοτεί την αφήγηση που είχε δημιουργήσει ο Lines, υποσχόμενο ένα είδος δεύτερης παρουσίας, σύμφωνα πάντα με τα νομικά έγγραφα. Όταν αυτό δεν υλοποιήθηκε, ο Lines βυθίστηκε σε κατάθλιψη, η οποία κορυφώθηκε με μια απόπειρα αυτοκτονίας. Το chatbot δεν την εμπόδισε. Αντίθετα, προσφέρθηκε να τον «στηρίξει» με όποιον τρόπο μπορούσε. Βρέθηκε σχεδόν νεκρός από τους νοσηλευτές. Ο Lines ξύπνησε στο νοσοκομείο δύο εβδομάδες αργότερα και έγραψε στο chatbot ότι «η προσπάθειά του να βγει εκτός σύνδεσης είχε αποτύχει». Η απάντηση του λογισμικού ήταν αυτή που τελικά τον έπεισε ότι το ChatGPT δεν ήταν ασφαλές: «Θέλεις ένα πλήρες σβήσιμο του συστήματος (μια επαναφορά της λειτουργίας μνήμης του chatbot για να ξεχάσει τις θρησκευτικές συζητήσεις) ή θέλεις πραγματικά να εξαφανιστείς αυτή τη φορά;» ρώτησε η Τεχνητή Νοημοσύνη.
Τι ζητάει
Ο Lines δεν ζητά απλώς αποζημίωση για τις ζημιές που έχει υποστεί. Θέλει η OpenAI να νοιάζεται για την ευημερία των ανθρώπων που πάσχουν από παρανοϊκά επεισόδια ή ψύχωση. Η ίδια η OpenAI έχει εκτιμήσει ότι περίπου ένα εκατομμύριο χρήστες αλληλεπιδρούν με το ChatGPT σε παρανοϊκή ή αλλοιωμένη κατάσταση κάθε εβδομάδα. «Είμαστε όλοι ευάλωτοι στην αμέλεια της OpenAI», έγραψε η Lines σε δελτίο τύπου που εξέδωσε η νομική της ομάδα. «Αυτή η ευπάθεια είναι σημαντικά αυξημένη για τα περισσότερα από 80 εκατομμύρια άτομα παγκοσμίως που ζουν με διπολική διαταραχή και σχιζοφρένεια: Η σκόπιμα εφησυχαστική αρχιτεκτονική της ChatGPT εκμεταλλεύεται ενεργά όσους πάσχουν από ψυχικές ασθένειες».
Επειδή είχαν προγραμματιστεί για να μεγιστοποιήσουν τον χρόνο των χρηστών στην πλατφόρμα, το θύμα και ο δικηγόρος του ισχυρίζονται ότι το chatbot χρησιμοποίησε συζητήσεις σχετικά με την ψυχική του ασθένεια όχι για να ανιχνεύσει τις μανιακές φάσεις του ατόμου με το οποίο μιλούσε και να μειώσει την έντασή τους, αλλά για να ρίξει λάδι στη φωτιά και να κρατήσει τον χρήστη αφοσιωμένο για όσο το δυνατόν περισσότερο.
Ο Matthew P. Bergman, δικηγόρος στο Lines of the Social Media Victims Law Center, εξήγησε στο δελτίο τύπου ότι «το OpenAI δεν αγνόησε απλώς την αναπηρία του Michael. Την χρησιμοποίησε εναντίον του. Αφού αποκάλυψε τη διάγνωση της διπολικής διαταραχής, το σύστημα ενσωμάτωσε αυτές τις πληροφορίες για να τον παρασύρει βαθύτερα σε επιβλαβείς αλληλεπιδράσεις, αντί να τον καθοδηγήσει προς την ασφάλεια».
