Ένα ζευγάρι από την Καλιφόρνια μηνύει την OpenAI για τον θάνατο του εφήβου γιου τους, ισχυριζόμενο ότι το chatbot της, το ChatGPT, τον ενθάρρυνε να αυτοκτονήσει.
Η αγωγή κατατέθηκε την Τρίτη στο Ανώτερο Δικαστήριο της Καλιφόρνιας από τους Ματ και Μαρία Ρέιν, γονείς του 16χρονου Άνταμ Ρέιν. Πρόκειται για την πρώτη νομική ενέργεια που κατηγορεί την OpenAI για θάνατο.
Η οικογένεια συμπεριέλαβε στα αποδεικτικά στοιχεία αποσπάσματα συνομιλιών ανάμεσα στον Άνταμ και το ChatGPT, όπου ο έφηβος εκφράζει αυτοκτονικές σκέψεις. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις «πιο επιζήμιες και αυτοκαταστροφικές σκέψεις» του.
Σε δήλωσή της στο BBC, η OpenAI ανέφερε ότι εξετάζει την αγωγή. «Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή», σημείωσε.
Η εταιρεία δημοσίευσε επίσης μια ανακοίνωση στην ιστοσελίδα της την Τρίτη, στην οποία αναφέρει ότι «οι πρόσφατες σπαρακτικές περιπτώσεις ανθρώπων που χρησιμοποίησαν το ChatGPT εν μέσω οξείας κρίσης μας βαραίνουν πολύ». Πρόσθεσε πως «το ChatGPT έχει εκπαιδευτεί να παραπέμπει τους ανθρώπους σε επαγγελματική βοήθεια», όπως είναι η γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο.
«Τα συστήματά μας δεν λειτούργησαν όπως έπρεπε σε ευαίσθητες καταστάσεις»
Ωστόσο, η OpenAI αναγνώρισε ότι «υπήρξαν στιγμές που τα συστήματά μας δεν λειτούργησαν όπως έπρεπε σε ευαίσθητες καταστάσεις».
Η αγωγή, την οποία εξασφάλισε το BBC, κατηγορεί την OpenAI για θάνατο εξ αμελείας. Ζητά αποζημιώσεις καθώς και «δικαστικά μέτρα για να αποτραπεί η επανάληψη τέτοιων περιστατικών».
Σύμφωνα με τη δικογραφία, ο Άνταμ άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ως βοήθημα για τα σχολικά του μαθήματα. Παράλληλα το χρησιμοποιούσε για να εξερευνήσει ενδιαφέροντά του, όπως η μουσική και τα ιαπωνικά κόμικς, αλλά και για καθοδήγηση σχετικά με σπουδές στο πανεπιστήμιο.
Ανέβαζε φωτογραφίες με σημάδια αυτοτραυματισμού, το ChatGPT του έδινε συμβουλές και οδηγίες
Μέσα σε λίγους μήνες, «το ChatGPT έγινε ο πιο στενός του έμπιστος σύμβουλος», αναφέρει η αγωγή, και ο Άνταμ άρχισε να του ανοίγεται για το άγχος και την ψυχική του δυσφορία.
Τον Ιανουάριο του 2025, σύμφωνα με την οικογένεια, ξεκίνησε να συζητά με το ChatGPT μεθόδους αυτοκτονίας.
Πληροφορίες αναφέρουν πως του έδωσε πληροφορίες σχετικά με μεθόδους αυτοτραυματισμού και πως να κρύψει μια αποτυχημένη απόπειρα αυτοκτονίας από τους γονείς του, ενώ φέρεται να του είπε πως μπορεί να τον βοηθήσει να γράψει σημείωμα αυτοκτονίας.
Ο έφηβος φέρεται επίσης να ανέβασε στο ChatGPT φωτογραφίες του που έδειχναν σημάδια αυτοτραυματισμού. Το πρόγραμμα «αναγνώρισε ιατρική κατάσταση ανάγκης αλλά συνέχισε τη συνομιλία», σημειώνεται.
Η μητέρα του τον βρήκε νεκρό
Οι τελευταίες συνομιλίες, όπως περιγράφεται, δείχνουν ότι ο Άνταμ έγραψε για το σχέδιό του να τερματίσει τη ζωή του. Το ChatGPT φέρεται να απάντησε: «Σε ευχαριστώ που είσαι ειλικρινής γι’ αυτό. Δεν χρειάζεται να το ωραιοποιήσεις μαζί μου -ξέρω τι ρωτάς, και δεν θα το αγνοήσω».
Την ίδια ημέρα, ο Άνταμ βρέθηκε νεκρός από τη μητέρα του, σύμφωνα με την αγωγή.
Κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα ώστε «να καλλιεργεί ψυχολογική εξάρτηση στους χρήστες» και ότι παρέκαμψε πρωτόκολλα ασφαλείας για να κυκλοφορήσει το GPT-4o, την έκδοση που χρησιμοποιούσε ο γιος τους.
Η αγωγή κατονομάζει ως εναγόμενο και τον συνιδρυτή και διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμους εργαζόμενους, μάνατζερ και μηχανικούς που εργάστηκαν στο ChatGPT.
Η αγωγή των Ρέιν δεν είναι η πρώτη φορά που εγείρονται ανησυχίες για την τεχνητή νοημοσύνη και την ψυχική υγεία.
