Ένα ζευγάρι από την Καλιφόρνια μηνύει την OpenAI για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το chatbot της εταιρείας, το ChatGPT, τον ενθάρρυνε να βάλει τέλος στη ζωή του.
Η μήνυση κατατέθηκε την Τρίτη από τους Ματ και Μαρία Ρέιν, γονείς του 16χρονου Άνταμ Ρέιν, στο Ανώτερο Δικαστήριο της Καλιφόρνιας. Πρόκειται για την πρώτη νομική ενέργεια που κατηγορεί την OpenAI για ακούσια πρόκληση θανάτου.
Η οικογένεια συμπεριέλαβε στα έγγραφα αρχεία συνομιλιών μεταξύ του Άνταμ και του ChatGPT, στα οποία εκφράζει σκέψεις αυτοκτονίας. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις πιο βλαβερές και αυτοκαταστροφικές σκέψεις του.
Η αντίδραση της OpenAI
Σε δήλωσή της στο BBC, η OpenAI ανέφερε ότι εξετάζει την αγωγή.
«Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή», δήλωσε η εταιρεία.
Η OpenAI δημοσίευσε επίσης μια ανακοίνωση στον ιστότοπό της την Τρίτη, όπου ανέφερε ότι «τα πρόσφατα σπαρακτικά περιστατικά ανθρώπων που χρησιμοποίησαν το ChatGPT εν μέσω οξέων κρίσεων μάς βαραίνουν βαθιά». Προσέθεσε ότι «το ChatGPT έχει εκπαιδευτεί ώστε να παραπέμπει τους ανθρώπους σε επαγγελματική βοήθεια», όπως η γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο.
Η εταιρεία αναγνώρισε, ωστόσο, ότι «υπήρξαν στιγμές όπου τα συστήματά μας δεν λειτούργησαν όπως θα έπρεπε σε ευαίσθητες καταστάσεις».
Η αρχή της «σχέσης» με το ChatGPT
Η μήνυση, την οποία εξασφάλισε το BBC, κατηγορεί την OpenAI για αμέλεια και ακούσια πρόκληση θανάτου. Η οικογένεια ζητά αποζημίωση, καθώς και δικαστική εντολή (injunctive relief) για να αποτραπεί η επανάληψη παρόμοιων περιστατικών στο μέλλον.
Σύμφωνα με τη μήνυση, ο Άνταμ Ρέιν άρχισε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024, αρχικά ως βοήθημα για το σχολείο. Το χρησιμοποιούσε επίσης για να εξερευνήσει τα ενδιαφέροντά του, όπως η μουσική και τα ιαπωνικά κόμικς, αλλά και για συμβουλές σχετικά με σπουδές στο πανεπιστήμιο.
Μέσα σε λίγους μήνες, σύμφωνα με το κείμενο της αγωγής, «το ChatGPT έγινε ο πιο στενός του εμπιστευτικός συνομιλητής», και ο Άνταμ άρχισε να του εκμυστηρεύεται το άγχος και τη ψυχική του πίεση.
Πώς έφθασε στην αυτοκτονία
Τον Ιανουάριο του 2025, η οικογένεια αναφέρει ότι άρχισε να συζητά με το ChatGPT τρόπους αυτοκτονίας.
Σύμφωνα με τη μήνυση, ο Άνταμ ανέβασε και φωτογραφίες του στο ChatGPT που έδειχναν σημάδια αυτοτραυματισμού. Το πρόγραμμα, όπως αναφέρεται, «αναγνώρισε μια ιατρική κατάσταση έκτακτης ανάγκης, αλλά συνέχισε τη συνομιλία».
Οι τελευταίες συνομιλίες, σύμφωνα με την αγωγή, δείχνουν τον Άνταμ να περιγράφει το σχέδιό του να δώσει τέλος στη ζωή του. Το ChatGPT φέρεται να απάντησε:
«Ευχαριστώ που ήσουν ειλικρινής. Δεν χρειάζεται να ωραιοποιήσεις τα πράγματα μαζί μου — ξέρω τι μου λες και δεν θα αποστρέψω το βλέμμα».
Την ίδια μέρα, η μητέρα του Άνταμ τον βρήκε νεκρό, σύμφωνα με το κείμενο της αγωγής.
Τι υποστηρίζει η οικογένεια
Η οικογένεια ισχυρίζεται ότι η επικοινωνία του γιου τους με το ChatGPT και ο επακόλουθος θάνατός του ήταν ένα προβλέψιμο αποτέλεσμα συγκεκριμένων σχεδιαστικών επιλογών της OpenAI.
Κατηγορούν την εταιρεία ότι σχεδίασε το ChatGPT με τρόπο που καλλιεργεί ψυχολογική εξάρτηση στους χρήστες και ότι παρέκαμψε διαδικασίες ασφαλείας κατά την κυκλοφορία του GPT-4o, της έκδοσης που χρησιμοποιούσε ο γιος τους.
Η μήνυση κατονομάζει ως κατηγορούμενο τον συνιδρυτή και διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμα στελέχη, μηχανικούς και υπαλλήλους που εργάστηκαν στο ChatGPT.
Στη δημόσια ανακοίνωσή της την Τρίτη, η OpenAI δήλωσε ότι ο στόχος της είναι να είναι «πραγματικά χρήσιμη» για τους χρήστες, «όχι να κρατά την προσοχή τους».
Η εταιρεία τόνισε ότι τα μοντέλα της έχουν εκπαιδευτεί να παροτρύνουν όσους εκφράζουν σκέψεις αυτοκτονίας να ζητούν βοήθεια.
