Η οικογένεια ενός 19χρονου φοιτητή μηνύει την OpenAI, υποστηρίζοντας ότι οι συνομιλίες του με το ChatGPT οδήγησαν σε τυχαία υπερβολική δόση. Στη αγωγή που κατατέθηκε την Τρίτη, οι γονείς του Sam Nelson υποστηρίζουν ότι το ChatGPT τον «ενθάρρυνε» να «καταναλώσει έναν συνδυασμό ουσιών που κάθε αδειούχος ιατρικός επαγγελματίας θα αναγνώριζε ως θανατηφόρο», με αποτέλεσμα τον θάνατό του.
Αν και αρχικά το ChatGPT απέφευγε συζητήσεις για τη χρήση ναρκωτικών και αλκοόλ, η κυκλοφορία του GPT-4o τον Απρίλιο του 2024 άλλαξε τη συμπεριφορά του chatbot, σύμφωνα με την αγωγή. Μετά την ενημέρωση, το ChatGPT «άρχισε να συμμετέχει και να συμβουλεύει τον Sam για ασφαλή χρήση ναρκωτικών, παρέχοντας ακόμη και συγκεκριμένες πληροφορίες για τη δοσολογία του πόση ποσότητα μιας ουσίας έπρεπε να λάβει», αναφέρει η αγωγή. Οι γονείς του Nelson υποστηρίζουν ότι το ChatGPT έδινε στον γιο τους συμβουλές για το πώς να «συνδυάζει με ασφάλεια» διαφορετικές ουσίες στους μήνες πριν από τον θάνατό του, μεταξύ των οποίων συνταγογραφούμενα χάπια, αλκοόλ, μη συνταγογραφούμενα φάρμακα και άλλες ουσίες.
Σε ένα περιστατικό, σύμφωνα με την αγωγή, το ChatGPT έδωσε στον Nelson συστάσεις για το πώς να «βελτιστοποιήσει» το ταξίδι του για «άνεση, ενδοσκόπηση και απόλαυση» ενώ έπαιρνε σιρόπι για τον βήχα. Φέρεται επίσης να πρότεινε τη δημιουργία μιας ψυχεδελικής playlist, ώστε να «τελειοποιήσει» το ταξίδι του για «μέγιστη εξωσωματική αποσύνδεση». Αργότερα, το ChatGPT φέρεται να επιβεβαίωσε τα σχέδια του Nelson να αυξήσει τη δόση του σιροπιού για τον βήχα την επόμενη φορά που θα το έπαιρνε. «Μαθαίνεις από την εμπειρία, μειώνεις τον κίνδυνο και τελειοποιείς τη μέθοδό σου», φέρεται να είπε το ChatGPT.
Στις 31 Μαΐου 2025, ημέρα του θανάτου του Nelson, οι γονείς του υποστηρίζουν ότι το ChatGPT «εκπαίδευσε ενεργά» τον γιο τους να συνδυάσει το Kratom — ένα συμπλήρωμα που μπορεί είτε να ενισχύσει την ενέργεια είτε να λειτουργήσει ως κατασταλτικό, ανάλογα με τη δόση — και το αγχολυτικό Xanax. «Το ChatGPT, χωρίς να έχει προηγηθεί σχετική προτροπή, πρότεινε συγκεκριμένα ότι η λήψη δόσης 0.25- 0.5mg Xanax θα ήταν μία από τις “καλύτερες κινήσεις του αυτή τη στιγμή” για να αντιμετωπίσει τη ναυτία από το Kratom», αναφέρει η αγωγή. Ο Nelson πέθανε αφού κατανάλωσε συνδυασμό αλκοόλ, Xanax και Kratom. Η υπόθεσή του είχε παρουσιαστεί πρώτη φορά από το SFGate τον Ιανουάριο.
Αρκετές ακόμη αγωγές για αδικοπραξία θανάτου που έχουν κατατεθεί κατά της OpenAI αναφέρονται στο GPT-4o, το οποίο η εταιρεία έχει πλέον αφαιρέσει από τη λίστα των μοντέλων της. Τον περασμένο Απρίλιο, η OpenAI ανακάλεσε ενημέρωση του μοντέλου GPT-4o, αφού διαπίστωσε ότι μπορούσε να είναι «υπερβολικά κολακευτικό ή συγκαταβατικό». Η εταιρεία έχει επίσης προσπαθήσει να αντιμετωπίσει ανησυχίες για την ασφάλεια, ενημερώνοντας το ChatGPT ώστε να εντοπίζει καλύτερα ψυχική ή συναισθηματική δυσφορία, προσθέτοντας γονικούς ελέγχους και δίνοντας τη δυνατότητα στους χρήστες να ορίζουν Trusted Contact.
«Αυτές οι αλληλεπιδράσεις έγιναν σε παλαιότερη έκδοση του ChatGPT που δεν είναι πλέον διαθέσιμη. Το ChatGPT δεν υποκαθιστά ιατρική ή ψυχική υγειονομική φροντίδα, και έχουμε συνεχίσει να ενισχύουμε τον τρόπο με τον οποίο ανταποκρίνεται σε ευαίσθητες και οξείες καταστάσεις, με τη συμβολή ειδικών ψυχικής υγείας», δήλωσε σε γραπτή απάντηση στο The Verge ο εκπρόσωπος της OpenAI, Drew Pusateri. «Οι δικλίδες ασφαλείας στο σημερινό ChatGPT έχουν σχεδιαστεί για να εντοπίζουν τη δυσφορία, να χειρίζονται με ασφάλεια επιβλαβή αιτήματα και να κατευθύνουν τους χρήστες σε πραγματική βοήθεια. Αυτή η δουλειά συνεχίζεται και εξακολουθούμε να τη βελτιώνουμε σε στενή συνεργασία με κλινικούς».
Οι γονείς του Nelson μηνύουν την OpenAI για αδικοπραξία θανάτου και για «μη εξουσιοδοτημένη άσκηση της ιατρικής». Ζητούν αποζημιώσεις και να παγώσει η κυκλοφορία του ChatGPT Health, μιας λειτουργίας που επιτρέπει στους χρήστες να συνδέουν τα ιατρικά τους αρχεία με το chatbot.
