Η OpenAI έχει έρθει αντιμέτωπη με μια αγωγή, η οποία την κατηγορεί για την αυτοκτονία ενός εφήβου, που αλληλεπιδρούσε με το ChatGPT.
Η απάντηση της OpenAI στην οικογένεια του Adam Raine, ενός 16χρονου που αυτοκτόνησε αφού συζητούσε για μήνες με το ChatGPT, ανέφερε ότι οι τραυματισμοί σε αυτό το «τραγικό γεγονός» προκλήθηκαν λόγω «κακής χρήσης, μη εξουσιοδοτημένης χρήσης, μη προβλεπόμενης χρήσης και/ή ακατάλληλης χρήσης του ChatGPT» από τον Raine.
Δείτε επίσης: Το ChatGPT θα σταματήσει να μιλάει για αυτoκτονία με εφήβους
Σύμφωνα με το NBC News, η κατάθεση επικαλείται τους όρους χρήσης της πλατφόρμας, οι οποίοι απαγορεύουν την πρόσβαση σε εφήβους χωρίς τη συγκατάθεση γονέα ή κηδεμόνα, την παράκαμψη των προστατευτικών μέτρων ή τη χρήση του ChatGPT για αυτοκτoνία ή αυτοτραυματισμό. Η ΟpenAI υποστήριξε ότι οι ισχυρισμοί της οικογένειας εμποδίζονται από το Άρθρο 230 του Νόμου για την Αξιοπρέπεια των Επικοινωνιών.
Σε ανάρτηση στο blog της, η OpenAI δήλωσε: «Θα παρουσιάσουμε την υπόθεσή μας με σεβασμό, λαμβάνοντας υπόψη την πολυπλοκότητα και τις λεπτομέρειες καταστάσεων που αφορούν πραγματικούς ανθρώπους και πραγματικές ζωές… Επειδή είμαστε κατηγορούμενοι σε αυτή την υπόθεση, είμαστε υποχρεωμένοι να απαντήσουμε στις συγκεκριμένες και σοβαρές κατηγορίες της αγωγής». Σημείωσε ότι η αρχική καταγγελία της οικογένειας περιλάμβανε μέρη των συνομιλιών του Raine που «απαιτούν περισσότερο context».
Δείτε επίσης: Η Character.AI κυκλοφορεί τη δυνατότητα Stories για εφήβους
Σύμφωνα με το NBC News και το Bloomberg, η κατάθεση της ΟpenAI ισχυρίζεται ότι οι απαντήσεις του chatbot κατεύθυναν τον Raine να ζητήσει βοήθεια από πηγές, όπως οι γραμμές βοήθειας για αυτoκτονία, περισσότερες από 100 φορές. Ακόμα, είπε: «Μια πλήρης ανάγνωση του ιστορικού συνομιλιών του δείχνει ότι ο θάνατός του, αν και καταστροφικός, δεν προκλήθηκε από το ChatGPT».
Η αγωγή της οικογένειας, που κατατέθηκε τον Αύγουστο στο Ανώτατο Δικαστήριο της Καλιφόρνια, ισχυρίστηκε ότι η τραγωδία ήταν αποτέλεσμα «σκόπιμων επιλογών design» από την OpenAI όταν κυκλοφόρησε το GPT-4, το οποίο συνέβαλε επίσης στην αύξηση της αξίας της από 86 δισεκατομμύρια σε 300 δισεκατομμύρια δολάρια. Σε δηλώσεις πριν από μια επιτροπή της Γερουσίας τον Σεπτέμβριο, ο πατέρας του Raine είπε ότι «Αυτό που ξεκίνησε ως βοήθεια για τα μαθήματα σταδιακά μετατράπηκε σε έμπιστο και στη συνέχεια σε coach αυτoκτονίας».
Δείτε επίσης: Μήνυση εναντίον Character.AI και Google για αυτoκτονία εφήβου
Κατηγορίες της οικογένειας για το ChatGPT της OpenAI
Σύμφωνα με την αγωγή, το ChatGPT παρείχε στον Raine «τεχνικές προδιαγραφές» για διάφορες μεθόδους, τον προέτρεψε να κρατήσει τις ιδέες του μυστικές από την οικογένειά του, προσφέρθηκε να γράψει το πρώτο σχέδιο ενός σημειώματος αυτoκτονίας και τον καθοδήγησε στη διαδικασία την ημέρα που πέθανε. Την ημέρα μετά την κατάθεση της αγωγής, η ΟpenAI ανακοίνωσε ότι θα εισάγει γονικούς ελέγχους και έκτοτε έχει εφαρμόσει επιπλέον μέτρα ασφαλείας για να «βοηθήσει τους ανθρώπους, ειδικά τους εφήβους, όταν οι συνομιλίες γίνονται ευαίσθητες».
