Η OpenAI θα περιορίσει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε έναν χρήστη που υποψιάζεται ότι είναι κάτω των 18 ετών, εκτός εάν ο χρήστης αυτός περάσει την τεχνολογία εκτίμησης ηλικίας της εταιρείας ή παράσχει ταυτότητα, μετά από νομικές ενέργειες από την οικογένεια ενός 16χρονου που αυτοκτόνησε τον Απρίλιο μετά από μήνες συνομιλιών με το chatbot.
Δείτε επίσης: Χάκερ αποφεύγουν την ανίχνευση μέσω Generation AI «ChatGPT»
Η OpenAI έδινε προτεραιότητα στην «ασφάλεια έναντι της ιδιωτικότητας και της ελευθερίας των εφήβων», δήλωσε ο διευθύνων σύμβουλος Sam Altman σε μια ανάρτηση ιστολογίου την Τρίτη, δηλώνοντας ότι «οι ανήλικοι χρειάζονται σημαντική προστασία».
Η εταιρεία δήλωσε ότι ο τρόπος με τον οποίο το ChatGPT ανταποκρίνεται σε έναν 15χρονο θα πρέπει να είναι διαφορετικός από τον τρόπο που ανταποκρίνεται σε έναν ενήλικα.
Ο Altman δήλωσε ότι η OpenAI σχεδιάζει να κατασκευάσει ένα σύστημα πρόβλεψης ηλικίας για την εκτίμηση της ηλικίας με βάση τον τρόπο που οι άνθρωποι χρησιμοποιούν το ChatGPT και, εάν υπάρχει αμφιβολία, το σύστημα θα χρησιμοποιεί ως προεπιλογή την εμπειρία κάτω των 18 ετών. Είπε ότι ορισμένοι χρήστες «σε ορισμένες περιπτώσεις ή χώρες» ενδέχεται επίσης να κληθούν να δώσουν ταυτότητα για να επαληθεύσουν την ηλικία τους.
Δείτε ακόμα: Η OpenAI εισβάλλει στο Hollywood με το Critterz, μια AI-powered ταινία
Ο τρόπος με τον οποίο το ChatGPT ανταποκρίνεται σε λογαριασμούς που αναγνωρίζονται ως κάτω των 18 ετών θα αλλάξει, δήλωσε ο Altman. Το γραφικό σεξουαλικό περιεχόμενο θα αποκλειστεί. Θα εκπαιδευτεί να μην φλερτάρει εάν του ζητηθεί από χρήστες κάτω των 18 ετών ή να μην συμμετέχει σε συζητήσεις σχετικά με αυτοκτονία ή αυτοτραυματισμό, ακόμη και σε μια διαδικασία δημιουργικής γραφής.
Η OpenAI παραδέχτηκε τον Αύγουστο ότι τα συστήματά της ενδέχεται να παρουσιάσουν ελλείψεις και ότι θα εγκαταστήσει ισχυρότερα προστατευτικά κιγκλιδώματα γύρω από ευαίσθητο περιεχόμενο, αφού η οικογένεια του 16χρονου Καλιφορνέζου Adam Raine, μήνυσε την εταιρεία μετά τον θάνατο του εφήβου.
Ο δικηγόρος της οικογένειας δήλωσε ότι ο Adam αυτοκτόνησε μετά από «μήνες ενθάρρυνσης από το ChatGPT» και η οικογένεια ισχυρίζεται ότι το GPT-4o «βγήκε βιαστικά στην αγορά… παρά τα σαφή ζητήματα ασφάλειας».
Σύμφωνα με τα έγγραφα που κατατέθηκαν στο αμερικανικό δικαστήριο, το ChatGPT φέρεται να καθοδήγησε τον Adam σχετικά με το αν η μέθοδός του να αυτοκτονήσει θα λειτουργούσε και επίσης προσφέρθηκε να βοηθήσει στη συγγραφή ενός σημείωμα αυτοκτονίας στους γονείς του.
Δείτε επίσης: OpenAI: Δοκιμάζει το “Thinking effort picker” στο ChatGPT
Η εταιρεία ανακοίνωσε την Τρίτη ότι αναπτύσσει επίσης λειτουργίες ασφαλείας για να διασφαλίσει ότι τα δεδομένα που κοινοποιούνται στο ChatGPT είναι ιδιωτικά ακόμη και από υπαλλήλους της OpenAI. Ο Altman είπε επίσης ότι οι ενήλικες χρήστες που επιθυμούν «συζήτηση φλερτ» με το ChatGPT θα μπορούν να την έχουν. Οι ενήλικες χρήστες δεν θα μπορούν να ζητούν οδηγίες για το πώς να αυτοκτονήσουν, αλλά θα μπορούν να ζητήσουν βοήθεια για να γράψουν μια φανταστική ιστορία που απεικονίζει την αυτοκτονία.
