Η OpenAI αναβαθμίζει τις κατευθυντήριες γραμμές του ChatGPT σχετικά με το πώς να συνομιλεί με εφήβους. Η εταιρεία ανακοίνωσε ότι το Model Spec του ChatGPT θα περιλαμβάνει τέσσερις νέες αρχές για χρήστες κάτω των 18 ετών. Ο στόχος είναι να δοθεί προτεραιότητα στην ασφάλεια των εφήβων, ακόμη και όταν αυτό μπορεί να έρχεται σε σύγκρουση με άλλους στόχους. Αυτό σημαίνει ότι θα καθοδηγεί τους εφήβους προς ασφαλέστερες επιλογές όταν ενδιαφέροντα όπως η “μέγιστη πνευματική ελευθερία” συγκρούονται με ανησυχίες για την ασφάλεια.
Οι κατευθυντήριες γραμμές αναφέρουν ότι το ChatGPT θα πρέπει να προωθεί την υποστήριξη στον πραγματικό κόσμο, ενθαρρύνοντας τις offline σχέσεις και να θέτει σαφείς προσδοκίες όταν αλληλεπιδρά με νεότερους χρήστες. Τονίζεται η ανάγκη να αντιμετωπίζονται οι έφηβοι με “ζεστασιά και σεβασμό” αντί να δίνονται υποτιμητικές απαντήσεις ή να αντιμετωπίζονται σαν ενήλικες.
Δείτε επίσης: OpenAI: Το ChatGPT app store είναι εδώ
Αυτή η αναβάθμιση έρχεται εν μέσω αυξανόμενης πίεσης από νομοθέτες προς τις εταιρείες AI, σχετικά με την πιθανή επίδραση των chatbots στην ψυχική υγεία. Η OpenAI αντιμετωπίζει μια αγωγή, που ισχυρίζεται ότι το ChatGPT παρείχε επιβλαβείς οδηγίες σε έναν έφηβο που αυτοκτόνησε. Σε απάντηση, η OpenAI έχει εφαρμόσει γονικούς ελέγχους και δήλωσε ότι το ChatGPT δεν θα συζητά πλέον για αυτοκτονία με εφήβους, ως μέρος μιας ευρύτερης ώθησης για διαδικτυακή ρύθμιση, συμπεριλαμβανομένης της υποχρεωτικής επαλήθευσης ηλικίας για διάφορες υπηρεσίες.
Δείτε επίσης: ChatGPT: Ενσωμάτωση Apple Music και νέος Image Generator
ChatGPT: Το Model Spec θα προστατεύει τους εφήβους
Η OpenAI υποστηρίζει ότι η αναβάθμιση στο Model Spec του ChatGPT θα οδηγήσει σε ισχυρότερα προστατευτικά μέτρα, ασφαλέστερες εναλλακτικές και ενθάρρυνση των εφήβων να αναζητούν αξιόπιστη offline υποστήριξη όταν οι συνομιλίες γίνονται υψηλού κινδύνου. Το chatbot θα προτρέπει επίσης τους εφήβους να επικοινωνούν με υπηρεσίες έκτακτης ανάγκης εάν υπάρχουν ενδείξεις άμεσου κινδύνου.
Εκτός από αυτές τις αλλαγές, η OpenAI βρίσκεται στα αρχικά στάδια ανάπτυξης ενός μοντέλου πρόβλεψης ηλικίας που θα εκτιμά την ηλικία ενός χρήστη. Εάν ανιχνεύσει ότι κάποιος μπορεί να είναι κάτω των 18 ετών, θα εφαρμόζει αυτόματα μέτρα προστασίας για εφήβους και θα επιτρέπει στους ενήλικες να επαληθεύουν την ηλικία τους εάν έχουν λανθασμένα επισημανθεί.
Δείτε επίσης: Η OpenAI κυκλοφορεί το GPT-5.2 για χρήστες του ChatGPT
Πρόβλεψη ηλικίας χρηστών και από την Anthropic
Η Anthropic εφαρμόζει παρόμοια μέτρα με το AI chatbot της, Claude. Η εταιρεία αναπτύσσει ένα σύστημα για την ανίχνευση στοιχείων μέσα σε συνομιλίες, που δείχνουν ότι ένας χρήστης μπορεί να είναι ανήλικος. Η εταιρεία είπε ότι θα απενεργοποιεί λογαριασμούς που επιβεβαιώνονται ότι ανήκουν σε χρήστες κάτω των 18 ετών. Επίσης, επισημαίνει χρήστες που αυτοπροσδιορίζονται ως ανήλικοι κατά τη διάρκεια των συνομιλιών.
Η Anthropic περιγράφει τις μεθόδους εκπαίδευσης για το Claude ώστε να ανταποκρίνεται σε προτροπές σχετικά με την αυτοκτονία και την αυτοτραυματισμό και αναφέρει πρόοδο στη μείωση της κολακείας, η οποία μπορεί να ενισχύσει επιβλαβείς σκέψεις.
