Η Character.AI απαγορεύει στους ανήλικους χρήστες να συμμετέχουν σε ανοιχτές συνομιλίες στην πλατφόρμα της, λόγω της απειλής αρκετών αγωγών για την φερόμενη αρνητική της επίδραση στην ψυχική υγεία των εφήβων. Αντίθετα, οι έφηβοι θα έχουν τη δυνατότητα να χρησιμοποιούν μια νέα μορφή «Stories», η οποία, σε αντίθεση με τις κανονικές συνομιλίες, προσφέρει «δομημένες» εμπειρίες τύπου επιλέξτε-τη-δική-σας-περιπέτεια με τους χαρακτήρες AI της πλατφόρμας.
Η δυνατότητα αυτή είναι διαθέσιμη σε όλους, αλλά η Character.AΑI την προωθεί ως έναν τρόπο για να «βελτιώσει» την εμπειρία για χρήστες κάτω των 18 ετών. Τον Οκτώβριο, η Character.AI ανακοίνωσε ότι θα διέκοπτε τις συνομιλίες για εφήβους στις 25 Νοεμβρίου, ενώ αναπτύσσει μια δυνατότητα επαλήθευσης ηλικίας που θα τοποθετεί αυτόματα τους ανήλικους χρήστες σε «πιο συντηρητικές» συνομιλίες AI.
Δείτε επίσης: Προστασία παιδιών στο διαδίκτυο: Αναδιαμόρφωση του KOSA
Αγωγή εναντίον της Character.AI για θάνατο εφήβου
Η Character.AI αντιμετωπίζει αυτή τη στιγμή μια αγωγή, που κατηγορεί την πλατφόρμα AI ότι συνέβαλε στην αυτοκτονία ενός εφήβου. Ταυτόχρονα, υπάρχουν άλλες υποθέσεις που ισχυρίζονται ότι οι συνομιλίες των εφήβων με τους χαρακτήρες AI στην πλατφόρμα έβλαψαν την ψυχική τους υγεία.
Τα νέα “Stories” επιτρέπουν στους χρήστες να επιλέξουν από δύο ή τρεις χαρακτήρες AI, να επιλέξουν ένα είδος και στη συνέχεια είτε να γράψουν τη δική τους υπόθεση είτε να χρησιμοποιήσουν το AI για να δημιουργήσουν μία γι’ αυτούς. Η Character.AI θα δημιουργήσει στη συνέχεια μια «καθοδηγούμενη αφήγηση» όπου οι χρήστες μπορούν να κάνουν συχνές επιλογές που αλλάζουν την πορεία της ιστορίας. Η εμπειρία περιλαμβάνει επίσης εικόνες που δημιουργούνται από AI, με «πλουσιότερα multimodal στοιχεία να έρχονται σύντομα».
Δείτε επίσης: Μαλαισία: Απαγόρευση social media για παιδιά;
Μεγαλύτερη ασφάλεια για τα παιδιά
Αυτή η νέα προσέγγιση στοχεύει να προσφέρει μια πιο ασφαλή και ελεγχόμενη εμπειρία για τους νεότερους χρήστες, ενώ παράλληλα διατηρεί την ελκυστικότητα και τη διαδραστικότητα που χαρακτηρίζουν τις πλατφόρμες AI. Η Character.AI αναγνωρίζει τις ανησυχίες σχετικά με την ψυχική υγεία των εφήβων και προσπαθεί να προσαρμόσει τις υπηρεσίες της ώστε να ανταποκρίνονται καλύτερα στις ανάγκες αυτής της ευαίσθητης ηλικιακής ομάδας.
Επιπλέον, η εταιρεία εργάζεται για την ανάπτυξη τεχνολογιών που θα επιτρέπουν την ασφαλή και υπεύθυνη χρήση των AI εργαλείων της, διασφαλίζοντας ότι οι χρήστες κάτω των 18 ετών θα έχουν πρόσβαση σε περιεχόμενο που είναι κατάλληλο για την ηλικία τους. Η εισαγωγή των Stories αποτελεί ένα σημαντικό βήμα προς αυτή την κατεύθυνση, προσφέροντας μια εναλλακτική λύση που συνδυάζει την ψυχαγωγία με την ασφάλεια.
Δείτε επίσης: Η ΕΕ κατηγορεί Meta και TikTok για αποτυχία προστασίας παιδιών
Η Character.AI συνεχίζει να παρακολουθεί στενά τις εξελίξεις στον τομέα της τεχνητής νοημοσύνης και να προσαρμόζει τις υπηρεσίες της σύμφωνα με τις καλύτερες πρακτικές και τις ανάγκες των χρηστών της.
