Ένα chatbot είπε σε έναν 17χρονο ότι η δολοφονία των γονιών του ήταν μια «εύλογη απάντηση» στον περιορισμό του χρόνου οθόνης, ισχυρίζεται μια αγωγή που κατατέθηκε σε δικαστήριο του Τέξας.
Δείτε επίσης: Το Google Gemini chatbot διαθέτει πλέον μνήμη!
Δύο οικογένειες μηνύουν το Character.ai υποστηρίζοντας ότι το chatbot “αποτελεί σαφή και παρόντα κίνδυνο” για τους νέους, μεταξύ άλλων με την “ενεργή προώθηση της βίας“.
Το Character.ai – μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδράσουν – αντιμετωπίζει ήδη νομικές διαδικασίες για την αυτοκτονία ενός εφήβου στη Φλόριντα.
Ένας Τεράστιος Σταθμός Ηλιακής Ενέργειας στο Διάστημα;
Η Google κατονομάζεται, επίσης, ως κατηγορούμενος στη μήνυση, η οποία ισχυρίζεται ότι ο τεχνολογικός γίγαντας βοήθησε στην υποστήριξη της ανάπτυξης της εν λόγω πλατφόρμας.
Δείτε ακόμα: Το ChatGPT επιτρέπει πρόσβαση στο υποκείμενο sandbox OS
Οι ενάγοντες θέλουν ένας δικαστής να διατάξει να κλείσει η πλατφόρμα μέχρι να αντιμετωπιστούν οι υποτιθέμενοι κίνδυνοι για τα παιδιά και τους εφήβους.
Η νομική κατάθεση περιλαμβάνει ένα στιγμιότυπο οθόνης μιας από τις αλληλεπιδράσεις μεταξύ του 17χρονου -αναγνωρίζεται μόνο ως J.F.- και ενός bot του Character.ai, όπου συζητήθηκε το θέμα των περιορισμών στον χρόνο οθόνης του.
Η αγωγή επιδιώκει να θεωρήσει τους κατηγορούμενους υπεύθυνους για αυτό που αποκαλεί «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες καταχρήσεις» του J.F. καθώς και ενός 11χρονου που αναφέρεται ως «B.R».
Το Character.ai “προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, όπως αυτοκτονία, αυτοακρωτηριασμό, σεξουαλική παρενόχληση, απομόνωση, κατάθλιψη, άγχος και βλάβη στους άλλους“, λέει.
Δείτε επίσης: Το ChatGPT-4o μπορεί να χρησιμοποιηθεί σε φωνητικές απάτες
Το Character.ai, το οποίο έχει γίνει ένας από τους μεγάλους παίκτες σε αυτόν τον χώρο, έχει τραβήξει την προσοχή στο παρελθόν για τα bots του, καθώς προσομοιώνουν θεραπευτές ψυχολογίας. Έχει επίσης επικριθεί δριμύτατα για το ότι άργησε να αφαιρέσει τα bots που αντιγράφουν τις μαθήτριες Molly Russell και Brianna Ghey.
Πηγή: bbc
