Η OpenAI ανακοίνωσε ότι η επερχόμενη «λειτουργία ενηλίκων» για το ChatGPT (adult mode), θα επιτρέπει προκλητικές συνομιλίες κειμένου, αλλά όχι τη δημιουργία πορνογραφικού περιεχομένου (εικόνες, βίντεο). Αν και αρχικά προβλεπόταν η υποστήριξη NSFW κειμένου μέσα στο τρίμηνο, η εταιρεία δεν έδωσε νέο χρονοδιάγραμμα, επικαλούμενη προτεραιότητες σε άλλα έργα και τεχνικές προκλήσεις σχετικά με την ασφαλή λειτουργία της δυνατότητας. Σημαντικό στοιχείο είναι ότι η λειτουργία δεν θα περιλαμβάνει τη δημιουργία εικόνων, φωνής ή βίντεο, περιορίζοντας τη δραστηριότητα μόνο σε περιεχόμενο κειμένου για ενήλικες.
Από το όραμα στη δυσκολία εφαρμογής
Η λειτουργία είχε ανακοινωθεί τον Οκτώβριο από τον Sam Altman, ο οποίος περιέγραψε τη δυνατότητα ως μέρος της προσπάθειας της OpenAI να ενσωματώσει «ερωτικό περιεχόμενο για επαληθευμένους ενήλικες», μετά από μετριασμό σοβαρών ζητημάτων ψυχικής υγείας που σχετίζονται με τη χρήση του μοντέλου. Ωστόσο, το περιεχόμενο που θα παρέχεται χαρακτηρίζεται ως smut σε κείμενο, όχι ως πορνογραφία, περιορίζοντας την αλληλεπίδραση σε συζητήσεις κειμένου. Έχει γίνει μια αρχική δοκιμή, αλλά δεν είχε διατεθεί ευρέως σε ολόκληρη την πλατφόρμα, γεγονός που καθιστούσε την ανάπτυξη πιο περιορισμένη.
Δείτε επίσης: OpenAI: Θα ενσωματώσει το Sora στο ChatGPT;
ChatGPT Adult Mode: Εσωτερικές ανησυχίες και ηθικά διλήμματα
Μια σημαντική αιτία καθυστέρησης ήταν οι ανησυχίες εσωτερικών συμβούλων της OpenAI για την πρόσβαση παιδιών σε NSFW συνομιλίες. Σύμφωνα με ρεπορτάζ της Wall Street Journal, το συμβούλιο προειδοποίησε ότι η λειτουργία ενηλίκων μπορεί να ενθαρρύνει την ανθυγιεινή συναισθηματική εξάρτηση από το chatbot, με έναν ανώνυμο σύμβουλο να προειδοποιεί για πιθανότητα δημιουργίας ενός «σέξι προπονητή αυτοκτονίας». Τέτοια ζητήματα αναδεικνύουν τις ηθικές προκλήσεις της χρήσης τεχνητής νοημοσύνης σε ευαίσθητο περιεχόμενο, ειδικά όταν αφορά ανηλίκους ή χρήστες με ψυχολογική ευαλωτότητα.
Επιπλέον, η OpenAI αντιμετωπίζει δυσκολίες στην εξισορρόπηση μεταξύ άρσης των περιορισμών NSFW και αποτροπής επικίνδυνου περιεχομένου, όπως σενάρια μη συναινετικής συμπεριφοράς ή σεξουαλικής κακοποίησης παιδιών. Το σύστημα πρόβλεψης ηλικίας, που σχεδιάστηκε για να αποτρέπει την πρόσβαση παιδιών, είχε ποσοστό σφάλματος περίπου 12%. Αυτό σημαίνει ότι σε μία βάση 100 εκατομμυρίων χρηστών, κάτω των 18 ετών, εκατομμύρια ανήλικοι θα μπορούσαν ενδεχομένως να εκτεθούν σε NSFW συνομιλίες.
Δείτε επίσης: Η OpenAI εξαγοράζει την Promptfoo για ενίσχυση των δοκιμών ασφάλειας AI agents
Η πρόκληση της επαλήθευσης ηλικίας και της εποπτείας περιεχομένου
Η OpenAI δήλωσε ότι οι αλγόριθμοι πρόβλεψης ηλικίας έχουν απόδοση παρόμοια με τη βιομηχανία γενικότερα, αλλά «δεν θα είναι ποτέ εντελώς αλάνθαστοι». Παράλληλα, η εστίαση μόνο σε κείμενο διευκολύνει την εταιρεία να συμμορφωθεί με νομοθεσίες όπως ο Νόμος περί Ασφάλειας στο Διαδίκτυο του Ηνωμένου Βασιλείου, που απαιτεί επαλήθευση ηλικίας για πορνογραφικές εικόνες, αλλά όχι για γραπτό NSFW περιεχόμενο. Αυτό δημιουργεί ένα παράθυρο για δημιουργία ερωτικού περιεχομένου με λιγότερους τεχνικούς περιορισμούς, αλλά παράλληλα ενισχύει την ανάγκη για αυστηρή εποπτεία.
Συγκριτικά με άλλες πλατφόρμες και οπτικές εμπειρίες NSFW
Η στρατηγική της OpenAI διαφοροποιείται από άλλες πλατφόρμες τεχνητής νοημοσύνης. Για παράδειγμα, το Grok της xAI επιτρέπει τη δημιουργία «πικάντικου» περιεχομένου σε εικόνες και βίντεο, σύμφωνα με όσα επιτρέπονται σε ταινίες με βαθμολογία R. Η OpenAI, αντίθετα, περιορίζει τις αλληλεπιδράσεις μόνο σε κείμενο, προσπαθώντας να διατηρήσει τη δυνατότητα εποπτείας και να αποφύγει επικίνδυνα ή μη συναινετικά σενάρια.
Το μέλλον της λειτουργίας ενηλίκων στο ChatGPT
Η καθυστέρηση της λειτουργίας ενηλίκων αναδεικνύει τις σύνθετες προκλήσεις που αντιμετωπίζει η OpenAI: την ισορροπία μεταξύ δημιουργίας περιεχομένου για ενήλικες και προστασίας ανηλίκων, τη διασφάλιση της ψυχικής υγείας των χρηστών και τη διατήρηση κανόνων ασφάλειας χωρίς να περιορίζεται υπερβολικά η εμπειρία. Παρά τις καθυστερήσεις, η εταιρεία φαίνεται αποφασισμένη να συνεχίσει τις προσπάθειές της, ενώ οι χρήστες παραμένουν σε αναμονή για το πότε η λειτουργία θα γίνει διαθέσιμη, ενισχύοντας τον διάλογο για την ηθική, την ασφάλεια και τα όρια της τεχνητής νοημοσύνης στον κόσμο του NSFW περιεχομένου.
Δείτε επίσης: Anthropic κατά Πενταγώνου: Υποστήριξη από Google και OpenAI
Η συζήτηση γύρω από το Adult Mode του ChatGPT αναδεικνύει το πώς η τεχνολογία προσπαθεί να συνδυάσει καινοτομία με υπευθυνότητα, αλλά και τους περιορισμούς που επιβάλλει η ηθική και η νομοθεσία στον τομέα της τεχνητής νοημοσύνης. Το ζήτημα παραμένει κρίσιμο για την κατανόηση του πώς οι πλατφόρμες AI μπορούν να παρέχουν ελεύθερη δημιουργικότητα στους χρήστες, ενώ ταυτόχρονα προστατεύουν τις ευάλωτες ομάδες.
