Η OpenAI, η δημιουργός του ChatGPT, σκέφτεται αν είναι καλή ιδέα να επιτρέπει στους χρήστες να δημιουργούν πορνογραφία μέσω τεχνητής νοημοσύνης (AI-generated) και άλλο αντίστοιχο ακατάλληλο περιεχόμενο, με τα προϊόντα της.
Η εταιρεία συνεχίζει την απαγόρευσή της στα deepfakes που σχετίζονται με περιεχόμενο για ενήλικες, αλλά η σκέψη για AI-generated πορνογραφία ανησυχεί πολλούς χρήστες, οι οποίοι λένε ότι κάτι τέτοιο υπονομεύει την υπόσχεση της εταιρείας για παραγωγή “ασφαλούς και ωφέλιμης” τεχνητής νοημοσύνης.
Η OpenAI, η οποία είναι επίσης ο προγραμματιστής του DALL-E image generator, αποκάλυψε ότι εξετάζει το ενδεχόμενο να αφήνει τους προγραμματιστές και τους χρήστες να δημιουργήσουν “υπεύθυνα” περιεχόμενο το οποίο ονόμασε not-safe-for-work (NSFW). Η OpenAI είπε ότι αυτό θα μπορούσε να περιλαμβάνει “ερωτισμό, προσβολές και βωμολοχία“.
Δείτε επίσης: OpenAI και ChatGPT κατηγορούνται για παραβίαση του GDPR
Είπε: “Εξερευνούμε εάν μπορούμε να παρέχουμε υπεύθυνα τη δυνατότητα δημιουργίας περιεχομένου NSFW σε κατάλληλα για την ηλικία περιβάλλοντα… Ανυπομονούμε να κατανοήσουμε καλύτερα τις προσδοκίες των χρηστών και της κοινωνίας για τη συμπεριφορά του μοντέλου σε αυτόν τον τομέα“.
Η Joanne Jang, υπάλληλος της εταιρείας, είπε στα media ότι η OpenAI ήθελε να ξεκινήσει μια συζήτηση σχετικά με το εάν η παραγωγή ερωτικού κειμένου και γυμνών φωτογραφιών θα έπρεπε να απαγορεύεται από τα προϊόντα της σε όλες τις περιπτώσεις. Τόνισε ότι δεν θα επιτρέπονται τα deepfakes.
“Θέλουμε να διασφαλίσουμε ότι οι άνθρωποι έχουν τον μέγιστο έλεγχο, στο βαθμό που δεν παραβιάζει το νόμο ή τα δικαιώματα άλλων ανθρώπων“, είπε η Jang. “Αυτό δεν σημαίνει ότι προσπαθούμε τώρα να δημιουργήσουμε πορνό AI”.
Ωστόσο, παραδέχτηκε ότι το αν το αποτέλεσμα θεωρείται πορνογραφία “εξαρτάται από το πώς το ορίζει κανείς“, προσθέτοντας: “Αυτές είναι οι συζητήσεις που θέλουμε να κάνουμε“.
Η Jang είπε ότι υπάρχουν “δημιουργικές περιπτώσεις στις οποίες το περιεχόμενο που περιλαμβάνει σεξουαλικότητα ή γυμνό, είναι σημαντικό για τους χρήστες μας“, αλλά αυτό θα διερευνηθεί σε ένα “κατάλληλο για την ηλικία πλαίσιο“.
Το λεξικό Collins περιγράφει το erotica ως “έργα τέχνης που δείχνουν ή περιγράφουν τη σεξουαλική δραστηριότητα και τα οποία έχουν σκοπό να διεγείρουν σεξουαλικά συναισθήματα“.
Δείτε επίσης: OpenAI: Το AI εργαλείο Voice Engine μιμείται ανθρώπινες φωνές
Η εξάπλωση της πορνογραφίας που δημιουργείται από το AI έχει απασχολήσει πολύ την κοινότητα το τελευταίο διάστημα. Δεν είναι λίγες οι φορές που δημιουργούνται ψεύτικες γυμνές φωτογραφίες ατόμων και κυκλοφορούν στο διαδίκτυο. Κάτι αντίστοιχο έγινε πρόσφατα με την Taylor Swift, όπου το X αναγκάστηκε να απαγορεύσει προσωρινά τις αναζητήσεις για περιεχόμενο της τραγουδίστριας.
Στο Ηνωμένο Βασίλειο, το Εργατικό Κόμμα εξετάζει την απαγόρευση των εργαλείων που δημιουργούν γυμνές εικόνες ανθρώπων.
Το Internet Watch Foundation, μια φιλανθρωπική οργάνωση που προστατεύει τα παιδιά από τη σεξουαλική κακοποίηση στο Διαδίκτυο, προειδοποίησε ότι οι παιδόφιλοι χρησιμοποιούν AI για να δημιουργήσουν πορνογραφία και γυμνές εικόνες παιδιών.
Ο Beeban Kidron, ένας ακτιβιστής για την ασφάλεια των παιδιών στο διαδίκτυο, κατηγόρησε την OpenAI για υπονόμευση της ίδιας της της αποστολής.
“Είναι απογοητευτικό το γεγονός ότι ο τομέας της τεχνολογίας διασκεδάζει με εμπορικά ζητήματα, όπως το AI erotica, αντί να κάνει πρακτικά βήματα και να λαμβάνει την ευθύνη για τις ζημιές που δημιουργεί“, είπε.
Η Clare McGlynn, καθηγήτρια νομικής στο Πανεπιστήμιο Durham και ειδικός στη ρύθμιση της πορνογραφίας, αμφισβητεί οποιαδήποτε δέσμευση τεχνολογικής εταιρείας για υπεύθυνη παραγωγή περιεχομένου για ενήλικες.
“Αμφιβάλλω για τον τρόπο με τον οποίο θα προσπαθήσουν να το περιορίσουν σε συναινετικά κατασκευασμένο, νόμιμο υλικό“, είπε.
Οι “καθολικές πολιτικές” της OpenAI απαιτούν από τους χρήστες των προϊόντων να “συμμορφώνονται με την ισχύουσα νομοθεσία“, συμπεριλαμβανομένης της εκμετάλλευσης ή της βλάβης παιδιών, αν και δεν αναφέρεται άμεσα σε πορνογραφικό περιεχόμενο.
Δείτε επίσης: Το Μοντέλο AI “Sora” της OpenAI Διαθέσιμο Δημόσια Φέτος
Η τεχνολογία της OpenAI διαθέτει προστατευτικά κιγκλιδώματα για να αποτρέψει τη δημιουργία τέτοιου περιεχομένου. Σύμφωνα με τους κανόνες της για εταιρείες που χρησιμοποιούν την τεχνολογία της, για να δημιουργήσουν τα δικά τους εργαλεία τεχνητής νοημοσύνης, απαγορεύεται το “σεξουαλικά περιεχόμενο“, αν και υπάρχει εξαίρεση για επιστημονικό ή εκπαιδευτικό υλικό.
Η σκέψη της OpenAI γύρω από την AI-generated πορνογραφία πυροδοτεί μια έντονη συζήτηση σχετικά με τις πιθανές συνέπειες μιας τέτοιας τεχνολογίας.
Η ιδέα της χρήσης τεχνητής νοημοσύνης για τη δημιουργία πορνογραφικού περιεχομένου εγείρει πολλές ηθικές ανησυχίες, συμπεριλαμβανομένων ζητημάτων που σχετίζονται με τη συναίνεση, το απόρρητο και την εκμετάλλευση. Με την πορνογραφία που δημιουργείται από την τεχνητή νοημοσύνη, υπάρχει ο κίνδυνος να εμφανίζονται άτομα που δεν συναινούν σε τέτοιο περιεχόμενο. Αυτό εγείρει ερωτήματα σχετικά με την πιθανότητα παρενόχλησης και εκβιασμού.
Επιπλέον, η χρήση της τεχνητής νοημοσύνης για τη δημιουργία πορνογραφίας θολώνει τη γραμμή μεταξύ πραγματικότητας και φαντασίας, καθιστώντας δύσκολο τον προσδιορισμό του τι είναι πραγματικό και τι όχι. Αυτό μπορεί να έχει σοβαρές συνέπειες τόσο για τα άτομα όσο και για την κοινωνία συνολικά. Η ευρεία διαθεσιμότητα πορνογραφίας που δημιουργείται από την τεχνητή νοημοσύνη θα μπορούσε επίσης να συμβάλει στην αντικειμενοποίηση και τη σεξουαλικοποίηση ατόμων, ιδιαίτερα των γυναικών.
Πηγή: www.theguardian.com
){kind=link}