Η Sora πλέον σας επιτρέπει να ελέγχετε καλύτερα τις AI εκδοχές σας, δίνοντάς σας μεγαλύτερη δυνατότητα να αποφασίζετε πώς και πού θα εμφανίζονται οι deepfake εκδοχές σας στην εφαρμογή. Η αναβάθμιση αυτή έρχεται καθώς η OpenAI προσπαθεί να δείξει ότι ενδιαφέρεται πραγματικά για τις ανησυχίες των χρηστών της, καθώς ένα κύμα από AI περιεχόμενο απειλεί να κατακλύσει το διαδίκτυο.
Δείτε επίσης: AI και δημιουργία περιεχομένου: Απειλή ή ευκαιρία για creators;
Οι νέοι έλεγχοι αποτελούν μέρος μιας ευρύτερης σειράς ενημερώσεων του Σαββατοκύριακου που στοχεύουν στη σταθεροποίηση της Sora και στη διαχείριση του χάους που δημιουργείται στη ροή της. Η Sora είναι ουσιαστικά “ένα TikTok για deepfakes“, ένας χώρος για τη δημιουργία βίντεο διάρκειας 10 δευτερολέπτων με σχεδόν οτιδήποτε, συμπεριλαμβανομένων των AI-δημιουργημένων εκδοχών του εαυτού σας ή άλλων (συμπεριλαμβανομένης της φωνής). Η OpenAI αποκαλεί αυτές τις εικονικές εμφανίσεις “cameos“. Οι επικριτές τις αποκαλούν μια επικείμενη καταστροφή παραπληροφόρησης.
Ο Bill Peebles, επικεφαλής της ομάδας Sora στην OpenAI, δήλωσε ότι οι χρήστες μπορούν πλέον να περιορίσουν το πώς μπορούν να χρησιμοποιηθούν οι AI-δημιουργημένες εκδοχές τους στην εφαρμογή. Για παράδειγμα, μπορείτε να αποτρέψετε την AI εκδοχή σας από το να εμφανίζεται σε βίντεο που αφορούν την πολιτική, να την εμποδίσετε να λέει συγκεκριμένες λέξεις ή — αν μισείτε τη μουστάρδα — να την αποτρέψετε από το να εμφανίζεται κοντά σε αυτό το καρύκευμα.
Δείτε ακόμα: OpenAI ChatGPT 4o: Δοκιμή νέου watermark για το μοντέλο Image Generation
Ο υπάλληλος της OpenAI, Thomas Dimson, ανέφερε ότι οι χρήστες μπορούν επίσης να προσθέσουν προτιμήσεις για τις εικονικές τους εκδοχές, όπως για παράδειγμα, να τις κάνουν να φορούν ένα καπέλο με την επιγραφή “#1 Ketchup Fan” σε κάθε βίντεο.
Οι δικλείδες ασφαλείας είναι ευπρόσδεκτες, αλλά η ιστορία των AI-υποστηριζόμενων bots όπως το ChatGPT και το Claude που προσφέρουν συμβουλές για εκρηκτικά, κυβερνοέγκλημα ή βιολογικά όπλα υποδηλώνει ότι κάποιος, κάπου, πιθανότατα θα βρει έναν τρόπο να τις παρακάμψει. Οι άνθρωποι έχουν ήδη παρακάμψει μία από τις άλλες λειτουργίες ασφαλείας της Sora, ένα αδύναμο υδατογράφημα. Ο Peebles δήλωσε ότι η εταιρεία εργάζεται επίσης για τη βελτίωση αυτού.
Ο Peebles ανέφερε ότι η Sora θα συνεχίσει “να βελτιώνει τις περιοριστικές δυνατότητες” και “θα προσθέσει νέους τρόπους για να παραμένετε υπό έλεγχο” στο μέλλον.
Δείτε επίσης: Η OpenAI κυκλοφορεί το Sora στην Ευρωπαϊκή Ένωση
Στην εβδομάδα από την κυκλοφορία της εφαρμογής, η Sora έχει συμβάλει στην ενίσχυση του διαδικτύου με AI-δημιουργημένο περιεχόμενο. Οι χαλαροί έλεγχοι cameo — ουσιαστικά ένα ναι ή όχι σε ομάδες όπως οι αμοιβαίοι, οι εγκεκριμένοι από εσάς ή “όλοι” — ήταν ιδιαίτερο πρόβλημα. Ο ακούσιος σταρ της πλατφόρμας, κανένας άλλος από τον CEO της OpenAI, Sam Altman, απεικονίζει τον κίνδυνο, εμφανιζόμενος σε μια ποικιλία σατιρικών βίντεο που τον δείχνουν να κλέβει, να ραπάρει ή ακόμα και να ψήνει ένα νεκρό Pikachu.
