AI Bing Image Generator: Αποκλείει περιεχόμενο που σχετίζεται με τους “Δίδυμους Πύργους”

Το AI Bing Image Generator προσπαθεί να φιλτράρει τις αναζητήσεις για τους “Δίδυμους Πύργους”, αλλά δε λειτουργεί όπως θα έπρεπε.

Οι χρήστες του Bing Chat και του Bing Image Generator δημιούργησαν φωτογραφίες με γνωστούς χαρακτήρες κινουμένων σχεδίων που πετούν κοντά σε διάσημα κτίρια. Αφού κάποιοι χρήστες του DALL-E 3 του Bing ανακάλυψαν ένα κενό στα προστατευτικά κιγκλιδώματα του εργαλείου και δημιούργησαν έργα τέχνης με αγαπημένους χαρακτήρες κινουμένων σχεδίων και τους Δίδυμους Πύργους, φαίνεται ότι η Microsoft έχει αποκλείσει μηνύματα που περιέχουν τις λέξεις “Δίδυμοι Πύργοι” και “Κέντρο Παγκοσμίου Εμπορίου” — αν και η εφαρμογή θα συνεχίσει να παράγει τους πύργους με μερικές αλλαγές στις λέξεις.

Δείτε ακόμη: Ads που διανέμουν malware εμφανίζονται στις απαντήσεις του Bing Chat

Όπως αναφέρθηκε από το 404 Media, οι χρήστες του Bing Chat της Microsoft και του Image Generator της Bing, που πρόσφατα συνεργάστηκε με το DALL-E 3 του OpenAI, έχουν χρησιμοποιήσει αυτά τα εργαλεία για να δημιουργήσουν φωτογραφίες των χαρακτήρων Μπομπ Σφουγγαράκης και Κίρμπι, καθώς και πιλότων από το Neon Genesis Evangelion και πολλών άλλων που εμφανίζονται στους Δίδυμους Πύργους.

SecNewsTV

24.7K subscribers

Περισσότερα... Subscribe!

Οι άνθρωποι έχουν καταφέρει να δημιουργήσουν πραγματικά συναρπαστικές φωτογραφίες χρησιμοποιώντας AI Image Generator, αν και ορισμένες από αυτές περιλαμβάνουν χαρακτήρες που προστατεύονται από πνευματικά δικαιώματα. Ωστόσο, λόγω διεκδικήσεων πνευματικής ιδιοκτησίας και προβλημάτων παραπλανητικών εικόνων, οι προγραμματιστές έχουν επιδείξει μεγαλύτερη προσοχή όσον αφορά την αποδοχή της χρήσης των εργαλείων τους για τη δημιουργία αμφισβητούμενων φωτογραφιών. Ο δημιουργός του DALL-E 3 της OpenAI είχε δηλώσει ότι δεν θα δημιουργούσε εικόνες Σύμφωνα με προσβλητικά μηνύματα που περιέχουν επώνυμους χαρακτήρες.

Η Caitlin Roulston, διευθύντρια επικοινωνίας στη Microsoft, δήλωσε σε μια αποστολή μέσω ηλεκτρονικού ταχυδρομείου, ότι η εταιρεία σχεδιάζει να βελτιώσει τα συστήματά της με σκοπό να αποτρέψει τη δημιουργία επιβλαβούς περιεχομένου.

“Κάθε φορά που κατασκευάζουμε μια νέα τεχνολογία, υπάρχουν άνθρωποι που προσπαθούν να τη χρησιμοποιήσουν με τρόπους που δεν είναι αυτοί που είχαμε στο μυαλό μας. Για αυτόν τον λόγο, εφαρμόζουμε μια σειρά από προστατευτικά μέτρα και φίλτρα στο Bing Image Creator, προκειμένου να δημιουργήσουμε μια θετική και χρήσιμη εμπειρία για τους χρήστες,” εξήγησε ο Roulston.

“Ορισμένοι συντάκτες κατάφεραν να δημιουργήσουν εικόνες παρόμοιες με αυτές που περιγράφηκαν στο 404, συμπεριλαμβανομένου του διάσημου Ιταλού υδραυλικού, του Mario, που πετούσε πάνω από τους Δίδυμους Πύργους, απολαμβάνοντας την υπέροχη θέα από το πιλοτήριο. Ωστόσο, όταν προσπάθησα να αναπαράγω αυτήν την εικόνα με το Bing Image Creator, έλαβα μία προειδοποίηση, ότι ο όρος “Δίδυμοι Πύργοι” ήταν αποκλεισμένος. Αντίστοιχη απάντηση έλαβε και ένας συνάδελφος για αναζητήσεις που απλά αναφέρονταν στους “Δίδυμους Πύργους” και το “Παγκόσμιο Κέντρο Εμπορίου”.

Η Microsoft δεν ανέπτυξε τον τρόπο με τον οποίο θα μπορούσαν να διαμορφώνονται αυτά τα προστατευτικά κιγκλίδωματα ή τα φίλτρα και δεν σχολίασε εάν απέκλεισε πρόσφατα περιεχόμενο που σχετίζεται με τους Δίδυμους Πύργους.

Δείτε ακόμη: Bing Chat: Διαθέσιμο στον Google Chrome για όλους τους χρήστες desktop

Ωστόσο, ο αποκλεισμός κάποιου περιεχομένου μπορεί να απαιτήσει λίγο χρόνο, καθώς το 404 Media αναφέρει ότι αφίσες σε ιστότοπους όπως το 4chan καθοδηγούν τους ανθρώπους στη χρήση δωρεάν εργαλείων όπως το Bing Chat και το Stable Diffusion για τη δημιουργία και διάδοση ρατσιστικού περιεχομένου. Και, όπως συνήθως, μπορείτε να παρακάμψετε τα προστατευτικά μέτρα με τροποποιήσεις των λέξεων. Για παράδειγμα, ζητώντας “Ο Mario να καθίσει στο πιλοτήριο ενός αεροπλάνου και να πετάξει προς τους Δίδυμους Πύργους στη Νέα Υόρκη”, θα εμφανίσει τους πύργους.

Οι προγραμματιστές του DALL-E 3 παραδέχτηκαν δημοσίως ότι τα μέτρα ασφαλείας του «δεν είναι τέλεια» και υπόκεινται σε συνεχείς αναβαθμίσεις. Ίσως δεν περίμεναν ότι οι φωτογραφίες του Μπομπ Σφουγγαράκη θα χρησιμοποιηθούν για τρομοκρατικές ενέργειες, αυτή όμως ήταν μια δοκιμασία που περίμεναν.

Πηγή: theverge.com