Ακατάλληλες φωτογραφίες της διάσημης τραγουδίστριας Taylor Swift, δημιουργημένες από εργαλείο τεχνητής νοημοσύνης (AI), διαδόθηκαν στα social media αυτή την εβδομάδα. Το περιστατικό δείχνει ξεκάθαρα τις καταστροφικές συνέπειες της κακόβουλης χρήσης της τεχνητής νοημοσύνης.
Οι ψεύτικες εικόνες της Taylor Swift κυκλοφόρησαν κυρίως στο X, παλαιότερα γνωστό ως Twitter. Οι φωτογραφίες έδειχναν την τραγουδίστρια σε προκλητικές στάσεις και πρόλαβαν να τις δουν εκατομμύρια χρήστες, πριν αφαιρεθούν από τις κοινωνικές πλατφόρμες.
Όπως οι περισσότερες μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης, οι πολιτικές του X prohibit την κοινή χρήση δημιουργημένου Table of contents που μπορεί να μπερδέψει τους ανθρώπους και να τους βλάψει.
See also: If an AI model manifests "misleading behaviour", it is difficult to correct
“Αυτό είναι ένα χαρακτηριστικό παράδειγμα των τρόπων με τους οποίους η τεχνητή νοημοσύνη χρησιμοποιείται για πολλούς άθλιους λόγους, χωρίς επαρκή προστατευτικά κιγκλιδώματα για την protection του κοινού“, δήλωσε στο CNN ο Ben Decker, ο οποίος διευθύνει τη Memetica, μια υπηρεσία ψηφιακών ερευνών.
Ο Decker είπε ότι η εκμετάλλευση των generative AI εργαλείων για τη δημιουργία επιβλαβούς περιεχομένου που στοχεύει δημόσια και μη πρόσωπα, εξαπλώνεται ταχύτερα από ποτέ στα μέσα κοινωνικής δικτύωσης.
“Οι εταιρείες μέσων κοινωνικής δικτύωσης δεν έχουν πραγματικά αποτελεσματικά σχέδια για να παρακολουθούν το περιεχόμενο", he said.
Το X, για παράδειγμα, έχει απολύσει πολλά άτομα από την ομάδα εποπτείας περιεχομένου και βασίζεται κυρίως σε αυτοματοποιημένα συστήματα και αναφορές users. Η Meta, επίσης, έκανε περικοπές στις ομάδες της που αντιμετωπίζουν την παραπληροφόρηση.
Δεν είναι σαφές από πού προέρχονται οι AI-generated ακατάλληλες φωτογραφίες της Taylor Swift. Αν και ορισμένες εικόνες βρέθηκαν σε ιστότοπους όπως το Instagram και το Reddit, το πρόβλημα ήταν μεγαλύτερο στο X.
Ο Decker πιστεύει ότι οι εταιρείες τεχνητής νοημοσύνης, οι companies μέσων κοινωνικής δικτύωσης, οι ρυθμιστικές αρχές και η ίδια η κοινωνία πρέπει να συζητήσουν για το ζήτημα της κατάχρησης του AI και να βρουν μια λύση, καθώς το ακατάλληλο, ψεύτικο και επικίνδυνο περιεχόμενο θα συνεχίσει να εξαπλώνεται.
See also: Bad Bunny: Furious with AI-generated song that mimics his voice
Ο Decker είπε, ωστόσο, ότι η στόχευση της Taylor Swift θα μπορούσε να φέρει περισσότερη προσοχή στο πρόβλημα. Η τεράστια ομάδα πιστών “Swifties” εξέφρασε την οργή της στα social media, φέρνοντας το θέμα στο προσκήνιο. Το 2022, μια κατάρρευση της Ticketmaster πριν από τη συναυλία της στο Eras Tour πυροδότησε οργή στο internet, οδηγώντας σε αρκετές νομοθετικές προσπάθειες για την πάταξη των μη φιλικών προς τους καταναλωτές πολιτικών έκδοσης εισιτηρίων.
Ίσως συμβεί το ίδιο και για τις ακατάλληλες φωτογραφίες που δημιουργούνται από AI.
“Όταν έχετε πρόσωπα όπως η Taylor Swift που είναι τόσο μεγάλα, ίσως αυτό είναι που ωθεί τη δράση από τους νομοθέτες και τις εταιρείες Technology επειδή δεν έχουν την πολυτέλεια να έχουν την αγαπημένη της Αμερικής σε μια δημόσια εκστρατεία εναντίον τους", he said. "Πιστεύω ότι πρέπει να την κάνουν να νιώσει καλύτερα, γιατί έχει πιθανώς περισσότερη επιρροή στο Διαδίκτυο“.
Αυτό που έγινε με την Taylor Swift δείχνει πώς η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για αυτό που είναι γνωστό ως “revenge porn“, όπου ο θύτης δημοσιεύει γυμνές και γενικά ακατάλληλες φωτογραφίες του θύματος στο διαδίκτυο χωρίς τη συγκατάθεσή του.
See also: Scarlett Johansson takes legal action against Lisa AI app for imitating her voice
Οι εικόνες αυτές, που δημιουργούνται από την τεχνητή νοημοσύνη, διαδίδονται γρήγορα στα κοινωνικά μέσα επειδή είναι εύκολα προσβάσιμες και μοιράζονται εύκολα. Οι χρήστες μπορούν να κάνουν κλικ σε ένα κουμπί για να μοιραστούν την εικόνα σε διάφορες platforms social media.
Επιπλέον, οι εικόνες αυτές είναι συχνά ενδιαφέρουσες, πράγμα που τις κάνει να ξεχωρίζουν στο feed ενός ατόμου. Αυτό μπορεί να προκαλέσει την προσοχή των χρηστών και να τους ενθαρρύνει να μοιραστούν την εικόνα με τους δικούς τους followers.
Τέλος, οι εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη μπορεί να προκαλέσουν συζητήσεις ή να προκαλέσουν αντιδράσεις, πράγμα που μπορεί να αυξήσει την πιθανότητα να φτάσουν σε ακόμα περισσότερες πλατφόρμες. Οι χρήστες μπορεί να θέλουν να μοιραστούν τις σκέψεις τους ή να δουν τις αντιδράσεις των άλλων, πράγμα που μπορεί να οδηγήσει σε περαιτέρω διάδοση της εικόνας.
Εννέα πολιτείες των ΗΠΑ έχουν επί του παρόντος νόμους κατά της δημιουργίας ή της κοινής χρήσης μη συναινετικών deepfake photo, οι οποίες είναι συνθετικές εικόνες που δημιουργούνται για να μιμούνται κάποιον.
Source: edition.cnn.com
, διαδόθηκαν στα social media αυτή την εβδομάδα.){kind=link}