Ο Benjamin Netanyahu βρίσκεται στο επίκεντρο θεωριών συνωμοσίας που υποστηρίζουν ότι έχει αντικατασταθεί από deepfake τεχνολογία τεχνητής νοημοσύνης. Τα social media πλημμυρίζουν με αναρτήσεις που ισχυρίζονται ότι ο Ισραηλινός πρωθυπουργός έχει σκοτωθεί ή τραυματιστεί και έχει αντικατασταθεί από AI-generated βίντεο. Η κατάσταση αναδεικνύει πόσο δύσκολο έχει γίνει να διακρίνουμε την πραγματικότητα από το τεχνητό περιεχόμενο στην εποχή των προηγμένων deeρfakes.
Δείτε επίσης: Συμφωνία Ευρωβουλευτών για απαγόρευση μη συναινετικών AI deepfakes
Οι θεωρίες συνωμοσίας ξεκίνησαν μετά από μια συνέντευξη Τύπου που μετέδωσε ζωντανά ο Νetanyahu την Παρασκευή. Ένα απόσπασμα της μετάδοσης μοιράστηκε ευρέως από χρήστες των social media, οι οποίοι ισχυρίζονται ότι το βίντεο δείχνει τον Ισραηλινό πρωθυπουργό με έξι δάχτυλα στο δεξί του χέρι. Τα παλαιότερα generative AI εργαλεία είχαν ιστορικά προβλήματα με την αναπαραγωγή χεριών, γεγονός που τροφοδότησε τις εικασίες ότι το Ισραήλ χρησιμοποιεί deepfake βίντεο για να κρύψει τον θάνατο του Νetanyahu κατά τη διάρκεια ιρανικής πυραυλικής επίθεσης.
Σε πιο προσεκτική εξέταση, το «επιπλέον» δάχτυλο μπορεί εύκολα να εξηγηθεί από την υποβάθμιση της ποιότητας του βίντεο και ακόμη και από τον φωτισμό. Fact checkers συμπεριλαμβανομένων των Snopes και του Politifact του Poynter Institute έχουν διαψεύσει τους ισχυρισμούς ότι το βίντεο ήταν παραγόμενο από AI. Η διάρκεια του βίντεο, που είναι σχεδόν 40 λεπτά, είναι πολύ μεγαλύτερη από τα μέγιστα μήκη κλιπ που μπορούν να παράγουν τα τρέχοντα AI video models.
Ο Netanyahu απαντά στις κατηγορίες για deeρfake με νέο βίντεο
Σε μια προσπάθεια να τερματίσει τις θεωρίες συνωμοσίας για AI κλώνο, ο Νetanyahu δημοσίευσε ένα βίντεο στον λογαριασμό του στο X που τον δείχνει μέσα σε ένα καφέ, ζητώντας από το άτομο πίσω από την κάμερα να μετρήσει τα δάχτυλά του. Ωστόσο, οι χρήστες των social media άμεσα επεσήμαναν φαινομενικές οπτικές ασυνέπειες, υποδηλώνοντας ότι το βίντεο ήταν επίσης ένα AI deeρfake.
Δείτε ακόμα: Meta Oversight Board: Ανεπαρκής η ανίχνευση deepfakes
Μερικά από αυτά τα σχόλια έχουν βάση, επισημαίνοντας στιγμές μέσα στο βίντεο που δείχνουν υγρό να κινείται αφύσικα μέσα στο φλιτζάνι καφέ στο χέρι του Netanyahu, και το δαχτυλίδι στο δάχτυλό του να εξαφανίζεται και να επανεμφανίζεται στο δέρμα που το περιβάλλει, αν και αυτό θα μπορούσε επίσης να εξηγηθεί από την υποβάθμιση του βίντεο. Το περιβάλλον του φόντου έχει επίσης τεθεί υπό αμφισβήτηση – η ταμειακή μηχανή στον πάγκο φαίνεται να εμφανίζει ημερομηνία από το 2024, για παράδειγμα.
Η τεχνολογία deeρfake προέκυψε το 2017 όταν ένας χρήστης του Reddit με το όνομα «deepfakes» μοιράστηκε AI-generated πορνογραφικά βίντεο χρησιμοποιώντας generative adversarial networks (GANs), προκαλώντας ευρεία ευαισθητοποίηση για τη χειραγώγηση συνθετικών μέσων. Οι ταχείες εξελίξεις στα neural networks, transformers και multimodal AI από το 2020 έχουν κάνει τα deeρfakes όλο και πιο ρεαλιστικά, επιτρέποντας αντικαταστάσεις προσώπων, κλωνοποίηση φωνής και αλλαγές βίντεο με πάνω από 92% αποφυγή ανίχνευσης σε ορισμένες περιπτώσεις.
Η αγορά ανίχνευσης deepfake εκτοξεύεται λόγω απειλών
Η αγορά ανίχνευσης deeρfake αναπτύσσεται ραγδαία λόγω των αυξανόμενων απειλών συνθετικών μέσων. Βασικοί παίκτες περιλαμβάνουν τις Reality Defender και Regula, με τους ανιχνευτές που βασίζονται σε μάθηση (χρησιμοποιώντας AI/ML) να προβλέπεται ότι θα κατέχουν πάνω από 60% μερίδιο μέχρι το 2027. Οι τάσεις ευνοούν τις λύσεις πραγματικού χρόνου, cloud-based (61,8% μερίδιο αγοράς το 2024), ανίχνευση βίντεο/εικόνας (66,7% μερίδιο), και πολυτροπική ανάλυση για social media (45% των υλοποιήσεων).
Οι πλατφόρμες ανίχνευσης αφαιρούν 2,4 εκατομμύρια deeρfake βίντεο μηνιαίως στα social media, ενώ τα κορυφαία συστήματα επιτυγχάνουν 92%+ ακρίβεια μέσω neural networks και ανάλυσης πραγματικού χρόνου. Το 90% των επιχειρήσεων στο Μεξικό και το 86% στη Σιγκαπούρη/ΗΑΕ χρησιμοποιούν βιομετρικά στοιχεία μαζί με ανίχνευση για επαλήθευση.
Δείτε επίσης: Deepfake επιθέσεις και βιομετρική παραπλάνηση
Θεωρίες συνωμοσίας όπως αυτές που στοχεύουν τον Netanyahu διαβρώνουν τη δημόσια εμπιστοσύνη, ενισχύοντας τη γεωπολιτική παραπληροφόρηση και πιέζοντας τις πλατφόρμες να επενδύσουν σε ανίχνευση. Οι εταιρείες αντιμετωπίζουν κινδύνους απάτης και φήμης, προκαλώντας μεγάλες επενδύσεις, ενώ οι κυβερνήσεις αναπτύσσουν συστήματα για ασφάλεια και τα μέσα ενημέρωσης για επαλήθευση στοιχείων. Η βιομηχανία βλέπει μία δυναμική «κούρσα εξοπλισμών»: η εξελιγμένη τεχνολογία deepfake αυξάνει το κόστος R&D ανίχνευσης, αλλά παράλληλα τονώνει την καινοτομία σε κλιμακωτά AI εργαλεία, σύμφωνα με την πηγή.
