ΑρχικήSecurityMicrosoft: Αγώνας κατά των deepfake με νέο εργαλείο ανίχνευσης

Microsoft: Αγώνας κατά των deepfake με νέο εργαλείο ανίχνευσης

Microsoft

Σε μια προσπάθεια να καταπολεμήσει τα deepfake, η Microsoft κυκλοφόρησε ένα νέο εργαλείο ελέγχου βίντεο, το οποίο μπορεί να αναλύσει μια φωτογραφία ή βίντεο και να δείξει αν υπάρχει πιθανότητα να έχει πειραχτεί (να είναι ψεύτικο).

Στην περίπτωση ενός βίντεο, η Microsoft είπε ότι το εργαλείο θα παρέχει ένα ποσοστό σε πραγματικό χρόνο για κάθε καρέ του βίντεο (κατά την αναπαραγωγή του), το οποίο ποσοστό θα δείχνει τις πιθανότητες να είναι deepfake. Το εργαλείο εντοπίζει κάποιες αλλαγές στα χρώματα, στο ξεθώριασμα, στα στοιχεία της κλίμακας του γκρι, που ενδέχεται να μην είναι ανιχνεύσιμα από το ανθρώπινο μάτι.

Τα Deeppake μπορεί να είναι φωτογραφίες, βίντεο ή αρχεία ήχου που υποβάλλονται σε επεξεργασία από εργαλεία τεχνητής νοημοσύνης (AI). Η Microsoft δήλωσε ότι η ανίχνευση deepfake αρχείων είναι ζωτικής σημασίας, ειδικά αυτή την περίοδο που είμαστε τόσο κοντά στις εκλογές των ΗΠΑ.

Η νέα τεχνολογία δημιουργήθηκε χρησιμοποιώντας ένα δημόσιο σύνολο δεδομένων από το Face Forensic ++ και η Microsoft δήλωσε ότι δοκιμάστηκε στο DeepFake Detection Challenge Dataset, το οποίο είναι το κορυφαίο μοντέλο για την εκπαίδευση και τη δοκιμή τεχνολογιών ανίχνευσης deepfake.

Αναμένουμε ότι οι μέθοδοι για τη δημιουργία deepfake θα γίνονται πιο πολύπλοκες“. Ωστόσο, η Microsoft είπε ότι όλες οι AI μέθοδοι ανίχνευσης έχουν ποσοστά αποτυχίας, οπότε πρέπει να το κατανοήσουμε και να είμαστε έτοιμοι να ανταποκριθούμε σε deepfake, που θα προσπεράσουν τις διαδικασίες ανίχνευσης.

Έτσι, μακροπρόθεσμα, πρέπει να αναζητήσουμε ισχυρότερες μεθόδους για τη διατήρηση και την πιστοποίηση της αυθεντικότητας των ειδησεογραφικών άρθρων και άλλων μέσων“.

Έχουν ήδη δημιουργηθεί κάποια εργαλεία γι’ αυτό το σκοπό, αλλά η Microsoft αποκάλυψε επίσης μια νέα τεχνολογία που είπε ότι μπορεί να ανιχνεύσει παραποιημένο περιεχόμενο και να διαβεβαιώσει τους ανθρώπους ότι τα μέσα και τα αρχεία που παρακολουθούν είναι αυθεντικά.

Η τεχνολογία αυτή έχει δύο στοιχεία: το πρώτο να είναι ένα εργαλείο ενσωματωμένο στο Microsoft Azure, που επιτρέπει σε έναν παραγωγό περιεχομένου να προσθέσει ψηφιακά hashes και πιστοποιητικά σε ένα κομμάτι περιεχομένου.

“Τα hashes και τα πιστοποιητικά “ζουν” στη συνέχεια με το περιεχόμενο ως metadata, όπου κι αν ταξιδεύει στο διαδίκτυο“, εξήγησε η Microsoft.

Το δεύτερο είναι ένας reader, ο οποίος μπορεί να συμπεριληφθεί σε μια επέκταση προγράμματος περιήγησης και ελέγχει τα πιστοποιητικά και ταιριάζει τα hashes, για να προσδιορίσει την αυθεντικότητα.

Στον αγώνα της κατά του deepfake, η Microsoft συνεργάστηκε επίσης με το AI Foundation. Μαζί θα κάνουν διαθέσιμο το νέο εργαλείο σε οργανισμούς που εμπλέκονται στη δημοκρατική διαδικασία, συμπεριλαμβανομένων των ειδησεογραφικών outlets και των πολιτικών εκστρατειών, μέσω της πρωτοβουλίας Reality Defender 2020 του ιδρύματος.

Ο ελεγκτής βίντεο θα είναι αρχικά διαθέσιμος μόνο μέσω της πρωτοβουλίας.

deepfake

Η Microsoft θα συνεργαστεί και με άλλες εταιρείες για την καταπολέμηση των deepfake, για τις δοκιμές κλπ.

Το Πανεπιστήμιο της Ουάσινγκτον, η εταιρεία ανίχνευσης deepfake Sensity και η USA Today έχουν επίσης ενταχθεί στο project της Microsoft.

Αυτή η διαδικασία θα βοηθήσει τους ανθρώπους να ξεχωρίσουν την παραπληροφόρηση από τα γνήσια γεγονότα και να διαχειριστούν τους κινδύνους που δημιουργούνται από τα deepfake και τις πλαστογραφίες”, δήλωσε η Microsoft. “Η πρακτική γνώση των μέσων ενημέρωσης μπορεί να επιτρέψει σε όλους μας να σκεφτούμε καλύτερα το πλαίσιο των media, εξακολουθώντας να εκτιμούμε και τη σάτιρα και την παρωδία“.

Μέσω της συνεργασίας, θα υπάρξει μια κοινή ανακοίνωση που θα ενθαρρύνει τους ανθρώπους να κάνουν μια “παύση” και να ελέγξουν για να βεβαιωθούν ότι οι πληροφορίες προέρχονται από έναν αξιόπιστο ειδησεογραφικό οργανισμό, προτού τις κοινοποιήσουν ή τις προωθήσουν στα κοινωνικά μέσα, ιδίως πριν από τις εκλογές.

Digital Fortress
Digital Fortresshttps://secnews.gr
Pursue Your Dreams & Live!
spot_img

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS