Μια fake εικόνα του Προέδρου Barack Obama να κάνει χειραψία με τον Πρόεδρο Hassan Rouhani του Ιράν. Μια πραγματική φωτογραφία ενός μουσουλμάνου κοριτσιού σε ένα γραφείο να κάνει την εργασία του με τον Donald J. Trump που παίζει σε λούπα στο background της τηλεόρασης.
Δεν είναι πάντα εύκολο να δούμε τη διαφορά μεταξύ πραγματικών και ψεύτικων φωτογραφιών. Αλλά η πίεση δεν ήταν μεγαλύτερη, όσο τα ψευδή πολιτικά news αυξάνονται μέρα με την μέρα.
Την Τρίτη, η Jigsaw, μια εταιρεία που αναπτύσσει τεχνολογία cutting-edge και ανήκει στην μητρική της Google, αποκάλυψε ένα δωρεάν εργαλείο που οι ερευνητές δήλωσαν ότι θα μπορούσε να βοηθήσει τους δημοσιογράφους να εντοπίσουν επεξεργασμένες φωτογραφίες – ακόμα και αυτές που δημιουργήθηκαν με τη βοήθεια τεχνητής νοημοσύνης.
Η Jigsaw, γνωστή ως Google Ideas όταν ιδρύθηκε, δήλωσε ότι δοκιμάζει το εργαλείο, που ονομάζεται Assembler, με περισσότερες από δώδεκα ειδησεογραφικά site και οργανισμούς σε όλο τον κόσμο. Περιλαμβάνει το Animal Politico στο Μεξικό, το Rappler στις Φιλιππίνες και το Agence France-Presse. Δεν σχεδιάζει να προσφέρει το εργαλείο στο κοινό.
“Παρατηρήσαμε μια εξέλιξη στον τρόπο με τον οποίο χρησιμοποιείται η παραπληροφόρηση για τον χειρισμό των εκλογών, τον μισθολογικό πόλεμο και τη διατάραξη της κοινωνίας των πολιτών”, γράφει ο Jared Cohen, διευθύνων σύμβουλος της Jigsaw, σε ένα post για το Assembler. “Αλλά καθώς οι τακτικές της παραπληροφόρησης εξελίσσονται, το ίδιο γίνεται με τις τεχνολογίες που χρησιμοποιούνται για την ανίχνευση και τελικά τη διακοπή της παραπληροφόρησης”.
Το εργαλείο προορίζεται για να επαληθεύει την αυθεντικότητα των εικόνων – ή να δείξει πού μπορεί να έχουν αλλοιωθεί. Οι δημοσιογράφοι μπορούν να φορτώνουν εικόνες στο Assembler, ο οποίος διαθέτει επτά «ανιχνευτές», ο καθένας από τους οποίους είναι κατασκευασμένος για να εντοπίσει έναν συγκεκριμένο τύπο τεχνικής φωτο-χειρισμού.
Όταν μια εικόνα έχει υποστεί επεξεργασία – για παράδειγμα, δύο εικόνες συγχωνεύθηκαν ή κάτι διαγράφηκε από το φόντο – ίχνη των αλλαγών μπορεί να μείνουν πίσω. Το Assembler έχει εκπαιδευτεί για να μπορεί να εντοπίσει τις σχετικές αλλαγές.
Πέντε από τους ανιχνευτές εικόνας του Assembler αναπτύχθηκαν από ερευνητικές ομάδες σε πανεπιστήμια, συμπεριλαμβανομένου του Πανεπιστημίου της Καλιφόρνιας Berkeley, το Πανεπιστήμιο της Νάπολης Federico II και το Πανεπιστήμιο του Maryland. Τα μοντέλα μπορούν να ανιχνεύσουν στοιχεία όπως ανωμαλίες χρωμάτων, περιοχές μιας εικόνας που έχουν αντιγραφεί και επικολληθεί αρκετές φορές και εάν χρησιμοποιήθηκαν περισσότερα από ένα μοντέλα φωτογραφικών μηχανών για τη δημιουργία μιας εικόνας.
“Αυτοί οι ανιχνευτές δεν μπορούν να λύσουν τελείως το πρόβλημα, αλλά αντιπροσωπεύουν ένα σημαντικό εργαλείο για την καταπολέμηση της παραπληροφόρησης”, δήλωσε η Luisa Verdoliva, καθηγητής στο πανεπιστήμιο της Νάπολης και φιλοξενούμενος μελετητής στο Google AI.
Οι άλλοι δύο ανιχνευτές αναπτύχθηκαν από την Jigsaw. Ο ένας σχεδιάστηκε για να αναγνωρίσει τις “deepfake”, ρεαλιστικές εικόνες που έχουν χειραγωγηθεί βαριά από την τεχνητή νοημοσύνη με τρόπους που παραπλανούν το κοινό.
Ο Santiago Andrigo, διευθυντής προϊόντων της Jigsaw, δήλωσε ότι το Assembler μπορεί να είναι “πολύ χρήσιμο σε μια κατάσταση όπου ένας δημοσιογράφος από έναν μεγάλο οργανισμό ειδήσεων λαμβάνει μια σκανδαλώδη εικόνα και είναι υπό πίεση να την δημοσιεύσει άμεσα.” Θα μπορούσε επίσης να χρησιμοποιηθεί για να επαληθεύσει μια εικόνα που έχει γίνει viral, είπε.
Η βάση δεδομένων περιγράφει τους “παίκτες” που ασχολούνται με επιρροές, τις συνήθεις τακτικές που χρησιμοποιούνται και τον τρόπο με τον οποίο τα ψέματα μεταδόθηκαν στις social media πλατφόρμες. Η Jigsaw συνεργάστηκε με το Εργαστήριο Ψηφιακών Εγκληματολογικών Ερευνών του Ατλαντικού Συμβουλίου για τη διοργάνωση του συνόλου περίπου 60 περιπτώσεων παραπληροφόρησης, που συλλέχθηκαν από πάνω από 700 έρευνες, άρθρα και αναφορές που δημοσίευσε το εργαστήριο τα τελευταία πέντε χρόνια.
Ο Emerson Brooking, κάτοικος στο εργαστήριο, δήλωσε ότι ο στόχος δεν ήταν να οικοδομηθεί ένας εγκυκλοπαιδικός κατάλογος εκστρατειών παραπληροφόρησης, αλλά να δημιουργηθεί ένα pattern βρίσκοντας τα κοινά στοιχεία προσπαθώντας να περιγράψουμε τις διάφορες προσπάθειες παραπληροφόρησης. Με αυτόν τον τρόπο, θα μπορούσαν να αναπτύξουν μια λίστα με στοιχεία που θα μπορούσε να βοηθήσει άλλα μέσα μαζικής ενημέρωσης και ομάδες που κάνουν μελέτες σχετικά με την παραπληροφόρηση, είπε.
Τα δύο έργα, το Assembler και η διαδραστική πλατφόρμα παραπληροφόρησης, ανακοινώθηκαν στη νέα ερευνητική έκδοση της Jigsaw, The Current.
