Το Meta Oversight Board κατήγγειλε ότι οι μέθοδοι της Meta για την ανίχνευση deepfakes δεν είναι αρκετά ισχυρές για να αντιμετωπίσουν την ταχύτατη διάδοση παραπληροφόρησης κατά τη διάρκεια ένοπλων συγκρούσεων. Η ημι-ανεξάρτητη επιτροπή που καθοδηγεί τις πρακτικές διαμόρφωσης περιεχομένου της Meta καλεί την εταιρεία να αναδιαμορφώσει τον τρόπο που εντοπίζει και σημαίνει το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη στο Facebook, Instagram και Threads.
Η έκκληση για δράση προέκυψε από έρευνα σχετικά με ένα ψεύτικο βίντεο AI που απεικόνιζε φερόμενες ζημιές σε κτίρια στο Ισραήλ και διαμοιράστηκε στις κοινωνικές πλατφόρμες της Meta πέρυσι. Το Oversight Board τονίζει ότι οι συστάσεις του είναι ιδιαίτερα σχετικές τώρα, δεδομένων των “μαζικών στρατιωτικών κλιμακώσεων” σε όλη τη Μέση Ανατολή αυτή την εβδομάδα.
Σύμφωνα με την ανακοίνωση του Board, η πρόσβαση σε ακριβείς και αξιόπιστες πληροφορίες είναι ζωτικής σημασίας για την ασφάλεια των ανθρώπων εν μέσω του αυξημένου κινδύνου χρήσης εργαλείων AI για τη διάδοση παραπληροφόρησης.
Δείτε επίσης: Η Meta θα επιτρέψει ανταγωνιστικά AI chatbots στο WhatsApp
“Τα ευρήματα του Board αναδεικνύουν ότι το τρέχον σύστημα της Meta για την κατάλληλη σήμανση περιεχομένου AI εξαρτάται υπερβολικά από την αυτο-αποκάλυψη της χρήσης AI και την κλιμακωτή αναθεώρηση και δεν ανταποκρίνεται στις πραγματικότητες του σημερινού διαδικτυακού περιβάλλοντος“, δήλωσε το Meta Oversight Board.
Προκλήσεις στην Ανίχνευση Deepfakes και Διαπλατφορμική Διάδοση
Η υπόθεση αναδεικνύει επίσης τις προκλήσεις με τη διαπλατφορμική διάδοση τέτοιου περιεχομένου, καθώς το περιεχόμενο φαίνεται να προήλθε από το TikTok πριν εμφανιστεί σε Facebook, Instagram και X. Αυτό το φαινόμενο καταδεικνύει την ανάγκη για συντονισμένη προσέγγιση στην αντιμετώπιση των deepfakes σε όλες τις πλατφόρμες κοινωνικής δικτύωσης.
Δείτε επίσης: Αγωγή κατά της Meta για τα Ray-Ban Meta glasses
Οι συστάσεις που εκδόθηκαν από το Meta Oversight Board περιλαμβάνουν την πίεση στη Meta να βελτιώσει τους υπάρχοντες κανόνες της για την παραπληροφόρηση ώστε να αντιμετωπίσει τα παραπλανητικά deepfakes, και να καθιερώσει ένα νέο, ξεχωριστό κοινοτικό πρότυπο για το περιεχόμενο που δημιουργείται από AI. Η Meta καλείται επίσης να αναπτύξει καλύτερα εργαλεία ανίχνευσης AI, να είναι διαφανής σχετικά με τις ποινές για παραβιάσεις πολιτικής AI και να κλιμακώσει τις προσπάθειες σήμανσης περιεχομένου AI.
Τεχνικές Λύσεις: C2PA και Προηγμένη Σήμανση
Το τελευταίο περιλαμβάνει τη διασφάλιση ότι οι ετικέτες “High-Risk AI” προστίθενται σε συνθετικές εικόνες και βίντεο πιο συχνά, και τη βελτίωση της υιοθέτησης του C2PA (γνωστό και ως Content Credentials) ώστε οι πληροφορίες για το περιεχόμενο που δημιουργείται από AI να είναι “σαφώς ορατές και προσβάσιμες στους χρήστες”.
Το C2PA αποτελεί ένα τεχνικό πρότυπο που παρέχει δείκτες χειραγώγησης μέσων, επιτρέποντας στους χρήστες να επαληθεύουν την προέλευση και την αυθεντικότητα του ψηφιακού περιεχομένου. Ωστόσο, το Board εκφράζει ανησυχία για αναφορές ότι η Meta “εφαρμόζει ασυνεπώς” το πρότυπο C2PA “ακόμη και σε περιεχόμενο που δημιουργείται από τα δικά της εργαλεία AI“.
Δείτε επίσης: Meta: Αγωγές εναντίον διαφημιστών για celeb-bait scams
Ευρύτερες Επιπτώσεις και Μελλοντικές Προκλήσεις
Τα deepfakes χρησιμοποιούνται όλο και περισσότερο ως εργαλείο παρενόχλησης βάσει φύλου, στοχεύοντας γυναίκες για να τις εκφοβίσουν τόσο διαδικτυακά όσο και εκτός διαδικτύου. Το Oversight Board τόνισε ότι τα θύματα μη συναινετικών deepfake ερωτικών εικόνων – ιδιαίτερα εκείνα χωρίς δημόσια προφίλ – αντιμετωπίζουν το βάρος της συνεχούς αναφοράς εικόνων, κάτι που είναι τόσο τραυματικό όσο και απαιτητικό σε πόρους.
