Πριν λίγες μέρες κυκλοφόρησαν στο διαδίκτυο διάφορες εκθέσεις, οι οποίες ανέφεραν ότι η κινεζική εταιρεία ByteDance (η εταιρεία πίσω από το video sharing app TikTok) ενσωμάτωσε στο TikTok ένα χαρακτηριστικό, που θα μπορούσε να επιτρέψει στους χρήστες να δημιουργήσουν deepfakes πολύ εύκολα.
Τα Deepfakes αποτελούν μια από τις πιο σύγχρονες διαδικτυακές απειλές. Αυτή η τεχνολογία αξιοποιεί τα τεχνητά νευρωνικά δίκτυα και επιτρέπει στους χρήστες να χρησιμοποιήσουν μια υπάρχουσα εικόνα ή βίντεο και να αντικαταστήσουν τα πρόσωπα ή τα αντικείμενα (που υπάρχουν σε αυτά) με άλλα παρόμοια. Το αποτέλεσμα είναι τόσο καλό, που είναι δύσκολο να καταλάβουμε αν το περιεχόμενο είναι αληθινό ή ψεύτικο.
Τα Deepfakes φέρουν πολλούς κινδύνους. Στην πραγματικότητα, ο κίνδυνος είναι τόσο μεγάλος, που ανάγκασε το Facebook να απαγορεύσει τέτοιου είδους περιεχόμενο στην πλατφόρμα του. Ωστόσο, τα εργαλεία για τη δημιουργία αυτών των βίντεο έχουν ενσωματωθεί στο TikTok. Το νέο χαρακτηριστικό ονομάζεται Face Swap και επιτρέπει στους χρήστες να σαρώσουν το πρόσωπό τους και να μεταφέρουν τη φωτογραφία τους σε βίντεο. Προς το παρόν, το Face Swap δεν είναι διαθέσιμο στους χρήστες.
Οι Face swapping εφαρμογές είναι διαθέσιμες σε διάφορες πλατφόρμες. Ωστόσο, η εισαγωγή τους σε μια εφαρμογή τόσο δημοφιλή όσο το TikTok έχει άρχισε να ανησυχεί τους ειδικούς ασφαλείας.
“Η αποκάλυψη ότι ο προγραμματιστής της TikTok, ByteDance, δημιούργησε μια εφαρμογή για τη δημιουργία deepfake βίντεο, προκαλεί σοβαρές ανησυχίες”, δήλωσε ένας δικηγόρος που ασχολείται με ζητήματα ψηφιακής ασφάλειας και προστασίας της ψηφιακής ιδιωτικής ζωής.
“Η εφαρμογή, η οποία έχει σχεδιαστεί για να επιτρέπει στους χρήστες να μεταφέρουν τα πρόσωπά τους σε βίντεο, απαιτεί από τους χρήστες του TikTok να σαρώσουν λεπτομερώς όλες τις γωνίες του προσώπου τους“, πρόσθεσε ο δικηγόρος. “Αυτό δημιουργεί σοβαρές ανησυχίες, καθώς το TikTok βρίσκεται ήδη στο προσκήνιο λόγω της φήμης ότι στέλνει δεδομένα σε servers στην Κίνα, πιθανότατα για να χρησιμοποιηθούν από την κινεζική κυβέρνηση. Τόσο το αμερικανικό ναυτικό σώμα όσο και ο στρατός έχουν απαγορεύσει τη χρήση του TikTok στους στρατιωτικούς”.
Η Αμερική έχει εκφράσει και στο παρελθόν τις ανησυχίες της σχετικά με το TikTok. Στην πραγματικότητα, κάποιοι γερουσιαστές έχουν δηλώσει ευθέως ότι το θεωρούν απειλή για την εθνική ασφάλεια.
Το θετικό στοιχείο είναι ότι οι εφαρμογές, όπως το Face Swap, δεν είναι αρκετές για να δημιουργήσουν πειστικά βίντεο, αλλά μπορούν να κάνουν τη διαδικασία δημιουργίας deepfakes πιο εύκολη.
“Η πρωταρχική ανησυχία σχετικά με το deepfakes app έχει να κάνει με την παροχή μιας λεπτομερούς βιομετρικής σάρωσης προσώπων σε μια κινεζική εταιρεία που βρίσκεται ήδη στο επίκεντρο ερευνών λόγω των ανησυχιών για την προστασία της ιδιωτικής ζωής και της ασφάλειας”, δήλωσε ο δικηγόρος. “Ενώ οι χρήστες του TikTok ενδέχεται να βρεθούν στον πειρασμό να κάνουν χρήση αυτής της εφαρμογής όταν κυκλοφορήσει, είναι ζωτικής σημασίας να εξετάσουν τους ενδεχόμενους κινδύνους που σχετίζονται με την παροχή βιομετρικής σάρωσης προσώπου”.
Οι κίνδυνοι των Deepfakes
Τα Deepfakes θα μπορούσαν επίσης να χρησιμοποιηθούν για ακόμα πιο κακόβουλους σκοπούς (π.χ. παρακολούθηση του πληθυσμού). Το γεγονός ότι αυτή η τεχνολογία προέρχεται από την Κίνα, ανησυχεί ακόμα περισσότερο τους Αμερικανούς.
“Η Κίνα είναι γνωστή για την ανάπτυξη εξελιγμένου AI λογισμικού αναγνώρισης προσώπου και η παροχή βιομετρικής ανίχνευσης μέσω του TikTok θα μπορούσε να επιτρέψει στην κινεζική κυβέρνηση να κατασκοπεύει τους χρήστες”, δήλωσε ο δικηγόρος. “Η κινεζική κυβέρνηση είναι τρομακτικά διεισδυτική και με τη χρήση του TikTok και αυτής της επερχόμενης εφαρμογής οι χρήστες της Δύσης παρέχουν στις κινεζικές αρχές το υλικό που χρειάζονται για να βελτιώσουν τους αλγόριθμους τους”.
Επίσης, υπάρχει ανησυχία για το πώς θα μπορούσε να χρησιμοποιηθεί αυτή η τεχνολογία κατά τη διάρκεια των αμερικανικών εκλογών που θα λάβουν χώρα το φθινόπωρο.
“Καθώς η τεχνολογία για την παραγωγή deepfakes γίνεται πιο προσιτή, θα τη δούμε να χρησιμοποιείται από κακόβουλες ομάδες που θέλουν να επηρεάσουν τη γνώμη των ψηφοφόρων”, λένε οι ειδικοί.
