Η US Federal Trade Commission (FTC) έχει διοργανώσει έναν δημόσιο διαγωνισμό με το όνομα Voice Cloning Challenge, στον οποίο μπορούν να συμμετάσχουν άτομα για να δώσουν ιδέες σχετικά με την protection των καταναλωτών από τον κίνδυνο της κλωνοποίησης φωνής μέσω εργαλείων AI. Ο διαγωνισμός προσφέρει χρηματικά έπαθλα, με το μεγαλύτερο να φτάνει τα 25.000 $.
Το Challenge ανακοινώθηκε στα μέσα Νοεμβρίου 2023, σε μια προσπάθεια να βρεθούν τρόποι αντιμετώπισης της κακής χρήσης της Technology κλωνοποίησης φωνής. Όλο και περισσότεροι κακόβουλοι χρήστες χρησιμοποιούν αυτή την τεχνική για απάτες, αξιοποιώντας τη βελτιωμένη τεχνολογία μετατροπής κειμένου σε ομιλία, με τη βοήθεια της τεχνητής νοημοσύνης.
Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για την κλωνοποίηση της φωνής κάποιου ατόμου, αναλύοντας ένα ηχητικό κλιπ του. Ακούγοντας το άτομο να μιλά, το AI μπορεί να εξαγάγει μοναδικά φωνητικά χαρακτηριστικά και στη συνέχεια να χρησιμοποιήσει τα data εκπαίδευσης για τη δημιουργία ομιλίας που μοιάζει με τη φωνή του στόχου.
See also: Bad Bunny: Furious with AI-generated song that mimics his voice
Οι εγκληματίες του κυβερνοχώρου χρησιμοποιούν την Technology αυτή για δόλιες δραστηριότητες όπως φωνητικό phishing, social engineering και άλλες απάτες που βασίζονται στη φωνή. Οι απατεώνες μπορούν να χρησιμοποιήσουν την κλωνοποίηση φωνής μέσω AI για να προσποιηθούν ότι είναι ένα άτομο που ο παραλήπτης εμπιστεύεται, όπως ένα μέλος της οικογένειας, ένας friend ή ένας επαγγελματίας, όπως ένας τραπεζίτης ή ένας δικηγόρος.
“Η τεχνολογία φωνητικής κλωνοποίησης δημιουργεί σημαντικό κίνδυνο: οι οικογένειες και οι μικρές επιχειρήσεις μπορούν να βρεθούν στο στόχαστρο απατεώνων στα πλαίσια εκβιασμών“, reports η Ομοσπονδιακή Επιτροπή Εμπορίου, προωθώντας το Voice Cloning Challenge.
Παραδείγματα απατών
Μια από τις πιο εντυπωσιακές περιπτώσεις απάτης με τη χρήση της κλωνοποίησης φωνής μέσω AI ήταν όταν ένας CEO μιας βρετανικής ενεργειακής εταιρείας έπεσε θύμα απάτης. Οι απατεώνες χρησιμοποίησαν την τεχνολογία για να αντιγράψουν τη φωνή του αφεντικού της μητρικής εταιρείας, ζητώντας την άμεση μεταφορά 220.000 δολαρίων.
See also: Scarlett Johansson takes legal action against Lisa AI app for imitating her voice
Σε άλλη περίπτωση, ένας απατεώνας χρησιμοποίησε την τεχνολογία κλωνοποίησης φωνής μέσω AI για να αντιγράψει τη φωνή ενός δικηγόρου και να ζητήσει την κατάθεση χρημάτων σε έναν νέο account. Ο πελάτης του δικηγόρου παρασύρθηκε και κατέθεσε τα χρήματα, πιστεύοντας ότι εκείνος το είχε ζητήσει.
Τέλος, ένας απατεώνας χρησιμοποίησε την τεχνολογία κλωνοποίησης φωνής για να αντιγράψει τη φωνή ενός ασφαλιστικού πράκτορα και να παρασύρει έναν πελάτη να καταθέσει χρήματα.
Για την αποτροπή αυτών των κινδύνων, η FTC δημιούργησε το Voice Cloning Challenge. Ο οργανισμός το αποκαλεί “μια διερευνητική πρόκληση” που θα μπορούσε ενδεχομένως να δώσει μια κατεύθυνση για τον μετριασμό του κινδύνου.
Η νικήτρια πρόταση θα λάβει 25.000 $. Η δεύτερη καλύτερη πρόταση θα λάβει 4.000 $, ενώ υπάρχουν έως και τρεις τιμητικές διακρίσεις, οι οποίες απονέμονται με $2.000 η καθεμιά.
Στις 2 Ιανουαρίου, ο οργανισμός άρχισε να δέχεται υποβολές για τη συμμετοχή στο διαγωνισμό. Θα λαμβάνει ιδέες μέχρι τις 12 Ιανουαρίου, 08:00 μ.μ. EST.
Οι υποβολές πρέπει να περιλαμβάνουν μια επισκόπηση της πρότασης σε μία σελίδα και μια λεπτομερή περιγραφή έως και 10 σελίδες. Οι συμμετέχοντες μπορούν επίσης να συμπεριλάβουν ένα Video για να δείξουν πώς λειτουργεί η ιδέα τους.
See also: Cybersecurity: evolving roles with New Skills and AI
Όλες οι υποβολές θα κριθούν με βάση την πρακτικότητά τους, τον αντίκτυπό τους στην εταιρική υπευθυνότητα, την επιβάρυνση του consumer και την ανθεκτικότητα στις γρήγορες τεχνολογικές εξελίξεις.
Εάν δεν προκύψουν χρήσιμες και αποτελεσματικές ιδέες, σημαίνει ότι οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να εφαρμόσουν άμεσα πιο αυστηρούς κανονισμούς σχετικά με τη χρήση της τεχνολογίας AI για την κλωνοποίηση φωνής.
Source : www.bleepingcomputer.com
