ΑρχικήinetΗ κατάχρηση του AI και του voice cloning θα σημάνει το τέλος...

Η κατάχρηση του AI και του voice cloning θα σημάνει το τέλος μας

AI και voice cloning, τι μπορεί να πάει λάθος; Το VoiceLab, εταιρία που χρησιμοποιεί AI για να μιμηθεί φωνές αποφάσισε να προσθέσει πιο πολλές «ασπίδες» στην τεχνολογία τους ύστερα από ένα φιάσκο με «διασημότητες που διαβάζουν προσβλητικό περιεχόμενο».

Η ElevenLabs μέσα από ένα εκτενές tweet εξέφρασε πως έχει λάβει μέτρα για να αποφύγει το VoiceLab να χρησιμοποιηθεί με κακόβουλο σκοπό και να μείνει μακριά από τα λάθος χέρια. Η εταιρία ισχυρίζεται πως μπορεί να εντοπίσει από πειραγμένο clip τον χρήστη και έτσι θα εκδώσει ένα εργαλείο που θα επιτρέπει στον οποιονδήποτε να κάνει αναφορά ενός clip που έχει φτιαχτεί χρησιμοποιώντας την τεχνολογία τους.

Η κατάχρηση του AI και του voice cloning θα σημάνει το τέλος μας
Η κατάχρηση του AI και του voice cloning θα σημάνει το τέλος μας

Οι ίδιοι λένε πως τα voice cloning clip αυτά έχουν παραχθεί από δωρεάν ανώνυμους λογαριασμούς και γιαυτό το λόγο θα λάβουν extra μέτρα προσθέτοντας κάποια επαλήθευση ταυτότητας. Το VoiceLab θα είναι πλέον διαθέσιμο με κάποιο χρηματικό ποσό και θα αφαιρεθούν όλες οι δωρεάν εκδόσεις από το site τους. Η ElevenLabs εντοπίζει αυτή τη στιγμή και μπλοκάρει όποιο λογαριασμό χρησιμοποιεί κακόβουλο περιεχόμενο ως παράβαση της πολιτικής τους. Παραδέχονται όμως πως το να προστεθεί το χρηματικό ποσό δεν πρόκειται να αποτρέψει την κατάχρηση αλλά ίσως να τους κάνει να το ξανασκεφτούν.

Το θέμα είναι όμως τι θα συμβεί με το γεγονός ότι πολλοί χρήστες αντί για τη δική τους φωνή χρησιμοποιούν φωνές διασημοτήτων; Η ElevenLabs έχει κάνει σύσταση στους χρήστες του να διαβάσουν δείγμα με σκοπό να «εκπαιδεύσουν» το AI αντί να ανεβάζουν άλλο ηχητικό αρχείο.

Αν και οι δωρεάν λογαριασμοί θα έχουν ακόμα πρόσβαση θα μπορούν να χρησιμοποιούν το εργαλείο text-to-speech με κάποιες pre-made φωνές. Ο CEO της OpenAI ανέφερε πως η κατάχρηση του AI και του voice cloning μπορεί να είναι το τέλος μας. Αλλά ποιος περίμενε κάτι διαφορετικό;

SecNews
SecNewshttps://www.secnews.gr
In a world without fences and walls, who need Gates and Windows

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS