Το ίδρυμα OpenAI, το οποίο ιδρύθηκε από τον Elon Musk το 2015, κυκλοφόρησε πρόσφατα το τελευταίο μοντέλο της GPT-2 γεννήτριας κειμένου, το οποίο όπως δηλώνει, μπορεί να είναι επικίνδυνο σε λάθος χέρια.
Φυσικά το νέο μοντέλο, είναι ελάχιστα πιο πειστικό από τον προκάτοχο του, για να καταφέρει να ξεγελάσει εύκολα έναν άνθρωπο.
Το ίδρυμα αποφάσισε να κυκλοφορήσει το πρώτο τμήμα του μοντέλου τον Φεβρουάριο, ως μέρος μιας σταδιακής διαδικασίας. Ο λόγος που καθυστέρησε η κυκλοφορία του ολοκληρωμένου μοντέλου, ήταν οι ανησυχίες σχετικά με την ασφάλεια, καθώς οι δημιουργοί του πιστεύουν ότι μπορεί να χρησιμοποιηθεί για κακόβουλους σκοπούς, από hacker ή τρομοκράτες.
Όπως παραδέχεται το OpenAI, το GPT-2 θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία παραπλανητικών άρθρων, online πλαστοπροσωπία, αυτοματοποίηση της παραγωγής βίαιων ή ψεύτικων περιεχομένων για τα κοινωνικά μέσα και αυτοματοποίηση της δημιουργίας περιεχομένου ανεπιθύμητης αλληλογραφίας και ηλεκτρονικού ψαρέματος.
Μέχρι πρότινος, το μοντέλο αυτό αποτελούσε κορυφή στην δημιουργία κειμένου, μέχρι τη δημιουργία του BERT από την Google, που μπορεί να προβλέψει τις αναζητήσεις των χρηστών για να φέρει πιο σχετικά αποτελέσματα.
Σύμφωνα με το OpenAI, οι άνθρωποι βρίσκουν την παραγωγή κειμένου από το νέο μοντέλο GPT-2 των 1,5 δισεκατομμυρίων παραμέτρων “πειστικό”, αλλά ελάχιστα περισσότερο από το μοντέλο των 774 εκατομμυρίων που κυκλοφόρησε τον Αύγουστο.
Ωστόσο, η OpenAI λέει ότι το GPT-2 μπορεί να χρησιμοποιηθεί πολύ πειστικά για κακή χρήση. Το CTEC εκτιμά ότι το GPT-2 μπορεί να τροποποιηθεί, για να δημιουργήσει προπαγάνδα που θα υποστηρίζει την υπεροχή της λευκής φυλής, το μαρξισμό, τον ισλαμισμό ή την αναρχία.
Σε μια επιστολή που συνοδεύει την κυκλοφορία του νέου μοντέλου GPT-2, η OpenAI λέει ότι πιστεύει πως υπάρχουν κακόβουλοι παράγοντες εκεί έξω, που διαθέτουν τους πόρους και τα κίνητρα για να το χρησιμοποιήσουν προς όφελός τους.
Ωστόσο, το ίδρυμα πιστεύει ότι ο κίνδυνος από απειλές χαμηλότερου επιπέδου, όπως οι οικονομικά παρακινημένοι κυβερνοεγκληματίες, δεν είναι τόσο άμεσος. Επίσης, δεν υπάρχουν στοιχεία που να αποδεικνύουν ότι το GPT-2 χρησιμοποιήθηκε μέχρι στιγμής.
Η OpenAI ανέπτυξε ένα μοντέλο ανίχνευσης που έχει ποσοστά επιτυχίας περίπου 95% για την ανίχνευση κειμένου. Αν και το ποσοστό αυτό είναι υψηλό, υποστηρίζει ότι τα συστήματα ανίχνευσης πρέπει να ενισχυθούν με μεθόδους που βασίζονται σε μετα-δεδομένα, ανθρώπινη κρίση και δημόσια εκπαίδευση.
