Η OpenAI ανακοίνωσε ότι απέκλεισε μια σειρά από λογαριασμούς ChatGPT που συνδέονται με κρατικούς Κινέζους hackers. Οι κυβερνοεγκληματίες χρησιμοποιούσαν τα μοντέλα τεχνητής νοημοσύνης της εταιρείας για να βελτιώσουν κακόβουλο λογισμικό και να δημιουργήσουν περιεχόμενο phishing.
Η έκθεση του Οκτωβρίου 2025 περιγράφει τη διακοπή αρκετών κακόβουλων δικτύων, ως μέρος της συνεχιζόμενης δέσμευσης της εταιρείας να αποτρέπει την κακή χρήση των τεχνολογιών τεχνητής νοημοσύνης από απειλητικούς παράγοντες και αυταρχικά καθεστώτα.
Από τον Φεβρουάριο του 2024, η OpenAI έχει διακόψει πάνω από 40 δίκτυα που παραβίασαν τις πολιτικές χρήσης της. Η εταιρεία δήλωσε ότι συνεχίζει να βλέπει απειλητικούς παράγοντες να ενσωματώνουν την τεχνητή νοημοσύνη στις υπάρχουσες στρατηγικές τους, για να αυξήσουν την ταχύτητα και την αποτελεσματικότητα (αντί να αναπτύσσουν νέες επιθετικές δυνατότητες με τα μοντέλα).
Κινέζοι hackers καταχρώνται το ChatGPT της OpenAI
Μια βασική μελέτη περίπτωσης στην έκθεση επικεντρώνεται σε μια ομάδα με το όνομα “Cyber Operation Phish and Scripts“. Αυτή η ομάδα λογαριασμών, που λειτουργούσε από άτομα που μιλούν κινεζικά, χρησιμοποιήθηκε για να βοηθήσει στην ανάπτυξη κακόβουλου λογισμικού και εκστρατειών phishing.
Δείτε επίσης: Κακόβουλη χρήση του Microsoft Teams για διανομή malware
Η έρευνα της OpenAI διαπίστωσε ότι οι δραστηριότητες της ομάδας ήταν συνεπείς με τις κυβερνοεπιχειρήσεις που εξυπηρετούν τις απαιτήσεις πληροφοριών της Λαϊκής Δημοκρατίας της Κίνας (PRC). Η δραστηριότητα είναι παρόμοια με αυτή άλλων ομάδων απειλών που παρακολουθούνται δημόσια ως UNKDROPPITCH και UTA0388.
Δημιουργία malware και phishing επιθέσεις
Αυτοί οι χάκερ χρησιμοποίησαν το ChatGPT για δύο κύριες λειτουργίες:
1. Ανάπτυξη Κακόβουλου Λογισμικού: Χρησιμοποίησαν την τεχνητή νοημοσύνη για να βοηθήσουν στην ανάπτυξη και στο debug tooling, με λεπτομέρειες υλοποίησης που επικαλύπτονται με malware γνωστά ως GOVERSHELL και HealthKick. Οι δράστες επίσης ερεύνησαν περαιτέρω δυνατότητες αυτοματοποίησης χρησιμοποιώντας άλλα μοντέλα τεχνητής νοημοσύνης όπως το DeepSeek.
2. Δημιουργία Περιεχομένου Phishing: Η ομάδα δημιούργησε στοχευμένα και πολιτισμικά προσαρμοσμένα phishing emails σε πολλές γλώσσες, συμπεριλαμβανομένων των κινεζικών, αγγλικών και ιαπωνικών. Οι στόχοι τους περιλάμβαναν τον τομέα ημιαγωγών της Ταϊβάν, την ακαδημαϊκή κοινότητα των ΗΠΑ και οργανισμούς που επικρίνουν την κινεζική κυβέρνηση.
Η OpenAI σημείωσε ότι οι δράστες χρησιμοποίησαν τα μοντέλα για “μεγαλύτερη αποτελεσματικότητα“, όπως η δημιουργία καλύτερων phishing emails και η μείωση των coding cycles (αντί να δημιουργήσουν νέους τύπους απειλών).
Κλείσιμο λογαριασμών που συνδέονται με κινεζικές κυβερνητικές οντότητες
Η έκθεση περιγράφει, επίσης, τη διακοπή άλλων λογαριασμών που συνδέονται με κινεζικές κυβερνητικές οντότητες. Αυτοί οι χρήστες προσπάθησαν να χρησιμοποιήσουν το ChatGPT για την ανάπτυξη εργαλείων παρακολούθησης και profiling.
Ένας αποκλεισμένος χρήστης ζήτησε βοήθεια στη σύνταξη πρότασης για ένα “Μοντέλο Προειδοποίησης Υψηλού Κινδύνου Σχετικό με Ουιγούρους“, σχεδιασμένο να αναλύει κρατήσεις ταξιδιών και αστυνομικά αρχεία.
Δείτε επίσης: Ομάδες ransomware αξιοποιούν εργαλεία απομακρυσμένης πρόσβασης
Ένα άλλο παράδειγμα περιλάμβανε μια προσπάθεια σχεδίασης ενός “ανιχνευτή κοινωνικών μέσων” ικανού να σαρώνει πλατφόρμες όπως το X (πρώην Twitter), το Facebook και το Reddit για πολιτικό, εθνοτικό και θρησκευτικό περιεχόμενο που θεωρείται “εξτρεμιστικό”.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Άλλοι χρήστες αποκλείστηκαν για τη χρήση της τεχνητής νοημοσύνης για την έρευνα επικριτών της κινεζικής κυβέρνησης και την αναγνώριση των πηγών χρηματοδότησης λογαριασμών που επικρίνουν την PRC.
Σε απάντηση σε αυτά τα ευρήματα, η OpenAI απενεργοποίησε όλους τους λογαριασμούς που συνδέονται με τις κακόβουλες δραστηριότητες και μοιράστηκε δείκτες παραβίασης με συνεργάτες της βιομηχανίας, για να βοηθήσει σε ευρύτερες προσπάθειες κυβερνοασφάλειας.
Η έκθεση τονίζει ότι τα ίδια τα μοντέλα τεχνητής νοημοσύνης συχνά λειτουργούσαν ως φραγμός ασφαλείας, αρνούμενα άμεσες αιτήσεις για δημιουργία κακόβουλου κώδικα ή εκτέλεση exploits. Οι δράστες περιορίστηκαν στη δημιουργία “building-block” code snippets που δεν ήταν από μόνα τους κακόβουλα.
Δείτε επίσης: Το backdoor WARMCOOKIE αποκτά νέα χαρακτηριστικά
Τα ευρήματα της OpenAI δείχνουν ότι ενώ οι κρατικά υποστηριζόμενοι παράγοντες πειραματίζονται ενεργά με την τεχνητή νοημοσύνη, η κύρια χρήση της είναι να ενισχύσει τις υπάρχουσες λειτουργίες.
Η εταιρεία τόνισε ότι συνεχίζει να επενδύει στην ανίχνευση και διακοπή τέτοιων καταχρήσεων για να αποτρέψει τη χρήση των εργαλείων της για κακόβουλες κυβερνοδραστηριότητες, απάτες και συγκαλυμμένες επιχειρήσεις επιρροής.
