Το Google Threat Intelligence Group (GTIG) δημοσίευσε στοιχεία για zero-day exploit που αναπτύχθηκε από μια ομάδα κυβερνοεγκληματιών με τη βοήθεια της τεχνητής νοημοσύνης (AI). Είναι η πρώτη φορά που η ερευνητική ομάδα ασφαλείας εντοπίζει εκμετάλλευση zero-day που δημιουργήθηκε από AI και χρησιμοποιήθηκε σε πραγματικές συνθήκες. Ενώ υπάρχουν αποδείξεις ότι οι κακόβουλοι παράγοντες χρησιμοποιούν μοντέλα AI για έρευνα και ανακάλυψη ευπαθειών, οι περιπτώσεις AI-crafted zero-day exploit έχουν αποδειχθεί σπάνιες ή είναι δύσκολο να επιβεβαιωθούν.
“Παρατηρήσαμε απειλητικούς παράγοντες να συνεργάζονται για να σχεδιάσουν μια μαζική επιχείρηση εκμετάλλευσης ευπαθειών“, έγραψαν οι ερευνητές της GTIG σε μια νέα έκθεση σχετικά με την κατάχρηση AI. “Η ανάλυσή μας, για τις εκμεταλλεύσεις που σχετίζονται με αυτήν την καμπάνια, εντόπισε μια ευπάθεια zero-day που υλοποιήθηκε σε ένα Python script, το οποίο επιτρέπει στον χρήστη να παρακάμψει την επαλήθευση δύο παραγόντων (2FA) σε ένα δημοφιλές open-source, web-based εργαλείο διαχείρισης συστημάτων“.
Δείτε επίσης: Το Google Health καταργεί το Fitbit που γνωρίζαμε
Παρόλο που η GTIG δεν έχει ονομάσει το επηρεασμένο εργαλείο, η ομάδα αποκάλυψε την ευπάθεια στον προμηθευτή και ενδεχομένως εμπόδισε τη μαζική εκμετάλλευση.
Ωστόσο, τέτοια περιστατικά μπορεί να γίνουν πιο συχνά, καθώς οι ικανότητες reasoning των μοντέλων AI προχωρούν σε σημείο που μπορούν να ανακαλύψουν logic flaws υψηλού επιπέδου αντί για απλά memory corruption και improper input sanitization bugs.
Ένα τέτοιο παράδειγμα είναι ένα πρόσφατο Python 2FA bypass exploit.
“Παρόλο που τα πρωτοποριακά LLMs δυσκολεύονται να πλοηγηθούν σε σύνθετο enterprise authorization logic, είναι πλέον ικανά να εκτελούν contextual reasoning, διαβάζοντας αποτελεσματικά την πρόθεση του προγραμματιστή για να συσχετίσουν τη λογική επιβολής 2FA με τα contradictions των hardcoded exceptions του“, κατέληξαν οι ερευνητές της GTIG. “Αυτή η ικανότητα μπορεί να επιτρέψει στα μοντέλα να αναδείξουν λανθάνοντα logic errors που φαίνονται λειτουργικά σωστά σε παραδοσιακούς σαρωτές αλλά είναι στρατηγικά ελαττωματικά από άποψη ασφάλειας“.
Η GTIG έχει προσφέρει επαρκείς αποδείξεις για να υποστηρίξει ότι ένα μοντέλο AI χρησιμοποιήθηκε τόσο για την ανακάλυψη της ευπάθειας όσο και για τη δημιουργία του exploit.
Για παράδειγμα, το Python script περιέχει educational strings και μια φανταστική βαθμολογία CVSS. Ο κώδικας ακολουθεί επίσης textbook Python programming elements, που είναι συνεπή με τα δεδομένα εκπαίδευσης LLM, αλλά ένας άνθρωπος δεν θα τα έβαζε σε ένα exploit, όπως λεπτομερή help menus και το clean _C ANSI color class.
Δείτε επίσης: Hackers καταχρώνται Google Ads και Claude.ai chats για Mac επιθέσεις
Άλλα στοιχεία ανακάλυψης ευπαθειών με τη βοήθεια AI
Ενώ το 2FA exploit δεν αναπτύχθηκε μέσω των μοντέλων Gemini της Google, η GTIG έχει ανακαλύψει άλλες περιπτώσεις όπου γνωστοί απειλητικοί παράγοντες έχουν προσπαθήσει να καταχραστούν το Gemini για ανακάλυψη exploits. Αυτό είναι συνεπές με παρατηρήσεις άλλων πρωτοποριακών εργαστηρίων AI όπως η Anthropic και η OpenAI.
Οι ερευνητές της Google παρατήρησαν πρόσφατα μια κινεζική ομάδα κυβερνοκατασκοπείας (UNC2814), η οποία προσπαθούσε να παρακάμψει τις προστασίες του Gemini με προτροπές για να κατευθύνει το μοντέλο να ενεργήσει ως ειδικός ασφαλείας που ειδικεύεται σε ενσωματωμένες συσκευές. Οι επιτιθέμενοι προσπάθησαν να χρησιμοποιήσουν τέτοιο persona-driven jailbreak prompting για να αναλύσουν το firmware των TP-Link και άλλων ενσωματωμένων συσκευών για ευπάθειες. Στοχεύθηκαν, επίσης, υλοποιήσεις του Odette File Transfer Protocol (OFTP).
Η UNC2814 έχει στοχεύσει τηλεπικοινωνιακούς και κυβερνητικούς φορείς από περισσότερες από 42 χώρες από το 2017. Η ομάδα συνηθίζει να εκμεταλλεύεται ευπάθειες σε συστήματα edge και διαδικτυακές εφαρμογές.
Σε μια διαφορετική περίπτωση κατάχρησης AI, μια ομάδα απειλής από τη Βόρεια Κορέα (APT45) παρατηρήθηκε να στέλνει χιλιάδες προτροπές στο Gemini, με στόχο την ανάλυση διαφόρων γνωστών αδυναμιών ή την επικύρωση proof-of-concept exploits. Ο στόχος ήταν πιθανότατα να δημιουργηθεί ένα πιο ανθεκτικό οπλοστάσιο exploits για ευπάθειες n-day.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Δείτε επίσης: Η εφαρμογή YouTube για Google TV ανανεώνει το πλευρικό μενού
“Η χρήση αυτών των εργαλείων μαζί με την έρευνα ευπαθειών υποδηλώνει ενδιαφέρον για τη βελτίωση των AI-generated payloads σε ελεγχόμενα περιβάλλοντα για να αυξηθεί η αξιοπιστία των exploit πριν από την ανάπτυξη“.
Η έκθεση της GTIG περιέχει κι άλλα παραδείγματα χρήσης AI στον κύκλο ζωής των κυβερνοεπιθέσεων, συμπεριλαμβανομένης της ανάπτυξης και απόκρυψης κακόβουλου λογισμικού, της αυτόνομης οργάνωσης επιθέσεων, της ανάπτυξης υποδομών, των agentic workflows για τη δημιουργία περιεχομένου deepfake που χρησιμοποιείται σε εκστρατείες πληροφόρησης και πολλά άλλα.
