Τρεις νέες ευπάθειες στον AI assistant της Google, Gemini, θα μπορούσαν να επιτρέψουν σε επιτιθέμενους να εξάγουν αποθηκευμένες πληροφορίες και δεδομένα τοποθεσίας χρηστών.
Οι ευπάθειες που ανακαλύφθηκαν από την Tenable, έχουν πάρει την ονομασία “Gemini Trifecta” και δείχνουν πώς τα συστήματα AI μπορούν να μετατραπούν σε “οχήματα επίθεσης” και όχι μόνο σε στόχους. Η έρευνα αποκάλυψε σημαντικούς κινδύνους για την ιδιωτικότητα σε διάφορα στοιχεία του οικοσυστήματος Gemini.
Παρόλο που η Gοogle έχει ήδη διορθώσει τα προβλήματα, η ανακάλυψη λειτουργεί ως κρίσιμη υπενθύμιση των προκλήσεων ασφάλειας που είναι εγγενείς σε AI πλατφόρμες. Οι τρεις διακριτές ευπάθειες στόχευαν διαφορετικές λειτουργίες εντός του Gemini.
Δείτε επίσης: Κινέζοι hackers εκμεταλλεύονται VMware zero-day από τον Οκτώβριο 2024
Gemini Trifecta: Τρεις ευπάθειες στον AI assistant
- Gemini Cloud Assist: Μια ευπάθεια εισαγωγής εντολών στο εργαλείο Goοgle Cloud θα μπορούσε να επιτρέψει σε επιτιθέμενους να παραβιάσουν πόρους στο cloud ή να εκτελέσουν προσπάθειες phishing. Οι ερευνητές βρήκαν ότι τα log entries, τα οποία μπορεί να συνοψίσει το Gemini, θα μπορούσαν να μολυνθούν με κακόβουλες εντολές. Αυτό αντιπροσωπεύει μια νέα κατηγορία επίθεσης όπου τα log injections μπορούν να χειραγωγήσουν AI inputs.
- Gemini Search Personalization Model: Αυτό το search-injection σφάλμα έδινε στους επιτιθέμενους τη δυνατότητα να ελέγχουν τη συμπεριφορά του Gemini χειραγωγώντας το ιστορικό αναζητήσεων του Chrome ενός χρήστη. Με την εισαγωγή κακόβουλων ερωτημάτων αναζήτησης, ένας επιτιθέμενος θα μπορούσε να ξεγελάσει το Gemini ώστε να διαρρεύσει αποθηκευμένες πληροφορίες και δεδομένα τοποθεσίας ενός χρήστη.
- Gemini Browsing Tool: Μια ευπάθεια σε αυτό το εργαλείο επέτρεπε την άμεση εξαγωγή αποθηκευμένων πληροφοριών ενός χρήστη. Οι επιτιθέμενοι θα μπορούσαν να εκμεταλλευτούν τη λειτουργικότητα του εργαλείου για να στείλουν ευαίσθητα δεδομένα σε έναν εξωτερικό διακομιστή.
Η βασική μεθοδολογία επίθεσης περιλάμβανε μια διαδικασία δύο βημάτων: διείσδυση και εξαγωγή. Οι επιτιθέμενοι έπρεπε πρώτα να εισάγουν μια κακόβουλη εντολή που το Gemini θα επεξεργαζόταν ως νόμιμη εντολή.
Η Tenable ανακάλυψε κρυφές μεθόδους για αυτή την “έμμεση εισαγωγή εντολών”, όπως η ενσωμάτωση οδηγιών στο User-Agent header ενός log entry ή η χρήση JavaScript για την προσθήκη κακόβουλων ερωτημάτων στο ιστορικό περιήγησης ενός θύματος.
Δείτε επίσης: Η CISA προειδοποιεί για ευπάθεια στο Libraesva ESG
Μετά την εισαγωγή της εντολής, η επόμενη πρόκληση ήταν η εξαγωγή των δεδομένων, παρακάμπτοντας τα μέτρα ασφαλείας της Google που φιλτράρουν εξόδους όπως υπερσυνδέσμους και σημάνσεις εικόνων.
Οι ερευνητές ανακάλυψαν ότι θα μπορούσαν να εκμεταλλευτούν το Gemini Browsing Tool ως side channel. Δημιούργησαν μια εντολή που καθοδηγούσε το Gemini να χρησιμοποιήσει το εργαλείο περιήγησής του για να ανακτήσει μια διεύθυνση URL, ενσωματώνοντας τα ιδιωτικά δεδομένα του χρήστη απευθείας στο αίτημα URL, που αποστέλλεται σε έναν διακομιστή ελεγχόμενο από επιτιθέμενο.
Αυτή η εξαγωγή πραγματοποιήθηκε μέσω εκτέλεσης εργαλείου (αντί για response rendering), παρακάμπτοντας πολλές από τις άμυνες της Gοogle.
Η Google έχει επιτυχώς διορθώσει και τις τρεις ευπάθειες. Οι διορθώσεις περιλαμβάνουν τη διακοπή του rendering υπερσυνδέσμων σε log summaries, την επαναφορά του ευάλωτου search personalization model και την αποτροπή εξαγωγής δεδομένων μέσω του εργαλείου περιήγησης κατά τη διάρκεια έμμεσων εισαγωγών εντολών.
Τα AI συστήματα μπορεί να αποτελούν κίνδυνο
Οι τρεις ευπάθειες στο Gemini αναδεικνύουν μια ευρύτερη αλήθεια: τα σύγχρονα συστήματα βοηθών AI λειτουργούν ως πολύπλοκες συναρμολογήσεις υπηρεσιών και κάθε στοιχείο τους μπορεί να μετατραπεί σε κανάλι διαρροής ή κατάχρησης. Πέρα από την άμεση τεχνική διόρθωση, οι οργανισμοί και οι σχεδιαστές πρέπει να υιοθετήσουν μια πολυεπίπεδη στρατηγική ασφάλειας που καλύπτει τόσο τη δομή όσο και τη συμπεριφορά των AI agents. Αυτό σημαίνει ενσωμάτωση ασφαλών προτύπων εισόδου και εξόδου, περιορισμό των δυνατοτήτων rendering και τη συνεχή αξιολόγηση των side-channels που προκύπτουν από εργαλεία περιήγησης, σύνοψης και εξατομίκευσης.
Δείτε επίσης: Hacker πουλά exploit για ευπάθεια Veeam στο dark web
Σε πρακτικό επίπεδο, οι ομάδες ασφαλείας οφείλουν να χτίσουν μηχανισμούς ανίχνευσης που δεν βασίζονται μόνο σε υπογραφές: anomaly detection σε ροές συνοψίσεων, rate-limiting για εργασίες που δημιουργούν εξωτερικά αιτήματα και έλεγχος για μετασχηματισμούς δεδομένων που ενσωματώνονται σε URLs ή headers. Επιπλέον, η αρχιτεκτονική των βοηθών πρέπει να διαχωρίζει προνομιακές λειτουργίες από αυτές που αλληλεπιδρούν με μη αξιόπιστες πηγές — principle of least privilege σε κάθε επίπεδο.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Τέλος, οι κανονιστικές και ηθικές διαστάσεις δεν είναι δευτερεύουσες: απαιτούνται πολιτικές για το χειρισμό ευαίσθητων δεδομένων από AI, ξεκάθαρες ροές ευθυνών και ενημέρωση των χρηστών για το πώς προστατεύονται τα προσωπικά τους στοιχεία. Επιπλέον, εκπαιδευτικά προγράμματα για χρήστες και προγραμματιστές μειώνουν τον ανθρώπινο παράγοντα στην αλυσίδα κινδύνου και βελτιώνουν την ετοιμότητα στην αντιμετώπιση περιστατικών.
