Μια αποκαλυπτική μελέτη από τη Google DeepMind φέρνει στο προσκήνιο μια νέα και ιδιαίτερα επικίνδυνη κατηγορία επιθέσεων, τις λεγόμενες «AI Agent Traps». Οι επιθέσεις αυτές στοχεύουν αυτόνομους AI agents που περιηγούνται στο διαδίκτυο, εκτελώντας εργασίες όπως συναλλαγές, διαχείριση email και αλληλεπίδραση με APIs, μετατρέποντας το ίδιο το διαδίκτυο σε πεδίο μάχης.
Η έρευνα, που υπογράφεται από τους επιστήμονες Matija Franklin, Nenad Tomaev, Julian Jacobs, Joel Z. Leibo, and Simon Osindero, αποτελεί το πρώτο συστηματικό πλαίσιο κατανόησης αυτής της αναδυόμενης απειλής.
Όταν το διαδίκτυο γίνεται εχθρικό περιβάλλον για την τεχνητή νοημοσύνη
Καθώς οι AI agents αποκτούν μεγαλύτερη αυτονομία, το περιβάλλον στο οποίο λειτουργούν παύει να είναι ουδέτερο. Ιστότοποι, δεδομένα και ψηφιακές υπηρεσίες μπορούν πλέον να σχεδιαστούν σκόπιμα για να παραπλανήσουν ή να εκμεταλλευτούν τα μοντέλα.
Δείτε επίσης: 36 κακόβουλα npm πακέτα εκμεταλλεύονται Redis και PostgreSQL
Η βασική διαφορά σε σχέση με τις παραδοσιακές επιθέσεις είναι ότι δεν στοχεύεται ο άνθρωπος, αλλά η ίδια η «αντίληψη» της μηχανής. Οι επιτιθέμενοι δεν χρειάζεται να χακάρουν το σύστημα, αλλά αρκεί να αλλοιώσουν το περιεχόμενο που αυτό καταναλώνει.
Ένα πλαίσιο έξι κατηγοριών επιθέσεων
Η μελέτη κατηγοριοποιεί τις επιθέσεις σε έξι βασικούς τύπους, αποκαλύπτοντας το εύρος της απειλής:
Τα Content Injection Traps εκμεταλλεύονται τη διαφορά μεταξύ του πώς βλέπει μια σελίδα ο άνθρωπος και πώς την «διαβάζει» η AI. Κακόβουλες οδηγίες μπορούν να κρυφτούν σε HTML σχόλια, CSS ή ακόμη και σε εικόνες, επηρεάζοντας τη συμπεριφορά των agents χωρίς να γίνονται αντιληπτές.
Τα Semantic Manipulation Traps δρουν πιο ύπουλα, αλλοιώνοντας το νόημα των πληροφοριών. Έτσι, η AI οδηγείται σε λανθασμένα συμπεράσματα χωρίς εμφανείς εντολές.
Ιδιαίτερα ανησυχητικές είναι τα Cognitive State Traps, που στοχεύουν τη μνήμη των συστημάτων. Μέσω τεχνικών όπως το RAG Knowledge Poisoning, οι επιτιθέμενοι μπορούν να «φυτέψουν» ψευδείς πληροφορίες που η AI θεωρεί αξιόπιστες. Ακόμη και ελάχιστη αλλοίωση δεδομένων μπορεί να έχει τεράστιο αντίκτυπο, με επιτυχία επιθέσεων που ξεπερνά το 80% σε ορισμένες περιπτώσεις. Αυτό εγείρει σοβαρά ερωτήματα για την αξιοπιστία των συστημάτων που βασίζονται σε τέτοιες βάσεις γνώσεων.
Τα Behavioural Control Traps πηγαίνουν ένα βήμα παραπέρα, επιτρέποντας στους επιτιθέμενους να κατευθύνουν άμεσα τις ενέργειες ενός agent. Αυτό μπορεί να σημαίνει εξαγωγή ευαίσθητων δεδομένων ή εκτέλεση κακόβουλων ενεργειών.
Τα λεγόμενα Systemic Traps αξιοποιούν τη συνεργασία πολλών agents για να προκαλέσουν μαζικές αποτυχίες, όπως επιθέσεις denial-of-service ή market flash crashes.
Τέλος, τα Human-in-the-Loop Traps εκμεταλλεύονται τους ίδιους τους χρήστες, ωθώντας τους να εγκρίνουν επικίνδυνες ενέργειες λόγω εμπιστοσύνης στην AI.
Σε ορισμένες περιπτώσεις, έχουν ήδη καταγραφεί περιστατικά όπου AI εργαλεία πρότειναν εν αγνοία τους κακόβουλες ενέργειες, παρουσιάζοντάς τες ως νόμιμες λύσεις.
Δείτε επίσης: Axios npm hack: Βορειοκορεάτες χάκερ χρησιμοποιούν ψεύτικο Teams error
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Dynamic Cloaking: Η πιο εξελιγμένη μορφή εξαπάτησης
Ένα από τα πιο εντυπωσιακά ευρήματα είναι το Dynamic Cloaking. Σε αυτή την τεχνική, οι ιστότοποι ανιχνεύουν αν ο επισκέπτης είναι άνθρωπος ή AI agent και προσαρμόζουν το περιεχόμενο ανάλογα. Έτσι, η AI βλέπει μια εντελώς διαφορετική –και κακόβουλη– εκδοχή της σελίδας, ενώ ο άνθρωπος δεν αντιλαμβάνεται τίποτα.
Η τεχνική αυτή καθιστά τις επιθέσεις σχεδόν αόρατες και εξαιρετικά δύσκολες στην ανίχνευση.
Οι άμυνες και τα ανοιχτά ζητήματα
Οι ερευνητές προτείνουν τρία επίπεδα άμυνας: βελτίωση των μοντέλων μέσω εκπαίδευσης, μηχανισμούς προστασίας σε πραγματικό χρόνο και παρεμβάσεις σε επίπεδο διαδικτύου, όπως νέα πρότυπα για AI-friendly περιεχόμενο.
Ωστόσο, ένα κρίσιμο ζήτημα παραμένει άλυτο: η ευθύνη. Σε περίπτωση που ένας AI agent εμπλακεί σε παράνομη δραστηριότητα, δεν είναι σαφές ποιος φέρει την ευθύνη — ο χρήστης, ο πάροχος ή ο δημιουργός του περιεχομένου.
Δείτε επίσης: ChatGPT διαρροή δεδομένων και νέες κυβερνοεπιθέσεις
Το μέλλον της εμπιστοσύνης στην τεχνητή νοημοσύνη
Η μελέτη της DeepMind καταλήγει σε ένα καίριο συμπέρασμα: το διαδίκτυο δεν είναι πλέον σχεδιασμένο μόνο για ανθρώπους, αλλά και για μηχανές. Αυτό αλλάζει ριζικά το τοπίο της ασφάλειας.
Το βασικό ερώτημα πλέον δεν είναι μόνο ποια πληροφορία είναι διαθέσιμη, αλλά ποια πληροφορία θα εμπιστευτούν τα συστήματα τεχνητής νοημοσύνης. Σε έναν κόσμο όπου οι AI agents λαμβάνουν αποφάσεις, η αξιοπιστία των δεδομένων γίνεται πιο κρίσιμη από ποτέ.
