Βρέθηκαν ευπάθειες σε open-source AI και ML μοντέλα

Ερευνητές ασφαλείας ανακάλυψαν πολλές ευπάθειες σε διάφορα open-source artificial intelligence (AI) και machine learning (ML) μοντέλα. Κάποιες από αυτές τις ευπάθειες θεωρούνται πολύ σοβαρές, αφού μπορούν να επιτρέψουν απομακρυσμένη εκτέλεση κώδικα και κλοπή πληροφοριών.

Οι ευπάθειες εντοπίστηκαν σε εργαλεία όπως το ChuanhuChatGPT, το Lunary και το LocalAI και έχουν αναφερθεί στα πλαίσια του προγράμματος bug bounty Huntr της Protect AI.

Δείτε επίσης: Η QNAP διόρθωσε ευπάθεια που παρουσιάστηκε στο Pwn2Own Ireland 2024

Τα πιο σοβαρά από τα σφάλματα είναι δύο που επηρεάζουν το Lunary, ένα production toolkit για large language models (LLM):

CVE-2024-7474 (βαθμολογία CVSS: 9.1): Μια ευπάθεια Insecure Direct Object Reference (IDOR) που θα μπορούσε να επιτρέψει σε έναν εξουσιοδοτημένο χρήστη να προβάλλει ή να διαγράφει εξωτερικούς χρήστες, με αποτέλεσμα μη εξουσιοδοτημένη πρόσβαση στα δεδομένα και πιθανή απώλεια δεδομένων.

CVE-2024-7475 (βαθμολογία CVSS: 9.1): Μια ευπάθεια που επιτρέπει σε έναν εισβολέα να ενημερώσει το SAML configuration, καθιστώντας έτσι δυνατή τη σύνδεση ως μη εξουσιοδοτημένος χρήστης και την πρόσβαση σε ευαίσθητες πληροφορίες.

Μια άλλη ευπάθεια IDOR στο Lunary (CVE-2024-7473, βαθμολογία CVSS: 7,5) επιτρέπει σε έναν επιτιθέμενο να ενημερώνει prompts άλλων χρηστών χειραγωγώντας ένα user-controlled parameter.

Μια άλλη κρίσιμη ευπάθεια επηρεάζει το user upload feature του ChuanhuChatGPT (CVE-2024-5982, βαθμολογία CVSS: 9.1) και θα μπορούσε να οδηγήσει σε αυθαίρετη εκτέλεση κώδικα, directory creation και έκθεση ευαίσθητων δεδομένων.

Δείτε επίσης: Η Apple διορθώνει περισσότερες από 70 ευπάθειες σε iOS και macOS

Οι ερευνητές ανακάλυψαν και δύο ευπάθειες στο LocalAI, ένα open-source project που επιτρέπει στους χρήστες να εκτελούν self-hosted LLMs. Η πρώτη ευπάθεια επιτρέπει την εκτέλεση κώδικα, μέσω της μεταφόρτωσης ενός κακόβουλου αρχείου διαμόρφωσης (CVE-2024-6983, βαθμολογία CVSS: 8,8 ). Η δεύτερη επιτρέπει στον επιτιθέμενο να μαντεύει έγκυρα API keys αναλύοντας τον χρόνο απόκρισης του διακομιστή (CVE-2024-7010, βαθμολογία CVSS: 7,5).

Η τελευταία ευπάθεια, που θα δούμε εδώ, είναι η CVE-2024-8396 (βαθμολογία CVSS: 7,8), που επηρεάζει το Deep Java Library (DJL) και επιτρέπει την απομακρυσμένη εκτέλεση κώδικα.

Όπως φαίνεται, οι εισβολείς θα μπορούσαν να εκμεταλλευτούν τις παραπάνω ευπάθειες για να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε ευαίσθητα δεδομένα ή συστήματα. Πολλά μοντέλα AI και ML είναι ενσωματωμένα σε κρίσιμες εφαρμογές σε διάφορους κλάδους, το οποίο σημαίνει ότι η ασφάλειά τους είναι πρωταρχικής σημασίας. Επιπλέον, καθώς τα συστήματα AI και ML βασίζονται συχνά σε τεράστιες ποσότητες δεδομένων, μια παραβίαση θα μπορούσε να οδηγήσει σε σημαντική έκθεση δεδομένων. Είναι σημαντικό για τους προγραμματιστές και τους οργανισμούς να δώσουν προτεραιότητα στην έγκαιρη επιδιόρθωση και ενημέρωση των ευάλωτων συστημάτων για τον μετριασμό αυτών των κινδύνων.

Δείτε επίσης: Κρίσιμες ευπάθειες σε προϊόντα Siemens και Schneider Electric

Οι τακτικοί έλεγχοι ασφαλείας και η υιοθέτηση βέλτιστων πρακτικών για την ανάπτυξη λογισμικού μπορούν επίσης να βοηθήσουν στην ενίσχυση της άμυνας των μοντέλων AI και ML έναντι πιθανών απειλών. Επιπλέον, η συνεχής παρακολούθηση και η αξιολόγηση κινδύνου μπορούν να βοηθήσουν στον εντοπισμό πιθανών ευπαθειών ή κακόβουλης δραστηριότητας σε πραγματικό χρόνο, επιτρέποντας την άμεση αντιμετώπιση. Καθώς η τεχνητή νοημοσύνη και η μηχανική εκμάθηση συνεχίζουν να εξελίσσονται και να γίνονται πιο διαδεδομένες στην καθημερινή μας ζωή, είναι σημαντικό να παραμείνουμε σε επαγρύπνηση έναντι των κινδύνων και να δίνουμε προτεραιότητα στην προστασία των ευαίσθητων δεδομένων.

Πηγή: thehackernews.com