Τη Δευτέρα, η Google εγκαινίασε ένα νέο πρόγραμμα επιβράβευσης (bug bounty) αφιερωμένο ειδικά στην ανεύρεση σφαλμάτων σε προϊόντα τεχνητής νοημοσύνης (AI). Η λίστα της Gοogle με τα σφάλματα που πληρούν τις προϋποθέσεις περιλαμβάνει παραδείγματα, όπως η έμμεση εισαγωγή ενός ΑI prompt που προκαλεί το Gοogle Home να ξεκλειδώσει μια πόρτα ή η εισαγωγή εντολής για εξαγωγή δεδομένων που συνοψίζει όλα τα email κάποιου και στέλνει την περίληψη στον λογαριασμό του επιτιθέμενου.
Δείτε επίσης: Zeroday Cloud: Hacking διαγωνισμός με bug bounties ύψους $ 4,5 εκατ.
Το νέο πρόγραμμα διευκρινίζει τι συνιστά σφάλμα ΑI, διαχωρίζοντάς τα ως ζητήματα που χρησιμοποιούν ένα μεγάλο γλωσσικό μοντέλο ή ένα generative AI σύστημα για πρόκληση βλάβης ή εκμετάλλευση κενού ασφαλείας (με τις κακόβουλες ενέργειες να βρίσκονται στην κορυφή της λίστας). Αυτό περιλαμβάνει την τροποποίηση του λογαριασμού ή των δεδομένων κάποιου για να εμποδίσει την ασφάλειά του ή να κάνει κάτι ανεπιθύμητο (π.χ. ένα ελάττωμα που αποκαλύφθηκε προηγουμένως και θα μπορούσε να ανοίξει έξυπνα παντζούρια και να σβήσει τα φώτα χρησιμοποιώντας ένα poisoned Gοogle Calendar event).
Οι κυνηγοί σφαλμάτων έχουν ήδη συγκεντρώσει πάνω από $430.000 κατά τη διάρκεια δύο ετών, από τότε που η εταιρεία άρχισε επίσημα να προσκαλεί ερευνητές ΑI να εντοπίσουν πιθανούς τρόπους κατάχρησης χαρακτηριστικών ΑI στα προϊόντα της.
Δείτε επίσης: HackerOne: $ 81 εκατ. σε bug bounties τον τελευταίο χρόνο
Google AI bug bounty: Διευκρινίσεις
Η δημιουργία “παραισθήσεων” στο Gemini δεν αρκεί. Η εταιρεία δηλώνει ότι ζητήματα που σχετίζονται με περιεχόμενο που παράγεται από προϊόντα ΑI — όπως η δημιουργία hate speech ή περιεχομένου που παραβιάζει πνευματικά δικαιώματα — θα πρέπει να αναφέρονται στο κανάλι ανατροφοδότησης εντός του ίδιου του προϊόντος. Σύμφωνα με την Goοgle, με αυτόν τον τρόπο οι ομάδες ασφαλείας ΑI μπορούν να “διαγνώσουν τη συμπεριφορά του μοντέλου και να εφαρμόσουν την απαραίτητη μακροπρόθεσμη, ευρείας κλίμακας εκπαίδευση ασφαλείας“.
Το βραβείο των $20.000 απονέμεται για την ανεύρεση κακόβουλων ενεργειών στα κορυφαία προϊόντα της Goοgle, όπως το Search, οι εφαρμογές Gemini και οι βασικές εφαρμογές Workspace όπως το Gmail και το Drive. Υπάρχουν επίσης πολλαπλασιαστές για την ποιότητα της αναφοράς και ένα μπόνους καινοτομίας, που θα μπορούσε να ανεβάσει το συνολικό ποσό έως και $30.000. Η τιμή μειώνεται για σφάλματα που βρίσκονται σε άλλα προϊόντα της Goοgle, όπως το Jules ή το NotebookLM, και για καταχρήσεις χαμηλότερης κατηγορίας, όπως η κλοπή μυστικών παραμέτρων μοντέλου.
Δείτε επίσης: ARGUS Robot: Προλαμβάνει κυβερνοαπειλές και φυσικές εισβολές
Μαζί με το νέο πρόγραμμα επιβράβευσης ΑI, η Google ανακοίνωσε επίσης τη Δευτέρα έναν ΑI agent που διορθώνει ευάλωτο κώδικα και ονομάζεται CodeMender. Η εταιρεία δηλώνει ότι το έχει χρησιμοποιήσει για “72 διορθώσεις ασφαλείας σε έργα ανοιχτού κώδικα” μετά από έλεγχο από άνθρωπο – ερευνητή.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
