ΑρχικήSecurityGoogle: Λανσάρει το «Project Naptime» για έρευνα ευπαθειών που βασίζεται σε AI

Google: Λανσάρει το «Project Naptime» για έρευνα ευπαθειών που βασίζεται σε AI

Η Google έχει αναπτύξει ένα νέο πλαίσιο με την ονομασία «Project Naptime», το οποίο υπόσχεται να ενισχύσει ένα μεγάλο γλωσσικό μοντέλο (LLM) στην αναζήτηση ευπαθειών, με στόχο τη βελτίωση των αυτοματοποιημένων μεθόδων ανακάλυψης.

Google Project Naptime

«Η λειτουργία Naptime επικεντρώνεται στην αλληλεπίδραση μεταξύ ενός AI agent και μιας στοχευμένης βάσης κώδικα», εξηγούν οι ερευνητές του Google Project Zero, Sergei Glazunov και Mark Brand. «Ο agent είναι εξοπλισμένος με μια σειρά εξειδικευμένων εργαλείων, σχεδιασμένων να προσομοιώνουν τη ροή εργασίας ενός ανθρώπινου ερευνητή ασφαλείας».

Διαβάστε επίσης: Η σημασία της κρυπτογράφησης στα δεδομένα του cloud

Η πρωτοβουλία αυτή πήρε το όνομά της από την ικανότητά της να επιτρέπει στους ανθρώπους να «παίρνουν τακτικούς ύπνους», και παράλληλα να συμβάλλει στην έρευνα για ευπάθειες και αυτόματη ανάλυση παραλλαγών. Στην ουσία, αυτή η προσέγγιση επιδιώκει να αξιοποιήσει την πρόοδο στην κατανόηση κώδικα και τη γενική ικανότητα συλλογισμού των LLM (μεγάλων γλωσσικών μοντέλων), δίνοντάς τους τη δυνατότητα να μιμούνται την ανθρώπινη συμπεριφορά όσον αφορά τον εντοπισμό και την εκμετάλλευση τρωτών σημείων ασφαλείας.

#secnews #zuckerberg #ai #contentcreator
Σε μια πρόσφατη συνέντευξη, ο Mark Zuckerberg μοιράστηκε το όραμά του για ένα μέλλον όπου οι content creators θα έχουν τα δικά τους AI bots - κλώνους.
Σε μια πρόσφατη συνέντευξη, ο Zuckerberg μοιράστηκε το όραμά του για ένα μέλλον όπου οι δημιουργοί περιεχομένου θα έχουν κάτι σαν τα δικά τους AI bots, που θα αποτυπώνουν την προσωπικότητά τους και τους «επιχειρηματικούς στόχους» τους. Κατά τον Zuckerberg, αυτά τα bots θα αναλαμβάνουν μέρος της επικοινωνίας με το κοινό, ενώ οι content creators θα έχουν περισσότερο χρόνο για άλλες, πιθανώς πιο σημαντικές εργασίες.
Μάθετε περισσότερα: https://www.secnews.gr/610371/zuckerberg-sto-mellon-content-creators-tha-xrisimopoioun-ai-klonous/
00:00 Εισαγωγή
00:20 Απουσία χρόνου για τους content creators
00:40 Χρήση AI bots - κλώνων
01:40 Πιθανά προβλήματα
Follow us:
Facebook: https://www.facebook.com/SecNews
Instagram: https://www.instagram.com/secnews.gr/
X (Twitter): https://twitter.com/Secnews_GR
TikTok: https://www.tiktok.com/@secnewsgr

#secnews #zuckerberg #ai #contentcreator

Σε μια πρόσφατη συνέντευξη, ο Mark Zuckerberg μοιράστηκε το όραμά του για ένα μέλλον όπου οι content creators θα έχουν τα δικά τους AI bots - κλώνους.

Σε μια πρόσφατη συνέντευξη, ο Zuckerberg μοιράστηκε το όραμά του για ένα μέλλον όπου οι δημιουργοί περιεχομένου θα έχουν κάτι σαν τα δικά τους AI bots, που θα αποτυπώνουν την προσωπικότητά τους και τους «επιχειρηματικούς στόχους» τους. Κατά τον Zuckerberg, αυτά τα bots θα αναλαμβάνουν μέρος της επικοινωνίας με το κοινό, ενώ οι content creators θα έχουν περισσότερο χρόνο για άλλες, πιθανώς πιο σημαντικές εργασίες.

Μάθετε περισσότερα: https://www.secnews.gr/610371/zuckerberg-sto-mellon-content-creators-tha-xrisimopoioun-ai-klonous/

00:00 Εισαγωγή
00:20 Απουσία χρόνου για τους content creators
00:40 Χρήση AI bots - κλώνων
01:40 Πιθανά προβλήματα

Follow us:
Facebook: https://www.facebook.com/SecNews
Instagram: https://www.instagram.com/secnews.gr/
X (Twitter): https://twitter.com/Secnews_GR
TikTok: https://www.tiktok.com/@secnewsgr

0

YouTube Video VVVDWG45SzRBbWhLQjFZMjNHbjY5YWV3Lld6bThQR094Umc0

Zuckerberg: Oι content creators θα χρησιμοποιούν AI κλώνους

SecNewsTV3 hours ago

Η προσέγγιση περιλαμβάνει αρκετά στοιχεία: ένα εργαλείο περιήγησης κώδικα που επιτρέπει στο AI να πλοηγείται στη βάση κώδικα προορισμού, ένα εργαλείο Python για την εκτέλεση σεναρίων σε sandbox περιβάλλον για fuzzing, ένα εργαλείο εντοπισμού σφαλμάτων για την παρακολούθηση της συμπεριφοράς του προγράμματος και ένα εργαλείο Reporter για την παρακολούθηση της προόδου μιας εργασίας.

Δείτε ακόμη: Meta: Διακόπτει την εκπαίδευση του AI με δεδομένα χρηστών

Η Google ανέφερε ότι το Naptime είναι model-agnostic και backend-agnostic. Είναι επίσης καλύτερο στην ανίχνευση του buffer overflow και εξελιγμένων ελαττωμάτων μνήμης, σύμφωνα με τα κριτήρια αναφοράς του CYBERSECEVAL 2. Το CYBERSECEVAL 2, που κυκλοφόρησε τον περασμένο Απρίλιο από ερευνητές της Meta, είναι μια ολοκληρωμένη σουίτα αξιολόγησης για τη μέτρηση των κινδύνων ασφαλείας των LLM.

Στις δοκιμές που διεξήγαγε η Google για την αναπαραγωγή και εκμετάλλευση των ελαττωμάτων, οι δύο κατηγορίες ευπαθειών πέτυχαν νέα κορυφαία βαθμολογία 1,00 και 0,76, έναντι των προηγούμενων 0,05 και 0,24 που αφορούν το OpenAI GPT-4 Turbo.

Google Project Naptime

“Το Project Naptime επιτρέπει σε ένα LLM (μεγάλο γλωσσικό μοντέλο) να πραγματοποιήσει έρευνα σχετικά με τις ευπάθειες που προσεγγίζει στενά την επαναλαμβανόμενη, βασισμένη σε υποθέσεις μέθοδο των ειδικών ανθρώπινης ασφάλειας”, ανέφεραν οι ερευνητές. “Αυτή η αρχιτεκτονική όχι μόνο ενισχύει την ικανότητα του πράκτορα να εντοπίζει και να αναλύει τα τρωτά σημεία, αλλά διασφαλίζει επίσης ότι τα αποτελέσματα είναι ακριβή”.

Διαβάστε περισσότερα: Το Google Meet προσθέτει υποστήριξη για πάνω από 50 γλώσσες στους υπότιτλους

Πηγή: thehackernews

SecNews
SecNewshttps://www.secnews.gr
In a world without fences and walls, who need Gates and Windows
spot_img

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS