Η OpenAI ανακοίνωσε ότι σχεδιάζει να εξαγοράσει την startup δοκιμών AI, Promptfoo, σε μια κίνηση που στοχεύει στην ενίσχυση των ελέγχων ασφάλειας για AI agents καθώς οι επιχειρήσεις προχωρούν στην ανάπτυξη αυτόνομων συστημάτων στις επιχειρηματικές ροές εργασίας. Τα εργαλεία της Promptfoo επιτρέπουν στους προγραμματιστές να δοκιμάζουν εφαρμογές μεγάλων γλωσσικών μοντέλων (LLM) απέναντι σε εχθρικές προτροπές, συμπεριλαμβανομένων των προσπαθειών έγχυσης προτροπών και jailbreak, και να αξιολογούν αν τα μοντέλα ακολουθούν τις κατευθυντήριες γραμμές ασφάλειας και αξιοπιστίας.
Δείτε επίσης: Η επικεφαλής ρομποτικής της OpenAI παραιτείται λόγω της συμφωνίας με το Πεντάγωνο
Σε δήλωσή της, η ΟpenAI ανέφερε ότι η τεχνολογία της Promptfoo θα ενσωματωθεί στο ΟpenAI Frontier, την πλατφόρμα της για την ανάπτυξη και λειτουργία AI συνεργατών. Η OpenAI πρόσθεσε ότι η ομάδα της Promptfoo έχει αναπτύξει εργαλεία που χρησιμοποιούνται από περισσότερες από το 25% των εταιρειών Fortune 500, συμπεριλαμβανομένης μιας ανοιχτού κώδικα διεπαφής γραμμής εντολών και βιβλιοθήκης σχεδιασμένης για την αξιολόγηση και την αναγνώριση μεγάλων γλωσσικών μοντέλων.
Η ΟpenAI σχεδιάζει να συνεχίσει την ανάπτυξη του έργου ανοιχτού κώδικα ενώ επεκτείνει τις δυνατότητες για επιχειρήσεις στην πλατφόρμα Frontier. Οι αναλυτές λένε ότι η εξαγορά αντικατοπτρίζει ένα ευρύτερο σημείο καμπής στην ανάπτυξη AI agents, με τις επιχειρήσεις να μετατοπίζουν την εστίασή τους από τις ακατέργαστες δυνατότητες των μοντέλων σε ασφαλή και ελεγχόμενα συστήματα AI. Η έρευνα της βιομηχανίας αντικατοπτρίζει αυτές τις ανησυχίες.
Δείτε ακόμα: OpenAI Codex Security: Εντόπισε 10.561 σοβαρά ζητήματα σε 1,2 εκατ. Commits
Η μελέτη ασφαλείας της IDC για την Ασία/Ειρηνικό το 2025 έδειξε ότι οι οργανισμοί αναφέρουν τις επιθέσεις phishing και μίμησης που ενισχύονται από AI, όπως deepfakes και κλωνοποίηση φωνής, το ransomware που υποστηρίζεται από AI, και την έγχυση προτροπών LLM ή τον χειρισμό μοντέλων μεταξύ των κορυφαίων ανησυχιών τους. Πρόσθετοι κίνδυνοι περιλαμβάνουν τη δημιουργία κακόβουλου λογισμικού με χρήση AI, επιθέσεις επιχειρηματικής λογικής που καθοδηγούνται από AI και εκστρατείες παραπληροφόρησης, καθώς και δηλητηρίαση μοντέλων κατά την εκπαίδευση, δήλωσε η Sakshi Grover, ανώτερη διευθύντρια έρευνας για τις υπηρεσίες κυβερνοασφάλειας της IDC Ασίας Ειρηνικού.
Οι εταιρείες που μεταφέρουν έργα γεννητικής AI από τα πιλοτικά στάδια στην παραγωγή αναγκάζονται όλο και περισσότερο να θεωρούν τα εργαλεία αξιολόγησης και αναγνώρισης ως βασικό μέρος των αγωγών ανάπτυξης AI. Πολλοί οργανισμοί υιοθετούν τώρα πρακτικές δοκιμών για το AI που αντικατοπτρίζουν τις παραδοσιακές διαδικασίες ασφάλειας εφαρμογών, σύμφωνα με τον Keith Prabhu, ιδρυτή και CEO της Confidis.
Δείτε επίσης: OpenAI: Αναβάθμιση ChatGPT με το GPT-5.4 Thinking
Οι ενσωματωτές συστημάτων και οι πάροχοι διαχειριζόμενων υπηρεσιών ασφάλειας ενσωματώνουν επίσης όλο και περισσότερο εργαλεία δοκιμών AI στις προσφορές υπηρεσιών τους, ιδιαίτερα καθώς οι οργανισμοί αρχίζουν να αναπτύσσουν κέντρα επιχειρήσεων ασφάλειας υποβοηθούμενα από AI.
