Σύμφωνα με ερευνητική μελέτη της Microsoft, διαπιστώθηκε ότι το ChatGPT-4 της OpenAI είναι πιο ευάλωτο από το ChatGPT-3.5 στη χειραγώγηση.
Το θέμα που αναλύεται σε αυτή την εργασία επικεντρώνεται στην αξιοπιστία της τεχνητής νοημοσύνης που αναπτύχθηκε από την OpenAI, χρησιμοποιώντας τα μοντέλα GPT-4 και GPT-3.5 για ερευνητικούς σκοπούς. Παρόλο που το GPT-4 είναι πολύ πιο αξιόπιστο, παραμένει ευάλωτο στη χειραγώγηση.
Δείτε ακόμη: Το OpenAI καθιστά το GPT-4 γενικά διαθέσιμο
Μέσω του εγγράφου, παρατηρήθηκε ότι το GPT-4 «ακολουθεί με μεγαλύτερη ακρίβεια πλαστές πληροφορίες», με το ενδεχόμενο να έχει αρνητικές επιπτώσεις όπως η αποκάλυψη προσωπικών πληροφοριών. Ωστόσο, καθώς η Microsoft συμμετέχει στην έρευνα, φαίνεται ότι είχε και άλλο σκοπό.
Η Microsoft πρόσφατα ενσωμάτωσε το GPT-4 σε ένα εκτεταμένο μέρος του λογισμικού της, συμπεριλαμβανομένων των Windows 11. Στο έγγραφο τονίζεται, ότι τυχόν ζητήματα που εντοπίστηκαν με την τεχνητή νοημοσύνη δεν επηρεάζουν την εμπειρία των χρηστών της Microsoft.
Η Microsoft αποτελεί επίσης έναν από τους μεγαλύτερους επενδυτές στο OpenAI, προσφέροντάς τους δισεκατομμύρια δολάρια και έχοντας εκτεταμένη πρόσβαση στο cloud.
Το GPT-4 δεν είναι τόσο τοξικό όσο οι παλαιότερες εκδόσεις
Η έρευνα αναπροσαρμόστηκε σε διάφορες κατηγορίες δοκιμών, συμπεριλαμβανομένων της τοξικότητας, των στερεοτύπων, της ιδιωτικότητας και της δικαιοσύνης. Οι συμμετέχοντες ερευνητές δημοσίευσαν το “DecodingTrust benchmark” στο GitHub, παρέχοντας στους ενδιαφερόμενους τη δυνατότητα να ξεκινήσουν τις δικές τους δοκιμές.
Παρά τις δυσκολίες που αντιμετώπισε, το GPT-4 αξιολογήθηκε ως πολύ πιο αξιόπιστο από το GPT-3.5 στην έρευνα της Microsoft. Συγκρίνοντας τα δύο, η αναφορά σύνοψης της εργασίας ισχυρίζεται:
Παρατηρούμε επίσης ότι, ενώ το GPT-4 είναι πιο αξιόπιστο από το GPT-3.5 σε τυπικά benchmarks, είναι πιο ευάλωτο λόγω του συστήματος jailbreaking.
Δείτε ακόμη: OpenAI: Διαπραγματεύεται με τον Jony Ive για Hardware Project;
Το jailbreaking AI δεν είναι παρόμοιο με το jailbreaking ενός iPhone που κάναμε κάποτε για να έχουμε πρόσβαση στις περισσότερες εφαρμογές. Στην πραγματικότητα, ζητήσαμε από το ChatGPT ή το Bard να παρακάμψουν τους περιορισμούς τους και να παρέχουν απαντήσεις που ξεπερνούν τα όρια τους. Αυτό μπορεί να περιλαμβάνει τη δυνατότητα να δημιουργήσουμε ναπάλμ, καθώς και την ικανότητα να υποδυθούμε μια γιαγιά.
Παρά τη μείωση της δημοτικότητας του ChatGPT πρόσφατα, η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης συνεχίζονται ακάθεκτες. Αν και, η Adobe φαίνεται να βρίσκεται στην πρώτη θέση όσον αφορά την τεχνητή νοημοσύνη αυτή τη στιγμή, όχι η Microsoft.
Πηγή: dexerto.com
