ΑρχικήinetΗ υιοθέτηση του αυτόνομου AI αυξάνεται αλλά είναι επικίνδυνη

Η υιοθέτηση του αυτόνομου AI αυξάνεται αλλά είναι επικίνδυνη

Δύο κυκλοφορίες AI νωρίτερα φέτος ωθούν τους χρήστες να παραδώσουν τον έλεγχο και να επιτρέψουν σε αυτόνομα εργαλεία να ολοκληρώνουν εργασίες εκ μέρους τους. Οι ηγέτες της πληροφορικής πρέπει να είναι έτοιμοι να αντιμετωπίσουν τις συνέπειες. Η Anthropic κυκλοφόρησε την πλατφόρμα Claude Cowork τον Ιανουάριο για macOS και τον Φεβρουάριο για Windows, και η χρήση του εργαλείου OpenClaw αυξήθηκε ραγδαία νωρίτερα φέτος αφού ο προγραμματιστής Peter Steinberger, τώρα με την OpenAI, ξεκίνησε το έργο ανοιχτού κώδικα στα τέλη του 2025.

AI

Ενώ οι περισσότερες οργανώσεις επικεντρώνονται στην ανάπτυξη τεχνητής νοημοσύνης που ενισχύει την ανθρώπινη εργασία, υπάρχει μια τεράστια αύξηση του ενδιαφέροντος για την αυτόνομη τεχνητή νοημοσύνη από τα τέλη του περασμένου έτους, λέει ο Neal Riley, επικεφαλής καινοτομίας και πρώην CIO στην εταιρεία συμβούλων πληροφορικής και ψηφιακού μετασχηματισμού The Adaptavist Group.

Πολλές οργανώσεις, ακόμη και παραδοσιακά επιφυλακτικές εταιρείες στους τομείς των χρηματοοικονομικών υπηρεσιών και της υγειονομικής περίθαλψης, έχουν αρχίσει να πειραματίζονται με την αυτόνομη τεχνητή νοημοσύνη καθώς επιδιώκουν να αναδιαμορφώσουν τις ροές εργασίας τους, λέει. Παρά τις ανησυχίες για απρόβλεπτα αποτελέσματα και αυτόνομους agents που λειτουργούν ως σκιώδης τεχνητή νοημοσύνη, οι πρώτοι υιοθετητές της τεχνητής νοημοσύνης βλέπουν τεράστιες δυνατότητες για την τεχνολογία να είναι πολλαπλασιαστής δύναμης που, για παράδειγμα, δίνει τη δυνατότητα σε μη τεχνικούς ανθρώπους να λύσουν μικρά προβλήματα πληροφορικής χωρίς να εμπλέκουν την τεχνική ομάδα.

Το OpenClaw και το Claude Cowork βρίσκονται στην αιχμή αυτής της επερχόμενης επανάστασης, επιτρέποντας στους χρήστες να χρησιμοποιούν την τεχνητή νοημοσύνη για να αυτοματοποιούν τις ροές εργασίας στους υπολογιστές τους.

Τα bots του OpenClaw ενσωματώνονται με εξωτερικά μεγάλα γλωσσικά μοντέλα (LLM) AI, όπως τα μοντέλα Claude και GPT της OpenAI και οι χρήστες έχουν πρόσβαση σε αυτό μέσω ενός chatbot που λειτουργεί σε μια υπηρεσία ανταλλαγής μηνυμάτων όπως το WhatsApp, το Telegram ή το Discord. Οι χρήστες δίνουν στο Claude Cowork πρόσβαση στις εφαρμογές και τα αρχεία τους και στη συνέχεια ζητούν από την τεχνητή νοημοσύνη να ολοκληρώσει τις εργασίες.

Το Cowork μπορεί να οργανώσει αρχεία, να δημιουργήσει υπολογιστικά φύλλα, να προετοιμάσει αναφορές και να αναλύσει σημειώσεις, αποκτώντας πρόσβαση σε αρχεία στον υπολογιστή του χρήστη, αντλώντας περιεχόμενο από εφαρμογές όπως το Slack και περιηγούμενο στον ιστό για περισσότερες πληροφορίες.

Η υιοθέτηση του αυτόνομου AI αυξάνεται αλλά είναι επικίνδυνη

Πριν το Claude αναλάβει δράση, παρουσιάζει στο χρήστη το σχέδιο και περιμένει έγκριση, σύμφωνα με την Anthropic. Παρόλα αυτά, κάποιοι χρήστες έχουν δώσει σε αυτούς τους αυτόνομους agents υψηλό επίπεδο ελέγχου και υπάρχουν κίνδυνοι όταν παραδίδονται στους υπολογιστές τους χωρίς αυστηρά όρια. Η ερευνήτρια ασφάλειας της Meta AI, Summer Yue, στα τέλη Φεβρουαρίου έγραψε στο Twitter ότι το OpenClaw προσπάθησε να διαγράψει το φάκελο εισερχομένων της μετά από αίτημα να τον καθαρίσει.

Μία από τις κορυφαίες απαντήσεις στο tweet της Yue ήταν μια εικόνα κάποιου που παραδίδει σε έναν χιμπατζή ένα όπλο. Οι ερευνητές έχουν επίσης βρει αρκετά κενά ασφαλείας στο OpenClaw, συμπεριλαμβανομένης μιας ευπάθειας σε επιθέσεις έγχυσης προτροπών. Εδώ βρίσκεται το πρόβλημα: Οι ειδικοί της τεχνητής νοημοσύνης βλέπουν τεράστια πιθανά πλεονεκτήματα με την αυτόνομη τεχνητή νοημοσύνη — με τη δυνατότητα δημιουργίας τεράστιων αποδοτικοτήτων στον χώρο εργασίας — αλλά οι κίνδυνοι είναι σημαντικοί.

Ενώ οι χρήστες δεν έχουν ακόμη δει την αυτόνομη τεχνητή νοημοσύνη να ολοκληρώνει εργασία γρηγορότερα ή φθηνότερα από τους ανθρώπους — τα tokens είναι ακριβά — η τεχνολογία έχει τη δυνατότητα να αναδιαμορφώσει τη φύση της εργασίας προς το καλύτερο. Οι αυτόνομες AI θα επιτρέψουν στις οργανώσεις να ανακατανείμουν το ανθρώπινο δυναμικό τους σε νέες εργασίες, αφαιρώντας μεγάλο μέρος της κουραστικής εργασίας, λένε οι υποστηρικτές.

Μία από τις μεγάλες προκλήσεις είναι να κατανοήσει το AI πώς λειτουργεί μια επιχείρηση. Η ταχύτητα είναι ένα τεράστιο πιθανό πλεονέκτημα των αυτόνομων agents, αλλά είναι επίσης ένα από τα μειονεκτήματα.

Παρά τους κινδύνους, η αγορά κινείται γρήγορα προς το αυτόνομο AI, με μεγάλες υιοθετήσεις να έρχονται τα επόμενα δύο χρόνια, λέει ο Russell Twilligear, επικεφαλής έρευνας και ανάπτυξης τεχνητής νοημοσύνης στην εταιρεία παροχής περιεχομένου που δημιουργείται από AI, BlogBuster.

Η υιοθέτηση του αυτόνομου AI αυξάνεται αλλά είναι επικίνδυνη

Παρά τις ανησυχίες για την ασφάλεια και την παραγωγή, ο Riley ενθαρρύνει τους ηγέτες πληροφορικής να επιτρέψουν στους υπαλλήλους να πειραματιστούν με την αναδυόμενη τεχνολογία λόγω της επικείμενης υιοθέτησης. Οι οργανώσεις που επενδύουν στην εκπαίδευση AI και επιτρέπουν στους υπαλλήλους να παίζουν με την τεχνολογία τείνουν να έχουν καλύτερα αποτελέσματα από τις αναπτύξεις, σημειώνει.

📧
Εγγραφείτε στο Newsletter του SecNews

Τα σημαντικότερα νέα Ασφάλειας & Τεχνολογίας στο Inbox σας.

Absenta Mia
Absenta Miahttps://www.secnews.gr
Being your self, in a world that constantly tries to change you, is your greater achievement

ΑΝΑΖΗΤΗΣΗ

FOLLOW US

📧
Newsletter SecNews
Τα σημαντικότερα νέα Ασφάλειας & Τεχνολογίας στο inbox σας.

LIVE NEWS