Η Μαλαισία και η Ινδονησία προχώρησαν σε προσωρινό μπλοκάρισμα του chatbot τεχνητής νοημοσύνης Grok, της xAI του Elon Musk. Ο λόγος είναι κάποιες αναφορές ότι το εργαλείο χρησιμοποιούνταν για τη δημιουργία μη συναινετικού σεξουαλικού περιεχομένου. Η κίνηση αυτή έρχεται να αντιμετωπίσει τους κινδύνους που σχετίζονται με τη δυνατότητα του Grοk να παράγει εικόνες, μεταξύ των οποίων και υλικό σεξουαλικής κακοποίησης παιδιών (CSAM).
Η ρυθμιστική αρχή της Μαλαισίας διέταξε την Κυριακή περιορισμούς στην πρόσβαση στο Grοk, κατηγορώντας την X Corp για «επαναλαμβανόμενες αποτυχίες» στην αντιμετώπιση αυτών των κινδύνων. Παράλληλα, η Ινδoνησία προχώρησε σε ανάλογη παρέμβαση την προηγούμενη ημέρα, καλώντας αξιωματούχους της X για εξηγήσεις σχετικά με τη χρήση του εργαλείου.
Η δυνατότητα δημιουργίας εικόνων και οι κίνδυνοι
Η πρόσφατη ενημέρωση της λειτουργίας Grok Imagine επέτρεψε στους χρήστες να δημιουργούν εύκολα εικόνες από μηνύματα κειμένου στο chatbot (το οποίο είναι ενσωματωμένο στην πλατφόρμα κοινωνικής δικτύωσης X). Η νέα λειτουργία έδωσε στο εργαλείο ευρεία εμβέλεια, αλλά ταυτόχρονα αύξησε τις πιθανότητες κακόβουλης χρήσης για τη δημιουργία μη συναινετικού περιεχομένου.
Δείτε επίσης: Grok: Δεν έχει θέσει περιορισμούς για τις deepfake εικόνες
Σε μια προσπάθεια να περιοριστεί η κακή χρήση, η xAI ανακοίνωσε ότι η δημιουργία και επεξεργασία εικόνων θα περιοριστεί σε συνδρομητές που πληρώνουν, προκειμένου να μειωθεί η πιθανότητα διάδοσης επικίνδυνου περιεχομένου. Ο Elon Musk υποστήριξε στο X ότι οι χρήστες που θα δημιουργούν παράνομο υλικό μέσω του Grοk θα αντιμετωπίσουν τις ίδιες συνέπειες με όσους αναρτούν τέτοιο περιεχόμενο απευθείας στην πλατφόρμα.
Αντιδράσεις ρυθμιστικών αρχών
Η Επιτροπή Επικοινωνιών και Πολυμέσων της Μαλαισίας χαρακτήρισε «ανεπαρκείς» τις απαντήσεις της X, σημειώνοντας ότι η εταιρεία βασιζόταν κυρίως σε μηχανισμούς αναφοράς που ξεκινούν από τον χρήστη, οι οποίοι δεν αντιμετώπιζαν τους εγγενείς κινδύνους του σχεδιασμού του εργαλείου. Σύμφωνα με την αρχή, ο περιορισμός εφαρμόζεται ως προληπτικό μέτρο μέχρι να εγκατασταθούν επαρκή συστήματα προστασίας, ειδικά για την πρόληψη περιεχομένου που αφορά γυναίκες και παιδιά.
Η Ινδoνησία, μέσω της Υπουργού Επικοινωνιών και Ψηφιακών Υποθέσεων, Meutya Hafid, χαρακτήρισε τα μη συναινετικά σεξουαλικά deepfakes ως σοβαρή παραβίαση ανθρωπίνων δικαιωμάτων και μορφή «ψηφιακής βίας». Οι αρμόδιες αρχές τόνισαν ότι η κακή χρήση τεχνητής νοημοσύνης για τη δημιουργία ψεύτικης πορνογραφίας θέτει σε κίνδυνο την ασφάλεια και την αξιοπρέπεια των πολιτών στον ψηφιακό χώρο.
Δείτε επίσης: Το Grok διαδίδει παραπληροφόρηση για το περιστατικό πυροβολισμών στην παραλία Bondi
Διεθνείς αντιδράσεις και έρευνες
Το πρόβλημα με το Grοk δεν περιορίζεται στη Νοτιοανατολική Ασία. Αρχές στην Ευρωπαϊκή Ένωση, το Ηνωμένο Βασίλειο, τη Βραζιλία και την Ινδία έχουν ζητήσει έρευνες για το ρόλο του Grοk στη διευκόλυνση άσεμνων deepfakes. Το Internet Watch Foundation στο Ηνωμένο Βασίλειο ανέφερε ότι οι αναλυτές του εντόπισαν εικόνες κακοποίησης παιδιών ηλικίας 11–13 ετών, οι οποίες φαίνεται να δημιουργήθηκαν χρησιμοποιώντας το Grok.
Στις ΗΠΑ, ορισμένοι Δημοκρατικοί νομοθέτες συνέστησαν στα καταστήματα εφαρμογών να αναστείλουν προσωρινά το εργαλείο, έως ότου η xAI εφαρμόσει σημαντικές αλλαγές ασφαλείας. Το Υπουργείο Δικαιοσύνης επιβεβαίωσε ότι εξετάζει σοβαρά κάθε περίπτωση δημιουργίας CSAM μέσω τεχνητής νοημοσύνης και δεσμεύτηκε να ασκήσει επιθετική δίωξη στους υπεύθυνους.
Προκλήσεις και προοπτικές για την AI
Το περιστατικό υπογραμμίζει τις αυξανόμενες προκλήσεις που φέρνει η AI στην εποπτεία περιεχομένου. Η δυνατότητα δημιουργίας ρεαλιστικών εικόνων και deepfakes απαιτεί αυστηρούς κανόνες, προληπτικά φίλτρα και συνεργασία μεταξύ εταιρειών, ρυθμιστικών αρχών και δικαστικών φορέων.
Δείτε επίσης: Grok: Hackers καταχρώνται τον AI βοηθό του X
Η περίπτωση Grok φέρνει στο προσκήνιο ένα κρίσιμο δίλημμα: πώς μπορούν οι καινοτόμες δυνατότητες της τεχνητής νοημοσύνης να χρησιμοποιηθούν υπεύθυνα, χωρίς να θέτουν σε κίνδυνο τα πιο ευάλωτα μέλη της κοινωνίας; Οι ενέργειες Μαλαισίας και Ινδονησίας υπογραμμίζουν ότι η διεθνής κοινότητα απαιτεί άμεση δράση και αυστηρότερη εποπτεία, καθώς η ταχύτητα της τεχνολογικής ανάπτυξης συχνά υπερβαίνει την υπάρχουσα νομοθεσία.
Με τις αρχές να παρακολουθούν στενά και τους χρήστες να γίνονται όλο και πιο ενεργοί στο να αναφέρουν καταχρήσεις, το μέλλον των AI chatbots όπως το Grok εξαρτάται από την ικανότητα των εταιρειών να συνδυάσουν καινοτομία και υπευθυνότητα — μια πρόκληση που θα καθορίσει την επόμενη γενιά της τεχνητής νοημοσύνης.
