Η xAI του Elon Musk είναι αντιμέτωπη με μια σοβαρή αγωγή από τρεις εφήβους από το Tennessee, οι οποίοι υποστηρίζουν ότι το AI chatbot Grok δημιούργησε σεξουαλικοποιημένες εικόνες και βίντεο που τους απεικονίζουν ως ανήλικους. Η προτεινόμενη ομαδική αγωγή, που κατατέθηκε τη Δευτέρα, αποκαλύπτει ανησυχητικές πτυχές της τεχνητής νοημοσύνης και των κινδύνων που ενέχει η ανεξέλεγκτη παραγωγή περιεχομένου.
Οι ενάγοντες περιλαμβάνουν δύο ανήλικους και έναν ενήλικα που ήταν ανήλικος όταν συνέβησαν τα γεγονότα της αγωγής. Ένα από τα θύματα, που αναφέρεται ως “Jane Doe 1“, ισχυρίζεται ότι τον περασμένο Δεκέμβριο ανακάλυψε ψεύτικες, αποκαλυπτικές φωτογραφίες, που απεικόνιζαν την ίδια και τουλάχιστον 18 άλλους ανηλίκους. Οι εικόνες ήταν διαθέσιμες στο Discord. Σύμφωνα με την αγωγή, “τουλάχιστον πέντε από αυτά τα αρχεία, ένα βίντεο και τέσσερις εικόνες, απεικόνιζαν το πραγματικό της πρόσωπο και σώμα σε περιβάλλοντα που της ήταν οικεία, αλλά είχαν πειραχτεί ώστε να φαίνεται πως ποζάρει σεξουαλικά“.
Δείτε επίσης: xAI: Το Grok θα σταματήσει να γδύνει ανθρώπους
Ο δράστης, που έχει συλληφθεί, φέρεται να χρησιμοποίησε το AI υλικό CSAM της Jane Doe 1 “σε ομαδικές συνομιλίες του Telegram με εκατοντάδες άλλους χρήστες, ανταλλάσσοντας τα αρχεία CSAM με σεξουαλικό περιεχόμενο άλλων ανηλίκων”. Η αγωγή ισχυρίζεται ότι ο δράστης δημιούργησε τις εικόνες της Jane Doe 1 και των δύο άλλων θυμάτων χρησιμοποιώντας το Grοk.
Η xAI και το Grok αντιμετωπίζουν έντονη κριτική
Η xAI, που ιδρύθηκε από τον Elon Musk τον Μάρτιο 2023, λάνσαρε το Grοk-1 τον Νοέμβριο 2023 ως ένα AI chatbot που δίνει έμφαση σε αφιλτράριστες απαντήσεις συμπεριλαμβανομένων “πικάντικων” ερωτήσεων.
Η παραγωγή εικόνων εισήχθη με το Grοk-2 τον Αύγουστο 2024. Το Grok-3 ακολούθησε τον Φεβρουάριο 2025 με 10 φορές περισσότερη υπολογιστική ισχύ.
Ωστόσο, τους τελευταίους μήνες, ο Musk και η xAI έγιναν αντικείμενο έντονου ελέγχου αφού το Grοk κατέκλυσε το X με σεξουαλικές εικόνες ενηλίκων και ανηλίκων. Το περιστατικό οδήγησε την Ομοσπονδιακή Επιτροπή Εμπορίου να ερευνήσει το Grοk, ενώ έρευνα ξεκίνησε και η Ευρωπαϊκή Ένωση και το Ηνωμένο Βασίλειο. Η Γερουσία επίσης ψήφισε νομοσχέδιο τον Ιανουάριο που θα επιτρέπει στα θύματα μη συναινετικών deepfakes να μηνύουν τους ανθρώπους που δημιούργησαν την εικόνα.
Δείτε επίσης: ΕΕ: Ερευνά το Grok για τη δημιουργία εικόνων CSAM
Νομικές επιπτώσεις και μελλοντικές προοπτικές
Η αγωγή λέει επίσης ότι η xAI “απέτυχε να δοκιμάσει την ασφάλεια των χαρακτηριστικών που ανέπτυξε” και ότι το Grοk είναι “ελαττωματικό στον σχεδιασμό“. Παρόλο που το X έχει προσπαθήσει να κάνει πιο δύσκολο για τους χρήστες να επεξεργάζονται εικόνες με το Grok, σύμφωνα με το The Verge εξακολουθεί να είναι δυνατή η παραποίηση εικόνων που ανεβαίνουν στην πλατφόρμα.
Το X έχει πει ότι “οποιοσδήποτε χρησιμοποιεί ή παροτρύνει το Grοk να κάνει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανεβάσει παράνομο περιεχόμενο“.
Δείτε επίσης: Ηνωμένο Βασίλειο: Μέτρα κατά του Grok λόγω deepfakes
Ωστόσο, οι δικηγόροι των θυμάτων τόνισαν τη σοβαρότητα της κατάστασης: “Αυτά είναι παιδιά των οποίων οι σχολικές και οικογενειακές εικόνες μετατράπηκαν σε υλικό σεξουαλικής κακοποίησης παιδιών από το εργαλείο AI μιας εταιρείας δισεκατομμυρίων δολαρίων και στη συνέχεια μοιράστηκαν μεταξύ παιδόφιλων“.
Σύμφωνα με την αγωγή, τα θύματα που επηρεάστηκαν από τις “παράνομες εικόνες” του Grοk, ζητούν αποζημιώσεις. Αυτή η υπόθεση αναμένεται να έχει σημαντικές επιπτώσεις για τη βιομηχανία τεχνητής νοημοσύνης, καθώς θέτει κρίσιμα ερωτήματα σχετικά με την ευθύνη των εταιρειών AI για το περιεχόμενο που παράγουν τα συστήματά τους και την ανάγκη για αυστηρότερα μέτρα ασφαλείας στην ανάπτυξη multimodal AI εργαλείων.
