Γάλλοι εισαγγελείς πραγματοποίησαν έφοδο στα γραφεία της X στο Παρίσι, στο πλαίσιο ποινικής έρευνας σχετικά με το εργαλείο τεχνητής νοημοσύνης Grok AI, που χρησιμοποιείται ευρέως για τη δημιουργία σεξουαλικά άσεμνων εικόνων. Η έρευνα έχει προκαλέσει νέα ερωτήματα για την ευθύνη των μεγάλων πλατφορμών κοινωνικής δικτύωσης όσον αφορά τον έλεγχο περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη.
Η έρευνα και οι αρχικές καταγγελίες
Η εισαγγελική έρευνα ξεκίνησε τον Ιανουάριο του 2025 και επεκτάθηκε ύστερα από καταγγελίες ότι το Grok AI χρησιμοποιήθηκε για τη δημιουργία παράνομου περιεχομένου, συμπεριλαμβανομένων σεξουαλικών deepfakes και υλικού άρνησης του Ολοκαυτώματος. Οι αξιωματικοί της μονάδας κυβερνοεγκλήματος της Εθνικής Χωροφυλακής, σε συνεργασία με την Europol, ανέλαβαν τη διερεύνηση, στοχεύοντας στην πλήρη κατανόηση της αλυσίδας διανομής παράνομου υλικού μέσω της πλατφόρμας.
Η έρευνα διερευνά επτά βασικά ποινικά αδικήματα, μεταξύ των οποίων η συνενοχή σε κατοχή και διανομή παιδικής πορνογραφίας, παραβιάσεις που σχετίζονται με σεξουαλικά deepfakes, η άρνηση του Ολοκαυτώματος, η δόλια εξαγωγή δεδομένων, καθώς και η παραβίαση συστημάτων και η λειτουργία παράνομης διαδικτυακής πλατφόρμας στο πλαίσιο οργανωμένης εγκληματικής επιχείρησης.
Δείτε επίσης: ΕΕ: Ερευνά το Grok για τη δημιουργία εικόνων CSAM
Κλήσεις σε στελέχη της X
Η εισαγγελία του Παρισιού ανακοίνωσε ότι κάλεσε τον Elon Musk και τη διευθύνουσα σύμβουλο της Χ, Linda Yaccarino, για εθελοντικές συνεντεύξεις στις 20 Απριλίου. Επιπλέον, υπάλληλοι της X θα ανακριθούν ως μάρτυρες μεταξύ 20 και 24 Απριλίου. Η εισαγγελέας Laure Beccuau δήλωσε ότι οι συνεντεύξεις στοχεύουν στο να δώσουν τη δυνατότητα στα στελέχη να παρουσιάσουν τη θέση τους και τα μέτρα συμμόρφωσης που ενδέχεται να έχουν ληφθεί.
Αντίδραση της X και διεθνείς έρευνες
Η Χ έχει περιγράψει την έρευνα των γαλλικών αρχών για φερόμενη χειραγώγηση αλγορίθμων και «δόλια εξαγωγή δεδομένων» ως «πολιτικά υποκινούμενη».
Παράλληλα, η Ευρωπαϊκή Επιτροπή ξεκίνησε δική της έρευνα τον Ιανουάριο του 2026, εξετάζοντας εάν η Χ αξιολόγησε σωστά τους κινδύνους του Grok AI πριν την ανάπτυξη, σύμφωνα με τον Νόμο περί Ψηφιακών Υπηρεσιών (DSA).
Επιπλέον, η Χ ερευνάται από την Ofcom στο Ηνωμένο Βασίλειο και το Γραφείο του Γενικού Εισαγγελέα της Καλιφόρνια για περιεχόμενο που δημιουργήθηκε χωρίς συναίνεση. Το Γραφείο του Επιτρόπου Πληροφοριών της ΕΕ έχει επικοινωνήσει με την πλατφόρμα για να επιβεβαιώσει τα μέτρα συμμόρφωσης στην ευρωπαϊκή νομοθεσία περί προστασίας δεδομένων.
Δείτε επίσης: Ομάδες υπεράσπισης απαιτούν αποκλεισμό των X – Grok από τα app stores
Πρόστιμα και νομικές επιπτώσεις
Η Ευρωπαϊκή Επιτροπή έχει ήδη επιβάλλει πρόστιμο ύψους 120 εκατομμυρίων ευρώ (140 εκατομμύρια δολάρια) στην Χ για παραβιάσεις των υποχρεώσεων διαφάνειας βάσει του DSA. Το πρόστιμο ανέδειξε την αυξημένη πίεση προς τις τεχνολογικές πλατφόρμες να διαχειρίζονται υπεύθυνα την τεχνητή νοημοσύνη και το περιεχόμενο που δημιουργείται από αυτή.
Προκλήσεις για την τεχνητή νοημοσύνη και την κανονιστική συμμόρφωση
Η υπόθεση Grok AI υπογραμμίζει τις προκλήσεις που αντιμετωπίζουν οι μεγάλες πλατφόρμες όταν τα εργαλεία AI μπορούν να χρησιμοποιηθούν για τη δημιουργία παράνομου ή επιβλαβούς περιεχομένου. Οι αλγόριθμοι που παράγουν εικόνες και βίντεο βρίσκονται πλέον στο επίκεντρο νομοθετικών ελέγχων σε παγκόσμιο επίπεδο, με αυξανόμενη σημασία στην πρόληψη της διάδοσης σεξουαλικά άσεμνου ή επιβλαβούς περιεχομένου.
Ειδικοί σε θέματα κυβερνοασφάλειας υπογραμμίζουν ότι η διασφάλιση της συμμόρφωσης δεν αφορά μόνο τη δημιουργία τεχνολογιών ανίχνευσης παράνομου περιεχομένου, αλλά και τη λήψη θεσμικών μέτρων για συνεχή παρακολούθηση και εκπαίδευση των χρηστών. Η υπόθεση αυτή ενδέχεται να αποτελέσει σημείο καμπής για την ανάπτυξη κανονιστικών πλαισίων που θα δεσμεύουν τις πλατφόρμες κοινωνικής δικτύωσης όσον αφορά τη διαχείριση περιεχομένου που παράγεται από AI.
Δείτε επίσης: Ηνωμένο Βασίλειο: Νόμος που ποινικοποιεί τα deepfake του Grok
Το μέλλον της εποπτείας AI
Καθώς οι έρευνες σε Γαλλία, Ηνωμένο Βασίλειο, ΗΠΑ και ΕΕ συνεχίζονται, η υπόθεση της X και του Grok AI λειτουργεί ως προειδοποίηση για όλες τις πλατφόρμες τεχνολογίας: η καινοτομία στην τεχνητή νοημοσύνη συνοδεύεται από αυξημένες ευθύνες, τόσο νομικές όσο και ηθικές. Η αποτελεσματική εποπτεία και οι μηχανισμοί συμμόρφωσης καθίστανται πλέον απαραίτητοι για να προστατευτούν οι χρήστες και να αποφευχθούν σοβαρές νομικές συνέπειες.
πηγή: www.bleepingcomputer.com
