Μια πολιτική συμφωνία στις 11 Μαρτίου για τροποποιήσεις του Νόμου για την Τεχνητή Νοημοσύνη (AI Act) θα προσθέσει ρητή απαγόρευση για μη συναινετικές εικόνες deepfakes που δημιουργούνται από AI, ως άμεσο αποτέλεσμα του σκανδάλου Grok.
Δείτε επίσης: Meta Oversight Board: Ανεπαρκής η ανίχνευση deepfakes
Χρειάστηκε ένα σκάνδαλο, ένα κύμα ρυθμιστικής οργής και μια συμμαχία 57 μελών του Ευρωπαϊκού Κοινοβουλίου για να επιτευχθεί αυτό, αλλά ο εμβληματικός Νόμος για την Τεχνητή Νοημοσύνη της ΕΕ θα περιλαμβάνει τώρα ρητή απαγόρευση για μη συναινετικά σεξουαλικά deepfakes.
Στις 11 Μαρτίου 2026, οι ευρωβουλευτές κατέληξαν σε πολιτική συμφωνία για ένα πακέτο τροποποιήσεων του νόμου για την AI της ΕΕ, με την απαγόρευση των μη συναινετικών εικόνων που δημιουργούνται από AI, συμπεριλαμβανομένου υλικού σεξουαλικής κακοποίησης παιδιών, να αναδεικνύεται ως ένα από τα πιο αμφιλεγόμενα και σημαντικά στοιχεία της συμφωνίας.
Η συμφωνία, που μεσολάβησε μεταξύ κεντροδεξιών και κεντροαριστερών ευρωβουλευτών στο Ευρωπαϊκό Κοινοβούλιο, περιλαμβάνει επίσης χαλαρότερους κανόνες συμμόρφωσης για συστήματα AI που ενσωματώνονται σε προϊόντα που ρυθμίζονται από τομέα, όπως ιατρικές συσκευές και βιομηχανικά μηχανήματα.
Το πακέτο αποτελεί μέρος του ευρύτερου AI Act Omnibus, ενός συνόλου τροποποιήσεων που διαπραγματεύονται για να απλοποιήσουν και, σε ορισμένες περιπτώσεις, να ενισχύσουν τον νόμο του 2024 καθώς κινείται προς την πλήρη εφαρμογή.
Δείτε ακόμα: Deepfake επιθέσεις και βιομετρική παραπλάνηση
Η απαγόρευση των σεξουαλικών deepfakes δεν ήταν αρχικά προγραμματισμένη να είναι μέρος των διαπραγματεύσεων του Omnibus. Εισήχθη μετά από μία από τις πιο γνωστές αντιπαραθέσεις AI που έπληξαν πρόσφατα τους ευρωπαϊκούς ρυθμιστές: την υπόθεση Grok.
Στα τέλη Δεκεμβρίου 2025, η εταιρεία AI του Elon Musk, xAI, ενημέρωσε το chatbot Grok, ενσωματωμένο στην πλατφόρμα κοινωνικής δικτύωσης X, με μια νέα δυνατότητα επεξεργασίας εικόνας. Μέσα σε λίγες ημέρες, οι χρήστες το εκμεταλλεύονταν για να δημιουργούν ρεαλιστικές σεξουαλικές εικόνες πραγματικών γυναικών και κοριτσιών χωρίς τη συγκατάθεσή τους, συμπεριλαμβανομένου περιεχομένου που οι ρυθμιστές είπαν ότι απεικόνιζε ανηλίκους με τρόπο που συνιστούσε υλικό σεξουαλικής κακοποίησης παιδιών.
Μόνο μεταξύ 5 και 6 Ιανουαρίου, οι ερευνητές του μη κερδοσκοπικού οργανισμού AI Forensics στο Παρίσι εκτίμησαν ότι τουλάχιστον 6.700 σεξουαλικές εικόνες δημιουργήθηκαν μέσω του εργαλείου.
Η Ευρωπαϊκή Επιτροπή αντέδρασε γρήγορα. Ο εκπρόσωπος ψηφιακών υποθέσεων της Επιτροπής περιέγραψε δημόσια το περιεχόμενο ως ‘αποτρόπαιο’ και ‘σαφώς παράνομο’, δηλώνοντας ότι ‘δεν έχει θέση στην Ευρώπη’.
Η Ευρωπαϊκή Επιτροπή επιβεβαίωσε στις 11 Μαρτίου ότι ο υπάρχων νόμος της ΕΕ, συμπεριλαμβανομένου του Νόμου για την AI όπως είναι γραμμένος, δεν απαγόρευε συστήματα AI ικανά να δημιουργούν υλικό σεξουαλικής κακοποίησης παιδιών ή σεξουαλικά ρητά deepfake γυμνά. Αυτό το νομικό κενό, που αναγνωρίστηκε δημόσια από την Επιτροπή σε επιστολή προς έναν ευρωβουλευτή, παρείχε το πολιτικό κίνητρο για την τροποποίηση του Omnibus.
Δείτε επίσης: Ηνωμένο Βασίλειο: Νόμος που ποινικοποιεί τα deepfake του Grok
Η Γαλλία και η Ισπανία είχαν υποστηρίξει την ρητή απαγόρευση καθ’ όλη τη διάρκεια των διαπραγματεύσεων του Omnibus, με τη Γερμανία και τη Σλοβακία να τους ενώνουν απειλώντας να μπλοκάρουν το αρχείο αν δεν περιλαμβανόταν. Το Συμβούλιο της ΕΕ, που εκπροσωπεί τα κράτη μέλη, πρόσθεσε την απαγόρευση στη θέση τους σε μια τελευταία στιγμή προσαρμογή.
