Οι ευρωπαϊκές ρυθμιστικές αρχές συνεχίζουν να εντείνουν τον έλεγχο στις εταιρείες τεχνητής νοημοσύνης, με την Ιταλία να προχωρά σε ακόμη μία σημαντική παρέμβαση. Αυτή τη φορά στο στόχαστρο βρέθηκε η Character Technologies, η αμερικανική εταιρεία πίσω από τη δημοφιλή πλατφόρμα Character.AI, η οποία καλείται να καταβάλει πρόστιμο ύψους 158.000 ευρώ για παραβιάσεις που σχετίζονται με την προστασία προσωπικών δεδομένων.
Η απόφαση της ιταλικής Αρχής Προστασίας Δεδομένων (Garante) αποτελεί ακόμη ένα μήνυμα προς τις εταιρείες ανάπτυξης εφαρμογών τεχνητής νοημοσύνης ότι η συμμόρφωση με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) δεν είναι προαιρετική. Παράλληλα, αναδεικνύει τις αυξανόμενες ανησυχίες των ευρωπαϊκών αρχών για τον τρόπο με τον οποίο οι υπηρεσίες generative AI συλλέγουν, επεξεργάζονται και αξιοποιούν τα προσωπικά στοιχεία εκατομμυρίων χρηστών.
Γιατί τιμωρήθηκε η Character.AI
Η Character.AI έχει αποκτήσει ιδιαίτερα μεγάλη δημοτικότητα τα τελευταία χρόνια, επιτρέποντας στους χρήστες να δημιουργούν και να συνομιλούν με εικονικούς χαρακτήρες που λειτουργούν με τεχνητή νοημοσύνη. Οι χαρακτήρες αυτοί μπορούν να υποδυθούν ιστορικές προσωπικότητες, φανταστικούς ήρωες ή ακόμη και πρωτότυπες προσωπικότητες που δημιουργούνται από τους ίδιους τους χρήστες.
Δείτε επίσης: Η Character.AI κυκλοφορεί τη δυνατότητα Stories για εφήβους
Ωστόσο, σύμφωνα με τα ευρήματα της Garante, η εταιρεία δεν παρείχε επαρκείς και σαφείς πληροφορίες σχετικά με τον τρόπο επεξεργασίας των προσωπικών δεδομένων των χρηστών της. Οι ελεγκτές διαπίστωσαν ότι οι σχετικές ενημερώσεις για την ιδιωτικότητα δεν ανταποκρίνονταν πλήρως στις απαιτήσεις της ευρωπαϊκής νομοθεσίας, γεγονός που περιόριζε τη διαφάνεια απέναντι στους χρήστες.
Παράλληλα, η εταιρεία κατηγορείται ότι καθυστέρησε να ολοκληρώσει την υποχρεωτική Εκτίμηση Αντικτύπου σχετικά με την Προστασία Δεδομένων (Data Protection Impact Assessment – DPIA), μια διαδικασία που θεωρείται ιδιαίτερα σημαντική για υπηρεσίες οι οποίες επεξεργάζονται μεγάλους όγκους προσωπικών πληροφοριών ή χρησιμοποιούν καινοτόμες τεχνολογίες υψηλού κινδύνου.
Οι ανήλικοι στο επίκεντρο των ανησυχιών
Ιδιαίτερο βάρος στην απόφαση της ιταλικής αρχής δόθηκε στην προστασία των παιδιών και των εφήβων, καθώς η πλατφόρμα είναι ιδιαίτερα δημοφιλής στις μικρότερες ηλικίες.
Οι ελεγκτές διαπίστωσαν ότι οι υπάρχοντες μηχανισμοί επαλήθευσης ηλικίας δεν κρίνονται επαρκείς για να αποτρέψουν την πρόσβαση ανηλίκων σε περιεχόμενο ή λειτουργίες που ενδέχεται να μην είναι κατάλληλες για αυτούς. Σύμφωνα με την Garante, απαιτούνται επιπλέον τεχνικά και οργανωτικά μέτρα ώστε να διασφαλιστεί ότι οι ανήλικοι προστατεύονται αποτελεσματικά κατά τη χρήση της υπηρεσίας.
Το συγκεκριμένο ζήτημα αποκτά ολοένα και μεγαλύτερη σημασία, καθώς εφαρμογές τεχνητής νοημοσύνης επιτρέπουν πλέον ιδιαίτερα ρεαλιστικές συνομιλίες, γεγονός που δημιουργεί νέες προκλήσεις τόσο για την προστασία της ιδιωτικότητας όσο και για την ψυχολογική ασφάλεια των νεότερων χρηστών.
Υποχρεώσεις που δεν τηρήθηκαν
Η Garante επισήμανε ακόμη ότι η Character Technologies δεν προχώρησε εγκαίρως στον ορισμό επίσημου εκπροσώπου εντός της Ευρωπαϊκής Ένωσης, όπως προβλέπει η ευρωπαϊκή νομοθεσία για εταιρείες που δραστηριοποιούνται στην ευρωπαϊκή αγορά χωρίς να διαθέτουν έδρα σε κράτος-μέλος.
Ο εκπρόσωπος αυτός λειτουργεί ως σημείο επικοινωνίας μεταξύ των εποπτικών αρχών και της εταιρείας, διευκολύνοντας τη συμμόρφωση με τον GDPR και την αποτελεσματικότερη διαχείριση πιθανών καταγγελιών ή αιτημάτων χρηστών.
Δείτε επίσης: Character.AI: Γονικοί έλεγχοι και μέτρα ασφαλείας για εφήβους
Μέχρι στιγμής, η Character Technologies δεν έχει προχωρήσει σε επίσημο δημόσιο σχολιασμό της απόφασης.
Η Ευρώπη αυστηροποιεί τη στάση της απέναντι στην AI
Η υπόθεση δεν αποτελεί μεμονωμένο περιστατικό. Τα τελευταία χρόνια οι ευρωπαϊκές αρχές έχουν αυξήσει σημαντικά τον έλεγχο στις πλατφόρμες τεχνητής νοημοσύνης, απαιτώντας μεγαλύτερη διαφάνεια και αυστηρότερη προστασία των προσωπικών δεδομένων.
🔒 Προστατέψτε την ιδιωτικότητά σας με Proton VPN
Ελβετικό VPN από τους δημιουργούς του Proton Mail — αυστηρή πολιτική no-logs, ισχυρή κρυπτογράφηση και ενσωματωμένο NetShield που μπλοκάρει διαφημίσεις, trackers & malware.
- ✔ No-logs, με έδρα την Ελβετία (εκτός 14-Eyes)
- ✔ NetShield: φραγή διαφημίσεων, trackers & κακόβουλων domains
- ✔ Καλύπτει όλες τις συσκευές — δωρεάν έκδοση διαθέσιμη
Ο σύνδεσμος είναι συνεργατικός (affiliate) — το SecNews ενδέχεται να λάβει προμήθεια χωρίς επιπλέον κόστος για εσάς. Δεν επηρεάζει την ανεξαρτησία της αρθρογραφίας μας.
Η Ιταλία, μάλιστα, έχει διαδραματίσει πρωταγωνιστικό ρόλο σε αυτή τη διαδικασία. Το 2023 η Garante είχε προκαλέσει διεθνείς αντιδράσεις όταν διέταξε την προσωρινή αναστολή λειτουργίας του ChatGPT στη χώρα, επικαλούμενη ανησυχίες σχετικά με τη συλλογή προσωπικών δεδομένων και την ανεπαρκή επαλήθευση ηλικίας των χρηστών. Η υπηρεσία επανήλθε μόνο αφού η OpenAI προχώρησε σε σειρά αλλαγών για την ενίσχυση της συμμόρφωσης με τις ευρωπαϊκές απαιτήσεις.
Η συγκεκριμένη στάση δείχνει ότι οι ευρωπαϊκές ρυθμιστικές αρχές δεν περιορίζονται πλέον στην επιβολή προστίμων, αλλά επιδιώκουν να διαμορφώσουν ένα σαφές πλαίσιο λειτουργίας για τις υπηρεσίες τεχνητής νοημοσύνης.
Τι σημαίνει η απόφαση για το μέλλον των AI υπηρεσιών
Η υπόθεση της Character.AI επιβεβαιώνει ότι όσο η τεχνητή νοημοσύνη αποκτά μεγαλύτερη παρουσία στην καθημερινότητα των πολιτών, τόσο αυξάνονται και οι απαιτήσεις για υπεύθυνη διαχείριση των προσωπικών δεδομένων. Οι εταιρείες δεν καλούνται πλέον μόνο να καινοτομούν, αλλά και να αποδεικνύουν ότι οι τεχνολογίες τους λειτουργούν με σεβασμό στην ιδιωτικότητα και με ουσιαστικές δικλείδες ασφαλείας για τους πιο ευάλωτους χρήστες.
Δείτε επίσης: Μήνυση εναντίον Character.AI και Google για αυτοκτονία εφήβου
Το πρόστιμο μπορεί να θεωρείται σχετικά περιορισμένο σε οικονομικό επίπεδο για μια ταχέως αναπτυσσόμενη εταιρεία τεχνητής νοημοσύνης, ωστόσο το συμβολικό του βάρος είναι ιδιαίτερα σημαντικό. Αποτελεί μια ακόμη ένδειξη ότι στην Ευρώπη η ανάπτυξη της AI θα συνοδεύεται από αυστηρό εποπτικό έλεγχο, με την προστασία των προσωπικών δεδομένων και των ανηλίκων να παραμένει στο επίκεντρο κάθε νέας ψηφιακής υπηρεσίας.
