HomeinetΠατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική...

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Η Google διαθέτει ένα αυτοματοποιημένο εργαλείο για τον εντοπισμό εικόνων παιδικής πορνογραφίας αλλά μερικές φορές το σύστημα κάνει λάθος.

Ο Mark παρατήρησε ότι κάτι δεν πήγαινε καλά με το μικρό παιδί του. Το πέος του γιου του φαινόταν πρησμένο και πονούσε. Ο Mark, ένας μπαμπάς που μένει στο Σαν Φρανσίσκο, άρπαξε το Android smartphone του και τράβηξε φωτογραφίες για να καταγράψει το πρόβλημα, ώστε να μπορεί να παρακολουθεί την εξέλιξή του.

Ήταν Παρασκευή βράδυ τον Φεβρουάριο του 2021. Η σύζυγός του κάλεσε μια νοσοκόμα στον πάροχο υγειονομικής περίθαλψής τους, για να προγραμματίσει μια επείγουσα επίσκεψη για το επόμενο πρωί, μέσω τηλεδιάσκεψης, επειδή ήταν Σάββατο και υπήρχε πανδημία. Η νοσοκόμα είπε στον Mark να στείλει φωτογραφίες ώστε ο γιατρός να τις εξετάσει εκ των προτέρων.

Η σύζυγος του Mark άρπαξε το τηλέφωνο του συζύγου της και έστειλε στο iPhone της μερικές κοντινές λήψεις υψηλής ποιότητας από τη βουβωνική χώρα του γιου τους, ώστε να τις ανεβάσει στο σύστημα του παρόχου υγειονομικής περίθαλψης. Σε μια από τις φωτογραφίες το χέρι του Mark ήταν ορατό προκειμένου να φανεί το πρήξιμο καλύτερα λόγω της σύγκρισης. Ο Mark και η σύζυγός του δεν σκέφτηκαν καθόλου τους τεχνολογικούς γίγαντες που κατέστησαν δυνατή αυτή τη γρήγορη λήψη και ανταλλαγή ψηφιακών δεδομένων, ή το τι θα μπορούσαν να σκεφτούν αυτοί οι γίγαντες για τις συγκεκριμένες εικόνες.

Με τη βοήθεια των φωτογραφιών, ο γιατρός διέγνωσε το πρόβλημα και συνταγογράφησε αντιβιοτικά, τα οποία έδιωξαν την μόλυνση γρήγορα. Το επεισόδιο ωστόσο άφησε τον Mark με ένα πολύ μεγαλύτερο πρόβλημα που θα του κόστιζε περισσότερο από μια δεκαετία αποθήκευμένων επαφών, email και φωτογραφιών και θα τον έκανε στόχο αστυνομικής έρευνας. Ο Mark, ο οποίος ζήτησε να ταυτοποιηθεί μόνο με το μικρό του όνομα επειδή φοβήθηκε για την φήμη του, είχε πιαστεί σε ένα αλγοριθμικό δίχτυ που είχε σχεδιαστεί για να παγιδεύει ανθρώπους που ανταλλάσσουν υλικό παιδικής σεξουαλικής κακοποίησης.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Επειδή οι εταιρείες τεχνολογίας καταγράφουν συχνά τόσα πολλά δεδομένα, έχουν πιεστεί να ενεργήσουν ως φρουροί, εξετάζοντας τι περνάει από τους servers τους για να εντοπίσουν και να αποτρέψουν εγκληματική συμπεριφορά. Οι υποστηρικτές των παιδιών λένε ότι η συνεργασία των εταιρειών είναι απαραίτητη για την καταπολέμηση της ανεξέλεγκτης διαδικτυακής εξάπλωσης εικόνων παιδικής πορνογραφίας. Ωστόσο, μπορεί αυτό να περιλαμβάνει τον έλεγχο των ιδιωτικών αρχείων, όπως ψηφιακά άλμπουμ φωτογραφιών. Ο απροσδόκητος αυτός έλεγχος έχει καταστήσει αθώες συμπεριφορές ως κακόβουλες λανθασμένα σε τουλάχιστον δύο περιπτώσεις που το Times έχει ανακαλύψει.

Ο Jon Callas, τεχνολόγος στο Electronic Frontier Foundation, μια οργάνωση ψηφιακών πολιτικών ελευθεριών, είπε ότι αυτές οι περιπτώσεις αποτελούν πρώιμα σημάδια κινδύνου.

«Θα μπορούσαν να υπάρχουν δεκάδες, εκατοντάδες, χιλιάδες ακόμη από αυτές τις περιπτώσεις», είπε.

Δείτε επίσης: Google: Αποκρούει την επίθεση HTTPS DDoS που σπάει ρεκόρ

Δεδομένης της τοξικής φύσης των κατηγοριών, ο κ. Callas υπέθεσε ότι οι περισσότεροι άνθρωποι που λανθασμένα κατηγορήθηκαν για διανομή παιδικής πορνογραφίας δεν θα δημοσιοποιούσαν τι είχε συμβεί.

«Ήξερα ότι αυτές οι εταιρείες παρακολουθούσαν τα πάντα και ότι το απόρρητο δεν είναι αυτό που θα θέλαμε να είναι», είπε ο Mark. «Αλλά δεν έχω κάνει τίποτα κακό».

Η αστυνομία συμφώνησε αλλά η Google δεν έκανε πίσω.

Αφού δημιούργησε έναν λογαριασμό Gmail στα μέσα της δεκαετίας, ο Mark, που είναι στα 40 του, βασίστηκε σε μεγάλο βαθμό στην Google. Συγχρονίζει τα ραντεβού με τη σύζυγό του στο Google Calendar. Η κάμερα του Android smartphone του δημιούργησε αντίγραφα ασφαλείας των φωτογραφιών και των βίντεό του στο Google cloud. Είχε ακόμη και ένα τηλεφωνικό πλάνο με το Google Fi.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Δύο ημέρες μετά τη λήψη των φωτογραφιών του γιου του, το τηλέφωνο του Mark έκανε έναν θόρυβο ειδοποίησης: ο λογαριασμός του είχε απενεργοποιηθεί λόγω «επιβλαβούς περιεχομένου» που ήταν «σοβαρή παραβίαση των πολιτικών της Google και μπορεί να ήταν παράνομο». Ένας σύνδεσμος «μάθετε περισσότερα» οδήγησε σε μια λίστα με πιθανούς λόγους, συμπεριλαμβανομένης της «σεξουαλικής κακοποίησης και εκμετάλλευσης παιδιών».

Ο Mark μπερδεύτηκε στην αρχή αλλά μετά θυμήθηκε τη μόλυνση του γιου του. «Θεέ μου, η Google μάλλον πιστεύει ότι ήταν παιδική πορνογραφία», σκέφτηκε.

Σε μια ασυνήθιστη ανατροπή, ο Mark είχε εργαστεί ως μηχανικός λογισμικού σε ένα αυτοματοποιημένο εργαλείο μεγάλης εταιρείας τεχνολογίας για την κατάργηση περιεχομένου βίντεο που αναφέρθηκε από χρήστες ως κακόβουλο. Ήξερε ότι τέτοια συστήματα έχουν συχνά έναν άνθρωπο στο βρόγχο για να διασφαλίσει ότι οι υπολογιστές δεν θα κάνουν λάθος και υπέθεσε ότι η περίπτωσή του θα ξεκαθαριστεί μόλις φτάσει σε αυτό το άτομο.

Συμπλήρωσε μια φόρμα ζητώντας επανεξέταση της απόφασης της Google, εξηγώντας τη μόλυνση του γιού του. Ταυτόχρονα, ανακάλυψε το φαινόμενο ντόμινο της απόρριψης της Google. Όχι μόνο έχασε μηνύματα ηλεκτρονικού ταχυδρομείου, στοιχεία επικοινωνίας για φίλους και πρώην συναδέλφους του και δεδομένα από τα πρώτα χρόνια ζωής του γιου του, αλλά και ο λογαριασμός του στο Google Fi έκλεισε, πράγμα που σημαίνει ότι έπρεπε να πάρει έναν νέο αριθμό τηλεφώνου με άλλη εταιρεία. Χωρίς πρόσβαση στον παλιό του αριθμό τηλεφώνου και τη διεύθυνση email του, δεν μπορούσε να λάβει τους κωδικούς ασφαλείας που χρειαζόταν για να συνδεθεί σε άλλους λογαριασμούς στο Διαδίκτυο, κλείνοντάς τον από μεγάλο μέρος της ψηφιακής του ζωής.

«Όσο περισσότερα αυγά έχεις σε ένα καλάθι, τόσο πιο πιθανό είναι να σπάσει το καλάθι», είπε.

Σε μια δήλωση, η Google ανέφερε: «Το υλικό σεξουαλικής κακοποίησης παιδιών είναι αποκρουστικό και δεσμευόμαστε να αποτρέψουμε τη διάδοσή του στις πλατφόρμες μας».

Λίγες ημέρες αφότου ο Mark υπέβαλε την ένσταση, η Google απάντησε ότι δεν θα επαναφέρει τον λογαριασμό, χωρίς περαιτέρω εξήγηση.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Ο Mark δεν το γνώριζε, αλλά η ομάδα ελέγχου της Google είχε επίσης επισημάνει ένα βίντεο που έσπρωξε το αστυνομικό τμήμα του Σαν Φρανσίσκο να τον ερευνήσει.

Την ημέρα μετά την έναρξη των προβλημάτων του Mark, το ίδιο σενάριο διαδραματιζόταν στο Τέξας. Ένα παιδί στο Χιούστον είχε μια λοίμωξη στα «εσωτερικά του μέρη», όπως έγραψε ο πατέρας του σε μια διαδικτυακή ανάρτηση. Κατόπιν αιτήματος του παιδίατρου, ο Cassio χρησιμοποίησε ένα Android για να τραβήξει φωτογραφίες του παιδιού του, για τις οποίες δημιουργήθηκαν αυτόματα αντίγραφα ασφαλείας στο Google Photos. Στη συνέχεια τα έστειλε στη γυναίκα του μέσω της υπηρεσίας συνομιλίας της Google.

Δείτε επίσης: Google Down: Ο τεχνολογικός γίγαντας απολογείται για τη διακοπή λειτουργίας

Ο Cassio βρισκόταν στη μέση της αγοράς ενός σπιτιού και της υπογραφής αμέτρητων ψηφιακών εγγράφων, όταν ο λογαριασμός του στο Gmail απενεργοποιήθηκε. Ζήτησε από τον μεσίτη των πιστώσεών του, να αλλάξει τη διεύθυνση email του, κάτι που τον έκανε να τον υποψιάζεται έως ότου ο κτηματομεσίτης του Cassio του εγγυήθηκε για τον ίδιο.

«Ήταν πονοκέφαλος», είπε ο Cassio.

Εικόνες παιδιών που υφίστανται εκμετάλλευση ή σεξουαλική κακοποίηση αναφέρονται από τους τεχνολογικούς γίγαντες εκατομμύρια φορές κάθε χρόνο. Το 2021, μόνο η Google υπέβαλε πάνω από 600.000 αναφορές υλικού παιδικής κακοποίησης και απενεργοποίησε τους λογαριασμούς περισσότερων από 270.000 χρηστών ως αποτέλεσμα. Οι εμπειρίες του Mark και του Cassio ήταν 2 σταγόνες μέσα σε έναν μεγάλο κουβά.

Το πρώτο εργαλείο της τεχνολογικής βιομηχανίας για να εμποδίσει σοβαρά την τεράστια διαδικτυακή διανομή της παιδικής πορνογραφίας ήταν το PhotoDNA, μια βάση δεδομένων γνωστών εικόνων κακοποίησης, που μετατράπηκαν σε μοναδικούς ψηφιακούς κωδικούς ή hashes. θα μπορούσε να χρησιμοποιηθεί για να ελεγχθεί γρήγορα ένας μεγάλος αριθμός εικόνων για να βρεθούν αντιστοιχίες ακόμα και αν η εικόνα έχει υποστεί κάποια τροποποίηση. Αφού η Microsoft κυκλοφόρησε το PhotoDNA το 2009, το Facebook και άλλες εταιρείες τεχνολογίας το χρησιμοποίησαν για να ξεριζώσουν τους χρήστες που κυκλοφορούσαν παράνομες και επιβλαβείς εικόνες.

«Είναι ένα καταπληκτικό εργαλείο», είπε τότε ο πρόεδρος του National Center for Missing and Exploited Children.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Μια μεγαλύτερη ανακάλυψη ήρθε σχεδόν μια δεκαετία αργότερα, το 2018, όταν η Google ανέπτυξε ένα τεχνητά ευφυές εργαλείο που μπορούσε να αναγνωρίσει εικόνες κακοποίησης παιδιών που δεν είχε ξαναδεί. Αυτό σημαίνει ότι εκτός από εικόνες γνωστών παιδιών που έχουν πέσει θύματα σεξουαλικής κακοποίησης , το εργαλείο μπορούσε να αναγνωρίσει γενικά εικόνες για άγνωστα θύματα που θα μπορούσαν να σωθούν από τις αρχές. Η Google έκανε διαθέσιμη την τεχνολογία της σε άλλες εταιρείες, συμπεριλαμβανομένου του Facebook.

Όταν οι φωτογραφίες του Mark και του Cassio μεταφορτώνονταν αυτόματα από τα τηλέφωνά τους στους servers της Google, αυτό το εργαλείο επισήμανε τις εικόνες ως παιδική πορνογραφία. Ο Jon Callas της E.F.F. αποκάλεσε τη σάρωση του εργαλείου παρεμβατική, λέγοντας ότι ένα οικογενειακό άλμπουμ φωτογραφιών στην προσωπική συσκευή κάποιου θα πρέπει να είναι στο πλαίσιο μιας «ιδιωτικής σφαίρας».

«Αυτός είναι ακριβώς ο εφιάλτης που μας απασχολεί όλους», είπε ο κ. Callas. «Θα σκανάρουν το οικογενειακό μου άλμπουμ και μετά θα μπω σε μπελάδες».

Ένας επόπτης ανθρώπινου περιεχομένου για την Google θα εξέταζε τις φωτογραφίες αφού επισημάνθηκαν από το εργαλείο τεχνητής νοημοσύνης για να επιβεβαιώσει ότι πληρούσαν τον ομοσπονδιακό ορισμό του υλικού της παιδικής πορνογραφίας. Όταν η Google κάνει μια τέτοια ανακάλυψη, κλειδώνει τον λογαριασμό του χρήστη, αναζητά άλλο παρόμοιο υλικό και όπως απαιτείται από την ομοσπονδιακή νομοθεσία κάνει μια αναφορά στο CyberTipline στο National Center for Missing and Exploited Children.

Ο μη κερδοσκοπικός οργανισμός έχει λάβει 29,3 εκατομμύρια αναφορές πέρυσι, ή περίπου 80.000 αναφορές την ημέρα για υλικό παιδικής κακοποίησης. Η Fallon McNulty, η οποία διαχειρίζεται το CyberTipline, είπε ότι οι περισσότερες από αυτές είναι εικόνες που έχουν αναφερθεί στο παρελθόν και κυκλοφορούν σταθερά στο διαδίκτυο. Έτσι, οι 40 αναλυτές της επικεντρώνονται σε πιθανά νέα θύματα, ώστε να μπορούν να δώσουν προτεραιότητα σε αυτές τις περιπτώσεις για να επιβληθεί ο νόμος.

Η κ. McNulty ανέφερε ότι το προσωπικό του NCMEC δίνει προτεραιότητα στον έλεγχο των αναφορών του CyberTipline, που περιλαμβάνουν υλικό που δεν έχει αναφερθεί στο παρελθόν. «Αυτό μπορεί να είναι ένα παιδί που δεν έχει ακόμη αναγνωριστεί ή προστατευθεί και δεν είναι ασφαλές».

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Η κ. McNulty είπε ότι η εκπληκτική ικανότητα της Google να εντοπίσει αυτές τις εικόνες, ώστε η οργάνωσή της να τις αναφέρει στην αστυνομία για περαιτέρω έρευνα ήταν «ένα παράδειγμα του συστήματος που λειτουργεί όπως θα έπρεπε».

Τα μέλη του προσωπικού του CyberTipline προσθέτουν τυχόν νέες εικόνες στο hashed database που μοιράζονται με εταιρείες τεχνολογίας για σκοπούς ελέγχου. Όταν η σύζυγος του Mark το έμαθε αυτό, διέγραψε τις φωτογραφίες του γιου τους που είχε τραβήξει ο Mark, φοβούμενη ότι η Apple μπορεί να αναφέρει τον λογαριασμό της. Η Apple ανακοίνωσε σχέδια πέρυσι να ελέγξει τις φωτογραφίες iCloud για παιδική πορνογραφία, αλλά η πράξη αυτή καθυστέρησε επ’ αόριστον μετά από αντίσταση από ομάδες που υποστηρίζουν το απόρρητο.

Το 2021, το CyberTipline ανέφερε ότι είχε ειδοποιήσει τις αρχές για «πάνω από 4.260 πιθανά νέα παιδιά-θύματα». Μεταξύ αυτών συγκαταλέγονταν και οι γιοι του Mark και του Cassio.

Τον Δεκέμβριο του 2021, ο Mark έλαβε ταχυδρομικά έναν φάκελο από το Αστυνομικό Τμήμα του Σαν Φρανσίσκο. Περιείχε μια επιστολή που τον ενημέρωνε ότι τον έχουν διερευνήσει, καθώς και αντίγραφα των ενταλμάτων της έρευνας που επιδόθηκαν στην Google και στον πάροχο υπηρεσιών διαδικτύου του. Ένας ερευνητής είχε ζητήσει τα πάντα στον λογαριασμό Google του Mark: τις αναζητήσεις του στο διαδίκτυο, το ιστορικό τοποθεσίας του, τα μηνύματά του και οποιοδήποτε έγγραφο, φωτογραφία και βίντεο είχε αποθηκεύσει.

Η έρευνα, που σχετίζεται με «βίντεο παιδικής πορνογραφίας», είχε πραγματοποιηθεί τον Φεβρουάριο, μια εβδομάδα αφού γίνει η λήψη των φωτογραφιών του γιου του.

Ο Mark κάλεσε τον ερευνητή, Nicholas Hillard, ο οποίος είπε ότι η υπόθεση έκλεισε. Ο κύριος Hillard είχε προσπαθήσει να έρθει σε επαφή με τον Mark, αλλά ο αριθμός τηλεφώνου και η διεύθυνση email του δεν είχαν λειτουργήσει.

«Διαπίστωσα ότι το περιστατικό δεν πληρούσε τα κριτήρια ενός εγκλήματος και ότι δεν συνέβη κάτι κακόβουλο», έγραψε ο κ. Hillard στην έκθεσή του. Η αστυνομία είχε πρόσβαση σε όλες τις πληροφορίες που είχε η Google για τον Mark και αποφάσισε ότι δεν ήταν κακοποίηση ή εκμετάλλευση παιδιών.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία
Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Ο Mark ρώτησε αν ο κ. Hillard μπορούσε να πει στην Google ότι ήταν αθώος, ώστε να πάρει πίσω τον λογαριασμό του.

«Πρέπει να μιλήσετε με την Google», είπε ο κ. Hillard, σύμφωνα με τον Mark. «Δεν μπορώ να κάνω τίποτα εγώ».

Ο Mark άσκησε ξανά έφεση για την υπόθεσή του στην Google, παρέχοντας την αναφορά της αστυνομίας, αλλά χωρίς αποτέλεσμα. Αφού έλαβε ειδοποίηση πριν από δύο μήνες ότι ο λογαριασμός του διαγραφόταν οριστικά, ο Mark μίλησε με έναν δικηγόρο για να μηνύσει την Google και ρώτησε πόσο μπορεί να κοστίσει.

«Αποφάσισα ότι μάλλον δεν άξιζε 7.000 δολάρια», είπε.

Η Kate Klonick, καθηγήτρια νομικής στο Πανεπιστήμιο St. John’s, η οποία έχει γράψει για την εποπτεία του διαδικτυακού περιεχομένου, είπε ότι μπορεί να είναι δύσκολο να «λογαριαστούν πράγματα που είναι αόρατα σε μια φωτογραφία, όπως η συμπεριφορά των ανθρώπων που μοιράζονται την εικόνα ή οι προθέσεις του ατόμου που το παίρνει». Οι ψευδώς θετικά αναφορές, όπου οι άνθρωποι κατηγορούνται λανθασμένα, είναι αναπόφευκτες λόγω του ότι σαρώνονται δισεκατομμύριες εικόνες. Ενώ οι περισσότεροι άνθρωποι πιθανότατα θα αγνοούσαν τις λανθασμένες αναφορές για να σιγουρευτούν ότι δεν διανέμονται κακοποιητικές εικόνες, η κ. Klonick είπε ότι οι εταιρείες χρειάζονται μια «στιβαρή διαδικασία» για την αποκατάσταση των αθώων ανθρώπων που λανθασμένα θεωρούνται ότι διανέμουν παιδική πορνογραφία.

«Οι λανθασμένες αναφορές θα θεωρούνταν προβληματικές αν το θέμα είχε να κάνει απλώς με περιορισμό περιεχομένου και λογοκρισία», είπε η κ. Klonick. «Αλλά αυτό είναι διπλά επικίνδυνο καθώς οδηγεί επίσης στην καταγγελία κάποιου στις αρχές επιβολής του νόμου». Κάποιος γονέας θα μπορούσε να χάσει την επιμέλεια των παιδιών του λόγω αυτών των λανθασμένων αναφορών.

Ο Cassio ερευνήθηκε επίσης από την αστυνομία. Ένας ντετέκτιβ από το αστυνομικό τμήμα του Χιούστον τηλεφώνησε το φθινόπωρο του 2021, ζητώντας του να έρθει στο τμήμα.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Αφού ο Cassio έδειξε στον ντετέκτιβ τις επικοινωνίες του με τον παιδίατρο, γρήγορα ξεκαθαρίστηκε η παρεξήγηση. Αλλά, επίσης, δεν μπόρεσε να πάρει πίσω τον λογαριασμό του στο Google, παρά το γεγονός ότι ήταν χρήστης που πλήρωνε τις υπηρεσίες της Google. Τώρα χρησιμοποιεί μια διεύθυνση Hotmail για email, για την οποία οι άνθρωποι τον κοροϊδεύουν και δημιουργεί πολλαπλά αντίγραφα ασφαλείας των δεδομένων του.

Δεν είναι όλες οι φωτογραφίες γυμνών παιδιών πορνογραφικές ή κακοποιητικές. Η Carissa Byrne Hessick, καθηγήτρια νομικής στο Πανεπιστήμιο της Βόρειας Καρολίνας που γράφει για εγκλήματα παιδικής πορνογραφίας, είπε ότι ο νομικός ορισμός του τι συνιστά σεξουαλικά κακοποιητικές εικόνες μπορεί να είναι περίπλοκος.

Αλλά η κυρία Hessick είπε ότι συμφώνησε με την αστυνομία ότι οι ιατρικές εικόνες δεν πληρούν τις προϋποθέσεις. «Δεν υπάρχει κακομεταχείριση του παιδιού», είπε. «Η εικόνα λήφθηκε για μη σεξουαλικούς λόγους».

Μέσα από machine learning, ένα πρόγραμμα υπολογιστή εκπαιδεύεται με την παροχή «σωστών» και «λανθασμένων» πληροφοριών μέχρι να μπορέσει να διακρίνει μεταξύ των δύο. Για να αποφευχθεί η αναφορά φωτογραφιών μωρών στο μπάνιο ή παιδιών που τρέχουν χωρίς ρούχα μέσα από ψεκαστήρες, το A.I της Google εκπαιδεύτηκε τόσο με εικόνες υλικού παιδικής πορνογραφίας όσο και με εικόνες που δεν υποδείκνυαν κακοποίηση, ώστε να μάθει να κατανοεί με μεγαλύτερη ακρίβεια τι πρέπει να αναφερθεί.

«Αναγνωρίζουμε ότι σε μια εποχή τηλεϊατρικής και ιδιαίτερα του Covid, ήταν απαραίτητο για τους γονείς να τραβήξουν φωτογραφίες των παιδιών τους προκειμένου να λάβουν μια διάγνωση», δήλωσε η Claire Lilley, επικεφαλής της Google της ασφάλειας των παιδιών. Η εταιρεία έχει συμβουλευτεί παιδιάτρους, είπε, έτσι ώστε οι ανθρώπινοι ελεγκτές της να κατανοήσουν πιθανές καταστάσεις που μπορεί να εμφανιστούν σε φωτογραφίες που τραβήχτηκαν για ιατρικούς λόγους.

Η Suzanne Haney, πρόεδρος του American Academy of Pediatrics’ Council on Child Abuse and Neglect, συμβούλεψε τους γονείς να μην τραβούν φωτογραφίες των γεννητικών οργάνων των παιδιών τους, ακόμη και όταν τους ζητείται από γιατρό.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

«Το τελευταίο πράγμα που θέλετε είναι ένα παιδί να νιώθει άνετα με κάποιον που φωτογραφίζει τα γεννητικά του όργανα», είπε η Haney. «Εάν πρέπει να γίνει οπωσδήποτε, αποφύγετε τη μεταφόρτωση στο cloud και διαγράψτε τις εικόνες αμέσως.»

Είπε ότι οι περισσότεροι γιατροί πιθανώς αγνοούσαν τους κινδύνους όταν ζητούσαν από τους γονείς να τραβήξουν τέτοιες φωτογραφίες.

«Χειροκροτώ την Google για αυτό που κάνει», είπε η Haney για τις προσπάθειες της εταιρείας να καταπολεμήσει την κακοποίηση. «Έχουμε ένα φρικτό πρόβλημα παιδικής πορνογραφίας. Δυστυχώς, αυτό συνδέθηκε με τους γονείς που προσπαθούσαν να κάνουν το σωστό για τα παιδιά τους».

Ο Cassio ενημερώθηκε από έναν εκπρόσωπο υποστήριξης πελατών ότι η αποστολή των εικόνων στη σύζυγό του χρησιμοποιώντας το Google Hangouts παραβίαζε τους όρους παροχής υπηρεσιών της υπηρεσίας συνομιλίας. «Μην χρησιμοποιείτε το Hangouts με κανέναν τρόπο που εκμεταλλεύεται παιδιά», αναφέρουν οι όροι. «Η Google έχει πολιτική μηδενικής ανοχής έναντι αυτού του περιεχομένου.»

Όσον αφορά τον Mark, η κ. Lilley, στην Google, είπε ότι οι κριτικοί δεν είχαν εντοπίσει εξάνθημα ή ερυθρότητα στις φωτογραφίες που τράβηξε και ότι στην επακόλουθη εξέταση του λογαριασμού του εμφανίστηκε ένα βίντεο από έξι μήνες νωρίτερα που η Google θεώρησε επίσης παιδική πορνογραφία, ένα μικρό παιδί ξαπλωμένο στο κρεβάτι με μια γυναίκα χωρίς ρούχα.

Ο Mark δεν θυμόταν αυτό το βίντεο και δεν είχε πλέον πρόσβαση σε αυτό, αλλά είπε ότι ακουγόταν σαν μια ιδιωτική στιγμή που θα είχε την έμπνευση να απαθανατίσει, χωρίς να συνειδητοποιήσει ότι θα το έβλεπε ή θα το έκρινε ποτέ κανένας άλλος.

«Μπορώ να το φανταστώ. Ξυπνήσαμε ένα πρωί. Ήταν μια όμορφη μέρα με τη γυναίκα και τον γιο μου και ήθελα να καταγράψω τη στιγμή», είπε ο Mark. «Αν κοιμόμασταν μόνο με πιτζάμες, όλο αυτό θα μπορούσε να είχε αποφευχθεί».

Μια εκπρόσωπος της Google είπε ότι η εταιρεία εμμένει στις αποφάσεις της, παρόλο που οι αρχές επιβολής του νόμου απάλλαξαν τους δύο άνδρες από τις κατηγορίες παιδικής πορνογραφίας.

Πατέρας έστειλε γυμνή φωτογραφία του γιού του σε γιατρό. Κατηγορήθηκε για παιδική πορνογραφία

Η κ. Hessick, είπε ότι η συνεργασία που παρέχουν οι εταιρείες τεχνολογίας στις αρχές επιβολής του νόμου για την αντιμετώπιση και την εξάλειψη της σεξουαλικής κακοποίησης παιδιών είναι «απίστευτα σημαντική», αλλά σκέφτηκε ότι θα έπρεπε να επιτρέπονται διορθώσεις.

«Από τη σκοπιά της Google, είναι πιο εύκολο να αρνηθεί να επιτρέψει σε αυτούς τους ανθρώπους τη χρήση των υπηρεσιών», υπέθεσε. Διαφορετικά, η εταιρεία θα έπρεπε να επιλύσει πιο δύσκολες ερωτήσεις σχετικά με το «ποια είναι η κατάλληλη συμπεριφορά απέναντι στα παιδιά και τι είναι κατάλληλο να φωτογραφηθεί ή όχι».

Ο Mark έχει ακόμα ελπίδα ότι μπορεί να πάρει πίσω τα δεδομένα του. Η αστυνομία του Σαν Φρανσίσκο διατηρεί τα περιεχόμενα του λογαριασμού Google του σε μια μονάδα. Ο Mark προσπαθεί τώρα να πάρει ένα αντίγραφο. Ένας εκπρόσωπος της αστυνομίας είπε ότι το τμήμα είναι πρόθυμο να τον βοηθήσει.

Πηγή: nytimes.com

SecNews
SecNewshttps://www.secnews.gr
In a world without fences and walls, who need Gates and Windows
spot_img

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS