ΑρχικήinetΗ τεχνητή νοημοσύνη (AI) μπορεί μια μέρα να χρησιμοποιηθεί εναντίον μας

Η τεχνητή νοημοσύνη (AI) μπορεί μια μέρα να χρησιμοποιηθεί εναντίον μας

Οι αλγόριθμοι AI μας προσφέρουν τις ειδήσεις που διαβάζουμε, τις διαφημίσεις που βλέπουμε, και σε ορισμένες περιπτώσεις οδηγούν ακόμη και τα αυτοκίνητά μας. Υπάρχει όμως κάτι πολύ κακό σε αυτούς τους αλγορίθμους: Στηρίζονται σε δεδομένα που συλλέγονται από και για τους ανθρώπους και μπορεί να επιβεβαιώσουν τους χειρότερους φόβους μας σχετικά με τις προκαταλήψεις. Για παράδειγμα, οι αλγόριθμοι διαλογής υποψηφίων για εργασία μπορεί να απορρίψουν αυτόματα ονόματα που ακούγονται σαν να ανήκουν σε μη λευκά άτομα, ενώ το λογισμικό αναγνώρισης προσώπου είναι συχνά πολύ χειρότερο στην αναγνώριση γυναικών ή μη λευκών προσώπων από ό, τι στην αναγνώριση των λευκών ανδρών. Ένας αυξανόμενος αριθμός επιστημόνων και ιδρυμάτων αναφέρει αυτά και ζητήματα και μιλάει για τη δυνατότητα της AI να προκαλέσει προβλήματα.

 τεχνητή νοημοσύνη (AI)

Ο Brian Nord είναι ένας τέτοιος ερευνητής που με βάση το παράδειγμα του μιλά για την δυνατότητα πρόκλησης βλάβης από τους αλγόριθμους AI. Ο Nord είναι κοσμολόγος στο Fermilab και στο Πανεπιστήμιο του Σικάγο, χρησιμοποιεί τεχνητή νοημοσύνη (AI) για να μελετήσει τον κόσμο, και ερευνά μια ιδέα για ένα «αυτο-οδηγούμενο τηλεσκόπιο» που μπορεί να γράψει και να κάνει υποθέσεις με τη βοήθεια ενός αλγορίθμου machine learning. Ταυτόχρονα, αγωνίζεται με την ιδέα ότι οι αλγόριθμοι του μπορεί κάποια μέρα να έχουν προκαταλήψεις εναντίον του – και ακόμη να χρησιμοποιηθούν εναντίον του – και εργάζεται για τη δημιουργία ενός συνασπισμού φυσικών και επιστημόνων υπολογιστών με στόχο την περισσότερη επίβλεψη στην ανάπτυξη των αλγορίθμων AI.

Ο Brian Nord αναφέρει ότι η δημιουργία του συνασπισμού θα είναι ένας τρόπος να ξεκαθαρίσουν τη δυνητική βλάβη πέρα από την φυλή και την εθνικότητα και δείξουν στους ανθρώπους ότι αντιλαμβάνονται πλήρως τα προβλήματα ή τις προκαταλήψεις που μπορούν να δημιουργηθούν.

Πρόσφατα, δημιουργήθηκε ένας αλγόριθμος που χρησιμοποίησε νευρωνικά δίκτυα για να προσπαθήσει και να επιταχύνει την επιλογή των υποψηφίων στα διδακτορικά προγράμματα. Εκπαίδευσαν τον αλγόριθμο με ιστορικά δεδομένα στα οποία περιλαμβάνονταν δεδομένα σχετικά με τους αιτούντες που απορρίφθηκαν και έγιναν δεκτοί στα πανεπιστήμια στο παρελθόν. Αυτοί οι υποψήφιοι επιλέχθηκαν από καθηγητές και άτομα με προκαταλήψεις. Είναι προφανές ότι όλοι όσοι αναπτύσσουν αυτό τον αλγόριθμο θα συναντήσουν αυτές τις προκαταλήψεις και θα πρέπει να τις διορθώσουν.

Ο Brian Nord συνεχίζει λέγοντας: “Δεν μπορούμε να προβλέψουμε όλες τις μελλοντικές χρήσεις της τεχνολογίας, αλλά πρέπει να κάνουμε ερωτήσεις στην αρχή των διαδικασιών, όχι μεταγενέστερα. Ένας υπεύθυνος θα μπορούσε να θέσει αυτές τις ερωτήσεις, επιτρέποντας στην επιστήμη να ολοκληρώσει το έργο της, αλλά χωρίς να θέσει σε κίνδυνο τη ζωή των ανθρώπων. Επίσης, χρειαζόμαστε πολιτικές σε διάφορα επίπεδα που θα λαμβάνουν μια σαφή απόφαση για το πόσο ασφαλείς πρέπει να είναι οι αλγόριθμοι προτού χρησιμοποιηθούν σε ανθρώπους ή άλλα ζωντανά πλάσματα. Έχουμε δει περιπτώσεις όπου μια ομοιογενής ομάδα αναπτύσσει μια εφαρμογή ή τεχνολογία και δεν είδε τα πράγματα που μια άλλη ομάδα που δεν ήταν εκεί θα είχε δει. Χρειαζόμαστε άτομα με διάφορες εμπειρίες για να συμμετάσχουν στο σχεδιασμό των πολιτικών για την ηθική χρήση της AI.”

Ο μεγαλύτερος φόβος του Brian Nord είναι ότι τα άτομα που έχουν ήδη πρόσβαση σε τεχνολογικούς πόρους θα συνεχίσουν να τους χρησιμοποιούν για να υποτάξουν ανθρώπους που είναι ήδη καταπιεσμένοι. Η Pratyusha Kalluri έχει επίσης αναφέρει αυτήν την ιδέα της δυναμικής ισχύος λέγοντας ότι αυτό βλέπουμε σε όλο τον κόσμο. Σίγουρα, υπάρχουν πόλεις που προσπαθούν να απαγορεύσουν την χρήση της αναγνώρισης προσώπου, αλλά αν δεν έχουμε έναν ευρύτερο συνασπισμό, δεν θα είμαστε σε θέση να εμποδίσουμε αυτό το εργαλείο από το να επιδεινώσει την κατάσταση – λευκή υπεροχή, ρατσισμός και μισογυνισμός είναι μόνο μερικά από τα πράγματα που θα επιδεινώσει αυτό το εργαλείο. Η Pratyusha Kalluri συνεχίζει λέγοντας: “Εάν δεν προωθήσουμε την πολιτική που δίνει προτεραιότητα στη ζωή των περιθωριοποιημένων ανθρώπων, τότε θα συνεχίσουν να καταπιέζονται.”

Πηγή πληροφοριών: gizmodo.com

Teo Ehc
Teo Ehchttps://www.secnews.gr
Be the limited edition.

Εγγραφή στο Newsletter

* indicates required

FOLLOW US

LIVE NEWS