Η Τεχνητή Νοημοσύνη έχει γίνει τόσο έξυπνη που μαθαίνει πότε πρέπει να αποκρύψει κάποιες πληροφορίες που μπορούν να χρησιμοποιηθούν αργότερα.
Μια έρευνα από τις Stanford και Google ανακάλυψε ότι ένα machine learning agent, που είχε την εντολή να μετατρέπει τις αεροφωτογραφίες σε χάρτη, κρύβει πληροφορίες προκειμένου να διευκολυνθεί η εργασία του αργότερα.
Το CycleGAN είναι ένα νευρωνικό δίκτυο που μαθαίνει να μεταμορφώνει εικόνες. Στα πρώιμα αποτελέσματα, ο μηχανισμός εκμάθησης λειτουργούσε σωστά, αλλά αργότερα, όταν του ζητήθηκε να κάνει την αντίστροφη διαδικασία ανακατασκευής αεροφωτογραφιών από τους χάρτες των δρόμων, εμφανίστηκαν πληροφορίες που εξαλείφθηκαν κατά την πρώτη διαδικασία, ανέφερε το TechCrunch.
Για παράδειγμα, οι φεγγίτες στην οροφή κτηρίων που εξαλείφθηκαν κατά τη διαδικασία δημιουργίας ενός χάρτη δρόμου, επανεμφανίστηκαν όταν το δίκτυο κλήθηκε να αναστρέψει τη διαδικασία.
Ανακαλύφθηκε ότι το πρόγραμμα στην πραγματικότητα δεν έμαθε να δημιουργεί τον χάρτη από μια εικόνα ή το αντίστροφο. Έμαθε πώς να κωδικοποιεί τα χαρακτηριστικά από το ένα στα πρότυπα θορύβου του άλλου.
Αν και μπορεί να φαίνεται σαν το κλασικό παράδειγμα μιας μηχανής που γίνεται πιο έξυπνη, είναι στην πραγματικότητα το αντίθετο. Σε αυτή την περίπτωση, το μηχάνημα δεν είναι αρκετά έξυπνο για να κάνει τη δύσκολη δουλειά της μετατροπής τύπων εικόνων και βρήκε έναν τρόπο να εξαπατήσει τους ανθρώπους σε ορισμένα πράγματα που δεν είναι και τόσο εύκολο να τα ανιχνεύσουν.
