Η OpenAI εξετάζει λεπτομερώς, πότε θα κυκλοφορήσει το AI εργαλείο ανίχνευσης εικόνων, που μπορεί να αναγνωρίσει εάν μια εικόνα έχει δημιουργηθεί με το DALL-E 3, το προηγμένο μοντέλο AI (τεχνητής νοημοσύνης) της OpenAI. Ωστόσο, η εταιρεία δεν έχει καταλήξει ακόμα.
Η ερευνήτρια του OpenAI, Sandhini Agarwal, με εξειδίκευση στην ασφάλεια και την πολιτική, μίλησε στο TechCrunch σε μια τηλεφωνική συνέντευξη αυτή την εβδομάδα. Αναφέρθηκε ότι, αν και το εργαλείο ταξινόμησης είναι “πραγματικά καλό” – τουλάχιστον κατά την άποψή της – δεν έχει φτάσει το όριο ποιότητας που έχει θέσει η OpenAI.
Υπάρχει ένα ζήτημα που αφορά την παρουσίαση ενός εργαλείου που είναι κάπως αναξιόπιστο, δεδομένου ότι οι αποφάσεις που μπορεί να λάβει μπορούν να επηρεάσουν σημαντικά τις φωτογραφίες. Παραδείγματος χάριν, αν ένα έργο θεωρείται ζωγραφισμένο από έναν καλλιτέχνη ή αν είναι αυθεντικό, είπε η Agarwal.
Δείτε ακόμη: OpenAI: Διαπραγματεύεται με τον Jony Ive για Hardware Project;
Η εξαιρετική ακρίβεια του εργαλείου της OpenAI φαίνεται να είναι εντυπωσιακή. Η Mira Murati, επικεφαλής τεχνολογίας της OpenAI, δήλωσε αυτή την εβδομάδα στο συνέδριο Tech Live της Wall Street Journal ότι ο ταξινομητής είναι “99%” στο αν μια φωτογραφία έχει τροποποιηθεί ή όχι, χρησιμοποιώντας το DALL-E 3. Ίσως ο στόχος είναι το 100%.
Μια ενδιαφέρουσα ανάρτηση ιστολογίου της OpenAI, που δημοσιεύθηκε στο TechCrunch, αποκάλυψε ένα συναρπαστικό στοιχείο:
«Ο ταξινομητής παραμένει πάνω από 95% ακριβής όταν μια εικόνα έχει υποβληθεί σε τροποποιήσεις, όπως περικοπή, αλλαγή μεγέθους, συμπίεση JPEG ή όταν κείμενο ή αποκόμματα από πραγματικές εικόνες τοποθετούνται σε μικρά τμήματα της παραγόμενης εικόνας .»
Η απροθυμία του OpenAI μπορεί να συνδέεται με τη διαμάχη που περιβάλλει το προηγούμενο δημόσιο εργαλείο ταξινομητή του. Αυτό το εργαλείο σχεδιάστηκε για να ανιχνεύει κείμενο που προέρχεται από AI, όχι μόνο από μοντέλα του OpenAI, αλλά και από μοντέλα δημιουργίας κειμένου που κυκλοφόρησαν από τρίτες πηγές. Το OpenAI αφαίρεσε τον ανιχνευτή γραπτού κειμένου με τεχνητή νοημοσύνη λόγω της «χαμηλής ακρίβειάς του», που είχε επικριθεί ευρέως.`
Η Agarwal υπονοεί, ότι το OpenAI είναι επίσης κολλημένο στο φιλοσοφικό ερώτημα του τι ακριβώς συνιστά μια εικόνα που δημιουργείται από AI. Το έργο τέχνης που δημιουργήθηκε από την αρχή από το DALL-E 3 πληροί τις προϋποθέσεις, προφανώς. Τι γίνεται όμως με μια εικόνα από το DALL-E 3 που έχει υποστεί αρκετούς γύρους επεξεργασιών, έχει συνδυαστεί με άλλες εικόνες και στη συνέχεια έχει περάσει από μερικά φίλτρα μετά την επεξεργασία; Είναι λιγότερο σαφές.
«Στο σημείο αυτό, θα έπρεπε αυτή η εικόνα να θεωρείται δημιούργημα τεχνητής νοημοσύνης ή όχι;», αναφέρει η Agarwal. «Αυτή τη στιγμή, προσπαθούμε να απαντήσουμε σε αυτήν την ερώτηση και ενδιαφερόμαστε πολύ να ακούσουμε από καλλιτέχνες και άτομα που θα επηρεαστούν σημαντικά από τέτοια εργαλεία».
Πολλοί οργανισμοί – όχι μόνο η OpenAI – αναζητούν τεχνικές υδατογράφησης και ανίχνευσης για παραγωγικά μέσα, καθώς οι deepfakes AI πολλαπλασιάζονται.
Η DeepMind πρόσφατα πρότεινε το SynthID, μια λειτουργία για την επισήμανση εικόνων που δημιουργούνται από την τεχνητή νοημοσύνη, έτσι ώστε να είναι ανεπαίσθητη από το ανθρώπινο μάτι, αλλά αναγνωρίσιμη από έναν εξειδικευμένο ανιχνευτή. Η γαλλική startup Imatag, που ιδρύθηκε το 2020, προσφέρει ένα εργαλείο υδατογράφησης που ισχυρίζεται, ότι δεν επηρεάζεται από την αλλαγή μεγέθους, την περικοπή, την επεξεργασία ή τη συμπίεση εικόνων. Μια άλλη εταιρεία, η Steg.AI, χρησιμοποιεί ένα μοντέλο τεχνητής νοημοσύνης για την εφαρμογή υδατογραφημάτων που διατηρούνται αναλλοίωτα από την αλλαγή μεγέθους και άλλες επεξεργασίες.
Δείτε ακόμη: Το Spotify συνεργάζεται με την OpenAI για την αυτόματη μετάφραση των podcast
Το πρόβλημα που αντιμετωπίζουμε είναι, ότι η βιομηχανία δεν έχει ακόμη επιτύχει μια ενιαία συμφωνία σχετικά με το πρότυπο υδατογράφησης ή ανίχνευσης. Ακόμα και αν συμβεί αυτό, δεν υπάρχει εγγύηση ότι τα υδατογραφήματα – και τα εργαλεία ανίχνευσης που αφορούν αυτό το θέμα – θα είναι αποτελεσματικά.
Η Agarwal ρωτήθηκε, εάν ο ταξινομητής εικόνων του OpenAI θα υποστήριζε ποτέ την ανίχνευση εικόνων που δημιουργήθηκαν με άλλα εργαλεία δημιουργίας μη OpenAI. Παρά το γεγονός, ότι δεν θα δεσμευόταν σε αυτό, εξέφρασε την πιθανότητα να το εξετάσει, λαμβάνοντας υπόψη την αποδοχή των υπαρχόντων εργαλείων ταξινόμησης εικόνων. Αυτή η προοπτική ανοίγει νέους δρόμους για το OpenAI και αξίζει να εξερευνηθεί.
“Τη στιγμή αυτή, δεν προχωράμε στη δημιουργία γενικού εργαλείου ανίχνευσης εικόνων… Ωστόσο, δεν αποκλείω το ενδεχόμενο να το εξετάσουμε στο μέλλον, ανάλογα με την πορεία που θα ακολουθήσει το εργαλείο ταξινόμησης.”
Πηγή: techcrunch.com
