Τρίτη, 23 Φεβρουαρίου, 13:47
Αρχική youtube Γιατί οι επιστήμονες λένε ότι δεν μπορεί να ελεγχθεί η υπερνοημοσύνη AI;

Γιατί οι επιστήμονες λένε ότι δεν μπορεί να ελεγχθεί η υπερνοημοσύνη AI;

Η τεχνητή νοημοσύνη AI που έχει έρθει για να ανατρέψει τα δεδομένα της ανθρωπότητας, αποτελεί αντικείμενο συζήτησης εδώ και πολλές δεκαετίες. Τώρα, οι επιστήμονες απαντούν στο ερώτημα εάν θα μπορούσαμε να ελέγξουμε μια υπερνοημοσύνη υπολογιστών υψηλού επιπέδου. Ποια είναι η απάντησή τους; «Σίγουρα όχι».

Σύμφωνα με τους επιστήμονες, ο έλεγχος μιας υπερνοημοσύνης AI που ξεπερνά κατά πολύ την ανθρώπινη κατανόηση, θα απαιτούσε μια προσομοίωση αυτής που να μπορεί να αναλυθεί. Αλλά αν η υπερνοημοσύνη δεν είναι κατανοητή, είναι αδύνατο να δημιουργηθεί μια τέτοια προσομοίωση.

Γιατί οι επιστήμονες λένε ότι δεν μπορεί να ελεγχθεί η υπερνοημοσύνη AI;

Κανόνες όπως «δεν προκαλεί βλάβη στον άνθρωπο» δεν μπορούν να τεθούν εάν δεν είναι κατανοητό το είδος των σεναρίων με τα οποία θα δημιουργηθεί μια τεχνητή νοημοσύνη. Οι επιστήμονες τόνισαν πως όταν ένα σύστημα υπολογιστή λειτουργεί σε ένα επίπεδο πάνω από το πεδίο εφαρμογής των προγραμματιστών, δεν μπορούν να τεθούν όρια. Συγκεκριμένα, οι επιστήμονες επεσήμαναν τα ακόλουθα: «Μια υπερνοημοσύνη δημιουργεί ένα θεμελιωδώς διαφορετικό πρόβλημα από εκείνο που συνήθως μελετάται στην “ρομποτική ηθική”. Αυτό συμβαίνει επειδή η υπερνοημοσύνη είναι πολύπλευρη και επομένως δυνητικά ικανή να κινητοποιήσει μια ποικιλία πόρων, προκειμένου να επιτύχει στόχους που είναι δυνητικά αδιανόητοι για τον άνθρωπο, πόσο μάλλον ελεγχόμενοι.»

Μέρος του συλλογισμού των ερευνητών προέρχεται από το πρόβλημα τερματισμού που προέβαλε ο Alan Turing το 1936. Το πρόβλημα επικεντρώνεται στο να γνωρίζουμε εάν ένα πρόγραμμα υπολογιστή θα καταλήξει σε ένα συμπέρασμα και θα σταματήσει να «τρέχει» ή αν θα συνεχίσει να «τρέχει» για πάντα.

Γιατί οι επιστήμονες λένε ότι δεν μπορεί να ελεγχθεί η υπερνοημοσύνη AI;

Όπως απέδειξε ο Turing μέσω κάποιων «έξυπνων» μαθηματικών, ενώ μπορούμε να το γνωρίζουμε αυτό για ορισμένα συγκεκριμένα προγράμματα, είναι λογικά αδύνατο να βρούμε έναν τρόπο που θα μας επιτρέψει να το γνωρίζουμε για κάθε πιθανό πρόγραμμα που θα μπορούσε ποτέ να αναπτυχθεί.

Οποιοδήποτε πρόγραμμα που αναπτύσσεται για να σταματήσει η AI να βλάπτει τους ανθρώπους και να καταστρέφει τον κόσμο, για παράδειγμα, μπορεί να καταλήξει σε ένα συμπέρασμα (και να σταματήσει) ή όχι. Είναι μαθηματικά αδύνατο να είναι οι επιστήμονες απόλυτα σίγουροι, πράγμα που σημαίνει ότι δεν μπορούν να θέσουν όρια.

Γιατί οι επιστήμονες λένε ότι δεν μπορεί να ελεγχθεί η υπερνοημοσύνη AI;

«Στην πραγματικότητα, αυτό κάνει τον αλγόριθμο περιορισμού άχρηστο», λέει ο επιστήμονας υπολογιστών Iyad Rahwan, από το Ινστιτούτο Ανθρώπινης Ανάπτυξης “Max-Planck” στη Γερμανία.

Η εναλλακτική λύση εκπαίδευσης της AI με κάποια ηθική που να της λέει να μην καταστρέψει τον κόσμο – κάτι που κανένας αλγόριθμος δεν μπορεί να είναι απολύτως σίγουρος ότι κάνει, λένε οι ερευνητές – είναι να περιοριστούν οι δυνατότητες της υπερνοημοσύνης.

Ωστόσο, οι ερευνητές απορρίπτουν και αυτήν την ιδέα, καθώς κάτι τέτοιο θα περιορίσει την εμβέλεια της τεχνητής νοημοσύνης.

τεχνητή νοημοσύνη

Επιπλέον, οι ερευνητές εξήγησαν ότι δεν μπορούν να γνωρίζουν καν πότε φτάνει μια υπερνοημοσύνη πέρα από τον έλεγχό τους. Αυτό σημαίνει ότι πρέπει να αρχίσουν να θέτουν κάποια σοβαρά ερωτήματα σχετικά με τις κατευθύνσεις που ακολουθούν.

Ο επιστήμονας υπολογιστών Manuel Cebrian από το Ινστιτούτο Ανθρώπινης Ανάπτυξης “Max-Planck” επεσήμανε τα εξής: «Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο, ακούγεται σαν επιστημονική φαντασία. Αλλά υπάρχουν ήδη μηχανές που εκτελούν συγκεκριμένες σημαντικές εργασίες ανεξάρτητα, χωρίς να κατανοούν πλήρως οι προγραμματιστές πώς το έμαθαν. Επομένως, τίθεται το ερώτημα εάν αυτό θα μπορούσε κάποια στιγμή να γίνει ανεξέλεγκτο και επικίνδυνο για την ανθρωπότητα.»

Η μελέτη δημοσιεύθηκε στο περιοδικό Research of Artificial Intelligence Research.

1 ΣΧΟΛΙΟ

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

Please enter your comment!
Please enter your name here

Pohackontas
Pohackontashttps://www.secnews.gr
Every accomplishment starts with the decision to try.

LIVE NEWS

Αποκαλύφθηκε σφάλμα XSS στο domain Apple iCloud

Μια ευπάθεια cross-site scripting (XSS) στο domain iCloud φέρεται να έχει διορθωθεί από την Apple. Ο κυνηγός σφαλμάτων και penetration tester Vishal...

Share-ents: Πόσο επικίνδυνο είναι να δημοσιεύουμε φωτογραφίες παιδιών

Όπως ανέφερε ο εμπειρογνώμονας ασφαλείας, Ritesh Kotak, οι γονείς συνηθίζουν να δημοσιεύουν περίπου 1.500 φωτογραφίες των παιδιών τους στα κοινωνικά μέσα πριν...

Η Python μετά από πιέσεις κυκλοφορεί updates για να αντιμετωπίσει μια ευπάθεια RCE

Το Python Software Foundation (PSF) κυκλοφόρησε τις εκδόσεις Python 3.9.2 και 3.8.8 για να αντιμετωπίσει δύο σοβαρά ελαττώματα ασφαλείας, συμπεριλαμβανομένου ενός σφάλματος...
00:03:59

7 κίνδυνοι που έχει η διπλή εκκίνηση Windows και Linux

https://www.youtube.com/watch?v=ZUvqVlF4x5E Εάν σκέφτεστε να εγκαταστήσετε ένα δεύτερο λειτουργικό σύστημα στον υπολογιστή σας, καλό είναι να λάβετε υπόψη...

Το δικαστήριο του Ηνωμένου Βασιλείου απέρριψε την αγωγή της Epic Games κατά της Apple

Το Ανώτατο Δικαστήριο (Competition Appeal Tribunal) του Ηνωμένου Βασιλείου απέρριψε την αγωγή της Epic Games εναντίον της Apple, με την οποία ο...

Τα προϊόντα VPN της Powerhouse χρησιμοποιούνται σε επιθέσεις DDoS

Κάποιοι χειριστές botnet κάνουν κατάχρηση των VPN servers από τον παροχέα VPN Powerhouse Management ως τρόπο αναπήδησης και ενίσχυσης ανεπιθύμητου traffic μέρους...

Οι χρήστες των social media είναι πιο επιρρεπείς στην παραπληροφόρηση

Σύμφωνα με μία έρευνα, οι χρήστες που επιλέγουν τα social media ως βασική πηγή πληροφόρησης για σημαντικά ζητήματα, όπως ο Covid-19 ή...

Austin Energy – Τέξας: Scammers απειλούν πελάτες με διακοπή ρεύματος!

Η Austin Energy, μια δημόσια επιχείρηση που παρέχει ηλεκτρική ενέργεια στην πόλη του Ώστιν, του Τέξας και των γύρω περιοχών, εξέδωσε στις...

Apple: Εκτοπίζει τη Samsung και γίνεται ο νούμερο 1 πωλητής smartphone

Σύμφωνα με την εταιρεία Gartner, η Apple έρχεται ξανά στην κορυφή και γίνεται ο νούμερο 1 πωλητής smartphone (παίρνοντας τη θέση από...

NurseryCam: Webcam σύστημα παρακολούθησης παιδιών νηπιαγωγείου εκτέθηκε σε χάκερς

Η NurseryCam, μία εταιρεία παροχής webcam συστημάτων, τα οποία επιτρέπουν σε γονείς να παρακολουθούν τα παιδιά τους ενώ βρίσκονται στο νηπιαγωγείο, ενημέρωσε...