Ένα ρομπότ που μπορεί να αποφασίσει αν πρέπει ή όχι να προκαλέσει πόνο, έχει κατασκευαστεί από τον καλλιτέχνη και κατασκευαστή ρομπότ Alexander Reben από το Πανεπιστήμιο του Μπέρκλεϊ, στην Καλιφόρνια.
Η βασική μηχανή είναι σε θέση να τσιμπήσει ένα δάχτυλο, αλλά είναι προγραμματισμένη να μην το κάνει κάθε φορά που μπορεί. Ο κ Reben του έδωσε το παρατσούκλι “Ο πρώτος νόμος”, μετά από ένα σύνολο κανόνων που επινοήθηκε από τον συγγραφέα επιστημονικής φαντασίας Isaac Asimov.
Είπε πως ελπίζει ότι θα προκαλέσει περαιτέρω συζήτηση σχετικά με την Τεχνητή Νοημοσύνη των ρομπότ. «Η πραγματική ανησυχία για την AI είναι ότι ξεφεύγει από τον έλεγχο», είπε.
«Οι γίγαντες τεχνολογίας λένε ότι είναι θέμα χρόνου, αλλά ας σκεφτούμε γι ‘αυτό τώρα, πριν να είναι πολύ αργά. Αποδεικνύουμε ότι επιβλαβή ρομπότ μπορούν να υπάρξουν τώρα. Πρέπει οπωσδήποτε να το αντιμετωπίσουμε.»
Το έργο του κ Reben υποδηλώνει ότι ίσως ένα «kill switch» AI , όπως αυτό που αναπτύχθηκε από επιστήμονες του τμήματος τεχνητής νοημοσύνης της Google, DeepMind, και το Πανεπιστήμιο της Οξφόρδης, μπορεί να είναι χρήσιμο νωρίτερα παρά αργότερα.
Σε ένα ακαδημαϊκό έγγραφο, οι ερευνητές περιγράφουν πώς στο μέλλον οι ευφυείς μηχανές θα μπορούσαν να κωδικοποιούνται για να αποτρέπετε η εκμάθηση να παρακάμπτουν την ανθρώπινη είσοδο.
«Θα είναι ενδιαφέρον να ακούσουμε τι προτείνεται ο kill switch», είπε ο κ Reben. «Γιατί ένα ρομπότ δεν θα είναι σε θέση να αναιρέσει το διακόπτη σβησίματός του, αν είχε γίνει τόσο έξυπνος?»
Σε ένα σύνολο τριών ρομποτικών νόμων που γράφτηκε από τον Isaac Asimov, αρχικά περιελάμβανε μια σύντομη ιστορία που δημοσιεύθηκε το 1942, ο πρώτος νόμος είναι ότι ένα ρομπότ δεν πρέπει να βλάπτει τον άνθρωπο.
Ο κ Reben είπε στο BBC ότι ο «Πρώτος Νόμος», ο οποίος στη χειρότερη μορφή του μπορεί να αντλήσει αίμα, ήταν ένα “φιλοσοφικό πείραμα”. «Το ρομπότ παίρνει μια απόφαση που εγώ ως δημιουργός του δεν μπορώ να προβλέψω» είπε. «Δεν ξέρω ποιον θα βλάψει ή όχι.»
“Αυτό που είναι ενδιαφέρον, είναι ότι προκαλεί πόνο χωρίς να υπάρχει λόγος -. Κινούμαστε λοιπόν σε ένα ερώτημα ηθικής σχετικά με τα ρομπότ που είναι ειδικά κατασκευασμένα για να κάνουν πράγματα που είναι ηθικά αμφιλεγόμενες»
Το απλό μηχάνημα κοστίζει περίπου $ 200 (£ 141) και χρειάστηκαν λίγες μέρες για να κατασκευαστεί είπε ο κ Reben. Ο ίδιος δεν έχει σχέδια διαφήμισης ή πώλησης.
Ο κ Reben έχει δημιουργήσει μια σειρά από ρομπότ με βάση το θέμα της σχέσης μεταξύ της τεχνολογίας και των ανθρώπων, μεταξύ των οποίων ένα που προσφέρει μασάζ κεφαλής. Με αυτό τον τρόπο θέλει να δείξει ότι ένα μηχάνημα που κατασκευάστηκε για άλλο σκοπό, μπορεί τελικά να προκαλέσει ζημιά.
