Τρομακτικό πείραμα. Δύο ρομπότ του Facebook άρχισαν να «μιλούν» σε δική τους γλώσσα;

9417

Αναπάντεχη και τρομακτική τροπή πήρε το πείραμα τεχνητής νοημοσύνης που διεξήγαγε ερευνητική ομάδα στο Facebook.
Αποκάλυψε ότι δύο προγράμματα κατόρθωσαν να “μιλούν” μεταξύ τους, δημιουργώντας στην ουσία ένα νέο κώδικα επικοινωνίας, το οποίο μόνο εκείνα κατανοούσαν.
Οι επιστήμονες ξαφνιάστηκαν από το συναρπαστικό αλλά και τρομακτικό, όπως το χαρακτήρισαν πείραμα, στο οποίο ανέθεσαν σε δύο chatbots να διαπραγματευτούν την ανταλλαγή βιβλίων, καπέλων και μπαλών.
Τα chatbots είναι προγράμματα τεχνητής νοημοσύνης που μιμούνται την ομιλία, με τα οποία ο χρήστης αλληλεπιδρά, κάνει δηλαδή chat.
Έχουν σχεδιαστεί ώστε να δίνουν αυτόματες απαντήσεις πάντα σε συνάρτηση με τον διάλογο που διεξάγεται.
Τ
α δύο ρομπότ – που είχαν προγραμματιστεί να αλληλεπιδρούν στην αγγλική γλώσσα- άρχισαν με ταχείς ρυθμούς να τροποποιούν τα αγγλικά, χρησιμοποιώντας μονάχα συγκεκριμένες λέξεις, για συντομία, κάτι το οποίο τα διευκόλυνε να επικοινωνούν γρηγορότερα και πιο αποτελεσματικά.
Ο καθηγητής Ρομποτικής, Κέβιν Ουόργουικ, χαρακτήρισε το συγκεκριμένο πείραμα εξαιρετικά σημαντικό επίτευγμα αλλά και επικίνδυνο.
“Οι ειδικοί δεν κατάφεραν να αποκωδικοποιήσουν την “γλώσσα” των
chatbots.
Φανταστείτε τώρα να συνέβαινε το ίδιο με δύο στρατιωτικά ρομπότ που θα επικοινωνούσαν μεταξύ τους και το ένα θα παρότρυνε το άλλο σε κάποια ενέργεια, πιθανότατα με ολέθρια αποτελέσματα“, ισχυρίζεται ο Ουόργκουικ.
Τελικά, οι επιστήμονες διέκοψαν το πείραμα, αφού διαπίστωσαν ότι από ένα σημείο και μετά, δεν είχε περαιτέρω γλωσσολογικό ενδιαφέρον.

Η ιστορία προέρχεται από δημοσίευμα του fastcodesign.com που κυκλοφόρησε στα μέσα Ιουλίου και στη πορεία μπορεί να παρερμηνεύτηκε. Αυτό που συνέβη στη πραγματικότητα, είναι ότι τα 2 bot (Alice και Bob), ενώ είχαν προγραμματιστεί από το Facebook να επικοινωνούν στα αγγλικά, τους δόθηκε κατά λάθος η «ελευθερία» να «μιλούν» σε όχι και τόσο καλή συντακτικά γλώσσα (πιο απλουστευμένα δηλαδή).

Όπως επισημαίνει το Gizmodo, το όλο θέμα ήταν ενδεχομένως ένα λάθος για τους προγραμματιστές, διότι δεν «ενθάρρυνε» τα bots να χρησιμοποιούν κανονικά την αγγλική γλώσσα, οδηγώντας τους να αναπτύξουν μια «σύντμηση». Οι κουβέντες που μιλούσαν μπορεί να μην ήταν ένας μυστικός κωδικός ρομπότ, αλλά απλώς ένα λάθος στον κώδικα των προγραμματιστών. Αντίστοιχα, οι άνθρωποι έχουν εφαρμόσει συντμήσεις στην αργκό που μπορεί να απέχουν αρκετά από τη καθομιλουμένη γλώσσα.
Τα πορίσματα του πειράματος ξυπνούν φόβους σε μερίδα επιστημόνων, για μια μελλοντική κυριαρχία των ρομπότ σε εφιαλτικά σενάρια τα οποία θυμίζουν την ταινία επιστημονικής φαντασίας “Εξολοθρευτής”.
Ωστόσο άλλοι συνάδελφοί τους, όπως αναφέρει το
BBC, είναι πολύ πιο καθησυχαστικοί.
Τονίζουν ότι η συγκεκριμένη έρευνα στο
Facebook απέχει πολύ από την θεωρία ότι τα προγράμματα τεχνητής νοημοσύνης έχουν αναπτυχθεί σε τέτοιο βαθμό ώστε να απειλούν την ανθρωπότητα.
Επισημαίνουν μάλιστα, ότι το 70% των
chatbots, αδυνατούν να απαντήσουν ικανοποιητικά στις ερωτήσεις των χρηστών.

πηγή: Ελευθερία του Τύπου

Διαβάστε επίσης: Εταιρεία στην Αμερική εμφυτεύει μικροτσίπ στους υπαλλήλους της. Σκηνές από το μέλλον;