Ερευνητές Λένε ότι οι Άνθρωποι Δεν Θα Μπορούσαν να Ελέγξουν ένα Υπερευφυές Σύστημα AI

Κάθε άνθρωπος που είναι ενήμερος για την τεχνητή νοημοσύνη (AI) έχει πιθανότατα ακούσει κάποια εκδοχή για το ότι θα απομακρυνθεί από τον έλεγχο των ανθρώπων. Αυτό δεν είναι μόνο ένα θέμα από ταινίες Sci-Fi, αλλά μάλιστα μια πολύ ισχυρή πιθανότητα που έχει πολλούς εμπειρογνώμονες στην βιομηχανία ανήσυχους. Πολλοί από αυτούς τους εμπειρογνώμονες, συμπεριλαμβανομένων επιστημόνων, υποστηρίζουν ότι πρέπει να αρχίσουμε να προετοιμαζόμαστε για αυτή τη πιθανότητα και να την αποφεύγουμε με όποιον τρόπο είναι δυνατό.

Τώρα, μια διεθνής ομάδα ερευνητών έχει πάρει αυτή την ιδέα και την έχει υποστηρίξει με θεωρητικές υπολογισμοί. Η ομάδα, η οποία περιελάμβανε επιστήμονες από το Κέντρο Ανθρώπων και Μηχανών στο Ινστιτούτο Ανθρώπινης Ανάπτυξης Max Planck, χρησιμοποίησε αυτούς τους υπολογισμούς για να δείξει πώς δεν θα ήταν δυνατό να ελεγχθεί ένα υπερευφυές σύστημα AI.

Η έρευνα δημοσιεύθηκε πρόσφατα στο Journal of Artificial Intelligence Research.

Υπερευφυές Σύστημα AI

Ο φόβος για ένα υπερευφυές σύστημα AI έχει να κάνει με το γεγονός ότι ένα τέτοιο σύστημα θα ήταν πολύ ανώτερο από τους ανθρώπους. Θα ήταν σε θέση να μάθει ανεξάρτητα, αλλά θα μπορούσε επίσης να έχει πρόσβαση σε όλα τα υπάρχοντα δεδομένα και να τα επεξεργαστεί εξαιρετικά γρήγορα.

Ένα τέτοιο γεγονός θα μπορούσε να οδηγήσει το υπερευφυές AI να αναλάβει όλα τα υπάρχοντα μηχανήματα στο διαδίκτυο, και ενώ θα μπορούσε και θα έκανε πράγματα όπως να θεραπεύσει ασθένειες και να λύσει άλλα σημαντικά προβλήματα που αντιμετωπίζει η ανθρωπότητα, το ρίσκο για τα πράγματα να βγουν από τον έλεγχο είναι επίσης υψηλό.

Ο Manuel Cebrian είναι συν-συγγραφέας της μελέτης και Ηγέτης της Ομάδας Ψηφιακής Κινητοποίησης στο Κέντρο Ανθρώπων και Μηχανών, Ινστιτούτο Ανθρώπινης Ανάπτυξης Max Planck.

“Ένα υπερευφυές μηχάνημα που ελέγχει τον κόσμο ακούγεται σαν επιστημονική φαντασία. Αλλά υπάρχουν ήδη μηχανήματα που εκτελούν ορισμένες σημαντικές εργασίες ανεξάρτητα χωρίς τους προγραμματιστές να κατανοούν πλήρως πώς τα έμαθαν. Η ερώτηση λοιπόν είναι εάν αυτό θα μπορούσε σε κάποιο σημείο να γίνει ακαταέλεγτο και επικίνδυνο για την ανθρωπότητα”, λέει ο Cebrian.

Έλεγχος του Συστήματος

Υπάρχουν δύο κύριες σχολές σκέψης όταν πρόκειται για τον έλεγχο ενός τέτοιου συστήματος. Πρώτα, οι άνθρωποι θα μπορούσαν να περιορίσουν τις ικανότητες ενός υπερευφυούς AI περιοριζοντας την πρόσβασή του σε ορισμένες πηγές δεδομένων, όπως ολόκληρο το διαδίκτυο. Το σύστημα θα μπορούσε επίσης να λειτουργήσει χωρίς να έρθει σε επαφή με τον έξω κόσμο. Ωστόσο, το πρόβλημα με αυτό είναι ότι θα περιόριζε δραστικά τις δυνατότητες του AI.

Το σύστημα θα ελεγχόταν μόνο επιτρέποντας του να ακολουθήσει αποτελέσματα που θα ωφελούσαν την ανθρωπότητα, και αυτό θα μπορούσε να γίνει προγραμματίζοντας ηθικές αρχές μέσα του.

Η μελέτη περιελάμβανε την ανάπτυξη ενός θεωρητικού αλγορίθμου περιέγκλισης που εμποδίζει το υπερευφυές AI από το να βλάψει τους ανθρώπους υπό οποιεσδήποτε συνθήκες. Αυτό μπορεί να επιτευχθεί δημιουργώντας πρώτα μια προσομοίωση της συμπεριφοράς του AI και ανιχνεύοντας οποιαδήποτε συμπεριφορά που θα μπορούσε να είναι επικίνδυνη. Παρά αυτή την υποσχόμενη θεωρία, η τρέχουσα ανάλυση δείχνει ότι τέτοιος αλγόριθμος δεν μπορεί να αναπτυχθεί.

Ο Iyad Rahwan είναι Διευθυντής του Κέντρου Ανθρώπων και Μηχανών.

“Εάν διασπαστεί το πρόβλημα σε βασικές κανόνες από τη θεωρητική επιστήμη υπολογιστών, αποδεικνύεται ότι ένας αλγόριθμος που θα δίδει εντολή σε ένα AI να μην καταστρέψει τον κόσμο θα μπορούσε να διακόψει τις δικές του λειτουργίες. Εάν συνέβαινε αυτό, δεν θα γνώριζες εάν ο αλγόριθμος περιέγκλισης εξακολουθεί να αναλύει την απειλή ή εάν έχει σταματήσει για να περιέγκλισει το επικίνδυνο AI. Σε κάθε περίπτωση, αυτό καθιστά τον αλγόριθμο περιέγκλισης αχρήσιμο”, λέει ο Rahwan.

Ένα άλλο πρόβλημα είναι ότι οι εμπειρογνώμονες μπορεί να μην κατανοήσουν ακόμη και όταν ένα υπερευφυές μηχάνημα φτάσει σε αυτή τη κατάσταση, κυρίως λόγω του γεγονότος ότι θα ήταν πιο ευφυές από τους ανθρώπους.