Αποκαλύπτοντας τις Προκαταλήψεις στη Τεχνητή Νοημοσύνη: Προκλήσεις και Λύσεις

Η πρόσφατη πρόοδος της γενετικής τεχνητής νοημοσύνης έχει συνοδευτεί από μια αντίστοιχη αύξηση στις επιχειρηματικές εφαρμογές σε διάφορους τομείς, συμπεριλαμβανομένων των χρηματοοικονομικών, της υγείας και των μεταφορών. Η ανάπτυξη αυτής της τεχνολογίας θα οδηγήσει επίσης σε άλλες αναδυόμενες τεχνολογίες, όπως τις τεχνολογίες αμυντικής κυβερνοασφάλειας, τις προόδους στην κβαντική υπολογιστική και τις καινοτομίες στις ασύρματες επικοινωνίες. Ωστόσο, αυτή η έκρηξη των τεχνολογιών της επόμενης γενιάς έρχεται με το δικό της σύνολο προκλήσεων.

Για παράδειγμα, η υιοθέτηση της τεχνητής νοημοσύνης μπορεί να επιτρέψει πιο σύνθετες κυβερνοεπιθέσεις, προβλήματα μνήμης και αποθήκευσης λόγω της αύξησης της υπολογιστικής ισχύος και των ηθικών ανησυχιών σχετικά με τις προκαταλήψεις που παρουσιάζουν τα μοντέλα της τεχνητής νοημοσύνης. Η καλή είδηση είναι ότι η NTT Research έχει προτείνει έναν τρόπο για να υπερνικήσει τις προκαταλήψεις στα βαθιά νευρωνικά δίκτυα (DNNs), einen τύπο της τεχνητής νοημοσύνης.

Αυτή η έρευνα είναι một σημαντική突破, δεδομένου ότι τα μοντέλα της τεχνητής νοημοσύνης χωρίς προκαταλήψεις θα συμβάλλουν στην επιλογή προσωπικού, το σύστημα δικαιοσύνης και την υγεία, όταν δεν επηρεάζονται από χαρακτηριστικά όπως η φυλή, το φύλο. Στο μέλλον, η διακρίση έχει τη δυνατότητα να εξαλειφθεί με τη χρήση αυτών των αυτοματοποιημένων συστημάτων, βελτιώνοντας τις πρωτοβουλίες DE&I σε ολόκληρη την βιομηχανία. Τέλος, τα μοντέλα της τεχνητής νοημοσύνης με μη προκατειλημμένα αποτελέσματα θα βελτιώσουν την παραγωγικότητα και θα μειώσουν τον χρόνο που απαιτείται για την ολοκλήρωση αυτών των εργασιών. Ωστόσο, λίγες επιχειρήσεις έχουν αναγκαστεί να σταματήσουν τα προγράμματα τους που генериούνται από την τεχνητή νοημοσύνη λόγω των προκατειλημμένων λύσεων της τεχνολογίας.

Για παράδειγμα, η Amazon διέκοψε τη χρήση ενός αλγορίθμου επιλογής προσωπικού όταν ανακάλυψε ότι ο αλγόριθμος έδειξε προτίμηση σε υποψήφιους που χρησιμοποιούσαν λέξεις όπως “εκτελέστηκε” ή “συλλήφθηκε” πιο συχνά, οι οποίες ήταν πιο συχνές στα βιογραφικά των ανδρών. Ένα άλλο χαρακτηριστικό παράδειγμα προκατάληψης προέρχεται από την Joy Buolamwini, μια από τις πιο επιδραστικές προσωπικότητες στην τεχνητή νοημοσύνη το 2023 σύμφωνα με το TIME, σε συνεργασία με την Timnit Gebru στο MIT, αποκάλυψε ότι οι τεχνολογίες ανάλυσης προσώπου έδειξαν υψηλότερους ρυθμούς σφαλμάτων όταν αξιολογούσαν μειονότητες, ιδιαίτερα τις γυναίκες μειονοτήτων, πιθανώς λόγω ανεπαρκώς αντιπροσωπευτικών δεδομένων εκπαίδευσης.

Πρόσφατα, τα DNNs έχουν γίνει πανταχού παρόντα στη επιστήμη, τη μηχανική και τις επιχειρήσεις, ακόμη και σε δημοφιλείς εφαρμογές, αλλά đôi lúc βασίζονται σε εσφαλμένες ιδιότητες που μπορεί να μεταφέρουν προκαταλήψεις. Σύμφωνα με μια μελέτη του MIT τα τελευταία χρόνια, οι επιστήμονες έχουν αναπτύξει βαθιά νευρωνικά δίκτυα ικανά να αναλύουν τεράστιες ποσότητες εισόδων, συμπεριλαμβανομένων ήχων και εικόνων. Αυτά τα δίκτυα μπορούν να αναγνωρίσουν κοινά χαρακτηριστικά, επιτρέποντάς τους να ταξινομήσουν στόχους λέξεις ή αντικείμενα. Για τώρα, αυτά τα μοντέλα βρίσκονται στην πρώτη γραμμή του πεδίου ως τα κύρια μοντέλα για την αναπαραγωγή βιολογικών αισθητηριακών συστημάτων.

Ο ανώτερος ερευνητής της NTT Research και συνεργάτης στο Κέντρο Επιστήμης του Εγκεφάλου του Πανεπιστημίου Χάρβαρντ Hidenori Tanaka και τρεις άλλοι επιστήμονες πρότειναν την υπέρβαση των οριοθετήσεων της αθώας λεπτομερούς ρύθμισης, της τρέχουσας μεθόδου για τη μείωση των σφαλμάτων ή της “απώλειας” ενός DNN, με einen νέο αλγόριθμο που μειώνει την εξάρτηση του μοντέλου από προκατειλημμένες ιδιότητες.

Μελέτησαν το τοπίο απώλειας των νευρωνικών δικτύων μέσω της οπτικής της συνδεσιμότητας των τρόπων, της παρατήρησης ότι οι ελαχιστοποιητές των νευρωνικών δικτύων που ανακτήθηκαν μέσω της εκπαίδευσης σε ένα σύνολο δεδομένων είναι συνδεδεμένοι μέσω απλών μονοπατιών χαμηλής απώλειας. Συγκεκριμένα, έθεσαν την ακόλουθη ερώτηση: είναι οι ελαχιστοποιητές που βασίζονται σε διαφορετικές μηχανισμοί για την πραγματοποίηση των προβλέψεών τους συνδεδεμένοι μέσω απλών μονοπατιών χαμηλής απώλειας;

Ανακάλυψαν ότι η αθώα λεπτομέρεια δεν μπορεί να αλλάξει ουσιαστικά τον μηχανισμό λήψης αποφάσεων ενός μοντέλου, καθώς απαιτεί να μετακινηθεί σε διαφορετική κοιλάδα στο τοπίο απώλειας. Αντίθετα, πρέπει να οδηγήσετε το μοντέλο πάνω από τα εμπόδια που χωρίζουν τις “βυθίσεις” ή “κοιλάδες” της χαμηλής απώλειας. Οι συγγραφείς ονομάζουν αυτόν τον διορθωτικό αλγόριθμο Συνδεσιμότητα-Βασισμένη Λεπτομέρεια (CBFT).

Πριν από αυτή την ανάπτυξη, ένα DNN, το οποίο ταξινομεί εικόνες όπως ένα ψάρι (ένα παράδειγμα που χρησιμοποιείται σε αυτή τη μελέτη) χρησιμοποιούσε και το σχήμα του αντικειμένου και το φόντο ως παραμέτρους εισόδου για την πρόβλεψη. Οι μονοπάτιες ελαχιστοποίησης της απώλειας θα λειτουργούσαν, επομέν, σε μηχανιστικά διαφορετικούς τρόπους: ένας βασίζεται στη λεγίττη ιδιότητα του σχήματος και ο άλλος στη σποραδική ιδιότητα του χρώματος του φόντου. Ως εκ τούτου, αυτοί οι τρόποι θα λείπουν της γραμμικής συνδεσιμότητας ή ενός απλού μονοπατιού χαμηλής απώλειας.

Η ερευνητική ομάδα κατανοεί τον μηχανιστικό φακό της συνδεσιμότητας των τρόπων με την考虑 δύο συνόλων παραμέτρων που ελαχιστοποιούν την απώλεια χρησιμοποιώντας φόντα και σχήματα αντικειμένων ως τις παραμέτρους εισόδου για την πρόβλεψη, αντίστοιχα. Και τότε ρώτησαν τους εαυτούς τους, είναι τέτοιοι μηχανιστικά διαφορετικοί ελαχιστοποιητές συνδεδεμένοι μέσω μονοπατιών χαμηλής απώλειας στο τοπίο; Μπορούμε να εκμεταλλευτούμε αυτή τη συνδεσιμότητα για να μεταβούμε μεταξύ ελαχιστοποιητών που χρησιμοποιούν τους επιθυμητούς μηχανισμούς;

Με άλλα λόγια, τα βαθιά νευρωνικά δίκτυα, ανάλογα με αυτά που έχουν συλλέξει κατά την εκπαίδευση σε ένα συγκεκριμένο σύνολο δεδομένων, μπορούν να συμπεριφερθούν πολύ διαφορετικά όταν τα δοκιμάσετε σε ένα άλλο σύνολο δεδομένων. Η πρόταση της ομάδας κατέβηκε στην έννοια των κοινών ομοιοτήτων. Χτίζει πάνω στην προηγούμενη ιδέα της συνδεσιμότητας των τρόπων, αλλά με μια στροφή – λαμβάνει υπόψη πώς λειτουργούν οι ομοιότητες. Η έρευνά τους οδήγησε στα ακόλουθα αποκαλυπτικά ανακαλύμματα:

• οι ελαχιστοποιητές που έχουν διαφορετικούς μηχανισμούς μπορούν να συνδεθούν με έναν μάλλον σύνθετο, μη γραμμικό τρόπο
• όταν δύο ελαχιστοποιητές είναι γραμμικά συνδεδεμένοι, είναι στενά συνδεδεμένοι με το πόσο παρόμοιοι είναι οι μηχανισμοί τους
• η απλή λεπτομέρεια μπορεί να μην είναι αρκετή για να απομακρύνει τις अवανταγές ιδιότητες που συλλέγονται κατά την προηγούμενη εκπαίδευση
• αν βρείτε περιοχές που είναι γραμμικά αποσυνδεμένες στο τοπίο, μπορείτε να κάνετε αποτελεσματικές αλλαγές στις εσωτερικές λειτουργίες ενός μοντέλου.

Ενώ αυτή η έρευνα είναι ένα σημαντικό βήμα στην αξιοποίηση του πλήρους δυναμικού της τεχνητής νοημοσύνης, οι ηθικές ανησυχίες γύρω από την τεχνητή νοημοσύνη μπορεί να παραμείνουν μια ανηφόρα μάχη. Οι τεχνολόγοι και ερευνητές εργάζονται για να καταπολεμήσουν άλλες ηθικές αδυναμίες της τεχνητής νοημοσύνης και άλλων μεγάλων γλωσσικών μοντέλων, όπως η ιδιωτικότητα, η αυτονομία και η ευθύνη.

Η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για τη συλλογή και την επεξεργασία τεράστιων ποσοτήτων προσωπικών δεδομένων. Η μη εξουσιοδοτημένη ή αθέμιτη χρήση αυτών των δεδομένων μπορεί να危險σει την ιδιωτικότητα των ατόμων, οδηγώντας σε ανησυχίες σχετικά με την επιτήρηση, τις διαρροές δεδομένων και την κλοπή ταυτοτήτων. Η τεχνητή νοημοσύνη μπορεί επίσης να αποτελεί απειλή όταν πρόκειται για την ευθύνη των αυτόνομων εφαρμογών της, όπως τα αυτονομικά οχήματα. Η καθιέρωση νομικών πλαισίων και ηθικών προτύπων για την ευθύνη και την ευθύνη θα είναι απαραίτητη τα επόμενα χρόνια.

Συμπερασματικά, η ταχεία ανάπτυξη της γενετικής τεχνητής νοημοσύνης υπόσχεται πολλά για διάφορους τομείς, από τις χρηματοοικονομικές και την υγεία στις μεταφορές.尽管 αυτές οι υποσχόμενες εξελίξεις, οι ηθικές ανησυχίες που περιβάλλουν την τεχνητή νοημοσύνη παραμένουν σημαντικές. Καθώς διασχίζουμε αυτή τη μετασχηματιστική εποχή της τεχνητής νοημοσύνης, είναι ζωτικό για τους τεχνολόγους, ερευνητές και πολιτικούς να συνεργαστούν για να καθιερώσουν νομικά πλαισια και ηθικά πρότυπα που θα διασφαλίσουν την υπεύθυνη και ωφέλιμη χρήση της τεχνολογίας της τεχνητής νοημοσύνης στα χρόνια που έρχονται. Οι επιστήμονες της NTT Research και του Πανεπιστημίου του Μίσιγκαν είναι ένα βήμα μπροστά στο παιχνίδι με την πρότασή τους για έναν αλγόριθμο που θα μπορούσε να εξαλείψει τις προκαταλήψεις στην τεχνητή νοημοσύνη.