ΠΝΝ: Από τον Λαό, για τον Λαό και του Λαού

Συντάκτης: Balakrishna (Bali) D R, Ανώτερος Αντιπρόεδρος, Επικεφαλής Προσφοράς Υπηρεσιών – ECS, AI και Αυτοματοποίηση στην Infosys.

Είμαστε τυχεροί που ζούμε στην εποχή της τεχνολογίας όπου η Τεχνητή Νοημοσύνη εργάζεται τόσο σκληρά για να κάνει τη ζωή μας ευκολότερη – τα τηλέφωνά μας τώρα αναγνωρίζουν και θα ξεκλειδώνουν όταν μας «βλέπουν», έχουμε ομιλούσες χάρτες που μας βοηθούν να βρούμε τους πιο σύντομους, λιγότερο πυκνοκατοικημένους δρόμους για να φτάσουμε εκεί που θέλουμε να πάμε, έξυπνα συσκευές που ζεσταίνουν και ψύχουν τα σπίτια μας ακόμη και πριν που λέμε τη λέξη, έξυπνες εφαρμογές που προβλέπουν και προλαμβάνουν την απάτη, και πολλά άλλα.

Ωστόσο, είχαμε επίσης περιπτώσεις όπου αυτά τα έξυπνα συστήματα με τεχνητή νοημοσύνη απέτυχαν να μας ικανοποιήσουν από την πλευρά της δικαιοσύνης και της ηθικής. Για παράδειγμα, một αναγνωρισμένη τράπεζα που συνεργάζεται μαζί μας υποψιάστηκε ότι τα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούν για να αξιολογήσουν την αξιοπιστία του δανείου πριν χορηγήσουν δάνεια μπορεί να είναι προκατειλημμένα, και μας ζήτησαν να τους βοηθήσουμε. Σε μια άλλη περίπτωση, ένας κατασκευαστής μηχανημάτων συνεργάστηκε μαζί μας για να αναλύσει τα μοτίβα των αιτημάτων εγγύησης για να εξαλείψει τις προκαταλήψεις, από το σύνολο δεδομένων και τη διαδικασία, πριν ξανασχεδιάσει και αυτοματοποιήσει τη διαδικασία έγκρισης αιτημάτων. Τα μοντέλα τεχνητής νοημοσύνης που σχετίζονται με τη भरση θέσεων, συχνά βρισκόμαστε, είναι διεφθαρμένα από προκαταλήψεις ηλικίας, φύλου, φυλής, ακόμη και ταχυδρομικούς κωδικούς μερικές φορές, στα σύνολα δεδομένων – παρέχοντας άδικες εξελίξεις αν δεν ελέγχονται.

Λόγω του τεράστιου αντικτύπου που μπορεί να έχει η προκατάληψη της τεχνητής νοημοσύνης σε όλη την επιχείρηση, οι ηθικές ερωτήσεις έχουν πάρει τον πρώτο ρόλο στη方式 που αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται τα συστήματα τεχνητής νοημοσύνης. Τα συστήματα τεχνητής νοημοσύνης είναι η συγχώνευση πολλών ανθρώπινων αποφάσεων, οι οποίες βασίζονται επίσης σε ανθρώπινες προκαταλήψεις. Η προστασία της αυτονομίας και της ιδιωτικής ζωής των υπαλλήλων, οι κίνδυνοι προκαταλήψεων που επηρεάζουν την επαγγελματική ανάπτυξη και τις ευκαιρίες, η διάκριση με βάση το χρώμα του δέρματος, τη φυλή ή το φύλο, η έλλειψη εξηγήσιμης επιλογής από τις λύσεις τεχνητής νοημοσύνης και, επομένως, η ευθύνη λήψης αποφάσεων από την τεχνητή νοημοσύνη, είναι ζητήματα που συζητιούνται με ζέση όταν συζητάμε για την τεχνητή νοημοσύνη και τις αρετές της.

Δημιουργία Ευθύνη Τεχνητής Νοημοσύνης

Η προκατάληψη της τεχνητής νοημοσύνης μπορεί να έχει ένα κύμα επίδρασης σε όλη την οργάνωση. είναι σαφές ότι οι ηγέτες της τεχνολογίας πρέπει να διασφαλίσουν ότι αναπτύσσουν την τεχνητή νοημοσύνη με ηθικό τρόπο που λειτουργεί με, και όχι ενάντια, τους υπαλλήλους. Για να το κάνουν αυτό, οι οργανισμοί πρέπει να περιλαμβάνουν τα ακόλουθα στη διαδικασία ανάπτυξης της τεχνητής νοημοσύνης.

Διοίκηση Δεδομένων: Η ηθική χρήση της τεχνητής νοημοσύνης βασίζεται επίσης στη σωστή διαχείριση των δεδομένων, ξεκινώντας από την πηγή δεδομένων με ηθικό και διαφανή τρόπο. Για να το κάνουν αυτό, οι ηγέτες της τεχνολογίας πρέπει να καθορίσουν ένα καλά καθορισμένο πλαίσιο διαχείρισης που θα διασφαλίσει την ασφάλεια, την ακεραιότητα και την ιδιωτικότητα των δεδομένων, καθώς και θα προλάβει την διαφθορά και την απώλεια δεδομένων – όλα αυτά είναι απαραίτητα.

Ευθύνη: Τα μοντέλα μηχανικής μάθησης πρέπει να είναι δίκαια, αμερόληπτα, να αντιμετωπίζουν τους ανθρώπους ισότιμα και να μοιράζονται τα οφέλη με ισότητα (παρόμοια αποδοχή και απορρίψη率) σε όλα τα χαρακτηριστικά όπως η φυλή, η θρησκεία, το φύλο κ.λπ. πρέπει να επιτύχουν αποδεκτή ακρίβεια όχι μόνο στο γενικό αριθμό αλλά και στις μειονότητες. Αυτά τα μοντέλα πρέπει να είναι εξηγήσιμα όταν πρόκειται για την περιγραφή του τρόπου με τον οποίο φθάνουν στο αποτέλεσμα. Για παράδειγμα, να είναι σε θέση να εξηγήσουν γιατί το μοντέλο απέρριψε одну αίτηση δανείου από έναν αιτούντα Α αλλά έγκρισε την ίδια αίτηση από έναν αιτούντα Β. Οι ηγέτες της τεχνολογίας που αναπτύσσουν λύσεις τεχνητής νοημοσύνης πρέπει να κάνουν τη λογική που οδηγεί σε αυτές τις αποφάσεις σαφή για τους επιχειρηματικούς μετόχους ώστε να υπάρχει μεγαλύτερη διαφάνεια μέσα στην επιχείρηση.

Αντίρροπη Ροπή: Ολόκληρο το οικοσύστημα της τεχνητής νοημοσύνης πρέπει να συμφωνήσει στην ανάγκη για τα μοντέλα της τεχνητής νοημοσύνης να ελέγχονται και να διαρρηγνύονται μέσω προσομοιώσεων για να μελετήσουν πιθανές αντίρροπες εξελίξεις. Για παράδειγμα, οι ηγέτες της τεχνολογίας μπορούν να χρησιμοποιήσουν τους ακόλουθους ελέγχους για να ελέγξουν τα συστήματα τεχνητής νοημοσύνης και να προετοιμαστούν για πιθανές δυσκολίες.

• Τροποποίηση Δεδομένων: άμεση αλλαγή του συνόλου δεδομένων που χρησιμοποιείται για την εκπαίδευση με ένεση δεδομένων, τροποποίηση και διαφθορά λογικής
• Τροποποίηση Μοντέλων: έλεγχος για μείωση της εμπιστοσύνης και λανθασμένη ταξινόμηση
• Βοηθητικά Εργαλεία: χρήση εργαλείων για να επηρεάσουν ή να διαφθείρουν τα αποτελέσματα

Άνθρωπος στη Διαδικασία: Τα μοντέλα της τεχνητής νοημοσύνης πρέπει να απαλλαγούν από τον κίνδυνο με την παρουσία ανθρώπων στη διαδικασία για όλα τα κρίσιμα σημεία λήψης αποφάσεων και με μια αποτελεσματική μηχανισμό εφεδρείας ή εναλλακτική οδό εάν το σύστημα της τεχνητής νοημοσύνης χρειάζεται να ανακληθεί.

Ανάπτυξη Κοινωνικής Συμφωνίας για την Τεχνητή Νοημοσύνη

Εκτός από τις οδηγίες αυτές, πρέπει να προωθήσουμε τις ενεργές συζητήσεις και τις συζητήσεις μεταξύ όλων των ηγετών σε όλη την επιχείρηση, σχετικά με τα οφέλη, τα ενδιαφέροντα, τα κόστη και τις συνέπειες οποιασδήποτε μεγάλης ανάπτυξης τεχνητής νοημοσύνης. Μόνο τέτοιες διεργασίες που περιλαμβάνουν όλους τους μετόχους, για να συζητήσουν και να αποφασίσουν αποδεκτά αποτελέσματα, και να ζυγίσουν τα рисks και τα οφέλη, είναι πιθανό να κερδίσουν τις τεχνολογίες της τεχνητής νοημοσύνης την άδεια να λειτουργήσουν σε όλη την επιχείρηση. σε όλη την επιχείρηση, σχετικά με τα οφέλη, τα ενδιαφέροντα, τα κόστη και τις συνέπειες οποιασδήποτε μεγάλης ανάπτυξης τεχνητής νοημοσύνης. Μόνο τέτοιες διεργασίες που περιλαμβάνουν όλους τους μετόχους, για να συζητήσουν και να αποφασίσουν αποδεκτά αποτελέσματα, και να ζυγίσουν τα ρίσκα και τα οφέλη, είναι πιθανό να κερδίσουν τις τεχνολογίες της τεχνητής νοημοσύνης την άδεια να λειτουργήσουν σε όλη την επιχείρηση.