ΠΝΝ: Από τον Λαό, για τον Λαό και του Λαού

Từ: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI και Αυτοματοποίηση στο Infosys.

Είμαστε τυχεροί που ζούμε στην εποχή της τεχνολογίας όπου η Τεχνητή Νοημοσύνη εργάζεται τόσο σκληρά για να κάνει τη ζωή μας ευκολότερη – τα τηλέφωνά μας τώρα αναγνωρίζουν και θα ξεκλειδώνουν καθώς μας «βλέπουν», έχουμε ομιλούσες χάρτες που μας βοηθούν να βρούμε τους πιο σύντομους, λιγότερο πυκνοκατοικημένους δρόμους για να φτάσουμε όπου θέλουμε να πάμε, έξυπνα συσκευές που θερμαίνουν και ψύχουν τα σπίτια μας ακόμη και πριν που λέμε τη λέξη, έξυπνες εφαρμογές που προβλέπουν και προλαμβάνουν απάτες, και πολλά άλλα.

Ωστόσο, είχαμε επίσης περιπτώσεις όπου αυτά τα έξυπνα συστήματα που βασίζονται στην Τεχνητή Νοημοσύνη μας έχουν αποτύχει από την άποψη της δικαιοσύνης και της ηθικής. Για παράδειγμα, một lừng danh τράπεζα που συνεργάζεται μαζί μας υποψιάστηκε ότι τα μοντέλα Τεχνητής Νοημοσύνης που χρησιμοποιούν για να αξιολογήσουν την αξιοπιστία πίστωσης πριν από την έκδοση δανείων μπορεί να είναι προκατειλημμένα, και μας ζήτησαν να τους βοηθήσουμε. Σε μια άλλη περίπτωση, ένας κατασκευαστής μηχανημάτων συνεργάστηκε μαζί μας για να αναλύσει τα μοτίβα των αξιώσεων εγγύησης για να εξαλείψει τις προκαταλήψεις, από το σύνολο δεδομένων και τη διαδικασία, πριν από την ανασχεδιασμό και την αυτοματοποίηση της διαδικασίας έγκρισης αξιώσεων. Τα μοντέλα Τεχνητής Νοημοσύνης που σχετίζονται με την πρόσληψη, συχνά βρίσκουμε, είναι διεφθαρμένα από προκαταλήψεις ηλικίας, φύλου, φυλής, ακόμη και ταχυδρομικών κωδικών, στα σύνολα δεδομένων – παρέχοντας άδικες εξελίξεις εάν δεν ελέγχονται.

Λόγω του τεράστιου αντικτύπου που μπορεί να έχει η προκατάληψη της Τεχνητής Νοημοσύνης σε ολόκληρη την επιχείρηση, ηθικά ερωτήματα έχουν πάρει τον κεντρικό ρόλο στη façon με την οποία αναπτύσσονται, εφαρμόζονται και χρησιμοποιούνται τα συστήματα Τεχνητής Νοημοσύνης. Τα συστήματα Τεχνητής Νοημοσύνης είναι η συγχώνευση πολλών ανθρώπινων αποφάσεων, οι οποίες είναι επίσης βασισμένες σε ανθρώπινες προκαταλήψεις. Η προστασία της αυτονομίας και της ιδιωτικής ζωής των εργαζομένων, οι κίνδυνοι προκαταλήψεων που επηρεάζουν την ανάπτυξη καριέρας και τις ευκαιρίες, η διάκριση με βάση το χρώμα του δέρματος, τη φυλή ή το φύλο, η έλλειψη εξηγησιμότητας των επιλογών που κάνει η λύση Τεχνητής Νοημοσύνης και, επομένως, η ευθύνη της λήψης αποφάσεων της Τεχνητής Νοημοσύνης, είναι ζητήματα που συζητούνται ζεστά όταν πρόκειται για συζήτηση για την Τεχνητή Νοημοσύνη και τις αρετές της.

Δημιουργία Υπεύθυνης Τεχνητής Νοημοσύνης

Η προκατάληψη της Τεχνητής Νοημοσύνης μπορεί να έχει ένα κύμα επίδρασης σε ολόκληρη την οργάνωση. είναι σωστό ότι οι ηγέτες της τεχνολογίας πρέπει να διασφαλίσουν ότι αναπτύσσουν την Τεχνητή Νοημοσύνη με einen ηθικό τρόπο που λειτουργεί με, και όχι ενάντια, στους εργαζομένους. Για να το κάνουν αυτό, οι οργανισμοί πρέπει να συμπεριλάβουν τα ακόλουθα στη διαδικασία αναπτύξεως της Τεχνητής Νοημοσύνης.

Διοίκηση Δεδομένων: Η ηθική χρήση της Τεχνητής Νοημοσύνης είναι επίσης βασισμένη στη σωστή χρήση των δεδομένων, ξεκινώντας από την πηγή των δεδομένων με ηθικό και διαφανή τρόπο. Για να το κάνουν αυτό, οι ηγέτες της τεχνολογίας πρέπει να καθορίσουν ένα καλά καθορισμένο πλαίσιο διοίκησης που θα διασφαλίσει την ασφάλεια, την ακεραιότητα και την ιδιωτικότητα των δεδομένων, καθώς και να προλαμβάνει την διαφθορά και την απώλεια των δεδομένων – όλα αυτά είναι απαραίτητα.

Ευθύνη: Τα μοντέλα της Μαθηματικής Μάθησης πρέπει να είναι δίκαια, αμερόληπτα, να αντιμετωπίζουν τους ανθρώπους ισότιμα και να μοιράζουν τα οφέλη με ισότητα (παρόμοια αποδοχή και απόρριψη ποσοστό) σε όλα τα χαρακτηριστικά όπως φυλή, θρήσκευμα, φύλο κ.λπ. πρέπει να επιτύχουν αποδεκτή ακρίβεια όχι μόνο στο γενικό σύνολο αλλά και στις μειονότητες. Αυτά τα μοντέλα πρέπει να είναι εξηγημένα όταν πρόκειται για την περιγραφή του τρόπου με τον οποίο φτάνουμε στο αποτέλεσμα. Για παράδειγμα, να είναι σε θέση να εξηγήσουν γιατί το μοντέλο απέρριψε одну αίτηση δανείου από τον αιτούντα Α αλλά έγκρισε την ίδια αίτηση από τον αιτούντα Β. Οι ηγέτες της τεχνολογίας που αναπτύσσουν λύσεις Τεχνητής Νοημοσύνης πρέπει να κάνουν τη λογική που οδηγεί σε αυτές τις αποφάσεις σαφή για τους επιχειρηματικούς μετόχους ώστε να υπάρχει μεγαλύτερη διαφάνεια στην επιχείρηση.

Αντίθετη Ρομποτική: Ολόκληρο το οικοσύστημα της Τεχνητής Νοημοσύνης πρέπει να συμφωνήσει στην ανάγκη για τα μοντέλα της Τεχνητής Νοημοσύνης να ελέγχονται και να «χάκονται» μέσω προσομοιώσεων για να μελετήσουν τις πιθανές αντίθετες εξελίξεις. Για παράδειγμα, οι ηγέτες της τεχνολογίας μπορούν να χρησιμοποιήσουν τους ακόλουθους ελέγχους για να ελέγξουν τα συστήματα Τεχνητής Νοημοσύνης και να προετοιμαστούν για πιθανές δυσκολίες.

• Τροποποίηση δεδομένων: άμεση αλλαγή του συνόλου δεδομένων που χρησιμοποιείται για την εκπαίδευση μέσω ένεσης, τροποποίησης και διαφθοράς λογικής
• Τροποποίηση μοντέλων: έλεγχος για μείωση της εμπιστοσύνης και λανθασμένη ταξινόμηση
• Βοηθητικά εργαλεία: χρήση εργαλείων για να επηρεάσουν ή να διαφθαρήσουν τα αποτελέσματα

Άνθρωπος στη Λειτουργία: Τα μοντέλα της Τεχνητής Νοημοσύνης πρέπει να απαλλαγούν από τον κίνδυνο με την ύπαρξη ανθρώπων στη λειτουργία για όλα τα κρίσιμα σημεία αποφάσεων και να έχουν ένα αποτελεσματικό μηχανισμό αναπλήρωσης ή εναλλακτική οδό εάν το σύστημα Τεχνητής Νοημοσύνης χρειάζεται να αποσυρθεί.

Ανάπτυξη Κοινωνικής Συμφωνίας για την Τεχνητή Νοημοσύνη

Εκτός από τις οδηγίες αυτές, πρέπει να προωθήσουμε τις συζητήσεις και τις συζητήσεις μεταξύ όλων των ηγετών σε ολόκληρη την επιχείρηση, σχετικά με τα οφέλη, τα ενδιαφέροντα, τα κόστη και τις συνέπειες κάθε μεγάλης ανάπτυξης Τεχνητής Νοημοσύνης. Μόνο τέτοιες συζητήσεις που περιλαμβάνουν όλους τους μετόχους, για να συζητήσουν και να αποφασίσουν για αποδεκτά αποτελέσματα, και να ζυγίσουν τα рисks και τα οφέλη, είναι πιθανό να δώσουν στην Τεχνητή Νοημοσύνη την άδεια να λειτουργήσει σε ολόκληρη την επιχείρηση.