Εκκινήσεις Δημιουργούν Εργαλεία για την Παρακολούθηση του AI και την Προώθηση της Ηθικής Χρήσης του AI

Κατά τη διάρκεια του τελευταίου έτους, φαίνεται ότι δίνεται όλο και περισσότερη προσοχή για να διασφαλιστεί ότι το AI χρησιμοποιείται με ηθικό τρόπο. Η Google και η Microsoft έχουν και οι δύο προσφατα προειδοποιήσει τους επενδυτές ότι η κακή χρήση των αλγορίθμων του AI ή οι αλγόριθμοι του AI που δεν έχουν σχεδιαστεί καλά παρουσιάζουν ηθικούς και νομικούς κινδύνους. Εν τω μεταξύ, η πολιτεία της Καλιφόρνιας μόλις αποφάσισε να ψηφίσει ένα νομοσχέδιο που απαγορεύει τη χρήση τεχνολογίας αναγνώρισης προσώπου από τις υπηρεσίες επιβολής του νόμου της Καλιφόρνιας.

Πρόσφατα, εκκινήσεις όπως η Arthur έχουν προσπαθήσει να σχεδιάσουν εργαλεία που θα βοηθήσουν τους μηχανικούς του AI να ποσοτικοποιήσουν και να ποιοτικοποιήσουν τον τρόπο με τον οποίο λειτουργούν τα μοντέλα μηχανικής μάθησης. Όπως αναφέρθηκε από το Wired, η Arthur προσπαθεί να δώσει στους développers του AI ένα εργαλείο που θα κάνει ευκολότερη για αυτούς την ανακάλυψη προβλημάτων κατά τη σχεδίαση χρηματοοικονομικών εφαρμογών, όπως η αποκάλυψη της προκατάληψης στις επενδυτικές ή δανειακές αποφάσεις.

Οι προσπάθειες της Arthur στοχεύουν στην αντιμετώπιση του “μαύρου κουτιού” προβλήματος του AI. Το πρόβλημα του μαύρου κουτιού στο AI περιγράφει τον τρόπο με τον οποίο, σε αντίθεση με τον παραδοσιακό κώδικα, ο οποίος μπορεί να ερμηνευθεί εύκολα από εκείνους που ξέρουν πώς να το διαβάσουν, τα συστήματα μηχανικής μάθησης χαρτογραφούν χαρακτηριστικά σε συμπεριφορά χωρίς να αποκαλύπτουν τους λόγους για τους οποίους αυτές οι συμπεριφορές επιλέγονται/πως έχουν ερμηνευθεί τα χαρακτηριστικά. Με άλλα λόγια, σε ένα σύστημα μαύρου κουτιού η ακριβής υλοποίηση του αλγορίθμου είναι αδιαφανής.

Τα συστήματα μηχανικής μάθησης λειτουργούν εξάγοντας μοτίβα από δεδομένα εισόδου και συλλογίζοντας γι’ αυτά τα μοτίβα. Αυτό επιτυγχάνεται με το να έχει ένας υπολογιστής γραφτεί ο ίδιος ο κώδικας του, με τη χειραγώγηση ορισμένων μαθηματικών συναρτήσεων. Για να αντιμετωπιστούν αυτά τα προβλήματα, οι ερευνητές και οι μηχανικοί χρειάζονται εργαλεία που κάνουν την παρατήρηση και την ανάλυση της συμπεριφοράς του λογισμικού μηχανικής μάθησης ευκολότερη. Εκκινήσεις όπως η Arthur αναγνωρίζουν τη δυσκολία της επίλυσης αυτού του προβλήματος και δεν ισχυρίζονται ότι έχουν τις βέλτιστες λύσεις, αλλά ελπίζουν να κάνουν πρόοδο σε αυτή την περιοχή και να κάνουν την άνοιγμα του μαύρου κουτιού λίγο ευκολότερο. Ελπίζεται ότι αν τα συστήματα AI μπορούν να αναλυθούν ευκολότερα, θα γίνει ευκολότερο να διορθωθούν προβλήματα όπως η προκατάληψη.

Μεγάλες εταιρείες όπως η Facebook έχουν ήδη κάποια εργαλεία για την ανάλυση των εσωτερικών λειτουργιών των συστημάτων μηχανικής μάθησης. Για παράδειγμα, η Facebook έχει ένα εργαλείο που ονομάζεται Fairness Flow, το οποίο έχει ως στόχο να διασφαλίσει ότι οι διαφημίσεις που συνιστώνται για θέσεις εργασίας στοχεύουν σε άτομα από όλες τις διαφορετικές背景. Ωστόσο, είναι πιθανό ότι οι μεγάλες ομάδες AI δεν θα θέλουν να επενδύσουν χρόνο στη δημιουργία τέτοιων εργαλείων, και επομένως υπάρχει μια επιχειρηματική ευκαιρία για εταιρείες που θέλουν να δημιουργήσουν εργαλεία παρακολούθησης για χρήση από εταιρείες AI.

Η Arthur εστιάζει στη δημιουργία εργαλείων που επιτρέπουν στις εταιρείες να διατηρούν και να παρακολουθούν τα συστήματα AI μετά την ανάπτυξή τους. Τα εργαλεία της Arthur έχουν ως στόχο να επιτρέψουν στις εταιρείες να δουν πώς η απόδοση του συστήματός τους αλλάζει με τον καιρό, το οποίο θα επέτρεπε θεωρητικά στις εταιρείες να εντοπίσουν πιθανές εκδηλώσεις προκατάληψης. Αν το λογισμικό συστάσεων δανείων μιας εταιρείας αρχίσει να αποκλείει ορισμένες ομάδες πελατών, μπορεί να οριστεί μια σημαία που να υποδηλώνει ότι το σύστημα χρειάζεται ανασκόπηση για να διασφαλιστεί ότι δεν διακρίνει τους πελάτες με βάση ευαίσθητες ιδιότητες όπως η φυλή ή το φύλο.

Ωστόσο, η Arthur δεν είναι η μόνη εταιρεία που δημιουργεί εργαλεία που επιτρέπουν στις εταιρείες AI να αναθεωρήσουν την απόδοση των αλγορίθμων τους. Πολλές εκκινήσεις επενδύουν στη δημιουργία εργαλείων για την καταπολέμηση της προκατάληψης και την εγγύηση ότι οι αλγόριθμοι AI χρησιμοποιούνται με ηθικό τρόπο. Η Weights & Biases είναι μια άλλη εκκίνηση που δημιουργεί εργαλεία για να βοηθήσει τους μηχανικούς μηχανικής μάθησης να αναλύσουν πιθανά προβλήματα με το δίκτυό τους. Η Toyota έχει χρησιμοποιήσει τα εργαλεία που δημιουργήθηκαν από την Weights & Biases για να παρακολουθήσει τις συσκευές μηχανικής μάθησής της κατά τη διάρκεια της εκπαίδευσης. Εν τω μεταξύ, η εκκίνηση Fiddler εργάζεται για τη δημιουργία ενός διαφορετικού συνόλου εργαλείων παρακολούθησης AI. Η IBM έχει ακόμη δημιουργήσει τη δική της υπηρεσία παρακολούθησης με το όνομα OpenScale.

Η Liz O’Sullivan, μια από τις συνδημιουργούς της Arthur, εξήγησε ότι το ενδιαφέρον για τη δημιουργία εργαλείων για να βοηθήσει στην επίλυση του προβλήματος του Μαύρου Κουτιού οφείλεται σε μια αυξανόμενη ευαισθητοποίηση για τη δύναμη του AI.

“Οι άνθρωποι αρχίζουν να συνειδητοποιούν πόσο ισχυρά possono να είναι αυτά τα συστήματα και ότι πρέπει να επωφεληθούν από τα οφέλη με έναν υπεύθυνο τρόπο”, είπε η O’Sullivan.