Έναρξη επιχειρήσεων που δημιουργούν εργαλεία για την παρακολούθηση του AI και την προώθηση της ηθικής χρήσης του AI

Κατά τη διάρκεια του τελευταίου έτους, φαίνεται ότι δίνεται όλο και περισσότερη προσοχή στην εξασφάλιση ότι το AI χρησιμοποιείται με ηθικό τρόπο. Η Google (GOOGL ) και η Microsoft (MSFT ) έχουν πρόσφατα προειδοποιήσει τους επενδυτές ότι η κακή χρήση των αλγορίθμων του AI ή οι αλγόριθμοι του AI που δεν έχουν σχεδιαστεί σωστά παρουσιάζουν ηθικά και νομικά рисκα. Εν τω μεταξύ, η πολιτεία της Καλιφόρνιας μόλις αποφάσισε να ψηφίσει ένα νομοσχέδιο που απαγορεύει τη χρήση τεχνολογίας αναγνώρισης προσώπου από τις υπηρεσίες επιβολής του νόμου της Καλιφόρνιας.

Πρόσφατα, startups όπως η Arthur έχουν προσπαθήσει να σχεδιάσουν εργαλεία που θα βοηθήσουν τους μηχανικούς του AI να ποσοτικοποιήσουν και να ποιοτικοποιήσουν την απόδοση των μοντέλων μηχανικής μάθησης. Όπως αναφέρθηκε από το Wired, η Arthur προσπαθεί να δώσει στους développers του AI ένα εργαλείο που θα κάνει πιο εύκολη την ανακάλυψη προβλημάτων κατά τη σχεδίαση εφαρμογών, όπως η αποκάλυψη προκαταλήψεων στις επενδυτικές ή δανειακές αποφάσεις.

Οι προσπάθειες της Arthur στοχεύουν στην αντιμετώπιση του προβλήματος του “μαύρου κουτιού” του AI. Το πρόβλημα του μαύρου κουτιού στο AI περιγράφει πώς, σε αντίθεση με τον παραδοσιακό κώδικα, ο οποίος μπορεί να ερμηνευτεί εύκολα από εκείνους που ξέρουν πώς να το διαβάσουν, τα συστήματα μηχανικής μάθησης χαρτογραφούν χαρακτηριστικά σε συμπεριφορά χωρίς να αποκαλύπτουν τους λόγους που επιλέγονται αυτές οι συμπεριφορές/πώς έχουν ερμηνευθεί τα χαρακτηριστικά. Με άλλα λόγια, σε ένα σύστημα μαύρου κουτιού η ακριβής υλοποίηση του αλγορίθμου είναι αδιαφανής.

Τα συστήματα μηχανικής μάθησης λειτουργούν εξάγοντας μοτίβα από τα δεδομένα εισόδου και συλλογίζοντας για αυτά τα μοτίβα. Αυτό επιτυγχάνεται με το να έχει ο υπολογιστής γράψει τον δικό του κώδικα με την χειραγώγηση ορισμένων μαθηματικών συναρτήσεων. Για να αντιμετωπιστούν αυτά τα προβλήματα, οι ερευνητές και οι μηχανικοί χρειάζονται εργαλεία που κάνουν την παρακολούθηση και την ανάλυση της συμπεριφοράς του λογισμικού μηχανικής μάθησης πιο εύκολη. Startups όπως η Arthur αναγνωρίζουν τη δυσκολία της επίλυσης του προβλήματος και δεν ισχυρίζονται ότι έχουν τις βέλτιστες λύσεις, αλλά ελπίζουν να κάνουν πρόοδο σε αυτή την περιοχή και να κάνουν την άνοιξη του μαύρου κουτιού λίγο πιο εύκολη. Ελπίζεται ότι αν τα συστήματα AI μπορούν να αναλυθούν πιο εύκολα, θα γίνει πιο εύκολο να διορθωθούν προβλήματα όπως η προκατάληψη.

Μεγάλες εταιρείες όπως η Facebook (META ) έχουν ήδη ορισμένα εργαλεία για την ανάλυση των εσωτερικών λειτουργιών των συστημάτων μηχανικής μάθησης. Για παράδειγμα, η Facebook έχει ένα εργαλείο που ονομάζεται Fairness Flow, το οποίο έχει ως στόχο να διασφαλίσει ότι οι διαφημίσεις που προτείνουν εργασίες σε άτομα στοχεύουν σε άτομα από όλα τα διαφορετικά υπόβαθρα. Ωστόσο, είναι πιθανό ότι οι μεγάλες ομάδες AI δεν θα θέλουν να επενδύσουν χρόνο στη δημιουργία τέτοιων εργαλείων, και επομένως υπάρχει μια επιχειρηματική ευκαιρία για εταιρείες που θέλουν να δημιουργήσουν εργαλεία παρακολούθησης για χρήση από εταιρείες AI.

Η Arthur εστιάζει στη δημιουργία εργαλείων που επιτρέπουν στις εταιρείες να διατηρούν και να παρακολουθούν τα συστήματα AI μετά την ανάπτυξή τους. Τα εργαλεία της Arthur έχουν ως στόχο να επιτρέψουν στις εταιρείες να δουν πώς η απόδοση του συστήματός τους αλλάζει με την πάροδο του χρόνου, το οποίο θα μπορούσε θεωρητικά να επιτρέψει στις εταιρείες να εντοπίσουν πιθανές εκδηλώσεις προκατάληψης. Αν το λογισμικό σύστασης δανείων μιας εταιρείας αρχίσει να αποκλείει ορισμένες ομάδες πελατών, μπορεί να τεθεί μια σημαία που να υποδηλώνει ότι το σύστημα χρειάζεται αναθεώρηση για να διασφαλιστεί ότι δεν διακρίνει τους πελάτες με βάση ευαίσθητες ιδιότητες όπως η φυλή ή το φύλο.

Ωστόσο, η Arthur δεν είναι η μόνη εταιρεία που δημιουργεί εργαλεία που επιτρέπουν στις εταιρείες AI να αναθεωρήσουν την απόδοση των αλγορίθμων τους. Πολλές startups επενδύουν στη δημιουργία εργαλείων για την καταπολέμηση της προκατάληψης και την εξασφάλιση ότι οι αλγόριθμοι AI χρησιμοποιούνται με ηθικό τρόπο. Η Weights & Biases είναι μια άλλη startup που δημιουργεί εργαλεία για να βοηθήσει τους μηχανικούς μηχανικής μάθησης να αναλύσουν πιθανά προβλήματα με το δίκτυό τους. Η Toyota έχει χρησιμοποιήσει τα εργαλεία που δημιουργήθηκαν από την Weights & Biases για να παρακολουθήσει τις συσκευές μηχανικής μάθησης κατά την εκπαίδευσή τους. Εν τω μεταξύ, η startup Fiddler εργάζεται για τη δημιουργία ενός διαφορετικού συνόλου εργαλείων παρακολούθησης AI. Η IBM έχει ακόμη δημιουργήσει τη δική της υπηρεσία παρακολούθησης με το όνομα OpenScale.

Η Liz O’Sullivan, μια από τις συνδημιουργούς της Arthur, εξήγησε ότι το ενδιαφέρον για τη δημιουργία εργαλείων για την αντιμετώπιση του προβλήματος του μαύρου κουτιού οδηγείται από μια αυξανόμενη ευαισθητοποίηση για τη δύναμη του AI.

«Οι άνθρωποι αρχίζουν να συνειδητοποιούν πόσο ισχυρά possono να είναι αυτά τα συστήματα, και ότι πρέπει να επωφεληθούν από τα οφέλη με έναν υπεύθυνο τρόπο», είπε η O’Sullivan.