Alyssa Simpson Rochwerger, Συνσυγγραφέας του Real World AI – Σειρά Συνεντεύξεων

Η Alyssa Rochwerger είναι μια ηγετική προσωπικότητα που ασχολείται με την ανάπτυξη προϊόντων, αφιερωμένη στη δημιουργία προϊόντων που λύνουν δύσκολα προβλήματα για πραγματικούς ανθρώπους. Έχει κατέχει πολλές θέσεις ηγεσίας προϊόντων για οργανισμούς μηχανικής μάθησης. Υπηρέτησε ως Αντιπρόεδρος προϊόντων για την εταιρεία Figure Eight (η οποία αποκτήθηκε από την Appen), Αντιπρόεδρος για την τεχνητή νοημοσύνη και τα δεδομένα στην Appen, και ως διευθύντρια προϊόντων στην IBM Watson. Πρόσφατα έφυγε από τον χώρο για να追σει το όνειρό της να χρησιμοποιήσει την τεχνολογία για τη βελτίωση της υγείας. Τώρα, υπηρετεί ως διευθύντρια προϊόντων στην Blue Shield of California, όπου είναι ευτυχισμένη που περιβάλλεται από πολλά δεδομένα, δύσκολα προβλήματα και μόνο ευκαιρίες για θετική επίδραση.

Συζητάμε για το νέο της βιβλίο: Το Πραγματικό Κόσμο της Τεχνητής Νοημοσύνης: Ένας Πρακτικός Οδηγός για την Ευθύνη της Μηχανικής Μάθησης

Στην εισαγωγή του βιβλίου περιγράφετε πώς, ως προϊονίστας της IBM, συναντήσατε για πρώτη φορά ένα ζήτημα με το σύστημα τεχνητής νοημοσύνης που παρείχε προκατειλημμένες πληροφορίες όταν μια φωτογραφία ενός ατόμου με αναπηρία χαρακτηρίστηκε από το αλγόριθμο ως “χαμένος”. Ποια ήταν η έκταση του προβλήματος για εσάς σχετικά με την προκατειλημμένη συμπεριφορά της τεχνητής νοημοσύνης;

Δεν θα το χαρακτήριζα ως ένα ξύπνημα, αλλά περισσότερο ως την πρώτη μου εμπειρία με την ανάπτυξη προϊόντων που βασίζονται στη μηχανική μάθηση (ήμουν μόνο quelques μήνες στην θέση) και δεν ήξερα αρκετά για το πώς λειτουργεί αυτή η τεχνολογία για να βάλω τις κατάλληλες προστασίες και να αποτρέψω την προκατειλημμένη συμπεριφορά. Ήταν μια εμπειρία που μου άνοιξε τα μάτια σε αυτό το ζήτημα – και με έκανε ιδιαίτερα συνειδητό ότι πρέπει να προστατεύσω από την προκατειλημμένη συμπεριφορά. Η ισότητα, η πρόσβαση και η ένταξη είναι θέματα που με απασχολούν – και τα οποία με ενδιαφέρουν εδώ και πολύ καιρό -甚至 κέρδισα ένα βραβείο στο κολέγιο για την υποστήριξή μου προς τους φοιτητές με αναπηρίες. Αυτή η εμπειρία στην IBM με βοήθησε να κατανοήσω από τεχνικής πλευράς πόσο εύκολο είναι για την προκατειλημμένη συμπεριφορά του συστήματος να κωδικοποιηθεί στα προϊόντα που βασίζονται στη μηχανική μάθηση, αν η ομάδα δεν λαμβάνει ενεργά μέτρα για την αποφυγή της.

Τι μάθατε προσωπικά ερευνώντας και γράφοντας αυτό το βιβλίο;

Σε προσωπικό επίπεδο – έπρεπε να βγάλω χρόνο για τη γραφή του βιβλίου αυτού ενώ άλλαζα δουλειά, ενώ είχα ένα 1χρονο παιδί και ενώ ναυηγούσα στο COVID. Μάθαμε πώς να βγάζω χρόνο για να κάνω αυτό το βιβλίο προτεραιότητα, και πώς να ζητήσω βοήθεια από την οικογένειά μου, η οποία μου έδωσε τον χρόνο να αφοσιωθώ στη γραφή του βιβλίου.

Επαγγελματικά – ήταν υπέροχο να έχω τόσο多 participants που μοιράστηκαν τις ιστορίες τους μαζί μας για δημοσίευση. Οι επαγγελματίες της μηχανικής μάθησης, από την εμπειρία μου, είναι ένα πολύ σκέπτικο και ευγενικό σύνολο ανθρώπων – πρόθυμοι να βοηθήσουν τους άλλους και να μοιραστούν τα λάθη και τις διδάξεις. Δυστυχώς, πολλές από αυτές τις ιστορίες δεν συμπεριλήφθηκαν στο βιβλίο ή έπρεπε να ανωνυμοποιηθούν σημαντικά, λόγω φόβου να δημοσιοποιηθούν πίσω από τις σκηνές πληροφορίες που θα μπορούσαν να κάνουν μια εταιρεία ή ένα άτομο να φανεί κακό, αν ληφθούν με λάθος τρόπο. Ενώ αυτό είναι σίγουρα το τυπικό, προσωπικά πιστεύω ότι είναι λυπηρό – είμαι ένας μεγάλος υποστηρικτής της μάθησης και της ανάπτυξης από τις προηγούμενες εμπειρίες και τα λάθη, αν μπορούν να είναι χρήσιμα για τους άλλους.

Τι είναι κάποια από τα πιο σημαντικά μαθήματα που ελπίζετε ότι οι άνθρωποι θα πάρουν από την ανάγνωση αυτού;

Ελπίζω ότι οι άνθρωποι θα μάθουν ότι η μηχανική μάθηση δεν είναι κάτι υπερβολικά φοβερό ή δύσκολο να κατανοηθεί. Ότι είναι μια ισχυρή αλλά και πολλές φορές εύθραυστη τεχνολογία που χρειάζεται καθοδήγηση και δομή για να λύσει δύσκολα προβλήματα. Ότι η υπεύθυνη και ηθική χρήση αυτής της τεχνολογίας είναι κρίσιμη για την ωριμότητα και την επιτυχία – και ότι η εστίαση στην αποφυγή της προκατειλημμένης συμπεριφοράς από νωρίς είναι κλειδί για την επιχειρηματική επιτυχία.

Ένα παράδειγμα προκατειλημμένης συμπεριφοράς της τεχνητής νοημοσύνης που απεικονίζεται στο βιβλίο ήταν η τράπεζα Apple (AAPL ) Credit που έδινε χαμηλότερες πιστωτικές γραμμές στις γυναίκες σε σχέση με τους άνδρες. Αυτό ήταν ένα παράδειγμα του πώς η παραλείψη του φύλου ως επιλογή δεν έλαβε υπόψη άλλες μεταβλητές που θα μπορούσαν να λειτουργήσουν ως αναπαράσταση του φύλου. Το παράδειγμα έδειξε ότι χωρίς την “είσοδο φύλου” ήταν αδύνατο να κατανοηθεί ότι το αποτέλεσμα ήταν προκατειλημμένο μέχρι μετά την κυκλοφορία του τελικού προϊόντος. Ποια είναι κάποια από τα δεδομένα που πιστεύετε ότι δεν πρέπει ποτέ να παραλειφθούν για να αποφευχθεί η προκατειλημμένη συμπεριφορά κατά του φύλου ή των μειονοτήτων;

Δεν υπάρχει κανόνας – κάθε σύνολο δεδομένων, κάθε περίπτωση και κάθε κατάσταση είναι διαφορετική. Θα ενθάρρυνα τους επαγγελματίες να μπουν στα λεπτομέρεια και τη νύξη του προβλήματος που λύνει η μηχανική μάθηση – και ποια προκατειλημμένη συμπεριφορά θα μπορούσε να κωδικοποιηθεί σε αυτή την απόφαση.

Το βιβλίο περιγράφει πώς μια πρωταρχική ευθύνη όταν επικοινωνούμε με την ομάδα της τεχνητής νοημοσύνης είναι να ορίσουμε με ακρίβεια τα αποτελέσματα που είναι σημαντικά για την επιχείρηση. Πόσο συχνά, κατά την γνώμη σας, οι επιχειρήσεις αποτυγχάνουν σε αυτή την εργασία;

Θα έλεγα ότι, από την εμπειρία μου, τις περισσότερες φορές, τα αποτελέσματα δεν ορίζονται ή ορίζονται μόνο σε υψηλό επίπεδο. Η εστίαση στα λεπτομέρεια σχετικά με τα συγκεκριμένα αποτελέσματα είναι ένας εύκολος τρόπος για να ορίσουμε την ομάδα για την επιτυχία από νωρίς.

Το βιβλίο μιλάει για τη σημασία της συνειδητοποίησης ότι ένα σύστημα τεχνητής νοημοσύνης δεν είναι ένα “Ρύθμιση και λήθη” είδος συστήματος. Μπορείτε να μας μιλήσετε γι’ αυτό;

Αυτή είναι η κλασική λάθος που κάνουν οι περισσότερες εταιρείες όταν εκκινούν ένα νέο σύστημα μηχανικής μάθησης στην παραγωγή. Η πραγματικότητα αλλάζει – ο χρόνος περνά, τι ήταν αλήθεια χθες (τα δεδομένα εκπαίδευσης) μπορεί να μην είναι αλήθεια σήμερα. Εξαρτάται από τις περιστάσεις, αλλά στις περισσότερες περιπτώσεις, είναι σημαντικό να能够 να μάθουμε και να προσαρμοστούμε και να λαμβάνουμε καλύτερες αποφάσεις με βάση πιο πρόσφατες πληροφορίες.

Τα προϊόντα που βασίζονται στη μηχανική μάθηση είναι ουσιαστικά αποφασιστές. Για να το εξισώσουμε με ένα ανθρώπινο παράδειγμα – είναι σαν ένας διαιτητής σε ένα υψηλού επιπέδου ποδοσφαιρικό παιχνίδι. Πολλές φορές, αν είναι ένας καλά εκπαιδευμένος διαιτητής με εμπειρία, ο διαιτητής λαμβάνει μια καλή απόφαση και το παιχνίδι συνεχίζεται – αλλά σε κάποιες περιπτώσεις, ο διαιτητής είτε λαμβάνει μια κακή απόφαση – είτε δεν είναι σίγουρος για το τι απόφαση να πάρει – και χρειάζεται να επιστρέψει και να αναθεωρήσει το βίντεο – να ζητήσει από quelques άλλους στο γύρω για να λάβει μια απόφαση για μια συγκεκριμένη κίνηση. Παρόμοια – τα προϊόντα της μηχανικής μάθησης χρειάζονται ανάδραση, εκπαίδευση, και σε κάποιες περιπτώσεις δεν είναι βέβαια. Χρειάζονται να έχουν επιλογές πίσω για να επιστρέψουν καθώς και νέες πληροφορίες για να μάθουν και να γίνουν καλύτερα με τον καιρό. Ένας καλός διαιτητής θα μάθει με τον καιρό και θα γίνει καλύτερος στις αποφάσεις.

Μπορείτε να μιλήσετε για τη σημασία της δημιουργίας μιας διαλειτουργικής ομάδας που μπορεί να αναγνωρίσει ποια προβλήματα είναι τα καλύτερα για την αντιμετώπιση με τη χρήση της τεχνητής νοημοσύνης;

Η τεχνολογία της μηχανικής μάθησης είναι κατάλληλη για πολύ δύσκολα και συγκεκριμένα προβλήματα που δεν λύνονται με άλλες προσεγγίσεις. Κάθε δύσκολο πρόβλημα – χρειάζεται μια ομάδα για να είναι επιτυχημένο. Όταν οι εταιρείες είναι νέες στην τεχνητή νοημοσύνη – υπάρχει συχνά μια ψευδής αφήγηση ότι ένας μόνος επιστήμονας της μηχανικής μάθησης, ή ακόμη και μια ομάδα της μηχανικής μάθησης, μπορεί να λύσει το πρόβλημα από μόνη της. Δεν έχω βρει ποτέ να είναι αλήθεια. Χρειάζεται μια ομάδα με διαφορετικά υπόβαθρα και προσεγγίσεις για να αντιμετωπίσουμε ένα δύσκολο πρόβλημα – και σίγουρα για να αναπτύξουμε με επιτυχία την τεχνολογία της μηχανικής μάθησης στην παραγωγή.

Ευχαριστώ για τη μεγάλη συνέντευξη, για τους αναγνώστες (και ιδιαίτερα τους επιχειρηματίες) που ενδιαφέρονται να μάθουν περισσότερα, σας συνιστώ να διαβάσετε το βιβλίο Το Πραγματικό Κόσμο της Τεχνητής Νοημοσύνης: Ένας Πρακτικός Οδηγός για την Ευθύνη της Μηχανικής Μάθησης.