Yaron Singer, CEO στην Robust Intelligence & Καθηγητής Πληροφορικής στο Πανεπιστήμιο του Χάρβαρντ – Σειρά Συνεντεύξεων

Ο Yaron Singer είναι ο CEO της Robust Intelligence και Καθηγητής Πληροφορικής και Εφαρμοσμένων Μαθηματικών στο Χάρβαρντ. Ο Yaron είναι γνωστός για τις επαναστατικές επιτεύξεις του στη μηχανική μάθηση, τους αλγορίθμους και την оптимποίηση. Προηγουμένως, ο Yaron εργάστηκε στο Google (GOOGL ) Research και απέκτησε το διδακτορικό του από το UC Berkeley.

Τι σας έκανε να ενδιαφερθείτε αρχικά για το πεδίο της πληροφορικής και της μηχανικής μάθησης;

Η πορεία μου ξεκίνησε με τα μαθηματικά, τα οποία με οδήγησαν στην πληροφορική, η οποία με έβαλε στο δρόμο για τη μηχανική μάθηση. Τα μαθηματικά αρχικά με drew την προσοχή μου επειδή το αξιωματικό σύστημα τους μου έδωσε τη δυνατότητα να δημιουργήσω νέους κόσμους. Με την πληροφορική, έμαθα για τις απόδειξεις της ύπαρξης, αλλά και τους αλγορίθμους πίσω από αυτές. Από μια δημιουργική προοπτική, η πληροφορική είναι το σχέδιο των ορίων μεταξύ того που μπορούμε και δεν μπορούμε να κάνουμε.

Το ενδιαφέρον μου για τη μηχανική μάθηση έχει πάντα τις ρίζες του σε ένα ενδιαφέρον για τα πραγματικά δεδομένα, σχεδόν τη φυσική πλευρά τους. Λαμβάνοντας πράγματα από τον πραγματικό κόσμο και μοντελοποιώντας τα για να κάνουμε κάτι σημαντικό. Μπορούμε κυριολεκτικά να σχεδιάσουμε einen καλύτερο κόσμο μέσω σημαντικής μοντελοποίησης. Έτσι, τα μαθηματικά μου έδωσαν μια βάση για να αποδείξω πράγματα, η πληροφορική με βοήθησε να δω τι μπορούμε και τι δεν μπορούμε να κάνουμε, και η μηχανική μάθηση με ermöglicht να μοντελοποιήσω αυτές τις έννοιες στον κόσμο.

Μέχρι πρόσφατα ήσασταν Καθηγητής Πληροφορικής και Εφαρμοσμένων Μαθηματικών στο Πανεπιστήμιο του Χάρβαρντ, ποια ήταν κάποια από τα κύρια συμπεράσματα από αυτήν την εμπειρία;

Το μεγαλύτερο συμπέρασμά μου από το να είμαι μέλος της σχολής στο Χάρβαρντ είναι ότι αναπτύσσει την όρεξη για να κάνεις μεγάλα πράγματα. Το Χάρβαρντ παραδοσιακά έχει μια μικρή σχολή και η προσδοκία από τους καθηγητές είναι να αντιμετωπίσουν μεγάλα προβλήματα και να δημιουργήσουν νέους τομείς. Πρέπει να είσαι τολμηρός. Αυτό τελικά γίνεται μια εξαιρετική προετοιμασία για την εκκίνηση ενός startup που δημιουργεί μια νέα κατηγορία και ορίζει einen νέο χώρο. Δεν συνιστώ απαραίτητα να περάσετε πρώτα από το Χάρβαρντ, αλλά αν επιβιώσετε από αυτό, η δημιουργία ενός startup είναι πιο εύκολη.

Μπορείτε να περιγράψετε το ‘aha’ моментό σας όταν συνειδητοποιήσατε ότι οι σύνθετοι αλγόριθμοι AI είναι ευάλωτοι σε κακά δεδομένα, με κάποιες πιθανές μακροπρόθεσμες επιπτώσεις;

Όταν ήμουν διδακτορικός φοιτητής στο UC Berkeley, πήρα ένα διάλειμμα για να κάνω ένα startup που χτίσε μηχανική μάθηση μοντέλα για marketing σε κοινωνικά δίκτυα. Αυτό ήταν το 2010. Είχαμε τεράστια ποσά δεδομένων από τα κοινωνικά δίκτυα και κωδικοποιήσαμε όλα τα μοντέλα από την αρχή. Οι οικονομικές επιπτώσεις για τους λιανοπωλητές ήταν khá σημαντικές, οπότε ακολούθαμε στενά την απόδοση των μοντέλων.既然 χρησιμοποιούσαμε δεδομένα από τα κοινωνικά δίκτυα, υπήρχαν πολλά λάθη στην είσοδο, καθώς και drift. Είδαμε ότι πολύ μικρά λάθη οδηγούσαν σε μεγάλες αλλαγές στην έξοδο του μοντέλου και θα μπορούσαν να οδηγήσουν σε κακά οικονομικά αποτελέσματα για τους λιανοπωλητές που χρησιμοποιούσαν το προϊόν.

Όταν μεταφέρθηκα στο Google+ (για όσους από εμάς θυμάστε), είδα τις ίδιες επιπτώσεις. Περισσότερο δραματικά, σε συστήματα όπως το AdWords που έκανε προβλέψεις για την πιθανότητα των ανθρώπων να κάνουν κλικ σε μια διαφήμιση για λέξεις-κλειδιά, παρατηρήσαμε ότι μικρά λάθη στην είσοδο του μοντέλου οδηγούσαν σε πολύ κακές προβλέψεις. Όταν μαρτυράτε αυτό το πρόβλημα σε κλίμακα Google, συνειδητοποιείτε ότι το πρόβλημα είναι καθολικό.

Αυτές οι εμπειρίες διαμόρφωσαν έντονα την έρευνά μου, και πέρασα το χρόνο μου στο Χάρβαρντ ερευνώντας γιατί τα μοντέλα AI κάνουν λάθη και, σημαντικά, πώς να σχεδιάσουμε αλγορίθμους που μπορούν να αποτρέψουν τα μοντέλα από το να κάνουν λάθη. Αυτό, φυσικά, οδήγησε σε περισσότερα ‘aha’ моменты και, τελικά, στη δημιουργία της Robust Intelligence.

Μπορείτε να μοιραστείτε την ιστορία πίσω από τη Robust Intelligence;

Η Robust Intelligence ξεκίνησε με έρευνα σε ένα θεωρητικό πρόβλημα: ποια είναι οι εγγυήσεις που μπορούμε να έχουμε για τις αποφάσεις που λαμβάνονται με χρήση μοντέλων AI. Ο Kojin ήταν φοιτητής στο Χάρβαρντ και δούλεψα μαζί του, αρχικά γράφοντας ερευνητικές εργασίες. Έτσι, ξεκινά με τη γραφή εργασιών που περιγράφουν τι είναι θεμελιωδώς δυνατό και αδύνατο, θεωρητικά. Αυτά τα αποτελέσματα αργότερα συνεχίστηκαν σε ένα πρόγραμμα για τη σχεδίαση αλγορίθμων και μοντέλων που είναι robust σε αποτυχίες AI. Μετά από αυτό, η έναρξη μιας εταιρείας όπου οι οργανισμοί θα μπορούσαν να χρησιμοποιήσουν ένα σύστημα όπως αυτό ήταν ένα φυσικό επόμενο βήμα.

Ποια είναι κάποια από τα ζητήματα που η Robust Intelligence αντιμετωπίζει, τα λεγόμενα σιωπηλά λάθη, και τι τα κάνει τόσο επικίνδυνα;

Πριν δώσω μια τεχνική ορισμό για τα σιωπηλά λάθη, αξίζει να πάρουμε ένα βήμα πίσω και να κατανοήσουμε γιατί πρέπει να φροντίσουμε για τα λάθη AI. Ο λόγος που φροντίζουμε για τα λάθη AI είναι οι συνέπειες αυτών των λαθών. Ο κόσμος μας χρησιμοποιεί AI για να αυτοματοποιήσει κρίσιμες αποφάσεις: ποιος λαμβάνει ένα δάνειο και με ποιο επιτόκιο, ποιος λαμβάνει κάλυψη ασφάλισης και με ποιο επιτόκιο, ποια γειτονιές πρέπει να περιπολούν οι αστυνομικοί, ποιος είναι ο πιο πιθανός υποψήφιος για μια δουλειά, πώς πρέπει να οργανωθεί η ασφάλεια του αεροδρομίου και così weiter. Το γεγονός ότι τα μοντέλα AI είναι εξαιρετικά ευάλωτα σε λάθη σημαίνει ότι με την αυτοματοποίηση αυτών των κρίσιμων αποφάσεων κληρονομούμε ένα μεγάλο κίνδυνο. Στη Robust Intelligence, τα λέμε “AI Risk” και η αποστολή μας στην εταιρεία είναι να εξαφανίσουμε τον AI Risk.

Πώς μπορεί το σύστημα να βοηθήσει στην πρόληψη της προκατάληψης AI;

Η προκατάληψη του μοντέλου προέρχεται από μια διαφορά μεταξύ των δεδομένων στα οποία εκπαιδεύτηκε το μοντέλο και των δεδομένων που χρησιμοποιεί για να κάνει προβλέψεις. Επιστρέφοντας στο AI risk, η προκατάληψη είναι ένα σημαντικό ζήτημα που οφείλεται σε σιωπηλά λάθη. Για παράδειγμα, αυτό είναι συχνά ένα ζήτημα με τις υποαντιπροσωπεύουσες πληθυσμούς. Ένα μοντέλο μπορεί να έχει προκατάληψη επειδή έχει δει λιγότερα δεδομένα από εκείνη την πληθυσμό, το οποίο θα επηρεάσει δραματικά την απόδοση του μοντέλου και την ακρίβεια των προβλέψεών του. Η AI Firewall μπορεί να ενημερώσει τις οργανώσεις για αυτές τις διαφορές δεδομένων και να βοηθήσει το μοντέλο να λάβει σωστές αποφάσεις.

Τι είναι κάποια από τα άλλα ζητήματα που η Robust Intelligence βοηθά να προληφθούν;

Κάθε εταιρεία που χρησιμοποιεί AI για να αυτοματοποιήσει αποφάσεις, ιδιαίτερα κρίσιμες αποφάσεις, εισάγει αυτόματα κίνδυνο. Κακά δεδομένα θα μπορούσαν να είναι τόσο απλά όσο η εισαγωγή ενός μηδενός αντί για ένα και να οδηγήσουν σε σημαντικές συνέπειες. Αν ο κίνδυνος είναι λάθος ιατρικές προβλέψεις ή ψευδείς προβλέψεις για δάνεια, η AI Firewall βοηθά τις οργανώσεις να προληφθούν από τον κίνδυνο.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί σχετικά με τη Robust Intelligence;

Η Robust Intelligence μεγαλώνει γρήγορα και λαμβάνουμε πολλά εξαιρετικά υποψήφια για θέσεις. Αλλά κάτι που πραγματικά θέλω να τονίσω για τους ανθρώπους που σκέφτονται να υποβάλουν αίτηση είναι ότι η πιο σημαντική ιδιότητα που αναζητούμε στους υποψήφιους είναι η страсть τους για την αποστολή. Συνάντησα πολλούς υποψήφιους που είναι ισχυροί τεχνικά, οπότε πραγματικά έρχεται xuống να κατανοήσουμε αν είναι πραγματικά страσμένοι για την εξάλειψη του AI risk για να κάνουν τον κόσμο ένα ασφαλέστερο και καλύτερο μέρος.

Στον κόσμο που προχωράμε, πολλές αποφάσεις που λαμβάνονται τώρα από τους ανθρώπους θα αυτοματοποιηθούν. Αν μας αρέσει ή όχι, αυτή είναι μια πραγματικότητα. Δεδομένου αυτού, όλοι μας στη Robust Intelligence θέλουμε οι αυτοματοποιημένες αποφάσεις να γίνονται υπεύθυνα. Οπότε, όποιος είναι ενθουσιασμένος με το να κάνει μια επίδραση, ο οποίος κατανοεί τον τρόπο με τον οποίο αυτό μπορεί να επηρεάσει τη ζωή των ανθρώπων, είναι ένας υποψήφιος που ψάχνουμε να ενταχθεί στη Robust Intelligence. Ψάχνουμε για αυτήν την страсть. Ψάχνουμε για τους ανθρώπους που θα δημιουργήσουν αυτήν την τεχνολογία που ολόκληρος ο κόσμος θα χρησιμοποιήσει.

Ευχαριστώ για τη μεγάλη συνέντευξη, απολαύσατε να μαθαίνω για τις απόψεις σας σχετικά με την πρόληψη της προκατάληψης AI και την ανάγκη για ένα AI firewall, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Robust Intelligence.