Ο Arjun Narayan, Διευθυντής Παγκόσμιας Ασφαλείας και Εμπειρίας Πελατών για το SmartNews – Σειρά Συνεντεύξεων

Arjun Narayan, είναι ο Διευθυντής Παγκόσμιας Ασφαλείας και Εμπειρίας Πελατών για το SmartNews μια εφαρμογή συλλέκτριας ειδήσεων, είναι επίσης εμπειρογνώμων για την ηθική του AI και την τεχνολογική πολιτική. Το SmartNews χρησιμοποιεί το AI και μια ανθρώπινη редакτική ομάδα καθώς συλλέγει ειδήσεις για τους αναγνώστες.

Είσαι ο βασικός παράγοντας που βοήθησε στην καθιέρωση του κέντρου Ασφαλείας και Εμπειρίας του Google στην Ασία-Ειρηνικό στην Σιγκαπούρη, ποια ήταν κάποια βασικά μαθήματα που έμαθες από αυτή την εμπειρία;

Όταν κατασκευάζουμε ομάδες Ασφαλείας και Εμπειρίας, η εμπειρία σε επίπεδο χώρας είναι κρίσιμη γιατί η κακοποίηση είναι πολύ διαφορετική ανάλογα με τη χώρα που ρυθμίζεις. Για παράδειγμα, ο τρόπος με τον οποίο τα προϊόντα του Google (GOOGL ) κακοποιούνταν στην Ιαπωνία ήταν διαφορετικός από τον τρόπο με τον οποίο κακοποιούνταν στη Νοτιοανατολική Ασία και την Ινδία. Αυτό σημαίνει ότι οι διανυσματικές κακοποιήσεις είναι πολύ διαφορετικές ανάλογα με το ποιος τις κακοποιεί και σε ποια χώρα είσαι, δεν υπάρχει ομοιομορφία. Αυτό ήταν κάτι που μάθαμε από νωρίς.

Επίσης, έμαθα ότι η πολιτιστική ποικιλία είναι απίστευτα σημαντική όταν κατασκευάζουμε ομάδες Ασφαλείας και Εμπειρίας στο εξωτερικό. Στο Google, διασφαλίσαμε ότι υπήρχε αρκετή πολιτιστική ποικιλία και κατανόηση μέσα στους ανθρώπους που προσλαμβάναμε. Ψάχναμε για ανθρώπους με συγκεκριμένες ειδικές γνώσεις, αλλά και για γλωσσικές και αγορές γνώσεις.

Επίσης, βρήκα την πολιτιστική εμβάπτιση να είναι απίστευτα σημαντική. Όταν κατασκευάζουμε ομάδες Ασφαλείας και Εμπειρίας διασυνοριακά, χρειαζόμαστε να διασφαλίσουμε ότι οι μηχανικοί και οι επιχειρηματικές ομάδες μας μπορούν να εμβαπτιστούν. Αυτό βοηθά να διασφαλίσουμε ότι όλοι είναι πιο κοντά στα ζητήματα που προσπαθούσαμε να διαχειριστούμε. Για να το κάνουμε αυτό, κάναμε εποχιαίες εμβάπτισης με βασικό προσωπικό και αυτό βοήθησε να αυξήσει το πολιτιστικό IQ όλων.

Τέλος, η διαπολιτισμική κατανόηση ήταν τόσο σημαντική. Διοίκησα μια ομάδα στην Ιαπωνία, την Αυστραλία, την Ινδία και τη Νοτιοανατολική Ασία, και ο τρόπος με τον οποίο αλληλεπιδρούσαν ήταν απίστευτα διαφορετικός. Jako ηγέτης, θέλεις να διασφαλίσεις ότι όλοι μπορούν να βρουν τη φωνή τους. Τελικά, αυτό είναι όλα σχεδιασμένα για να χτίσει μια υψηλής απόδοσης ομάδα που μπορεί να εκτελέσει ευαίσθητες εργασίες όπως η Ασφάλεια και η Εμπειρία.

Προηγουμένως, ήσουν επίσης στην ομάδα Ασφαλείας και Εμπειρίας με την ByteDance για την εφαρμογή TikTok, πώς παρακολουθούνται αποτελεσματικά τα βίντεο που είναι συχνά μικρότερα από ένα λεπτό για ασφάλεια;

Θέλω να αναδιαμορφώσω αυτή την ερώτηση λίγο, γιατί δεν έχει πραγματικά σημασία αν ένα βίντεο είναι μικρό ή μεγάλου μήκους. Αυτό δεν είναι παράγοντας όταν αξιολογούμε την ασφάλεια του βίντεο, και το μήκος δεν έχει πραγματικό βάρος στο αν ένα βίντεο μπορεί να διαδώσει κακοποίηση.

Όταν σκέφτομαι την κακοποίηση, σκέφτομαι την κακοποίηση ως “ζητήματα”. Ποια είναι κάποια από τα ζητήματα που οι χρήστες είναι ευάλωτοι; Λανθασμένες πληροφορίες; Ψευδείς πληροφορίες; Ανεξάρτητα από το αν το βίντεο είναι 1 λεπτό ή 1 ώρα, υπάρχουν ακόμα λανθασμένες πληροφορίες που μοιράζονται και το επίπεδο κακοποίησης παραμένει συγκρίσιμο.

Ανάλογα με τον τύπο του ζητήματος, αρχίζεις να σκέφτεσαι την επιβολή πολιτικής και τις ασφαλείς φραγμούς και πώς μπορείς να προστατεύσεις τους ευάλωτους χρήστες. Για παράδειγμα, ας πούμε ότι υπάρχει ένα βίντεο κάποιου που κάνει αυτοτραυματισμό. Όταν λαμβάνουμε ειδοποίηση ότι αυτό το βίντεο υπάρχει, πρέπει να ενεργούμε με επείγουσα ανάγκη, γιατί κάποιος μπορεί να χάσει τη ζωή του. Εξαρτόμαστε πολύ από το μηχανικό μάθηση για να κάνουμε αυτό το είδος ανίχνευσης. Η πρώτη κίνηση είναι πάντα να επικοινωνούμε με τις αρχές για να προσπαθήσουμε να σώσουμε αυτή τη ζωή, τίποτα δεν είναι πιο σημαντικό. Από εκεί, στοχεύουμε να αναστείλει το βίντεο, τη ζωντανή μετάδοση ή όποιο είναι το φορμάτ με το οποίο μοιράζεται. Χρειαζόμαστε να διασφαλίσουμε ότι ελαχιστοποιούμε την έκθεση σε αυτό το είδος επικίνδυνου περιεχομένου το συντομότερο δυνατό.

Ομοίως, αν είναι μίσος λόγος, υπάρχουν διαφορετικοί τρόποι να αναλύσουμε αυτό. Ή στην περίπτωση του εκφοβισμού και της παρενόχλησης, αυτό εξαρτάται真的 από τον τύπο του ζητήματος, και ανάλογα με αυτό, θα điều chỉnhουμε τις επιλογές επιβολής και τις ασφαλείς φραγμούς. Ένα άλλο παράδειγμα καλής ασφαλής φραγμού ήταν ότι υλοποιήσαμε μηχανικό μάθηση που μπορούσε να ανιχνεύσει όταν κάποιος γράφει κάτι ακατάλληλο στα σχόλια και να παρέχει μια προτροπή να σκεφτούν дваждια πριν να δημοσιεύσουν αυτό το σχόλιο. Δεν θα τους σταματούσαμε απαραίτητα, αλλά η ελπίδα μας ήταν ότι οι άνθρωποι θα σκεφτούν дваждια πριν να μοιράσουν κάτι κακό.

Πρόκειται για μια συνδυασμό μηχανικού μάθησης και κανόνων λέξεων-κλειδιών. Όταν πρόκειται για ζωντανές μεταδόσεις, είχαμε επίσης ανθρώπινους επιτηρητές που αναθεωρούσαν αυτές τις μεταδόσεις που είχαν σημειωθεί από το AI, ώστε να μπορούν να αναφέρουν αμέσως και να εφαρμόσουν πρωτόκολλα. Επειδή συμβαίνουν σε πραγματικό χρόνο, δεν είναι αρκετό να βασίζονται στους χρήστες για να αναφέρουν, οπότε χρειαζόμαστε να έχουμε ανθρώπους που παρακολουθούν σε πραγματικό χρόνο.

Από το 2021, είσαι ο Διευθυντής Ασφαλείας, Εμπειρίας και Πελατών στο SmartNews, μια εφαρμογή συλλέκτριας ειδήσεων. Μπορείς να συζητήσεις πώς το SmartNews χρησιμοποιεί το μηχανικό μάθηση και την επεξεργασία φυσικής γλώσσας για να αναγνωρίσει και να προτεραιότητας υψηλής ποιότητας ειδησεογραφικό περιεχόμενο;

Η κεντρική концепция είναι ότι έχουμε ορισμένα “κανόνες” ή τεχνολογία μηχανικού μάθησης που μπορούν να αναλύσουν ένα άρθρο ή διαφήμιση και να κατανοήσουν τι είναι αυτό το άρθρο.

Όταν υπάρχει κάτι που παραβιάζει τους “κανόνες” μας, για παράδειγμα κάτι που είναι faktικά λανθασμένο ή παραπλανητικό, έχουμε μηχανικό μάθηση που σηματοδοτεί αυτό το περιεχόμενο σε einen ανθρώπινο αναθεωρητή στην редакτική μας ομάδα. Σε αυτό το στάδιο, ένας αναθεωρητής κατανοεί τις editorial αξίες μας και μπορεί να αναθεωρήσει γρήγορα το άρθρο και να κάνει eine κρίση για την καταλληλότητά του ή την ποιότητά του. Από εκεί, λαμβάνονται ενέργειες για να το αντιμετωπίσουν.

Πώς χρησιμοποιεί το SmartNews το AI για να διασφαλίσει ότι η πλατφόρμα είναι ασφαλής, περιεκτική και αντικειμενική;

Το SmartNews ιδρύθηκε με την προϋπόθεση ότι η υπερπροσωποποίηση είναι καλή για το εγώ, αλλά είναι επίσης πολωτική μας όλους ενισχύοντας τις προκαταλήψεις και βάζοντας τους ανθρώπους σε μια φίλτρο φυσαλίδα.

Ο τρόπος με τον οποίο το SmartNews χρησιμοποιεί το AI είναι λίγο διαφορετικός, γιατί δεν βελτιστοποιούμε αποκλειστικά για την εμπλοκή. Ο αλγόριθμος μας θέλει να κατανοήσει εσάς, αλλά δεν είναι απαραίτητα υπερπροσωποποιώντας τις προτιμήσεις σας. Αυτό είναι γιατί πιστεύουμε στην επέκταση των προοπτικών. Ο μηχανισμός μας θα σας εισαγάγει σε έννοιες και άρθρα πέρα από τα διπλανά έννοιες.

Η ιδέα είναι ότι υπάρχουν πράγματα που οι άνθρωποι πρέπει να γνωρίζουν στο δημόσιο συμφέρον, και υπάρχουν πράγματα που οι άνθρωποι πρέπει να γνωρίζουν για να επεκτείνουν το πεδίο τους. Η ισορροπία που προσπαθούμε να χτυπήσουμε είναι να παρέχουμε αυτές τις περιεκτικές αναλύσεις χωρίς να είναι μεγαλοδύναμος. Κάποιες φορές οι άνθρωποι δεν θα τους αρέσει αυτό που ο αλγόριθμος μας βάζει στη διατροφή τους. Όταν συμβαίνει αυτό, οι άνθρωποι μπορούν να επιλέξουν να μην διαβάσουν αυτό το άρθρο. Ωστόσο, είμαστε υπερήφανοι για την ικανότητα του μηχανισμού μας να προάγει την τυχαία, την περιέργεια, ό,τι θέλετε να το πείτε.

Στη πλευρά της ασφάλειας, το SmartNews έχει κάτι που ονομάζεται “Βαθμολογία Εκδότη”, αυτό είναι ένας αλγόριθμος που σχεδιάζεται για να αξιολογεί συνεχώς αν ένας εκδότης είναι ασφαλής ή όχι. Τελικά, θέλουμε να καθορίσουμε αν ένας εκδότης έχει μια εξουσιοδοτημένη φωνή. Για παράδειγμα, μπορούμε όλοι να συμφωνήσουμε ότι το ESPN είναι μια εξουσία για τα αθλήματα. Αλλά, αν είσαι ένα τυχαίο blog που αντιγράφει το περιεχόμενο του ESPN, χρειαζόμαστε να διασφαλίσουμε ότι το ESPN κατατάσσεται υψηλότερα από αυτό το τυχαίο blog. Η βαθμολογία του εκδότη λαμβάνει επίσης υπόψη παράγοντες όπως η πρωτοτυπία, όταν τα άρθρα δημοσιεύθηκαν, τι μοιάζουν τα σχόλια των χρηστών, κ.λπ. Τελικά, είναι ένα φάσμα πολλών παραγόντων που λαμβάνουμε υπόψη.

Ένα πράγμα που υπερβαίνει όλα είναι “Τι θέλει ο χρήστης να διαβάσει;” Αν ο χρήστης θέλει να δει άρθρα clickbait, δεν θα τους σταματήσουμε αν δεν είναι παράνομο ή δεν παραβιάζει τις οδηγίες μας. Δεν επιβάλλουμε στον χρήστη, αλλά αν κάτι είναι ασφαλές ή ακατάλληλο, έχουμε την υποχρέωση μας πριν να φτάσει η διατροφή.

Τι είναι η άποψή σας για τους δημοσιογράφους που χρησιμοποιούν γεννήτρια AI για να βοηθήσουν στην παραγωγή περιεχομένου;

Πιστεύω ότι αυτή η ερώτηση είναι μια ηθική, και κάτι που συζητιέται τώρα στο SmartNews. Πώς πρέπει να θεωρήσουμε τους εκδότες που υποβάλλουν περιεχόμενο που διαμορφώνεται από γεννήτρια AI αντί για δημοσιογράφους που το γράφουν;

Πιστεύω ότι το τρένο έχει ήδη φύγει από το σταθμό. Σήμερα, οι δημοσιογράφοι χρησιμοποιούν το AI για να αυξήσουν το γράψιμό τους. Είναι eine λειτουργία της κλίμακας, δεν έχουμε τον χρόνο στον κόσμο για να παράγουμε άρθρα σε εμπορικά βιώσιμη ποσότητα, ιδιαίτερα既然 τα μέσα ενημέρωσης συνεχίζουν να κόβουν προσωπικό. Η ερώτηση τότε γίνεται, πόσο δημιουργικότητα συμμετέχει σε αυτό; Είναι το άρθρο γυαλισμένο από τον δημοσιογράφο; Ή ο δημοσιογράφος είναι完全 зависим;

Σε αυτό το σημείο, η γεννήτρια AI δεν είναι σε θέση να γράψει άρθρα για γεγονότα που συμβαίνουν τώρα, γιατί δεν υπάρχει εκπαίδευση για αυτό. Ωστόσο, μπορεί να σας δώσει ένα khá καλό γενικό πρότυπο για να το κάνει. Για παράδειγμα, οι σχολικές πυροβολισμοί είναι τόσο συχνοί, μπορούμε να υποθέσουμε ότι η γεννήτρια AI θα μπορούσε να δώσει στον δημοσιογράφο μια προτροπή για σχολικούς πυροβολισμούς και ο δημοσιογράφος θα μπορούσε να εισάγει το σχολείο που επηρεάστηκε για να λάβει ένα πλήρες πρότυπο.

Από την πλευρά μου, που εργάζομαι με το SmartNews, υπάρχουν δύο αρχές που θεωρώ ότι αξίζει να ληφθούν υπόψη. Πρώτον, θέλουμε τους εκδότες να είναι ανοιχτοί στο να μας πουν όταν το περιεχόμενο έχει παραχθεί από AI, και θέλουμε να το σημειώσουμε ως τέτοιο. Αυτό θα διασφαλίσει ότι όταν οι άνθρωποι διαβάζουν το άρθρο, δεν θα είναι παραπλανημένοι για το ποιος έγραψε το άρθρο. Αυτή είναι η διαφάνεια στην υψηλότερη τάξη.

Δεύτερον, θέλουμε αυτό το άρθρο να είναι faktικά σωστό. Ξέρουμε ότι η γεννήτρια AI έχει την τάση να κάνει πράγματα όταν το θέλει, και οποιοδήποτε άρθρο που γράφεται από γεννήτρια AI πρέπει να αναθεωρηθεί από έναν δημοσιογράφο ή editorial προσωπικό.

Είχες προηγουμένως υποστηρίξει ότι οι τεχνολογικές πλατφόρμες πρέπει να ενωθούν και να δημιουργήσουν κοινούς προτύπους για την καταπολέμηση της ψηφιακής τοξικότητας, πόσο σημαντικό είναι αυτό το ζήτημα;

Πιστεύω ότι αυτό το ζήτημα είναι κρίσιμης σημασίας, όχι μόνο για τις εταιρείες να λειτουργούν ηθικά, αλλά και για να διατηρήσουν ένα επίπεδο αξιοπρέπειας και πολιτισμού. Κατά τη γνώμη μου, οι πλατφόρμες πρέπει να έρθουν μαζί και να αναπτύξουν ορισμένα πρότυπα για να διατηρήσουν αυτή την ανθρωπιά. Για παράδειγμα, κανείς δεν πρέπει ποτέ να ενθαρρύνεται να πάρει τη ζωή του, αλλά σε ορισμένες περιπτώσεις, βρήκαμε αυτό το είδος κακοποίησης στις πλατφόρμες, και πιστεύω ότι αυτό είναι κάτι που οι εταιρείες πρέπει να έρθουν μαζί για να προστατεύσουν.

Ποια είναι κάποια από τα τρόπους με τους οποίους οι ψηφιακές εταιρείες μπορούν να συνεργαστούν;

Οι εταιρείες πρέπει να έρθουν μαζί όταν υπάρχουν κοινές αξίες και η δυνατότητα συνεργασίας. Υπάρχουν πάντα χώροι όπου υπάρχει διασταύρωση μεταξύ εταιρειών και βιομηχανιών, ιδιαίτερα όταν πρόκειται για την καταπολέμηση της κακοποίησης, την διασφάλιση της πολιτισμού στις πλατφόρμες ή την μείωση της πολωτικής. Αυτά είναι моменты όταν οι εταιρείες πρέπει να εργάζονται μαζί.

Υπάρχει βέβαια ένας εμπορικός γωνία με ανταγωνισμό, και συνήθως ο ανταγωνισμός είναι καλός. Βοηθά να διασφαλίσει ότι υπάρχει δύναμη και διαφοροποίηση μεταξύ εταιρειών και παρέχει λύσεις με ένα επίπεδο αποτελεσματικότητας που οι μονοπωλιακές εταιρείες δεν μπορούν να εγγυηθούν.

Αλλά, όταν πρόκειται για την προστασία των χρηστών, ή την προώθηση της πολιτισμού, ή την μείωση των διανυσματικών κακοποιήσεων, αυτά είναι θέματα που είναι κρίσιμα για μας για να διατηρήσουμε τον ελεύθερο κόσμο. Αυτά είναι πράγματα που πρέπει να κάνουμε για να διασφαλίσουμε ότι προστατεύουμε αυτό που είναι ιερό για μας, και την ανθρωπιά μας. Κατά τη γνώμη μου, όλες οι πλατφόρμες έχουν την ευθύνη να συνεργαστούν για την υπεράσπιση των ανθρώπινων αξιών και των αξιών που μας κάνουν ελεύθερους.

Τι είναι η τρέχουσα άποψή σας για την υπεύθυνη AI;

Βρισκόμαστε στην αρχή κάτι που είναι πολύ διαδεδομένο στη ζωή μας. Αυτή η επόμενη φάση της γεννήτριας AI είναι ένα πρόβλημα που δεν το κατανοούμε πλήρως, ή只能 частично κατανοούμε σε αυτό το σημείο.

Όταν πρόκειται για την υπεύθυνη AI, είναι απίστευτα σημαντικό να αναπτύξουμε ισχυρές φραγμούς, ή αλλιώς μπορεί να τελειώσουμε με ένα τέρας της γεννήτριας AI. Χρειαζόμαστε να δαπανήσουμε τον χρόνο να σκεφτόμαστε όλα όσα μπορεί να πάει στραβά. Εάν αυτό είναι η προκατάληψη που εισέρχεται στα αλγόριθμα, ή τα μεγάλα μοντέλα γλώσσας που χρησιμοποιούνται από τις λάθος άνθρωπους για να κάνουν κακά πράγματα.

Η τεχνολογία αυτή δεν είναι καλή ή κακή, αλλά μπορεί να χρησιμοποιηθεί από κακούς ανθρώπους για να κάνουν κακά πράγματα. Αυτό είναι γιατί η επένδυση του χρόνου και των πόρων σε AI ηθικούς για να κάνουν αντί-δοκιμές για να κατανοήσουν τις σχεδιαστικές ατέλειες είναι τόσο κρίσιμη. Αυτό θα μας βοηθήσει να κατανοήσουμε πώς να προλάβουμε την κακοποίηση, και πιστεύω ότι αυτό είναι το πιο σημαντικό μέρος της υπεύθυνης AI.

Επειδή το AI δεν μπορεί ακόμη να σκέφτεται μόνο του, χρειαζόμαστε έξυπνους ανθρώπους που μπορούν να χτίσουν αυτές τις προεπιλογές όταν το AI προγραμματίζεται. Το σημαντικό μέρος να ληφθεί υπόψη τώρα είναι ο χρόνος – χρειαζόμαστε αυτούς τους θετικούς ηθοποιούς να κάνουν αυτά τα πράγματα ΤΩΡΑ πριν είναι слишком αργά.

Αντίθετα με άλλα συστήματα που έχουμε σχεδιάσει και χτιστεί στο παρελθόν, το AI είναι διαφορετικό γιατί μπορεί να επαναλάβει και να μάθει μόνο του, οπότε αν δεν ρυθμίσετε ισχυρές φραγμούς για το τι και πώς μαθαίνει, δεν μπορούμε να ελέγξουμε τι μπορεί να γίνει.

Τώρα, βλέπουμε κάποιες μεγάλες εταιρείες να απολύουν συμβούλους ηθικής και ομάδες υπεύθυνης AI ως μέρος μεγάλων απολύσεων. Παραμένει να δούμε πόσο σοβαρά λαμβάνουν αυτές οι τεχνολογικές εταιρείες την τεχνολογία και πόσο σοβαρά εξετάζουν τις πιθανές πτώσεις της AI στη λήψη αποφάσεων.

Υπάρχει κάτι άλλο που θα ήθελες να μοιραστείς για την δουλειά σου με το SmartNews;

Εντάχθηκα στο SmartNews γιατί πιστεύω στην αποστολή του, η αποστολή έχει μια ορισμένη αγνότητα. Πιστεύω ότι ο κόσμος γίνεται πιο πολωμένος, και δεν υπάρχει αρκετή ενημέρωση των μέσων ενημέρωσης σήμερα για να βοηθήσει να καταπολεμήσει αυτή τη τάση.

Δυστυχώς, υπάρχουν πολλά άτομα που λαμβάνουν μηνύματα WhatsApp ως ευαγγέλιο και πιστεύουν σε αυτά χωρίς να τα ελέγξουν. Αυτό μπορεί να οδηγήσει σε τεράστιες συνέπειες, συμπεριλαμβανομένων – και ιδιαίτερα – βίας. Αυτό όλα οφείλονται στο ότι οι άνθρωποι δεν κατανοούν τι μπορούν και τι δεν μπορούν να πιστέψουν. Εάν δεν εκπαιδεύσουμε τους ανθρώπους, ή εάν δεν τους ενημερώσουμε για το πώς να λαμβάνουν αποφάσεις για την αξιοπιστία του περιεχομένου που καταναλώνουν, θα συνεχίσουμε να προάγουμε το πρόβλημα και να αυξάνουμε τα ζητήματα που η ιστορία μας έχει διδάξει να μην κάνουμε.

Ένα από τα πιο σημαντικά μέρη της δουλειάς μου στο SmartNews είναι να βοηθήσω να μειώσω την πολωτικότητα στον κόσμο. Θέλω να εκπληρώσω την αποστολή του ιδρυτή να βελτιώσει την ενημέρωση των μέσων ενημέρωσης όπου μπορούν να κατανοήσουν τι καταναλώνουν και να λαμβάνουν ενημερωμένες γνώμες για τον κόσμο και τις πολλές διαφορετικές προοπτικές.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα ή θέλουν να δοκιμάσουν ένα διαφορετικό είδος εφαρμογής ειδήσεων πρέπει να επισκεφθούν SmartNews.