Συνεντεύξεις
Κρις Νάγκελ, Διευθύνων Σύμβουλος της Sift – Σειρά Συνεντεύξεων

Βασικά σημείαΗ παραγωγική τεχνητή νοημοσύνη δημοκρατοποιεί την απάτη, καθιστώντας δυνατή τη…
Δείτε περισσότερα
- Η παραγωγική τεχνητή νοημοσύνη δημοκρατοποιεί την απάτη, καθιστώντας δυνατή τη δημιουργία πειστικών απατεωνιών σε πρωτοφανή κλίμακα και ταχύτητα.
- Η πλατφόρμα της Sift χρησιμοποιεί μηχανική μάθηση σε πραγματικό χρόνο για ένα τρισεκατομμύριο ετήσια συμβάντα, προκειμένου να σταματήσει την απάτη ενώ ταυτόχρονα μειώνει τις τριβές για τους χρήστες.
- Οι επιχειρήσεις πρέπει να υιοθετήσουν την προληπτική αντιμετώπιση απάτης με τεχνητή νοημοσύνη, καθώς οι ξεπερασμένες χειροκίνητες διαδικασίες δεν μπορούν να ανταγωνιστούν τις αυτοματοποιημένες εγκληματικές τακτικές.
Ο Κρις είναι ο Διευθύνων Σύμβουλος της Sift. Φέρνει περισσότερα από 30 χρόνια εμπειρίας σε ανώτερες ηγετικές θέσεις σε εταιρείες με χρηματοδότηση από κεφάλαια επιχειρηματικών κινδύνων και εισηγμένες εταιρείες SaaS, συμπεριλαμβανομένης της Ping Identity. Η Sift προσφέρει έναν τρόπο για τις επιχειρήσεις να τερματίσουν την απάτη πληρωμών, χτισμένο με μια μόνο, εύκολη στη χρήση κονσόλα, η λύση από άκρου σε άκρο της Sift εξαλείφει την ανάγκη για αποσυνδεδεμένα εργαλεία, λογισμικό με έναν μόνο σκοπό και ελλιπείς πληροφορίες που σπαταλούν πόρους λειτουργίας.
Στην προηγούμενη σας θέση ήσασταν διευθυντής λειτουργιών στην πλατφόρμα ασφάλειας ταυτότητας Ping Identity, όπου έπαιξατε έναν κρίσιμο ρόλο στην εισαγωγή της εταιρείας στο χρηματιστήριο το 2019, ποια ήταν κάποια από τα βασικά συμπεράσματα από αυτή την εμπειρία;
Η εισαγωγή μιας εταιρείας στο χρηματιστήριο είναι ένα μεγάλο εγχείρημα, και έμαθα πολλά μέσω της διαδικασίας. Η ανάπτυξη προϊόντων και η κλιμάκωση της εταιρείας και πριν και μετά από αυτό το ορόσημο με δίδαξαν τι χρειάζεται για να λυθούν σύνθετα οργανωτικά προβλήματα, να συνεχίσετε να καινοτομείτε και να ξανασχεδιάζετε την εμπειρία του χρήστη, και να μεγαλώσετε ομάδες, και να τις ενδυναμώσετε να κάνουν το καλύτερο έργο τους. Έχω μάθει καθ’ όλη τη διάρκεια της καριέρας μου ότι οποιαδήποτε επιτυχία σε οποιοδήποτε ρόλο πρέπει να αρχίσει με μια βαθιά κατανόηση των πελατών, συνεργατών, και των ανθρώπων στην ομάδα σας.
Εντάχθητε στη Sift ως Διευθύνων Σύμβουλος τον Ιανουάριο του 2023. Τι σας έκανε να προσεγγίσετε αυτή την καινούρια πρόκληση;
Η απάτη είναι ένα αυξανόμενο και εξελισσόμενο πρόβλημα, και το διακύβευμα είναι σαφές. Η παγκόσμια απώλεια απάτης ηλεκτρονικού εμπορίου εκτιμάται ότι θα φτάσει $48 δισεκατομμύρια μέχρι το τέλος του 2023 (αύξηση 16% σε σχέση με το 2022), και οι επιχειρήσεις σε όλο τον κόσμο δαπάνησαν κατά μέσο όρο το 10% των εσόδων τους για τη διαχείριση της απάτης. Αλλά αν μια εταιρεία δεν διαχειριστεί αποτελεσματικά την απάτη, μπορεί να χάσει έσοδα εξαιρώντας ή «προσβάλλοντας» νόμιμους πελάτες.
Η Sift έχει το πλεονέκτημα του πρωτοπόρου στην επίλυση αυτού του προβλήματος με τη χρήση της μηχανικής μάθησης, και η βασική της τεχνολογία και το παγκόσμιο δίκτυο δεδομένων την έχουν διαφοροποιήσει στον χώρο της πρόληψης της απάτης. Περισσότερα από 34.000 ιστοτόπους και εφαρμογές, συμπεριλαμβανομένων των Twitter, DoorDash (DASH ), Poshmark, και Uphold, βασίζονται στη Sift. Αυτή η διαφοροποίηση, μαζί με την ισχυρή εστίαση στις μακροχρόνιες συνεργασίες πελατών, έκανε την απόφασή μου να ενταχθώ μια εύκολη.
Γιατί η παραγωγική τεχνητή νοημοσύνη είναι τόσο μεγάλη απειλή ασφαλείας για τις επιχειρήσεις και τους καταναλωτές;
Η παραγωγική τεχνητή νοημοσύνη δείχνει πρώιμα σημάδια ως ένας game changer για τους απατεώνες. Οι απάτες στο παρελθόν ήταν γεμάτες με λάθη γραμματικής και ορθογραφίας, οπότε ήταν πιο εύκολο να τις ξεχωρίσουμε. Με τη παραγωγική τεχνητή νοημοσύνη, οι κακόβουλοι δράστες μπορούν να μιμούνται πιο αποτελεσματικά τις νόμιμες εταιρείες και να εξαπατούν τους καταναλωτές να παρέχουν ευαίσθητες πληροφορίες σύνδεσης ή οικονομικών λεπτομερειών μέσω προσπαθειών phishing.
Οι πλατφόρμες παραγωγικής AI μπορούν ακόμη να προτείνουν παραλλαγές κειμένου που επιτρέπουν σε έναν απατεώνα να δημιουργήσει πολλούς διακριτούς λογαριασμούς στην ίδια πλατφόρμα. Για παράδειγμα, μπορούν να δημιουργήσουν 100 πλαστά προφίλ γνωριμιών για ρομαντικές απάτες με κρυπτονομίσματα, καθένα με διαφορετικό πρόσωπο και βιογραφικό παραγόμενο από AI. Έτσι, η απάτη γίνεται προσιτή σε οποιονδήποτε, ανεξάρτητα από τεχνικές γνώσεις, χρησιμοποιεί κλεμμένα διαπιστευτήρια ή στοιχεία πληρωμών.
Η Sift δημοσίευσε πρόσφατα μια αναφορά με τίτλο: «Amid AI Renaissance, Consumers and Businesses Inundated with Fraud», ποια ήταν κάποια από τα μεγαλύτερα εκπλήξεις για σας σε αυτή την αναφορά;
Γνωρίζαμε ότι η τεχνητή νοημοσύνη και η αυτοματοποίηση θα άλλαζαν το τοπίο της απάτης, αλλά η ταχύτητα και ο όγκος αυτής της μεταβολής είναι πραγματικά αξιοσημείωτοι. Περισσότεροι από τους δύο τρίτους (68%) των καταναλωτών στις Ηνωμένες Πολιτείες έχουν αναφέρει αύξηση των spam και απάτων από τον Νοέμβριο, περίπου την ίδια περίοδο που τα εργαλεία παραγωγικής τεχνητής νοημοσύνης άρχισαν να κερδίζουν υιοθεσία, και πιστεύουμε ότι αυτές οι δύο τάσεις είναι ισχυρά συσχετισμένες. Επίσης, έχουμε παρατηρήσει μια έξαρση επιθέσεων κατάκτησης λογαριασμών (ATO), με το ποσοστό των επιθέσεων ATO να αυξάνεται κατά 427% κατά το πρώτο τρίμηνο του 2023 σε σύγκριση με όλο το 2022. Είναι σαφές ότι αυτά τα γεγονότα είναι συσχετισμένα, καθώς η παραγωγική τεχνητή νοημοσύνη επιτρέπει στους απατεώνες να δημιουργούν πιο πειστικές και κλιμακωτές απάτες, οδηγώντας σε μια έξαρση επιθέσεων ATO.
Η έκθεση δείχνει επίσης την εξέλιξη της «απάτης ως υπηρεσίας». Ανοιχτά φόρουμ, όπως εκείνα στο Telegram, μειώνουν τα εμπόδια εισόδου για όποιον θέλει να διαπράξει διάφορες μορφές κατάχρησης. Η ομάδα μας έχει δει να πολλαπλασιάζονται ομάδες που προσφέρουν επιθέσεις bot ως υπηρεσία. Αναδείξαμε εργαλείο που εξαπατά καταναλωτές ώστε να δώσουν κωδικούς μίας χρήσης για τους χρηματοοικονομικούς λογαριασμούς τους. Αυτά τα εργαλεία διατίθενται εύκολα σε άλλους έναντι σχετικά μικρού ποσού.
Μπορείτε να συζητήσετε τι είναι το “Πλαίσιο Ψηφιακής Εμπιστοσύνης και Ασφάλειας της Sift”;
Με τη Sift, οι εταιρείες μπορούν να χτίσουν και να αναπτύξουν με εμπιστοσύνη γνωρίζοντας ότι έχουν τα εργαλεία για να προστατεύσουν τις επιχειρήσεις τους από την απάτη. Είναι η εξαγωγή των κακόβουλων δραστών ενώ εξακολουθεί να δίνουν στους πελάτες μια ομαλή εμπειρία – μειώνοντας την τριβή και αυξάνοντας τα έσοδα.
Ο στόχος μας είναι να βοηθήσουμε όλους να εμπιστεύονται το διαδίκτυο, και το πλαίσιο μας χρησιμοποιεί τη μηχανική μάθηση και ένα τεράστιο δίκτυο δεδομένων για να προστατεύσει τις επιχειρήσεις από διάφορους τύπους απάτης και κακόβουλης δραστηριότητας. Ήμασταν μια από τις πρώτες εταιρείες που εφαρμόσαμε τη μηχανική μάθηση στην απάτη στο διαδίκτυο, οπότε έχουμε συσσωρευθεί μια απίστευτη ποσότητα πληροφοριών που αντικατοπτρίζονται στα παγκόσμια μοντέλα μηχανικής μάθησης, τα οποία επεξεργάζονται πάνω από 1 τρισεκατομμύριο γεγονότα ανά έτος. Η ομορφιά του πλαισίου είναι ότι όσο περισσότεροι πελάτες έχουμε, τόσο πιο έξυπνα γίνονται τα μοντέλα μας, οπότε μπορούμε να βελτιστοποιούμε πάντα για να σταματήσουμε την απάτη ενώ μειώνουμε την τριβή για τους πραγματικούς χρήστες και πελάτες.
Στην πλατφόρμα, το Payment Protection προστατεύει από απάτες πληρωμών, το Account Defense αποτρέπει καταλήψεις λογαριασμών και το Content Integrity εμποδίζει τη δημοσίευση spam και απατών στο περιεχόμενο χρηστών. Το Dispute Management προστατεύει από αντιλογισμούς χρεώσεων και αδικαιολόγητες αμφισβητήσεις νόμιμων αγορών από πελάτες.
Πώς αυτό το πλαίσιο διαφοροποιείται από άλλα εργαλεία πρόληψης απάτης;
Δεν υπάρχει έλλειψη προμηθευτών πρόληψης απάτης στην αγορά, αλλά οι περισσότεροι ανήκουν σε δύο κατηγορίες: λύσεις σημείου ή απόφαση-ως-υπηρεσία. Οι λύσεις σημείου έχουν στενό πεδίο και σχεδιάζονται για να αντιμετωπίσουν μια μόνο περίπτωση, όπως η ανίχνευση bot. Οι λύσεις απόφασης-ως-υπηρεσία είναι πιο ολοκληρωμένες αλλά λείπουν πολλών ικανοτήτων διαχείρισης απάτης, και ενεργούν ως «μαύρο κουτί» σχετικά με τη λογική απόφασης.
Μας διακρίνει η αντιμετώπιση πολλών ειδών απάτης σε όλους τους κλάδους. Κατανοούμε πώς ένα πρόβλημα απάτης μεταφέρεται από έναν κλάδο σε άλλον. Σε μηχανές αποφάσεων, διαχείριση υποθέσεων, ενορχήστρωση, αναφορές και προσομοιώσεις, προτεραιότητά μας είναι ο έλεγχος από τον πελάτη. Κάθε εταιρεία μπορεί να τροποποιήσει τη λογική με δικούς της κανόνες και να προσαρμόσει προσομοιώσεις. Η διαφάνεια είναι βασική: η μηχανή εξηγεί στους αναλυτές γιατί μια συναλλαγή εγκρίθηκε, χρειάστηκε πρόσθετη επαλήθευση ή απορρίφθηκε. Οι αναφορές επιτρέπουν τη μέτρηση της απόδοσης του μοντέλου και την αξιολόγηση της ανάγκης προσαρμογής.
Μπορείτε να συζητήσετε τι είναι το “Sift Score”, και πώς επιτρέπει τη συνεχής αυτοβελτίωση της μηχανικής μάθησης που χρησιμοποιείται;
Οι πελάτες της Sift χρησιμοποιούν τους αλγόριθμους μηχανικής μάθησης για να ανιχνεύσουν μοτίβα απάτης και να προληψουν επιθέσεις σε έναν ιστοτόπο ή εφαρμογή. Το Sift Score είναι ένας αριθμός, από 0-100, που δίνεται από τον αλγόριθμο σε κάθε γεγονός (ή δραστηριότητα) για να δείξει την πιθανότητα ότι η συμπεριφορά είναι απάτη.
Κάθε προϊόν υποστηρίζεται από δικά του μοντέλα, ενώ προσφέρουμε και αλγορίθμους προσαρμοσμένους στον πελάτη. Τα σήματα απάτης διαφέρουν, για παράδειγμα, μεταξύ ασφαλίσεων, ευπαθών τροφίμων και ρούχων. Κάθε εξατομικευμένο μοντέλο επεξεργάζεται χιλιάδες σήματα του παγκόσμιου δικτύου μας, όπως ώρα ημέρας, χαρακτηριστικά email και πλήθος προσπαθειών σύνδεσης. Ο συνδυασμός τους δίνει βαθμολογία για γεγονότα όπως μια σύνδεση ή συναλλαγή. Οι βαθμολογίες δεν κοινοποιούνται μεταξύ πελατών, επειδή κάθε πελάτης έχει διαφορετικό μοντέλο.
Μια ενδιαφέρουσα εφαρμογή που αναπτύσσεται στη Sift για να καταπολεμήσει τις απάτες και το spam είναι το Text Clustering, τι είναι αυτό συγκεκριμένα;
Το spam κείμενο πλήττει τις online πλατφόρμες, και οι spammers συχνά δημοσιεύουν το ίδιο ή πολύ παρόμοιο περιεχόμενο επανειλημμένα. Χτίσαμε τη λειτουργία Text Clustering ως μέρος της Content Integrity για να κάνουμε πιο εύκολη την αναγνώριση αυτού του τύπου κειμένου και να το ομαδοποιήσουμε μαζί ώστε ένας αναλυτής να μπορεί να αποφασίσει αν θα λάβει μαζική δράση. Η πρόκληση είναι ότι όχι όλο το επαναλαμβανόμενο κείμενο είναι spam. Για παράδειγμα, ένας πωλητής ηλεκτρονικού εμπορίου μπορεί να καταχωρήσει το ίδιο προϊόν και περιγραφή σε πολλές ιστοσελίδες.
Χρειαζόμασταν τρόπο επισήμανσης των νέων ειδών απάτης περιεχομένου που θέλαμε να εντοπίσουμε, αφήνοντας την τελική ενέργεια στον αναλυτή. Ο συνδυασμός νευρωνικών δικτύων και μηχανικής μάθησης επιτρέπει στο Text Clustering να ομαδοποιεί παρόμοιο κείμενο ακόμη και με μικρές παραλλαγές. Το περιεχόμενο επισημαίνεται μαζί και, αν είναι πράγματι spam, ο αναλυτής μπορεί να το διαγράψει μαζικά.
Πώς μπορούν οι επιχειρήσεις να προστατεύσουν καλύτερα τον εαυτό τους από επιθέσεις αντιπάλων ή άλλους τύπους κακόβουλης δραστηριότητας που διεξάγονται από τη παραγωγική τεχνητή νοημοσύνη;
Περισσότεροι από τους μισούς καταναλωτές (54%) πιστεύουν ότι δεν πρέπει να θεωρούνται υπεύθυνοι σε περίπτωση που παρείχαν ακούσια τις πληροφορίες πληρωμής τους σε έναν απατεώνα που τις χρησιμοποιούσε για να κάνει μια απάτη αγορά. Σχεδόν ένα τέταρτο (24%) πιστεύει ότι η επιχείρηση όπου πραγματοποιήθηκε η αγορά πρέπει να θεωρείται υπεύθυνη. Αυτό σημαίνει ότι η ευθύνη για την πρόληψη της απάτης βαρύνει τις πλατφόρμες και τις υπηρεσίες στις οποίες οι καταναλωτές βασίζονται καθημερινά.
Βρισκόμαστε ακόμη στην αρχή της παραγωγικής AI και οι απειλές σε έξι μήνες θα διαφέρουν. Οι επιχειρήσεις πρέπει να χρησιμοποιούν τεχνολογίες όπως η μηχανική μάθηση για να σταματούν την απάτη πριν συμβεί. Η λειτουργία σε πραγματικό χρόνο είναι απαραίτητη για την κλίμακα, την ταχύτητα και την πολυπλοκότητα των απατών. Όσοι μένουν σε παλιές ή χειροκίνητες διαδικασίες θα υστερούν έναντι απατεώνων που ήδη αυτοματοποιούν. Οι εταιρείες που υιοθετούν αυτή την ολοκληρωμένη προσέγγιση πραγματικού χρόνου βελτιώνουν την ακρίβεια εντοπισμού κατά 40%, εντοπίζοντας και σταματώντας τους απατεώνες πριν βλάψουν επιχείρηση ή πελάτες.
Υπάρχει κάτι άλλο που θα ήθελε να μοιραστεί σχετικά με τη Sift;
Μια πρωτοβουλία που εφαρμόσαμε πρόσφατα για να προωθήσουμε αυτό το στόχο είναι η κοινότητα πελατών μας, Sifters. Είναι ανοιχτή σε όλους τους πελάτες της Sift, και ενεργεί ως γέφυρα μεταξύ των πελατών μας, των εσωτερικών εμπειρογνωμόνων και του ψηφιακού δικτύου εμπόρων και δεδομένων. Υπήρξε ένας πολύτιμος κόμβος για τη συλλογή πληροφοριών και την αντιμετώπιση προκλήσεων σε διάφορες αγορές στην πρόληψη της απάτης. Και βλέπουμε μια τεράστια υιοθεσία. Η δημιουργία μιας κοινότητας για τους μαχητές απάτης είναι απολύτως απαραίτητη διότι οι απατεώνες έχουν τις δικές τους κοινότητες όπου συνεργάζονται για να βλάψουν τις επιχειρήσεις και τους καταναλωτές. Όπως λέμε, χρειάζεται ένα δίκτυο για να καταπολεμήσουμε ένα δίκτυο.












