Aarti Samani, Ιδρυτής και Διευθύνων Σύμβουλος της Shreem Growth Partners – Σειρά Συνεντεύξεων

Aarti Samani, Ιδρυτής και Διευθύνων Σύμβουλος της Shreem Growth Partners, είναι ένας ηγέτης της τεχνολογίας και στρατηγικός σύμβουλος για την τεχνητή νοημοσύνη με πάνω από δύο δεκαετίες εμπειρίας στην οδήγηση της ανάπτυξης σε τεχνητή νοημοσύνη, ψηφιακή ταυτότητα και βιομετρική ασφάλεια. Έχει κατέχει υψηλές θέσεις στην iProov και την Digital Surgery (η οποία εξαγοράστηκε από την Medtronic), οδηγώντας τις παγκόσμιες στρατηγικές προϊόντων και μάρκετινγκ και εξασφαλίζοντας σημαντικές χρηματοδοτικές γύρους. Ως συχνός σχολιαστής του BBC και ομιλητής σε παγκόσμια συνέδρια, συμπεριλαμβανομένων των Money 20/20 και CogX Festival, συμβουλεύει διοικητικά συμβούλια και εκτελεστές για την ηθική, τη διακυβέρνηση και τον κίνδυνο της τεχνητής νοημοσύνης, βοηθώντας τις οργανώσεις να οικοδομήσουν εμπιστοσύνη και ανθεκτικότητα στην εποχή της τεχνητής νοημοσύνης.

Η Shreem Growth Partners βοηθά τις οργανώσεις να προστατεύονται από την απάτη των deepfake και την απάτη που οδηγείται από την τεχνητή νοημοσύνη, εστιάζοντας στην ανθρώπινη στρώση της άμυνας. Μέσω της προσαρμοσμένης εκπαίδευσης, των εκτελεστικών ενημερώσεων, των αξιολογήσεων ευπαθειών και των στρατηγικών συμβουλών, η εταιρεία εξοπλίζει τις ομάδες και τους ηγέτες να αναγνωρίζουν, να ανταποκρίνονται και να προλαμβάνουν τις προσπάθειες χειραγώγησης. Βελτιώνοντας την ευαισθητοποίηση, την προετοιμασία και την πολιτιστική ανθεκτικότητα, η Shreem ενδυναμώνει τις οργανώσεις να προστατεύουν την ταυτότητά τους, τη φήμη και την εργατική δύναμη ενάντια στις εξελισσόμενες απειλές της τεχνητής νοημοσύνης.

Ιδρύσατε την Shreem Growth Partners μετά από υψηλές θέσεις στην iProov, Medtronic Digital Surgery και άλλες εταιρείες που οδηγούνται από την τεχνητή νοημοσύνη. Τι σας ενέπνευσε να ιδρύσετε μια εταιρεία που ασχολείται ειδικά με την ανθεκτικότητα στην απάτη των deepfake;

Μετά την κυκλοφορία του ChatGPT στα τέλη του 2022, μαρτυρήσαμε μια έκρηξη εργαλείων μέσων που οδηγούνται από την τεχνητή νοημοσύνη και μπορούν να κλωνοποιούν φωνές και πρόσωπα σε λίγα λεπτά. Οι περισσότερες οργανώσεις τα είδαν ως δημιουργικούς επιταχυντές για το σχεδιασμό και το μάρκετινγκ. Αλλά οι εγκληματίες είδαν μια νέα ευκαιρία για πιο αποτελεσματική κοινωνική μηχανική.

Τα deepfake γρήγορα έγιναν το εργαλείο επιλογής για τους απάτες να χειραγωγήσουν τους ανθρώπους. Οι ομάδες ασφαλείας ανταποκρίθηκαν επενδύοντας σε τεχνολογία ανίχνευσης, ωστόσο η ανίχνευση μόνο δεν μπορεί να λύσει ένα πρόβλημα που έχει τις ρίζες του στην ανθρώπινη εμπιστοσύνη. Η ψυχολογία ήταν το τυφλό σημείο της βιομηχανίας.

Αυτή η εικόνα με οδήγησε να ιδρύσω την Shreem Growth Partners, μια εταιρεία που ασχολείται με την οικοδόμηση ανθεκτικότητας στην απάτη των deepfake μέσω της ευαισθητοποίησης, της προσομοίωσης και της γνωστικής ανθεκτικότητας. Η ενίσχυση της ικανότητας των ανθρώπων να σκέφτονται κριτικά και να αντισταθούν στην χειραγώγηση είναι το κλειδί για την μείωση αυτού του είδους απάτης.

Στην iProov, εργαστήκατε στην πρώτη γραμμή της βιομετρικής ταυτότητας και της επαλήθευσης. Πώς η εμπειρία σας αποκάλυψε την αυξανόμενη απειλή που τα deepfake θέτουν στα συστήματα αυθεντικοποίησης;

Ως Chief Product και Marketing Officer στην iProov, βοήθησα να φέρει την βιομετρική επαλήθευση προσώπου σε οργανώσεις που είναι ευαίσθητες στην ασφάλεια σε cả τον δημόσιο και τον ιδιωτικό τομέα. Αυτές οι οργανώσεις είναι συνεχείς στόχοι για τον οργανωμένο κυβερνοεγκλήμα. Οι αντίπαλες πλευρές είναι έξυπνες, καλά χρηματοδοτούμενες και εξοπλισμένες με τεχνολογία ακριβείας.

Αρχίσαμε να βλέπουμε προσπάθειες να παραβιάσουν τα βιομετρικά συστήματα χρησιμοποιώντας deepfake που κατασκευάζονται από κλεμμένες ταυτότητες. Επειδή η iProov λειτουργούσε ως eine cloud-βασισμένη διαχειριζόμενη υπηρεσία, μπορούσαμε να παρατηρήσουμε αυτές τις επιθέσεις σε πραγματικό χρόνο και να αναλύσουμε πώς κάθε ενημέρωση εξελισσόταν. Έγινε σαφές ότι οι εγκληματίες μάθαιναν γρηγορότερα από ό,τι η αγορά προσαρμοζόταν.

Αυτή η εμπειρία μου έδωσε μια εσωτερική άποψη στην εξέλιξη της απάτης που ενεργοποιείται από τα deepfake και μια βαθιά εκτίμηση για το πώς η δημιουργικότητα και η ψυχολογία οδηγούν τον κυβερνοεγκλήμα. Η ίδια κατανόηση του εγκληματικού μυαλού τώρα ενημερώνει το έργο μου στην ανθεκτικότητα στην απάτη των deepfake.

Τα deepfake χρησιμοποιούνται ολοένα και περισσότερο για την προσωποποίηση εκτελεστικών, την κλωνοποίηση φωνής και τις επιθέσεις κοινωνικής μηχανικής. Ποια σενάρια βλέπετε πιο συχνά στο πεδίο σήμερα;

Είναι πάντα πιο εύκολο να αποκτήσετε πρόσβαση μέσω κοινωνικής μηχανικής παρά να σπάσετε τα συστήματα ασφαλείας. Όσο οι άνθρωποι γίνονται πιο συνειδητοί για τις παραδοσιακές απάτες, οι εγκληματίες στρέφονται σε νέους τρόπους για να χειραγωγήσουν την εμπιστοσύνη.

Η τεχνολογία deepfake έχει γίνει το πιο ισχυρό εργαλείο κοινωνικής μηχανικής που έχουμε δει. Επιτρέπει στους δράστες να δημιουργούν σήματα εμπιστοσύνης υψηλής πιστότητας: πραγματικά πρόσωπα, φωνές και αφηγήσεις που παρακάμπτουν την ανθρώπινη κρίση.

Το εγκληματικό πλεονέκτημα δεν περιορίζεται στην προσωποποίηση εκτελεστικών ή τις πληρωμές. Ολοένα και περισσότερο, οι στόχοι είναι η πνευματική ιδιοκτησία, τα ευαίσθητα δεδομένα και τα διαπιστευτήρια πρόσβασης. Εκπαιδεύοντας τους πράκτορες της τεχνητής νοημοσύνης και δίνοντας τους κλωνοποιημένες φωνές, η απάτη μπορεί τώρα να εκτελεστεί σε κλίμακα, ταχύτητα και ακρίβεια που δεν μπορεί να ανταγωνιστεί aucun ανθρώπινος επιτιθέμενος. Αυτή είναι η απειλητική ορίζουσα που εισερχόμαστε.

Τι διακρίνει ένα πρόγραμμα ανθεκτικότητας στην απάτη των deepfake από την παραδοσιακή κυβερνοασφάλεια ή την εκπαίδευση κατά της απάτης;

Η εκπαίδευση κυβερνοασφάλειας όπως την γνωρίζουμε δημιουργήθηκε στις αρχές της δεκαετίας του 2000, όταν το διαδίκτυο και η εμπορική υπολογιστική ήταν ακόμη σε εξέλιξη. Από τότε, το περιεχόμενο έχει εξελιχθεί για να ανταποκριθεί στις ανάγκες συμμόρφωσης, με επίκεντρο τις πλατφόρμες LMS και την gamification για την εμπλοκή. Αλλά το τοπίο της απειλής μετακινήθηκε.

Σήμερα, η απάτη είναι έξυπνη, δημιουργική και ψυχολογικά σχεδιασμένη. Οι εγκληματίες χρησιμοποιούν την τεχνητή νοημοσύνη με την ίδια σοφία όπως η ακαδημία ή η επιχείρηση. Η εκπαίδευση πρέπει, επομένως, να πηγαίνει πέρα από τη συμμόρφωση και να εισέρχεται στην γνωστική σφαίρα.

Η εκπαίδευση ανθεκτικότητας στην απάτη των deepfake δεν μπορεί να μειωθεί στο αν κάποιος κάνει κλικ σε ένα σύνδεσμο. Πρέπει να διδάξει τους ανθρώπους να σκέφτονται κριτικά, να αμφισβητούν την αυθεντικότητα των προσώπων και των φωνών με τις οποίες αλληλεπιδρούν και να αναγνωρίζουν πώς εύκολα μπορεί να χειραγωγηθεί η αντίληψη.

Ισότιμη έμφαση πρέπει να τοποθετηθεί στην γνωστική ανθεκτικότητα. Οι ενισχυμένες эмоции, οι αποσπάσεις των νου και η συνεχής πολυ-εργασία всех αποδυναμώνουν την κριτική σκέψη. Η οικοδόμηση γνωστικής ανθεκτικότητας εκπαιδεύει τους υπαλλήλους να διατηρούν μια συναισθηματική ισορροπία και να παραμένουν αναλυτικοί και προσεκτικοί. Είναι ακριβώς η στάση που χρειάζεται για να αντισταθούν στην χειραγώγηση.

Η εταιρεία σας προσφέρει Αξιολογήσεις Ευπαθειών Deepfake και Πρακτικές Ασκήσεις. Μπορείτε να μας οδηγήσετε μέσα από μια από αυτές τις προσομοιώσεις και τι ενημερώσεις συνήθως κερδίζουν οι πελάτες;

Στις αξιολογήσεις ευπαθειών και τις πρακτικές ασκήσεις μας, αναπαράγουμε τους τελευταίους διανυσματικούς φορείς επιθέσεων που ενεργοποιούνται από τα deepfake, που προέρχονται από πραγματικά περιστατικά. Κοινά σενάρια περιλαμβάνουν einen ψευδή υποψήφιο για εργασία που χρησιμοποιεί μια κλωνοποιημένη ταυτότητα, ένα IT helpdesk που έχει παραβιαστεί για να επαναρυθμίσει τα διαπιστευτήρια πολλαπλής αυθεντικοποίησης, ή μια βίντεο κλήση με ένα πρόσωπο που δημιουργήθηκε από την τεχνητή νοημοσύνη που πείθει το προσωπικό να κατεβάσει κακόβουλο λογισμικό.

Αυτές οι προσομοιώσεις αποκαλύπτουν πώς οι άνθρωποι ανταποκρίνονται υπό πίεση και αποκαλύπτουν τυφλά σημεία στην επικοινωνία, τη διαδικασία και την ανταπόκριση σε περιστατικά. Οι εκτελεστές συχνά ανακαλύπτουν λείψανα εμπειρογνωμοσύνης και ασαφείς ιδιοκτησίες λήψης αποφάσεων. Τα αποτελέσματα οδηγούν συνήθως σε ένα βιώσιμο πρόγραμμα ανθεκτικότητας. Ένα που ενδυναμώνει τη γλωσσική ιδιοκτησία, τη διαδικασία και την αλλαγή της κουλτούρας και την ετοιμότητα κρίσεων σε όλη την οργάνωση.

Συχνά μιλάτε για ανθρωποκεντρική διαχείριση κινδύνου. Πώς μπορούν οι εταιρείες να ενδυναμώσουν τους ανθρώπους τους να ανιχνεύουν και να αντιστέκονται στην χειραγώγηση των deepfake αντί να βασίζονται αποκλειστικά σε τεχνικά εργαλεία;

Τα deepfake εκμεταλλεύονται το ίδιο νευρωνικό κύκλωμα που μας βοηθά να αξιολογήσουμε την εμπιστοσύνη και το συναίσθημα. Ο εγκέφαλός μας είναι προγραμματισμένος να προτιμάει οπτικά και ακουστικά σήματα, καθώς αυτά είναι οι πρώτες αισθήσεις που αναπτύσσουμε. Αλλά δεν έχουμε ακόμη εξελιχθεί να αμφισβητούμε αυτομάτως αυτά τα σήματα, οπότε πρέπει να μάθουμε και να ενισχύσουμε συνεχώς αυτή τη δεξιότητα.

Οι εταιρείες μπορούν να ενδυναμώσουν τους υπαλλήλους τους εκπαιδεύοντάς τους να αντιμετωπίζουν τις ψηφιακές αλληλεπιδράσεις με προσοχή και περιέργεια. Όταν είμαστε σε μια τηλεφωνική ή βίντεο κλήση, αλληλεπιδρούμε με ένα артеφакτ. Αυτό το артеφакτ μπορεί να είναι ένα πραγματικό πρόσωπο που προβάλλεται στην οθόνη ή μπορεί να είναι ένα τεχνητό. Δεν μπορούμε να καθορίσουμε αυτό οπτικά.

Η μόνη άμυνα είναι η ενεργός επαλήθευση: να ρωτήσετε τις σωστές ερωτήσεις, να ελέγξετε τις λεπτομέρειες και να παρατηρήσετε τις ασυνέπειες στην αφήγηση. Το νέο μάντρα πρέπει να είναι απλό — μηδενική εμπιστοσύνη, πάντα επαλήθευση.

Τα deepfake θολώνουν τα όρια μεταξύ της παραπληροφόρησης και της απάτης. Πώς μπορούν οι εκτελεστές να προετοιμαστούν για κρίσεις φήμης και λειτουργίας που προκαλούνται από περιστατικά συνθετικού μέσου;

Οι ηγετικές ομάδες πρέπει τώρα να αντιμετωπίζουν τα περιστατικά των deepfake ως einen βασικό επιχειρηματικό κίνδυνο, όχι ως einen υποθετικό. Κάθε εκτελεστής γύρω από το τραπέζι πρέπει να γνωρίζει το ρόλο του όταν ξεσπάει μια κρίση.

Όπως τα διοικητικά συμβούλια αναθεωρούν τους καταλόγους κινδύνων, πρέπει επίσης να αναθεωρούν τα σχέδια ανταπόκρισης σε περιστατικά και αυτά δεν μπορούν να είναι στατικά. Το τοπίο της απειλής εξελίσσεται πολύ γρήγορα. Τα σχέδια χρειάζονται να δοκιμαστούν και να ενημερωθούν τουλάχιστον δύο φορές το χρόνο, ιδανικά μετά από μια πρακτική άσκηση που προσομοιάζει ένα πραγματικό γεγονός.

Οι κρίσεις των deepfake σπάνια κάθονται ωραία μέσα σε μια λειτουργία. Απαιτούν συντονισμό μεταξύ επικοινωνιών, νομικών, ασφάλειας και HR. Οι οργανώσεις που ανταποκρίνονται καλύτερα είναι αυτές των οποίων οι ηγέτες έχουν πρόωρα συνεργαστεί πριν από μια πραγματική κρίση.

Υπάρχει επίσης ένας ψυχολογικός κόστος όταν οι υπάλληλοι ή οι εκτελεστές γίνονται στόχοι πειστικών deepfake. Ποια υποστήριξη ή πρωτόκολλα πρέπει να έχουν οι οργανώσεις για να αντιμετωπίσουν την ανθρώπινη επίδραση;

“Απάτη-ντροπή” πρέπει να αποφευχθεί σε mọi κόστος. Οι οργανώσεις πρέπει να οικοδομήσουν μια κουλτούρα ψυχολογικής ασφάλειας πολύ πριν από ένα περιστατικό. Όταν οι υπάλληλοι ή οι εκτελεστές γίνονται στόχοι των deepfake, η εμπειρία μπορεί να feels σαν μια επίθεση. Μια απώλεια ελέγχου над τη δική τους εικόνα, φωνή και ψηφιακή ταυτότητα.

Η απάντηση πρέπει να είναι και διαδικαστική και ανθρώπινη. Σαφείς πρωτόκολοι αναφοράς πρέπει να συνυπάρχουν με την υποστήριξη ψυχικής υγείας, τις εμπιστευτικές ανασκόπησεις και την πρόσβαση στην ψηφιακή δικογραφία, ώστε τα άτομα να κατανοούν τι συνέβη.

Οι ηγέτες ορίζουν τον τόνο. Όταν οι εκτελεστές μιλάνε ανοιχτά για τις προσπάθειες χειραγώγησης και την ανάκαμψη, αφαιρούν το στίγμα και ενθαρρύνουν την διαφάνεια. Αυτή η διαφάνεια είναι αυτό που μετατρέπει την ατομική ευπάθεια σε συλλογική ανθεκτικότητα.

Ως ιδρυτής μιας εταιρείας συμβούλων σε αυτόν τον χώρο, ποια είναι οι μεγαλύτερες ανησυχίες σας σχετικά με το πόσο γρήγορα εξελίσσεται η γεννητική τεχνητή νοημοσύνη — και πού βλέπετε την επόμενη κύμα των ικανοτήτων των deepfake να xuất現;

Η γεννητική τεχνητή νοημοσύνη εξελίσσεται με εξαιρετική ταχύτητα. Αυτό από μόνο του δεν είναι η ανησυχία. Ο πραγματικός κίνδυνος βρίσκεται στην ταχεία υιοθέτησή της και την προσκόλληση σε καθημερινές επιχειρηματικές λειτουργίες. Ο ρυθμός της διαχείρισης απειλών και της ευαισθητοποίησης απλά δεν έχει跟 रखτεί. Αυτή η διαφορά μεταξύ απειλής και ανθεκτικότητας είναι ακριβώς όπου οι απάτες ευδοκιμούν, με τα deepfake ως το πιο αποτελεσματικό τους εργαλείο.

Κάθε νέα καινοτομία γίνεται ένα άλλο επίπεδο για εκμετάλλευση. Τώρα, οι πράκτορες της τεχνητής νοημοσύνης αντιπροσωπεύουν einen αυξανόμενο κίνδυνο. Όταν συνδυαστούν με την τεχνολογία deepfake, μπορούν να εκτελέσουν απάτη σε κλίμακα, ταχύτητα και ακρίβεια που δεν μπορεί να ανταγωνιστεί aucun ανθρώπινος επιτιθέμενος.

Αντίθετα, ποια τεχνολογίες ή συνεργατικές προσπάθειες σας δίνουν αισιοδοξία ότι μπορούμε να παραμείνουμε μπροστά από την απάτη που οδηγείται από τα deepfake και την παραπληροφόρηση;

Το γεγονός ότι αυτή η συζήτηση συμβαίνει σε ένα σεβαστό έντυπο είναι από μόνο του ένα σημάδι προόδου. Δείχνει ότι οι καινοτόμοι, οι ρυθμιστές, τα μέσα ενημέρωσης και οι επιχειρήσεις όλες πλήττονται από την παραπληροφόρηση.

Αυτό που μου δίνει αισιοδοξία είναι η αυξανόμενη愿意 να συνεργαστούν. Η ανθεκτικότητα των deepfake δεν θα έρθει από ένα εργαλείο ή μια οργάνωση, αλλά από την κοινή νοημοσύνη. Μάθοντας να ανταλλάσσουμε πληροφορίες και να εκπαιδεύουμε την κοινότητα τόσο αποτελεσματικά όσο και οι εγκληματίες.

Εщё χρειάζεται να βελτιώσουμε πώς αυτή η συνεργασία συμβαίνει, αλλά η πρόθεση υπάρχει. Και αυτή η συλλογική πρόθεση είναι αυτό που θα αποκαταστήσει τελικά την εμπιστοσύνη.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Aarti Samani.