Νατάσα Μοχάντι, Αντιπρόεδρος Μηχανικής στο Doppel – Σειρά Συνεντεύξεων

Νατάσα Μοχάντι, Αντιπρόεδρος Μηχανικής στο Doppel, είναι một έμπειρη ηγέτης τεχνολογίας με βαθιά εμπειρία σε AI, πληρωμές, μέσα ενημέρωσης και πλατφόρμες καταναλωτών. Πριν ενταχθεί στο Doppel, ηγούνταν της μηχανικής για το Optimized Checkout Suite και το Link της Stripe, αυξάνοντας τον οργανισμό από 30 σε 200 μηχανικούς ενώ βοηθούσε στην οδήγηση της μεγάλης υιοθέτησης των προϊόντων checkout και του καταναλωτικού πορτοφολιού της Stripe. Προηγουμένως, υπηρέτησε ως Αντιπρόεδρος Μηχανικής στη Nielsen μετά την απόκτηση της Prizma.ai, της εταιρείας ανάλυσης μέσων ενημέρωσης και βίντεο που βασίζεται σε AI, την οποία είχε ιδρύσει και ηγούνταν ως Διευθύνων Σύμβουλος. Νωρίτερα στην καριέρα της, πέρασε περισσότερα από επτά χρόνια στη Google (GOOGL ), εργαζόμενη σε πολλές περιοχές, όπως η Ποιότητα Αναζήτησης, τα Νέα της Google και η προσωποποίηση του Google+.

Doppel είναι μια εταιρεία αμυντικής μηχανικής κοινωνικών μέσων ενημέρωσης που βασίζεται σε AI, που επικεντρώνεται στην προστασία οργανισμών, εκτελεστών, εμπορικών σημάτων και πελατών από την απάτη, τη φішινγκ, την απάτη και τον ψηφιακό κίνδυνο που ενισχύεται από την AI. Η πλατφόρμα της συνδυάζει ψηφιακή προστασία κινδύνου, προστασία εκτελεστών και εμπορικών σημάτων, ασφάλεια email, διαχείριση ανθρώπινου κινδύνου, προσομοιώσεις και εκπαίδευση ευαισθητοποίησης ασφάλειας, χρησιμοποιώντας την AI και την ενημέρωση κινδύνου σε πραγματικό χρόνο για την ανίχνευση, συσχετίζοντας και διατάραξη της υποδομής επιθέσεων σε κανάλια όπως οι τομείς, τα κοινωνικά μέσα, οι εφαρμογές μηνυμάτων, οι διαφημίσεις και το dark web. Η εταιρεία έχει θέσει τον εαυτό της γύρω από την αυξανόμενη απειλή της κοινωνικής μηχανικής που ενισχύεται από την γεννητική AI, βοηθώντας τις ομάδες ασφαλείας να ανταποκριθούν σε επιθέσεις που γίνονται ολοένα και πιο σύνθετες σε σύγχρονο ψηφιακό τοπίο απειλών.

Έχετε ηγηθεί οργανισμών μηχανικής σε εταιρείες όπως η Stripe, η Google, η Nielsen και τώρα το Doppel. Πώς έχει εξελιχθεί η άποψή σας για το ρόλο του μηχανικού λογισμικού από τη γραφή συστημάτων απευθείας στο συντονισμό αυτονομικών ροών εργασίας που οδηγούνται από την AI;

Η ροή εργασίας του μηχανικού λογισμικού έχει αλλάξει δραματικά, αλλά η ευθύνη που απαιτείται από τους μηχανικούς δεν έχει αλλάξει. Όταν ξεκίνησα την καριέρα μου στη Google πριν από δύο δεκαετίες, οι μηχανικοί περνούσαν το μεγαλύτερο μέρος του χρόνου τους γράφοντας και αναθεωρώντας κώδικα από μόνοι τους. Σήμερα, η AI μπορεί να χειριστεί την πλειοψηφία της γεννήτριας κώδικα, αλλά οι μηχανικοί εξακολουθούν να ευθύνονται για τον ορισμό στόχων, την επικύρωση εξόδων, την καθοδήγηση, την αναθεώρηση κώδικα και την εγγύηση ότι τα συστήματα παραμένουν αξιόπιστα μακροπρόθεσμα. Σε πολλές περιπτώσεις, η AI έχει επεκτείνει το πεδίο ευθύνης μηχανικής αντί να το μειώσει.

Τι έχει εξελιχθεί είναι το πού οι μηχανικοί δημιουργούν αξία. Όσο η AI αναλαμβάνει περισσότερα από τα μηχανικά της κωδικοποίησης, ο ρόλος γίνεται ολοένα και περισσότερο κεντρικός στη γεύση και στο κρίσιμο, στην κατανόηση του προβλήματος, στη λήψη αρχιτεκτονικών αποφάσεων, στην αξιολόγηση συναλλαγών και στην εγγύηση ότι τα αποτελέσματα ευθυγραμμίζονται με τις ανάγκες των χρηστών και της επιχείρησης. Οι καλύτεροι μηχανικοί κάνουν περισσότερα από το να γράφουν απλά λογισμικό. Θα συντονίσουν συνολικά συστήματα ανθρώπων και AI, εφαρμόζοντας το контέκστ και την ευθύνη που ακόμη λείπουν από τις μηχανές. Είναι παρόμοιο με τη μετατόπιση από ατομικό συνεισφέροντα σε διευθυντή.

Έχετε υποστηρίξει ότι η AI δεν μειώνει την ευθύνη μηχανικής, αλλά την επεκτείνει. Ποίες είναι οι μεγαλύτερες παρανοήσεις που οι εκτελεστές εξακολουθούν να έχουν για το τι μπορούν να χειριστούν οι πράκτορες κωδικοποίησης AI χωρίς ανθρώπινη εποπτεία;

Η μεγαλύτερη παρανόηση είναι ότι η AI θα εξαφανίσει την ανάγκη για ισχυρούς μηχανικούς. Η πραγματικότητα είναι ότι η AI αυξάνει το όριο του τι μπορεί να χτιστεί από μια μικρή, ειδικευμένη ομάδα, το οποίο κάνει την κρίση μηχανικής πιο πολύτιμη, όχι λιγότερο.

Τι αλλάζει είναι η επιφάνεια που οι μηχανικοί είναι υπεύθυνοι. Δεν γράφουν πλέον μόνο κώδικα. Ορίζουν τι θα χτιστεί, επικυρώνουν ότι οι πράκτορες κάνουν αυτό που προορίζονται, και κατέχουν το αποτέλεσμα όταν δεν το κάνουν.

Αν κάτι, το χώρο προβλημάτων έχει γίνει πιο ελκυστικός. Οι επιτιθέμενοι έχουν πρόσβαση στα ίδια εργαλεία AI που έχουμε εμείς, το οποίο σημαίνει ότι η πρόκληση να μείνουμε μπροστά από αυτούς είναι πραγματικά πιο δύσκολη και πιο ενδιαφέρουσα από ό,τι έχει कभποτε. Δεν υπάρχει έλλειψη σκληρών προβλημάτων για λύση, και το Doppel προσλαμβάνει σε όλη την μηχανική για άτομα που ενθουσιάζονται από αυτό το είδος εργασίας.

Όσο οι ομάδες μηχανικής αρχίζουν να συντονίζουν πολλαπλούς πράκτορες AI σε κωδικοποίηση, δοκιμή, αποσφαλμάτωση και τεκμηρίωση, τι μοιάζει μια αποτελεσματική “διαχείριση πρακτόρων” σε πρακτική;

Οι μηχανικοί λειτουργούν ολοένα και περισσότερο ως διαχειριστές αυτονομικών συστημάτων, όχι μόνο ως συνεισφέροντες σε αυτά. Οι καλύτεροι μηχανικοί μπορούν να κρατήσουν σημαντικό контέκστ σε πολλαπλά παράλληλα ροές εργασίας ενώ γνωρίζουν ακριβώς ποιο контέκστ να μοιράζονται με κάθε πράκτορα. Σε πρακτική, αυτό σημαίνει γράφοντας καλά καθορισμένα κριτήρια αποδοχής, ορίζοντας σαφείς φράχτες για την ιδιωτικότητα και την ασφάλεια, και ζητώντας από τους πράκτορες να εξηγήσουν το λόγο και τις υποθέσεις τους ως βήμα επικύρωσης. Αν ένας πράκτορας δεν μπορεί να артиκουλάρει τι κάνει και γιατί, δεν μπορείτε να εμπιστευτείτε πλήρως την έξοδο.

Στο Doppel, χτίζουμε συστήματα που ερευνώνται απειλές, συνεχώς προσαρμόζουν πολιτικές ανίχνευσης, και εξηγούν τις αποφάσεις τους σε απλή γλώσσα. Η αποτελεσματική διαχείριση πρακτόρων απαιτεί επίσης υποδομή συστήματος, συμπεριλαμβανομένων περιβαλλόντων στάθμης, αυτοματοποιημένων αγωγών δοκιμών, εργαλείων ασφαλείας με καθορισμένες άδειες και εποπτεία, και πλαισίων αξιολόγησης που συνεχώς αξιολογούν εάν οι πράκτορες και το ευρύτερο σύστημα λειτουργούν όπως αναμενόταν.

Ποίες είναι οι μεγαλύτερες επιχειρησιακές ή ασφαλιστικές απειλές που προκύπτουν όταν οι πράκτορες AI έχουν πρόσβαση σε εσωτερικά εργαλεία, συστήματα παραγωγής ή ευαίσθητες ροές εργασίας χωρίς ισχυρούς φράχτες;

Ο κίνδυνος δεν είναι μόνο ότι οι πράκτορες AI κάνουν λάθη. Είναι ότι μπορούν να τα κάνουν σε κλίμακα που είναι δύσκολο να πιαστεί σε πραγματικό χρόνο. Η πιο συγκεκριμένη απειλή είναι οι πράκτορες που ενεργούν εκτός του προβλεπόμενου πεδίου τους, είτε αυτό σημαίνει πρόσβαση σε συστήματα που δεν προορίζονταν να αγγίξουν είτε να χειριστούν δεδομένα που δεν πρέπει να διατηρούν.

Στο προϊόν ασφαλείας email μας, για παράδειγμα, οι πράκτορες επεξεργάζονται δεδομένα που είναι εγγενώς ευαίσθητα. Έχουμε πάρει σημαντικά μέτρα για να διασφαλίσουμε ότι αυτοί οι πράκτορες έχουν αυστηρά περιορισμένη πρόσβαση, δεν μπορούν να εκθέσουν κατά λάθος ευαίσθητες προσωπικές πληροφορίες και δεν διατηρούν εμπιστευτικές πληροφορίες, ενώ εξακολουθούν να έχουν το контέκστ που χρειάζονται για να λάβουν τη σωστή απόφαση.

Σε ποιο σημείο αρχίζει η βαθιά εξάρτηση από τον κώδικα AI να εισάγει μακροπρόθεσμο τεχνικό χρέος, και πώς πρέπει οι ηγέτες μηχανικής να σκέφτονται για την ισορροπία της ταχύτητας έναντι της διατηρησιμότητας;

Ο κίνδυνος είναι να προτεραιοποιήσετε τη βραχυπρόθεσμη ταχύτητα έναντι των θεμελίων που επιτρέπουν στα συστήματα να κλιμακωθούν και να εξελιχθούν. Ένα από τα μεγαλύτερα μαθήματα από την εποχή μου στη Stripe ήταν ότι όχι όλες οι αποφάσεις είναι ίσες. Ορισμένες είναι πορτές: δύσκολο να αναστραφούν και πιθανό να έχουν μακροπρόθεσμες συνέπειες, ενώ άλλες μπορούν να αλλάξουν πιο εύκολα.

Με την AI, η πειθαρχία είναι να γνωρίζετε ποιες αποφάσεις εξακολουθούν να φέρουν μακροπρόθεσμες συνέπειες, να τοποθετήσετε ισχυρότερους φράχτες γύρω από αυτές, και να κινηθείτε γρήγορα στις υπόλοιπες. Στο Doppel, αυτό σημαίνει να χρησιμοποιείτε συστήματα αξιολόγησης και τρέχουσα τεκμηρίωση για να διασφαλίσετε ότι οι πράκτορες συνεχίζουν να λειτουργούν όπως προορίζονταν καθώς τα συστήματα εξελίσσονται. Ο στόχος δεν είναι να επιβραδύνετε, αλλά να βεβαιωθείτε ότι η ταχύτητα δεν υπονομεύει ήσυχα τα θεμέλια που χτίζετε.

Κατά τη διάρκεια της εποχής σας στην κλιμάκωση οργανισμών μηχανικής στη Stripe, ποίες μαθήματα για την αξιοπιστία, την εμπιστοσύνη και το σχεδιασμό συστημάτων τώρα φαίνονται ιδιαίτερα σχετικά στην εποχή των αυτονομικών πρακτόρων AI;

Στη Stripe, η αξιοπιστία ήταν τα πάντα, ιδιαίτερα επειδή η βιομηχανία χρηματοοικονομικών είναι τόσο ρυθμιζόμενη και θα ήταν καταστροφικό για τις επιχειρήσεις αν τα πορτάλ πληρωμών τους κατέβαιναν. Αν ένα σύστημα δεν λειτουργούσε όπως προορίζονταν, υπήρχε άμεση επίδραση στους πελάτες, και αυτό δημιούργησε μια ισχυρή κουλτούρα ιδιοκτησίας και ευθύνης στην εταιρεία.

Ένα από τα πράγματα που με έ drew στο Doppel ήταν ένα παρόμοιο επίπεδο εμμονής με τον πελάτη. Οι ομάδες εδώ είναι βαθιά εστιασμένες στην κατανόηση των προκλήσεων που αντιμετωπίζουν οι πελάτες και στην ανάληψη της ευθύνης για την επίλυση τους.

Τώρα που είμαι στο Doppel, αυτά τα μαθήματα φαίνονται ιδιαίτερα σχετικά. Χτίζουμε συστήματα AI-γενικής για να βοηθήσουμε τους οργανισμούς να αμυνθούν ενάντια σε ολοένα και πιο σύνθετες κοινωνικές επιθέσεις μηχανικής. Και παρόμοια με τη Stripe, όπου δεν μπορείτε να μείνετε πίσω από τους επιτιθέμενους, είναι καταστροφικό για τις επιχειρήσεις να μην έχουν μια ισχυρή στάση ασφαλείας. Και οι δύο είναι πολύ υψηλές اپیشες, αλλά για διαφορετικούς λόγους.

Πώς περιμένετε ότι η προσλήψη μηχανικής θα αλλάξει τα επόμενα χρόνια καθώς οι εταιρείες αυξάνουν την προτεραιότητα της ικανότητας AI, της σκέψης συστημάτων και της προσαρμογής έναντι στενότερης τεχνικής εξειδίκευσης;

Νομίζω ότι θα δούμε μια αυξανόμενη έμφαση στην προσλήψη μηχανικών που μπορούν να λειτουργούν με αυτονομία, ισχυρή κρίση και ικανότητα να μαθαίνουν γρήγορα. Αυτά τα χαρακτηριστικά τα έχω πάντα προσλάβει, αλλά έχουν μεγαλύτερη σημασία τώρα, όχι λιγότερη. καθ’ όλη τη διάρκεια της καριέρας μου, οι μηχανικοί που είχαν την μεγαλύτερη επίδραση δεν ήταν απαραίτητα αυτοί με την στενότερη εξειδίκευση. Ήταν αυτοί που μπορούσαν να προσαρμοστούν γρήγορα, να πλοηγηθούν στην αβεβαιότητα και να συνεχίσουν να μαθαίνουν καθώς η τεχνολογία εξελισσόταν.

Αλλά η μπαριέρα έχει μετατοπιστεί. Στο Doppel, τα προβλήματα που λύνουμε δεν είναι καθορισμένα. Εργαζόμαστε συνεχώς για να μείνουμε μπροστά από τους επιτιθέμενους που επίσης χρησιμοποιούν την AI, το οποίο σημαίνει να χτίζουμε συστήματα όπως πράκτορες ευρεσιτεχνίας που προωθούν το web για την ανακάλυψη απειλών. Δεν υπάρχει καθορισμένο βιβλίο για αυτό το είδος εργασίας, οπότε απαιτεί γρήγορη και μια θέληση να πιέσει τα όρια του τι είναι δυνατό.

Η AI θα συνεχίσει να αλλάζει τον τρόπο που γίνεται η δουλειά, αλλά οι εταιρείες θα χρειαστούν ακόμη ανθρώπους που μπορούν να εργαστούν σε συστήματα και να πάρουν την ευθύνη για τον πλήρη κύκλο ζωής του τι χτίζουν. Οι μηχανικοί που θα ευδοκιμήσουν θα είναι αυτοί που συνεχώς ανακαινίζουν τι είναι ικανοί να κάνουν καθώς το τοπίο AI εξελίσσεται γύρω από αυτούς.

Έχετε εργαστεί εκτενώς σε προσωποποίηση, συστήματα σύστασης και πλατφόρμες που βασίζονται σε μηχανική μάθηση καθ’ όλη τη διάρκεια της καριέρας σας. Πώς αυτή η εμπειρία διαμορφώνει τον τρόπο που σκέφτεστε για τη συνεργασία ανθρώπων και AI μέσα στις οργανώσεις μηχανικής σήμερα;

Ένα πράγμα που έμαθα από την εργασία σε προσωποποίηση και συστήματα μηχανικής μάθησης είναι ότι η ποιότητα της έξοδου είναι μόνο τόσο καλή όσο η ποιότητα των εισόδων, συμπεριλαμβανομένων των δεδομένων εκπαίδευσης, των πλαισίων αξιολόγησης και μιας σαφούς ορισμού του τι “καλό” σημαίνει πραγματικά. Τα μοντέλα είναι υπέροχα στο να επεξεργάζονται πληροφορίες σε κλίμακα, αλλά οι άνθρωποι φέρνουν κρίση, контέκστ και κατανόηση του τι έχει μεγαλύτερη σημασία.

Νομίζω ότι το ίδιο αρχή εφαρμόζεται στις οργανώσεις μηχανικής που λειτουργούν σήμερα. Η AI μπορεί να βοηθήσει τις ομάδες να κινηθούν γρήγορα, αλλά οι καλύτερες ομάδες θα είναι προσεκτικές σχετικά με το контέκστ και την αλήθεια που δίνουν στην AI, καθώς και με τον τρόπο που τα συστήματα AI ενσωματώνουν στο ευρύτερο οικοσύστημα μηχανικής. Οι μηχανικοί εξακολουθούν να πρέπει να λάβουν αποφάσεις, να αξιολογήσουν συναλλαγές και τελικά να κατέχουν το αποτέλεσμα.

Πολυάριθμες εταιρείες αγωνίζονται να μεγιστοποιήσουν την παραγωγικότητα των dévelopερ με εργαλεία AI. Νομίζετε ότι το ανταγωνιστικό πλεονέκτημα θα έρθει最終 από την ταχύτερη κωδικοποίηση ή από την κατασκευή οργανισμών που γνωρίζουν πώς να κυβερνούν και να συντονίζουν συστήματα AI αποτελεσματικά;

Η ταχύτητα έχει σημασία, ιδιαίτερα στην κυβερνοασφάλεια, όπου το να μείνεις πίσω από τους επιτιθέμενους δεν είναι μια επιλογή. Αλλά η ταχύτητα χωρίς φράχτες είναι απλά ένας ταχύτερος τρόπος να δημιουργήσετε εκμεταλλεύσιμες διακοπές. Η κυβέρνηση των συστημάτων AI πρέπει να είναι η βάση για κάθε εταιρεία που χτίζει με την AI, όχι μια μετάνοια. Είναι απαραίτητο να διασφαλίσετε την ποιότητα, την αξιοπιστία και την ευθύνη στις ροές εργασίας μηχανικής. Στην βιομηχανία κυβερνοασφάλειας, ειδικά, η κυβέρνηση είναι απαραίτητη επειδή οι επιτιθέμενοι θα βρουν και θα εκμεταλλευτούν οποιαδήποτε διακοπή που αφήσετε. Αυτός είναι ο λόγος που έχουμε χτίσει την πλατφόρμα μας στο Doppel, έχουμε οδηγήσει με φράχτες ιδιωτικότητας και một σαφής ιχνηλάτης που χτίστηκε από την αρχή.

Κοιτάζοντας μπροστά πέντε χρόνια, τι νομίζετε ότι θα μοιάζει η σύγχρονη ομάδα μηχανικής λογισμικού όταν οι πράκτορες AI γίνουν βαθιά ενσωματωμένοι στις καθημερινές ροές εργασίας ανάπτυξης;

Πέντε χρόνια είναι δύσκολο να προβλεφθεί με βεβαιότητα επειδή ο κόσμος κινείται τόσο γρήγορα. Τι μπορώ να πω με μεγαλύτερη βεβαιότητα είναι ότι μέσα στα επόμενα 18 μήνες έως τρία χρόνια, οι πράκτορες AI θα χειριστούν πιθανώς το μεγαλύτερο μέρος της γεννήτριας κώδικα, της δοκιμής και της πρώτης διόρθωσης.

Τι οι μηχανικοί θα κατέχουν είναι η κρίση προϊόντος: η προδιαγραφή, η γεύση, η αρχιτεκτονική και η ευθύνη όταν κάτι σπάσει. Οι ομάδες μπορεί να γίνουν μικρότερες, αλλά ο ρόλος θα γίνει πιο δύσκολος. Οι μηχανικοί που θα ευδοκιμήσουν δεν θα είναι απαραίτητα αυτοί που παράγουν τον περισσότερο κώδικα, αλλά αυτοί που μπορούν να κατευθύνουν, να αξιολογήσουν και να διορθώσουν αυτονομικά συστήματα αποτελεσματικά.

Έχοντας εργαστεί μέσα από προηγούμενες τεχνολογικές αλλαγές, ένα πράγμα που έχω μάθει είναι ότι η καινοτομία σπάνια ακολουθεί μια ευθεία γραμμή. Οι ομάδες που θα ευδοκιμήσουν θα είναι αυτές που θα μείνουν περιεργές, θα προσαρμοστούν γρήγορα και θα εξελίξουν τις ροές εργασίας τους καθώς η τεχνολογία αλλάζει.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν το Doppel.