Νατάσα Μοχάντι, Αντιπρόεδρος Μηχανικής στο Doppel – Σειρά Συνεντεύξεων

Νατάσα Μοχάντι, Αντιπρόεδρος Μηχανικής στο Doppel, είναι một έμπειρη ηγέτης τεχνολογίας με βαθιά εμπειρία σε AI, πληρωμές, μέσα ενημέρωσης και πλατφόρμες καταναλωτών. Πριν ενταχθεί στο Doppel, ηγούνταν της μηχανικής για το Optimized Checkout Suite και το Link της Stripe, αυξάνοντας τον οργανισμό από 30 σε 200 μηχανικούς ενώ βοηθούσε στην οδήγηση της μεγάλης υιοθέτησης των προϊόντων checkout και του καταναλωτικού πορτοφολιού της Stripe. Προηγουμένως, υπηρέτησε ως Αντιπρόεδρος Μηχανικής στη Nielsen μετά την απόκτηση της Prizma.ai, της εταιρείας ανάλυσης μέσων ενημέρωσης και βίντεο που βασίζεται σε AI, την οποία είχε ιδρύσει και ηγούνταν ως Διευθύνων Σύμβουλος. Νωρίτερα στην καριέρα της, πέρασε περισσότερα από επτά χρόνια στη Google (GOOGL ), εργαζόμενη σε πολλές περιοχές, όπως η Ποιότητα Αναζήτησης, τα Νέα της Google και η προσωποποίηση του Google+.

Doppel είναι μια εταιρεία άμυνας απέναντι στην κοινωνική μηχανική, εγγενώς βασισμένη στην τεχνητή νοημοσύνη, που επικεντρώνεται στην προστασία οργανισμών, στελεχών, εμπορικών σημάτων και πελατών από την πλαστοπροσωπία, το ηλεκτρονικό ψάρεμα, την απάτη και τον ευρύτερο ψηφιακό κίνδυνο που ενισχύεται από την AI. Η πλατφόρμα της συνδυάζει ψηφιακή προστασία κινδύνου, προστασία εκτελεστών και εμπορικών σημάτων, ασφάλεια email, διαχείριση ανθρώπινου κινδύνου, προσομοιώσεις και εκπαίδευση ευαισθητοποίησης ασφάλειας, χρησιμοποιώντας την AI και την ενημέρωση κινδύνου σε πραγματικό χρόνο για τον εντοπισμό, τη συσχέτιση και τη διατάραξη της υποδομής επιθέσεων σε κανάλια όπως τα domains, τα μέσα κοινωνικής δικτύωσης, οι εφαρμογές μηνυμάτων, οι διαφημίσεις και το dark web. Η εταιρεία έχει θέσει τον εαυτό της γύρω από την αυξανόμενη απειλή της κοινωνικής μηχανικής που ενισχύεται από την παραγωγική τεχνητή νοημοσύνη, βοηθώντας τις ομάδες ασφαλείας να ανταποκριθούν σε επιθέσεις που γίνονται ολοένα και πιο σύνθετες στο σύγχρονο ψηφιακό τοπίο απειλών.

Έχετε ηγηθεί οργανισμών μηχανικής σε εταιρείες όπως η Stripe, η Google, η Nielsen και τώρα το Doppel. Πώς έχει εξελιχθεί η άποψή σας για το ρόλο του μηχανικού λογισμικού από τη γραφή συστημάτων απευθείας στο συντονισμό αυτονομικών ροών εργασίας που οδηγούνται από την AI;

Η ροή εργασίας του μηχανικού λογισμικού έχει αλλάξει δραματικά, αλλά η ευθύνη που απαιτείται από τους μηχανικούς δεν έχει αλλάξει. Όταν ξεκίνησα την καριέρα μου στη Google πριν από δύο δεκαετίες, οι μηχανικοί περνούσαν το μεγαλύτερο μέρος του χρόνου τους γράφοντας και αναθεωρώντας κώδικα από μόνοι τους. Σήμερα, η AI μπορεί να χειριστεί την πλειοψηφία της γεννήτριας κώδικα, αλλά οι μηχανικοί εξακολουθούν να ευθύνονται για τον ορισμό στόχων, την επικύρωση εξόδων, την καθοδήγηση, την αναθεώρηση κώδικα και την εγγύηση ότι τα συστήματα παραμένουν αξιόπιστα μακροπρόθεσμα. Σε πολλές περιπτώσεις, η AI έχει επεκτείνει το πεδίο ευθύνης μηχανικής αντί να το μειώσει.

Τι έχει εξελιχθεί είναι το πού οι μηχανικοί δημιουργούν αξία. Όσο η AI αναλαμβάνει περισσότερους από τους μηχανισμούς της συγγραφής κώδικα, ο ρόλος γίνεται ολοένα και περισσότερο επικεντρωμένος στην αισθητική και την κρίση, στην κατανόηση του προβλήματος, στη λήψη αρχιτεκτονικών αποφάσεων, στην αξιολόγηση συμβιβασμών και στην εγγύηση ότι τα αποτελέσματα ευθυγραμμίζονται με τις ανάγκες των χρηστών και της επιχείρησης. Οι καλύτεροι μηχανικοί κάνουν περισσότερα από το να γράφουν απλά λογισμικό. Θα συντονίζουν συνεκτικά συστήματα ανθρώπων και AI, παρέχοντας το πλαίσιο και τη λογοδοσία που ακόμη λείπουν από τις μηχανές. Είναι παρόμοιο με τη μετατόπιση από ατομικό συνεργάτη σε διευθυντή.

Έχετε υποστηρίξει ότι η AI δεν μειώνει την ευθύνη μηχανικής, αλλά την επεκτείνει. Ποίες είναι οι μεγαλύτερες παρανοήσεις που οι εκτελεστές εξακολουθούν να έχουν για το τι μπορούν να χειριστούν οι πράκτορες κωδικοποίησης AI χωρίς ανθρώπινη εποπτεία;

Η μεγαλύτερη παρανόηση είναι ότι η AI θα εξαφανίσει την ανάγκη για ισχυρούς μηχανικούς. Η πραγματικότητα είναι ότι η AI αυξάνει το όριο του τι μπορεί να χτιστεί από μια μικρή, ειδικευμένη ομάδα, το οποίο κάνει την κρίση μηχανικής πιο πολύτιμη, όχι λιγότερο.

Τι αλλάζει είναι η επιφάνεια που οι μηχανικοί είναι υπεύθυνοι. Δεν γράφουν πλέον μόνο κώδικα. Ορίζουν τι θα χτιστεί, επικυρώνουν ότι οι πράκτορες κάνουν αυτό που προορίζονται, και κατέχουν το αποτέλεσμα όταν δεν το κάνουν.

Αν μη τι άλλο, ο χώρος των προβλημάτων έχει γίνει πιο ελκυστικός. Οι επιτιθέμενοι έχουν πρόσβαση στα ίδια εργαλεία AI που έχουμε εμείς, γεγονός που σημαίνει ότι η πρόκληση να μείνουμε μπροστά από αυτούς είναι πραγματικά πιο δύσκολη και πιο ενδιαφέρουσα από ποτέ. Δεν υπάρχει έλλειψη σκληρών προβλημάτων για λύση, και το Doppel προσλαμβάνει σε όλη την μηχανική αναζητώντας ανθρώπους που ενθουσιάζονται από αυτό το είδος εργασίας.

Όσο οι ομάδες μηχανικής αρχίζουν να συντονίζουν πολλαπλούς πράκτορες AI σε κωδικοποίηση, δοκιμή, αποσφαλμάτωση και τεκμηρίωση, τι μοιάζει μια αποτελεσματική “διαχείριση πρακτόρων” σε πρακτική;

Οι μηχανικοί λειτουργούν ολοένα και περισσότερο ως διαχειριστές αυτόνομων συστημάτων, όχι μόνο ως συνεισφέροντες σε αυτά. Οι καλύτεροι μηχανικοί μπορούν να κρατήσουν σημαντικό πλαίσιο σε πολλές παράλληλες ροές εργασίας ενώ γνωρίζουν ακριβώς ποιο πλαίσιο να μοιράζονται με κάθε πράκτορα. Στην πράξη, αυτό σημαίνει τη σύνταξη καλά καθορισμένα κριτήρια αποδοχής, ορίζοντας σαφείς προστατευτικούς μηχανισμούς για την ιδιωτικότητα και την ασφάλεια, και ζητώντας από τους πράκτορες να εξηγούν το σκεπτικό και τις υποθέσεις τους ως βήμα επικύρωσης. Αν ένας πράκτορας δεν μπορεί να διατυπώσει τι κάνει και γιατί, δεν μπορείτε να εμπιστευτείτε πλήρως το αποτέλεσμα.

Στο Doppel, χτίζουμε συστήματα που ερευνώνται απειλές, συνεχώς προσαρμόζουν πολιτικές ανίχνευσης, και εξηγούν τις αποφάσεις τους σε απλή γλώσσα. Η αποτελεσματική διαχείριση πρακτόρων απαιτεί επίσης υποδομή συστήματος, συμπεριλαμβανομένων περιβαλλόντων στάθμης, αυτοματοποιημένων αγωγών δοκιμών, εργαλείων ασφαλείας με καθορισμένες άδειες και εποπτεία, και πλαισίων αξιολόγησης που συνεχώς αξιολογούν εάν οι πράκτορες και το ευρύτερο σύστημα λειτουργούν όπως αναμενόταν.

Ποίες είναι οι μεγαλύτερες επιχειρησιακές ή ασφαλιστικές απειλές που προκύπτουν όταν οι πράκτορες AI έχουν πρόσβαση σε εσωτερικά εργαλεία, συστήματα παραγωγής ή ευαίσθητες ροές εργασίας χωρίς ισχυρούς φράχτες;

Ο κίνδυνος δεν είναι μόνο ότι οι πράκτορες AI κάνουν λάθη. Είναι ότι μπορούν να τα κάνουν σε κλίμακα που είναι δύσκολο να πιαστεί σε πραγματικό χρόνο. Η πιο συγκεκριμένη απειλή είναι οι πράκτορες που ενεργούν εκτός του προβλεπόμενου πεδίου τους, είτε αυτό σημαίνει πρόσβαση σε συστήματα που δεν προορίζονταν να αγγίξουν είτε να χειριστούν δεδομένα που δεν πρέπει να διατηρούν.

Στο προϊόν ασφαλείας email μας, για παράδειγμα, οι πράκτορες επεξεργάζονται δεδομένα που είναι εγγενώς ευαίσθητα. Έχουμε πάρει σημαντικά μέτρα για να διασφαλίσουμε ότι αυτοί οι πράκτορες έχουν αυστηρά περιορισμένη πρόσβαση, δεν μπορούν να εκθέσουν κατά λάθος ευαίσθητες προσωπικές πληροφορίες και δεν διατηρούν εμπιστευτικές πληροφορίες, ενώ εξακολουθούν να έχουν το πλαίσιο που χρειάζονται για να λάβουν τη σωστή απόφαση.

Σε ποιο σημείο αρχίζει η βαθιά εξάρτηση από τον κώδικα AI να εισάγει μακροπρόθεσμο τεχνικό χρέος, και πώς πρέπει οι ηγέτες μηχανικής να σκέφτονται για την ισορροπία της ταχύτητας έναντι της διατηρησιμότητας;

Ο κίνδυνος είναι να προτεραιοποιήσετε τη βραχυπρόθεσμη ταχύτητα έναντι των θεμελίων που επιτρέπουν στα συστήματα να κλιμακωθούν και να εξελιχθούν. Ένα από τα μεγαλύτερα μαθήματα από την εποχή μου στη Stripe ήταν ότι όχι όλες οι αποφάσεις είναι ίσες. Ορισμένες είναι πορτές: δύσκολο να αναστραφούν και πιθανό να έχουν μακροπρόθεσμες συνέπειες, ενώ άλλες μπορούν να αλλάξουν πιο εύκολα.

Με την AI, η πειθαρχία είναι να γνωρίζετε ποιες αποφάσεις εξακολουθούν να φέρουν μακροπρόθεσμες συνέπειες, να τοποθετήσετε ισχυρότερους φράχτες γύρω από αυτές, και να κινηθείτε γρήγορα στις υπόλοιπες. Στο Doppel, αυτό σημαίνει να χρησιμοποιείτε συστήματα αξιολόγησης και τρέχουσα τεκμηρίωση για να διασφαλίσετε ότι οι πράκτορες συνεχίζουν να λειτουργούν όπως προορίζονταν καθώς τα συστήματα εξελίσσονται. Ο στόχος δεν είναι να επιβραδύνετε, αλλά να βεβαιωθείτε ότι η ταχύτητα δεν υπονομεύει ήσυχα τα θεμέλια που χτίζετε.

Κατά τη διάρκεια της εποχής σας στην κλιμάκωση οργανισμών μηχανικής στη Stripe, ποίες μαθήματα για την αξιοπιστία, την εμπιστοσύνη και το σχεδιασμό συστημάτων τώρα φαίνονται ιδιαίτερα σχετικά στην εποχή των αυτονομικών πρακτόρων AI;

Στη Stripe, η αξιοπιστία ήταν τα πάντα, ιδιαίτερα επειδή η βιομηχανία χρηματοοικονομικών είναι τόσο ρυθμιζόμενη και θα ήταν καταστροφικό για τις επιχειρήσεις αν τα πορτάλ πληρωμών τους κατέβαιναν. Αν ένα σύστημα δεν λειτουργούσε όπως προορίζονταν, υπήρχε άμεση επίδραση στους πελάτες, και αυτό δημιούργησε μια ισχυρή κουλτούρα ιδιοκτησίας και ευθύνης στην εταιρεία.

Ένα από τα πράγματα που με έ drew στο Doppel ήταν ένα παρόμοιο επίπεδο εμμονής με τον πελάτη. Οι ομάδες εδώ είναι βαθιά εστιασμένες στην κατανόηση των προκλήσεων που αντιμετωπίζουν οι πελάτες και στην ανάληψη της ευθύνης για την επίλυση τους.

Τώρα που είμαι στο Doppel, αυτά τα μαθήματα φαίνονται ιδιαίτερα σχετικά. Χτίζουμε συστήματα εγγενώς βασισμένα στην τεχνητή νοημοσύνη για να βοηθήσουμε τους οργανισμούς να αμυνθούν ενάντια σε ολοένα και πιο σύνθετες επιθέσεις κοινωνικής μηχανικής. Και παρόμοια με τη Stripe, όπου δεν μπορείτε να μείνετε πίσω από τους επιτιθέμενους, είναι καταστροφικό για τις επιχειρήσεις να μην έχουν μια ισχυρή στάση ασφαλείας. Και οι δύο είναι καταστάσεις πολύ υψηλού διακυβεύματος, αλλά για διαφορετικούς λόγους.

Πώς περιμένετε ότι η προσλήψη μηχανικής θα αλλάξει τα επόμενα χρόνια καθώς οι εταιρείες αυξάνουν την προτεραιότητα της ικανότητας AI, της σκέψης συστημάτων και της προσαρμογής έναντι στενότερης τεχνικής εξειδίκευσης;

Νομίζω ότι θα δούμε μια αυξανόμενη έμφαση στην προσλήψη μηχανικών που μπορούν να λειτουργούν με αυτονομία, ισχυρή κρίση και ικανότητα να μαθαίνουν γρήγορα. Αυτά τα χαρακτηριστικά τα έχω πάντα προσλάβει, αλλά έχουν μεγαλύτερη σημασία τώρα, όχι λιγότερη. καθ’ όλη τη διάρκεια της καριέρας μου, οι μηχανικοί που είχαν την μεγαλύτερη επίδραση δεν ήταν απαραίτητα αυτοί με την στενότερη εξειδίκευση. Ήταν αυτοί που μπορούσαν να προσαρμοστούν γρήγορα, να πλοηγηθούν στην αβεβαιότητα και να συνεχίσουν να μαθαίνουν καθώς η τεχνολογία εξελισσόταν.

Αλλά η μπαριέρα έχει μετατοπιστεί. Στο Doppel, τα προβλήματα που λύνουμε δεν είναι καθορισμένα. Εργαζόμαστε συνεχώς για να μείνουμε μπροστά από τους επιτιθέμενους που επίσης χρησιμοποιούν την AI, γεγονός που σημαίνει να χτίζουμε συστήματα όπως πράκτορες ευρεσιτεχνίας που προωθούν το web για την ανακάλυψη απειλών. Δεν υπάρχει καθορισμένο βιβλίο για αυτό το είδος εργασίας, οπότε απαιτεί γρήγορη και μια θέληση να πιέσει τα όρια του τι είναι δυνατό.

Η AI θα συνεχίσει να αλλάζει τον τρόπο που γίνεται η δουλειά, αλλά οι εταιρείες θα χρειαστούν ακόμη ανθρώπους που μπορούν να εργαστούν σε συστήματα και να πάρουν την ευθύνη για τον πλήρη κύκλο ζωής του τι χτίζουν. Οι μηχανικοί που θα ευδοκιμήσουν θα είναι αυτοί που συνεχώς ανακαινίζουν τι είναι ικανοί να κάνουν καθώς το τοπίο AI εξελίσσεται γύρω από αυτούς.

Έχετε εργαστεί εκτενώς σε προσωποποίηση, συστήματα σύστασης και πλατφόρμες που βασίζονται σε μηχανική μάθηση καθ’ όλη τη διάρκεια της καριέρας σας. Πώς αυτή η εμπειρία διαμορφώνει τον τρόπο που σκέφτεστε για τη συνεργασία ανθρώπων και AI μέσα στις οργανώσεις μηχανικής σήμερα;

Ένα πράγμα που έμαθα από την εργασία σε προσωποποίηση και συστήματα μηχανικής μάθησης είναι ότι η ποιότητα του αποτελέσματος είναι μόνο τόσο καλή όσο η ποιότητα των εισόδων, συμπεριλαμβανομένων των δεδομένων εκπαίδευσης, των πλαισίων αξιολόγησης και ενός σαφούς ορισμού του τι “καλό” σημαίνει πραγματικά. Τα μοντέλα είναι υπέροχα στο να επεξεργάζονται πληροφορίες σε κλίμακα, αλλά οι άνθρωποι φέρνουν κρίση, πλαίσιο και κατανόηση του τι έχει μεγαλύτερη σημασία.

Νομίζω ότι η ίδια αρχή εφαρμόζεται στις οργανώσεις μηχανικής που λειτουργούν σήμερα. Η AI μπορεί να βοηθήσει τις ομάδες να κινηθούν γρήγορα, αλλά οι καλύτερες ομάδες θα είναι προσεκτικές ως προς το πλαίσιο και τα δεδομένα αναφοράς που δίνουν στην AI, καθώς και με τον τρόπο που ενσωματώνονται τα συστήματα τεχνητής νοημοσύνης στο ευρύτερο οικοσύστημα μηχανικής. Οι μηχανικοί εξακολουθούν να πρέπει να λάβουν αποφάσεις, να αξιολογούν συμβιβασμούς και τελικά να κατέχουν το αποτέλεσμα.

Πολυάριθμες εταιρείες αγωνίζονται να μεγιστοποιήσουν την παραγωγικότητα των προγραμματιστών με εργαλεία AI. Νομίζετε ότι το ανταγωνιστικό πλεονέκτημα θα προέλθει τελικά από την ταχύτερη κωδικοποίηση ή από την κατασκευή οργανισμών που γνωρίζουν πώς να κυβερνούν και να συντονίζουν συστήματα AI αποτελεσματικά;

Η ταχύτητα έχει σημασία, ιδιαίτερα στην κυβερνοασφάλεια, όπου το να μείνεις πίσω από τους επιτιθέμενους δεν είναι μια επιλογή. Αλλά η ταχύτητα χωρίς φράχτες είναι απλά ένας ταχύτερος τρόπος να δημιουργήσετε εκμεταλλεύσιμες διακοπές. Η κυβέρνηση των συστημάτων AI πρέπει να είναι η βάση για κάθε εταιρεία που χτίζει με την AI, όχι μια μετάνοια. Είναι απαραίτητο να διασφαλίσετε την ποιότητα, την αξιοπιστία και την ευθύνη στις ροές εργασίας μηχανικής. Στην βιομηχανία κυβερνοασφάλειας, ειδικά, η κυβέρνηση είναι απαραίτητη επειδή οι επιτιθέμενοι θα βρουν και θα εκμεταλλευτούν οποιαδήποτε διακοπή που αφήσετε. Αυτός είναι ο λόγος που έχουμε χτίσει την πλατφόρμα μας στο Doppel, έχουμε οδηγήσει με φράχτες ιδιωτικότητας και một σαφής ιχνηλάτης που χτίστηκε από την αρχή.

Κοιτάζοντας μπροστά πέντε χρόνια, τι νομίζετε ότι θα μοιάζει η σύγχρονη ομάδα μηχανικής λογισμικού όταν οι πράκτορες AI γίνουν βαθιά ενσωματωμένοι στις καθημερινές ροές εργασίας ανάπτυξης;

Πέντε χρόνια είναι δύσκολο να προβλεφθεί με βεβαιότητα επειδή ο κόσμος κινείται τόσο γρήγορα. Τι μπορώ να πω με μεγαλύτερη βεβαιότητα είναι ότι μέσα στα επόμενα 18 μήνες έως τρία χρόνια, οι πράκτορες AI θα χειριστούν πιθανώς το μεγαλύτερο μέρος της γεννήτριας κώδικα, της δοκιμής και της πρώτης διόρθωσης.

Τι οι μηχανικοί θα κατέχουν είναι η κρίση προϊόντος: η προδιαγραφή, η γεύση, η αρχιτεκτονική και η ευθύνη όταν κάτι σπάσει. Οι ομάδες μπορεί να γίνουν μικρότερες, αλλά ο ρόλος θα γίνει πιο δύσκολος. Οι μηχανικοί που θα ευδοκιμήσουν δεν θα είναι απαραίτητα αυτοί που παράγουν τον περισσότερο κώδικα, αλλά αυτοί που μπορούν να κατευθύνουν, να αξιολογήσουν και να διορθώσουν αυτονομικά συστήματα αποτελεσματικά.

Έχοντας εργαστεί μέσα από προηγούμενες τεχνολογικές αλλαγές, ένα πράγμα που έχω μάθει είναι ότι η καινοτομία σπάνια ακολουθεί μια ευθεία γραμμή. Οι ομάδες που θα ευδοκιμήσουν θα είναι αυτές που θα μείνουν περιεργές, θα προσαρμοστούν γρήγορα και θα εξελίξουν τις ροές εργασίας τους καθώς η τεχνολογία αλλάζει.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν το Doppel.