Ρόουαν Στιούαρτ, Sr. Διευθυντής Προϊόντων, Ασφάλεια και Πλατφόρμα AI στο Transcend – Σειρά Συνεντεύξεων

Ρόουαν Στιούαρτ, Sr. Διευθυντής Προϊόντων, Ασφάλεια και Πλατφόρμα AI στο Transcend, ηγείται των πρωτοβουλιών προϊόντων που επικεντρώνονται στην βοήθεια των οργανισμών να ανακαλύψουν, να διακυβερνήσουν και να χρησιμοποιήσουν με ασφάλεια τα δεδομένα στα συστήματα τεχνητής νοημοσύνης. Φέρνει πάνω από μια δεκαετία εμπειρίας που καλύπτει την ανάπτυξη προϊόντων AI και μηχανικής μάθησης, λογισμικό επιχειρήσεων, επεξεργασία φυσικής γλώσσας, στρατηγική δεδομένων και ηγεσία προϊόντων από το μηδέν στο ένα. Πριν ενταχθεί στο Transcend, η Στιούαρτ πέρασε σχεδόν έξι χρόνια στο BCG X, όπου βοήθησε μεγάλες επιχειρήσεις να αναπτύξουν στρατηγικές AI, να επανασχεδιάσουν εσωτερικές διαδικασίες και να κατασκευάσουν προϊόντα που αποσκοπούν στην παροχή μετρήσιμων επιχειρηματικών αποτελεσμάτων. Νωρίτερα στην καριέρα της, διαχειρίστηκε την ανάπτυξη API επεξεργασίας φυσικής γλώσσας για την ευφυή ανάλυση επιρροών, συμπεριλαμβανομένης της ανάλυσης συναισθήματος, των γرافημάτων γνώσης, της αξιολόγησης προσωπικότητας, της ανίχνευσης bot και των ικανοτήτων ασφάλειας μάρκας.

Transcend είναι η μόνη αυτόνομη πλατφόρμα λήψης αποφάσεων δεδομένων που απαντάει στο «μπορώ να χρησιμοποιήσω αυτά τα δεδομένα;» για να κλιμακωθεί η αύξηση του πελάτη. Οι εταιρείες Fortune 500 και οι ηγέτες κατηγοριών που αναδύονται χρησιμοποιούν το Transcend για να κωδικοποιήσουν άμεσα τις άδειες χρήσης δεδομένων直接 στα συστήματα επιχειρήσεων που επεξεργάζονται δεδομένα πελάτη, παρέχοντας μια πηγή αλήθειας σε πραγματικό χρόνο για τη συναίνεση, τις προτιμήσεις και τους κανόνες επιχειρήσεων. Το αποτέλεσμα είναι η υπεροχή της ποιότητας των δεδομένων, η ηθική χρήση που προστατεύει το brand και η έτοιμη για ελέγχους συμμόρφωση σε κλίμακα. Με το Transcend, οι εταιρείες μπορούν να ξεκλειδώσουν έσοδα από την τεχνητή νοημοσύνη, την προσωποποίηση και άλλες πρωτοβουλίες δεδομένων πρώτου μέρους με εμπιστοσύνη. Ιδρυμένο το 2017 από τον Ben Brook (Διευθύνων Σύμβουλος) και τον Mike Farrell (CTO), το Transcend έχει την έδρα του στη περιοχή του κόλπου του Σαν Φρανσίσκο.

Πέρασες σχεδόν έξι χρόνια στο BCG X βοηθώντας μερικές από τις μεγαλύτερες οργανώσεις του κόσμου να αναπτύξουν λύσεις AI και μηχανικής μάθησης πριν μεταβείς στην ασφάλεια και τη διακυβέρνηση AI στο Transcend. Ποια ήταν τα επαναλαμβανόμενα αποτυχημένα σημεία διακυβέρνησης ή τυφλά σημεία που παρατήρησες που σε έκαναν να πιστεύεις ότι η διακυβέρνηση AI πρέπει να χτιστεί στα συστήματα από την πρώτη μέρα και όχι να προστεθεί αργότερα;

Στο BCG, δούλεψα με εταιρείες σε κάθε στάδιο ωριμότητας AI, και ένα μοτίβο με έμεινε: η διακυβέρνηση πάντα εμφανίζεται αργά. Οι ομάδες κινούνται γρήγορα για να αποστείλουν ένα μοντέλο ή ένα προϊόν, και η συζήτηση για άδειες δεδομένων, συναίνεση ή εποπτεία πραγματικά έρχεται στο επίκεντρο ακριβώς πριν την παραγωγή και feels σαν ένα «gotcha». Ό,τι χτιστεί σε αυτό το σημείο ανέρχεται σε ένα patch σε ένα σύστημα που δεν σχεδιάστηκε ποτέ με τη διακυβέρνηση στο μυαλό.

Αυτό είναι μέρος του λόγου για τον οποίο ήμουν τόσο ενθουσιασμένος να ενταχθώ στο Transcend. Η συμβουλή εταιρειών για ό,τι πρέπει να κάνουν δεν πηγαίνει πολύ μακριά. Ήθελα να βοηθήσω να χτιστεί η υποδομή που κάνει τη διακυβέρνηση την εύκολη επιλογή.

Πολυάριθμες οργανώσεις τρέχουν για να αναπτύξουν πράκτορες AI σε υποστήριξη πελάτη, λειτουργίες και γνώση εργασίας. Πώς διαφέρει η διακυβέρνηση των αυτόνομων πρακτόρων AI από τη διακυβέρνηση των παραδοσιακών συστημάτων λογισμικού ή ακόμη και των προηγούμενων γενεών μοντέλων AI;

Η większość αρχιτεκτονικής ασφάλειας επιχειρήσεων υποθέτει ότι υπάρχει ένας άνθρωπος στο άλλο άκρο κάθε ενέργειας, και ότι ο άνθρωπος μπορεί να αναγνωριστεί, να εμπιστευτεί και όταν κάτι πάει λάθος, να κριθεί υπεύθυνος. Αλλά οι πράκτορες δεν είναι άνθρωποι. Δρουν μόνοι τους, αναθέτουν εργασίες σε άλλους πράκτορες και συνδέουν αποφάσεις μαζί σε τρόπους που σπάνια αντιστοιχούν σε ένα μόνο υπεύθυνο άτομο.

Η χορήγηση άδειας σε έναν πράκτορα τις ίδιες στατικές, μόνιμες άδειες που θα δίνατε σε ένα υπαλλήλο δημιουργεί μια αντίφαση επειδή οι πράκτορες λείπουν κοινής λογικής. Η διακυβέρνηση πρέπει να αξιολογήσει την συγκεκριμένη ενέργεια που πρόκειται να λάβει ένας πράκτορας, σε εκείνη τη στιγμή, με αυτά τα συγκεκριμένα δεδομένα. Οι περισσότερες εταιρείες vẫn τρέχουν το playbook διαχείρισης ταυτοτήτων και πρόσβασης που χτίστηκε για τους ανθρώπους, και πολλές από αυτές θα ανακαλύψουν το κενό όταν η ανάπτυξη πρακτόρων ξεπεράσει τη διακυβέρνηση που χτίστηκε για να το χειριστεί.

Έχεις δουλέψει σε πολλές κυμαίες καινοτομίας AI, από προϊόντα NLP και πλατφόρμες ευφυούς ανάλυσης επιρροών έως πρωτοβουλίες μετασχηματισμού επιχειρήσεων AI. Πώς έχει εξελιχθεί η συζήτηση για την ασφάλεια AI τα τελευταία δέκα χρόνια, και τι σας ανησυχεί ακόμη περισσότερο;

Η σύγκριση του σημερινού (και του αύριο!) AI με τις προηγούμενες γενιές είναι fascinující επειδή είναι ένα απίστευτα γρήγορο κινούνται χώρο. Οι σημαντικότερες εξελίξεις του τελευταίου έτους ή δύο έχουν φυσικά ήταν η άνοδος των πρακτόρων και η σημασία της διαχείρισης μνήμης μακράς διάρκειας (OpenClaw, κανείς?). Αυτοί οι πράκτορες μπορούν να κάνουν τόσο πολύ περισσότερα σε τόσο υψηλότερη ποιότητα, που τους κάνει ακόμη πιο πολύτιμους και, φυσικά, ακόμη πιο επικίνδυνους.

Όπως τα συστήματα AI λαμβάνουν αποφάσεις χρησιμοποιώντας δεδομένα πελάτη και επιχείρησης, ποια είναι οι μεγαλύτερες λανθασμένες αντιλήψεις που έχουν οι εταιρείες για τη συναίνεση, τις άδειες και τη διακυβέρνηση δεδομένων σε περιβάλλοντα που οδηγούνται από την τεχνητή νοημοσύνη;

Η πιο κοινή λανθασμένη αντίληψη είναι η αντιμετώπιση της συναίνεσης ως κάτι που συλλέγεται μια φορά και αρχειοθετείται. Ένας πελάτης συμφωνεί σε ένα σύνολο όρων κατά την εγγραφή, και οι εταιρείες υποθέτουν ότι η συμφωνία ισχύει αέναα, ανεξάρτητα από το πώς τα δεδομένα κινούνται αργότερα ή ποια νέα συστήματα θα τα ταΐσουν. Η συναίνεση πρέπει να ταξιδέψει με τα δεδομένα. Αν ένας πελάτης ενημερώνει τις προτιμήσεις του, ή μια νέα ρύθμιση αλλάζει τι είναι επιτρεπτό, αυτή η αλλαγή πρέπει να εμφανιστεί παντού τα δεδομένα ζουν, όχι μόνο στο σύστημα όπου η συναίνεση συλλέχθηκε αρχικά.

Η δεύτερη λανθασμένη αντίληψη είναι η αντιμετώπιση των αδειών ως μια τεχνική λεπτομέρεια που χειρίζεται η IT ή η νομική ήσυχα στο παρασκήνιο. Μόλις τα συστήματα AI αρχίσουν να λαμβάνουν αποφάσεις με βάση αυτά τα δεδομένα, η άδεια γίνεται ένα προϊόν και επιχειρηματικό ερώτημα, και οποιοδήποτε κενό σε αυτό κληρονομείται直接 από οποιαδήποτε πρωτοβουλία AI που κάθεται πάνω του.

Πολυάριθμες επιχειρήσεις εξακολουθούν να βασίζονται σε στατικές πολιτικές και περιοδικές αναθεωρήσεις συμμόρφωσης. Γιατί αυτές οι προσεγγίσεις αγωνίζονται σε μια εποχή όπου τα συστήματα AI μπορούν να μάθουν συνεχώς, να προσαρμοστούν και να αλληλεπιδράσουν με άλλους πράκτορες;

Μια στατική πολιτική καταγράφει τι έμοιαζε ένα σύστημα, και τι θεωρούνταν αποδεκτό, στο σημείο που κάποιος το έγραψε. Η τεχνητή νοημοσύνη δεν κάθεται άκινητη για πολύ καιρό για να μείνει ακριβής. Το μοντέλο για το οποίο γράφτηκε η πολιτική μπορεί να μην είναι το μοντέλο που τρέχετε έξι μήνες αργότερα, και μια τριμηνιαία ή ετήσια αναθεώρηση συμμόρφωσης δεν μπορεί να跟πασει ένα σύστημα που λαμβάνει αποφάσεις και προσαρμόζεται όλη την ώρα.

Η διακυβέρνηση κάτι που κινείται τόσο γρήγορα απαιτεί πολιτική που κινείται με την ίδια ταχύτητα. Αυτό σημαίνει ότι επιβάλλουμε τη διακυβέρνηση στο σημείο όπου τα δεδομένα χρησιμοποιούνται πραγματικά, σε πραγματικό χρόνο, αντί να ελέγχουμε μετά το γεγονός ενάντια σε ένα έγγραφο που ήταν ήδη ξεπερασμένο την ημέρα που δημοσιεύθηκε.

Τι μοιάζει η αποτελεσματική διακυβέρνηση όταν οι οργανισμοί αρχίζουν να αναπτύσσουν δίκτυα πρακτόρων AI που συνεργάζονται μεταξύ τους και έχουν πρόσβαση σε πολλαπλά εσωτερικά συστήματα;

Αυτό είναι το σημείο όπου τα όρια του παραδοσιακού ελέγχου πρόσβασης γίνονται εμφανή. Ένας πράκτορας μπορεί να είναι εξουσιοδοτημένος να διαβάσει ένα αρχείο, να καλέσει ένα εργαλείο και να παραδώσει αποτελέσματα σε άλλον πράκτορα, και κάθε一个 από αυτά τα βήματα μπορεί να φαίνεται λογικό από μόνο του. Η σύνθετη ενέργεια (το πράγμα που πραγματικά συνέβη μια φορά που συνδέσατε αυτά τα βήματα μαζί) είναι συχνά κάτι που κανένας άνθρωπος δεν εγκεύθυνε ρητά. Ο παραδοσιακός IAM μπορεί να επιβεβαιώσει αν ένας πράκτορας είχε άδεια να αγγίξει ένα σύστημα, αν και έχει λίγο να πει για το αν τα δεδομένα που άγγιξε συλλέχθηκαν υπό μια συναίνεση που καλύπτει αυτή τη συγκεκριμένη χρήση, ή αν η σύνθετη ενέργεια ήταν ποτέ κάτι που ένας άνθρωπος εγκεύθυνε.

Το Transcend επικεντρώνεται στην ενσωμάτωση άδειας χρήσης δεδομένων直接 στα ροές εργασιών επιχειρήσεων. Πόσο σημαντική είναι η υποδομή διακυβέρνησης σε πραγματικό χρόνο όταν οι οργανισμοί μεταβαίνουν από πειραματισμούς AI σε ανάπτυξη σε κλίμακα παραγωγής;

Κατά τη διάρκεια του δοκιμίου, μια ομάδα μπορεί συχνά να περάσει με χειροκίνητες αναθεωρήσεις και περιοδικούς ελέγχους, επειδή τα στοιχήματα είναι χαμηλά. Σε παραγωγή, ιδίως με πρακτορική AI, αυτό σπάει επειδή η κλίμακα είναι απλά τεράστια. Το σημερινό σύστημα ελέγχου και συναντήσεων είναι ένα lose-lose. Οι ομάδες συμμόρφωσης και ασφάλειας βασικά λαμβάνουν μια υπόσχεση με keinen συνεχής επιβολή, ενώ η ομάδα προϊόντων είναι τώρα δεσμευμένη σε χρονοβόρες χειροκίνητες αναθεωρήσεις που παρέχουν λίγη πραγματική αξία στο τελικό χρήστη. Αυτό είναι όταν η υποδομή σε πραγματικό χρόνο γίνεται η μόνη προσέγγιση που λειτουργεί. Η επιβολή αδειών στο σημείο όπου τα δεδομένα κινούνται ή μια απόφαση λαμβάνεται, αντί να ανακατασκευάζουμε τι συνέβη μετά από κάτι που έχει ήδη πάει λάθος, είναι αυτό που κάνει τη διακυβέρνηση σημαντική για τη συμμόρφωση και πολύτιμη για τους χρήστες

Στη γνώμη σας, ποια είναι τα πιο σημαντικά рисκ που συνδέονται με τους πρακτορικούς AI τα επόμενα τρία έως πέντε χρόνια, και ποια από αυτά τα ρίσκα υποτιμούνται目前 από τους ηγέτες επιχειρήσεων;

Νομίζω ότι το μοντέλο της κληρονομικής άδειας πρακτόρων από ένα χρήστη είναι πιο ριψοκίνδυνο από ό,τι πραγματικά αντιλαμβανόμαστε. Οι άνθρωποι έχουν κρίση, αλλά ένας AI θα ακολουθήσει τις οδηγίες σας μέχρι το τέλος.

Πώς πρέπει οι ομάδες προϊόντων να ισορροπήσουν την πίεση για την αποστολή χαρακτηριστικών AI γρήγορα με την ανάγκη να καθιερώσουν πλαισιαία διακυβέρνησης, διαφάνειας και ευθύνης;

Νομίζω ότι ένα συγκεκριμένο πράγμα είναι η διόρθωση του «Slop Tax».

Έχουμε جميعчески γρήγορα ανακατασκευάσει τις απαντήσεις μας για να μετρήσουμε την αξιοπιστία και την αξία της έξοδου AI. Είναι γιατί όλοι σας συμβουλεύουν να αφαιρέσετε τους ενωτικούς (ακόμη και αν είναι οι κατάλληλοι) και γιατί ένας ιστότοπος που χρησιμοποιεί το τυπικό χρώμα Claude feels φθηνός (ακόμη και αν φαίνεται καλό) και γιατί οι πληροφορίες που παρέχονται από την AI αντιμετωπίζονται ως ύποπτες (ακόμη και αν είναι αλήθεια). Αυτό πραγματικά επηρεάζει την αντιλαμβανόμενη αξία του προϊόντου σας.

Η διόρθωση του «Slop Tax» είναι στην πραγματικότητα καλύτερη διακυβέρνηση και διαφάνεια. Για παράδειγμα, μας πρόσφατα αποστάλθηκε μια λειτουργία που ονομάζεται Χρήση AI από Προμηθευτή, που ανακτά δημόσια διαθέσιμες πληροφορίες σχετικά με τα χαρακτηριστικά AI και τη στάση διακυβέρνησης των κορυφαίων εταιρειών, για να βοηθήσει τις ομάδες ενεργοποίησης AI, ασφάλειας και προμήθειας να κάνουν τη δουλειά τους γρηγορότερα. Βρήκαμε ότι η χρήση ενός πλαισίου ορχήστρας πολλαπλών πρακτόρων, μαζί με τη συλλογή και την παρουσίαση ενδείξεων με πηγαίες συνδέσεις και αποσπάσματα για τα ευρήματά τους, οδήγησε σε μια τεράστια βελτίωση της ποιότητας των αποτελεσμάτων μας. Αυτή η πρακτική της συλλογής ενδείξεων και της ποιότητας πρακτόρων είναι ένα win-win επειδή τα πραγματικά αποτελέσματα για τον χρήστη είναι καλύτερα, και η συμμόρφωση είναι πιο ισχυρή.

Κοιτάζοντας μπροστά, πιστεύετε ότι η διακυβέρνηση AI θα γίνει τελικά ένα ανταγωνιστικό πλεονέκτημα και όχι απλώς μια απαίτηση συμμόρφωσης, και τι θα ξεχωρίσει τις οργανώσεις που το κάνουν σωστά από εκείνες που μένουν πίσω;

Νομίζω ότι ναι, και αυτό επιστρέφει στο ίδιο μοτίβο που παρατήρησα στο BCG. Οι εταιρείες που αντιμετώπισαν τη διακυβέρνηση ως κάτι που πρέπει να προστεθεί μια φορά που ένα προϊόν ήταν ήδη στην αγορά πιάστηκαν πάντα στο τελευταίο λεπτό ελέγχου πριν από την κλίμακα, και είχαν την τάση να μείνουν στο «Pilot Purgatory». Οι εταιρείες που χτίζουν τη διακυβέρνηση στο σύστημα από την πρώτη μέρα είναι σε θέση να κινούνται με ένα είδος εμπιστοσύνης που η άλλη ομάδα δεν έχει, επειδή δεν αναρωτιούνται συνεχώς τι θα βρουν όταν τελικά κοιτάξουν στενά πώς η τεχνητή νοημοσύνη τους χρησιμοποιεί πραγματικά τα δεδομένα.

Αυτό το κενό είναι μόνο going να μεγαλώσει καθώς η ανάπτυξη πρακτόρων επιταχύνεται. Οι εταιρείες που τρέχουν ταχύτερα για να αναπτύξουν πρακτορικούς AI χωρίς να ξανασκέφτονται πώς αυτοί οι πράκτορες είναι εξουσιοδοτημένοι είναι αυτές που είναι πιο πιθανό να τρέξουν σε δυσκολίες, και μέχρι την ώρα που θα το κάνουν, οι εταιρείες που έκαναν τη σωστή υποδομή θα ήδη λειτουργούν σε μια ταχύτητα που οι latecomers δεν μπορούν εύκολα να αντιγράψουν. Η διακυβέρνηση σταματά να είναι ένα στοιχείο συμμόρφωσης όταν είναι το πράγμα που σας επιτρέπει να αναπτύξετε AI γρηγορότερα και με περισσότερη εμπιστοσύνη από όλους τους άλλους που vẫn κάνουν το χέρι.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Transcend.