Ρόνι Οχάιον, Διευθύνων Σύμβουλος και Ιδρυτής της DeepKeep – Σειρά Συνεντεύξεων

Ρόνι Οχάιον, Διευθύνων Σύμβουλος και Ιδρυτής της DeepKeep, είναι ένας έμπειρος επιχειρηματίας και τεχνολόγος με καριέρα που εκτείνεται στο AI, την κυβερνοασφάλεια, τα αυτόνομα συστήματα και τις μεγάλες τεχνολογίες βίντεο. Έχει ιδρύσει και ηγηθεί πολλών εταιρειών σε αυτά τα πεδία, συμπεριλαμβανομένων σημαντικών ρόλων στη συνδεσιμότητα οχημάτων, τη μετάδοση βίντεο σε πραγματικό χρόνο και την προηγμένη μηχανική, μαζί με παλαιότερη ακαδημαϊκή εργασία στην υπολογιστική μηχανική.

DeepKeep είναι μια πλατφόρμα ασφαλείας AI που σχεδιάστηκε για να βοηθήσει τις επιχειρήσεις να προστατεύσουν το AI, το γεννητικό AI, τα LLM, την υπολογιστική όραση και τα πολυμορφικά συστήματα σε όλη τη διάρκεια ζωής τους. Η εταιρεία επικεντρώνεται στην αναγνώριση ευπαθειών, την αποτροπή αντιπαλών απειλών, την πρόληψη προβλημάτων όπως η διαρροή δεδομένων και η χειραγώγηση προτύπων, την υποστήριξη της συμμόρφωσης με τους κανονισμούς και την παροχή συνεχούς παρακολούθησης για να διασφαλιστεί ότι οι αναπτύξεις AI είναι αξιόπιστες, ανθεκτικές και προστατευμένες.

Έχετε ηγηθεί σημαντικών καινοτομιών στις μεταδόσεις βίντεο, τη συνδεσιμότητα οχημάτων και τα συστήματα AI. Τι από την καριέρα σας σας έπεισε ότι η επόμενη μεγάλη πρόκληση που έπρεπε να λύσετε ήταν η ασφάλεια των επιχειρηματικών AI;

Πάντα με έκαναν να θέλω να αντιμετωπίσω προκλήσεις που έχουν μεγάλη επίδραση. Αυτά τα χρόνια, παρατήρησα ένα επαναλαμβανόμενο μοτίβο όπου η νέα τεχνολογία, ιδιαίτερα το AI, συχνά ξεπερνά τα μέτρα ασφαλείας, αφήνοντας κρίσιμες ευπαθειές πίσω.

Η υιοθέτηση AI από τις επιχειρήσεις, ιδιαίτερα με την άνοδο των μεγάλων γλωσσικών μοντέλων (LLM) και των αυτονομικών AI, άνοιξε einen νέο ορίζοντα κινδύνων, και οι επιχειρήσεις συχνά νιώθουν υπερφορτωμένες και μη προετοιμασμένες να εκμεταλλευτούν αυτά τα συστήματα με ασφάλεια και εμπιστοσύνη. Η εμπειρία μου στα συστήματα AI τόνισε πόσο απαραίτητο είναι να ενσωματωθεί η ασφάλεια στο κέντρο αυτών των τεχνολογιών για να διασφαλιστεί ότι δεν είναι μόνο καινοτόμες, αλλά και ασφαλείς και αξιόπιστες, παράγοντας αξιοπιστία αποτελέσματα για την υποστήριξη των επιχειρήσεων προληπτικά. Αυτή η συνειδητοποίηση οδήγησε στην ίδρυση της DeepKeep, με επίκεντρο την ασφάλεια των συστημάτων AI, ώστε οι επιχειρήσεις να μπορούν να υιοθετήσουν το AI με εμπιστοσύνη για να αυξήσουν την παραγωγικότητα και την ανάπτυξη, χωρίς να συμβιβάζονται με την ασφάλεια ή την ιδιωτικότητα.

Όταν εσείς και ο συνιδρυτής σας ξεκινήσατε την DeepKeep το 2021, ποια συγκεκριμένη τυφλή πηγή ασφαλείας AI σας έπεισε ότι υπήρχε επείγουσα ανάγκη για μια αφοσιωμένη πλατφόρμα, και πώς αυτή η εικόνα διαμόρφωσε την πρώιμη κατεύθυνση της εταιρείας;

Μετά από χρόνια εργασίας με το AI στην υπολογιστική όραση, που απαιτούσε σημαντικές προσπάθειες για να διασφαλιστεί ότι είναι αξιόπιστο και ανθεκτικό, συνειδητοποιήσαμε ότι ήταν ώρα να σχεδιάσουμε μια αφοσιωμένη λύση για να διασφαλίσουμε την εμπιστοσύνη και την ασφάλεια στην υπολογιστική όραση.

Το 2021, πριν από την έκρηξη των LLM, ξεκινήσαμε την DeepKeep για να αντιμετωπίσουμε αυτούς τους κινδύνους στα μοντέλα υπολογιστικής όρασης.

Μπορείτε να μας οδηγήσετε πίσω στην πρώιμη πρωτότυπη—τι ακριβώς έκανε, πόσο μικρό ήταν η ομάδα και πώς επικυρώσατε ότι ήσασταν στον σωστό δρόμο;

Όταν ιδρύσαμε την DeepKeep, ο στόχος ήταν ακόμη στο παραδοσιακό AI – υπολογιστική όραση, ταμπελωμένα μοντέλα και πρώιμη NLP – πολύ πριν από την άνοδο των μεγάλων γλωσσικών μοντέλων. Το πρώτο μας πρωτότυπο ήταν ένα σύστημα για την ερυθρή ομάδα των ταξινομητών υπολογιστικής όρασης για να δοκιμάσουμε την ανθεκτικότητά τους σε αντιπαλές επιθέσεις. Παράλληλα, κατασκευάσαμε μια πρώιμη έκδοση ενός τείχους προστασίας AI που θα μπορούσε να ανιχνεύσει και να σηματοδοτήσει αυτές τις επιθέσεις σε πραγματικό χρόνο.

Οι πρώτες περιπτώσεις χρήσης προέρχονταν από την αυτοκινητοβιομηχανία, τις ασφαλιστικές εταιρείες και τις χρηματοοικονομικές υπηρεσίες, όπου η δυσλειτουργία του μοντέλου συνεπάγεται πραγματικό επιχειρηματικό κίνδυνο. Η ομάδα μας ήταν περίπου οκτώ άτομα την εποχή εκείνη, γεγονός που μας επέτρεψε να επαναλάβουμε γρήγορα και να παράγουμε ένα λειτουργικό πρωτότυπο νωρίς.

Επικυρώσαμε ότι ήμασταν στον σωστό δρόμο μιλώντας απευθείας με πιθανούς πελάτες, οι οποίοι τόνιζαν συνεχώς την ανθεκτικότητα σε αντιπαλές επιθέσεις ως μια αναδυόμενη ανησυχία. Περίπου την ίδια εποχή, πλαισια όπως το ATLAS της MITRE – που κυκλοφόρησε για πρώτη φορά το 2021 – άρχισαν να εμφανίζονται, γεγονός που ήταν ένα σημαντικό εξωτερικό σήμα ότι το πεδίο της ασφάλειας AI και της αντίπαλης απειλής μοντελοποίησης ήταν έτοιμο να αναπτυχθεί. Η ευθυγράμμιση μεταξύ της ανταπόκρισης των πελατών και της κατεύθυνσης της βιομηχανίας μας έδωσε την εμπιστοσύνη ότι προχωρούσαμε στον σωστό δρόμο.

Η DeepKeep σχεδιάστηκε από την αρχή για να ασφαλίσει τα συστήματα AI και όχι παραδοσιακό λογισμικό. Πώς προτεραιότητα ποιους τύπους μοντέλων και επιφανειών επιθέσεων να εστιάσετε πρώτα;

Από την αρχή, γνωρίζαμε ότι η ασφάλεια των επιχειρηματικών AI απαιτούσε μια παραλλαγή παραδείγματος. Ενώ πολλές οργανώσεις είναι ικανές να γνωρίζουν ότι χρειάζονται να εκτελέσουν δοκιμές διείσδυσης και αξιολόγηση για τα μοντέλα που χρησιμοποιούν, καταλάβαμε ότι αυτές οι ενέργειες είναι μόνο η αρχή. Οι πραγματικοί κίνδυνοι αναπτύσσονται μέσα στο πλήρες οικοσύστημα εφαρμογών, όχι μόνο στα μοντέλα themselves.

Έτσι, ενώ η ασφάλεια των αυτόνομων AI chatbot με την παραδοσιακή ερυθρή ομάδα ήταν το σημείο εκκίνησης της βιομηχανίας, γρήγορα προχώρησε στην ανάπτυξη λύσεων που ασφαλίζουν τις προσαρμοσμένες εφαρμογές AI και τους πράκτορες AI, και θα εξελιχθεί για να ασφαλίσει το επόμενο βήμα στο οποίο οι πράκτορες αλληλεπιδρούν μεταξύ τους και υπάρχει σημαντική δια-περιοχής νοημοσύνη.

Ενεργοποιούμε την σάρωση μοντέλων σε όλους τους τύπους μοντέλων, αλλά επίσης προστατεύουμε από τις πιο επείγουσες απειλές όπως οι αντιπαλές επιθέσεις, η διαρροή δεδομένων, η κακοποίηση του συστήματος και η διάβρωση της εμπιστοσύνης με την ερυθρή ομάδα των μοντέλων και την εφαρμογή φραγμών που ασφαλίζουν τις προτροπές και τις απαντήσεις AI.

Κρίσιμα, επίσης ασφαλίζουμε το “σεμαντικό στρώμα” του AI με την κατανόηση του контекστου στον οποίο λειτουργούν τα μοντέλα. Αυτό διασφαλίζει ότι τα μοντέλα δεν μπορούν να χειραγωγηθούν così εύκολα.

Ποια ήταν οι μεγαλύτερες τεχνικές ή στρατηγικές στροφές που κάνατε μεταξύ του σταδίου ίδρυσης και της τρέχουσας κατεύθυνσης του προϊόντος της DeepKeep;

Μια από τις μεγαλύτερες αποφάσεις που κάναμε ήταν να επεκταθούμε πέρα από την παραδοσιακή ασφάλεια μοντέλων στο πεδίο της ασφάλειας εφαρμογών AI. Αρχικά, εστιάζαμε στην ασφάλεια των ατομικών μοντέλων, αλλά καθώς εξελισσόταν το τοπίο AI, συνειδητοποιήσαμε ότι η ασφάλεια των ολοκληρωμένων οικοσυστημάτων AI, όπου πολλά μοντέλα, πράκτορες και περιπτώσεις χρήσης διασταυρώνονται, ήταν πολύ πιο κρίσιμη. Αυτό οδήγησε στην επέκταση της προσέγγισής μας με την ενσωμάτωση της ερυθρής ομάδας, ενός ολοκληρωμένου τείχους προστασίας AI για να προστατεύσει κάθε αλληλεπίδραση που έχουν οι πράκτορες, οι υπάλληλοι και οι εφαρμογές με το AI, και την παρακολούθηση σε χρόνο εκτέλεσης.

Μια άλλη κρίσιμη απόφαση ήταν να προσφέρουμε πλήρη ευελιξία ανάπτυξης, συμπεριλαμβανομένων λύσεων ανεξάρτητων από το cloud, εσωτερικών και αερο-αποσυνδεμένων, επιτρέποντας στις επιχειρήσεις να αναπτύξουν την DeepKeep με ασφάλεια σε οποιοδήποτε περιβάλλον.也有 πρόσφατα ενσωματώσαμε μια αναβαθμισμένη βιομηχανική προστατευτική φράγμα προσωπικών δεδομένων στην πλατφόρμα μας, η οποία παρείχε στους πελάτες μας ένα ακόμη μεγαλύτερο επίπεδο προστασίας δεδομένων και διασφαλίζει ότι οι επιχειρήσεις μπορούν να ανταποκριθούν στις παγκόσμιες απαιτήσεις συμμόρφωσης καθώς αυξάνουν τη χρήση AI.

Η DeepKeep δίνει ισότιμη έμφαση στην ασφάλεια και την αξιοπιστία. Σε ποιο στάδιο αυτή η διπλή εστίαση έγινε πυρήνας στην ταυτότητα της εταιρείας;

Η εστίαση στην ασφάλεια και την αξιοπιστία έγινε σαφής από νωρίς, ιδιαίτερα καθώς αρχίσαμε να σχηματίζουμε μια βαθύτερη κατανόηση των πελατών μας και των αναγκών τους.

Όταν ασχολούμαστε με μοντέλα AI, η ασφάλεια και η αξιοπιστία πηγαίνουν χέρι-χέρι και παίζουν ίσους ρόλους, επειδή στο τέλος της ημέρας και τα δύο μπορούν να οδηγήσουν σε καταστροφικά και καταστροφικά αποτελέσματα. Μια εφαρμογή δεν μπορεί να είναι ανθεκτική και αξιόπιστη, και αντίστροφα.

Παραδοσιακά εργαλεία κυβερνοασφάλειας δεν σχεδιάστηκαν για ένεση προτύπων, οπτασίας, διαρροή δεδομένων ή χειραγώγηση μοντέλων. Ποια από αυτές τις αναδυόμενες διανύσματα απειλών είδατε τις επιχειρήσεις να πλήττονται περισσότερο, και πώς αυτά τα πραγματικά προβλήματα επηρέασαν την αρχιτεκτονική της DeepKeep;

Από τις αναδυόμενες απειλές, η ένεση προτύπων και η διαρροή δεδομένων είναι οι πιο επείγουσες ανησυχίες που βλέπουμε τις επιχειρήσεις να πλήττονται. Όσο τα AI εφαρμογές και οι πράκτορες AI γίνονται πιο ενσωματωμένοι στις επιχειρηματικές διαδικασίες, ο κίνδυνος χειραγώγηση προτύπων και η ακούσια έκθεση ευαίσθητων δεδομένων είναι πιο προφανής. Αυτά τα ζητήματα οδήγησαν στην σχεδίαση της DeepKeep με εστίαση στην περιεκτική ασφάλεια, προστατεύοντας όχι μόνο τα μοντέλα, αλλά και όλη τη ροή δεδομένων και τις αλληλεπιδράσεις μέσα στα οικοσυστήματα AI. Η υποδομή μας κατασκευάστηκε για να pentest αυτών των στρωμάτων στη φάση ανάπτυξης και να προστατεύει κατά τη διάρκεια εκτέλεσης, ασφαλίζοντας κάθε αλληλεπίδραση AI.

Η πλατφόρμα σας συνδυάζει φράγματα, ερυθρή ομάδα και στρώματα προστασίας δεδομένων. Από τεχνικής πλευράς, ποια από αυτά αποδείχθηκε πιο δύσκολο να μηχανουργηθεί σε επιχειρηματικό μέγεθος, και τι μάθατε während της κατασκευής ενός συστήματος που πρέπει να προσαρμοστεί σε γρήγορα κινητά μοντέλα AI;

Κάθε στρώμα – φράγματα, ερυθρή ομάδα και προστασία δεδομένων – έρχεται με τις δικές του μηχανουργικές προκλήσεις, αλλά βρήκαμε ότι οι προκλήσεις που έχουν όλα αυτά τα στρώματα κοινά ήταν στην πραγματικότητα οι πιο δύσκολες.

Η πρώτη είναι το ρυθμό της αλλαγής: νέες απειλές, jailbreaks και τεχνικές επιθέσεων εμφανίζονται συνεχώς, οπότε οτιδήποτε στατικό γίνεται ξεπερασμένο γρήγορα. Η δεύτερη είναι η υιοθέτηση περιεχομένου: στις επιχειρήσεις, μια προσέγγιση που ταιριάζει σε όλους απλά δεν λειτουργεί, επειδή κάθε εφαρμογή έχει διαφορετικές πολιτικές, ευαισθησία δεδομένων και συμπεριφορά χρηστών.

Για να αντιμετωπίσουμε την πρώτη πρόκληση, κατασκευάσαμε μια πλήρως modulaire αρχιτεκτονική με component-style components, επιτρέποντας μας να προσθέσουμε νέες επιθέσεις στο μηχανισμό ερυθρής ομάδας ή νέα φράγματα στο τείχος προστασίας γρήγορα και χωρίς να διαταράξουμε το σύστημα.

Και για να λύσουμε την δεύτερη πρόκληση, σχεδιάσαμε ένα agentic, context-aware σύστημα. Αναλύει το περιβάλλον της εφαρμογής και αυτόματα προσαρμόζει τα σχετικά μέτρα ασφαλείας – το οποίο είναι απαραίτητο όταν τα υποκείμενα μοντέλα AI και οι περιπτώσεις χρήσης εξελίσσονται τόσο γρήγορα.

Αυτές οι δύο ικανότητες, modularity και context awareness, ήταν κρίσιμες για την λειτουργία σε επιχειρηματικό μέγεθος, ενώ διατηρούσαν την ταχύτητα με τα γρήγορα κινητά συστήματα AI.

Η ασφάλεια AI είναι μια εξελισσόμενη дисциплина. Ποια κενά βλέπετε μέσα στις επιχειρήσεις σήμερα – είτε σε πολιτική, εργαλεία, είτε κατανόηση κινδύνων – που διαμόρφωσαν πιο直接ώς τον τρόπο που σχεδιάσατε το σωρό ασφαλείας της DeepKeep και την ενσωμάτωση πελατών;

Τα κενά ποικίλλουν σημαντικά ανάλογα με την βιομηχανία, το μέγεθος της εταιρείας και την ωριμότητα υιοθέτησης AI.

Ένα από τα μεγαλύτερα κενά που βλέπουμε στις μεγάλες επιχειρήσεις σήμερα είναι η έλλειψη μιας ενιαίας λύσης που καλύπτει όλες τις ανάγκες ασφαλείας AI. Πολλές από αυτές τις επιχειρήσεις είναι ενήμερες για την ανάγκη λύσεων ασφαλείας AI, αλλά καθώς αυξάνεται η υιοθέτηση, αυξάνεται επίσης η απαίτηση για πρόσθετη κάλυψη ασφαλείας. Μάθαμε από νωρίς ότι υπάρχει αξία σε μια ρομποτική, ολοκληρωμένη λύση που περιλαμβάνει διαφορετικές ικανότητες που λειτουργούν σε συνδυασμό και με ομαλή ενσωμάτωση. Οι πελάτες επωφελούνται από μια λύση όπου το σύνολο είναι μεγαλύτερο από το άθροισμα των μερών του.

Όσο η αγορά ωρίμασε, αναγνωρίσαμε ένα άλλο κενό, το οποίο είναι ότι οι οργανισμοί αναζητούν πιο εξατομικευμένα και λιγότερο γενικά εργαλεία ασφαλείας για να προστατεύσουν τους πράκτορες και τις εφαρμογές τους. Ένα από τους λόγους πίσω από την προσέγγισή μας με την περιεκτική ασφάλεια ήταν να αντιμετωπίσουμε αυτό το κενό, με την κατανόηση ότι κάθε εφαρμογή και πράκτορας είναι διαφορετικός και χρειάζεται να προστατευτεί ανάλογα.

Εάν κοιτάξουμε μπροστά πέντε χρόνια, πώς περιμένετε ότι οι κίνδυνοι AI θα εξελιχθούν – και πού πιστεύετε ότι η DeepKeep χρειάζεται να είναι τοποθετημένη για να παραμείνει μπροστά σε αυτό το μέλλον;

Περιμένω ότι οι μεγαλύτεροι κίνδυνοι AI τα επόμενα πέντε χρόνια θα εξελιχθούν παράλληλα με τις προόδους στην αυτονομία AI. Όσο οι πράκτορες γίνονται πιο αυτόνομοι, ενσωματωμένοι μέσα στις επιχειρηματικές διαδικασίες και ικανοί να εκτελούν σύνθετες εργασίες, ο κίνδυνος για ασφαλείς παραβιάσεις και κακοποίηση θα αυξηθεί. Προβλέπουμε την ανάπτυξη ενός Internet of Agents (IoA), όπου οι πράκτορες αλληλεπιδρούν μεταξύ τους, σχηματίζοντας ένα ακόμη πιο σύνθετο δίκτυο αλληλεπιδράσεων AI για να ασφαλίσουμε.

Για να παραμείνουμε μπροστά, η DeepKeep θα συνεχίσει να εξελίσσει την πλατφόρμα της για να ασφαλίσει αυτά τα ολοένα και πιο σύνθετα συστήματα AI, διασφαλίζοντας ότι παρέχουμε προστασία σε χρόνο εκτέλεσης σε πολλαπλά μοντέλα AI και υποστηρίζουμε την αυξανόμενη τάση της λήψης αποφάσεων με τη δύναμη του AI. Ο στόχος μας είναι να είμαστε ο αξιόπιστος συνεργάτης που οι επιχειρήσεις βασίζονται για να ασφαλίσουν ολόκληρο το οικοσύστημα AI, ανεξάρτητα από το πόσο σύνθετο γίνεται.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν DeepKeep.