Ο Jonathan Mortensen, Ιδρυτής και Διευθύνων Σύμβουλος της Confident Security – Σειρά Συνεντεύξεων

Ο Jonathan Mortensen, Ιδρυτής και Διευθύνων Σύμβουλος της Confident Security, ηγείται目前 της ανάπτυξης προβαλλόμενων ιδιωτικών συστημάτων AI για βιομηχανίες με αυστηρές απαιτήσεις ασφαλείας και συμμόρφωσης. Επίσης, διατελεί ως Ιδρυτής Συμμετέχων στο South Park Commons, όπου εξερευνά το μέλλον του AI υπολογισμού, μνήμης, ιδιωτικότητας και ιδιοκτησίας. Πριν από την ίδρυση της Confident Security, ήταν Μηχανικός Λογισμικού στο Databricks, ενσωματώνοντας την τεχνολογία του bit.io στη πλατφόρμα δεδομένων με έμφαση στην ασφάλεια πολλαπλών ενοικιαστών, IAM/ACL, απομόνωση VPC, κρυπτογράφηση και ιδιοκτησία δεδομένων. Παλαιότερα, ίδρυσε και διετέλεσε ως Διευθύνων Σύμβουλος του bit.io, κατασκευάζοντας μια πολυ-νεφελική, πολυ-περιοχική υπηρεσία serverless PostgreSQL που υποστήριζε εκατοντάδες χιλιάδες ασφαλείς βάσεις δεδομένων και στη συνέχεια αγοράστηκε από το Databricks.

Η Confident Security κατασκευάζει υποδομή που επιτρέπει στις επιχειρήσεις να εκτελούν εργοflows AI χωρίς να εκθέτουν ευαίσθητες πληροφορίες. Η πλατφόρμα της σχεδιάστηκε έτσι ώστε οι προτροπές, τα δεδομένα και οι εξόδους του μοντέλου να παραμείνουν πλήρως ιδιωτικά, να μην καταγράφονται ποτέ και να μην επαναχρησιμοποιούνται, δίνοντας στις οργανώσεις einen ασφαλή τρόπο για την υιοθέτηση του AI ενώ συμμορφώνονται με αυστηρές κανονιστικές και απαιτήσεις συμμόρφωσης.

Ιδρύσατε την Confident Security το 2024 μετά την κατασκευή του bit.io και την εργασία σας στο Databricks. Τι σας έκανε να συνειδητοποιήσετε ότι το AI χρειάζεται μια θεμελιωδώς διαφορετική προσέγγιση στην ιδιωτικότητα;

Η εμπειρία μου στην κατασκευή υποδομής δεδομένων με δίδαξε αυτό: αν οι άνθρωποι βάζουν ευαίσθητες πληροφορίες σε ένα σύστημα, η εμπιστοσύνη δεν είναι αρκετή. Χρειάζονται απόδειξη. Κατασκευάσαμε υποδομή όπου οι πελάτες κατείχαν τα δεδομένα τους και τους δίναμε τρόπους να επικυρώσουν ότι.

Όταν έβλεπα πώς οι εταιρείες χρησιμοποιούσαν τα LLM, αυτή η απόδειξη δεν υπήρχε. Οι υπάλληλοι επικόλληναν πηγαίο κώδικα, νομικά έγγραφα και ιατρικά αρχεία σε μοντέλα που εκτελούνταν από τρίτους που δεν μπορούσαν να επικυρώσουν. Έχουμε ήδη δει ιδιωτικές συνομιλίες που τυχαία καταγράφονται στο διαδίκτυο και αλλαγές πολιτικής πουuddenly έκαναν τις συνομιλίες δεδομένα εκπαίδευσης από προεπιλογή. Έδειξε πώς εύθραυστη είναι η τρέχουσα μοντέλο ιδιωτικότητας.

Αν το AI θα χειριστεί τις πιο ευαίσθητες πληροφορίες του κόσμου, χρειαζόμαστε εγγυήσεις που δεν εξαρτώνται από την εμπιστοσύνη σε εσωτερικές υποσχέσεις ενός προμηθευτή. Αυτό με οδήγησε να ξεκινήσω την Confident Security.

Το OpenPCC περιγράφεται ως το “Signal για το AI.” Γιατί ήταν σημαντικό για αυτό το επίπεδο ιδιωτικότητας να είναι ανοιχτό, επικυρώσιμο και διαλειτουργικό από την πρώτη μέρα;

Η κρυπτογράφηση από άκρο σε άκρο δεν έγινε δημοφιλής μέχρι να γίνει ένα πρότυπο που όλοι μπορούσαν να υιοθετήσουν. Θέλουμε το ίδιο για την ιδιωτικότητα του AI. Αν μόνο μερικές εταιρείες μπορούν να προσφέρουν πραγματικές εγγυήσεις, τότε η ιδιωτικότητα δεν θα κλιμακωθεί.

Το OpenPCC είναι ανοιχτό υπό την άδεια Apache 2.0, ώστε όποιος να μπορεί να το κατασκευάσει ή να το επιθεωρήσει. Δεν υπάρχει κρυφό απαιτούμενο εμπιστοσύνης. Η απόδειξη υλικού παρέχει κρυπτογραφική απόδειξη για το τι εκτελείται και όπου. Και βεβαιωθήκαμε ότι λειτουργεί παντού: οποιοδήποτε σύννεφο, οποιοδήποτε πάροχο μοντέλου, οποιαδήποτε στοίβα αναπτυξιακού.

Υπάρχει τεράστια αξία σε ένα δάπεδο ιδιωτικότητας που είναι συνεπές και καθολικό. Αν χρησιμοποιείτε το OpenPCC, γνωρίζετε ότι τα δεδομένα σας δεν είναι ορατά στους παρόχους μοντέλων, τους ρυθμιστές ή ακόμη και εμάς. Ένα πρότυπο λειτουργεί μόνο αν όλος ο οικοςистемικός可以 συμμετάσχει, ώστε να το σχεδιάσαμε να είναι όσο το δυνατόν πιο περιεκτικό από την πρώτη μέρα.

Πριν από την Confident Security, κατασκευάσατε μεγάλης κλίμακας συστήματα για πολλαπλή ενοικίαση, κρυπτογράφηση και ιδιοκτησία δεδομένων. Πώς αυτές οι εμπειρίες διαμόρφωσαν την αρχιτεκτονική του OpenPCC;

Αυτά τα συστήματα ενίσχυσαν δύο αλήθειες: αν ένα σύστημα μπορεί να διατηρήσει δεδομένα, τελικά θα το κάνει, είτε αυτό είναι μέσω καταγραφών, λανθασμένων ρυθμίσεων ή νομικών αιτημάτων. Και η εμπιστοσύνη δεν είναι ένα μοντέλο ιδιωτικότητας. Οι χρήστες χρειάζονται ορατότητα και έλεγχο.

Το OpenPCC εκτελείται σε κατάσταση χωρίς κατάσταση, ώστε οι προτροπές να εξαφανίζονται μετά την επεξεργασία. Η απόδειξη επιτρέπει στους χρήστες να επικυρώσουν πού πάνε τα δεδομένα τους και ποιο κώδικας εκτελείται. Και με την απομόνωση του ελέγχου από τα δεδομένα, το OpenPCC αποτρέπει τις ιδιωτικές εισόδους από το να αντιμετωπίζονται ως εκτελέσιμες οδηγίες.

Αυτοί οι περιορισμοί είναι αυτά που οι επιχειρήσεις περίμεναν: εγγυήσεις ότι τα δεδομένα δεν θα ξαναεμφανιστούν σε ένα απρόοπτο μέρος.

Έχετε υποστηρίξει ότι οι περισσότερες “ιδιωτικές” λύσεις AI βασίζονται στην εμπιστοσύνη σε αδιαφανή συστήματα. Γιατί η ανεξάρτητη επικύρωση είναι απαραίτητη για την αληθινή ιδιωτικότητα;

Η περισσότερη γλώσσα ιδιωτικότητας σήμερα είναι αποτελεσματικά “απλά εμπιστευθείτε μας”. Αυτό δεν είναι αρκετό όταν τα στοιχήματα περιλαμβάνουν εθνική ασφάλεια και ρυθμισμένα δεδομένα υγείας. Αν ο χρήστης δεν μπορεί να επικυρώσει την αξίωση, δεν είναι εγγύηση – είναι μάρκετινγκ.

Η επικυρώσιμη ιδιωτικότητα είναι διαφορετική. Δεν εμπιστεύεστε τις προθέσεις του χειριστή. Επικυρώστε το υλικό, την εικόνα λογισμικού και τις εγγυήσεις χειρισμού δεδομένων. Η κρυπτογράφηση επιβάλλει τα όρια. Οι καταγραφές δεν υπάρχουν για κάποιον να τις διαρρεύσει ή να τις καλέσει.

Όταν η ιδιωτικότητα είναι επικυρώσιμη από τον χρήστη, δημιουργείτε ένα θεμελιωδώς ασφαλέστερο σύστημα. Είναι ευθύνη που βασίζεται στα μαθηματικά.

Η ανακοίνωση “Ιδιωτικό AI” της Google (GOOGL ) ήρθε λίγο μετά το OpenPCC. Δημόσια σας προκάλεσε να παρέχετε ένα TPU για ανεξάρτητο έλεγχο. Τι σας οδήγησε σε αυτή την πρόκληση και τι θα περιέμενε να βρείτε;

Για να ισχυριστούν εγγυήσεις ιδιωτικότητας, πρέπει να αφήσουν την κοινότητα να επικυρώσει αυτές τις εγγυήσεις. Η NVIDIA (NVDA ) ήδη επιτρέπει την εξωτερική επικύρωση στα H100 GPU της, και ακόμη και ανοίξαμε τον κώδικα της βιβλιοθήκης απόδειξης της για να ενθαρρύνουμε την υιοθέτηση.

Αν η Google θέλει να κάνει παρόμοιες υποσχέσεις σε TPUs, πρέπει να μπορούμε να μετρήσουμε και να επικυρώσουμε αυτές τις υποσχέσεις, όχι απλά να διαβάσουμε γι’ αυτές σε ένα blog post. Θα ψάχναμε για τους ίδιους ελέγχους που περιμένουμε από κάθε σύστημα ιδιωτικότητας: αυστηρά όρια διατήρησης δεδομένων, επικυρώσιμη απόδειξη και keine κρυφές διαδρομές όπου οι καταγραφές ή η τηλεμετρία διαφεύγουν. Οι αξίωσεις ιδιωτικότητας πρέπει να επιβιώσουν της σκληρής κριτικής.

Για τους αναγνώστες που δεν είναι εξοικειωμένοι με τα μηχανικά, τι κάνει τους πλήρως κρυπτογραφημένους канάλια του OpenPCC διαφορετικούς από την παραδοσιακή κρυπτογράφηση πλευράς πελάτη ή την εμπιστευτική επεξεργασία;

Η κρυπτογράφηση πλευράς πελάτη προστατεύει τα δεδομένα κατά την είσοδο, και η εμπιστευτική επεξεργασία τα προστατεύει κατά την επεξεργασία, αλλά υπάρχουν ακόμη κενά πριν και μετά όπου οι χειριστές ή οι επιτιθέμενοι μπορούν να αποκτήσουν ευαίσθητες πληροφορίες.

Το OpenPCC κλείνει αυτά τα κενά. Δημιουργεί μια σφραγισμένη διαδρομή από άκρο σε άκρο μεταξύ του πελάτη και του μοντέλου που προστατεύει την προτροπή, την απόκριση, την ταυτότητα του χρήστη και ακόμη και τα μεταδεδομένα ή τα σήματα χρονισμού που μπορούν να αποκαλύψουν σιωπηλά την πρόθεση. Οι χειριστές δεν μπορούν να αποκρυπτογραφήσουν τίποτα. Τίποτα δεν καταγράφεται ή διατηρείται, ακόμη και υπό συνθήκες παραβίασης.

Η ιδιωτικότητα δεν πρέπει να εξαρτάται από την ελπίδα ότι ο πάροχος κάνει το σωστό πίσω από τις σκηνές. Πρέπει να επιβάλλεται κρυπτογραφικά.

Πώς αλλάζει η επικυρώσιμη ιδιωτικότητα την εξίσωση για τις ρυθμισμένες βιομηχανίες όπως η finance, η υγεία και η άμυνα;

Οι ρυθμισμένες βιομηχανίες έχουν το περισσότερο να κερδίσουν από το AI, αλλά επίσης και το περισσότερο να χάσουν αν κάτι διαρρεύσει. Σήμερα, το 78% των υπαλλήλων επικόλλησαν εσωτερικά δεδομένα σε εργαλεία AI, και μια στις πέντε περιπτώσεις περιλαμβάνει ρυθμισμένες πληροφορίες όπως PHI ή PCI. Η έκθεση ήδη συμβαίνει.

Η επικυρώσιμη ιδιωτικότητα αφαιρεί τον μεγαλύτερο αποκλεισμό. Οι ευαίσθητες προτροπές δεν υπάρχουν σε κρυφό κείμενο μέσα στο περιβάλλον του παρόχου μοντέλου. Τίποτα δεν μπορεί να χρησιμοποιηθεί για εκπαίδευση. Ακόμη και νόμιμες αιτήσεις δεν μπορούν να αποκτήσουν πρόσβαση σε αυτό που το σύστημα zelf δεν μπορεί να δει.

Οι ομάδες κινδύνου και συμμόρφωσης έχουν τελικά μια διαδρομή όπου “ναι” γίνεται η προεπιλογή αντί για “όχι”.

Τι ήταν τα μεγαλύτερα προκλήματα μηχανικής στην σχεδίαση ενός νεφελικού επιπέδου ιδιωτικότητας που λειτουργεί σε οποιαδήποτε επιχειρηματική στοίβα;

Η εμπιστευτική επεξεργασία και η απόσταση attestation είναι ακόμη στην παιδική ηλικία, κατά την γνώμη μου. Κάθε πάροχος νεφελικής και bare metal κάνει κάτι ελαφρώς διαφορετικό. Ορισμένοι πάροχοι, όπως η AWS, δεν έχουν ακόμη το απαραίτητο υλικό για να το κάνουν. Έτσι, κάθε χαρακτηριστικό που προστίθεται είναι σαν 1000 κοψίματα και περπάτημα σε ένα στενό σχοινί. Αλλά ολόκληρος ο σκοπός είναι να γίνει ένα ανοιχτό πρότυπο, ώστε να πρέπει να το κάνουμε να λειτουργεί για την στοίβα νεφελικής οποιουδήποτε. Είναι ανοιχτό, ώστε να ενθαρρύνω τους ανθρώπους να προσθέσουν ακόμη περισσότερες υποστηριζόμενες πλατφόρμες και ρυθμίσεις!

Τι είναι ένας κόσμος με προεπιλεγμένη επικυρώσιμη κρυπτογράφηση και πώς μπορεί να αναμορφώσει την ισορροπία της δύναμης μεταξύ επιχειρήσεων, παρόχων νεφελικής και παρόχων μοντέλων;

Οι επιχειρήσεις διατηρούν τον έλεγχο του πιο πολύτιμου περιουσιακού τους στοιχείου: τα δεδομένα τους. Οι πάροχοι μοντέλων ανταγωνίζονται σε απόδοση και κόστος αντί για ποιος μπορεί να συσσωρευσει τις περισσότερες ιδιωτικές πληροφορίες. Τα νεφελικά ενεργοποιούν την ιδιωτικότητα αντί να είναι σιωπηλοί παρατηρητές της.

Είναι μια υγεστέρα ισορροπία της δύναμης. Και ολόκληρη η οικοσυστήματος κερδίζει όταν η ασφάλεια είναι χτισμένη στην βάση αντί να είναι επιθεωρημένη στην κορυφή.

Σε ένα μέλλον όπου το AI γίνεται πανταχού παρόν και ρυθμισμένο, πώς βλέπετε την επικυρώσιμη ιδιωτικότητα να αναμορφώνει το ανταγωνιστικό τοπίο για τις επιχειρήσεις, τους παρόχους νεφελικής και τους dévelopers μοντέλων;

Οι ρυθμιστές έχουν ήδη αρχίσει να ερωτούν πώς αποθηκεύονται και χρησιμοποιούνται τα δεδομένα των χρηστών. Η εμπιστοσύνη-βασισμένη ιδιωτικότητα δεν θα ικανοποιήσει για πολύ. Οι χρήστες θα περιμένουν εγγυήσεις ιδιωτικότητας όπως περιμένουν κρυπτογράφηση σε εφαρμογές μηνυμάτων σήμερα.

Οι νικητές θα είναι οι εταιρείες που δεν ζητούν από τους χρήστες να συμβιβαστούν. Αν μπορείτε να αποδείξετε την ιδιωτικότητα, κερδίζετε την εμπιστοσύνη των οργανισμών που έχουν τα πιο πολύτιμα δεδομένα στον κόσμο. Τα δεδομένα γίνονται χρήσιμα σε μέρη όπου έχουν κλειδωθεί.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν Confident Security.