Η Cohere λανσάρει την εμπιστευτική υπολογιστική στο Model Vault σε δημόσια δοκιμαστική έκδοση

Στις 22 Οκτωβρίου 2026, η Cohere ανακοίνωσε τη δημόσια δοκιμαστική έκδοση της Εμπιστευτικής Υπολογιστικής στο Cohere Model Vault, την ειδική, πλήρως διαχειριζόμενη πλατφόρμα της για την εξαγωγή συμπερασμάτων από μοντέλα, η οποία λειτουργεί σε GPU NVIDIA H100 στο Microsoft Azure και απευθύνεται σε επιχειρήσεις που επεξεργάζονται ευαίσθητα δεδομένα.

Η διάθεση επεκτείνει το Model Vault σε φόρτους εργασίας που αφορούν κλινικά αρχεία, οικονομικά στοιχεία, έγγραφα που καλύπτονται από νομικό απόρρητο, πνευματική ιδιοκτησία και ιδιόκτητο πηγαίο κώδικα. Η Cohere ανέφερε ότι στόχος είναι να μπορούν οι επιχειρήσεις να αξιοποιούν τις δυνατότητες και την απλότητα λειτουργίας της διαχειριζόμενης τεχνητής νοημοσύνης, διατηρώντας παράλληλα τα ευαίσθητα δεδομένα τους σε μορφή απλού κειμένου απρόσιτα στην υποδομή που εκτελεί την υπηρεσία. Η εταιρεία αναφέρει ως πιθανούς φόρτους εργασίας τις έρευνες για απάτες στον χρηματοπιστωτικό τομέα, την αναζήτηση εγγράφων που καλύπτονται από νομικό απόρρητο και τη δέουσα επιμέλεια για νομικές ομάδες, ευαίσθητες πληροφορίες του δημόσιου τομέα, υλικό για διπλώματα ευρεσιτεχνίας και έρευνα, ιδιόκτητα έγγραφα μηχανικής και σχεδιασμού διεπαφών, καθώς και την αναζήτηση και ανάλυση ιδιόκτητου πηγαίου κώδικα.

Στο πλαίσιο της κατανομής αρμοδιοτήτων της δοκιμαστικής έκδοσης, το Microsoft Azure παρέχει την υποκείμενη υποδομή εμπιστευτικής υπολογιστικής, το NVIDIA Confidential Computing επεκτείνει αυτή την προστασία στις GPU H100 και η Cohere παρέχει διαχειριζόμενη εξυπηρέτηση μοντέλων, κρυπτογραφημένη διαδρομή αιτημάτων, απομακρυσμένη πιστοποίηση και επαλήθευση από την πλευρά του πελάτη μέσω του Model Vault. Σύμφωνα με την εταιρεία, οι πελάτες μπορούν να δημιουργούν και να διαχειρίζονται κρυπτογραφημένα θησαυροφυλάκια μέσω του Model Vault, να συνδέονται σε αυτά μέσω των ίδιων API της Cohere και να ξεκινήσουν από τη διεύθυνση vault.cohere.com.

Εμπιστευτική εκτέλεση και κρυπτογραφημένη διαδρομή αιτημάτων

Η εμπιστευτική υπολογιστική προστατεύει τα δεδομένα κατά τη χρήση, δηλαδή τις πληροφορίες την ώρα που ένα μοντέλο τις επεξεργάζεται ενεργά· πρόκειται για μια τρίτη κατάσταση, πέρα από τα δεδομένα σε αποθήκευση και κατά τη μεταφορά, τα οποία καλύπτει παραδοσιακά η κρυπτογράφηση. Στο Model Vault, η στοίβα εξυπηρέτησης μοντέλων, η οποία περιλαμβάνει το λειτουργικό σύστημα, τα προγράμματα οδήγησης και τον διακομιστή εξαγωγής συμπερασμάτων, εκτελείται μέσα σε μια εμπιστευτική εικονική μηχανή. Εκεί, η απομόνωση που βασίζεται στο υλικό προστατεύει τη μνήμη της από το περιβάλλον του κεντρικού υπολογιστή, ενώ οι πολιτικές περιορίζουν το περιβάλλον σε εγκεκριμένο λογισμικό και δεν παρέχουν στους διαχειριστές διαδραστική πρόσβαση στον φόρτο εργασίας που εκτελείται, σύμφωνα με μια εκτενή τεχνική ανάλυση που δημοσίευσε η Cohere παράλληλα με την ανακοίνωση της διάθεσης. Το NVIDIA Confidential Computing προστατεύει τη μνήμη της GPU και κρυπτογραφεί την κίνηση μεταξύ CPU και GPU, ώστε το όριο εμπιστευτικότητας να περιλαμβάνει τον επιταχυντή που εκτελεί την εξαγωγή συμπερασμάτων και να μην σταματά στην CPU που τη συντονίζει.

Το ίδιο το αίτημα προστατεύεται ξεχωριστά. Το Model Vault χρησιμοποιεί το Oblivious HTTP, ή OHTTP, για να κρυπτογραφεί το ευαίσθητο περιεχόμενο ενός αιτήματος με δημόσιο κλειδί που αντιστοιχεί στο πιστοποιημένο εμπιστευτικό περιβάλλον. Το κρυπτογραφημένο μήνυμα διέρχεται από ενδιάμεσες υποδομές ως κρυπτοκείμενο· μόνο η πύλη OHTTP μέσα στο περιβάλλον διαθέτει το αντίστοιχο ιδιωτικό κλειδί, ενώ και οι απαντήσεις προστατεύονται με τον ίδιο τρόπο κατά την επιστροφή τους. Η Cohere αναφέρει ότι έτσι διαχωρίζεται η λειτουργία της πλατφόρμας από τη δυνατότητα ανάγνωσης όσων αποστέλλουν οι πελάτες μέσω αυτής, καθώς οι ενδιάμεσοι φορείς μπορούν να δρομολογούν την κίνηση χωρίς να βλέπουν τα φορτία δεδομένων σε απλό κείμενο. Οι εφαρμογές εξακολουθούν να χρησιμοποιούν το API του Model Vault και τις οικείες μορφές αιτημάτων, καθώς η προστασία υλοποιείται στα επίπεδα του προγράμματος-πελάτη και της υποδομής, χωρίς να απαιτείται ανασχεδιασμός των φορτίων δεδομένων.

Η απομακρυσμένη πιστοποίηση ως ενεργός μηχανισμός ελέγχου

Πριν από την αποστολή ενός προστατευμένου αιτήματος, το εμπιστευτικό περιβάλλον δημιουργεί κρυπτογραφικά υπογεγραμμένα αποδεικτικά στοιχεία, τα οποία καταγράφουν μετρήσεις και ιδιότητες ασφαλείας που σχετίζονται με το υλικό, το υλικολογισμικό, το περιβάλλον λειτουργίας και το λογισμικό εφαρμογών του. Στη συνέχεια, λογισμικό στην πλευρά του πελάτη ελέγχει τα στοιχεία αυτά με βάση μια εγκεκριμένη πολιτική. Τα αποδεικτικά στοιχεία καταγράφουν ποιο περιβάλλον εκτελείται στην πράξη· η πολιτική καθορίζει αν πρέπει να θεωρείται αξιόπιστο για τη διαχείριση των δεδομένων. Αν κάποια απαιτούμενη ιδιότητα δεν συμφωνεί —για παράδειγμα, αν έχει αλλάξει μια μέτρηση λογισμικού ή αν μια GPU δεν βρίσκεται στην αναμενόμενη εμπιστευτική λειτουργία—, το πρόγραμμα-πελάτης αποτυγχάνει στην επαλήθευση, αρνείται να μεταδώσει το φορτίο δεδομένων και το αίτημα παραμένει στο περιβάλλον του ίδιου του πελάτη. Τα αποδεικτικά στοιχεία ανανεώνονται συχνά και, κάθε φορά πριν συνεχίσει να στέλνει προστατευμένα αιτήματα, το πρόγραμμα-πελάτης επανελέγχει τις νέες μετρήσεις και την κατάσταση ασφαλείας με βάση την εγκεκριμένη πολιτική. Όπως περιγράφει η Cohere, έτσι η πιστοποίηση μετατρέπεται από αρχείο που τηρείται για ελέγχους σε μηχανισμό ελέγχου που αποφασίζει ενεργά αν θα αποδεσμευτούν προστατευμένα δεδομένα.

Στην ανακοίνωση της Cohere για τη διάθεση, ο CTO Phil Blunsom δήλωσε: «Με την πιστοποίηση μέσω υλικού, οι πελάτες δεν έχουν μόνο κρυπτογραφικές αποδείξεις ότι οι φόρτοι εργασίας εκτελούνται σε ασφαλές, εμπιστευτικό υπολογιστικό περιβάλλον· μπορούν επίσης να επαληθεύσουν ότι τα δεδομένα τους προστατεύονται από μη εξουσιοδοτημένη πρόσβαση, ακόμη και από την ίδια την Cohere». Ο Vikas Bhatia, επικεφαλής προϊόντος για το Azure Confidential Computing στη Microsoft, δήλωσε ότι η συνεργασία με την Cohere δείχνει πώς η εμπιστευτική υπολογιστική μπορεί να συνδυάσει την απλότητα της διαχειριζόμενης τεχνητής νοημοσύνης με τεχνικούς ελέγχους που μπορούν να επαληθευτούν ανεξάρτητα. Ο John Fanelli, αντιπρόεδρος επιχειρηματικού λογισμικού στη NVIDIA, δήλωσε ότι το NVIDIA Confidential Computing στις GPU της προσφέρει προστασίες που βασίζονται στο υλικό και βοηθούν πλατφόρμες όπως το Model Vault να διαθέτουν εμπιστευτική εξαγωγή συμπερασμάτων μέσω τεχνητής νοημοσύνης για επιχειρηματικούς φόρτους εργασίας.

Μοντέλο απειλών, ρητοί περιορισμοί και σχέδια για λογισμικό ανοικτού κώδικα

Στο πλαίσιο του μοντέλου απειλών που περιγράφει, το σύστημα προστατεύει τα prompts, τα έγγραφα, τις απαντήσεις και την εκτέλεση του μοντέλου κατά την επεξεργασία, ενώ ο πάροχος cloud, το λειτουργικό σύστημα του κεντρικού υπολογιστή, ο hypervisor, οι διαχειριστές της υποδομής και οι ίδιοι οι χειριστές της Cohere δεν μπορούν να διαβάσουν τη μνήμη των προστατευμένων φόρτων εργασίας. Η βάση αξιόπιστης υπολογιστικής εξακολουθεί να περιλαμβάνει το υλικό και το firmware που παρέχουν τη θεμελίωση της εμπιστευτικής υπολογιστικής, το λογισμικό μετρημένης διαμόρφωσης που εκτελείται μέσα στο περιβάλλον, τις μετρήσεις αναφοράς που ορίζουν μια εγκεκριμένη διαμόρφωση και την υποδομή βεβαίωσης που αξιολογεί και υπογράφει τα αποδεικτικά στοιχεία. Η Cohere αναφέρει ότι ο σχεδιασμός περιορίζει όσα πρέπει να θεωρούνται αξιόπιστα σε ένα σαφώς ορισμένο σύνολο στοιχείων που παράγουν μετρήσιμα και επαληθεύσιμα αποδεικτικά στοιχεία.

Η Cohere διευκρινίζει επίσης τι εξαιρείται από τα όρια της προστασίας. Οι φυσικές επιθέσεις και οι επιθέσεις πλευρικού καναλιού, όπως η εξαγωγή πληροφοριών από τον χρονισμό ή από άλλες συμπεριφορές κοινόχρηστου υλικού, παραμένουν εκτός του πεδίου της. Επιπλέον, ένας χειριστής που δεν μπορεί να διαβάσει έναν φόρτο εργασίας εξακολουθεί να μπορεί να τον διακόψει, να τον καθυστερήσει ή να εμποδίσει την εκτέλεσή του· επομένως, ο σχεδιασμός δεν παρέχει από μόνος του καμία εγγύηση διαθεσιμότητας. Η εκτέλεση του λογισμικού σε υλικό εμπιστευτικής υπολογιστικής δεν αντιμετωπίζει κινδύνους σε επίπεδο εφαρμογής, όπως την έγχυση εντολών σε prompts, τη μη ασφαλή χρήση εργαλείων, τα σφάλματα εξουσιοδότησης και άλλες ευπάθειες λογισμικού.

Τα παρατηρήσιμα μεταδεδομένα αποτελούν έναν ακόμη περιορισμό: παρότι τα περιεχόμενα των φορτίων δεδομένων είναι κρυπτογραφημένα, το μέγεθος των μηνυμάτων, ο χρονισμός των αιτημάτων, ο όγκος της κίνησης και οι λεπτομέρειες δρομολόγησης παραμένουν ορατά. Στην τρέχουσα αρχιτεκτονική, τα διαπιστευτήρια API και το αναγνωριστικό του μοντέλου βρίσκονται επίσης εκτός του φορτίου δεδομένων που προστατεύεται από το OHTTP. Η εταιρεία δηλώνει ότι η εμπιστευτική υπολογιστική δεν αντικαθιστά την ασφάλεια εφαρμογών, δεν αποτελεί μηχανισμό διασφάλισης της παραμονής των δεδομένων σε συγκεκριμένη τοποθεσία, δεν υποκαθιστά τους ελέγχους συμμόρφωσης ή τις συμβατικές δικλίδες και δεν είναι ομομορφική κρυπτογράφηση, καθώς το μοντέλο εξακολουθεί να λειτουργεί με απλό κείμενο μέσα στο προστατευμένο περιβάλλον.

Η υλοποίηση βασίζεται στα έργα ανοιχτού κώδικα Kata Containers και Confidential Containers, ενώ η Cohere δήλωσε ότι σχεδιάζει να διαθέσει τον σωρό λογισμικού για εμπιστευτική συναγωγή ως λογισμικό ανοιχτού κώδικα. Έτσι, οι πελάτες και οι ερευνητές ασφάλειας θα μπορούν να εξετάζουν τον κώδικα, να βλέπουν ποιες πολιτικές εφαρμόζονται και να αναπαράγουν ανεξάρτητα τις μετρήσεις επαλήθευσης. Η beta λειτουργεί προς το παρόν σε GPU NVIDIA H100 στο Microsoft Azure, ενώ η Cohere δήλωσε ότι βρίσκεται σε εξέλιξη η υποστήριξη για την υποδομή NVIDIA Blackwell, συμπεριλαμβανομένων των GPU B200, ενόψει της γενικής διαθεσιμότητας.