David Maher, CTO της Intertrust – Συνέντευξη Σειράς

David Maher υπηρετεί ως Εκτελεστικός Αντιπρόεδρος και Αρχισύμβουλος Τεχνολογίας της Intertrust. Με πάνω από 30 χρόνια εμπειρίας σε συστήματα διανομής που εμπιστεύονται, ασφαλή συστήματα και διαχείριση κινδύνων, ο Dave έχει ηγηθεί των προσπαθειών έρευνας και ανάπτυξης και έχει κατέχει βασικές ηγετικές θέσεις σε όλη την εταιρεία. Ήταν πρόεδρος της Seacert Corporation, μια Αρχή Πιστοποίησης για ψηφιακά μέσα και IoT, και πρόεδρος της whiteCryption Corporation, μιας εταιρείας που αναπτύσσει συστήματα για αυτοάμυνα λογισμικού. Υπηρέτησε επίσης ως συνπρόεδρος του Marlin Trust Management Organization (MTMO), το οποίο εποπτεύει τον μόνο ανεξάρτητο ψηφιακό κόσμο διαχείρισης ψηφιακών δικαιωμάτων.

Intertrust ανέπτυξε καινοτομίες που επιτρέπουν στα συστήματα διανομής να ασφαλίζουν και να κυβερνούν δεδομένα και υπολογισμούς σε ανοιχτά δίκτυα, με αποτέλεσμα την απόκτηση eines θεμελιώδους πατέντος για την αξιόπιστη διανομή υπολογισμών.

Αρχικά, η Intertrust είχε τις ρίζες της στην έρευνα, αλλά έχει εξελιχθεί σε μια εταιρεία που προσφέρει υπηρεσίες υπολογισμού που ενώνουν τις λειτουργίες συσκευών και δεδομένων, ιδιαίτερα για IoT και AI. Οι αγορές της περιλαμβάνουν τη διανομή μέσων, την ταυτοποίηση και πιστοποίηση συσκευών, τη διαχείριση ψηφιακής ενέργειας, την ανάλυση και την ασφάλεια αποθήκευσης cloud.

Πώς μπορούμε να κλείσουμε το χάσμα εμπιστοσύνης της AI και να αντιμετωπίσουμε τις αυξανόμενες ανησυχίες του κοινού σχετικά με την ασφάλεια και την αξιοπιστία της AI;

Η διαφάνεια είναι η πιο σημαντική ποιότητα που πιστεύω ότι θα βοηθήσει στην αντιμετώπιση των αυξανόμενων ανησυχιών σχετικά με την AI. Η διαφάνεια περιλαμβάνει χαρακτηριστικά που βοηθούν τους καταναλωτές και τους τεχνολόγους να κατανοήσουν ποια μηχανισμοί AI αποτελούν μέρος των συστημάτων με τα οποία αλληλεπιδρούμε, ποια είναι η προέλευσή τους: πώς εκπαιδεύεται ένα μοντέλο AI, ποια είναι τα φράγματα ασφαλείας που υπάρχουν, ποίες πολιτικές εφαρμόστηκαν κατά την ανάπτυξη του μοντέλου και ποίες άλλες εγγυήσεις υπάρχουν για την ασφάλεια και την ασφάλεια ενός δεδομένου μηχανισμού. Με μεγαλύτερη διαφάνεια, θα μπορέσουμε να αντιμετωπίσουμε πραγματικούς κινδύνους και προβλήματα και να μην αποσπάσουμε την προσοχή μας από άλογες φόβους και εικασίες.

Τι ρόλο παίζει η πιστοποίηση μεταδεδομένων στην εξασφάλιση της αξιοπιστίας των εξόδων της AI;

Η πιστοποίηση μεταδεδομένων βοηθά στην αύξηση της εμπιστοσύνης μας ότι οι εγγυήσεις για ένα μοντέλο AI ή άλλο μηχανισμό είναι αξιόπιστες. Μια κάρτα μοντέλου AI είναι ένα παράδειγμα συλλογής μεταδεδομένων που μπορεί να βοηθήσει στην αξιολόγηση της χρήσης ενός μηχανισμού AI (μοντέλου, πράκτορα κ.λπ.) για einen συγκεκριμένο σκοπό. Πρέπει να καθορίσουμε πρότυπα για τη σαφήνεια και την πληρότητα για τις κάρτες μοντέλων με πρότυπα για ποσοτικές μετρήσεις και πιστοποιημένες δηλώσεις σχετικά με την απόδοση, την προκατάληψη, τις ιδιότητες των δεδομένων εκπαίδευσης κ.λπ.

Πώς μπορούν οι οργανισμοί να μετριάσουν τον κίνδυνο της προκατάληψης και των ψευδαισθήσεων της AI σε μεγάλους μοντέλους γλωσσών (LLM);

Η τεχνική του “red teaming” είναι μια γενική προσέγγιση για την αντιμετώπιση αυτών και άλλων κινδύνων κατά την ανάπτυξη και πριν από την κυκλοφορία των μοντέλων. Αρχικά χρησιμοποιήθηκε για την αξιολόγηση ασφαλών συστημάτων, η προσέγγιση αυτή γίνεται τώρα τυποποιημένη για συστήματα που βασίζονται στην AI. Είναι μια συστημική προσέγγιση για τη διαχείριση κινδύνων που μπορεί και πρέπει να περιλαμβάνει όλο το κύκλο ζωής ενός συστήματος, από την αρχική ανάπτυξη έως την ανάπτυξη πεδίου, καλύπτοντας όλη την αλυσίδα εφοδιασμού της ανάπτυξης. Ιδιαίτερα κρίσιμο είναι η ταξινόμηση και πιστοποίηση των δεδομένων εκπαίδευσης που χρησιμοποιούνται για ένα μοντέλο.

Ποια βήματα μπορούν να thựcήσουν οι εταιρείες για να δημιουργήσουν διαφάνεια στα συστήματα AI και να μειώσουν τους κινδύνους που σχετίζονται με το “μαύρο κουτί”;

Κατανοήστε πώς η εταιρεία θα χρησιμοποιήσει το μοντέλο και ποια είναι τα είδη ευθυνών που μπορεί να έχει κατά την ανάπτυξη, είτε για εσωτερική χρήση είτε για χρήση από πελάτες, είτε trực tiếp είτε έμμεσα. Στη συνέχεια, κατανοήστε ποια είναι τα “πεδία” των μηχανισμών AI που θα αναπτυχθούν, συμπεριλαμβανομένων των δηλώσεων σε μια κάρτα μοντέλου, των αποτελεσμάτων των δοκιμών “red team”, της διαφορικής ανάλυσης στη συγκεκριμένη χρήση της εταιρείας, τι έχει αξιολογηθεί正式ικά και τι έχουν άλλες εμπειρίες. Η εσωτερική δοκιμή με ένα綜合的な σχέδιο δοκιμών σε ένα ρεαλιστικό περιβάλλον είναι απολύτως απαραίτητη. Οι beste πρακτικές εξελίσσονται σε αυτό το νέο τομέα, इसलिए είναι σημαντικό να παραμείνουμε ενημερωμένοι.

Πώς μπορούν τα συστήματα AI να σχεδιαστούν με ηθικές οδηγίες στο μυαλό και ποιοι είναι οι προκλήσεις στην επίτευξη αυτού σε διαφορετικές βιομηχανίες;

Αυτό είναι ένα πεδίο έρευνας και πολλοί ισχυρίζονται ότι η έννοια της ηθικής και οι τρέχουσες εκδοχές της AI είναι ασύμβατες, поскольку η ηθική βασίζεται σε концепτούς και τα μηχανήματα AI είναι κυρίως δεδομένα-κίνητα. Για παράδειγμα, απλές κανόνες που κατανοούν οι άνθρωποι, όπως “μην κλέβεις”, είναι δύσκολο να εξασφαλιστούν. Ωστόσο, η προσεκτική ανάλυση των αλληλεπιδράσεων και των συγκρούσεων στόχων στη μάθηση με βάση τους στόχους, η αποβολή αμφισβητούμενων δεδομένων και ψευδών πληροφοριών και η κατασκευή κανόνων που απαιτούν τη χρήση φίλτρων εξόδου που επιβάλλουν φράγματα και ελέγχουν τις παραβιάσεις των ηθικών αρχών, όπως η προώθηση ή η συμπόνηση της χρήσης βίας στα περιεχόμενα εξόδου, πρέπει να ληφθούν υπόψη. Παρόμοια, η αυστηρή δοκιμή για προκατάληψη μπορεί να βοηθήσει στην ευθυγράμμιση ενός μοντέλου με ηθικές αρχές. Πάλι, πολύ από αυτό μπορεί να είναι концептуαλ,所以 πρέπει να δοθεί προσοχή για να δοκιμάσουμε τις επιπτώσεις μιας δεδομένης προσέγγισης, поскольку το μηχάνημα AI δεν “καταλαβαίνει” τις οδηγίες με τον ίδιο τρόπο που οι άνθρωποι.

Τι είναι οι κρίσιμες προκλήσεις που αντιμετωπίζει η AI στο μέλλον, ιδιαίτερα καθώς ενσωματώνεται περισσότερο με συστήματα IoT;

Θέλουμε να χρησιμοποιήσουμε την AI για να αυτοματοποιήσουμε συστήματα που βελτιστοποιούν κρίσιμες διαδικασίες υποδομής. Για παράδειγμα, γνωρίζουμε ότι μπορούμε να βελτιστοποιήσουμε τη διανομή και τη χρήση ενέργειας χρησιμοποιώντας εικονικά εργοστάσια ηλεκτρικής ενέργειας, τα οποία συντονίζουν χιλιάδες στοιχεία παραγωγής, αποθήκευσης και χρήσης ενέργειας. Αυτό είναι δυνατό μόνο με τη μαζική αυτοματοποίηση και τη χρήση της AI για τη βοήθεια στη λήψη αποφάσεων. Τα συστήματα θα περιλαμβάνουν πράκτορες με αντικρουόμενα αντικείμενα βελτιστοποίησης (π.χ. για το όφελος του καταναλωτή έναντι του προμηθευτή). Η ασφάλεια και η ασφάλεια της AI θα είναι κρίσιμες στη ευρεία ανάπτυξη τέτοιων συστημάτων.

Τι είδους υποδομής χρειάζεται για να αναγνωρίσει και να πιστοποιήσει οντότητες στα συστήματα AI;

Θα χρειαζόμαστε μια ροβούστα και αποτελεσματική υποδομή με την οποία οι οντότητες που συμμετέχουν στην αξιολόγηση όλων των аспектών των συστημάτων AI και της ανάπτυξής τους μπορούν να δημοσιεύσουν εξουσιοδοτημένες και αυθεντικές δηλώσεις σχετικά με τα συστήματα AI, την προέλευσή τους, τα διαθέσιμα δεδομένα εκπαίδευσης, την προέλευση των δεδομένων αισθητήρων, τα περιστατικά και τα γεγονότα που επηρεάζουν την ασφάλεια κ.λπ. Αυτή η υποδομή θα πρέπει επίσης να κάνει αποτελεσματική την επαλήθευση των δηλώσεων και των ισχυρισμών από τους χρήστες των συστημάτων που περιλαμβάνουν μηχανισμούς AI και από τα στοιχεία εντός των αυτοματοποιημένων συστημάτων που λαμβάνουν αποφάσεις με βάση τις εξόδους των μοντέλων AI και των βελτιστοποιητών.

Μπορείτε να μοιραστείτε μαζί μας κάποιες εικόνες σχετικά με το τι δουλεύετε στην Intertrust και πώς συνεισφέρει σε αυτά που έχουμε συζητήσει;

Ερευνάμε και σχεδιάζουμε τεχνολογία που μπορεί να παρέχει την υποδομή διαχείρισης εμπιστοσύνης που απαιτείται στην προηγούμενη ερώτηση. Ειδικότερα, αντιμετωπίζουμε τα ζητήματα κλίμακας, καθυστέρησης, ασφάλειας και διαλειτουργικότητας που προκύπτουν στα συστήματα IoT που περιλαμβάνουν συνιστώσες AI.

Πώς η υπηρεσία PKI (Δημόσιου Κλειδιού) της Intertrust ασφαλίζει τις συσκευές IoT και τι την κάνει κλιμακωτή για μεγάλης κλίμακας αναπτύξεις;

Η υπηρεσία PKI μας σχεδιάστηκε ειδικά για τη διαχείριση εμπιστοσύνης για συστήματα που περιλαμβάνουν τη διακυβέρνηση συσκευών και ψηφιακού περιεχομένου. Έχουμε αναπτύξει δισεκατομμύρια κρυπτογραφικά κλειδιά και πιστοποιητικά που εγγυώνται τη συμμόρφωση. Η τρέχουσα έρευνά μας αντιμετωπίζει την κλίμακα και τις εγγυήσεις που απαιτούνται από την μαζική βιομηχανική αυτοματοποίηση και την κρίσιμη παγκόσμια υποδομή, συμπεριλαμβανομένων των besten πρακτικών για αναπτύξεις “zero-trust” και πιστοποίηση συσκευών και δεδομένων που μπορούν να φιλοξενήσουν τρισεκατομμύρια αισθητήρες και γεννήτορες συμβάντων.

Τι σας ώθησε να ενταχθείτε στις πρωτοβουλίες AI του NIST και πώς η συμμετοχή σας συνεισφέρει στην ανάπτυξη αξιόπιστων και ασφαλών προτύπων AI;

Το NIST έχει μεγάλη εμπειρία και επιτυχία στην ανάπτυξη προτύπων και besten πρακτικών σε ασφαλή συστήματα. Jako Principal Investigator για το US AISIC από την Intertrust, μπορώ να υποστηρίξω σημαντικά πρότυπα και besten πρακτικές στην ανάπτυξη συστημάτων διαχείρισης εμπιστοσύνης που περιλαμβάνουν μηχανισμούς AI. Από προηγούμενη εμπειρία, ιδιαίτερα εκτιμώ την προσέγγιση που ακολουθεί το NIST για την προώθηση της δημιουργικότητας, της πρόοδου και της βιομηχανικής συνεργασίας ενώ βοηθά στην ανάπτυξη και την προώθηση σημαντικών τεχνικών προτύπων που προάγουν τη διαλειτουργικότητα. Αυτά τα πρότυπα μπορούν να προωθήσουν την υιοθέτηση ωφέλιμων τεχνολογιών ενώ αντιμετωπίζουν τους κινδύνους που αντιμετωπίζει η κοινωνία.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Intertrust.