Jonathan Dambrot, Διευθύνων Σύμβουλος και Συνιδρυτής της Cranium AI – Σειρά συνεντεύξεων

Ο Jonathan Dambrot είναι ο Διευθύνων Σύμβουλος και Συνιδρυτής της Cranium AI, μια επιχείρηση που βοηθά τις ομάδες κυβερνοασφάλειας και επιστημών δεδομένων να εντοπίσουν όλα τα σημεία όπου η τεχνητή νοημοσύνη επηρεάζει τα συστήματά τους, τα δεδομένα ή τις υπηρεσίες τους.

Ο Jonathan είναι πρώην συνεταίρος στην KPMG, ηγέτης της βιομηχανίας κυβερνοασφάλειας και οραματιστής. Πριν από την KPMG, οδήγησε την Prevalent να γίνει ηγέτης της βιομηχανίας στην διαχείριση κινδύνου τρίτων μερών σύμφωνα με τους Gartner και Forrester, πριν από την πώλησή της στην Insight Venture Partners στα τέλη του 2016. Το 2019, ο Jonathan μετέφερε τον ρόλο του CEO στην Prevalent, καθώς η εταιρεία επιδιώκει να συνεχίσει την ανάπτυξή της υπό νέα ηγεσία. Έχει αναφερθεί σε πολλές εκδόσεις και μιλάει συχνά σε ομάδες πελατών σχετικά με τις τάσεις στις ΤΠ, την ασφάλεια της πληροφορίας και τη συμμόρφωση.

Μπορείτε να μοιραστείτε την ιστορία πίσω από την Cranium AI;

Είχα την ιδέα για την Cranium τον Ιούνιο του 2021, όταν ήμουν συνεταίρος στην KPMG και ηγέτης των υπηρεσιών ασφάλειας τρίτων μερών παγκοσμίως. Κατασκευάζαμε και παρείχαμε λύσεις που βασίζονταν στην τεχνητή νοημοσύνη για τους μεγαλύτερους πελάτες μας, και ανακάλυψα ότι δεν κάναμε τίποτα για να τις προστατεύσουμε από τις αντιπαλικές απειλές. Έτσι, ρώτησα τους ηγέτες ασφάλειας των μεγαλύτερων πελατών μας και οι απαντήσεις που έλαβα ήταν εξίσου άσχημες. Πολυάριθμες ομάδες ασφάλειας δεν είχαν μιλήσει ποτέ με τους επιστήμονες δεδομένων – μιλούσαν εντελώς διαφορετικές γλώσσες όταν ήρθε η ώρα της τεχνολογίας και τελικά δεν είχαν καθόλου ορατότητα στο AI που εκτελούνταν σε όλη την επιχείρηση. Όλα αυτά, σε συνδυασμό με την σταθερά αυξανόμενη ανάπτυξη των κανονισμών, ήταν το ερέθισμα για να χτίσουμε μια πλατφόρμα που θα μπορούσε να προσφέρει ασφάλεια στο AI. Αρχίσαμε να εργαζόμαστε με το KPMG Studio incubator και φέραμε μερικούς από τους μεγαλύτερους πελάτες μας ως συνεταίρους σχεδίασης για να καθοδηγήσουμε την ανάπτυξη και να ικανοποιήσουμε τις ανάγκες αυτών των μεγάλων επιχειρήσεων. Τον Ιανουάριο του τρέχοντος έτους, η Syn Ventures ήρθε για να ολοκληρώσει τη χρηματοδότηση Seed και ανεξαρτητοποιηθήκαμε από την KPMG τον Μάρτιο και παρουσιάσαμε δημόσια την εταιρεία τον Απρίλιο του 2023.

Τι είναι η Cranium AI Card και ποιες βασικές πληροφορίες αποκαλύπτει;

Η Cranium AI Card επιτρέπει στις οργανώσεις να συλλέγουν και να μοιράζονται αποτελεσματικά πληροφορίες σχετικά με την αξιοπιστία και τη συμμόρφωση των μοντέλων AI τους με τους πελάτες και τους ρυθμιστές και να αποκτήσουν ορατότητα στην ασφάλεια των συστημάτων AI των προμηθευτών τους. Τελικά, επιδιώκουμε να προσφέρουμε στις ομάδες ασφάλειας και συμμόρφωσης την ικανότητα να οραματίζουν και να παρακολουθούν την ασφάλεια του AI στην αλυσίδα εφοδιασμού τους, να ευθυγραμμίσουν τα δικά τους συστήματα AI με τις τρέχουσες και επερχόμενες απαιτήσεις συμμόρφωσης και πλαισίων και να μοιράζονται εύκολα ότι τα συστήματα AI τους είναι ασφαλή και αξιόπιστα.

Ποια είναι ορισμένα από τα ζητήματα εμπιστοσύνης που έχουν οι άνθρωποι με το AI που επιλύονται με αυτή τη λύση;

Οι άνθρωποι γενικά θέλουν να γνωρίζουν τι κρύβεται πίσω από το AI που χρησιμοποιούν, ιδιαίτερα καθώς ολοένα και περισσότερες από τις καθημερινές εργασίες τους επηρεάζονται με κάποιον τρόπο από το AI. Επιδιώκουμε να προσφέρουμε στους πελάτες μας την ικανότητα να απαντήσουν σε ερωτήσεις που θα λάβουν σύντομα από τους δικούς τους πελάτες, όπως «Πώς κυβερνάται;», «Τι γίνεται για την ασφάλεια των δεδομένων και των μοντέλων;» και «Έχει επικυρωθεί αυτή η πληροφορία;». Η κάρτα AI δίνει στις οργανώσεις έναν γρήγορο τρόπο να απαντήσουν σε αυτές τις ερωτήσεις και να αποδείξουν τόσο τη διαφάνεια όσο και την αξιοπιστία των συστημάτων AI τους.

Τον Οκτώβριο του 2022, το Γραφείο Επιστημονικής και Τεχνολογικής Πολιτικής του Λευκού Οίκου (OSTP) δημοσίευσε ένα Σχέδιο Διακήρυξης Δικαιωμάτων για την AI, το οποίο μοιράστηκε ένα μη δεσμευτικό οδικό χάρτη για την υπεύθυνη χρήση του AI. Μπορείτε να συζητήσετε τις προσωπικές σας απόψεις σχετικά με τα πλεονεκτήματα και τα μειονεκτήματα αυτού του σχεδίου;

Ενώ είναι εξαιρετικά σημαντικό ότι ο Λευκός Οίκος έκανε αυτό το πρώτο βήμα για να ορίσει τις οδηγίες για την υπεύθυνη χρήση του AI, δεν πιστεύουμε ότι πήγε αρκετά μακριά για να παρέχει οδηγίες για τις οργανώσεις και όχι μόνο για τα άτομα που ανησυχούν για την προσβολή μιας απόφασης που βασίζεται στο AI. Η μελλοντική ρυθμιστική καθοδήγηση πρέπει να είναι όχι μόνο για τους παρόχους συστημάτων AI, αλλά και για τους χρήστες, για να μπορέσουν να κατανοήσουν και να εκμεταλλευτούν αυτή την τεχνολογία με τρόπο ασφαλή και προστατευμένο από απειλές. Τελικά, το κύριο πλεονέκτημα είναι ότι τα συστήματα AI θα είναι ασφαλέστερα, πιο συμπεριληπτικά και πιο διαφανή. Ωστόσο, χωρίς ένα πλαίσιο βασισμένο στο ρίσκο για τις οργανώσεις να προετοιμαστούν για μελλοντικές ρυθμίσεις, υπάρχει η δυνατότητα για την επιβράδυνση του ρυθμού της καινοτομίας, ιδιαίτερα σε περιπτώσεις όπου η ικανοποίηση των απαιτήσεων διαφάνειας και εξηγήσιμότητας είναι τεχνικά αδύνατη.

Πώς βοηθά η Cranium AI τις εταιρείες να συμμορφωθούν με αυτή τη Διακήρυξη Δικαιωμάτων;

Η Cranium Enterprise βοηθά τις εταιρείες στην ανάπτυξη και την παράδοση συστημάτων ασφαλών και προστατευμένων από απειλές, το οποίο είναι η πρώτη βασική αρχή στη Διακήρυξη Δικαιωμάτων. Επιπλέον, η κάρτα AI βοηθά τις οργανώσεις να ικανοποιήσουν την αρχή της ειδοποίησης και της εξήγησης, επιτρέποντάς τους να μοιράζονται λεπτομέρειες σχετικά με το πώς λειτουργούν πραγματικά τα συστήματα AI τους και ποια δεδομένα χρησιμοποιούν.

Τι είναι το Πλαίσιο Διαχείρισης Κινδύνων AI της NIST και πώς θα βοηθήσει η Cranium AI τις επιχειρήσεις να εκπληρώσουν τις υποχρεώσεις συμμόρφωσης για αυτό το πλαίσιο;

Το Πλαίσιο Διαχείρισης Κινδύνων AI της NIST είναι ένα πλαίσιο για τις οργανώσεις να διαχειρίζονται καλύτερα τους κινδύνους για άτομα, οργανισμούς και κοινωνία που συνδέονται με την AI. Ακολουθεί μια πολύ παρόμοια δομή με τα άλλα πλαισιά της, περιγράφοντας τα αποτελέσματα ενός επιτυχούς προγράμματος διαχείρισης κινδύνων για το AI. Έχουμε χαρτογραφήσει την κάρτα AI μας στους στόχους που περιγράφονται στο πλαίσιο για να υποστηρίξουμε τις οργανώσεις στην παρακολούθηση του πώς τα συστήματα AI τους ευθυγραμμίζονται με το πλαίσιο και, δεδομένου ότι η πλατφόρμα μας έχει ήδη συλλέξει πολλές από αυτές τις πληροφορίες, μπορούμε να συμπληρώσουμε και να επικυρώσουμε αυτόματα ορισμένα από τα πεδία.

Ο Νόμος για την AI της ΕΕ είναι ένα από τα πιο σημαντικά νομοθετικά μέτρα AI που έχουμε δει στην πρόσφατη ιστορία. Γιατί οι εταιρείες εκτός ΕΕ πρέπει να συμμορφωθούν με αυτό;

Παρόμοια με το GDPR για την προστασία των δεδομένων, ο Νόμος για το AI θα αλλάξει θεμελιωδώς τον τρόπο που οι παγκόσμιες επιχειρήσεις αναπτύσσουν και λειτουργούν τα συστήματα AI τους. Οι οργανώσεις εκτός ΕΕ θα πρέπει επίσης να δώσουν προσοχή και να συμμορφωθούν με τις απαιτήσεις, καθώς οποιαδήποτε συστήματα AI που χρησιμοποιούν ή επηρεάζουν τους πολίτες της Ευρώπης θα υπάγονται στις απαιτήσεις, ανεξάρτητα από την δικαιοδοσία της εταιρείας.

Πώς προετοιμάζεται η Cranium AI για τον Νόμο για το AI της ΕΕ;

Στην Cranium, έχουμε παρακολουθήσει την ανάπτυξη του Νόμου για το AI από την αρχή και έχουμε προσαρμόσει το σχεδιασμό της προσφοράς μας κάρτας AI για να υποστηρίξουμε τις εταιρείες να ικανοποιήσουν τις απαιτήσεις συμμόρφωσης. Νιώθουμε ότι έχουμε ένα καλό προβάδισμα, δεδομένου ότι είχαμε μια πολύ πρώιμη επίγνωση του Νόμου για το AI και πώς έχει εξελιχθεί αυτά τα χρόνια.

Γιατί πρέπει η υπεύθυνη χρήση του AI να γίνει προτεραιότητα για τις επιχειρήσεις;

Η ταχύτητα με την οποία το AI ενσωματώνεται σε κάθε επιχειρηματική διαδικασία και λειτουργία σημαίνει ότι τα πράγματα μπορούν να βγουν από τον έλεγχο γρήγορα αν δεν γίνει υπεύθυνα. Η προτεραιότητα της υπεύθυνης χρήσης του AI τώρα, στην αρχή της επανάστασης του AI, θα επιτρέψει στις επιχειρήσεις να κλιμακωθούν πιο αποτελεσματικά και να μην αντιμετωπίσουν σημαντικά εμπόδια και προβλήματα συμμόρφωσης αργότερα.

Ποιο είναι το όραμά σας για το μέλλον της Cranium AI;

Βλέπουμε την Cranium να γίνεται ο πραγματικός ηγέτης στην κατηγορία για το ασφαλές και αξιόπιστο AI. Ενώ δεν μπορούμε να λύσουμε όλα τα προβλήματα, όπως οι σύνθετες προκλήσεις της ηθικής χρήσης και της εξηγήσιμότητας, επιδιώκουμε να συνεργαστούμε με ηγέτες σε άλλους τομείς της υπεύθυνης χρήσης του AI για να οδηγήσουμε ένα οικοσύστημα που θα κάνει εύκολη για τους πελάτες μας να καλύψουν όλους τους τομείς της υπεύθυνης χρήσης του AI. Επίσης, επιδιώκουμε να συνεργαστούμε με τους προγραμματιστές των καινοτόμων λύσεων παραγωγικής AI για να υποστηρίξουμε την ασφάλεια και την αξιοπιστία αυτών των ικανοτήτων. Θέλουμε η Cranium να επιτρέψει στις εταιρείες σε όλο τον κόσμο να συνεχίσουν να καινοτομούν με ασφαλή και αξιόπιστο τρόπο.

Ευχαριστούμε για την εξαιρετική συνέντευξη. Οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Cranium AI.