Ο Jonathan Dambrot, CEO & Co-Founder της Cranium AI – Σειρά Συνεντεύξεων

Ο Jonathan Dambrot είναι ο CEO & Co-Founder της Cranium AI, μια επιχείρηση που βοηθά τις ομάδες κυβερνοασφάλειας και επιστημών δεδομένων να κατανοήσουν παντού που η τεχνητή νοημοσύνη επηρεάζει τα συστήματά τους, τα δεδομένα ή τις υπηρεσίες τους.

Ο Jonathan είναι πρώην συνεταίρος στην KPMG, ηγέτης της βιομηχανίας κυβερνοασφάλειας και οραματιστής. Πριν από την KPMG, οδήγησε την Prevalent να γίνει ηγέτης της βιομηχανίας στην διαχείριση рисκου τρίτων μερών σύμφωνα με τους Gartner και Forrester, πριν από την πώλησή της στην Insight Venture Partners το τέλος του 2016. Το 2019, ο Jonathan μετέφερε τον ρόλο του CEO στην Prevalent, καθώς η εταιρεία επιδιώκει να συνεχίσει την ανάπτυξή της υπό νέα ηγεσία. Έχει αναφερθεί σε πολλές εκδόσεις και μιλάει συχνά σε ομάδες πελατών σχετικά με τις τάσεις στις ΤΠ, την ασφάλεια της πληροφορίας και τη συμμόρφωση.

Μπορείτε να μοιραστείτε την ιστορία πίσω από την Cranium AI;

Είχα την ιδέα για την Cranium τον Ιούνιο του 2021, όταν ήμουν συνεταίρος στην KPMG και ηγέτης των υπηρεσιών ασφάλειας τρίτων μερών παγκοσμίως. Κατασκευάζαμε και παρείχαμε λύσεις που βασίζονταν στην τεχνητή νοημοσύνη για τους μεγαλύτερους πελάτες μας, και ανακάλυψα ότι δεν κάναμε τίποτα για να τις προστατεύσουμε από τις αντιπαλικές απειλές. Έτσι, ρώτησα τους ηγέτες ασφάλειας των μεγαλύτερων πελατών μας και οι απαντήσεις που έλαβα ήταν εξίσου άσχημες. Πολυάριθμες ομάδες ασφάλειας δεν είχαν μιλήσει ποτέ με τους επιστήμονες δεδομένων – μιλούσαν完全 διαφορετικές γλώσσες όταν ήρθε η ώρα της τεχνολογίας και τελικά δεν είχαν καθόλου ορατότητα στο AI που εκτελούνταν σε όλη την επιχείρηση. Όλα αυτά, σε συνδυασμό με την σταθερά αυξανόμενη ανάπτυξη των κανονισμών, ήταν το ερέθισμα για να χτίσουμε μια πλατφόρμα που θα μπορούσε να προσφέρει ασφάλεια στο AI. Αρχίσαμε να εργαζόμαστε με το KPMG Studio incubator και φέραμε μερικούς από τους μεγαλύτερους πελάτες μας ως συνεταίρους σχεδίασης για να καθοδηγήσουμε την ανάπτυξη και να ικανοποιήσουμε τις ανάγκες αυτών των μεγάλων επιχειρήσεων. Τον Ιανουάριο του έτους, η Syn Ventures ήρθε για να ολοκληρώσει τη χρηματοδότηση Seed και απομακρύνθηκα ανεξάρτητα από την KPMG τον Μάρτιο και βγήκα από την Stealth τον Απρίλιο του 2023.

Τι είναι η Cranium AI Card και ποίες βασικές πληροφορίες αποκαλύπτει;

Η Cranium AI Card επιτρέπει στις οργανώσεις να συλλέγουν και να μοιράζονται αποτελεσματικά πληροφορίες σχετικά με την αξιοπιστία και τη συμμόρφωση των μοντέλων AI τους με τους πελάτες και τους ρυθμιστές και να αποκτήσουν ορατότητα στην ασφάλεια των συστημάτων AI των προμηθευτών τους. Τελικά, επιδιώκουμε να προσφέρουμε στις ομάδες ασφάλειας και συμμόρφωσης την ικανότητα να οραματίζουν και να παρακολουθούν την ασφάλεια του AI στην αλυσίδα εφοδιασμού τους, να ευθυγραμμίσουν τα δικά τους συστήματα AI με τις τρέχουσες και επερχόμενες απαιτήσεις συμμόρφωσης και πλαισίων και να μοιράζονται εύκολα ότι τα συστήματα AI τους είναι ασφαλή και αξιοπιστά.

Ποίες είναι ορισμένες από τις προβλήματα αξιοπιστίας που έχουν οι άνθρωποι με το AI που επιλύονται με αυτή τη λύση;

Οι άνθρωποι γενικά θέλουν να γνωρίζουν τι κρύβεται πίσω από το AI που χρησιμοποιούν, ιδιαίτερα既然 ότι ολοένα και περισσότερες από τις καθημερινές εργασίες τους επηρεάζονται με κάποιον τρόπο από το AI. Επιδιώκουμε να προσφέρουμε στους πελάτες μας την ικανότητα να απαντήσουν σε ερωτήσεις που θα λάβουν σύντομα από τους δικούς τους πελάτες, όπως «Πώς κυβερνάται;», «Τι γίνεται για την ασφάλεια των δεδομένων και των μοντέλων;» και «Έχει επικυρωθεί αυτή η πληροφορία;». Η κάρτα AI δίνει στις οργανώσεις έναν γρήγορο τρόπο να απαντήσουν σε αυτές τις ερωτήσεις και να αποδείξουν cả την διαφάνεια και την αξιοπιστία των συστημάτων AI τους.

Τον Οκτώβριο του 2022, το Γραφείο Επιστημών και Τεχνολογίας της Λευκής Οίκου (OSTP) δημοσίευσε ένα Σχέδιο για ένα Δικαίωμα του AI, το οποίο μοιράστηκε ένα μη δεσμευτικό οδικό χάρτη για την υπεύθυνη χρήση του AI. Μπορείτε να συζητήσετε τις προσωπικές σας απόψεις σχετικά με τα πλεονεκτήματα και τα μειονεκτήματα αυτού του νόμου;

Ενώ είναι εξαιρετικά σημαντικό ότι η Λευκή Οίκος έκανε αυτό το πρώτο βήμα για να ορίσει τις οδηγίες για την υπεύθυνη χρήση του AI, δεν πιστεύουμε ότι πήγε αρκετά μακριά για να παρέχει οδηγίες για τις οργανώσεις και όχι μόνο για τους ατόμους που ανησυχούν για την προσφυγή μιας απόφασης που βασίζεται στο AI. Η μελλοντική ρυθμιστική καθοδήγηση πρέπει να είναι όχι μόνο για τους παρόχους συστημάτων AI, αλλά και για τους χρήστες, για να μπορέσουν να κατανοήσουν και να εκμεταλλευτούν αυτή τη τεχνολογία με ασφαλή και ασφαλή τρόπο. Τελικά, το κύριο πλεονέκτημα είναι ότι τα συστήματα AI θα είναι ασφαλέστερα, πιο περιεκτικά και πιο διαφανή. Ωστόσο, χωρίς ένα πλαίσιο βασισμένο στο ρίσκο για τις οργανώσεις να προετοιμαστούν για μελλοντικές ρυθμίσεις, υπάρχει η δυνατότητα για την επιβράδυνση του ρυθμού της καινοτομίας, ιδιαίτερα σε περιπτώσεις όπου η ικανοποίηση των απαιτήσεων διαφάνειας και εξηγήσιμότητας είναι τεχνικά αδύνατη.

Πώς βοηθά η Cranium AI τις εταιρείες να συμμορφωθούν με αυτό το Δικαίωμα;

Η Cranium Enterprise βοηθά τις εταιρείες στην ανάπτυξη και την παράδοση ασφαλών και ασφαλών συστημάτων, το οποίο είναι η πρώτη βασική αρχή στο Δικαίωμα. Επιπλέον, η κάρτα AI βοηθά τις οργανώσεις να ικανοποιήσουν την αρχή της ειδοποίησης και της εξήγησης, επιτρέποντάς τους να μοιράζονται λεπτομέρειες σχετικά με το πώς λειτουργούν πραγματικά τα συστήματα AI τους και ποια δεδομένα χρησιμοποιούν.

Τι είναι το Πλαίσιο Διαχείρισης Ρισκου AI της NIST και πώς θα βοηθήσει η Cranium AI τις επιχειρήσεις να εκπληρώσουν τις υποχρεώσεις συμμόρφωσης για αυτό το πλαίσιο;

Το Πλαίσιο Διαχείρισης Ρισκου AI της NIST είναι ένα πλαίσιο για τις οργανώσεις να διαχειρίζονται καλύτερα τους ρίσκους που σχετίζονται με το AI. Ακολουθεί μια πολύ παρόμοια δομή με τα άλλα πλαισιά της, περιγράφοντας τα αποτελέσματα ενός επιτυχούς προγράμματος διαχείρισης ρισκου για το AI. Έχουμε χαρτογραφήσει την κάρτα AI μας στα αντικείμενα που περιγράφονται στο πλαίσιο για να υποστηρίξουμε τις οργανώσεις στην παρακολούθηση του πώς τα συστήματα AI τους ευθυγραμμίζονται με το πλαίσιο και, δεδομένου ότι η πλατφόρμα μας έχει ήδη συλλέξει πολλές από αυτές τις πληροφορίες, μπορούμε να τις συμπληρώσουμε και να τις επικυρώσουμε αυτόματα.

Το Νόμο για το AI της ΕΕ είναι ένα από τα πιο σημαντικά νομοθετικά μέτρα AI που έχουμε δει στην πρόσφατη ιστορία. Γιατί οι εταιρείες εκτός ΕΕ πρέπει να συμμορφωθούν με αυτό;

Παρόμοια με το GDPR για την προστασία των δεδομένων, ο Νόμος για το AI θα αλλάξει θεμελιωδώς τον τρόπο που οι παγκόσμιες επιχειρήσεις αναπτύσσουν και λειτουργούν τα συστήματα AI τους. Οι οργανώσεις εκτός ΕΕ θα πρέπει ακόμη να προσεχθούν και να συμμορφωθούν με τις απαιτήσεις, καθώς οποιαδήποτε συστήματα AI που χρησιμοποιούν ή επηρεάζουν τους πολίτες της Ευρώπης θα υπάγονται στις απαιτήσεις, ανεξάρτητα από την δικαιοδοσία της εταιρείας.

Πώς προετοιμάζεται η Cranium AI για τον Νόμο για το AI της ΕΕ;

Στην Cranium, abbiamo ακολουθήσει την ανάπτυξη του Νόμου για το AI από την αρχή και έχουμε προσαρμόσει το σχεδιασμό της προσφοράς μας κάρτας AI για να υποστηρίξουμε τις εταιρείες να ικανοποιήσουν τις απαιτήσεις συμμόρφωσης. Νιώθουμε ότι έχουμε einen καλό προβάδισμα, δεδομένου ότι είχαμε μια πολύ πρώιμη επίγνωση του Νόμου για το AI και πώς έχει εξελιχθεί αυτά τα χρόνια.

Γιατί πρέπει η υπεύθυνη χρήση του AI να γίνει προτεραιότητα για τις επιχειρήσεις;

Η ταχύτητα με την οποία το AI ενσωματώνεται σε κάθε επιχειρηματική διαδικασία και λειτουργία σημαίνει ότι τα πράγματα μπορούν να βγουν από τον έλεγχο γρήγορα αν δεν γίνει υπεύθυνα. Η προτεραιότητα της υπεύθυνης χρήσης του AI τώρα, στην αρχή της επανάστασης του AI, θα επιτρέψει στις επιχειρήσεις να κλιμακωθούν πιο αποτελεσματικά και να μην αντιμετωπίσουν σημαντικά εμπόδια και προβλήματα συμμόρφωσης αργότερα.

Τι είναι η όρασή σας για το μέλλον της Cranium AI;

Βλέπουμε την Cranium να γίνεται ο πραγματικός ηγέτης στην κατηγορία για το ασφαλές και αξιοπιστό AI. Ενώ δεν μπορούμε να λύσουμε όλα τα προβλήματα, όπως οι σύνθετες προκλήσεις της ηθικής χρήσης και της εξηγήσιμότητας, επιδιώκουμε να συνεργαστούμε με ηγέτες σε άλλους τομείς της υπεύθυνης χρήσης του AI για να οδηγήσουμε ένα οικοσύστημα που θα κάνει εύκολη για τους πελάτες μας να καλύψουν όλους τους τομείς της υπεύθυνης χρήσης του AI. Επίσης, επιδιώκουμε να συνεργαστούμε με τους développers των καινοτόμων λύσεων γενετικού AI για να υποστηρίξουμε την ασφάλεια και την αξιοπιστία αυτών των ικανοτήτων. Θέλουμε η Cranium να επιτρέψει στις εταιρείες σε όλο τον κόσμο να συνεχίσουν να καινοτομούν με ασφαλή και αξιοπιστό τρόπο.

Ευχαριστούμε για τη μεγάλη συνέντευξη. Οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Cranium AI.