Jonathan Dambrot, CEO & Co-Founder of Cranium AI – Wywiad

Jonathan Dambrot jest CEO & współzałożycielem Cranium AI, przedsiębiorstwa, które pomaga zespołom ds. cyberbezpieczeństwa i nauki o danych zrozumieć, gdzie AI wpływa na ich systemy, dane lub usługi.

Jonathan jest byłym partnerem w KPMG, liderem branży cyberbezpieczeństwa i wizjonerem. Przed dołączeniem do KPMG, prowadził Prevalent do pozycji lidera w branży zarządzania ryzykiem stron trzecich, zgodnie z opiniami Gartnera i Forrestera, przed sprzedażą do Insight Venture Partners pod koniec 2016 roku. W 2019 roku Jonathan przekazał rolę CEO w Prevalent, gdy firma szukała dalszego rozwoju pod nowym kierownictwem. Był cytowany w wielu publikacjach i regularnie przemawia do grup klientów na temat trendów w IT, bezpieczeństwie informacji i zgodności.

Czy mógłbyś podzielić się historią powstania Cranium AI?

Miałem pomysł na Cranium w czerwcu 2021 roku, gdy byłem partnerem w KPMG, prowadząc usługi bezpieczeństwa stron trzecich na całym świecie. Budowaliśmy i dostarczaliśmy rozwiązania oparte na AI dla naszych największych klientów i zauważyłem, że nie robiliśmy nic, aby zabezpieczyć je przed zagrożeniami ze strony przeciwników. Zadałem to samo pytanie liderom ds. cyberbezpieczeństwa w naszych największych klientach, a odpowiedzi, które otrzymałem, były równie złe. Wiele zespołów ds. bezpieczeństwa nigdy nawet nie rozmawiało z naukowcami ds. danych – mówili całkowicie różnymi językami, jeśli chodzi o technologie i ostatecznie nie mieli żadnej wiedzy na temat AI działającego w całej firmie. Wszystko to, w połączeniu ze stale rosnącym rozwojem regulacji, było impulsem do budowy platformy, która mogłaby zapewnić bezpieczeństwo AI. Zaczęliśmy pracę z inkubatorem KPMG Studio i włączyliśmy niektórych z naszych największych klientów jako partnerów projektowych, aby kierować rozwojem i spełniać potrzeby tych dużych przedsiębiorstw. W styczniu tego roku, Syn Ventures dołączył do nas, aby ukończyć finansowanie w ramach Seed, a my oddzieliliśmy się niezależnie od KPMG w marcu i wyszliśmy z ukrycia w kwietniu 2023 roku.

Co to jest Cranium AI Card i jakie kluczowe informacje ujawnia?

Cranium AI Card pozwala organizacjom na efektywne gromadzenie i udostępnianie informacji o wiarygodności i zgodności ich modeli AI zarówno klientom, jak i organom regulacyjnym, oraz zapewnia wgląd w bezpieczeństwo systemów AI ich dostawców. Ostatecznie, chcemy zapewnić zespołom ds. bezpieczeństwa i zgodności możliwość wizualizacji i monitorowania bezpieczeństwa AI w ich łańcuchu dostaw, wyrównania ich systemów AI z obowiązującymi i nadchodzącymi wymogami i ramami zgodności, oraz łatwego udostępniania informacji o tym, że ich systemy AI są bezpieczne i godne zaufania.

Jakie są niektóre z problemów zaufania, które ludzie mają wobec AI, a które są rozwiązywane za pomocą tego rozwiązania?

Ludzie ogólnie chcą wiedzieć, co kryje się za AI, które używają, zwłaszcza gdy coraz więcej ich codziennych procesów jest w jakiś sposób dotkniętych przez AI. Chcemy zapewnić naszym klientom możliwość odpowiedzi na pytania, które wkrótce otrzymają od swoich klientów, takie jak „Jak jest to zarządzane?”, „Co robione jest, aby zabezpieczyć dane i modele?”, oraz „Czy te informacje zostały zweryfikowane?”. AI Card daje organizacjom szybki sposób na odpowiedź na te pytania i na zademonstrowanie przejrzystości i wiarygodności ich systemów AI.

We wrześniu 2022 roku, Biały Dom opublikował Plan praw AI, który przedstawił niewiążącą drogę dla odpowiedzialnego użycia AI. Czy mógłbyś omówić swoje osobiste poglądy na temat zalet i wad tego planu?

Chociaż jest niezwykle ważne, że Biały Dom podjął ten pierwszy krok w definiowaniu zasad odpowiedzialnego AI, nie uważamy, że poszło ono wystarczająco daleko, aby zapewnić wytyczne dla organizacji, a nie tylko dla osób zainteresowanych odwołaniem decyzji opartej na AI. Przyszłe wytyczne regulacyjne powinny dotyczyć nie tylko dostawców systemów AI, ale także użytkowników, aby mogli zrozumieć i wykorzystać tę technologię w bezpieczny i bezpieczny sposób. Ostatecznie, główną korzyścią jest to, że systemy AI będą bezpieczniejsze, bardziej inkluzywne i przejrzyste. Jednak bez ramy opartej na ryzyku dla organizacji, aby przygotować się do przyszłych regulacji, istnieje potencjał dla spowolnienia tempa innowacji, zwłaszcza w sytuacjach, w których spełnienie wymogów przejrzystości i wyjaśnialności jest technicznie niemożliwe.

Jak Cranium AI pomaga firmom w przestrzeganiu tego Prawa AI?

Cranium Enterprise pomaga firmom w tworzeniu i dostarczaniu bezpiecznych i bezpiecznych systemów, co jest pierwszym kluczowym punktem w ramach Prawa AI. Dodatkowo, AI Card pomaga organizacjom w spełnieniu zasady zawiadomienia i wyjaśnienia, umożliwiając im udostępnienie informacji o tym, jak ich systemy AI działają i jakie dane używają.

Co to jest NIST AI Risk Management Framework, i jak Cranium AI pomoże przedsiębiorstwom w spełnieniu ich zobowiązań związanych z zgodnością AI w ramach tego frameworku?

NIST AI RMF to framework dla organizacji, aby lepiej zarządzać ryzykiem związanym z AI. Podąża za bardzo podobną strukturą, jak ich inne frameworki, wyznaczając wyniki udanego programu zarządzania ryzykiem AI. Zmapowaliśmy nasz AI Card do celów określonych w ramach, aby wspierać organizacje w śledzeniu, jak ich systemy AI są zgodne z ramą, a ponieważ nasza platforma przedsiębiorstw już zbiera wiele z tych informacji, możemy automatycznie wypełnić i zweryfikować niektóre pola.

EU AI Act to jeden z najbardziej monumentalnych prawodawstw AI, jakie widzieliśmy w ostatniej historii, dlaczego firmy spoza UE powinny przestrzegać go?

Podobnie jak RODO w przypadku ochrony danych, AI Act zasadniczo zmieni sposób, w jaki globalne przedsiębiorstwa rozwijają i eksploatują swoje systemy AI. Firmy spoza UE również będą musiały zwrócić uwagę na te wymagania, ponieważ każdy system AI, który używa lub wpływa na obywateli europejskich, będzie podlegał tym wymaganiom, niezależnie od jurysdykcji firmy.

Jak Cranium AI przygotowuje się do EU AI Act?

W Cranium, śledziliśmy rozwój AI Act od samego początku i dostosowaliśmy projekt naszego produktu AI Card, aby wspierać firmy w spełnieniu wymagań zgodności. Uważamy, że mamy dobrą przewagę, biorąc pod uwagę naszą wczesną świadomość AI Act i jego ewolucję na przestrzeni lat.

Dlaczego odpowiedzialne AI powinno stać się priorytetem dla przedsiębiorstw?

Szybkość, z jaką AI jest wbudowywana w każdy proces biznesowy i funkcję, oznacza, że wszystko może szybko wyjść spod kontroli, jeśli nie zostanie zrobione w sposób odpowiedzialny. Ustalenie priorytetu dla odpowiedzialnego AI już na początku rewolucji AI pozwoli przedsiębiorstwom skalować się bardziej efektywnie i nie napotkać dużych przeszkód i problemów z zgodnością później.

Jaka jest twoja wizja przyszłości Cranium AI?

Widzimy Cranium jako prawdziwego króla kategorii dla bezpiecznego i godnego zaufania AI. Chociaż nie możemy rozwiązać wszystkiego, takiego jak złożone wyzwania, jak etyczne użycie i wyjaśnialność, chcemy współpracować z liderami w innych obszarach odpowiedzialnego AI, aby stworzyć ekosystem, który ułatwi naszym klientom pokrycie wszystkich obszarów odpowiedzialnego AI. Chcemy również współpracować z deweloperami innowacyjnych rozwiązań AI, aby wspierać bezpieczeństwo i zaufanie tych możliwości. Chcemy, aby Cranium umożliwiło firmom na całym świecie kontynuowanie innowacji w bezpieczny i godny zaufania sposób.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Cranium AI.