Jonathan Dambrot, CEO & Spoluzakladatel Cranium AI – Rozhovorová Série

Jonathan Dambrot je CEO & Spoluzakladatel Cranium AI, podniku, který pomáhá týmům kybernetické bezpečnosti a datové vědy porozumět všude, kde umělá inteligence dopadá na jejich systémy, data nebo služby.

Jonathan je bývalý Partner v KPMG, lídr kybernetické bezpečnosti a vizionář. Předtím, než nastoupil do KPMG, vedl Prevalent k tomu, aby se stal lídrem v oblasti řízení rizik třetích stran podle Gartnera a Forrester před jeho prodejem Insight Venture Partners na konci roku 2016. V roce 2019 Jonathan přešel na roli CEO v Prevalent, protože společnost hledala nové vedení pro další růst. Byl citován v řadě publikací a pravidelně hovoří se skupinami klientů o trendech v IT, informační bezpečnosti a dodržování předpisů.

Můžete sdílet příběh o vzniku Cranium AI?

Měl jsem nápad na Cranium kolem června 2021, kdy jsem byl partnerem v KPMG a vedl globální služby Third-Party Security. Budujeme a dodáváme řešení s umělou inteligencí pro naše největší klienty a zjistil jsem, že nečiníme nic pro zajištění jejich bezpečnosti proti adversním hrozbám. Takže jsem položil stejnou otázku lídrům kybernetické bezpečnosti u našich největších klientů a odpovědi, které jsem dostal, byly stejně špatné. Mnohé bezpečnostní týmy nikdy nemluvily s datovými vědci – mluvili úplně jiným jazykem, pokud jde o technologii, a nakonec neměli žádnou viditelnost do umělé inteligence běžící napříč podnikem. Všechno toto v kombinaci se stále rostoucím vývojem předpisů bylo impulsem pro vytvoření platformy, která by mohla poskytnout bezpečnost umělé inteligence. Začali jsme pracovat s inkubátorem KPMG Studio a přivedli jsme některé z našich největších klientů jako designové partnery, aby směrovali vývoj tak, aby splňoval potřeby těchto velkých podniků. V lednu letošního roku přišla Syn Ventures, aby dokončila financování Seed, a my se stali nezávislými na KPMG v březnu a vyšli z utajení v dubnu 2023.

Co je Cranium AI Card a jaké jsou jeho hlavní poznatky?

Cranium AI Card umožňuje organizacím efektivně shromažďovat a sdílet informace o důvěryhodnosti a dodržování předpisů jejich modelů umělé inteligence s klienty a regulačními orgány a získat přehled o bezpečnosti AI systémů jejich dodavatelů. Nakonec se snažíme poskytnout bezpečnostním a dodržovacím týmům možnost vizualizovat a monitorovat bezpečnost AI v jejich dodavatelském řetězci, sladit své vlastní AI systémy s aktuálními a budoucími požadavky na dodržování předpisů a rámců a snadno sdílet, že jejich AI systémy jsou bezpečné a důvěryhodné.

Jaké jsou některé z problémů důvěryhodnosti, které lidé mají s umělou inteligencí, a které jsou řešeny touto řešením?

Lidé obecně chtějí vědět, co je za umělou inteligencí, kterou používají, zejména když je jejich denní workflow ovlivněn nějakým způsobem umělou inteligencí. Snažíme se poskytnout našim klientům možnost odpovědět na otázky, které brzy dostanou od svých vlastních zákazníků, jako je „Jak je tato umělá inteligence řízena?“, „Co se dělá pro zajištění bezpečnosti dat a modelů?“, a „Byla tato informace ověřena?“. AI Card poskytuje organizacím rychlý způsob, jak odpovědět na tyto otázky a prokázat transparentnost a důvěryhodnost svých AI systémů.

V říjnu 2022 zveřejnila Bílá dům Úřad pro vědu a technologii (OSTP) Blueprint pro AI Bill of Rights, který sdílí nezávazný plán pro odpovědné používání umělé inteligence. Můžete diskutovat o svých osobních názorech na výhody a nevýhody tohoto zákona?

Přestože je nesmírně důležité, že Bílá dům učinil tento první krok v definování směrodatných principů pro odpovědnou umělou inteligenci, nevěříme, že šel dostatečně daleko, aby poskytl vedení pro organizace a ne pouze pro jednotlivce, kteří se obávají odvolání rozhodnutí založeného na umělé inteligenci. Budoucí regulační pokyny by neměli být pouze pro poskytovatele AI systémů, ale také pro uživatele, aby mohli pochopit a využít tuto technologii bezpečným a zabezpečeným způsobem. Nakonec hlavní výhodou je, že AI systémy budou bezpečnější, více inkluzivní a transparentnější. Bez rizika založeného rámce pro organizace, aby se připravily na budoucí regulaci, existuje potenciál pro zpomalení tempa inovací, zejména v situacích, kdy je splnění požadavků na transparentnost a vysvětlitelnost technicky nemožné.

Jak Cranium AI pomáhá společnostem dodržovat tento Bill of Rights?

Cranium Enterprise pomáhá společnostem vyvíjet a dodávat bezpečné a zabezpečené systémy, což je první klíčový princip v Bill of Rights. Kromě toho AI Card pomáhá organizacím splňovat princip oznámení a vysvětlení, umožňující jim sdílet podrobnosti o tom, jak jejich AI systémy skutečně fungují a která data používají.

Co je NIST AI Risk Management Framework a jak Cranium AI pomáhá podnikům plnit své povinnosti v oblasti AI compliance pro tento rámec?

NIST AI RMF je rámec pro organizace, aby lépe spravovaly rizika spojená s umělou inteligencí. Sleduje velmi podobnou strukturu jako jejich ostatní rámce, které stanoví výsledky úspěšného programu pro správu rizik umělé inteligence. Přemapovali jsme náš AI Card na cíle stanovené v rámci, aby podporovaly organizace při sledování, jak jejich AI systémy odpovídají rámci, a vzhledem k tomu, že naše podniková platforma již shromažďuje mnoho z těchto informací, můžeme automaticky vyplnit a ověřit některá z polí.

EU AI Act je jedním z nejmonumentálnějších AI legislativ, které jsme v nedávné historii viděli, proč by se jím měly řídit i neevropské společnosti?

Podobně jako GDPR pro ochranu osobních údajů bude AI Act zásadně měnit způsob, jakým globální podniky vyvíjejí a provozují své AI systémy. Společnosti mimo EU budou muset i nadále dodržovat požadavky, protože jakékoli AI systémy, které používají nebo ovlivňují evropské občany, budou spadat pod požadavky, bez ohledu na jurisdikci společnosti.

Jak se Cranium AI připravuje na EU AI Act?

V Cranium jsme sledovali vývoj AI Act od začátku a přizpůsobili design našeho produktu AI Card, aby podporoval společnosti při plnění požadavků na dodržování předpisů. Cítíme, že máme velký náskok, protože jsme byli velmi brzy vědomi AI Act a jeho vývoje v průběhu let.

Proč by se responsible AI měl stát prioritou pro podniky?

Rychlost, s jakou se umělá inteligence začleňuje do každého obchodního procesu a funkce, znamená, že věci mohou rychle vyjít z kontroly, pokud se nebudou dělat odpovědně. Prioritizace odpovědné AI nyní na počátku revoluce AI umožní podnikům škálovat více efektivně a nevytvářet velké překážky a problémy s dodržováním předpisů později.

Jaký je váš pohled na budoucnost Cranium AI?

Vidíme Cranium jako skutečného krále kategorie pro bezpečnou a důvěryhodnou umělou inteligenci. Přestože nemůžeme vyřešit všechno, jako jsou komplexní výzvy, jako je etické použití a vysvětlitelnost, chceme spolupracovat s lídry v jiných oblastech odpovědné AI, aby vytvořili ekosystém, který umožní našim klientům snadno pokrýt všechny oblasti odpovědné AI. Rovněž chceme spolupracovat s vývojáři inovativních generativních AI řešení, aby podpořili bezpečnost a důvěryhodnost těchto schopností. Chceme, aby Cranium umožnil společnostem po celém světě pokračovat v inovacích bezpečným a důvěryhodným způsobem.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Cranium AI.