Jonathan Dambrot, generální ředitel a spoluzakladatel Cranium AI – Série rozhovorů

Jonathan Dambrot je CEO & Spoluzakladatel Cranium AI, podniku, který pomáhá týmům kybernetické bezpečnosti a datové vědy porozumět všude, kde umělá inteligence dopadá na jejich systémy, data nebo služby.

Jonathan je bývalý Partner v KPMG, lídr kybernetické bezpečnosti a vizionář. Předtím, než nastoupil do KPMG, vedl Prevalent k tomu, aby se stal lídrem v oblasti řízení rizik třetích stran podle Gartnera a Forrester před jeho prodejem Insight Venture Partners na konci roku 2016. V roce 2019 Jonathan předal funkci CEO ve společnosti Prevalent, protože společnost hledala nové vedení pro další růst. Byl citován v řadě publikací a pravidelně hovoří se skupinami klientů o trendech v IT, informační bezpečnosti a dodržování předpisů.

Můžete sdílet příběh o vzniku Cranium AI?

Měl jsem nápad na Cranium kolem června 2021, kdy jsem byl partnerem v KPMG a vedl globální služby zabezpečení třetích stran. Budovali jsme a dodávali jsme řešení s umělou inteligencí pro naše největší klienty a zjistil jsem, že nečiníme nic pro zajištění jejich bezpečnosti proti adversním hrozbám. Takže jsem položil stejnou otázku lídrům kybernetické bezpečnosti u našich největších klientů a odpovědi, které jsem dostal, byly stejně špatné. Mnohé bezpečnostní týmy nikdy nemluvily s datovými vědci – mluvili úplně jiným jazykem, pokud jde o technologii, a nakonec neměli žádnou viditelnost do umělé inteligence běžící napříč podnikem. Všechno toto v kombinaci se stále rostoucím vývojem předpisů bylo impulsem pro vytvoření platformy, která by mohla poskytnout bezpečnost umělé inteligence. Začali jsme pracovat s inkubátorem KPMG Studio a přivedli jsme některé z našich největších klientů jako designové partnery, aby směrovali vývoj tak, aby splňoval potřeby těchto velkých podniků. V lednu letošního roku přišla Syn Ventures, aby dokončila financování Seed, a my se stali nezávislými na KPMG v březnu a vyšli z utajení v dubnu 2023.

Co je Cranium AI Card a jaké jsou jeho hlavní poznatky?

Cranium AI Card umožňuje organizacím efektivně shromažďovat a sdílet informace o důvěryhodnosti a dodržování předpisů jejich modelů umělé inteligence s klienty a regulačními orgány a získat přehled o bezpečnosti AI systémů jejich dodavatelů. Nakonec se snažíme poskytnout bezpečnostním a dodržovacím týmům možnost vizualizovat a monitorovat bezpečnost AI v jejich dodavatelském řetězci, sladit své vlastní AI systémy s aktuálními a budoucími požadavky na dodržování předpisů a rámců a snadno sdílet, že jejich AI systémy jsou bezpečné a důvěryhodné.

Jaké jsou některé z problémů důvěryhodnosti, které lidé mají s umělou inteligencí, a které jsou řešeny tímto řešením?

Lidé obecně chtějí vědět, co je za umělou inteligencí, kterou používají, zejména když je jejich každodenní pracovní postupy ovlivněn nějakým způsobem umělou inteligencí. Snažíme se poskytnout našim klientům možnost odpovědět na otázky, které brzy dostanou od svých vlastních zákazníků, jako je „Jak je tato umělá inteligence řízena?“, „Co se dělá pro zajištění bezpečnosti dat a modelů?“, a „Byla tato informace ověřena?“. AI Card poskytuje organizacím rychlý způsob, jak odpovědět na tyto otázky a prokázat transparentnost a důvěryhodnost svých AI systémů.

V říjnu 2022 zveřejnil Úřad Bílého domu pro vědeckou a technologickou politiku (OSTP) návrh Listiny práv v oblasti AI, který poskytl nezávazný plán pro odpovědné používání umělé inteligence. Můžete diskutovat o svých osobních názorech na výhody a nevýhody tohoto návrhu?

Přestože je nesmírně důležité, že Bílý dům učinil tento první krok v definování směrodatných principů pro odpovědnou umělou inteligenci, nevěříme, že šel dostatečně daleko, aby poskytl vedení pro organizace a ne pouze pro jednotlivce, kteří se obávají odvolání rozhodnutí založeného na umělé inteligenci. Budoucí regulační pokyny by neměly být pouze pro poskytovatele AI systémů, ale také pro uživatele, aby mohli pochopit a využít tuto technologii bezpečným a zabezpečeným způsobem. Nakonec hlavní výhodou je, že AI systémy budou bezpečnější, více inkluzivní a transparentnější. Bez rámce založeného na rizicích pro organizace, aby se připravily na budoucí regulaci, existuje potenciál pro zpomalení tempa inovací, zejména v situacích, kdy je splnění požadavků na transparentnost a vysvětlitelnost technicky nemožné.

Jak Cranium AI pomáhá společnostem dodržovat tuto Listinu práv?

Cranium Enterprise pomáhá společnostem vyvíjet a dodávat bezpečné a zabezpečené systémy, což je první klíčový princip v Listině práv. Kromě toho AI Card pomáhá organizacím splňovat princip oznámení a vysvětlení, umožňující jim sdílet podrobnosti o tom, jak jejich AI systémy skutečně fungují a která data používají.

Co je Rámec NIST pro řízení rizik AI a jak Cranium AI pomáhá podnikům plnit své povinnosti v oblasti dodržování pravidel pro AI pro tento rámec?

NIST AI RMF je rámec pro organizace, aby lépe řídily rizika, která AI představuje pro jednotlivce, organizace a společnost. Sleduje velmi podobnou strukturu jako jejich ostatní rámce, které stanoví výsledky úspěšného programu pro správu rizik umělé inteligence. Přemapovali jsme náš AI Card na cíle stanovené v rámci, aby podporovaly organizace při sledování, jak jejich AI systémy odpovídají rámci, a vzhledem k tomu, že naše podniková platforma již shromažďuje mnoho z těchto informací, můžeme automaticky vyplnit a ověřit některá z polí.

Akt EU o umělé inteligenci je jedním z nejvýznamnějších legislativních počinů v oblasti AI, které jsme v nedávné historii viděli, proč by se jím měly řídit i neevropské společnosti?

Podobně jako GDPR pro ochranu osobních údajů bude AI Act zásadně měnit způsob, jakým globální podniky vyvíjejí a provozují své AI systémy. Společnosti mimo EU budou muset i nadále dodržovat požadavky, protože jakékoli AI systémy, které používají nebo ovlivňují evropské občany, budou spadat pod požadavky, bez ohledu na jurisdikci společnosti.

Jak se Cranium AI připravuje na EU AI Act?

V Cranium jsme sledovali vývoj AI Act od začátku a přizpůsobili design našeho produktu AI Card, aby podporoval společnosti při plnění požadavků na dodržování předpisů. Cítíme, že máme velký náskok, protože jsme byli velmi brzy vědomi AI Act a jeho vývoje v průběhu let.

Proč by se odpovědná AI měla stát prioritou pro podniky?

Rychlost, s jakou se umělá inteligence začleňuje do každého obchodního procesu a funkce, znamená, že věci mohou rychle vyjít z kontroly, pokud se nebudou dělat odpovědně. Prioritizace odpovědné AI nyní na počátku revoluce AI umožní podnikům škálovat více efektivně a nevytvářet velké překážky a problémy s dodržováním předpisů později.

Jaký je váš pohled na budoucnost Cranium AI?

Vidíme Cranium jako skutečného krále kategorie pro bezpečnou a důvěryhodnou umělou inteligenci. Přestože nemůžeme vyřešit všechno, jako jsou komplexní výzvy, jako je etické použití a vysvětlitelnost, chceme spolupracovat s lídry v jiných oblastech odpovědné AI, aby vytvořili ekosystém, který umožní našim klientům snadno pokrýt všechny oblasti odpovědné AI. Rovněž chceme spolupracovat s vývojáři inovativních generativních AI řešení, aby podpořili bezpečnost a důvěryhodnost těchto schopností. Chceme, aby Cranium umožnil společnostem po celém světě pokračovat v inovacích bezpečným a důvěryhodným způsobem.

Děkuji za skvělý rozhovor, čtenáři, kteří se chtějí dozvědět více, by měli navštívit Cranium AI.