Arti Raman, generální ředitelka a zakladatelka, Portal26 – rozhovor

Arti Raman, generální ředitelka a zakladatelka Portal26, je zkušená lídryně v oblasti technologií, která řídí přijetí bezpečné a zodpovědné generativní AI; pod jejím vedením se Portal26 stal oceněnou platformou pro governance a bezpečnost dat generativní AI, za což získala řadu ocenění, včetně nominace na Cyber Person of the Year 2023, Titan Business Awards pro nejlepší generální ředitelku a podnikatelku roku 2022, Tech Trailblazer 2022, SVBJ Women of Influence 2023 a Data Power Women of the Year 2023.

Portal26 je platforma pro řízení důvěry, rizik a bezpečnosti AI (AI TRiSM), která pomáhá organizacím bezpečně přijímat a škálovat generativní AI, a poskytuje komplexní přehled, governance, řízení rizik a analytiku napříč všemi aktivitami AI; platforma detekuje stínovou AI a spotřebu AI v podniku, vynucuje politiku a compliance, podporuje zabezpečení dat a kontrolu soukromí a poskytuje akční přehledy pro optimalizaci strategie generativní AI, a umožňuje společnostem řídit bezpečnost, compliance a obchodní hodnotu v jednom integrovaném systému.

Založila jste Portal26 v roce 2019, dlouho předtím, než se generativní AI stala běžnou součástí podniků. Jaké byly první signály, které vás přesvědčily, že organizace budou mít problémy s nekontrolovaným použitím generativní AI, a jak vaše zkušenosti v oblasti bezpečnosti a produktového vedení ovlivnily původní misi společnosti?

Byla jsem inspirována k založení Portal26 (tehdy nazvaného Titaniam) po poruše zabezpečení Equifax (EFX ) v roce 2017. Byla jsem jednou z milionů lidí, kteří byli postiženi touto rozsáhlou bezpečnostní událostí, což mě motivovalo k nalezení nových způsobů, jak chránit osobní údaje.

Vyvinuli jsme a uvedli na trh naši platformu pro bezpečnost dat. Brzy poté jsme si uvědomili, že zákazníci ji využívají k podpoře vytváření repozitářů AI a strojového učení. Jakmile se přijetí generativní AI zrychlilo, uvědomili jsme si, že naše platforma může sloužit širšímu a aktuálnějšímu účelu. Použili jsme naše rané základy k vytvoření platformy SaaS, která umožňuje společnostem konzumovat generativní AI bezpečně a zodpovědně. Jak jsme rostli, pracovali jsme se svými zákazníky, abychom šli za hranice bezpečnosti a governance a umožnili jim pochopit největší výzvu, před kterou stojí podniky, tj. jak získat plnou hodnotu z jejich programů generativní AI, včetně objevování případů použití, strategie, ROI, řízení licencí a objevování příležitostí pro AI agenty.

Portal26 se původně zaměřoval na objevování stínové generativní AI a bezpečnost generativní AI. Jakmile zákazníci začali nasazovat generativní AI více, jaký rozpor jste pozorovala mezi přijetím a skutečnými obchodními výsledky?

Naše původní zaměření bylo na „rozsvícení světel“ a zajištění bezpečnosti generativní AI. To bylo a zůstává cenným výsledkem, zejména proto, že bezpečnost je první překážka, se kterou se potýkají lídři AI v podniku. Nicméně, jako první, kdo spustil řešení pro bezpečnost AI v roce 2023, jsme si uvědomili, že navzdory silným bezpečnostním kontrolám většina našich zákazníků, ne-li všichni, stále zápasí s dosažením požadovaných obchodních výsledků.

Naučili jsme se od našich zákazníků, že velký rozpor mezi přijetím a skutečnými obchodními výsledky spočívá v tom, že společnosti přistupují k procesu přijetí AI obráceně! Každý, kdo strávil nějaký čas v produktovém managementu nebo produktové strategii, ví, že produkt, který není založen na skutečném pochopení uživatelů, je velmi nepravděpodobné, že uspěje. Nicméně, když se jedná o AI, podniky nemají absolutně žádnou představu, co jejich uživatelé potřebují a proč. Místo toho, aby se zaměřily na pochopení poptávky, je veškerá podniková AI dnes předávána shora na základě brainstormingu výkonných ředitelů nebo doporučení konzultantů. Během posledních několika let se ukázalo, že AI postavená nebo koupená tímto způsobem má pozitivní ROI v méně než 5 % případů. To je velmi velký rozpor.

Portal26 nedávno představil modul pro realizaci hodnoty AI. Co bylo zásadně chybějící v tom, jak podniky dříve vyhodnocovaly investice do generativní AI, a proč tradiční analytické nástroje nebo nástroje business intelligence selhaly?

Zaměstnanci v 90 % společností již používají osobní nástroje AI, jako je ChatGPT, v práci… zatímco některé mohou být schváleny, ve většině případů není jejich použití schváleno. Organizace mají málo nebo žádné přehledy o tom, jak jejich zaměstnanci přijímají a vidí hodnotu v generativní AI. Mezitím společnosti utratily 37 miliard dolarů za generativní AI v roce 2025, říká Menlo Ventures, ačkoli studie za studií ukazuje, že koncepty selhávají. Tradiční analytické nástroje nebo nástroje business intelligence se nezaměřují výhradně na použití AI, a filtrování hluku, aby se našly produktivní perly generativní AI, je náročné.

Řešení Portal26 pro realizaci hodnoty nabízí čtyři klíčové oblasti funkcionality, které řeší velkou mezeru v dosažení obchodních výsledků z investic do AI. První, pochopení chování uživatelů v kontextu použití AI. Druhé, extrakce high-value případů použití a minimalizace rizik. Třetí, identifikace agentů nebo aplikací s komplexními informacemi o požadovaných funkcích a čtvrté, pokyny pro nasazení, vzdělávání, migraci a nepřetržité monitorování použití a hodnoty. S těmito čtyřmi bloky na místě jsou obchodní výsledky zaručeny.

Vaše platforma zdůrazňuje kontinuální, behaviorální signály napříč podnikem. Jaké typy dat o použití jsou nejvíce kritické pro určení, zda iniciativa generativní AI vytváří skutečnou obchodní hodnotu spíše než povrchovou aktivitu?

Vidíme veškeré používání generativní AI a rozumíme mu v podniku, včetně případu použití a záměru – je to vše založeno na důkazech – takže můžete vidět použití, nebo jeho nedostatek, schválených i neschválených nástrojů. Konkrétně, podnik může vidět:

• Které nástroje se používají
• Kdo je používá
• V jakém oddělení jsou
• Záměr
• Jak se používají
• Jaký je případ použití
• Co se snaží dosáhnout pro podnik
• Kdy uživatelé dodržují politiku a kdy se stávají rebely? Proč?
• Frekvence použití

Tyto údaje nakonec pomáhají organizacím určit, které případy použití si zaslouží investici a které lze eliminovat nebo snížit pro úspory nákladů a zvýšení produktivity.

Mnohé organizace hlásí rozsáhlé experimentování s generativní AI, ale omezený úspěch při přechodu z konceptu na produkci. Na základě toho, co jste viděli, jaké jsou nejčastější důvody, proč tyto iniciativy selhávají při škálování?

Existují čtyři důvody, proč tyto iniciativy selhávají při škálování:

1. Nedostatek pochopení chování uživatelů a záměru, pokud jde o AI
2. Nedostatek přehledů o případech použití, které přinášejí skutečnou hodnotu a minimalizují rizika
3. I když je identifikován správný případ použití, podporované funkce jsou nesprávné nebo neúplné
4. Nedostatek přehledů o účinných migračních cestách pro směrování uživatelů z jiných řešení do nového schváleného podnikového řešení

V důsledku toho podniky utrácejí miliony za vytváření případů použití AI, které se nikdy nezvětšují a nikdy nepřinášejí ROI.

Modul pro realizaci hodnoty AI je navržen tak, aby podporoval lídry, jako jsou CIO, CFO a ředitelé pro AI. Jak tito stakeholdeři obvykle definují úspěch odlišně, pokud jde o generativní AI, a jak Portal26 pomáhá sladit jejich priority?

Kromě CIO, CISO a funkčních lídrů, kteří již profitují z platformy Portal26 pro přijetí generativní AI, patří mezi další stakeholdery našeho modulu pro realizaci hodnoty AI také ředitelé pro AI, kteří odpovídají za celkové programy AI, produktoví manažeři AI, kteří odpovídají za vývoj agentní AI, CFO, kteří odpovídají za náklady a ROI, a personální ředitelé, kteří se podílejí na iniciativách rozvoje pracovních sil. Nakonec budou moci i CEO a představenstvo odpovědět na otázku „jak vytváříme hodnotu“ z našeho programu generativní AI s reálnými, důvěryhodnými metrikami.

CIO a CISO se přirozeně budou více soustředit na to, jak AI funguje s jejich stávající technologickou infrastrukturou a bezpečnostním stackem, stejně jako na zajištění správné governance a ochrany proti hrozbám. Budou se soustředit na řízení rizik kolem toho, jak zaměstnanci interagují s AI, ano, ale také na to, jak AI interaguje se svými softwary a nástroji, plus co musí být povolené nebo zabráněno. Úspěch pro ně = hladké technologické operace a minimální bezpečnostní rizika.

CFO definuje úspěch ROI viděný v projektech AI. Chtějí vědět, jak technologie dělá zaměstnance více produktivními a / nebo dělá jejich nabídky více atraktivními pro zákazníky, což vede k vyššímu příjmu. Prevence rizik pro společnost a značku je důležitá, ale hlavní prioritou je hospodářský výsledek.

Ředitelé pro AI a produktoví manažeři AI se zajímají o skutečnou funkčnost nástrojů AI přijatých jejich organizacemi. Jak mohou vylepšit stávající produkty, které nabízejí? Jak mohou zlepšit vnitřní procesy?

Nakonec budou personální ředitelé chtít vědět, jak mohou podporovat školení, další vzdělávání a udržovat zaměstnance spokojené. Mohou se také podívat na to, kde může AI udělat lidi více efektivními ve svých rolích, aby mohli potenciálně rozšířit nebo upravit své pracovní popisy, aby podpořili jejich kariérní růst bez přetížení.

Každý z těchto stakeholderů může profitovat z analýzy chování uživatelů z naší platformy, přinést lepší argumenty na stůl, když žádají o zvýšené investice do určitých nástrojů, a ideálně umožnit skutečnou tvorbu hodnoty z jejich programu generativní AI.

Mluvila jste o tom, jak potřeby generativní AI se vyvíjejí v čase. Proč je statické plánování zvláště riskantní pro programy generativní AI, a jak by podniky měly uvažovat o strategii v kontinuálně se měnícím prostředí AI?

Jen se podívejte na zpravodajský cyklus v technologickém prostoru v těchto dnech. Noví hráči generativní AI se zdají být objevující se každým týdnem, a zavedené Big Tech firmy, jako je OpenAI, Microsoft (MSFT ), Meta a Google (GOOGL ), neustále aktualizují své stávající nástroje s novými funkcemi chatbota a generativní AI, aby zůstaly v závodě. Pokud se společnosti drží statických plánů, zvídavost zaměstnanců a jejich ochota experimentovat s novými nástroji naruší strategii téměř okamžitě. Governance a politiky jdou jen tak daleko. Když se nové nástroje stanou dostupnými a zaměstnanci je rychle přijmou, ale vy nebudete aktualizovat své vnitřní pravidla AI, stanou se stínovou AI. To nejen vytváří bezpečnostní rizika, ale může také učinit vaše stávající investice do AI méně efektivními. Data o chování uživatelů generativní AI v reálném čase budou pomáhat řešit tento problém dlouhodobě.

Podniky často cítí napětí mezi naléhavostí přijetí generativní AI a potřebou řízení rizik. Jak si myslíte, že organizace by měly vyvážit rychlou inovaci s governance, vynucením politiky a odpovědností?

Aby odpovědně držely krok s rychlým přijetím, organizace musí jít za hranice reaktivní governance AI a zaměřit se na proaktivní strategii AI založenou na důkazech. Musí využít data o chování uživatelů, aby se zaměřily na high-value agenty, aplikace a migrace, a zajistily tak zásadní zlepšení výsledků AI.

Společnosti, které vyhrávají v umělé inteligenci, vyvažují vhodné politiky a governance, aniž by bránily svým zaměstnancům inovovat, způsobem, jakým chtějí. Tento vyvážený přístup není pouze dobrá governance a bezpečnost. Je to dobré podnikání.

Portal26 nyní pokrývá objevování stínové generativní AI, bezpečnost generativní AI a realizaci hodnoty AI. Jak se tyto tři pilíře vzájemně podporují uvnitř velkých, komplexních organizací?

Každá organizace, se kterou mluvíme, má tři otázky kolem generativní AI, které potřebují zodpovědět, než mohou být úspěšné.

1. Jaká AI se používá?
2. Jak zajistit, aby byly bezpečné?
3. Jak vytvořit hodnotu?

Tyto tři otázky zahrnují bezpečnost, rizika a governance na jedné straně a přijetí, případy použití, strategie, produktivitu a ROI na straně druhé – jsou to yin a yang, které je třeba řešit společně. Jsme jedinou platformou pro management přijetí generativní AI, která komplexně řeší všechny tyto kritické faktory úspěchu.

Pohledem do budoucna, co si myslíte, že podniky nejvíce nepochopily o měření úspěchu generativní AI dnes, a jaký je nutný posun myšlení, aby se přešlo z experimentování na udržitelnou konkurenční výhodu?

Jednou z výzev, které vidíme, je, že organizace jsou stále izolované ve svém přístupu k generativní AI. CISO / CIO / GC se zaměřuje na rizika. Ředitel pro AI, CFO, CEO se zaměřuje na vytváření hodnoty. Proto neexistuje jednotná metrika úspěchu, proti které by se dalo měřit. Kromě toho většina organizací má nulový nebo omezený přehled o skutečné aktivitě generativní AI uvnitř své společnosti, což znamená, že mají neúplná data a analytiku, aby pochopili, co se děje, včetně skutečného benchmarku pro měření. Naši zákazníci mají přesné zprávy na úrovni představenstva do týdne, aby skutečně pochopili, co se děje od rizik až po inovace. Děkuji vám za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Portal26.