Arti Raman, generální ředitelka a zakladatelka, Portal26 – rozhovor

Arti Raman, generální ředitelka a zakladatelka Portal26, je zkušená lídryně v oblasti technologií, která řídí přijetí bezpečného a zodpovědného generativního umělého inteligence; pod jejím vedením se Portal26 stal oceněnou platformou pro governance a bezpečnost dat generativního umělého inteligence, za což získala řadu ocenění, včetně nominace na Cyber Person of the Year 2023, Titan Business Awards pro nejlepšího generálního ředitele a podnikatele roku 2022, Tech Trailblazer 2022, SVBJ Women of Influence 2023 a Data Power Women of the Year 2023.

Portal26 je platforma pro řízení důvěry, rizik a bezpečnosti umělého inteligence (AI TRiSM), která pomáhá organizacím bezpečně přijímat a škálovat generativní umělé inteligence, poskytujícím komplexní přehled, governance, řízení rizik a analytiku napříč všemi aktivitami umělého inteligence; platforma detekuje stínové umělé inteligence a spotřebu umělého inteligence v podniku, vynucuje politiku a compliance, podporuje bezpečnost a kontrolu dat a poskytuje akční přehledy pro optimalizaci strategie generativního umělého inteligence, umožňujícím společnostem řídit bezpečnost, compliance a obchodní hodnotu v jednom integrovaném systému.

Založila jste Portal26 v roce 2019, dlouho předtím, než se generativní umělé inteligence stalo mainstreamem. Jaké byly první signály, které vás přesvědčily, že organizace budou mít problémy s nekontrolovaným použitím generativního umělého inteligence, a jak vaše zkušenosti v oblasti bezpečnosti a produktového vedení ovlivnily původní misi společnosti?

Byla jsem inspirována k založení Portal26 (tehdy nazvaného Titaniam) po poruše zabezpečení Equifax (EFX ) v roce 2017. Byla jsem jednou z milionů lidí, kteří byli postiženi touto rozsáhlou bezpečnostní událostí, což mě motivovalo k nalezení nových způsobů, jak chránit osobní údaje.

Vyvinuli jsme a uvedli na trh naší platformu pro bezpečnost dat. Brzy poté jsme si uvědomili, že zákazníci ji využívají k podpoře vytváření repozitářů umělého inteligence a strojového učení. Jakmile se přijetí generativního umělého inteligence zrychlilo, uvědomili jsme si, že naše platforma může sloužit širšímu a aktuálnějšímu účelu. Použili jsme naše rané základy k vytvoření platformy SaaS, která umožňuje společnostem konzumovat generativní umělé inteligence bezpečně a zodpovědně. Jak jsme rostli, pracovali jsme se svými zákazníky, abychom šli za hranice bezpečnosti a governance a umožnili jim pochopit největší výzvu, před kterou stojí podniky, tj. jak získat plnou hodnotu z jejich programů generativního umělého inteligence, včetně objevování případů použití, strategie, ROI, řízení licencí a objevování příležitostí.

Portal26 se původně zaměřoval na objevování stínového generativního umělého inteligence a bezpečnost generativního umělého inteligence. Jakmile zákazníci začali nasazovat generativní umělé inteligence více, jaký rozpor jste pozorovala mezi přijetím a skutečnými obchodními výsledky?

Naše původní zaměření bylo na „rozsvícení světel“ a zajištění bezpečnosti generativního umělého inteligence. To bylo a zůstává cenným výsledkem, zejména proto, že bezpečnost je první překážka, se kterou se potýkají lídři umělého inteligence v podniku. Nicméně, jako první, kdo spustil řešení pro bezpečnost umělého inteligence v roce 2023, jsme si uvědomili, že navzdory silným bezpečnostním kontrolám většina našich zákazníků, ne-li všichni, stále zápasí s dosažením požadovaných obchodních výsledků.

Naučili jsme se od našich zákazníků, že velký rozpor mezi přijetím a skutečnými obchodními výsledky spočívá v tom, že společnosti přistupují k procesu přijetí umělého inteligence obráceně! Každý, kdo strávil nějaký čas v produktovém managementu nebo produktové strategii, ví, že produkt, který není založen na skutečném pochopení uživatelů, je velmi nepravděpodobné, že uspěje. Nicméně, když se jedná o umělé inteligence, podniky nemají absolutně žádnou představu, co jejich uživatelé potřebují a proč. Místo toho, aby se zaměřily na pochopení poptávky, je veškerá podniková umělé inteligence dnes předávána shora na základě brainstormingu výkonných ředitelů nebo doporučení konzultantů. Během posledních několika let se ukázalo, že umělé inteligence postavená nebo koupená tímto způsobem má pozitivní ROI méně než 5 % času. To je velmi velký rozpor.

Portal26 nedávno představil modul pro realizaci hodnoty umělého inteligence. Co bylo zásadně chybějící v tom, jak podniky dříve vyhodnocovaly investice do generativního umělého inteligence, a proč tradiční analytické nebo obchodní inteligence nástroje selhaly?

Zaměstnanci v 90 % společností již používají osobní nástroje umělého inteligence, jako je ChatGPT, v práci… zatímco některé mohou být schváleny, ve většině případů není jejich použití schváleno. Organizace mají málo nebo žádné přehledy o tom, jak jejich zaměstnanci přijímají a vidí hodnotu v generativním umělé inteligence. Mezitím společnosti utratily 37 miliard dolarů za generativní umělé inteligence v roce 2025, říká Menlo Ventures, ačkoli studie za studií ukazuje, že koncepty selhávají. Tradiční analytické nebo obchodní inteligence nástroje se nezaměřují výhradně na použití umělého inteligence, a filtrování hluku, aby se našly produktivní perly generativního umělého inteligence, je náročné.

Řešení Portal26 pro realizaci hodnoty nabízí čtyři klíčové oblasti funkcionality, které řeší velkou mezeru v dosažení obchodních výsledků z investic do umělého inteligence. První, pochopení chování uživatelů v kontextu použití umělého inteligence. Druhé, extrakce high-value případů použití a minimalizace rizik. Třetí, identifikace agentů nebo aplikací s komplexními informacemi o požadovaných funkcích a čtvrté, pokyny pro nasazení, vzdělávání, migraci a nepřetržité monitorování použití a hodnoty. S těmito čtyřmi bloky na místě jsou obchodní výsledky zaručeny.

Vaše platforma zdůrazňuje kontinuální, behaviorální signály napříč podnikem. Jaké typy dat o použití jsou nejvíce kritické pro určení, zda iniciativa generativního umělého inteligence vytváří skutečnou obchodní hodnotu spíše než povrchovou aktivitu?

Vidíme a rozumíme použití všech generativních umělého inteligence v podniku, včetně případu použití a záměru – je to vše založeno na důkazech – takže můžete vidět použití, nebo jeho nedostatek, schválených i neschválených nástrojů. Konkrétně, podnik může vidět:

• Které nástroje se používají
• Kdo je používá
• V jakém oddělení jsou
• Záměr
• Jak se používají
• Jaký je případ použití
• Co se snaží dosáhnout pro podnik
• Kdy uživatelé dodržují politiku a kdy se stávají rebely? Proč?
• Frekvence použití

Tyto údaje nakonec pomáhají organizacím určit, které případy použití si zaslouží investici a které lze eliminovat nebo snížit pro úspory nákladů a zvýšení produktivity.

Mnohé organizace hlásí rozsáhlé experimentování s generativním umělé inteligence, ale omezený úspěch při přechodu z konceptu na produkci. Na základě toho, co jste viděli, jaké jsou nejčastější důvody, proč tyto iniciativy selhávají při škálování?

Existují čtyři důvody, proč tyto iniciativy selhávají při škálování:

1. Nedostatek pochopení chování uživatelů a záměru, pokud jde o umělé inteligence
2. Nedostatek přehledů o případech použití, které přinášejí skutečnou hodnotu a minimalizují rizika
3. I když je identifikován správný případ použití, podporované funkce jsou nesprávné nebo neúplné
4. Nedostatek přehledů o účinných migračních cestách pro směrování uživatelů z jiných řešení do nového schváleného podnikového řešení

V důsledku toho podniky utrácejí miliony za vytváření případů použití umělého inteligence, které se nikdy nezvětšují a nikdy nepřinášejí ROI.

Modul pro realizaci hodnoty umělého inteligence je navržen tak, aby podporoval lídry, jako jsou CIO, CFO a hlavní důstojníci umělého inteligence. Jak tito stakeholdeři obvykle definují úspěch odlišně, pokud jde o generativní umělé inteligence, a jak Portal26 pomáhá sladit jejich priority?

Kromě CIO, CISO a funkčních lídrů, kteří již profitují z platformy Portal26 pro přijetí generativního umělého inteligence, patří mezi další stakeholdery našeho modulu pro realizaci hodnoty umělého inteligence také hlavní důstojníci umělého inteligence, kteří vlastní celkové programy umělého inteligence, produktoví manažeři umělého inteligence, kteří vlastní agenty umělého inteligence, CFO, kteří vlastní náklady a ROI, a hlavní důstojníci pro lidi, kteří se podílejí na iniciativách rozvoje pracovních sil. Nakonec budou moci i CEO a představenstvo odpovědět na otázku „jak vytváříme hodnotu“ z našeho programu generativního umělého inteligence s reálnými, důvěryhodnými metrikami.

CIO a CISO se přirozeně budou více soustředit na to, jak umělé inteligence funguje s jejich stávající technologickou infrastrukturou a bezpečnostním stackem, stejně jako na zajištění správné governance a ochrany proti hrozbám. Budou se soustředit na řízení rizik kolem toho, jak zaměstnanci interagují s umělé inteligence, ano, ale také na to, jak umělé inteligence interaguje se svými softwary a nástroji, plus co musí být povolené nebo zabráněno. Úspěch pro ně = hladké technologické operace a minimální bezpečnostní rizika.

CFO definuje úspěch ROI viděný v projektech umělého inteligence. Chtějí vědět, jak technologie dělá zaměstnance více produktivními a / nebo dělá jejich nabídky více atraktivními pro zákazníky, což vede k vyššímu příjmu. Prevence rizik pro společnost a značku je důležitá, ale hlavní prioritou je spodní linka.

Hlavní důstojníci umělého inteligence a produktoví manažeři umělého inteligence se zajímají o skutečnou funkčnost nástrojů umělého inteligence přijatých jejich organizacemi. Jak mohou vylepšit stávající produkty, které nabízejí? Jak mohou zlepšit vnitřní procesy?

Nakonec budou hlavní důstojníci pro lidi chtít vědět, jak mohou podporovat školení, další vzdělávání a udržovat zaměstnance spokojené. Mohou se také podívat na to, kde může umělé inteligence udělat lidi více efektivními ve svých rolích, aby mohli potenciálně rozšířit nebo upravit své pracovní popisy, aby podpořili jejich kariérní růst bez přetížení.

Každý z těchto stakeholderů může profitovat z analýzy chování uživatelů z naší platformy, přinést lepší argumenty na stůl, když žádají o zvýšené investice do určitých nástrojů, a ideálně umožnit skutečnou tvorbu hodnoty z jejich programu generativního umělého inteligence.

Mluvila jste o tom, jak potřeby generativního umělého inteligence se vyvíjejí over time. Proč je statické plánování zvláště riskantní pro programy generativního umělého inteligence, a jak by podniky měly uvažovat o strategii v kontinuálně se měnícím prostředí umělého inteligence?

Jen se podívejte na zpravodajský cyklus v technologickém prostoru v těchto dnech. Noví hráči generativního umělého inteligence se zdají být objevující se každým týdnem, a zavedené Big Tech firmy, jako je OpenAI, Microsoft (MSFT ), Meta a Google (GOOGL ), neustále aktualizují své stávající nástroje s novými funkcemi chatbota a generativního umělého inteligence, aby zůstaly v závodě. Pokud společnosti drží statické plány, zaměstnanci budou rušit jejich strategii téměř okamžitě. Governance a politiky jdou jen tak daleko. Když se nové nástroje stanou dostupnými a zaměstnanci je rychle přijmou, ale vy nebudete aktualizovat své vnitřní pravidla umělého inteligence, stanou se stínovou umělé inteligencí. To nejen vytváří bezpečnostní rizika, ale může také učinit vaše stávající investice do umělého inteligence méně efektivními. Data o chování uživatelů generativního umělého inteligence budou pomáhat řešit tento problém dlouhodobě.

Podniky často cítí napětí mezi naléhavostí přijetí generativního umělého inteligence a potřebou řízení rizik. Jak si myslíte, že organizace by měly vyvážit rychlou inovaci s governance, vynucením politiky a odpovědností?

Aby odpovědně držely krok s rychlým přijetím, organizace musí jít za hranice reaktivní governance umělého inteligence a zaměřit se na proaktivní, založenou na důkazech strategii umělého inteligence. Musí využít data o chování uživatelů, aby se zaměřily na high-value agenty, aplikace a migrace, zajišťujícím radikální zlepšení výsledků umělého inteligence.

Společnosti, které vyhrávají v umělé inteligenci, vyvažují vhodné politiky a governance, aniž by bránily svým zaměstnancům inovovat, způsobem, jakým chtějí. Tento vyvážený přístup není pouze dobrá governance a bezpečnost. Je to dobré podnikání.

Portal26 nyní pokrývá objevování stínového generativního umělého inteligence, bezpečnost generativního umělého inteligence a realizaci hodnoty umělého inteligence. Jak tyto tři pilíře vzájemně podporují uvnitř velkých, komplexních organizací?

Každá organizace, se kterou mluvíme, má tři otázky kolem generativního umělého inteligence, které potřebují zodpovědět, než mohou být úspěšné.

1. Jaké umělé inteligence se používají?
2. Jak zajistit, aby byly bezpečné?
3. Jak vytvořit hodnotu?

Tyto tři otázky zahrnují bezpečnost, rizika a governance na jedné straně a přijetí, případy použití, strategie, produktivitu a ROI na straně druhé – jsou to yin a yang, které je třeba řešit společně. Jsme jedinou platformou pro management přijetí generativního umělého inteligence, která komplexně řeší všechny tyto kritické faktory úspěchu.

Pohledem do budoucna, co si myslíte, že podniky nejvíce nepochopily o měření úspěchu generativního umělého inteligence dnes, a jaký je nutný posun myšlení, aby se přešlo z experimentování na udržitelnou konkurenční výhodu?

Jednou z výzev, které vidíme, je, že organizace jsou stále izolované ve svém přístupu k generativnímu umělému inteligence. CISO / CIO / GC se zaměřuje na rizika. Hlavní důstojník umělého inteligence, CFO, CEO se zaměřuje na vytváření hodnoty. Proto neexistuje jednotná metrika úspěchu, proti které by se dalo měřit. Kromě toho většina organizací má nulový nebo omezený přehled o skutečné aktivitě generativního umělého inteligence uvnitř své společnosti, což znamená, že mají neúplná data a analytiku, aby pochopili, co se děje, včetně skutečného benchmarku pro měření. Naši zákazníci mají přesné zprávy na úrovni představenstva do týdne, aby skutečně pochopili, co se děje od rizik až po inovace. Děkuji vám za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Portal26.