Arti Raman, CEO i założyciel, Portal26 – seria wywiadów

Arti Raman, CEO i założyciel Portal26, to doświadczony lider technologiczny, który promuje przyjęcie bezpiecznej i odpowiedzialnej sztucznej inteligencji generatywnej; pod jego kierownictwem Portal26 stał się nagradzaną platformą zarządzania governance i bezpieczeństwem danych AI, co przyniosło mu uznanie, w tym nominację do tytułu Cyber Person of the Year 2023, nagrodę Titan Business Awards dla kobiet-CEO i kobiet-przedsiębiorców roku 2022, nagrodę Tech Trailblazer 2022, SVBJ Women of Influence 2023 oraz Data Power Women of the Year 2023.

Portal26 to platforma AI Trust, Risk & Security Management (AI TRiSM) skierowana do przedsiębiorstw, która pomaga organizacjom w bezpiecznym przyjęciu i skalowaniu sztucznej inteligencji generatywnej, zapewniając kompleksową widoczność, governance, ograniczanie ryzyka i analiza wszystkich przypadków użycia AI; platforma wykrywa tzw. cienie AI i zużycie AI w przedsiębiorstwie, egzekwuje politykę i zgodność, wspiera kontrolę bezpieczeństwa i prywatności danych oraz dostarcza informacje umożliwiające optymalizację strategii AI, umożliwiając firmom zarządzanie bezpieczeństwem, zgodnością i wartością biznesową w jednym zintegrowanym systemie.

Założyła Pani Portal26 w 2019 roku, zanim sztuczna inteligencja generatywna weszła do mainstreamu przedsiębiorstw. Jakie wczesne sygnały przekonały Panią, że organizacje będą miały problemy z niekontrolowanym użyciem sztucznej inteligencji generatywnej, i jak Pani doświadczenie w dziedzinie bezpieczeństwa i przywództwa produktowego ukształtowało pierwotną misję firmy?

Zainspirowała mnie do założenia Portal26 (wówczas nazwany Titaniam) po incydencie z Equifax (EFX ) w 2017 roku. Byłam jedną z milionów osób dotkniętych tym szeroko zakrojonym incydentem bezpieczeństwa, co skłoniło mnie do znalezienia nowych sposobów ochrony danych osobowych.

Rozwinęliśmy i wprowadziliśmy naszą platformę bezpieczeństwa danych na rynek. Niedługo potem zorientowaliśmy się, że nasi klienci wykorzystują ją do tworzenia repozytoriów AI i ML. Gdy przyjęcie AI generatywnej przybrało na sile, zrozumieliśmy, że nasza platforma może spełniać szerszy, jeszcze bardziej aktualny cel. Wykorzystaliśmy nasze wczesne podwaliny, aby stworzyć platformę SaaS, która umożliwia firmom bezpieczne i odpowiedzialne korzystanie z AI generatywnej. W miarę rozwoju współpracowaliśmy z naszymi klientami, aby wyjść poza bezpieczeństwo i governance, aby również umożliwić im zrozumienie największego wyzwania stojącego przed przedsiębiorstwami, jak wydobyć pełną wartość z ich programów AI, w tym odkrywanie przypadków użycia, strategii, ROI, zarządzania licencjami i odkrywania możliwości.

Początkowo Portal26 koncentrował się na wykrywaniu sztucznej inteligencji generatywnej i bezpieczeństwie AI. Gdy klienci zaczęli wdrożenie sztucznej inteligencji generatywnej na szerszą skalę, jaki rozdźwięk Pani zaobserwowała między wdrożeniem a rzeczywistymi wynikami biznesowymi?

Nasza pierwotna koncentracja polegała na „włączeniu świateł” i zapewnieniu, że użycie AI generatywnej jest bezpieczne. To nadal jest i pozostaje cennym wynikiem, zwłaszcza że bezpieczeństwo jest pierwszą przeszkodą, z którą mierzą się liderzy AI w przedsiębiorstwach. Niemniej jednak, jako pierwsi, którzy uruchomili rozwiązanie bezpieczeństwa AI w 2023 roku, zauważyliśmy, że pomimo posiadania silnych kontroli bezpieczeństwa, większość – jeśli nie wszystkie – naszych klientów nadal ma trudności z osiągnięciem pożądanych wyników biznesowych.

Dowiedzieliśmy się od naszych klientów, że główny rozdźwięk między wdrożeniem a rzeczywistymi wynikami biznesowymi polega na tym, że firmy podejmują proces wdrożenia AI odwrotnie! Każdy, kto spędził trochę czasu w zarządzaniu produktem lub strategii produktu, wie, że produkt, który nie opiera się na prawdziwym zrozumieniu użytkowników, ma małe szanse na sukces. Niemniej jednak, gdy chodzi o AI, przedsiębiorstwa nie mają pojęcia, czego potrzebują ich użytkownicy i dlaczego. Zamiast skupiać się na zrozumieniu popytu, wszystkie przedsiębiorstwa AI dziś są narzucane od góry na podstawie burz mózgów wyższej kadry lub zaleceń konsultantów. W ciągu ostatnich kilku lat AI zbudowana lub zakupiona w ten sposób wykazała pozytywny ROI mniej niż 5% czasu. To jest bardzo duży rozdźwięk.

Portal26 niedawno wprowadził moduł realizacji wartości AI. Co było fundamentalnie nieobecne w ocenie inwestycji w AI generatywną przed tym, i dlaczego tradycyjne narzędzia analityczne lub biznesowe nie spełniły oczekiwań?

Pracownicy w 90% firm już używa osobistych narzędzi AI, takich jak ChatGPT w pracy… podczas gdy niektóre mogą być sанкcyjne, w większości przypadków użycie nie jest sankcjonowane. Organizacje mają niewielką lub żadną wiedzę na temat tego, jak ich pracownicy przyjmują i dostrzegają wartość w AI generatywnej. Tymczasem firmy wydały 37 miliardów dolarów na AI generatywną w 2025 roku, mówi Menlo Ventures, a studium po studium pokazuje, że dowody pojęć kończą się niepowodzeniem. Tradycyjne narzędzia analityczne lub biznesowe nie koncentrują się wyłącznie na użyciu AI, a przecedzenie szumu, aby znaleźć najcenniejsze informacje o produktywności AI, jest uciążliwe.

Rozwiązanie realizacji wartości Portal26 oferuje cztery kluczowe obszary funkcjonalności, które adresują dużą lukę w osiąganiu wyników biznesowych z inwestycji w AI. Po pierwsze, zrozumienie zachowania użytkowników w kontekście użycia AI. Po drugie, wydobycie przypadków użycia o wysokiej wartości, minimalizując ryzyko. Po trzecie, identyfikacja możliwości agentów lub aplikacji z kompleksowym wprowadzeniem do wymaganych funkcji, a po czwarte, wskazówki dotyczące wdrożenia, edukacji, migracji i ciągłego monitorowania użycia i wartości. Z tymi czterema blokami na miejscu wyniki biznesowe są gwarantowane.

Nasza platforma kładzie nacisk na ciągłe, behawioralne sygnały na poziomie przedsiębiorstwa. Jakie rodzaje danych użycia są najbardziej krytyczne dla określenia, czy inicjatywa sztucznej inteligencji generatywnej tworzy rzeczywistą wartość biznesową, a nie tylko powierzchniową aktywność?

Widzimy i rozumiemy użycie wszystkich AI generatywnych w przedsiębiorstwie, w tym przypadku użycia i intencji – jest to wszystko oparte na dowodach, więc można zobaczyć użycie, lub jego brak, zatwierdzonych i niezatwierdzonych narzędzi. Konkretnie, przedsiębiorstwo może zobaczyć:

• Jakie narzędzia są używane
• Kto ich używa
• Z jakiego działu są
• Intencja
• Jak są one używane
• Jaki jest przypadek użycia
• Co starają się osiągnąć dla biznesu
• Kiedy użytkownicy przestrzegają polityki, a kiedy odchodzą od niej? Dlaczego?
• Częstotliwość użycia

Te dane ostatecznie pomagają organizacjom określić, które przypadki użycia zasługują na inwestycje przedsiębiorstwa, a które można wyeliminować lub zmniejszyć w celu oszczędności kosztów i ogólnej zwiększonej produktywności.

Wiele organizacji zgłasza duże doświadczenie z sztuczną inteligencją generatywną, ale ograniczony sukces w przeniesieniu z pojęcia dowodu do produkcji. Na podstawie tego, co Pani zobaczyła, jakie są najczęstsze powody, dla których te inicjatywy nie udaje się skalować?

Istnieją cztery powody, dla których te inicjatywy nie udaje się skalować:

1. Brak zrozumienia zachowania użytkowników i intencji w odniesieniu do AI
2. Brak widoczności przypadków użycia, które napędzają rzeczywistą wartość, minimalizując ryzyko
3. Nawet jeśli odpowiedni przypadek użycia zostanie zidentyfikowany, obsługiwane funkcje są błędne lub niekompletne
4. Brak widoczności skutecznych ścieżek migracji, aby skierować użytkowników z innych rozwiązań do nowego rozwiązania zatwierdzonego przez przedsiębiorstwo

W rezultacie przedsiębiorstwa wydają miliony na budowanie przypadków użycia opartych na AI, które nigdy nie skalują się i nigdy nie zapewniają ROI.

Moduł realizacji wartości AI jest zaprojektowany, aby wspierać liderów, takich jak CIO, CFO i Chief AI Officers. Jak ci stakeholderzy zwykle definiują sukces inaczej, gdy chodzi o sztuczną inteligencję generatywną, i jak Portal26 pomaga wyalignować ich priorytety?

Oprócz CIO, CISO i liderów funkcyjnych, którzy już korzystają z platformy Portal26 GenAI Adoption, dodatkowymi stakeholderami naszego modułu realizacji wartości AI są chief AI officers, którzy posiadają ogólne programy AI, menedżerowie produktu AI, którzy posiadają rozwój aplikacji AI, CFO, którzy posiadają koszty i ROI, oraz chief people officers, którzy są zaangażowani w inicjatywy rozwoju siły roboczej. Wreszcie, CEO i rady nadzorcze będą teraz mogli odpowiedzieć na pytanie „jak tworzymy wartość” z naszego programu AI z rzeczywistymi, zaufanymi metrykami.

CIO i CISO będą naturalnie bardziej skoncentrowani na tym, jak AI działa z ich istniejącą infrastrukturą technologiczną i stosami bezpieczeństwa, a także na zapewnieniu odpowiedniej governance i ochrony przed zagrożeniami. Będą oni skoncentrowani na zarządzaniu ryzykiem wokół interakcji pracowników z AI, tak, ale także na tym, jak AI wchodzi w interakcje z ich oprogramowaniem i narzędziami, a także na dostępie, który musi być udzielony lub uniemożliwiony. Sukces dla nich to gładkie operacje technologiczne i minimalne ryzyko bezpieczeństwa.

CFO definiuje sukces poprzez ROI widoczny w projektach AI. Chcą wiedzieć, jak technologia sprawia, że pracownicy są bardziej produktywni i/lub jak ich oferty są bardziej atrakcyjne dla klientów, co prowadzi do większych przychodów. Zapobieganie ryzyku dla firmy i marki jest ważne, ale najważniejsze jest dno.

Chief AI officers i menedżerowie produktu AI są zainteresowani rzeczywistą funkcjonalnością narzędzi AI przyjętych przez ich organizacje. Jak mogą oni udoskonalić istniejące produkty, które oferują? Jak mogą oni udoskonalić wewnętrzne procesy?

Wreszcie, chief people officers chcą wiedzieć, jak mogą oni wspierać szkolenia, podnoszenie kwalifikacji i utrzymanie pracowników. Mogą oni również rozważyć, gdzie AI może sprawić, że ludzie są bardziej wydajni w swoich rolach, aby mogli potencjalnie rozszerzyć lub dostosować swoje opisy pracy, aby wesprzeć ich rozwój kariery bez przeładowania.

Każdy z tych stakeholderów może skorzystać z analizy zachowania użytkowników z naszej platformy, przynieść lepsze argumenty do stołu, gdy żądają zwiększonej inwestycji w określone narzędzia, i ostatecznie umożliwić tworzenie rzeczywistej wartości z ich programu AI.

Mówiła Pani o tym, jak potrzeby sztucznej inteligencji generatywnej ewoluują w czasie. Dlaczego planowanie statyczne jest szczególnie ryzykowne dla programów sztucznej inteligencji generatywnej, i jak przedsiębiorstwa powinny myśleć o strategii w środowisku AI, które ciągle się zmienia?

Po prostu spójrz na cykl informacyjny w przestrzeni technologicznej w ostatnim czasie. Nowi gracze AI generatywnej wydają się pojawiać co tydzień, a ustanowione firmy Big Tech, takie jak OpenAI, Microsoft (MSFT ), Meta i Google (GOOGL ), stale aktualizują swoje istniejące narzędzia o nowe funkcje chatbota i AI generatywnej, aby pozostać w wyścigu. Jeśli firmy trzymają się planowania statycznego, ciekawość i chęć eksperymentowania pracowników z nowymi narzędziami zakłóci ich strategię niemal natychmiast. Governance i polityka idą tylko do pewnego punktu. Gdy nowe narzędzia stają się dostępne, a pracownicy szybko je przyjmują, ale nie aktualizują wewnętrznych zasad AI, stają się one tzw. cieniami AI. To nie tylko tworzy ryzyko bezpieczeństwa, ale może również sprawić, że istniejące inwestycje w AI będą mniej skuteczne. Dane w czasie rzeczywistym o zachowaniu użytkowników AI pomogą zarządzać tym problemem na dłuższą metę.

Przedsiębiorstwa często odczuwają napięcie między pilnością przyjęcia sztucznej inteligencji generatywnej a potrzebą zarządzania ryzykiem. Jak Pani myśli, że organizacje powinny balansować szybką innowację z governance, egzekwowaniem polityki i odpowiedzialnością?

Aby odpowiedzialnie dotrzymać tempa szybkiego wdrożenia, organizacje muszą wyjść poza reaktywne zarządzanie AI i przyjąć proaktywną, opartą na dowodach strategię AI. Muszą one wykorzystać dane o zachowaniu użytkowników, aby skupić się na wysoko-wartościowych agentach, aplikacjach i migracjach, zapewniając radykalną poprawę wyników AI.

Firmy, które wygrywają w AI, balansują odpowiednią politykę i governance, nie powstrzymując pracowników przed innowacjami, które im się podobają. Ten zbalansowany podejście nie jest tylko dobrą governance i bezpieczeństwem, ale także dobrym biznesem.

Portal26 obecnie obejmuje odkrywanie sztucznej inteligencji generatywnej, bezpieczeństwo AI i realizację wartości AI. Jak te trzy filary wzmacniają się nawzajem w dużych, złożonych organizacjach?

Każda organizacja, z którą rozmawiamy, ma trzy pytania dotyczące AI, które muszą odpowiedzieć, zanim będą mogli odnieść sukces.

1. Jaki AI jest używany?
2. Jak mogę się upewnić, że jest on bezpieczny?
3. Jak mogę stworzyć wartość?

Te trzy pytania obejmują bezpieczeństwo, ryzyko i governance z jednej strony, oraz przyjęcie, przypadki użycia, strategię, produktywność i ROI z drugiej – są to yin i yang, które muszą być rozwiązane razem. Jesteśmy jedyną platformą zarządzania adopcją AI, która całościowo rozwiązuje wszystkie te krytyczne czynniki sukcesu.

Spójrzając w przyszłość, co Pani uważa, że przedsiębiorstwa najbardziej nie rozumieją o mierzeniu sukcesu AI generatywnej dzisiaj, i jaki jest wymagany przesunięcie myślenia, aby przejść od eksperymentowania do trwałej przewagi konkurencyjnej?

Jednym z wyzwań, które widzimy, jest to, że organizacje nadal są rozdrobnione w swoim podejściu do AI. CISO/CIO/GC koncentruje się na ryzyku. Oficer AI, CFO, CEO koncentruje się na tworzeniu wartości. Nie ma zatem zunifikowanego metryki sukcesu, z którym można by się zmierzyć. Dodatkowo, większość organizacji ma zero lub ograniczony widok rzeczywistej aktywności AI w swojej firmie, co oznacza, że mają niepełne dane i analitykę, aby zrozumieć, co się dzieje, w tym rzeczywistą benchmarke do pomiaru. Nasi klienci mają dokładne raporty na poziomie zarządu w ciągu tygodnia, aby naprawdę zrozumieć, co się dzieje od ryzyka do innowacji.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Portal26.