J. Paul Haynes, CEO Cinchy – Wywiad

J. Paul Haynes, CEO Cinchy, to executive ds. cyberbezpieczeństwa i technologii z dziesięcioleciami doświadczenia w budowaniu i skalowaniu firm bezpieczeństwa przedsiębiorstw. Jest najlepiej znany ze swojego przywództwa w eSentire, gdzie pomógł rozwinąć firmę w głównego dostawcę usług Managed Detection and Response, i wnosi silne doświadczenie w inżynierii, cyberbezpieczeństwie, wzroście wspieranym przez private equity i ryzyku przedsiębiorstw do Cinchy, gdy firma koncentruje się na zaufanym wdrożeniu AI i zarządzaniu.

Cinchy to firma zajmująca się zarządzaniem AI i współpracą danych na poziomie przedsiębiorstw, skupiająca się na pomocy organizacjom w łączeniu AI, systemów i danych w sposób bezpieczny. Jej platforma PeriMind działa jako kontrolna płaszczyzna dla działań AI, zapewniając przedsiębiorstwom widoczność, egzekwowanie polityk, bezpieczeństwo i audytowalność w zakresie interakcji agentów AI z systemami biznesowymi, podczas gdy jej platforma współpracy danych pomaga zespołom zarządzać i udostępniać zarządzane dane w całej organizacji bez polegania na skomplikowanych integracjach lub duplikowanych silosach danych.

Spędziłeś ponad 15 lat, pomagając budować i skalować eSentire w jedną z najbardziej rozpoznawalnych firm w branży cyberbezpieczeństwa. Jakie lekcje z tej podróży wnosisz do swojej nowej roli jako CEO Cinchy, i dlaczego uważasz, że teraz jest odpowiedni czas, aby skupić się na zarządzaniu AI i zaufanym wdrożeniu AI?

Jedną z największych lekcji, które nauczyłem się w eSentire, jest to, że organizacje nie mają problemów, ponieważ brakuje im technologii. Mają problemy, ponieważ wschodzące technologie tworzą operacyjną złożoność szybciej, niż większość firm może ją samodzielnie zarządzać. Widzę, że AI podąża za niezwykle podobną ścieżką.

Dziś wyzwaniem nie jest nakłonienie pracowników do eksperymentowania z AI. Większość organizacji już to robi. Prawdziwym wyzwaniem jest przeniesienie AI do produkcji, gdzie decyzje wpływają na klientów, wyniki finansowe, zgodność z przepisami i operacje biznesowe.

Wysoko regulowane branże, takie jak usługi finansowe, ilustrują to doskonale. Nie poruszają się wolno, ponieważ nie rozumieją AI. Poruszają się ostrożnie, ponieważ jeszcze nie mogą ufać AI w misjach krytycznych. Zanim system AI może podejmować decyzje, organizacje potrzebują odpowiedzi na podstawowe pytania: kto zatwierdził te decyzje? Jak są one monitorowane? Kiedy interweniuje osoba? Co się stanie, jeśli model się przesunie, zawiedzie lub stanie się niedostępny?

Te pytania przypominają mi, gdzie było cyberbezpieczeństwo piętnaście lat temu. Bezpieczeństwo ewoluowało z problemu technologicznego w kierunku operacyjnej dyscypliny. Uważam, że zarządzanie AI jest na tej samej trajektorii.

Dlatego dołączyłem do Cinchy. Wierzymy, że zaufane wdrożenie AI (a nie eksperymentowanie z AI) zdefiniuje następną dekadę, i widzimy, że zarządzane zarządzanie AI stanie się równie ważne, jak zarządzane bezpieczeństwo cybernetyczne.

Wiele przedsiębiorstw eksperymentowało z generatywnym AI w ciągu ostatnich dwóch lat, ale stosunkowo niewiele z nich pomyślnie wdrożyło AI w procesy misji krytycznych. Jakie są największe bariery, które uniemożliwiają organizacjom przeniesienie z pilotów do produkcji?

Nie uważam, że firmy mają problemy, ponieważ technologia nie jest wystarczająco dobra. Uważam, że mają problemy, ponieważ stawki są znacznie wyższe, gdy AI przechodzi poza eksperymenty.

Pilot to jedna rzecz. Wprowadzenie AI do produkcji to coś zupełnie innego. Teraz AI dostaje dostęp do danych przedsiębiorstwa, interakcji z systemami biznesowymi, a może nawet podejmuje decyzje w imieniu pracowników. To jest moment, kiedy kierownictwo słusznie zaczyna pytać: “Jak kontrolujemy to? Jak monitorujemy? I jak wiemy, kiedy potrzebna jest interwencja człowieka?”

To nie są powody, aby spowolnić wdrożenie AI. To są rzeczy, które umożliwiają wdrożenie AI. Jeśli można odpowiedzieć na te pytania z pewnością, organizacje poruszają się znacznie szybciej.

Spędziłeś dużą część swojej kariery, zabezpieczając środowiska przedsiębiorstw przed zagrożeniami cybernetycznymi. Jak zabezpieczenie organizacji wykorzystującej AI różni się od zabezpieczenia tradycyjnego środowiska IT?

Tradycyjne bezpieczeństwo cybernetyczne koncentruje się na ochronie punktów końcowych, tożsamości, sieci i środowisk chmurowych. AI dodaje kolejną stałą powierzchnię zagrożenia dla przedsiębiorstwa. Każdy system AI wprowadza nowe ryzyka. Dostęp do modelu, wstrzyknięcie promtu, nadmierne uprawnienia, przesunięcie modelu, autonomiczne podejmowanie decyzji i całkowicie nowe ścieżki ataku, które po prostu nie istniały wcześniej.

Ważną kwestią jest to, że bezpieczeństwo AI nie jest oddzielnym od bezpieczeństwa cybernetycznego. Rozszerza ono bezpieczeństwo cybernetyczne. Organizacje nadal potrzebują wszystkich istniejących kontroli bezpieczeństwa, ale teraz potrzebują również bezpieczeństwa zaprojektowanego specjalnie dla systemów AI działających w produkcji.

Cień IT od dawna jest problemem dla zespołów bezpieczeństwa, ale teraz obserwujemy wzrost cienia AI. Jak duże jest to wyzwanie, a jakie ryzyka organizacje niedoceniają?

Cień AI staje się jednym z najszybciej rosnących ryzyk biznesowych, ponieważ zespoły kierownicze zachęcają do szybkiego wdrożenia AI bez zawsze ustanawiania zarządzania jako pierwszego. Większość pracowników nie działa z zamiarem szkodzenia. Stają się bardziej produktywni. Problem polega na tym, że systemy AI dziedziczą pozwolenia, które użytkownicy już mają.

Wyższy menedżer eksperymentujący z publicznym modelem AI może nieumyślnie ujawnić poufne dane finansowe, informacje o klientach lub własność intelektualną, po prostu poprzez poproszenie AI o ich analizę.

Dlatego organizacje potrzebują widoczności, kontroli polityk i zarządzania, nie aby spowolnić wdrożenie AI, ale aby uczynić je wystarczająco bezpiecznym, aby je skalować.

Agenci AI są coraz częściej przyznawani dostęp do systemów przedsiębiorstw, danych i procesów decyzyjnych. Jakie nowe wyzwania dotyczące odpowiedzialności i zarządzania pojawiają się, gdy systemy AI mogą działać autonomicznie, a nie tylko generować treści?

Agenci AI zmieniają fundamentalnie rozmowę o zarządzaniu, ponieważ nie generują już treści. Podejmują działania. Gdy autonomiczny system może zatwierdzić transakcje, uzyskać dostęp do systemów przedsiębiorstwa lub podejmować decyzje biznesowe, organizacje potrzebują pełnej odpowiedzialności.

Każde działanie powinno odpowiedzieć na proste pytania:

• Co się stało?
• Dlaczego to się stało?
• Which AI agent podjął decyzję?
• Kto to autoryzował?
• Kiedy powinna interweniować osoba?

Te zasady nie są nowe. Branże żyły z wymogami odpowiedzialności przez dziesięciolecia pod regulacjami takimi jak Sarbanes-Oxley. AI po prostu rozszerza te same oczekiwania do autonomicznych cyfrowych pracowników.

Wiele organizacji wyścigają się, aby wdrożyć AI z powodu presji konkurencyjnej. Jak liderzy biznesu mogą zbalansować potrzebę szybkości z potrzebą zarządzania, zgodności i zarządzania ryzykiem?

Zarządzanie nie powinno spowolnić wdrożenia AI. Powinno je przyspieszyć. Organizacje poruszają się szybciej, gdy kierownictwo ufa środowisku, które budują. Oznacza to ustanowienie bezpiecznej, monitorowalnej architektury AI, ciągłej oceny modeli pod kątem przesunięcia i wydajności, zarządzania dostępem do systemów przedsiębiorstwa oraz posiadania wyraźnych kontroli operacyjnych przed wdrożeniem AI do produkcji.

Podobnie jak organizacje przyjęły wykrywanie i odpowiedź zarządzaną, aby uprościć bezpieczeństwo cybernetyczne, uważam, że wiele z nich przyjmie zarządzane zarządzanie AI, aby uzyskać ekspertyzę bez konieczności budowania dużych specjalistycznych zespołów wewnętrznie.

Rady dyrektorów stają się coraz bardziej zaangażowane w nadzór AI. Jakie pytania powinni zadawać członkowie zarządu zespołom kierowniczym o strategii AI, zarządzaniu i odpowiedzialności?

Rady powinny zadać jedno fundamentalne pytanie: czy kierownictwo może udowodnić, że AI działa pod tym samym poziomem zarządzania, co każdy inny krytyczny system biznesowy?

Oznacza to zrozumienie, gdzie AI jest używany, kto go posiada, jak monitorowane są decyzje, jak zarządzane jest ryzyko i jak organizacja będzie działać, jeśli usługa AI stanie się niedostępna. Organizacje, które odnoszą sukcesy, niekoniecznie będą tymi, które przyjmują AI najszybciej. Będą to te, które budują operacyjną dyscyplinę, aby ufać AI w skali.

Branża cyberbezpieczeństwa spędziła dziesięciolecia na rozwijaniu ram, kontroli i najlepszych praktyk. Czy są lekcje z cyberbezpieczeństwa, które można bezpośrednio zastosować do zarządzania AI, czy AI wymaga całkowicie nowego podejścia?

Bezpieczeństwo cybernetyczne oferuje doskonały plan dla zarządzania AI. Zarządzanie tożsamością, najmniejsze przywileje, ciągłe monitorowanie, ślady audytu, odpowiedź na incydenty i odporność pozostają niezbędne. To, co nowe, to to, że AI wprowadza wyzwania, których tradycyjne systemy nie miały, w tym przesunięcie modelu, halucynacje, manipulacja promptem i zależność od podstawowych modeli firm trzecich. AI nie zastępuje bezpieczeństwa cybernetycznego. Rozszerza je o dodatkową warstwę zarządzania.

Co to jest “zaufane wdrożenie AI” w praktyce? Czy są specyficzne zasady zarządzania lub operacyjne zabezpieczenia, które każde przedsiębiorstwo powinno mieć w miejscu przed skalowaniem inicjatyw AI?

Skłaniam się ku myśleniu o tym w taki sam sposób, jak myśleliśmy o bezpieczeństwie cybernetycznym lata temu. Nikt nie pytał, czy bezpieczeństwo tworzy wartość. Pytanie brzmiało, czy ufamy swojemu środowisku wystarczająco, aby utrzymać działalność.

AI idzie dokładnie w tym samym kierunku. Jeśli nie możesz zobaczyć, co robi, kontrolować, do czego ma dostęp, lub zrozumieć, dlaczego podejmuje pewne decyzje, nie pozwolisz mu obsłużyć niczego ważnego.

Gdy masz tę pewność, wdrożenie następuje naturalnie. Organizacje przestają traktować AI jak interesujący eksperyment i zaczynają traktować je jak kolejną część biznesu.

Spójrzając w przyszłość, trzy do pięciu lat, jak widzisz ewolucję relacji między zarządzaniem AI a przewagą konkurencyjną? Czy silne zarządzanie stanie się różnicą, czy po prostu wymogiem dla prowadzenia działalności?

W ciągu najbliższych trzech do pięciu lat silne zarządzanie AI nie będzie różnicą konkurencyjną. Stanie się wymogiem biznesowym. Organizacje, które ustanowią zarządzanie wcześnie, przyjmą AI szybciej, ponieważ będą miały pewność, aby przenieść krytyczne obciążenia do produkcji. Te, które nie będą, pozostaną w tyle w eksperymentowaniu, podczas gdy konkurenci zrealizują wymierne zyski w produktywności, innowacjach i doświadczeniu klienta. Ostatecznie, zarządzanie nie spowolni wdrożenia AI. Będzie to powodem, dla którego organizacje będą ufać AI wystarczająco, aby je w pełni zaakceptować.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Cinchy.