Gou Rao, CEO & Co-Founder of NeuBird – Wywiad z serii

Goutham (Gou) Rao jest dyrektorem generalnym i współzałożycielem NeuBird, twórcy Hawkeye, pierwszego na świecie inżyniera ITOps zasilanego przez generatywny AI, zaprojektowanego w celu pomocy zespołom IT w diagnozowaniu i rozwiązywaniu problemów technicznych natychmiast, umożliwiając bezproblemową współpracę między zespołami ludzkimi a AI.

Jest przedsiębiorcą wielokrotnie udanym, z udokumentowanym rekordem. Rao współzałożył i pomyślnie sprzedał kilka firm. Współzałożył Portworx, który został przejęty przez Pure Storage; Ocarina Networks, który został przejęty przez Dell; oraz Net6, który został przejęty przez Citrix. Jest również uznanym wynalazcą z ponad 50 patentami wydanymi w dziedzinie sieci komputerowych, przechowywania i bezpieczeństwa.

NeuBird rozwija rozwiązania AI dla operacji IT, aby pomóc w rozwiązaniu problemu braku wykwalifikowanych specjalistów potrzebnych do zarządzania nowoczesnymi, złożonymi stosami technologicznymi. Firma koncentruje się na uproszczeniu analizy danych i dostarczaniu w czasie rzeczywistym istotnych informacji, mając na celu poprawę wydajności i wspieranie innowacji w zarządzaniu IT.

Czym skłoniło Cię do założenia NeuBird, i jak zidentyfikowałeś potrzebę automatyzacji IT z użyciem AI?

NeuBird powstało z powodu rosnącej złożoności stosów IT przedsiębiorstw i braku wykwalifikowanych specjalistów IT. Tradycyjne narzędzia nie nadążały, zmuszając zespoły IT do wydatkowania 30% swoich budżetów na nawigację w źródłach danych, zamiast napędzania innowacji. Zobaczyliśmy możliwość stworzenia inżyniera ITOps zasilanego przez AI – Hawkeye – który mógłby natychmiast wskazać problemy IT, zmniejszyć czas rozwiązania problemu z dni do minut, i umożliwić przedsiębiorstwom skalowanie operacji IT bez ograniczeń wynikających z braku personelu.

Jak NeuBird jest pionierem w dziedzinie cyfrowych współpracowników zasilanych przez AI, i co wyróżnia Hawkeye spośród tradycyjnych narzędzi do automatyzacji IT?

W przeciwieństwie do statycznych, opartych na regułach narzędzi do automatyzacji IT, nasz cyfrowy współpracownik zasilany przez AI, Hawkeye, dynamicznie przetwarza ogromne ilości danych telemetrycznych i diagnozuje problemy natychmiast. Eliminuje on stronniczość przedprogramowanych narzędzi obserwacyjnych, pobierając informacje z różnych źródeł danych przedsiębiorstwa – w tym Slack, usług chmurowych, baz danych i aplikacji niestandardowych – dając zespołom IT całościowy, kontekstowy widok ich infrastruktury.

Hawkeye nie tylko prezentuje alerty; aktywnie współpracuje z inżynierami za pośrednictwem interfejsu konwersacyjnego, diagnozując przyczyny problemów i proponując rozwiązania złożonych problemów IT. To fundamentalnie zmienia sposób, w jaki działają operacje IT, pomagając im minimalizować czas przestojów i reagować na incydenty IT z niezwykłą szybkością.

Przedsiębiorstwa często mają problemy z nadmiarem danych w operacjach IT. Jak Hawkeye filtruje przez ogromne zestawy danych, aby dostarczyć istotne informacje?

Tradycyjne narzędzia IT mają trudności z przetwarzaniem powodzi danych telemetrycznych – logów, wskaźników systemowych i wskaźników wydajności chmury – co prowadzi do zmęczenia alertami i wolnego rozwiązywania incydentów.

Hawkeye przecina hałas, ciągle analizując dane w czasie rzeczywistym i wykrywając wzorce, które sygnalizują problemy z wydajnością lub awarie. Uzupełnia istniejące narzędzia obserwacyjne i monitorujące, przechodząc od biernego monitorowania do aktywnego działania. Działając jako inżynier w Twoim zespole, interpretuje dane telemetryczne i systemowe z Twoich obecnych narzędzi, zagłębiając się w problemy i rozwiązując je, gdy tylko się pojawiają.

Dostarcza jasne, istotne informacje w języku naturalnym, zmniejszając czas reakcji z dni do minut.

Unikalne podejście Hawkeye wykorzystuje moc modeli LLM, aby kierować analizą incydentów bez udostępniania danych klienta modelom LLM, co gwarantuje przemyślane i bezpieczne podejście.

Bezpieczeństwo i zaufanie są głównymi problemami w przypadku wdrożenia AI w IT. Jak NeuBird rozwiązuje te wyzwania?

Unikalne podejście Hawkeye wykorzystuje moc modeli LLM, aby kierować analizą incydentów bez udostępniania danych klienta modelom LLM, co gwarantuje przemyślane i bezpieczne podejście.

Hawkeye działa w obrębie bezpieczeństwa przedsiębiorstwa, używając tylko wewnętrznych źródeł danych do generowania informacji – eliminując halucynacje, które dotykają ogólnych systemów opartych na modelach LLM. Zapewnia również przejrzystość, dostarczając ślady zaleceń, dzięki czemu zespoły IT zachowują pełną kontrolę nad procesami decyzyjnymi. To podejście sprawia, że jest to godny zaufania i bezpieczny współpracownik AI, a nie rozwiązanie black-box.

Jak Hawkeye integruje się z istniejącą infrastrukturą IT, i jaki jest proces wdrożenia dla przedsiębiorstw?

Hawkeye bezproblemowo integruje się ze środowiskami IT przedsiębiorstw, łącząc się z istniejącymi narzędziami obserwacyjnymi, monitorującymi i reagującymi na incydenty, np. AWS CloudWatch, Azure Monitor, Datadog (DDOG ) i PagerDuty. Działa obok zespołów IT, DevOps i SRE bez wymagania znaczących zmian w infrastrukturze.

Oto jak to działa:

• Wdrożenie: Hawkeye jest wdrożony w Twoim środowisku, łącząc się z istniejącymi narzędziami i źródłami danych.
• Uczenie i adaptacja: Analizuje historyczne incydenty i dane telemetryczne w czasie rzeczywistym, aby zrozumieć normalne operacje systemowe i zidentyfikować wzorce.
• Dostosowanie: Platforma dostosowuje się do specyficznych workflow przedsiębiorstwa, dostosowując odpowiedzi i rekomendacje do potrzeb operacyjnych.
• Współpraca: Za pośrednictwem interfejsu czatu, zespoły otrzymują diagnozy w czasie rzeczywistym, rozwiązania i automatyczne rozwiązania, tam gdzie jest to możliwe.

Ten uproszczony proces integracji przyspiesza rozwiązanie incydentów, zmniejsza MTTR i zwiększa niezawodność systemu – pozwalając przedsiębiorstwom na efektywne skalowanie operacji IT bez zwiększania zatrudnienia.

 Jaką rolę odgrywają ludzcy inżynierowie obok współpracowników AI, takich jak Hawkeye? Jak widzisz ewolucję tej współpracy?

 Hawkeye uzupełnia, a nie zastępuje, ludzkich specjalistów IT. Zespoły IT nadal podejmują strategiczne decyzje, ale zamiast ręcznie rozwiązywać każdy problem, pracują obok Hawkeye, aby diagnozować i rozwiązywać problemy szybciej. W miarę jak współpracownicy AI stają się bardziej zaawansowani, specjaliści IT będą się przesuwać w kierunku zadań o wyższej wartości – optymalizacji architektur, poprawy bezpieczeństwa i przyspieszania wdrożenia nowych technologii.

Hawkeye twierdzi, że zmniejsza średni czas rozwiązania problemu (MTTR) o 90%. Czy możesz podzielić się jakimikolwiek przykładami z życia wziętymi lub studiami przypadku, które demonstrują ten wpływ?

 Narodowy detalista spożywczy zintegrował Hawkeye, aby poradzić sobie z rosnącą złożonością swojej platformy e-commerce. Ich zespół SRE był przytłoczony ogromnymi danymi telemetrycznymi i powolnymi, ręcznymi dochodzeniami, szczególnie w okresie szczytu handlu.

Z Hawkeye jako współpracownikiem zasilanym przez AI, zobaczyli oni:

• ~90% redukcję MTTR – Natychmiastowa korelacja danych w AWS CloudWatch, AWS MSK i PagerDuty.
• Analiza 24/7 w czasie rzeczywistym – Wyeliminowanie eskalacji poza godzinami pracy.
• Automatyczne rozwiązanie incydentów – Przed zatwierdzeniem wdrożono samodzielnie.

Podczas ich szczytu handlu świątecznego, Hawkeye zoptymalizował pojemność, wykrył wczesne problemy i wprowadził w czasie rzeczywistym dostosowania do skalowania, zapewniając prawie 100% czasu pracy – co było przełomem dla ich operacji IT.

Jak widzisz ewolucję agentów AI z biernych asystentów do aktywnych rozwiązywaczy problemów w operacjach przedsiębiorstw, i jakie kluczowe postępy napędzają tę zmianę?

 AI przechodzi od biernego monitorowania do aktywnego rozwiązywania problemów. Hawkeye już dostarcza analizę przyczyn i rozwiązania, ale następna faza to pełna autonomia – gdzie AI proaktywnie optymalizuje operacje IT i samodzielnie naprawia infrastrukturę w czasie rzeczywistym. Ta ewolucja, napędzana przez postępy w GenAI i modelach decyzyjnych, zdefiniuje na nowo operacje IT przedsiębiorstw.

Gdzie widzisz automatyzację przedsiębiorstw z użyciem AI w ciągu najbliższych pięciu lat, i jakie główne wyzwania lub przełomy przewidujesz na tej drodze?

 AI zmieni się z asystentów inżynierów na w pełni autonomiczne operacje IT, przewidując i rozwiązywając problemy, zanim staną się one eskalacjami. Przepływy pracy AI wieloagentowych umożliwią bezproblemową współpracę między IT, bezpieczeństwem i DevOps, łamiąc bariery między działami. Największe przełomy będą obejmować samonaprawiającą się infrastrukturę, współpracę AI między działami, oraz silniejsze zaufanie człowiek-AI, pozwalające współpracownikom AI podejmować bardziej złożone decyzje. Głównymi wyzwaniami będą zapewnienie przejrzystości AI i adaptacja siły roboczej do pracy obok AI, balansując automatyzację z nadzorem ludzkim.

Prowadząc kilka startupów do sukcesu, jakie porady dałbyś przedsiębiorcom budującym firmy z użyciem AI dzisiaj?

 Przedsiębiorcy powinni koncentrować się na rozwiązywaniu prawdziwych, wysoko-wartościowych problemów, zamiast gonić za hiperem AI. AI musi być budowane z myślą o zaufaniu przedsiębiorstw, zapewniając przejrzystość i kontrolę dla firm, które ją wdrażają. Adaptacyjność jest kluczem – systemy AI muszą ewoluować wraz z potrzebami biznesu, zamiast być sztywnymi, uniwersalnymi rozwiązaniami. Zamiast zastępować ekspertyzę ludzką, AI powinno być pozycjonowane jako współpracownik, który zwiększa podejmowanie decyzji i wydajność operacyjną. Wreszcie, wdrożenie AI w przedsiębiorstwach zajmuje czas, więc firmy, które priorytetowo traktują skalowalność i długoterminowy wpływ nad krótkoterminowymi trendami, ostatecznie wyłonią się jako liderzy w tej dziedzinie.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić NeuBird.