Gou Rao, CEO & Co-Founder của NeuBird – Loạt Phỏng Vấn

Goutham (Gou) Rao là CEO và đồng sáng lập của NeuBird, nhà tạo ra Hawkeye, kỹ sư ITOps được hỗ trợ bởi trí tuệ nhân tạo sinh (generative AI) đầu tiên trên thế giới, được thiết kế để giúp các đội IT chẩn đoán và giải quyết các vấn đề kỹ thuật ngay lập tức, cho phép hợp tác liền mạch giữa các đội nhân sự và AI.

Là một doanh nhân连 tiếp với thành tích đã được chứng minh, Rao đã đồng sáng lập và thành công thoát khỏi nhiều công ty. Ông đồng sáng lập Portworx, được Pure Storage mua lại; Ocarina Networks, được Dell mua lại; và Net6, được Citrix mua lại. Ông cũng là một nhà phát minh thành công với hơn 50 bằng sáng chế được cấp phép trong lĩnh vực mạng máy tính, lưu trữ và bảo mật.

NeuBird đang phát triển các giải pháp trí tuệ nhân tạo sinh (generative AI) cho hoạt động IT để giúp giải quyết tình trạng thiếu hụt nhân sự có kỹ năng cần thiết để quản lý các chồng công nghệ phức tạp hiện đại. Công ty tập trung vào việc đơn giản hóa phân tích dữ liệu và cung cấp thông tin hành động theo thời gian thực, nhằm nâng cao hiệu quả và hỗ trợ đổi mới trong quản lý IT.

Điều gì đã truyền cảm hứng cho bạn để ra mắt NeuBird, và bạn đã xác định nhu cầu về tự động hóa hoạt động IT được hỗ trợ bởi AI như thế nào?

NeuBird được sinh ra từ sự phức tạp ngày càng tăng của các chồng IT doanh nghiệp và sự thiếu hụt nhân sự IT có kỹ năng. Các công cụ truyền thống không theo kịp, buộc các đội IT phải chi 30% ngân sách của họ để điều hướng các nguồn dữ liệu bị cô lập thay vì thúc đẩy đổi mới. Chúng tôi đã nhìn thấy cơ hội để tạo ra một kỹ sư ITOps được hỗ trợ bởi AI – Hawkeye – có thể chỉ ra ngay lập tức các vấn đề IT, giảm thời gian giải quyết từ ngày xuống phút, và cho phép các doanh nghiệp mở rộng hoạt động IT mà không bị tắc nghẽn bởi các hạn chế về lao động.

Làm thế nào NeuBird đang tiên phong trong lĩnh vực đồng nghiệp số được hỗ trợ bởi AI, và điều gì khiến Hawkeye khác biệt so với các công cụ tự động hóa IT truyền thống?

Không giống như các công cụ tự động hóa IT tĩnh, dựa trên quy tắc, đồng nghiệp số được hỗ trợ bởi AI của chúng tôi, Hawkeye, xử lý động lượng lớn dữ liệu telemetry và chẩn đoán vấn đề ngay lập tức. Nó loại bỏ sự thiên vị của các công cụ quan sát được lập trình trước bằng cách kéo thông tin từ các nguồn dữ liệu doanh nghiệp đa dạng – bao gồm Slack, dịch vụ đám mây, cơ sở dữ liệu và ứng dụng tùy chỉnh – cung cấp cho các đội IT một cái nhìn toàn diện, được ngữ cảnh hóa về cơ sở hạ tầng của họ.

Hawkeye không chỉ hiển thị cảnh báo; nó còn cộng tác tích cực với các kỹ sư thông qua giao diện trò chuyện, chẩn đoán nguyên nhân gốc rễ và đề xuất sửa chữa cho các vấn đề IT phức tạp. Điều này cơ bản thay đổi cách hoạt động IT, giúp họ giảm thiểu thời gian ngừng hoạt động và phản ứng với các sự cố IT với tốc độ chưa từng có.

Các doanh nghiệp thường gặp khó khăn với tình trạng quá tải dữ liệu trong hoạt động IT. Làm thế nào Hawkeye lọc qua các tập dữ liệu lớn để cung cấp thông tin hành động?

Các công cụ IT truyền thống gặp khó khăn khi xử lý lũy tiến của dữ liệu telemetry – nhật ký, chỉ số hệ thống và chỉ số hiệu suất đám mây – dẫn đến mệt mỏi cảnh báo và giải quyết sự cố chậm.

Hawkeye cắt qua tiếng ồn bằng cách phân tích liên tục dữ liệu theo thời gian thực và phát hiện các mẫu chỉ ra vấn đề hiệu suất hoặc thất bại. Nó bổ sung cho các công cụ quan sát và giám sát hiện có bằng cách đi vượt qua việc giám sát thụ động để thực hiện hành động chủ động. Hành động như một kỹ sư trong đội của bạn, nó giải thích dữ liệu telemetry và hệ thống từ các công cụ hiện có của bạn, lặn vào các vấn đề và giải quyết chúng khi chúng phát sinh.

Nó cung cấp thông tin hành động rõ ràng, giảm thời gian phản hồi từ ngày xuống phút.

Cách tiếp cận độc đáo của Hawkeye tận dụng sức mạnh của LLMs để hướng dẫn phân tích sự cố mà không bao giờ chia sẻ dữ liệu khách hàng với LLMs, đảm bảo một cách tiếp cận được suy nghĩ và bảo mật.

Bảo mật và niềm tin là những vấn đề lớn đối với việc áp dụng AI trong IT. Làm thế nào NeuBird đang giải quyết những thách thức này?

Cách tiếp cận độc đáo của Hawkeye tận dụng sức mạnh của LLMs để hướng dẫn phân tích sự cố mà không bao giờ chia sẻ dữ liệu khách hàng với LLMs, đảm bảo một cách tiếp cận được suy nghĩ và bảo mật.

Hawkeye hoạt động trong giới hạn bảo mật của doanh nghiệp, chỉ sử dụng các nguồn dữ liệu nội bộ để tạo ra thông tin – loại bỏ các ảo giác ảnh hưởng đến các hệ thống dựa trên LLMs chung chung. Nó cũng đảm bảo tính minh bạch bằng cách cung cấp các khuyến nghị có thể theo dõi, vì vậy các đội IT vẫn duy trì quyền kiểm soát đầy đủ đối với việc ra quyết định. Cách tiếp cận này làm cho nó trở thành một đồng nghiệp AI đáng tin cậy hơn là một giải pháp hộp đen.

Làm thế nào Hawkeye tích hợp với cơ sở hạ tầng IT hiện có, và quy trình tích hợp cho các doanh nghiệp trông như thế nào?

Hawkeye tích hợp liền mạch với môi trường IT doanh nghiệp bằng cách kết nối với các công cụ quan sát, giám sát và phản ứng sự cố hiện có, chẳng hạn như AWS CloudWatch, Azure Monitor, Datadog và PagerDuty. Nó hoạt động cùng với các đội IT, DevOps và SRE mà không yêu cầu thay đổi cơ sở hạ tầng lớn.

Đây là cách nó hoạt động:

• Triển khai: Hawkeye được triển khai trong môi trường của bạn, kết nối với các công cụ và nguồn dữ liệu hiện có.
• Học hỏi & Thích nghi: Nó phân tích các sự cố lịch sử và telemetry theo thời gian thực để hiểu hoạt động hệ thống bình thường và xác định mẫu.
• Tùy chỉnh: Nền tảng thích nghi với các quy trình làm việc cụ thể của doanh nghiệp, điều chỉnh phản hồi và khuyến nghị để đáp ứng nhu cầu hoạt động.
• Cộng tác: Thông qua giao diện trò chuyện, các đội nhận được chẩn đoán, giải pháp và giải quyết tự động theo thời gian thực khi có thể.

Quy trình tích hợp này giúp tăng tốc giải quyết sự cố, giảm MTTR và nâng cao độ tin cậy của hệ thống – cho phép các doanh nghiệp mở rộng hoạt động IT một cách hiệu quả mà không cần tăng thêm nhân sự.

Vai trò của các kỹ sư nhân sự là gì bên cạnh các đồng nghiệp AI như Hawkeye? Bạn nhìn thấy sự hợp tác này sẽ phát triển như thế nào?

Hawkeye bổ sung, thay vì thay thế, các chuyên gia IT nhân sự. Các đội IT vẫn lái các quyết định chiến lược, nhưng thay vì tự giải quyết từng vấn đề, họ làm việc cùng Hawkeye để chẩn đoán và giải quyết vấn đề nhanh hơn. Khi các đồng nghiệp AI trở nên tiên tiến hơn, các chuyên gia IT sẽ chuyển sang các nhiệm vụ có giá trị cao hơn – tối ưu hóa kiến trúc, cải thiện bảo mật và tăng tốc việc áp dụng công nghệ mới.

Hawkeye tuyên bố giảm thời gian giải quyết trung bình (MTTR) xuống 90%. Bạn có thể chia sẻ bất kỳ ví dụ hoặc nghiên cứu trường hợp nào chứng minh tác động này không?

Một nhà bán lẻ thực phẩm quốc gia đã tích hợp Hawkeye để xử lý sự phức tạp ngày càng tăng của nền tảng thương mại điện tử của họ. Đội SRE của họ bị choáng ngợp bởi lượng lớn dữ liệu telemetry và các cuộc điều tra thủ công chậm, đặc biệt là trong các giai đoạn mua sắm cao điểm.

Với Hawkeye như một đồng nghiệp được hỗ trợ bởi AI, họ đã thấy:

• Giảm MTTR khoảng 90% – Tương quan dữ liệu tức thời trên AWS CloudWatch, AWS MSK và PagerDuty.
• Phân tích thời gian thực 24/7 – Loại bỏ việc nâng cấp sau giờ.
• Giải quyết sự cố tự động – Các bản sửa lỗi được phê duyệt trước được triển khai tự động.

Trong đợt mua sắm lễ hội của họ, Hawkeye đã tối ưu hóa khả năng, phát hiện sớm vấn đề và thực hiện các điều chỉnh quy mô theo thời gian thực, đảm bảo thời gian hoạt động gần 100% – một yếu tố thay đổi trò chơi cho hoạt động IT của họ.

Visions của bạn cho sự tiến hóa của các tác nhân AI từ các trợ lý thụ động sang các nhà giải quyết vấn đề chủ động trong hoạt động doanh nghiệp là gì, và những tiến bộ nào đang thúc đẩy sự thay đổi này?

AI đang chuyển từ quan sát thụ động sang giải quyết vấn đề chủ động. Hawkeye đã cung cấp phân tích nguyên nhân gốc rễ và giải pháp, nhưng giai đoạn tiếp theo là tự chủ đầy đủ – nơi AI tối ưu hóa hoạt động IT một cách chủ động và tự chữa lành cơ sở hạ tầng theo thời gian thực. Sự tiến hóa này, được thúc đẩy bởi các tiến bộ trong GenAI và các mô hình ra quyết định nhận thức, sẽ định nghĩa lại IT doanh nghiệp.

Bạn nhìn thấy tự động hóa doanh nghiệp được hỗ trợ bởi AI trong năm năm tới như thế nào, và những thách thức hoặc đột phá lớn nào bạn dự đoán trên đường đi?

AI sẽ chuyển từ hỗ trợ kỹ sư sang hoạt động IT tự động hoàn toàn, dự đoán và giải quyết vấn đề trước khi chúng leo thang. Các công việc AI đa tác nhân sẽ cho phép cộng tác liền mạch trên IT, bảo mật và DevOps, phá vỡ các silo giữa các bộ phận. Những đột phá lớn nhất sẽ bao gồm cơ sở hạ tầng tự chữa lành, cộng tác chéo chức năng được hỗ trợ bởi AI và sự tin cậy mạnh mẽ hơn giữa con người và AI, cho phép các đồng nghiệp AI đảm nhận các quyết định phức tạp hơn. Thách thức chính sẽ là đảm bảo tính minh bạch của AI và thích nghi lực lượng lao động để làm việc cùng AI, cân bằng tự động hóa với giám sát của con người.

Đã dẫn dắt nhiều công ty khởi nghiệp thành công, bạn sẽ đưa ra lời khuyên gì cho các doanh nhân đang xây dựng các công ty được hỗ trợ bởi AI ngày nay?

Các doanh nhân nên tập trung vào việc giải quyết các vấn đề thực sự, có giá trị cao thay vì theo đuổi sự cường điệu của AI. AI phải được xây dựng với niềm tin của doanh nghiệp trong tâm trí, đảm bảo tính minh bạch và kiểm soát cho các doanh nghiệp áp dụng nó. Khả năng thích nghi là chìa khóa – các hệ thống AI phải phát triển cùng với nhu cầu kinh doanh thay vì trở thành các giải pháp cứng nhắc, một kích cỡ phù hợp với tất cả. Thay vì thay thế chuyên môn của con người, AI nên được định vị như một đồng nghiệp giúp tăng cường việc ra quyết định và hiệu quả hoạt động. Cuối cùng, việc áp dụng AI doanh nghiệp mất thời gian, vì vậy các công ty ưu tiên khả năng mở rộng và tác động lâu dài hơn các xu hướng ngắn hạn sẽ cuối cùng nổi lên như những người lãnh đạo trong không gian này.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập NeuBird.