Charles Xie, Người sáng lập & CEO của Zilliz – Loạt phỏng vấn

Charles Xie là người sáng lập và CEO của Zilliz, tập trung vào việc xây dựng các cơ sở dữ liệu và công nghệ tìm kiếm thế hệ tiếp theo cho các ứng dụng AI và LLMs. Tại Zilliz, anh cũng đã phát minh ra Milvus, cơ sở dữ liệu vector mã nguồn mở phổ biến nhất cho AI sản xuất. Hiện tại, anh là thành viên hội đồng quản trị của LF AI & Data Foundation và từng là chủ tịch hội đồng quản trị vào năm 2020 và 2021. Trước đây, Charles đã làm việc tại Oracle (ORCL ) với tư cách là kỹ sư sáng lập của dự án cơ sở dữ liệu đám mây Oracle 12c. Charles holds a master’s degree in computer science từ University of Wisconsin-Madison.

Zilliz là đội ngũ đứng sau LF AI Milvus®, một cơ sở dữ liệu vector mã nguồn mở được sử dụng rộng rãi. Công ty tập trung vào việc đơn giản hóa quản lý cơ sở dữ liệu, nhằm làm cho AI trở nên dễ tiếp cận hơn với các tập đoàn, tổ chức và cá nhân.

Bạn có thể chia sẻ câu chuyện về việc thành lập Zilliz và những gì đã truyền cảm hứng cho bạn để phát triển Milvus và tập trung vào cơ sở dữ liệu vector?

Quản trình của tôi trong lĩnh vực cơ sở dữ liệu đã kéo dài hơn 15 năm, bao gồm 6 năm làm kỹ sư phần mềm tại Oracle, nơi tôi là thành viên sáng lập của nhóm cơ sở dữ liệu đa thuê bao Oracle 12c. Trong thời gian đó, tôi nhận thấy một hạn chế quan trọng: trong khi dữ liệu có cấu trúc được quản lý tốt, dữ liệu không có cấu trúc – chiếm 90% tất cả dữ liệu – vẫn còn lớn và chỉ có 1% được phân tích có ý nghĩa.

Vào năm 2017, khả năng ngày càng tăng của AI trong việc xử lý dữ liệu không có cấu trúc đã đánh dấu một bước ngoặt. Các tiến bộ trong NLP đã chỉ ra cách dữ liệu không có cấu trúc có thể được chuyển đổi thành vector embeddings, mở khóa ý nghĩa ngữ nghĩa của nó. Điều này đã truyền cảm hứng cho tôi thành lập Zilliz, với tầm nhìn quản lý “zillions của dữ liệu”. Vector embeddings đã trở thành nền tảng cho việc bắc cầu khoảng cách giữa dữ liệu không có cấu trúc và thông tin có thể hành động. Chúng tôi đã phát triển Milvus như một cơ sở dữ liệu vector được thiết kế để đưa tầm nhìn này vào cuộc sống.

Trong hai năm qua, ngành công nghiệp đã xác nhận cách tiếp cận này, công nhận cơ sở dữ liệu vector là nền tảng cho việc quản lý dữ liệu không có cấu trúc. Đối với chúng tôi, nó không chỉ là về công nghệ – nó là về việc trao quyền cho nhân loại để khai thác tiềm năng của dữ liệu không có cấu trúc trong kỷ nguyên AI.

Làm thế nào hành trình của Zilliz đã tiến hóa kể từ khi thành lập 6 năm trước, và những thách thức chính bạn đã đối mặt khi tiên phong trong lĩnh vực cơ sở dữ liệu vector?

Hành trình đã là biến đổi. Khi chúng tôi bắt đầu Zilliz 7 năm trước, thách thức thực sự không phải là huy động vốn hoặc tuyển dụng – nó là xây dựng một sản phẩm trong một lãnh thổ hoàn toàn chưa được khám phá. Không có bản đồ đường, thực hành tốt nhất hoặc kỳ vọng của người dùng đã được thiết lập, chúng tôi phải tự vẽ đường đi của mình.

Đột phá của chúng tôi đến với việc mã nguồn mở Milvus. Bằng cách giảm thiểu rào cản đối với việc áp dụng và khuyến khích sự tham gia của cộng đồng, chúng tôi đã nhận được phản hồi vô giá từ người dùng để lặp lại và cải thiện sản phẩm. Khi Milvus được ra mắt vào năm 2019, chúng tôi đã có khoảng 30 người dùng vào cuối năm. Điều này đã tăng lên hơn 200 vào năm 2020 và gần 1.000 ngay sau đó.

Ngày nay, cơ sở dữ liệu vector đã chuyển từ một khái niệm mới sang cơ sở hạ tầng thiết yếu trong kỷ nguyên AI, xác nhận tầm nhìn chúng tôi bắt đầu.

Là một công ty cơ sở dữ liệu vector, Zilliz cung cấp những khả năng kỹ thuật độc đáo nào để hỗ trợ tìm kiếm vector đa phương thức trong các ứng dụng AI hiện đại?

Zilliz đã phát triển các khả năng kỹ thuật tiên tiến để hỗ trợ tìm kiếm vector đa phương thức:

1. Tìm kiếm Hybrid: Chúng tôi cho phép tìm kiếm đồng thời trên các phương thức khác nhau, chẳng hạn như kết hợp các tính năng hình ảnh với mô tả văn bản của nó.
2. Thuật toán được tối ưu hóa: Các kỹ thuật lượng tử độc quyền của chúng tôi cân bằng độ chính xác của việc gọi lại và hiệu quả bộ nhớ cho các tìm kiếm chéo.
3. Xử lý thời gian thực và ngoại tuyến: Hệ thống song song của chúng tôi hỗ trợ ghi thời gian thực thấp và nhập ngoại tuyến với tốc độ cao, đảm bảo sự tươi mới của dữ liệu.
4. Hiệu quả về chi phí: Các trường hợp Extended Capacity của chúng tôi tận dụng lưu trữ thông minh Tiered để giảm chi phí lưu trữ đáng kể trong khi duy trì hiệu suất cao.
5. Mô hình AI nhúng: Bằng cách tích hợp mô hình nhúng và xếp hạng đa phương thức, chúng tôi đã giảm thiểu rào cản để thực hiện các ứng dụng tìm kiếm phức tạp.

Những khả năng này cho phép các nhà phát triển xử lý hiệu quả các loại dữ liệu đa dạng, khiến cho các ứng dụng AI hiện đại trở nên mạnh mẽ và linh hoạt hơn.

Bạn nhìn thấy sự tiến bộ của Multimodal RAG như thế nào trong việc xử lý dữ liệu thế giới thực phức tạp như hình ảnh, âm thanh và video cùng với văn bản?

Multimodal RAG (Retrieval-Augmented Generation) đại diện cho một sự tiến hóa quan trọng trong AI. Trong khi RAG dựa trên văn bản đã nổi bật, hầu hết dữ liệu doanh nghiệp bao gồm hình ảnh, video và âm thanh. Khả năng tích hợp các định dạng đa dạng này vào các công việc AI là rất quan trọng.

Sự thay đổi này là kịp thời, vì cộng đồng AI đang tranh luận về giới hạn của dữ liệu văn bản internet có sẵn để đào tạo. Trong khi dữ liệu văn bản là hữu hạn, dữ liệu đa phương thức vẫn còn chưa được khai thác – bao gồm video doanh nghiệp, phim Hollywood và bản ghi âm.

Multimodal RAG mở khóa kho dữ liệu này, cho phép các hệ thống AI xử lý và tận dụng các loại dữ liệu phong phú này. Nó không chỉ là về việc giải quyết sự khan hiếm dữ liệu; nó là về việc mở rộng ranh giới của khả năng AI để hiểu và tương tác với thế giới thực tốt hơn.

Zilliz khác biệt với các đối thủ cạnh tranh trong thị trường cơ sở dữ liệu vector đang phát triển nhanh như thế nào?

Zilliz nổi bật thông qua một số khía cạnh độc đáo:

1. Định danh kép: Chúng tôi là cả một công ty AI và một công ty cơ sở dữ liệu, đẩy ranh giới của quản lý dữ liệu và tích hợp AI.
2. Thiết kế gốc đám mây: Milvus 2.0 là cơ sở dữ liệu vector phân tán đầu tiên áp dụng kiến trúc lưu trữ và tính toán rời rạc, cho phép khả năng mở rộng và hiệu quả về chi phí cho hơn 100 tỷ vector.
3. Cải tiến độc quyền: Động cơ Cardinal của chúng tôi đạt được hiệu suất gấp 3 lần so với Milvus mã nguồn mở và gấp 10 lần so với các đối thủ cạnh tranh. Chúng tôi cũng cung cấp lập chỉ mục dựa trên đĩa và lưu trữ thông minh để mở rộng hiệu quả về chi phí.
4. Sáng tạo liên tục: Từ khả năng tìm kiếm hybrid đến các công cụ di chuyển như VTS, chúng tôi liên tục phát triển công nghệ cơ sở dữ liệu vector.

Cam kết của chúng tôi với mã nguồn mở đảm bảo tính linh hoạt, trong khi dịch vụ quản lý của chúng tôi, Zilliz Cloud, cung cấp hiệu suất cấp doanh nghiệp với sự phức tạp về hoạt động tối thiểu.

Bạn có thể giải thích về tầm quan trọng của Zilliz Cloud và vai trò của nó trong việc dân chủ hóa AI và làm cho dịch vụ tìm kiếm vector trở nên dễ tiếp cận hơn với các nhà phát triển nhỏ và doanh nghiệp?

Tìm kiếm vector đã được sử dụng bởi các công ty công nghệ từ năm 2015, nhưng các triển khai độc quyền đã hạn chế việc áp dụng rộng rãi hơn. Tại Zilliz, chúng tôi đang dân chủ hóa công nghệ này thông qua hai cách tiếp cận bổ sung:

1. Mã nguồn mở: Milvus cho phép các nhà phát triển xây dựng và sở hữu cơ sở hạ tầng tìm kiếm vector của họ, giảm thiểu rào cản kỹ thuật.
2. Dịch vụ quản lý: Zilliz Cloud loại bỏ sự phức tạp về hoạt động, cung cấp một giải pháp đơn giản và hiệu quả về chi phí cho các doanh nghiệp để áp dụng tìm kiếm vector mà không cần các kỹ sư chuyên môn.

Cách tiếp cận kép này làm cho tìm kiếm vector trở nên dễ tiếp cận hơn với cả các nhà phát triển và doanh nghiệp, cho phép họ tập trung vào việc xây dựng các ứng dụng AI sáng tạo.

Với những tiến bộ trong LLMs và mô hình nền tảng, bạn tin rằng sẽ có sự thay đổi lớn tiếp theo trong cơ sở hạ tầng dữ liệu AI?

Sự thay đổi lớn tiếp theo sẽ là sự chuyển đổi toàn diện của cơ sở hạ tầng dữ liệu AI để xử lý dữ liệu không có cấu trúc, chiếm 90% dữ liệu trên thế giới. Các hệ thống hiện có, được thiết kế cho dữ liệu có cấu trúc, không được trang bị cho sự thay đổi này.

Sự chuyển đổi này sẽ ảnh hưởng đến mọi lớp của ngăn xếp dữ liệu, từ các hệ thống cơ sở dữ liệu nền tảng đến các giao thức bảo mật và các hệ thống quan sát. Nó không chỉ là về việc nâng cấp dần dần – nó là về việc tạo ra các mô hình mới được thiết kế cho sự phức tạp của dữ liệu không có cấu trúc.

Sự chuyển đổi này sẽ chạm đến mọi khía cạnh của ngăn xếp dữ liệu:

• Hệ thống cơ sở dữ liệu nền tảng
• Quy trình và quy trình ETL
• Cơ chế làm sạch và biến đổi dữ liệu
• Giao thức bảo mật và mã hóa
• Khung khổ tuân thủ và quản trị
• Hệ thống quan sát dữ liệu

Chúng tôi không chỉ nói về việc nâng cấp các hệ thống hiện có – chúng tôi đang nói về việc xây dựng các mô hình hoàn toàn mới. Nó giống như chuyển từ một thế giới được tối ưu hóa cho việc tổ chức sách trong một thư viện sang một thế giới cần quản lý, hiểu và xử lý toàn bộ internet. Sự thay đổi này đại diện cho một thế giới hoàn toàn mới, nơi mọi thành phần của cơ sở hạ tầng dữ liệu có thể cần được tưởng tượng lại từ đầu.

Sự cách mạng này sẽ định nghĩa lại cách chúng ta lưu trữ, quản lý và xử lý dữ liệu, mở khóa cơ hội rộng lớn cho sự đổi mới của AI.

Làm thế nào việc tích hợp NVIDIA GPUs đã ảnh hưởng đến hiệu suất và khả năng mở rộng của tìm kiếm vector?

Việc tích hợp NVIDIA GPUs đã cải thiện đáng kể hiệu suất tìm kiếm vector của chúng tôi trong hai khu vực chính.

Thứ nhất, trong việc xây dựng chỉ mục, là một trong những hoạt động tính toán mạnh nhất trong các cơ sở dữ liệu vector. So với việc lập chỉ mục cơ sở dữ liệu truyền thống, việc xây dựng chỉ mục vector đòi hỏi nhiều sức mạnh tính toán hơn nhiều. Bằng cách tận dụng khả năng tăng tốc của GPU, chúng tôi đã giảm đáng kể thời gian xây dựng chỉ mục, cho phép việc nhập dữ liệu nhanh hơn và cải thiện khả năng hiển thị dữ liệu.

Thứ hai, GPU đã được chứng minh là rất quan trọng cho các trường hợp sử dụng truy vấn có khối lượng cao. Trong các ứng dụng như thương mại điện tử, nơi các hệ thống cần xử lý hàng nghìn hoặc thậm chí hàng chục nghìn truy vấn mỗi giây (QPS), khả năng xử lý song song của GPU đã chứng minh là vô giá. Bằng cách tận dụng khả năng tăng tốc của GPU, chúng tôi có thể xử lý hiệu quả các tìm kiếm tương tự vector với khối lượng cao trong khi duy trì độ trễ thấp.

Kể từ năm 2021, chúng tôi đã hợp tác với NVIDIA (NVDA ) để tối ưu hóa các thuật toán của mình cho kiến trúc GPU, đồng thời phát triển hệ thống của mình để hỗ trợ tính toán dị thể trên các kiến trúc bộ xử lý khác nhau. Điều này mang lại cho khách hàng của chúng tôi sự linh hoạt để chọn cơ sở hạ tầng phần cứng phù hợp nhất với nhu cầu cụ thể của họ.

Khi cơ sở dữ liệu vector đóng vai trò quan trọng trong AI, bạn có nhìn thấy ứng dụng của chúng mở rộng ra ngoài các trường hợp sử dụng truyền thống như hệ thống khuyến nghị và tìm kiếm sang các ngành như chăm sóc sức khỏe?

Cơ sở dữ liệu vector đang nhanh chóng mở rộng ra ngoài các ứng dụng truyền thống như hệ thống khuyến nghị và tìm kiếm, thâm nhập vào các ngành mà chúng tôi chưa từng nghĩ đến trước đây. Hãy để tôi chia sẻ một số ví dụ.

Trong chăm sóc sức khỏe và nghiên cứu dược phẩm, cơ sở dữ liệu vector đang cách mạng hóa việc phát hiện thuốc. Các phân tử có thể được vector hóa dựa trên các tính chất chức năng của chúng, và sử dụng các tính năng như tìm kiếm phạm vi, các nhà nghiên cứu có thể phát hiện tất cả các ứng cử viên thuốc tiềm năng có thể điều trị các bệnh hoặc triệu chứng cụ thể. Không giống như tìm kiếm top-k truyền thống, tìm kiếm phạm vi xác định tất cả các phân tử trong một khoảng cách nhất định của mục tiêu, cung cấp một cái nhìn toàn diện về các ứng cử viên tiềm năng.

Trong lái xe tự động, cơ sở dữ liệu vector đang cải thiện sự an toàn và hiệu suất của xe. Một ứng dụng thú vị là trong việc xử lý các trường hợp biên – khi các tình huống bất thường được gặp phải, hệ thống có thể tìm kiếm nhanh chóng trong các cơ sở dữ liệu lớn các tình huống tương tự để tìm dữ liệu đào tạo phù hợp cho việc tinh chỉnh các mô hình lái xe tự động.

Chúng tôi cũng đang thấy các ứng dụng sáng tạo trong dịch vụ tài chính để phát hiện gian lận, an ninh mạng để phát hiện mối đe dọa và quảng cáo có mục tiêu để cải thiện sự tham gia của khách hàng. Ví dụ, trong ngân hàng, các giao dịch có thể được vector hóa và so sánh với các mẫu lịch sử để xác định các hoạt động gian lận tiềm năng.

Sức mạnh của cơ sở dữ liệu vector nằm ở khả năng hiểu và xử lý sự tương tự trong bất kỳ lĩnh vực nào – cho dù đó là cấu trúc phân tử, tình huống lái xe, mẫu tài chính hay mối đe dọa an ninh. Khi AI tiếp tục phát triển, chúng tôi chỉ đang bắt đầu khám phá những gì có thể.

Làm thế nào các nhà phát triển và doanh nghiệp có thể tham gia với Zilliz và Milvus để tận dụng công nghệ cơ sở dữ liệu vector trong các dự án AI của họ?

Có hai con đường chính để tận dụng công nghệ cơ sở dữ liệu vector với Zilliz và Milvus, mỗi con đường phù hợp với các nhu cầu và ưu tiên khác nhau. Nếu bạn đánh giá cao sự linh hoạt và tùy chỉnh, Milvus, giải pháp mã nguồn mở của chúng tôi, là lựa chọn tốt nhất của bạn. Với Milvus, bạn có thể:

• Thử nghiệm tự do và học công nghệ theo tốc độ của riêng bạn
• Tùy chỉnh giải pháp cho các yêu cầu cụ thể của bạn
• Đóng góp cho sự phát triển và sửa đổi mã nguồn
• Giữ quyền kiểm soát hoàn toàn cơ sở hạ tầng của bạn

Tuy nhiên, nếu bạn muốn tập trung vào việc xây dựng ứng dụng của mình mà không cần quản lý cơ sở hạ tầng, Zilliz Cloud là lựa chọn tối ưu. Nó cung cấp:

• Giải pháp sẵn sàng sử dụng với triển khai một cú nhấp chuột
• Bảo mật và tuân thủ cấp doanh nghiệp
• Sự sẵn sàng và ổn định cao
• Hiệu suất được tối ưu hóa mà không có sự phức tạp về hoạt động

Hãy nghĩ về nó theo cách này: nếu bạn thích “tinkering” và muốn sự linh hoạt tối đa, hãy đi với Milvus. Nếu bạn muốn giảm thiểu sự phức tạp về hoạt động và trực tiếp xây dựng ứng dụng của mình, hãy chọn Zilliz Cloud.

Cả hai con đường sẽ đưa bạn đến đích – chỉ là vấn đề bạn muốn kiểm soát bao nhiêu phần của hành trình so với việc bạn cần đến đích nhanh như thế nào

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm có thể truy cập Zilliz hoặc Milvus.