Rob Clark, Tổng thống và Giám đốc Công nghệ của Seekr – Loạt phỏng vấn

Rob Clark là Tổng thống và Giám đốc Công nghệ (CTO) của Seekr. Rob có hơn 20 năm kinh nghiệm trong lĩnh vực kỹ sư phần mềm, quản lý sản phẩm, vận hành và phát triển các công nghệ trí tuệ nhân tạo và web-scale hàng đầu. Trước khi gia nhập Seekr, ông đã lãnh đạo một số giải pháp trí tuệ nhân tạo và tìm kiếm cho một số công ty viễn thông, xuất bản và thương mại điện tử lớn nhất thế giới.

Seekr là một công ty trí tuệ nhân tạo, tạo ra các mô hình ngôn ngữ lớn (LLMs) đáng tin cậy, xác định, đánh giá và tạo ra nội dung đáng tin cậy ở quy mô lớn.

Bắt đầu từ tìm kiếm web, sự đổi mới liên tục của Seekr đã tạo ra các công nghệ được cấp bằng sáng chế, nâng cao sự an toàn và giá trị của web. Các mô hình của họ, được phát triển với sự đầu vào của con người và khả năng giải thích, giải quyết các nhu cầu của khách hàng trong đánh giá nội dung, trí tuệ nhân tạo tạo sinh, và đào tạo cũng như xác thực mô hình ngôn ngữ đáng tin cậy.

Bạn có thể mô tả nhiệm vụ cốt lõi của Seekr và cách nó nhằm khác biệt hóa mình trong lĩnh vực AI cạnh tranh?

Chúng tôi thành lập Seekr trên nguyên tắc đơn giản nhưng quan trọng rằng mọi người nên có quyền truy cập vào thông tin đáng tin cậy, có uy tín và đáng tin cậy – không quan trọng hình thức hay nơi nó tồn tại. Điều đó không quan trọng nếu bạn là người tiêu dùng trực tuyến hay một doanh nghiệp sử dụng thông tin đó để đưa ra quyết định quan trọng – hệ thống AI có trách nhiệm cho phép tất cả chúng ta hiểu đầy đủ và tốt hơn về thông tin, vì bạn cần đảm bảo rằng những gì được tạo ra từ Trí tuệ nhân tạo tạo sinh là chính xác và đáng tin cậy.

Khi thông tin không đáng tin cậy, nó chạy trên toàn bộ phổ, ví dụ từ sự nhạy cảm vô hại hơn đến trường hợp tồi tệ nhất của hành vi không trung thực được phối hợp để lừa dối hoặc ảnh hưởng thay vì thông tin. Phương pháp của Seekr đối với AI là đảm bảo người dùng có sự minh bạch đầy đủ vào nội dung, bao gồm nguồn gốc, dòng dõi và khách quan, và khả năng xây dựng và tận dụng AI minh bạch, đáng tin cậy, có khả năng giải thích và có tất cả các rào cản để người tiêu dùng và doanh nghiệp có thể tin tưởng.

Bên cạnh việc cung cấp các mô hình ngôn ngữ lớn được tối ưu hóa cho ngành, Seekr đã bắt đầu xây dựng các mô hình nền tảng khác biệt với sự minh bạch và chính xác cao hơn, giảm lỗi và thiên vị, bao gồm cả các công cụ xác thực. Điều này được thực hiện thông qua hợp tác của Seekr với Intel (INTC ) để sử dụng các gia tốc trí tuệ nhân tạo Gaudi mới nhất của Intel với hiệu suất giá cả tốt nhất. Chúng tôi đã chọn không dựa vào các mô hình nền tảng bên ngoài, nơi dữ liệu đào tạo không rõ và hiển thị lỗi cũng như thiên vị, đặc biệt là khi chúng thường được đào tạo trên dữ liệu phổ biến hơn là dữ liệu đáng tin cậy và uy tín nhất. Chúng tôi dự kiến sẽ phát hành những mô hình này vào cuối năm.

Sản phẩm cốt lõi của chúng tôi được gọi là SeekrFlow, một nền tảng toàn diện từ đầu đến cuối cho phép đào tạo, xác thực, triển khai và mở rộng AI đáng tin cậy. Nó cho phép các doanh nghiệp tận dụng dữ liệu của họ một cách an toàn, để nhanh chóng phát triển AI mà họ có thể tin tưởng, được tối ưu hóa cho ngành của họ.

Những tính năng quan trọng của SeekrFlow là gì và làm thế nào nó đơn giản hóa quá trình phát triển và triển khai AI cho các doanh nghiệp?

SeekrFlow áp dụng phương pháp tiếp cận từ trên xuống, ưu tiên kết quả, cho phép các doanh nghiệp giải quyết vấn đề bằng AI với cả hiệu quả hoạt động và cơ hội doanh thu mới thông qua một nền tảng gắn kết. Sự tích hợp này bao gồm truy cập dữ liệu an toàn, chuẩn bị dữ liệu tự động, tinh chỉnh mô hình, suy luận, rào cản, công cụ xác thực và mở rộng, loại bỏ nhu cầu về các công cụ riêng biệt và giảm độ phức tạp của nhân sự kỹ thuật trong nhà quản lý các khía cạnh khác nhau của phát triển AI riêng biệt.

Đối với các doanh nghiệp, tùy chỉnh là chìa khóa, vì một mô hình phù hợp với tất cả không giải quyết được các vấn đề kinh doanh duy nhất. SeekrFlow cho phép khách hàng tận dụng dữ liệu doanh nghiệp của họ một cách an toàn và hiệu quả về chi phí, đồng thời phù hợp với nhu cầu cụ thể của ngành họ. Điều này đặc biệt quan trọng trong các ngành được quản lý như tài chính, chăm sóc sức khỏe và chính phủ.

Phương pháp đào tạo hỗ trợ AI của Seekr giảm đáng kể chi phí, thời gian và nhu cầu giám sát của con người liên quan đến việc gắn nhãn và thu thập dữ liệu, bằng cách tổng hợp dữ liệu chất lượng cao và đặc thù cho lĩnh vực bằng cách sử dụng các nguyên tắc đặc thù cho lĩnh vực như tài liệu chính sách, hướng dẫn hoặc dữ liệu doanh nghiệp do người dùng cung cấp.

Cam kết của Seekr về độ tin cậy và khả năng giải thích được tích hợp trong toàn bộ SeekrFlow. Không có doanh nghiệp nào muốn triển khai một mô hình vào sản xuất và phát hiện ra nó đang “ảo giác”, đưa ra thông tin sai hoặc trong trường hợp tồi tệ nhất, đưa ra sản phẩm và dịch vụ miễn phí! SeekrFlow bao gồm các công cụ cần thiết để xác thực mô hình về độ tin cậy, giảm lỗi và cho phép người dùng xem rõ ràng những gì ảnh hưởng đến đầu ra của mô hình, quay trở lại dữ liệu đào tạo ban đầu. Giống như các kỹ sư phần mềm và QA có thể quét, kiểm tra và xác thực mã của họ, chúng tôi cung cấp cùng một khả năng cho các mô hình AI.

Tất cả đều được cung cấp với chi phí tối ưu cho các doanh nghiệp. Hợp tác của chúng tôi với Intel, chạy trên đám mây AI của Intel, cho phép Seekr có hiệu suất giá cả tốt nhất mà chúng tôi chuyển cho khách hàng của mình.

SeekrFlow giải quyết các vấn đề phổ biến như chi phí, độ phức tạp, độ chính xác và khả năng giải thích trong việc áp dụng AI như thế nào?

Giá cao và sự khan hiếm của phần cứng AI là hai rào cản lớn nhất đối với các doanh nghiệp. Nhờ sự hợp tác với Intel, SeekrFlow có quyền truy cập vào lượng lớn phần cứng AI thế hệ tiếp theo, tận dụng đám mây AI của Intel. Điều này cung cấp cho khách hàng các tài nguyên tính toán có thể mở rộng và tiết kiệm chi phí, có thể xử lý các khối lượng công việc AI lớn, tận dụng cả gia tốc trí tuệ nhân tạo Gaudi của Intel và CPU Xeon được tối ưu hóa cho AI.

Điều quan trọng cần lưu ý là SeekrFlow không phụ thuộc vào nhà cung cấp đám mây và nền tảng, và chạy trên các chip AI thế hệ mới nhất từ Intel, Nvidia (NVDA ) và hơn thế. Mục tiêu của chúng tôi là trừu tượng hóa sự phức tạp của phần cứng AI và tránh khóa nhà cung cấp, đồng thời vẫn mở khóa tất cả giá trị độc nhất của từng chip, phần mềm, công cụ và hệ sinh thái. Điều này bao gồm cả việc chạy trên đám mây hoặc trong trung tâm dữ liệu được vận hành tại chỗ.

Khi xây dựng SeekrFlow, chúng tôi rõ ràng thấy sự thiếu khả năng tranh luận trong các công cụ khác. Khả năng tranh luận là tối quan trọng tại Seekr, vì chúng tôi muốn đảm bảo người dùng có quyền nói rằng một điều gì đó không chính xác và có cách dễ dàng để giải quyết nó. Với các mô hình và nền tảng khác, thường rất khó hoặc không rõ ràng về cách sửa lỗi. Các bản sửa lỗi điểm sau khi thực tế thường không hiệu quả, ví dụ như thao tác với lời nhắc đầu vào không đảm bảo câu trả lời sẽ được sửa chữa mọi lúc và trong mọi kịch bản. Chúng tôi cung cấp cho người dùng tất cả các công cụ về minh bạch, khả năng giải thích và cách dễ dàng để dạy và sửa mô hình trong giao diện người dùng sạch. Từ xây dựng trên các mô hình nền tảng đáng tin cậy ở cơ sở đến các công cụ kiểm tra và đo lường dễ sử dụng, SeekrFlow đảm bảo kết quả chính xác có thể được hiểu và xác thực. Điều quan trọng là phải hiểu rằng các rào cản AI không chỉ là điều gì đó tốt để có hoặc suy nghĩ sau này – mà chúng tôi cung cấp cho khách hàng các công cụ giải thích và khả năng tranh luận đơn giản để sử dụng từ đầu.

Nền tảng tích hợp dữ liệu, tinh chỉnh, lưu trữ và suy luận như thế nào để cho phép thử nghiệm và thích nghi nhanh hơn của các mô hình ngôn ngữ lớn?

SeekrFlow tích hợp toàn bộ quá trình phát triển AI, trong một nền tảng. Từ việc xử lý và định dạng dữ liệu với phương pháp tạo dữ liệu hỗ trợ AI, đến tinh chỉnh một mô hình cơ bản, tất cả đều phục vụ cho suy luận và giám sát mô hình tinh chỉnh. Ngoài ra, công cụ giải thích của SeekrFlow cho phép các nhà tạo mô hình AI khám phá các khoảng trống trong kiến thức của mô hình, hiểu tại sao xảy ra sai sót và ảo giác, và hành động trực tiếp lên chúng. Phương pháp tích hợp này cho phép thử nghiệm và lặp lại mô hình nhanh chóng.

Công nghệ hoặc phương pháp độc đáo nào khác mà Seekr đã phát triển để đảm bảo độ chính xác và độ tin cậy của các mô hình AI?

Seekr đã phát triển công nghệ trí tuệ nhân tạo được cấp bằng sáng chế để đánh giá chất lượng, độ tin cậy, thiên vị, độc tính và tính xác thực của nội dung, cho dù đó là văn bản, hình ảnh hoặc tín hiệu âm thanh. Công nghệ này cung cấp dữ liệu và kiến thức phong phú có thể được kết hợp vào bất kỳ mô hình AI nào, dưới dạng dữ liệu đào tạo, thuật toán hoặc rào cản mô hình. Cuối cùng, công nghệ của Seekr để đánh giá nội dung có thể được tận dụng để đảm bảo an toàn, tính thực tế, hữu ích, không thiên vị và công bằng của các mô hình AI. Một ví dụ về điều này là SeekrAlign, giúp các thương hiệu và nhà xuất bản tăng cường phạm vi và doanh thu với AI có trách nhiệm, xem xét ngữ cảnh của nội dung thông qua Hệ số Đạo đức được cấp bằng sáng chế của chúng tôi.

Phương pháp tiếp cận khả năng giải thích của Seekr đảm bảo rằng các phản hồi của mô hình AI là có thể hiểu được và có thể theo dõi. Khi các mô hình AI tham gia vào các quyết định quan trọng, nhu cầu của các nhà tạo mô hình AI để hiểu và tranh luận quyết định mô hình trở nên quan trọng hơn.

Agent nguyên tắc của SeekrFlow giúp các nhà phát triển align mô hình AI với giá trị và quy định của doanh nghiệp như thế nào?

Agent nguyên tắc của SeekrFlow là một tính năng quan trọng giúp các nhà phát triển và doanh nghiệp giảm tổng chi phí của hệ thống dựa trên RAG và hiệu quả align AI của họ với các nguyên tắc, giá trị và quy định của ngành duy nhất mà không cần phải thu thập và xử lý dữ liệu có cấu trúc.

Agent của Seekr sử dụng các thuật toán align tiên tiến để đảm bảo rằng hành vi của mô hình ngôn ngữ lớn tuân thủ các tiêu chuẩn, ý định, quy tắc hoặc giá trị duy nhất và được định nghĩa trước. Trong quá trình đào tạo và suy luận, agent nguyên tắc hướng dẫn người dùng qua toàn bộ quá trình chuẩn bị và tinh chỉnh dữ liệu, đồng thời tích hợp liên tục đầu vào của chuyên gia và hướng dẫn đạo đức. Điều này đảm bảo rằng các mô hình AI của chúng tôi hoạt động trong các ranh giới chấp nhận được.

Bằng cách cung cấp các công cụ để tùy chỉnh và thực thi các nguyên tắc này, SeekrFlow trao quyền cho các doanh nghiệp kiểm soát ứng dụng AI của họ, đảm bảo rằng chúng phản ánh giá trị của công ty và tuân thủ các yêu cầu pháp lý và ngành. Khả năng này là thiết yếu để xây dựng niềm tin với khách hàng và các bên liên quan, vì nó thể hiện cam kết đối với AI có trách nhiệm.

Bạn có thể thảo luận về sự hợp tác với OneValley và cách công nghệ của Seekr cung cấp năng lượng cho nền tảng Haystack AI không?

OneValley là một nguồn lực đáng tin cậy cho hàng chục nghìn doanh nhân và các doanh nghiệp vừa và nhỏ (SMB) trên toàn thế giới. Một vấn đề phổ biến mà các nhà lãnh đạo này phải đối mặt là tìm kiếm lời khuyên, sản phẩm và dịch vụ phù hợp để bắt đầu và phát triển kinh doanh. Công nghệ của Seekr cung cấp các mô hình ngôn ngữ lớn đặc thù cho ngành, cho phép OneValley cung cấp sản phẩm mới nhất của họ, Haystack AI, cung cấp cho khách hàng quyền truy cập vào các cơ sở dữ liệu lớn về sản phẩm, thuộc tính, giá cả, ưu và nhược điểm và hơn thế nữa. Haystack AI thông minh đưa ra đề xuất cho người dùng và trả lời câu hỏi, tất cả đều có thể truy cập thông qua một bot trò chuyện trong ứng dụng.

Haystack mang lại những lợi ích cụ thể nào cho các doanh nghiệp mới thành lập và SMB, và làm thế nào AI của Seekr tăng cường những lợi ích này?

Cho dù người dùng cần một câu trả lời nhanh để biết thẻ tín dụng doanh nghiệp nào cung cấp phần thưởng tiền mặt cao nhất với phí người dùng thấp nhất và lãi suất thấp nhất hay để so sánh và đối chiếu hai hệ thống CRM họ đang xem xét là giải pháp phù hợp, Haystack AI được cung cấp bởi Seekr cung cấp cho họ câu trả lời đúng một cách nhanh chóng.

Haystack AI trả lời các câu hỏi của người dùng một cách nhanh chóng và tiết kiệm chi phí nhất. Việc phải chờ đợi và hỏi một người để trả lời những câu hỏi này và tất cả các nghiên cứu đi vào quá trình này là không thể quản lý được đối với các nhà lãnh đạo doanh nghiệp bận rộn. Khách hàng muốn có câu trả lời chính xác mà họ có thể dựa vào nhanh chóng, mà không cần phải tìm kiếm kết quả (và liên kết được tài trợ!) của một công cụ tìm kiếm web. Thời gian của họ được sử dụng tốt nhất để vận hành cốt lõi của doanh nghiệp. Đây là một ví dụ tuyệt vời về nơi Seekr AI giải quyết một nhu cầu kinh doanh thực sự.

Seekr đảm bảo rằng các giải pháp AI của mình vẫn có thể mở rộng và tiết kiệm chi phí cho các doanh nghiệp mọi quy mô như thế nào?

Câu trả lời đơn giản là để đảm bảo quy mô và chi phí thấp, bạn cần có sự hợp tác chiến lược để tiếp cận tính toán ở quy mô. Cung cấp AI đáng tin cậy, tiết kiệm chi phí và đáng tin cậy đòi hỏi sự kết hợp của phần mềm AI hàng đầu và phần cứng hàng đầu. Hợp tác của chúng tôi với Intel bao gồm một cam kết nhiều năm để tiếp cận một lượng ngày càng tăng phần cứng AI, bao gồm nâng cấp qua các thế hệ từ Gaudi 2 hiện tại lên Gaudi 3 vào đầu năm 2025 và tiếp theo lên các đổi mới chip tiếp theo. Chúng tôi đã đặt cược rằng sự sẵn có và giá cả tốt nhất của tính toán sẽ đến từ chính nhà sản xuất silicon, trong đó Intel là một trong hai công ty trên thế giới sản xuất chip của riêng họ. Điều này giải quyết mọi vấn đề về sự khan hiếm, đặc biệt là khi chúng tôi và khách hàng của mình mở rộng và đảm bảo hiệu suất giá cả tốt nhất có thể mang lại lợi ích cho khách hàng.

Khách hàng của Seekr chạy trên dịch vụ lưu trữ của riêng họ chỉ trả tiền cho việc sử dụng thực tế. Chúng tôi không tính phí cho GPU không hoạt động. SeekrFlow có mô hình định giá cạnh tranh cao so với các đối thủ trong không gian, hỗ trợ các triển khai từ nhỏ nhất đến lớn nhất.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Seekr.