Luminal huy động 25 triệu USD trong vòng Series A do Standard Capital dẫn dắt

Luminal đã huy động 25 triệu USD trong vòng Series A do Standard Capital dẫn dắt, theo thông báo của nhà đầu tư vào ngày 12 tháng 11 năm 2026. Công ty khởi nghiệp về hạ tầng AI đang mở rộng hoạt động kinh doanh trình biên dịch và dịch vụ suy luận lưu trữ trên các dòng chip của Nvidia, AMD và những chip chuyên dụng, tập trung khai thác nhiều công việc hữu ích hơn từ phần cứng mà khách hàng đã sở hữu.

Các nhà đồng sáng lập Joe Fioti, Jake Stevens và Matthew Gunton đã xây dựng hai mảng kinh doanh xoay quanh suy luận, tức quá trình tính toán tạo ra đầu ra của một mô hình AI. Luminal lưu trữ các mô hình trên đám mây riêng và cấp phép trình biên dịch cho khách hàng đã vận hành phần cứng. Nhờ đó, công ty cung cấp dịch vụ được quản lý cho khách hàng cần triển khai, đồng thời có một sản phẩm riêng dành cho những đơn vị muốn cải thiện hạ tầng của chính mình.

Trình biên dịch được xây dựng để tìm kiếm các phương thức triển khai nhanh hơn

Trình biên dịch chuyển đổi một mô hình được viết bằng khung phần mềm như PyTorch thành mã cấp thấp thực thi các phép toán của mô hình. Tổng quan kỹ thuật của Luminal mô tả một quy trình chuyển mô hình thành đồ thị luồng dữ liệu, áp dụng các kỹ thuật hợp nhất có xét đến phần cứng, phân ô, lập kế hoạch bộ nhớ và lập lịch, rồi tạo ra các kernel GPU hoặc chỉ thị dành cho mạch tích hợp chuyên dụng. Biên dịch trước khi thực thi nhằm giảm chi phí thời gian chạy do phải diễn giải mô hình một cách linh hoạt.

Theo các nhà sáng lập, Luminal dành một lượng tài nguyên tính toán đáng kể trong quá trình biên dịch để tìm kiếm các phương thức triển khai khả thi, thay vì chỉ dựa vào những quy tắc kinh nghiệm được viết thủ công. Kỹ thuật bão hòa đẳng thức biểu diễn gọn một không gian tìm kiếm có thể chứa hàng nghìn tỷ phương án trên một con chip nhất định, giúp trình biên dịch tìm ra phiên bản tối ưu. Phương pháp này được thiết kế cho các bộ xử lý ngày càng chuyên dụng, vốn đòi hỏi những quyết định phức tạp hơn về bộ nhớ và lập lịch trong phần mềm.

Bài viết kỹ thuật ngày 9 tháng 1 năm 2026 giải thích cách các megakernel được tạo tự động phù hợp với chiến lược đó. Việc hợp nhất lượt truyền xuôi của mô hình vào một kernel, hay chương trình GPU, giúp loại bỏ độ trễ do khởi chạy kernel lặp đi lặp lại và cho phép các phép toán tiếp theo bắt đầu ngay khi dữ liệu đầu vào sẵn sàng. Thiết kế này cũng nhắm đến những khoảng thời gian nhàn rỗi do khối lượng công việc phân bổ không đồng đều giữa các lõi xử lý và thời gian chờ tải các trọng số ban đầu, bằng cách sử dụng cơ chế đồng bộ hóa chi tiết để duy trì các quan hệ phụ thuộc dữ liệu.

Luminal cho biết GPT-OSS 120B đạt tốc độ 36.000 token mỗi giây trên tám GPU Nvidia H100 SXM, so với 28.000 của TensorRT-LLM và 26.000 của vLLM trong phép so sánh trên trang web của công ty. Những kết quả này cho thấy mức cải thiện thông lượng là trọng tâm trong thông điệp thương mại của Luminal, trong khi dịch vụ lưu trữ còn đảm nhiệm thêm các công việc về hạ tầng ngoài phạm vi của riêng trình biên dịch.

Dịch vụ suy luận lưu trữ và cấp phép dựa trên giá trị

Luminal Cloud cung cấp các điểm cuối phi máy chủ được quản lý, tự động xử lý theo lô và khả năng tự co giãn về 0; khách hàng chỉ trả tiền cho những gì họ sử dụng. Các bản triển khai được cấp phép có thể chạy trên đám mây của khách hàng hoặc tại chỗ. Ở tầng trên trình biên dịch, lớp suy luận của Luminal lập lịch và cân bằng công việc giữa CPU, GPU và ASIC, phân phối lại tác vụ khi mức sử dụng thay đổi, đồng thời khởi chạy hoặc dừng các nút tùy theo nhu cầu.

Công ty truyền thông bất động sản AutoHDR xử lý khoảng 5 triệu hình ảnh mỗi tháng; theo các nhà sáng lập, Luminal đảm nhiệm gần như toàn bộ khối lượng công việc đó, đồng thời chuyển ngày càng nhiều tác vụ sang chip AMD. Một khách hàng khác, Freebuff, gửi cho Luminal hàng nghìn tỷ token mỗi tuần. Những khối lượng công việc này giúp Luminal có lưu lượng vận hành thực tế trong cả lĩnh vực xử lý hình ảnh lẫn mô hình ngôn ngữ lớn.

Theo lời kể của các nhà sáng lập, những yêu cầu lập trình của Freebuff có thể chứa khoảng 100.000 token đầu vào, khiến tỷ lệ truy cập cache thành công và khả năng mở rộng khi xử lý yêu cầu trở thành những yếu tố chi phí quan trọng. Tái sử dụng phần tính toán đã lưu trong cache giúp tránh phải thực hiện lại, còn việc di chuyển các cache liên quan qua hệ thống phân cấp bộ nhớ giúp duy trì khoản tiết kiệm đó. Chỉ riêng một kernel nhanh không thể giải quyết những khoản chi phí này.

Fioti cho biết một số giấy phép trình biên dịch có mức phí được tính theo một tỷ lệ cố định dựa trên phần cải thiện đo được so với mức cơ sở hiện tại của khách hàng. Trong ví dụ minh họa của ông, việc tăng gấp đôi thông lượng trên một GPU có giá 1,50 USD giúp tiết kiệm 75 cent; Luminal thu 25 cent và khách hàng còn tiết kiệm được 50 cent. Cơ chế này gắn doanh thu từ giấy phép với giá trị mang lại, thay vì chỉ dựa vào mức sử dụng dịch vụ lưu trữ.

Khởi nguồn mã nguồn mở và quá trình mở rộng

Luminal khởi đầu là một dự án cá nhân mà Fioti phát triển ngoài giờ làm việc để chạy các mô hình trên máy tính xách tay. Sau đó, dự án bổ sung phần hỗ trợ backend Nvidia và hình thành một cộng đồng mã nguồn mở. Các nhà sáng lập quyết định giữ trình biên dịch cốt lõi ở dạng mã nguồn mở, đồng thời thu phí dịch vụ lưu trữ—mô hình mà họ so sánh với cách Vercel kết hợp Next.js với dịch vụ đám mây của mình. Giấy phép trình biên dịch mở ra thêm một lựa chọn cho các tổ chức đã có sẵn phần cứng.

Vòng Series A tiếp nối vòng hạt giống trị giá 5,3 triệu USD được công bố vào ngày 17 tháng 11 năm 2025, do Felicis Ventures dẫn dắt, với sự tham gia của các nhà đầu tư thiên thần, trong đó có Paul Graham và Guillermo Rauch.

Hiện Luminal đang tuyển kỹ sư trình biên dịch và nhân viên đầu tiên không thuộc bộ phận kỹ thuật, vị trí trưởng bộ phận tăng trưởng. Nhóm làm việc trực tiếp tại trung tâm thành phố San Francisco và cho đến nay chỉ gồm các nhân sự kỹ thuật. Các nhà sáng lập dự đoán khối lượng công việc suy luận sẽ ngày càng được phân chia giữa các chip chuyên xử lý lời nhắc và các chip chuyên tạo token, khiến việc phối hợp giữa những loại phần cứng khác nhau trở thành thách thức lớn hơn đối với phần mềm.

Kế hoạch tuyển dụng trước mắt cho thấy công ty cần chuyên môn sâu hơn về trình biên dịch và đang tuyển vị trí thương mại đầu tiên. Thử thách lớn hơn là liệu Luminal có thể duy trì những lợi thế về chi phí đã được báo cáo khi suy luận ngày càng được phân bổ trên các chip được thiết kế cho những giai đoạn khác nhau của một yêu cầu hay không; khi đó, việc lập lịch và tái sử dụng bộ nhớ đệm cũng trở thành một phần trong bài toán tiết kiệm chi phí, bên cạnh hiệu năng thuần túy của trình biên dịch.