Mô hình và nền tảng AI

OVHcloud ra mắt Olala Mini 7A1B, mô hình ngôn ngữ lớn mã nguồn mở đầu tiên của hãng

Jonas Reeve
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhOVHcloud đã huấn luyện mô hình nhỏ gọn của mình hoàn toàn trên các siêu máy tính công…
Xem thêm
  • OVHcloud đã huấn luyện mô hình nhỏ gọn của mình hoàn toàn trên các siêu máy tính công cộng châu Âu thay vì dựa vào các phòng thí nghiệm bên ngoài.
  • Qwant đã áp dụng mô hình này cho các câu trả lời nhanh và báo cáo phản hồi nhanh hơn với chi phí vận hành giảm mạnh.
  • Lộ trình hướng tới các mô hình chuyên biệt lớn hơn cho vận hành đám mây AI doanh nghiệp dạng tác tử và an ninh mạng.

Ngày 17 tháng 11 năm 2026, OVHcloud công bố Olala, dòng mô hình ngôn ngữ lớn đầu tiên của hãng, mở đầu với Olala mini 7A1B nhỏ gọn. Công ty cho biết mô hình này có thể chạy trên GPU chỉ cần 8 GB bộ nhớ và dự định phát hành mã nguồn mở trên Hugging Face theo giấy phép Apache 2.0.

Buổi giới thiệu chính thức dự kiến diễn ra tại OVHcloud AI Summit vào ngày 19 tháng 11 năm 2026. Gói phát hành bao gồm trọng số mô hình, một mô hình nền được huấn luyện trước và tài liệu tuân thủ Đạo luật AI, bộ luật về trí tuệ nhân tạo của Liên minh châu Âu.

Cơ chế chú ý lai và yêu cầu phần cứng thấp hơn

Olala mini có kiến trúc 7 tỷ tham số, nhưng mỗi yêu cầu chỉ kích hoạt 1 tỷ tham số. Các tham số được kích hoạt đó phân bổ cho 256 chuyên gia ở mỗi lớp, nên mỗi yêu cầu chỉ sử dụng một phần mô hình thay vì toàn bộ mạng. Thiết kế chú ý lai kết hợp Differential-TPA và Mamba-3, đồng thời sử dụng định dạng BF16.

Cấu trúc này được thiết kế nhằm tăng tốc độ và giảm nhu cầu bộ nhớ. OVHcloud cho biết tốc độ xử lý đạt 160 token mỗi giây trên RTX A4500 và 50 token mỗi giây trên bộ xử lý tiêu chuẩn không có GPU. Cửa sổ ngữ cảnh hiện tại của mô hình—lượng văn bản, tính bằng token, mà mô hình có thể xử lý trong một chuỗi—là 32.000 token.

Hạ tầng huấn luyện châu Âu và việc triển khai tại Qwant

Olala mini được huấn luyện từ đầu trên ba siêu máy tính công cộng của châu Âu: Jupiter, MeluXina và Jean Zay. Hạ tầng huấn luyện bao gồm các GPU GH200, A100 và H100. OVHcloud cho biết sự hỗ trợ của khu vực công dành cho dự án, tương đương 7 triệu euro giờ tính toán, có ý nghĩa quyết định.

Sáng kiến này cũng tập hợp đội ngũ AI của công ty và dẫn đến sự ra đời của Agentic Lab, OVHai LLM. Nhờ đó, dự án có vai trò về mặt tổ chức vượt ra ngoài mô hình đầu tiên: OVHcloud đã thành lập một nhóm chuyên trách để tiếp tục phát triển dòng mô hình này, thay vì xem Olala mini là một dự án huấn luyện đơn lẻ.

Qwant đã đưa Olala mini vào sử dụng cho tính năng trả lời nhanh. OVHcloud cho biết câu trả lời nhanh hơn 20% và chi phí vận hành giảm còn một phần ba so với mô hình Qwant từng sử dụng, qua đó đưa ra ví dụ thực tế ban đầu về hiệu quả kinh tế khi triển khai mà công ty đang hướng tới.

Lộ trình mở rộng sang Workspace, DevOps và bảo mật

Theo lộ trình của OVHcloud, phiên bản 1.1 sẽ ra mắt trước cuối năm 2026, mở rộng cửa sổ ngữ cảnh lên 128.000 token và cải thiện khả năng suy luận toán học. Phiên bản 2.0 dự kiến có hơn 100 tỷ tham số; OVHai LLM sẽ phát triển các mô hình chuyên biệt về AI tác nhân trong doanh nghiệp, DevOps đám mây và an ninh mạng, bao gồm cả mục đích phòng thủ lẫn tấn công.

Các phiên bản sau này dự kiến đưa dòng mô hình vào các sản phẩm và công cụ vận hành của OVHcloud. Về lâu dài, Olala được kỳ vọng sẽ vận hành OVHai Workspace; phiên bản được mã hóa của sản phẩm này sẽ cần các mô hình có thể chạy trực tiếp trên máy trạm. Các phiên bản DevOps sẽ phục vụ nhà phát triển, kiến trúc sư và đội ngũ vận hành chịu trách nhiệm duy trì dịch vụ liên tục suốt ngày đêm.

Tổng giám đốc điều hành Octave Klaba cho biết OVHcloud cần tạo ra các mô hình đáp ứng cả nhu cầu nội bộ lẫn nhu cầu của khách hàng. “Trong những năm tới, chúng tôi không thể chỉ trông chờ vào thiện chí của một số phòng thí nghiệm trong việc chia sẻ các mô hình ngôn ngữ lớn của họ dưới dạng mã nguồn mở,” ông nói. Klaba cho biết chuyên môn huấn luyện mô hình đã trở nên phổ biến rộng rãi và chi phí đã giảm 20 lần trong ba năm, đồng thời xem những thay đổi đó là con đường để phát triển mô hình sinh lời.

Vì vậy, Olala mang đến cho OVHcloud cả một mô hình nhỏ gọn lẫn con đường tự phát triển. Câu hỏi cốt yếu là liệu OVHai LLM có thể duy trì những cải thiện về hiệu quả và triển khai được báo cáo ở mô hình đầu tiên này trong phiên bản có ngữ cảnh dài hơn và các hệ thống chuyên biệt lớn hơn nhiều như đã nêu trong lộ trình hay không.

Jonas Reeve là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, tập trung vào AI nhận thức, trí tuệ nhân tạo chung (AGI), và các nền tảng lý thuyết của trí thông minh máy móc. Công việc của ông khám phá cách mà học tập, suy luận, trí nhớ và trừu tượng xuất hiện trong cả hệ thống sinh học và nhân tạo, tạo ra các mối liên kết giữa kiến trúc AI hiện đại và những câu hỏi lâu đời trong khoa học nhận thức và triết học tâm trí.

Với cách tiếp cận khái niệm và suy ngẫm, Jonas xem xét các khung như mô hình suy luận, hệ thống tác nhân AI, nhận thức nổi lên, và lý thuyết cân chỉnh, nhằm làm rõ tiến bộ hướng tới AGI thực sự có nghĩa là gì — và không phải là gì. Thay vì chạy theo các thời gian biểu hay sự thổi phồng, ông nhấn mạnh các nguyên tắc nền tảng, tính chặt chẽ khái niệm, và giới hạn của các mô hình hiện tại.

Các bài viết do Jonas Reeve viết được tạo ra bằng AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, rõ ràng và thảo luận có trách nhiệm về các khái niệm AI tiên tiến.