Thinking Machines Lab ra mắt mô hình đầu tiên với tương tác thời gian thực theo nhịp 200 mili giây

Thinking Machines Lab, startup AI được thành lập bởi cựu CTO OpenAI Mira Murati, đã phát hành bản xem trước nghiên cứu của mô hình nội bộ đầu tiên vào ngày 11 tháng 5 năm 2026, kết thúc hơn một năm im lặng về những gì phòng thí nghiệm thực sự sẽ xây dựng. Công ty gọi hệ thống này là “mô hình tương tác” – một kiến trúc đa phương thức được đào tạo từ đầu để xử lý âm thanh, video và văn bản trong các khối 200 miligiây thay vì chờ người dùng hoàn thành một lượt.

Mô hình, được đặt tên là TML-Interaction-Small, là một hệ thống hỗn hợp chuyên gia 276 tỷ tham số với 12 tỷ tham số hoạt động. Theo bài đăng trên blog công bố của công ty, đây là sản phẩm đầu tiên từ một phòng thí nghiệm đã huy động được khoảng 2 tỷ đô la với định giá 12 tỷ đô la mà trước đó chưa phát hành sản phẩm nào ngoài một công cụ tinh chỉnh. Việc phát hành này diễn ra trong bối cảnh áp lực liên tục từ sự ra đi của các nhân sự tài năng và vòng tài trợ tiếp theo bị đình trệ.

Mô hình tương tác thực sự làm gì?

Thinking Machines Lab lập luận rằng các mô hình tiên tiến hàng đầu hiện nay – bao gồm GPT-Realtime của OpenAI và Gemini Live của Google – gắn hành vi thời gian thực vào kiến trúc dựa trên lượt trao đổi bằng cách sử dụng “khung” các thành phần bên ngoài như phát hiện hoạt động giọng nói. Những thành phần này quyết định khi người dùng đã ngừng nói, sau đó chuyển một lượt nói hoàn thành đến mô hình. Trong khi mô hình tạo ra một phản hồi, nhận thức của nó về thế giới bị đóng băng.

Mô hình tương tác thay thế cấu trúc đó bằng những gì công ty gọi là các lượt trao đổi cực ngắn được căn chỉnh theo thời gian. Hệ thống liên tục xử lý 200 miligiây đầu vào trong khi tạo ra 200 miligiây đầu ra, với cả hai luồng token được xen kẽ trên cùng một chu kỳ đồng hồ. Cấu trúc đó cho phép mô hình ngắt lời người dùng giữa câu, phản ứng với các tín hiệu hình ảnh mà không cần được yêu cầu, hoặc nói cùng lúc với người dùng cho các nhiệm vụ như dịch trực tiếp.

Kiến trúc bỏ qua các bộ mã hóa độc lập nặng. Âm thanh được đưa vào dưới dạng đặc trưng dMel thông qua một lớp nhúng nhẹ, hình ảnh được chia thành các miếng 40×40, và tất cả các thành phần được đào tạo cùng nhau từ đầu với transformer. Một mô hình nền riêng biệt chạy bất đồng bộ, xử lý suy luận sâu hơn, các lệnh gọi công cụ và duyệt web trong khi mô hình tương tác vẫn hiện diện trong cuộc trò chuyện.

Trên các điểm chuẩn được công ty báo cáo, TML-Interaction-Small ghi nhận độ trễ chuyển lượt nói là 0,40 giây trên FD-bench V1, so với 1,18 giây cho GPT-Realtime-2.0 trong chế độ suy nghĩ tối thiểu và 0,57 giây cho Gemini-3.1-flash-live. Trên FD-bench V1.5, đánh giá chất lượng tương tác trên các lần người dùng ngắt lời, lời đáp ngắn thể hiện sự lắng nghe và tiếng nói trong nền, mô hình đạt 77,8 so với 46,8 cho GPT-Realtime-2.0 tối thiểu và 45,5 cho Gemini-3.1-flash-live trong chế độ suy nghĩ cao. Các con số này là tự báo cáo.

Lần phát hành đầu tiên được mong đợi từ lâu

Việc phát hành này kết thúc một khoảng cách dài giữa tài trợ và sản phẩm. Thinking Machines Lab được thành lập vào tháng 2 năm 2025 và vào tháng 7 của năm đó, công ty đã kết thúc vòng gọi vốn hạt giống trị giá 2 tỷ đô la với định giá 12 tỷ đô la – được báo cáo rộng rãi là vòng gọi vốn hạt giống lớn nhất trong lịch sử. Vòng này được dẫn đầu bởi Andreessen Horowitz với sự tham gia của Nvidia (NVDA ), AMD, Cisco, Accel, ServiceNow (NOW ) và Jane Street. Cho đến nay, sản phẩm duy nhất được công ty phát hành là Tinker, một API cho việc tinh chỉnh các mô hình có trọng số mở, ra mắt vào tháng 10 năm 2025.

Các tháng sau đó mang lại sự hỗn loạn. Đồng sáng lập Barret Zoph và Luke Metz rời công ty vào tháng 1 năm 2026 để trở lại OpenAI, với Murati tuyên bố rằng công ty đã “chia tay” với Zoph. Andrew Tulloch rời đi để tham gia Superintelligence Labs của Meta sau khi đề nghị trị giá 1 tỷ đô la được cho là do Mark Zuckerberg đưa ra nhằm mua lại toàn bộ công ty bị từ chối. Meta đã thuê năm thành viên sáng lập của phòng thí nghiệm. Murati đã phản ứng bằng cách thăng cấp Soumith Chintala, đồng sáng tạo PyTorch, lên vị trí CTO. Một vòng tài trợ tiếp theo được báo cáo với định giá khoảng 50 tỷ đô la vẫn chưa hoàn tất vào cuối năm 2025.

Diễn biến về năng lực tính toán lại đi theo hướng ngược lại. Vào tháng 3, Thinking Machines Lab đã công bố một quan hệ đối tác với Nvidia bao gồm một khoản đầu tư không được tiết lộ và việc triển khai ít nhất một gigawatt các hệ thống Vera Rubin thế hệ tiếp theo. Phòng thí nghiệm cũng đã mở rộng mối quan hệ với Google Cloud để bao gồm huấn luyện các mô hình tiên tiến hàng đầu trên phần cứng Nvidia GB300.

Những điểm cần theo dõi

Mô hình tương tác chưa có sẵn cho các doanh nghiệp hoặc công chúng. Thinking Machines Lab cho biết một bản xem trước nghiên cứu hạn chế sẽ mở cho các đối tác được chọn trong những tháng tới, với một bản phát hành rộng rãi hơn vào thời điểm muộn hơn trong năm 2026. Công ty cũng có kế hoạch phát hành các mô hình tương tác lớn hơn, lưu ý rằng phiên bản 276B tham số hiện tại là biến thể nhỏ nhất mà họ có thể cung cấp ở độ trễ yêu cầu.

Việc xác minh độc lập các tuyên bố về kết quả kiểm thử là câu hỏi trước mắt. FD-bench là một trong số ít điểm chuẩn công khai nhắm vào chất lượng tương tác, và các điểm số của Thinking Machines chưa được tái tạo bởi các bên thứ ba dưới tải thực tế. Các thử nghiệm chủ động mà công ty giới thiệu cho các tín hiệu hình ảnh, bao gồm các phiên bản được điều chỉnh của RepCount-A, ProactiveVideoQA và Charades, là các công cụ mới mà không có đường cơ sở được thiết lập.

Đặt cược chiến lược sắc nét hơn. Trong khi OpenAI, Anthropic và Google đã dành cả năm qua để thúc đẩy các khả năng của tác nhân tự chủ, Thinking Machines Lab đang đặt cược rằng trục cạnh tranh tiếp theo sẽ là làm thế nào con người giao tiếp với AI – gần hơn với một cuộc trò chuyện liên tục hơn là một loạt các lời nhắc. Mô hình tương tác cạnh tranh trực tiếp với các hệ thống AI giọng nói thời gian thực do các công ty phát hành, gồm OpenAI, Google và một nhóm ngày càng đông của các công ty khởi nghiệp tập trung vào giọng nói. Liệu kiến trúc có sống sót được với khối lượng công việc trong môi trường vận hành thực tế – các phiên dài, kết nối không đáng tin cậy và các ràng buộc an toàn của việc từ chối thời gian thực – là thử nghiệm mà vòng xem trước tiếp theo sẽ áp đặt.