Mô hình và nền tảng AI

Cerebras ra mắt Tungsten để lập trình Wafer-Scale Engine ở cấp độ cao

Theo Nash
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhTungsten chuyển việc phân bổ tài nguyên wafer sang trình biên dịch để các nhà khoa học…
Xem thêm
  • Tungsten chuyển việc phân bổ tài nguyên wafer sang trình biên dịch để các nhà khoa học tránh phải cấu hình thủ công descriptor và fabric.
  • Một tác nhân lập trình đã viết toàn bộ một mô phỏng plasma chạy trên 98% của một wafer Cerebras.
  • Phép thử thực sự là liệu các nhà nghiên cứu có thể mở rộng các ví dụ của Aviary sang mã của chính họ mà không phải quay lại dùng intrinsics hay không.

Cerebras Systems ra mắt Tungsten, một ngôn ngữ lập trình cấp cao và trình biên dịch dành cho Wafer-Scale Engine, vào ngày 16 tháng 11 năm 2026, cùng với Aviary, bộ ứng dụng khoa học và hướng dẫn. Thông báo cho biết một mô phỏng plasma do tác nhân lập trình viết hoàn toàn đã chạy trên 98% diện tích một tấm wafer của Cerebras.

Đợt ra mắt này nhằm giải quyết gánh nặng lập trình, chứ không phải thay đổi bộ xử lý. Các trình biên dịch trước đây cung cấp những khả năng về vector phi vô hướng, luồng và sự kiện thông qua các hàm nội tại, buộc nhà phát triển phải cấu hình bộ mô tả, kết nối tác vụ với sự kiện và định tuyến mạng kết nối theo cách thủ công. Mục tiêu của Cerebras là giúp các nhà khoa học lập trình cho toàn bộ tấm wafer ở cấp độ cao mà không cần trở thành chuyên gia phần cứng hay phải hy sinh hiệu năng.

Trình biên dịch quản lý tài nguyên ở cấp độ wafer

Cerebras mô tả Wafer-Scale Engine là một máy tính luồng dữ liệu có 900.000 lõi, bộ nhớ cục bộ và mạng truyền thông trên wafer; dữ liệu đến sẽ kích hoạt công việc xử lý dữ liệu đó. Các thanh ghi mẫu truy cập duyệt qua mảng đa chiều và luồng dữ liệu của mạng kết nối, nhờ đó không cần dùng lệnh để tính toán địa chỉ. Một lệnh duy nhất có thể nhận cả vòng lặp làm toán hạng; các lõi có thể gọi hàm trên lõi khác thông qua thông điệp truyền qua mạng kết nối; còn luồng điều khiển dựa trên sự kiện thay thế việc thăm dò liên tục và rẽ nhánh.

Tungsten tích hợp mô hình kiến trúc ánh xạ mã cấp cao sang các thanh ghi mẫu truy cập, tác vụ hướng sự kiện, lời gọi qua mạng kết nối và các lệnh chứa vòng lặp. Trong ví dụ về mẫu Jacobi của thông báo, mỗi dòng mã nguồn biểu thị một vòng lặp trên toàn bộ một khối và được biên dịch thành một lệnh vector duy nhất, không cần thiết lập bộ mô tả hay nối dây cho tác vụ. Ký pháp này dùng <+- để cộng dồn vào một đích, tương tự như +=.

Trình biên dịch cũng phân bổ các mẫu truy cập, định nghĩa vòng lặp, socket của mạng kết nối và vi luồng trên toàn bộ chương trình, sử dụng mô hình chi phí và các bước tối ưu hóa để hoán đổi những tài nguyên đó trong quá trình thực thi. Cerebras so sánh phương pháp này với việc phân bổ thanh ghi và tràn thanh ghi trên CPU. Khi trình biên dịch đảm nhận các quyết định đó, việc tái cấu trúc về sau chỉ cần chỉnh sửa mã cấp cao thay vì viết lại thủ công.

Aviary bao gồm hướng dẫn và ứng dụng khoa học

Tungsten và Aviary hiện đã có trên Cerebras Labs. Danh mục ứng dụng trải rộng từ các mẫu tính toán phương trình nhiệt và khuếch tán phản ứng Gray–Scott nhỏ gọn đến mô phỏng vận chuyển hạt, giải hệ thưa, biến đổi Fourier nhanh, động lực học phân tử, mô phỏng plasma và thủy động lực học bậc cao. Hướng dẫn Gray–Scott chỉ dài khoảng 50 dòng Tungsten, tạo điểm khởi đầu đơn giản hơn cho người dùng mới bên cạnh các mã khoa học đầy đủ. Các ứng dụng động lực học phân tử mô phỏng tương tác Lennard–Jones tầm ngắn và thế nguyên tử nhúng dạng bảng dành cho hợp kim kim loại.

Cerebras cho biết SNAP, bộ kiểm thử tiêu chuẩn mô phỏng vận chuyển bức xạ hạt nhân tất định, đạt 1,6 PFLOP/s trên một CS-4, vượt hiệu năng của 10.800 GPU trên siêu máy tính El Capitan; đồng thời, HPCG, một chuẩn kiểm thử siêu máy tính dành cho khối lượng công việc thưa, đạt 1,04 PFLOP/s trên một hệ thống đơn lẻ.

Nhiều ứng dụng được phát triển từ các dự án hợp tác với các phòng thí nghiệm quốc gia Sandia, Lawrence Livermore và Los Alamos trong khuôn khổ chương trình Công nghệ Bộ nhớ Tiên tiến của NNSA. Các mã động lực học phân tử kế thừa công trình hợp tác lọt vào vòng chung kết Giải Gordon Bell năm 2024, nhưng là những mã riêng biệt; kết quả trước đó sử dụng phiên bản ban đầu của Tungsten.

Mã plasma do tác nhân viết minh họa quy trình làm việc

Ứng dụng hạt trong ô là ví dụ trọng tâm về lập trình với tác nhân trong đợt ra mắt này. Cerebras cho biết một nhà nghiên cứu và một tác nhân lập trình đã tạo ra ứng dụng trong khoảng hai tuần thông qua giao diện trò chuyện, trong đó tác nhân viết mọi dòng mã. Tác nhân dựa trên các thuật toán đã công bố, đối chiếu và xác thực bản triển khai tham chiếu với mã XOOPIC nguồn mở, mô hình hóa bài toán dựa trên mã plasma EMPIRE, đồng thời tạo các bài kiểm thử, hình minh họa và tài liệu, cũng như tự phát hiện và sửa lỗi của mình.

Các hạt trong mô phỏng chuyển động dưới tác động của trường điện từ và di chuyển giữa các lõi, trong khi một bộ giải ẩn tính toán các trường trên lưới được phân rã dựa vào vị trí và vận tốc của chúng. Bài toán mô hình hóa là một chùm electron đi vào plasma argon. Cerebras cho biết toàn bộ lần chạy đã mô phỏng 60 triệu hạt với tốc độ 7.200 bước thời gian mỗi giây, đạt thông lượng 430 tỷ lần cập nhật hạt mỗi giây trên một hệ thống.

Cerebras cho biết tài liệu tham khảo về Tungsten đã đủ hoàn chỉnh để hỗ trợ quy trình làm việc do tác nhân dẫn dắt này. Michael James, đồng sáng lập Cerebras kiêm kiến trúc sư trưởng về công nghệ tiên tiến, vẫn khuyến khích người dùng tự học ngôn ngữ này: “Phải có người giữ cho các tác nhân đi đúng hướng.”

Cerebras cho biết cùng một mã Tungsten có thể chạy trên một tấm wafer hoặc trên cả cụm máy; mô phỏng sóng thần toàn cầu của hãng sử dụng 64 tấm wafer trong một đợt triển khai AI, và các đợt triển khai như vậy có thể mở rộng lên 2.048 hệ thống.

Cerebras cho biết công cụ tối ưu hóa thiết kế vẫn đang được phát triển, chưa nằm trong danh mục sản phẩm đã ra mắt. Công cụ này sẽ kết hợp một mô hình AI với một mô phỏng vật lý đóng vai trò mô hình thế giới; cả hai sẽ chạy trên wafer, cho phép mô hình AI thử nghiệm các thiết kế dựa trên mô phỏng đó.

Ý nghĩa thực tiễn của Tungsten nằm ở mô hình lập trình xoay quanh thông lượng đã được công bố. Phép thử then chốt là liệu các nhà nghiên cứu và tác tử có thể chuyển từ những ví dụ của Aviary sang mã của riêng mình mà không phải quay lại dùng các hàm intrinsic và mạng kết nối được định tuyến thủ công hay không. Khả năng đó sẽ quyết định mức độ mà phần cứng chuyên dụng của Cerebras có thể hỗ trợ điện toán khoa học và thiết kế được AI định hướng.

Theo Nash là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về hạ tầng AI, tính toán và các hệ thống phần cứng cung cấp năng lực cho trí tuệ nhân tạo hiện đại. Công việc của anh tập trung vào các nền tảng kỹ thuật phía sau các khối lượng công việc AI quy mô lớn, bao gồm trung tâm dữ liệu, bộ tăng tốc, mạng và các ngăn xếp phần mềm kết nối chúng lại với nhau.

Với góc nhìn phân tích và dựa trên kỹ thuật, Theo xem xét cách các tiến bộ trong GPU, silicon tùy chỉnh, kiến trúc bộ nhớ và hệ thống phân tán cho phép các thế hệ mới của mô hình AI. Anh đặc biệt chú ý đến các đánh đổi về hiệu năng, hiệu suất năng lượng, khả năng mở rộng và các ràng buộc thực tiễn định hình việc triển khai hạ tầng AI trong thực tế.

Các bài viết do Theo Nash viết được tạo ra bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác kỹ thuật, sự rõ ràng và việc đưa tin có trách nhiệm về môi trường tính toán AI đang phát triển nhanh chóng.