Ayar Labs Raises $500 Million Series E tại $3.75 Billion Valuation để Tăng Tốc Optical Interconnects cho AI Infrastructure

Ayar Labs đã bảo đảm $500 triệu trong Series E funding, đưa tổng số vốn huy động được lên $870 triệu và định giá công ty tại $3.75 tỷ. Vòng này được dẫn đầu bởi Neuberger Berman và bao gồm sự tham gia của ARK Invest, Insight Partners, Qatar Investment Authority, Sequoia Global Equities, và 1789 Capital, cùng với các nhà đầu tư chiến lược AMD, MediaTek, Alchip, và NVIDIA.

Công ty cho biết nguồn vốn mới này sẽ được sử dụng để mở rộng năng lực sản xuất và thử nghiệm với số lượng lớn cho nền tảng co-packaged optics (CPO) của mình, một công nghệ được thiết kế để giải quyết một trong những thách thức lớn nhất trong AI infrastructure: làm thế nào để di chuyển lượng lớn dữ liệu một cách hiệu quả giữa các chip.

Ràng buộc ẩn trong AI: Di chuyển dữ liệu

Trong khi các tiêu đề về AI thường tập trung vào việc tăng tốc GPU và các mô hình lớn hơn, một nút thắt ngày càng tăng nằm ở nơi khác – trong các kết nối giữa các chip.

Các hệ thống AI hiện đại phụ thuộc vào hàng nghìn GPU hoạt động song song. Các bộ xử lý này liên tục trao đổi dữ liệu trong quá trình đào tạo và suy luận. Việc chúng giao tiếp nhanh chóng và hiệu quả hơn sẽ làm cho toàn bộ hệ thống trở nên mạnh mẽ hơn. Tuy nhiên, hầu hết việc giao tiếp này vẫn dựa trên tín hiệu điện truyền qua dây đồng.

Ở quy mô nhỏ, đồng hoạt động tốt. Ở mức độ siêu lớn của AI, nó trở nên vấn đề:

• Tín hiệu điện mất cường độ qua khoảng cách.
• Băng thông cao hơn đòi hỏi nhiều năng lượng hơn.
• Tốc độ dữ liệu cao hơn tạo ra nhiều nhiệt hơn.
• Các dấu vết đồng vật lý tiêu thụ không gian quý giá trên bảng và trong gói.

Khi các mô hình phát triển đến hàng nghìn tỷ tham số, chỉ thêm nhiều GPU hơn không còn đủ. Hệ thống liên kết – hệ thống kết nối các bộ xử lý lại với nhau – ngày càng quyết định hiệu suất và hiệu quả chi phí tổng thể.

Optical Interconnect là gì — và tại sao nó lại quan trọng?

Optical interconnect thay thế việc truyền dữ liệu điện bằng ánh sáng.

Thay vì đẩy các electron qua dây đồng, hệ thống quang học chuyển đổi tín hiệu điện thành các xung ánh sáng di chuyển qua các dẫn sóng quang học nhỏ hoặc cấu trúc giống như sợi. Ở đầu nhận, những tín hiệu ánh sáng đó được chuyển đổi lại thành tín hiệu điện để xử lý.

Cách tiếp cận này cung cấp một số lợi thế:

• Năng lượng thấp hơn trên mỗi bit được truyền
• Khả năng băng thông cao hơn
• Giảm suy giảm tín hiệu qua khoảng cách
• Hiệu suất năng lượng cải thiện trên mỗi GPU

Đơn giản nói, ánh sáng có thể di chuyển dữ liệu nhanh hơn và với ít mất năng lượng hơn so với điện khi nhu cầu băng thông trở nên cực đoan.

Đối với AI infrastructure, hiệu suất đó rất quan trọng. Các trung tâm dữ liệu ngày càng bị giới hạn bởi ngân sách năng lượng. Nếu các liên kết tiêu thụ quá nhiều năng lượng, nó sẽ hạn chế số lượng tăng tốc có thể được triển khai trong một khoảng thời gian cố định. Liên kết quang học nhằm giảm bớt áp lực đó.

Co-Packaged Optics: Di chuyển ánh sáng gần hơn đến Chip

Mạng quang học bản thân nó không mới – quang học sợi đã được sử dụng trong viễn thông trong nhiều thập kỷ. Điều mới là co-packaged optics (CPO).

Truyền thống, các mô-đun quang học nằm ở rìa của bảng máy chủ hoặc trong các máy thu phát cắm riêng. Co-packaged optics tích hợp các thành phần quang học trực tiếp bên cạnh các chip tính toán trong cùng một gói. Bằng cách rút ngắn đường dẫn điện và di chuyển chuyển đổi quang gần hơn đến bộ xử lý, hệ thống giảm mất năng lượng và độ trễ.

Ở trung tâm của phương pháp Ayar Labs là động cơ quang TeraPHY của nó, được thiết kế để tích hợp vào các quy trình sản xuất và đóng gói bán dẫn tiêu chuẩn. Thay vì buộc khách hàng phải thiết kế lại toàn bộ hệ thống, công ty đặt công nghệ của mình như một công nghệ tương thích với các thiết kế tăng tốc và chuyển mạch hiện có.

Mục tiêu không phải là cải tiến từng bước – nó là cho phép hàng nghìn GPU hoạt động như một hệ thống thống nhất hơn mà không làm quá tải ngân sách năng lượng.

Từ Vòng Unicorn đến Tăng Tốc

Vòng tăng mới nhất của Ayar Labs theo sau $155 triệu Series D vào cuối năm 2024, điều này đã đưa công ty vượt qua mốc định giá $1 tỷ và hỗ trợ giai đoạn sản xuất đầu tiên của nền tảng I/O quang của mình.

Series E đánh dấu một sự chuyển đổi từ xác thực sang tăng tốc. Công ty dự định sẽ mở rộng năng lực sản xuất và thử nghiệm, tăng cường sự hiện diện của mình trong hệ sinh thái bán dẫn của Đài Loan và đẩy nhanh việc triển khai thương mại.

Sự hiện diện của cả vốn đầu tư tổ chức và các nhà đầu tư chiến lược bán dẫn trong vòng này cho thấy rằng liên kết quang học không còn được coi là thuần túy thử nghiệm. Khi việc xây dựng cơ sở hạ tầng AI trở nên mạnh mẽ hơn, hiệu suất của liên kết đã trở thành trung tâm của hiệu suất, chi phí và tính bền vững năng lượng.

Nếu GPU đại diện cho động cơ của AI hiện đại, thì liên kết quang học có thể quyết định xem những động cơ đó có thể chạy bao xa và hiệu quả như thế nào.