Phillip Burr, Trưởng bộ phận Sản phẩm tại Lumai – Loạt phỏng vấn

Phillip Burr là Trưởng bộ phận Sản phẩm tại Lumai, với hơn 25 năm kinh nghiệm trong quản lý sản phẩm toàn cầu, tiếp thị và vai trò lãnh đạo trong các công ty công nghệ và bán dẫn hàng đầu, và có thành tích chứng minh trong việc xây dựng và mở rộng sản phẩm và dịch vụ.

Lumai là một công ty công nghệ sâu tại Anh, đang phát triển bộ xử lý tính toán quang 3D để tăng tốc tải công việc trí tuệ nhân tạo. Bằng cách thực hiện phép nhân ma trận-vec-tơ sử dụng chùm ánh sáng trong không gian 3 chiều, công nghệ của họ cung cấp hiệu suất lên đến 50 lần và tiêu thụ năng lượng thấp hơn 90% so với các bộ tăng tốc dựa trên silicon truyền thống. Điều này làm cho nó đặc biệt phù hợp cho các nhiệm vụ suy luận trí tuệ nhân tạo, bao gồm cả mô hình ngôn ngữ lớn, trong khi giảm đáng kể chi phí năng lượng và tác động môi trường.

Điều gì đã truyền cảm hứng cho việc thành lập Lumai, và ý tưởng đó đã phát triển như thế nào từ nghiên cứu tại Đại học Oxford thành một doanh nghiệp thương mại?

Nguyên nhân ban đầu được bắt đầu khi một trong những người sáng lập của Lumai, Tiến sĩ Xianxin Guo, được trao một học bổng nghiên cứu 1851 tại Đại học Oxford. Những người phỏng vấn hiểu được tiềm năng của tính toán quang và hỏi liệu Xianxin có xem xét việc cấp bằng sáng chế và thành lập một công ty nếu nghiên cứu của anh ta thành công hay không. Điều này đã kích hoạt tâm trí sáng tạo của Xianxin và khi anh ta, cùng với một trong những người sáng lập khác của Lumai, Tiến sĩ James Spall, đã chứng minh rằng việc sử dụng ánh sáng để thực hiện tính toán tại trung tâm của trí tuệ nhân tạo có thể cả tăng hiệu suất trí tuệ nhân tạo và giảm năng lượng, thì sân khấu đã được thiết lập. Họ biết rằng phần cứng trí tuệ nhân tạo dựa trên silicon hiện có (và vẫn đang) gặp khó khăn trong việc tăng hiệu suất mà không tăng đáng kể công suất và chi phí, và do đó, nếu họ có thể giải quyết vấn đề này bằng cách sử dụng tính toán quang, họ có thể tạo ra một sản phẩm mà khách hàng muốn. Họ đã đưa ý tưởng này đến một số nhà đầu tư mạo hiểm, những người đã hỗ trợ họ thành lập Lumai. Lumai gần đây đã kết thúc vòng tài trợ thứ hai, huy động hơn 10 triệu đô la và mang lại các nhà đầu tư thêm những người cũng tin rằng tính toán quang có thể tiếp tục mở rộng và đáp ứng nhu cầu hiệu suất trí tuệ nhân tạo ngày càng tăng mà không tăng công suất.

Bạn đã có một sự nghiệp ấn tượng trên Arm, indie Semiconductor (INDI ) và nhiều hơn — điều gì đã thu hút bạn đến Lumai tại giai đoạn này?

Câu trả lời ngắn gọn là đội ngũ và công nghệ. Lumai có một đội ngũ ấn tượng gồm các chuyên gia quang, học máy và trung tâm dữ liệu, mang lại kinh nghiệm từ các công ty như Meta, Intel (INTC ), Altera, Maxeler, Seagate và IBM (cùng với kinh nghiệm của tôi tại Arm, indie, Mentor Graphics và Motorola). Tôi biết rằng một đội ngũ những người phi thường tập trung vào việc giải quyết thách thức của việc giảm chi phí suy luận trí tuệ nhân tạo có thể làm được những điều tuyệt vời.

Tôi tin chắc chắn rằng tương lai của trí tuệ nhân tạo đòi hỏi những đột phá mới, sáng tạo trong lĩnh vực tính toán. Việc có thể cung cấp hiệu suất tính toán trí tuệ nhân tạo lên đến 50 lần cũng như cắt giảm chi phí suy luận trí tuệ nhân tạo xuống 1/10 so với các giải pháp hiện tại là một cơ hội quá tốt để bỏ lỡ.

Những thách thức kỹ thuật hoặc kinh doanh nào mà đội ngũ sáng lập của bạn đã gặp phải khi mở rộng từ một đột phá nghiên cứu đến một công ty sản phẩm sẵn sàng?

Đột phá nghiên cứu đã chứng minh rằng quang học có thể được sử dụng cho phép nhân ma trận-vec-tơ nhanh và hiệu quả. Mặc dù có những đột phá kỹ thuật, thách thức lớn nhất là thuyết phục mọi người rằng Lumai có thể thành công trong khi các công ty khởi nghiệp tính toán quang khác đã thất bại. Chúng tôi đã phải dành thời gian để giải thích rằng cách tiếp cận của Lumai rất khác và rằng thay vì dựa vào một con chip 2D duy nhất, chúng tôi sử dụng quang 3D để đạt được mức độ quy mô và hiệu quả. Có nhiều bước để chuyển từ nghiên cứu trong phòng thí nghiệm đến công nghệ có thể được triển khai trên quy mô lớn trong một trung tâm dữ liệu. Chúng tôi đã nhận ra từ rất sớm rằng chìa khóa thành công là đưa vào các kỹ sư có kinh nghiệm trong việc phát triển sản phẩm với số lượng lớn và trong các trung tâm dữ liệu. Một lĩnh vực khác là phần mềm — điều quan trọng là các khung và mô hình trí tuệ nhân tạo tiêu chuẩn có thể được hưởng lợi từ bộ xử lý của Lumai, và chúng tôi cung cấp các công cụ và khung để làm cho điều này trở nên dễ dàng nhất có thể cho các kỹ sư phần mềm trí tuệ nhân tạo.

Công nghệ của Lumai được cho là sử dụng phép nhân ma trận-vec-tơ quang 3D. Bạn có thể giải thích nó một cách đơn giản cho khán giả chung không?

Hệ thống trí tuệ nhân tạo cần thực hiện nhiều phép tính toán học gọi là phép nhân ma trận-vec-tơ. Những phép tính này là động cơ thúc đẩy phản hồi trí tuệ nhân tạo. Tại Lumai, chúng tôi thực hiện điều này bằng cách sử dụng ánh sáng thay vì điện. Dưới đây là cách nó hoạt động:

1. Chúng tôi mã hóa thông tin vào các chùm ánh sáng
2. Các chùm ánh sáng này di chuyển qua không gian 3 chiều
3. Ánh sáng tương tác với các thấu kính và vật liệu đặc biệt
4. Các tương tác này hoàn thành phép toán học

Bằng cách sử dụng cả ba chiều của không gian, chúng tôi có thể xử lý nhiều thông tin hơn với mỗi chùm ánh sáng. Điều này làm cho cách tiếp cận của chúng tôi rất hiệu quả — giảm năng lượng, thời gian và chi phí cần thiết để chạy hệ thống trí tuệ nhân tạo.

Những lợi thế chính của tính toán quang so với các giải pháp GPU dựa trên silicon truyền thống và thậm chí là photon tích hợp là gì?

Bởi vì tốc độ tiến bộ trong công nghệ silicon đã giảm đáng kể, mỗi bước tăng hiệu suất của một bộ tăng tốc trí tuệ nhân tạo dựa trên silicon (như một GPU) dẫn đến tăng đáng kể công suất. Các giải pháp dựa trên silicon chỉ tiêu thụ một lượng năng lượng khổng lồ và đang theo đuổi những lợi ích giảm dần, điều này làm cho chúng trở nên vô cùng phức tạp và tốn kém. Lợi thế của việc sử dụng quang học là một khi trong lĩnh vực quang, hầu như không có năng lượng nào được tiêu thụ. Năng lượng được sử dụng để vào lĩnh vực quang, nhưng ví dụ, trong bộ xử lý của Lumai, chúng tôi có thể đạt được hơn 1.000 phép toán cho mỗi chùm ánh sáng, mỗi chu kỳ, điều này làm cho nó rất hiệu quả. Khả năng mở rộng này không thể đạt được bằng cách sử dụng photon tích hợp do các hạn chế về kích thước vật lý và nhiễu tín hiệu, với số lượng phép toán của giải pháp silicon-photon chỉ đạt 1/8 so với những gì Lumai có thể đạt được ngày nay.

Làm thế nào bộ xử lý của Lumai đạt được độ trễ gần như bằng không trong suy luận, và tại sao điều này lại là một yếu tố quan trọng cho các tải công việc trí tuệ nhân tạo hiện đại?

Mặc dù chúng tôi không tuyên bố rằng bộ xử lý của Lumai cung cấp độ trễ bằng không, nhưng nó thực hiện một phép toán ma trận-vec-tơ rất lớn (1024 x 1024) trong một chu kỳ. Các giải pháp dựa trên silicon chỉ chia một ma trận thành các ma trận nhỏ hơn, được xử lý từng bước và sau đó kết hợp kết quả. Điều này mất thời gian và dẫn đến sử dụng nhiều bộ nhớ và năng lượng hơn. Giảm thời gian, năng lượng và chi phí của quá trình xử lý trí tuệ nhân tạo là rất quan trọng để cho phép nhiều doanh nghiệp hơn được hưởng lợi từ trí tuệ nhân tạo và để cho phép trí tuệ nhân tạo tiên tiến nhất có thể trong một cách bền vững.

Bạn có thể giải thích cách bộ xử lý của Lumai tích hợp với cơ sở hạ tầng trung tâm dữ liệu hiện có thông qua yếu tố hình thức tương thích PCIe không?

Bộ xử lý của Lumai sử dụng thẻ hình thức PCIe cùng với một CPU tiêu chuẩn, tất cả trong một kệ 4U tiêu chuẩn. Chúng tôi đang làm việc với một loạt các nhà cung cấp thiết bị giá đỡ trung tâm dữ liệu để bộ xử lý của Lumai tích hợp với thiết bị của họ. Chúng tôi sử dụng các giao diện mạng tiêu chuẩn, phần mềm tiêu chuẩn, v.v. để bộ xử lý của Lumai sẽ trông giống như bất kỳ bộ xử lý trung tâm dữ liệu nào khác.
Sử dụng năng lượng trung tâm dữ liệu là một vấn đề toàn cầu ngày càng tăng. Lumai tự định vị mình như một giải pháp bền vững cho tính toán trí tuệ nhân tạo như thế nào?

Tiêu thụ năng lượng của trung tâm dữ liệu đang tăng với tốc độ báo động. Theo một báo cáo từ Phòng thí nghiệm Quốc gia Lawrence Berkeley, sử dụng năng lượng trung tâm dữ liệu tại Hoa Kỳ dự kiến sẽ tăng gấp ba lần vào năm 2028, tiêu thụ tới 12% năng lượng của đất nước. Một số nhà điều hành trung tâm dữ liệu đang xem xét việc lắp đặt năng lượng hạt nhân để cung cấp năng lượng cần thiết. Ngành công nghiệp cần xem xét các phương pháp tiếp cận khác nhau đối với trí tuệ nhân tạo, và chúng tôi tin rằng quang học là câu trả lời cho cuộc khủng hoảng năng lượng này.

Bạn có thể giải thích cách kiến trúc của Lumai tránh được các nút thắt khả năng mở rộng của các phương pháp silicon và photon hiện tại không?

Hiệu suất của bộ xử lý Lumai đầu tiên chỉ là bắt đầu của những gì có thể đạt được. Chúng tôi dự kiến rằng giải pháp của chúng tôi sẽ tiếp tục cung cấp những bước nhảy vĩ đại về hiệu suất: bằng cách tăng tốc độ xung quang và chiều rộng vec-tơ, tất cả đều không có sự tăng tương ứng về năng lượng tiêu thụ. Không có giải pháp nào khác có thể đạt được điều này. Các phương pháp silicon số truyền thống sẽ tiếp tục tiêu thụ nhiều năng lượng và chi phí hơn cho mỗi lần tăng hiệu suất. Photon tích hợp không thể đạt được chiều rộng vec-tơ cần thiết và do đó, các công ty đang xem xét photon tích hợp cho tính toán trung tâm dữ liệu đã chuyển sang giải quyết các phần khác của trung tâm dữ liệu — ví dụ, kết nối quang, chuyển mạch quang.

Vai trò của bạn nhìn thấy tính toán quang học chơi trong tương lai của trí tuệ nhân tạo — và rộng hơn, trong tính toán như một toàn thể?

Quang học như một toàn thể sẽ đóng một vai trò lớn trong các trung tâm dữ liệu trong tương lai — từ kết nối quang, mạng quang, chuyển mạch quang và当然 tính toán trí tuệ nhân tạo quang. Các yêu cầu mà trí tuệ nhân tạo đang đặt ra cho trung tâm dữ liệu là động lực chính cho sự chuyển đổi này sang quang học. Kết nối quang sẽ cho phép kết nối nhanh hơn giữa các bộ xử lý trí tuệ nhân tạo, điều này là cần thiết cho các mô hình trí tuệ nhân tạo lớn. Chuyển mạch quang sẽ cho phép mạng hiệu quả hơn, và tính toán quang sẽ cho phép xử lý trí tuệ nhân tạo nhanh hơn, tiết kiệm năng lượng và chi phí thấp hơn. Collectively họ sẽ giúp cho phép trí tuệ nhân tạo tiên tiến hơn, vượt qua các thách thức của sự chậm lại trong việc mở rộng silicon về phía tính toán và hạn chế tốc độ của đồng trên phía kết nối.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Lumai.