Hans Hasselby-Andersen, Tổng giám đốc Lotus Microsystems – Loạt bài phỏng vấn

Hans Hasselby-Andersen là Tổng giám đốc Lotus Microsystems, có hơn 20 năm kinh nghiệm trong ngành bán dẫn với vai trò nhà sáng lập, lãnh đạo cấp cao, thành viên hội đồng quản trị và nhà đầu tư. Ông sáng lập Merus Audio và dẫn dắt công ty cho đến khi được Infineon mua lại vào năm 2018; ông cũng từng đảm nhiệm các vị trí lãnh đạo tại Texas Instruments, Infineon, Toccata Technology và Nokia. Công việc của ông tập trung vào việc đưa các công nghệ bán dẫn tiết kiệm năng lượng ra thị trường.

Lotus Microsystems là công ty bán dẫn không sở hữu nhà máy có trụ sở tại Copenhagen, chuyên phát triển bộ chuyển đổi nguồn tích hợp và các giải pháp cấp nguồn cho thiết bị điện tử tiên tiến. Công nghệ Power Interposer trên silicon của công ty kết hợp chuyển đổi nguồn với quản lý nhiệt, trong đó có nền tảng cấp nguồn theo chiều dọc vStrata dành cho AI và điện toán hiệu năng cao. Trong cuộc phỏng vấn này, Hasselby-Andersen trao đổi về tổn thất năng lượng ở cấp máy chủ, những giới hạn của kiến trúc cấp nguồn truyền thống, và lý do việc cấp nguồn, làm mát cũng như đóng gói bán dẫn ngày càng cần được thiết kế đồng bộ.

Sự nghiệp của ông trải dài từ các hệ thống không dây tại Nokia, phát triển bán dẫn tại Texas Instruments, sáng lập Merus Audio và dẫn dắt công ty đến khi được Infineon mua lại, cho đến vai trò lãnh đạo Lotus Microsystems hiện nay. Những trải nghiệm đó đã định hình cách ông nhìn nhận các thách thức về nguồn điện và nhiệt đang nổi lên trong hạ tầng AI ngày nay như thế nào?

Tôi bước chân vào ngành bán dẫn gần như hoàn toàn tình cờ. Một công ty khởi nghiệp mà tôi đang làm việc được Texas Instruments mua lại, và đó là cơ duyên giúp tôi tìm hiểu cách chip được thiết kế, sản xuất và đưa ra thị trường. Bản thân tôi không phải là nhà thiết kế chip, nhưng đã học hỏi được rất nhiều về ngành này.

Sau đó, khi sáng lập Merus Audio, động lực thúc đẩy tôi là nhận ra một khoảng trống rõ rệt trên thị trường: nhu cầu giảm tổn thất điện năng và kéo dài thời lượng pin cho loa không dây. Từ đó, tôi tập trung tìm kiếm những con người và công nghệ phù hợp để giải quyết vấn đề này.

Sau khi Infineon mua lại Merus, tôi dành một thời gian làm việc ngoài ngành bán dẫn, nhưng cuối cùng nhận ra đó mới là lĩnh vực mình muốn gắn bó. Điều thu hút tôi đến với Lotus Microsystems là đội ngũ sáng lập tập trung vào ba yếu tố cốt lõi của công nghệ cấp nguồn tiên tiến: hiệu suất năng lượng, kích thước vật lý và hiệu năng nhiệt. Đây là những thách thức luôn hiện hữu trong việc cấp nguồn, bất kể ứng dụng nào, nhưng AI đã khiến chúng trở nên đặc biệt cấp bách.

Chúng ta đang chứng kiến những bước tiến vượt bậc trong công nghệ bộ xử lý, nhưng sức mạnh tính toán đó đi kèm với những giới hạn vật lý rất thực tế. Kinh nghiệm cho tôi thấy rằng giải quyết những vấn đề ít được chú ý ấy cũng có thể tạo ra giá trị lớn không kém việc phát triển công nghệ mà mọi người đều quan tâm.

Các cuộc thảo luận về hạ tầng AI thường tập trung nhiều vào hiệu năng GPU, mạng và làm mát. Vì sao ông cho rằng bản thân việc cấp nguồn đang trở thành một trong những yếu tố hạn chế quan trọng nhất đối với khả năng tiếp tục mở rộng quy mô các hệ thống AI?

Chúng ta dành nhiều thời gian bàn về sức mạnh tính toán mà GPU có thể cung cấp, nhưng lại ít chú ý hơn đến việc làm sao đưa đủ điện đến GPU một cách hiệu quả. Các bộ tăng tốc AI hiện đại cần dòng điện hàng nghìn ampe ở điện áp rất thấp, và nhu cầu điện năng của chúng có thể thay đổi gần như tức thời tùy theo khối lượng công việc. Các hệ thống cấp nguồn truyền thống không được thiết kế để đáp ứng mức độ khắc nghiệt đó. Bạn có thể sở hữu bộ xử lý tiên tiến nhất thế giới, nhưng nếu không thể cấp nguồn ổn định đúng lúc cần thiết thì sẽ không khai thác được hết tiềm năng của nó. Vì vậy, việc cấp nguồn đang trở thành một phần quan trọng trong thách thức mở rộng quy mô AI.

Khi các nhà vận hành trung tâm dữ liệu nói về hiệu quả năng lượng, phần lớn sự chú ý thường tập trung vào hệ thống làm mát và các chỉ số ở cấp cơ sở. Thực tế, bao nhiêu điện năng bị thất thoát bên trong máy chủ trước khi đến được bộ xử lý, và vì sao vấn đề này lại ít được quan tâm hơn tương đối?

Không có một con số duy nhất áp dụng cho mọi máy chủ, nhưng mức tổn thất có thể rất đáng kể. Theo ước tính của chúng tôi, trong một số kiến trúc dòng điện cao, khoảng 7–10% điện năng có thể bị thất thoát ở các giai đoạn cuối của quá trình cấp nguồn đến bộ xử lý. Phần năng lượng đó không phục vụ bất kỳ hoạt động tính toán hữu ích nào mà chuyển thành nhiệt, sau đó cần được tản đi. Khi vận hành hàng nghìn bộ xử lý suốt ngày đêm, ngay cả những mức kém hiệu quả tương đối nhỏ cũng gây tốn kém rất lớn.

Một lý do khiến vấn đề này bị bỏ qua là cách chúng ta thường đo lường hiệu quả của trung tâm dữ liệu. Power Usage Effectiveness (PUE), hay hiệu quả sử dụng điện năng, đã trở thành tiêu chuẩn của ngành và hữu ích để đánh giá phần điện năng tiêu hao cho hoạt động của cơ sở, bao gồm làm mát và phân phối điện. Tuy nhiên, chỉ số này không cho thấy điện được chuyển đổi và cấp nguồn bên trong máy chủ hiệu quả đến mức nào.

Tôi không cho rằng hiệu quả làm mát là không quan trọng; điều đó hoàn toàn quan trọng. Nhưng có điều gì đó hơi ngược đời khi chúng ta chi những khoản tiền khổng lồ để loại bỏ nhiệt mà lại chưa quan tâm đúng mức đến nguồn gốc của một phần nhiệt lượng không cần thiết ấy. Ngay từ đầu, chúng ta nên tìm cách ngăn những tổn thất đó xảy ra.

Khi GPU và các bộ tăng tốc AI khác tiêu thụ ngày càng nhiều điện năng, những hạn chế nào đang bộc lộ trong các kiến trúc cấp nguồn truyền thống ở cấp bo mạch?

Vấn đề sẽ rõ hơn khi xem xét cách điện năng thực sự được truyền đến GPU. Trong thiết kế truyền thống, các bộ chuyển đổi nguồn được đặt bên cạnh bộ xử lý, còn điện phải đi theo chiều ngang qua bo mạch để tới đó. Quãng đường này có thể có vẻ không đáng kể, nhưng khi dòng điện lên tới hàng nghìn ampe, ngay cả một mức điện trở nhỏ cũng gây ảnh hưởng. Tổn hao điện trở tăng theo bình phương cường độ dòng điện; nghĩa là nếu cường độ dòng điện tăng gấp đôi trong cùng một mức điện trở, tổn hao đó có thể tăng gấp bốn lần.

Một thách thức khác là phải ứng phó với những thay đổi nhanh chóng về nhu cầu điện năng mà vẫn duy trì điện áp ổn định. Các kỹ sư có thể khắc phục bằng cách bổ sung tụ điện và những linh kiện khác, nhưng các giải pháp này chiếm diện tích quý giá. Đến một lúc nào đó, việc xem xét lại kiến trúc sẽ hợp lý hơn là tiếp tục bổ sung vào thiết kế hiện có.

Ngành công nghiệp cần thay đổi những gì trong cách truyền tải điện từ tủ máy chủ đến bộ xử lý nếu muốn tiếp tục tăng mật độ tính toán mà không gây ra các vấn đề nhiệt hoặc hiệu suất không bền vững?

Nhiều đổi mới đang diễn ra ở cấp độ tủ máy chủ, trong đó có xu hướng chuyển sang phân phối điện áp cao hơn. Điều này quan trọng vì điện áp cao hơn cho phép truyền tải điện với cường độ dòng điện thấp hơn, nhờ đó giảm tổn hao trên những quãng đường dài. Tuy nhiên, cuối cùng, điện vẫn cần được hạ xuống mức điện áp rất thấp mà bộ xử lý yêu cầu, và đây là khâu còn tồn tại một số thách thức khó khăn nhất.

Một trong những bước tiến hứa hẹn nhất là cấp nguồn theo chiều dọc, đưa bộ chuyển đổi nguồn xuống ngay bên dưới bộ xử lý thay vì đặt bên cạnh. Rút ngắn đường truyền điện giúp giảm tổn hao và cải thiện thời gian đáp ứng. Tuy nhiên, cách làm này cũng tạo ra thách thức riêng: các linh kiện sinh nhiệt được đặt gần nhau hơn nhiều. Để triển khai những kiến trúc này trên quy mô lớn, chúng ta cần thôi xem việc cấp nguồn, quản lý nhiệt và đóng gói là những bài toán kỹ thuật riêng biệt. Ngay từ đầu, cần thiết kế chúng đồng bộ với nhau.

Lotus Microsystems gần đây đã giới thiệu nền tảng cấp nguồn theo chiều dọc vStrata. Cấp nguồn theo chiều dọc nhằm giải quyết vấn đề gì, và cách tiếp cận này khác với các kiến trúc cấp nguồn truyền thống hiện được sử dụng trong máy chủ AI như thế nào?

Ý tưởng cơ bản của phương thức cấp nguồn theo chiều dọc tương đối đơn giản. Thay vì truyền tải dòng điện cực lớn theo chiều ngang qua bo mạch, nguồn điện được đưa đến ngay bên dưới bộ xử lý. Cách làm này rút ngắn đáng kể đường truyền điện, giảm tổn hao và giúp hệ thống phản ứng nhanh hơn khi nhu cầu điện năng thay đổi.

Tuy nhiên, có một điểm khác biệt quan trọng giữa việc đưa nguồn điện đến gần bộ xử lý hơn và thực sự giải quyết toàn bộ vấn đề. Nhiệt cũng bị tập trung trong một không gian nhỏ hơn, ngay sát các linh kiện vốn đã chịu áp lực nhiệt đáng kể. Nếu không xử lý điều này, bạn có nguy cơ tạo ra một nút thắt cổ chai mới trong khi giải quyết vấn đề ban đầu.

Đó là vấn đề chúng tôi hướng tới giải quyết bằng vStrata. Công nghệ Power Interposer Technology bằng silicon độc quyền của chúng tôi cho phép cấp nguồn theo chiều dọc, đồng thời tích hợp khả năng quản lý nhiệt vào cùng một kiến trúc. Mô-đun đầu tiên của chúng tôi, LSC0580, được thiết kế để đạt hiệu suất tại điểm tải lên đến 96%, đồng thời giảm nhiệt độ tới 25°C trong các cấu hình được tối ưu hóa. Mục tiêu không chỉ là truyền tải dòng điện lớn hơn, mà còn giúp các trung tâm dữ liệu khai thác được nhiều năng lực tính toán hữu ích hơn trên cùng một diện tích vật lý, đồng thời giảm lượng điện năng và công suất làm mát cần thiết để vận hành hệ thống.

Ngành AI thường cho rằng những cải thiện hiệu năng trong tương lai sẽ đến từ các chip tốt hơn hoặc những quy trình bán dẫn tiên tiến hơn. Liệu những cải tiến trong kiến trúc cấp nguồn rốt cuộc có thể quan trọng đối với hiệu năng AI ngang với những tiến bộ của chính các bộ xử lý hay không?

Chắc chắn là có. Hiệu năng lý thuyết của bộ xử lý chỉ có ý nghĩa nếu hệ thống xung quanh cho phép nó hoạt động ở mức đó. Nếu hệ thống cấp nguồn không đáp ứng kịp nhu cầu, hoặc nhiệt lượng quá lớn buộc hệ thống phải giảm hiệu năng, thì bạn sẽ không khai thác được hết những gì mình đã đầu tư. Điều đáng chú ý là kiến trúc cấp nguồn tốt hơn có thể giúp phần cứng hiện có duy trì hiệu năng cao hơn mà không nhất thiết phải thay đổi bộ xử lý. Tôi không xem đây là lựa chọn giữa chip tốt hơn và hạ tầng tốt hơn. Chúng ta cần cả hai, và tôi cho rằng mối quan hệ giữa chúng sẽ ngày càng quan trọng.

Các trung tâm dữ liệu AI đang gây áp lực đáng kể lên lưới điện trên khắp thế giới. Những cải tiến trong chuyển đổi và phân phối điện ở cấp máy chủ có thể giúp giảm tổng mức tiêu thụ năng lượng của hạ tầng AI quy mô lớn đến đâu?

Tiềm năng là rất lớn, dù khó có thể đưa ra một con số duy nhất vì tác động còn tùy thuộc vào kiến trúc và quy mô của cơ sở. Mức cải thiện một điểm phần trăm ở một giai đoạn chuyển đổi không đồng nghĩa với việc tổng lượng điện tiêu thụ của trung tâm dữ liệu cũng giảm tương ứng.

Nhưng hãy thử nghĩ xem điều gì sẽ xảy ra nếu nhân những cải thiện hiệu suất dù chỉ ở mức vừa phải với hàng nghìn bộ xử lý hoạt động liên tục. Điều đó có thể giúp giảm đáng kể năng lượng lãng phí, chi phí vận hành, chi phí đầu tư và lượng nhiệt mà hệ thống làm mát cần xử lý. Đây là điều đặc biệt có giá trị khi công suất lưới điện đã hạn chế địa điểm và tốc độ xây dựng các trung tâm dữ liệu mới.

Có thể nói theo cách khác rằng nguồn năng lượng xanh nhất chính là nguồn năng lượng bạn không sử dụng. Người ta đã tập trung rất nhiều vào việc bảo đảm nguồn điện để hỗ trợ mở rộng AI, điều đó hoàn toàn dễ hiểu, nhưng chúng ta cũng nên quan tâm không kém đến việc sử dụng hiệu quả hơn lượng điện hiện có.

Khi phần cứng AI chuyển sang sử dụng GPU công suất cao hơn, bộ tăng tốc tùy chỉnh và các hệ thống điện toán ngày càng có mật độ cao, theo ông, trong vài năm tới các kỹ sư điện năng sẽ phải đối mặt với những nút thắt kỹ thuật nào?

Nhu cầu về dòng điện sẽ tiếp tục tăng, và chúng ta đã bắt đầu thấy những thách thức kéo theo. Một số bộ xử lý AI cần dòng điện lên đến vài nghìn ampe, còn các thiết kế trong tương lai có thể đạt 6.000, thậm chí 8.000 ampe. Cung cấp dòng điện đó một cách hiệu quả vốn đã đủ khó, nhưng việc giữ điện áp ổn định khi khối lượng công việc thay đổi nhanh chóng lại làm vấn đề phức tạp thêm.

Ngành này cũng thường xem mật độ dòng điện là thước đo tiến bộ chủ yếu. Có thể cung cấp dòng điện lớn hơn từ một bộ chuyển đổi nguồn nhỏ hơn là điều đáng ghi nhận, nhưng nếu tạo ra cùng một lượng nhiệt trong không gian nhỏ hơn thì chưa chắc toàn bộ hệ thống đã tốt hơn. Thực tế, vấn đề nhiệt có thể còn trở nên nghiêm trọng hơn. Tôi cho rằng những kỹ sư có thể cân bằng hiệu suất, khả năng tản nhiệt, đáp ứng động và độ tin cậy sẽ là những người tạo ra bước tiến lớn nhất.

Nhìn về thế hệ hạ tầng AI tiếp theo, những thay đổi nào trong việc cung cấp điện, làm mát, đóng gói bán dẫn và kiến trúc hệ thống sẽ cần thiết để hỗ trợ một đợt gia tăng lớn tiếp theo về năng lực tính toán AI?

Tôi cho rằng việc tích hợp giữa hệ thống cấp điện và bản thân bộ xử lý sẽ chặt chẽ hơn nhiều. Cấp điện theo chiều dọc là một bước tiến quan trọng, nhưng tôi không nghĩ quá trình phát triển sẽ dừng lại ở đó. Chúng ta đã hướng đến những mô-đun nguồn mỏng hơn có thể tích hợp vào bo mạch, và sau này là các kiến trúc trong đó nhiều chức năng cấp điện hơn được tích hợp trực tiếp vào các gói xPU. Mỗi bước đều đưa nguồn điện đến gần hơn với nơi thực sự tiêu thụ điện.

Công nghệ làm mát cũng sẽ phải phát triển song hành với những thay đổi đó. Làm mát bằng chất lỏng ngày càng quan trọng đối với các hệ thống điện toán mật độ cao, nhưng cải thiện cách chúng ta tản nhiệt mới chỉ là một phần của bài toán. Chúng ta cũng cần giảm lượng nhiệt không cần thiết tạo ra và tìm cách quản lý nhiệt tốt hơn ngay gần nguồn phát sinh.

Có lẽ thay đổi lớn nhất sẽ nằm ở cách phát triển các hệ thống này. Trước đây, các bộ phận khác nhau trong hệ thống phần cứng thường được tối ưu hóa tương đối độc lập. Khi hướng đến những mức công suất như hiện nay, cách làm đó ngày càng khó thực hiện. Các nhà sản xuất chip, chuyên gia điện tử công suất, kỹ sư đóng gói và nhà thiết kế hệ thống sẽ cần phối hợp chặt chẽ hơn nhiều. Trong nhiều năm, chúng ta đã thúc đẩy giới hạn của từng bộ xử lý riêng lẻ, nhưng giai đoạn tiếp theo của hạ tầng AI sẽ tập trung vào việc bảo đảm toàn bộ hệ thống có thể hỗ trợ những gì các bộ xử lý đó có khả năng thực hiện.

Cảm ơn ông về buổi phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu về công nghệ cấp điện theo chiều dọc và quản lý nhiệt cho hạ tầng AI có thể truy cập Lotus Microsystems.