Lãnh đạo tư tưởng

Thuần hóa con quái vật: Làm thế nào các bộ điều chỉnh điện áp tích hợp đang giải quyết khủng hoảng năng lượng của Trí tuệ nhân tạo

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Trí tuệ nhân tạo đang đói. Từ việc đào tạo các mô hình ngôn ngữ lớn đến cung cấp suy luận thời gian thực trên đám mây, nhu cầu tính toán của Trí tuệ nhân tạo đang tăng vọt. Sự thèm ăn không thể thỏa mãn này đã tạo ra một cuộc khủng hoảng thứ cấp đe dọa đến sự tiến bộ: một sự thèm ăn không thể bền vững về năng lượng điện. Các trung tâm dữ liệu, những ngôi thánh đường tính toán hiện đại, đang trên đà tiêu thụ một phần đáng kể điện năng của thế giới, với các tải trọng Trí tuệ nhân tạo là động lực chính. Theo Cơ quan Năng lượng Quốc tế (IEA), các trung tâm dữ liệu đã tiêu thụ khoảng 2% điện năng toàn cầu vào năm 2022, và con số này dự kiến sẽ tăng mạnh.

Vấn đề năng lượng này không chỉ liên quan đến hóa đơn điện nước khổng lồ và tác động môi trường; nó là một nút thắt kỹ thuật cơ bản. Các bộ xử lý chính xác mà cung cấp năng lượng cho Trí tuệ nhân tạo – GPU, TPU và ASIC tùy chỉnh – đang gặp phải một bức tường nhiệt. Bạn không thể tiếp tục nhồi nhét thêm nhiều transistor vào một con chip nếu bạn không thể cung cấp năng lượng một cách sạch sẽ và hiệu quả mà không làm cho con chip quá nóng. Thách thức nằm không chỉ trong việc tạo ra năng lượng, mà còn trong việc cung cấp nó một cách hiệu quả trong những milimét cuối cùng trước khi nó đến với silicon. Nhưng bây giờ, một mảnh công nghệ nhỏ gọi là Bộ điều chỉnh điện áp tích hợp (IVR) đang thay đổi cơ bản tương lai của tính toán hiệu suất cao.

Vấn đề “Inch cuối cùng” trong Cung cấp Năng lượng

Để hiểu được sự đổi mới của IVR, trước tiên bạn phải hiểu phương pháp truyền thống để cung cấp năng lượng cho một con chip hiệu suất cao. Một bộ xử lý hiện đại có hàng tỷ transistor bật và tắt hàng tỷ lần mỗi giây. Các hoạt động này đòi hỏi một nguồn điện áp một chiều chính xác, ổn định và thấp. Tuy nhiên, năng lượng từ tường là điện áp cao xoay chiều. Hành trình từ ổ cắm tường đến silicon liên quan đến một chuỗi phức tạp của việc chuyển đổi và điều chỉnh được gọi là Mạng lưới Cung cấp Năng lượng (PDN).

Typically, quá trình này bao gồm nhiều giai đoạn. Năng lượng được chuyển đổi và giảm xuống trên bo mạch chủ, và giai đoạn chuyển đổi cuối cùng và quan trọng nhất được xử lý bởi một thành phần gọi là Bộ điều chỉnh điện áp (VR). Những VR này thường là các thành phần rời rạc cồng kềnh – một tập hợp các bộ điều khiển, giai đoạn năng lượng và cuộn cảm dây quấn lớn – nằm trên bo mạch chủ xung quanh ổ cắm bộ xử lý.

Phương pháp truyền thống này có một số khiếm khuyết quan trọng trong thời đại Trí tuệ nhân tạo:

  1. Năng lượng bị浪 phí: Năng lượng phải di chuyển từ những VR ngoài chip này qua bo mạch chủ và qua bao bì của con chip. Mỗi milimét của con đường này đều giới thiệu sự kháng cự, dẫn đến mất năng lượng đáng kể (mất I2R). Năng lượng bị mất này được散 nhiệt, điều mà sau đó phải được loại bỏ bởi các hệ thống làm mát tiêu thụ nhiều năng lượng hơn.
  2. Thời gian phản hồi chậm: Khi một bộ xử lý đột ngột chuyển từ trạng thái nghỉ sang trạng thái tải đầy (một kịch bản phổ biến trong các tải trọng Trí tuệ nhân tạo gọi là tải trọng chuyển tiếp), nó đòi hỏi một lượng lớn dòng điện tức thời. Các VR ngoài chip có thể quá chậm để phản hồi, gây ra sự sụt giảm điện áp tạm thời, hoặc “sụt giảm”. Để bù đắp, các kỹ sư phải thiết kế toàn bộ hệ thống để chạy ở điện áp cơ bản cao hơn, lãng phí nhiều năng lượng hơn.
  3. Giới hạn không gian: Những thành phần cồng kềnh này tiêu thụ không gian quý giá trên bo mạch chủ, không gian có thể được sử dụng cho nhiều kênh bộ nhớ, kết nối nhanh hơn hoặc các tính năng tăng hiệu suất khác. “Bãi biển” xung quanh bộ xử lý là một trong những phần quý giá nhất trong điện tử.

Năng lượng trên Chip và Từ tính màng mỏng

Những tiến bộ gần đây trong công nghệ từ tính màng mỏng cho phép các cuộn cảm hiệu suất cao được sản xuất trực tiếp lên một con chip hoặc đế substrate của nó bằng cách sử dụng các kỹ thuật sản xuất bán dẫn. Những cuộn cảm vi mô, hiệu suất cao này cho phép toàn bộ bộ điều chỉnh điện áp nằm chỉ vài micromet cách các mạch nó cung cấp năng lượng.

Sự thay đổi vị trí này mang lại một số lợi thế:

  • Giảm mất năng lượng: Việc rút ngắn đường dẫn cung cấp năng lượng từ inch đến micromet làm giảm đáng kể năng lượng bị mất trong quá trình truyền, cải thiện hiệu suất tổng thể của hệ thống.
  • Quản lý năng lượng hạt nhân: Nhiều miền năng lượng độc lập, siêu thấp điện áp có thể cung cấp chính xác những gì mỗi lõi hoặc khối chức năng cần, khi nào cần, và tắt ngay lập tức khi không cần.
  • Phản hồi gần như tức thời: Các IVR trên gói phản hồi với các tải trọng chuyển tiếp trong vài nanogian, gần như loại bỏ sụt giảm điện áp và cho phép điện áp hoạt động thấp hơn, hiệu quả hơn mà không ảnh hưởng đến hiệu suất.
  • Thiết kế đơn giản hóa và diện tích nhỏ hơn: Loại bỏ các bộ điều chỉnh điện áp khỏi bo mạch chủ giải phóng không gian bo mạch, đơn giản hóa thiết kế và hỗ trợ kiến trúc dày đặc, hiệu suất cao hơn.

Tái kiến trúc Tương lai của Phần cứng Trí tuệ nhân tạo

Lợi ích của IVR giải quyết trực tiếp những thách thức lớn nhất mà các nhà thiết kế phần cứng Trí tuệ nhân tạo đang phải đối mặt. Đối với các công ty đang phát triển thế hệ tiếp theo của GPU và gia tốc Trí tuệ nhân tạo, quản lý năng lượng tích hợp không chỉ là một “tính năng tốt”; đó là một công nghệ cho phép.
Các kỹ thuật đóng gói bán dẫn tiên tiến như chipletđóng gói 3D được coi là con đường phía trước bây giờ khi việc thu nhỏ truyền thống của Luật Moore đang chậm lại. Những kỹ thuật này liên quan đến việc lắp ráp nhiều dice nhỏ, chuyên dụng vào một gói mạnh mẽ. Như được giải thích bởi các nhà lãnh đạo trong ngành như TSMC với công nghệ CoWoS của họ, cách tiếp cận này đòi hỏi một chiến lược cung cấp năng lượng tinh vi. IVR, bao gồm cả những IVR do Ferric sản xuất, hoàn hảo cho mô hình này, cung cấp năng lượng hạt nhân, hiệu quả cần thiết để quản lý những hệ thống phức tạp, dị hướng này.

Thách thức và Kết luận

Con đường đến việc áp dụng rộng rãi không thiếu chướng ngại vật. Việc tích hợp các vật liệu và quy trình mới vào hệ sinh thái sản xuất bán dẫn bảo thủ và phức tạp là một nhiệm vụ khổng lồ.

Tuy nhiên, nhu cầu về một giải pháp là không thể phủ nhận. Đường lối tiêu thụ năng lượng hiện tại của Trí tuệ nhân tạo là không bền vững. Chỉ làm cho các transistor nhỏ hơn không còn đủ; một sự tái kiến trúc toàn diện của toàn bộ hệ thống, từ phần mềm đến cung cấp năng lượng, là cần thiết. Công việc của các công ty như Ferric đại diện cho một phần quan trọng của câu đố đó. Bằng cách thuần hóa con quái vật năng lượng tại nguồn, họ không chỉ tạo ra một thành phần hiệu quả hơn mà còn đang mở đường cho thế hệ tiếp theo của Trí tuệ nhân tạo và tính toán hiệu suất cao.

Hành trình của sự đổi mới phần cứng là vượt qua các nút thắt. Trong nhiều thập kỷ, sự tập trung vào tốc độ tính toán và mật độ transistor. Ngày nay, nút thắt quan trọng nhất là năng lượng. Những công ty giải quyết được thách thức này sẽ định hình cảnh quan của công nghệ trong nhiều năm tới.

Bạn nghĩ nút thắt lớn tiếp theo trong thiết kế phần cứng Trí tuệ nhân tạo sau khi cung cấp năng lượng được tối ưu hóa sẽ là gì? Làm thế nào những tiến bộ trong hiệu suất năng lượng sẽ thay đổi kinh tế của việc triển khai Trí tuệ nhân tạo quy mô lớn?

Noah Sturcken là Người sáng lập và Giám đốc điều hành của Ferric với hơn 40 bằng sáng chế được cấp và 15 bài báo về Bộ điều chỉnh điện áp tích hợp. Noah lãnh đạo Ferric với trọng tâm phát triển kinh doanh, tiếp thị và phát triển công nghệ mới. Noah trước đây đã làm việc tại Phòng thí nghiệm R&D của AMD, nơi ông đã phát triển công nghệ Bộ điều chỉnh điện áp tích hợp (IVR). Noah holds a Ph.D. và M.S. trong lĩnh vực Kỹ thuật Điện từ Đại học Columbia và B.S. từ Đại học Cornell summa cum laude.