Andy Nightingale, Phó Chủ tịch Tiếp thị Sản phẩm tại Arteris – Loạt Phỏng vấn

Andy Nightingale, Phó Chủ tịch Tiếp thị Sản phẩm tại Arteris là một nhà lãnh đạo kinh doanh toàn cầu có kinh nghiệm đa dạng trong lĩnh vực kỹ thuật và tiếp thị sản phẩm. Ông là thành viên được chứng nhận của Hiệp hội Máy tính Anh và Viện Tiếp thị Charters, và có hơn 35 năm kinh nghiệm trong ngành công nghệ cao.

Trong suốt sự nghiệp của mình, Andy đã từng giữ nhiều vị trí khác nhau, bao gồm các vị trí kỹ thuật và quản lý sản phẩm tại Arm, nơi ông đã dành 23 năm. Trong vai trò hiện tại của mình là Phó Chủ tịch Tiếp thị Sản phẩm tại Arteris, Andy giám sát các công cụ triển khai hệ thống trên chip Magillem và các sản phẩm mạng trên chip FlexNoC và Ncore.

Arteris là một chất xúc tác cho sự đổi mới hệ thống trên chip (SoC) với tư cách là nhà cung cấp hàng đầu các giải pháp IP bán dẫn cho việc tăng tốc phát triển SoC. Công nghệ IP mạng trên chip (NoC) và tích hợp SoC của Arteris cho phép hiệu suất sản phẩm cao hơn với tiêu thụ điện năng thấp hơn và thời gian đưa ra thị trường nhanh hơn, mang lại sự linh hoạt và kinh tế đã được chứng minh cho các công ty hệ thống và bán dẫn, giúp các thương hiệu sáng tạo có thể tự do mơ ước những gì tiếp theo.

Với kinh nghiệm rộng lớn của bạn tại Arm và hiện đang lãnh đạo quản lý sản phẩm tại Arteris, quan điểm của bạn về sự tiến hóa của IP bán dẫn và công nghệ kết nối như thế nào đã thay đổi trong những năm qua? Những xu hướng nào khiến bạn hào hứng nhất hiện nay?

Đó đã là một hành trình phi thường – từ những ngày đầu tiên tôi viết các thử nghiệm cho ASIC tại Arm đến việc giúp định hình chiến lược sản phẩm tại Arteris, nơi chúng tôi đang ở tiền phong của sự đổi mới IP kết nối. Vào năm 1999, sự phức tạp của hệ thống tăng tốc nhanh chóng, nhưng trọng tâm vẫn chủ yếu tập trung vào hiệu suất của bộ xử lý và tích hợp SoC cơ bản. Các phương pháp xác minh đang phát triển, nhưng kết nối thường được coi là một cơ sở hạ tầng cố định – cần thiết nhưng không chiến lược.

Chuyển sang hiện tại và IP kết nối đã trở thành một yếu tố quan trọng cho khả năng mở rộng của SoC, hiệu quả năng lượng và hiệu suất AI/ML. Sự xuất hiện của chiplet, gia tốc miền cụ thể và kiến trúc đa chip đã tạo ra áp lực lớn lên các công nghệ kết nối để trở nên thích ứng, đổi mới, vật lý và nhận thức về phần mềm.

Một trong những xu hướng thú vị nhất tôi thấy là sự hội tụ của AI và thiết kế kết nối. Tại Arteris, chúng tôi đang khám phá cách học máy có thể tối ưu hóa các cấu trúc kết nối, định tuyến thông minh lưu lượng dữ liệu và thậm chí dự đoán tắc nghẽn để cải thiện hiệu suất thời gian thực. Điều này không chỉ là về tốc độ – nó là về việc tạo ra các hệ thống sáng tạo và phản ứng hơn.

Điều khiến tôi hào hứng là cách IP bán dẫn đang trở nên dễ tiếp cận hơn với các nhà đổi mới AI. Với các lớp cấu hình SoC cấp cao và các lớp trừu tượng, các công ty khởi nghiệp trong lĩnh vực ô tô, robot và AI cạnh có thể tận dụng các kiến trúc kết nối tiên tiến mà không cần phải có nền tảng sâu về thiết kế RTL. Sự dân chủ hóa khả năng này là rất lớn.

Một sự thay đổi quan trọng khác là vai trò của nguyên mẫu ảo và mô hình hóa cấp hệ thống. Sau khi làm việc trên các công cụ ESL sớm trong sự nghiệp của mình, thật thú vị khi thấy những phương pháp này hiện đang cho phép đánh giá sớm về tải trọng AI, dự đoán hiệu suất và các lựa chọn kiến trúc lâu trước khi silicon được tạo ra.

Cuối cùng, tương lai của AI phụ thuộc vào việc chúng ta di chuyển dữ liệu hiệu quả như thế nào – không chỉ là làm thế nào chúng ta xử lý nó. Đó là lý do tại sao tôi tin rằng sự tiến hóa của IP kết nối là trung tâm của thế hệ hệ thống thông minh tiếp theo.

Arteris’ FlexGen tận dụng tự động hóa và học máy để tự động hóa việc tạo cấu trúc kết nối. Bạn nhìn thấy vai trò của AI trong thiết kế chip sẽ tiến hóa như thế nào trong vòng 5 năm tới?

AI đang thay đổi cơ bản thiết kế chip, và trong vòng 5 năm tới, vai trò của nó sẽ chỉ sâu sắc hơn – từ công cụ hỗ trợ năng suất đến đối tác thiết kế thông minh. Tại Arteris, chúng tôi đã sống trong tương lai đó với FlexGen, nơi AI, phương pháp chính thức và học máy là trung tâm của việc tự động hóa tối ưu hóa cấu trúc kết nối và tích hợp SoC.

Điều khiến FlexGen khác biệt là sự kết hợp của các thuật toán ML – tất cả đều kết hợp để khởi tạo các sơ đồ mặt bằng từ hình ảnh, tạo cấu trúc, cấu hình đồng hồ, giảm giao cắt miền đồng hồ và tối ưu hóa cấu trúc kết nối và vị trí của nó cũng như băng thông định tuyến, giúp đơn giản hóa giao tiếp giữa các khối IP. Hơn nữa, tất cả đều được thực hiện một cách quyết định, có nghĩa là kết quả có thể được nhân bản và điều chỉnh dần, cho phép đạt được kết quả tốt nhất trong lớp cho các trường hợp sử dụng từ hỗ trợ AI cho một nhà thiết kế SoC chuyên gia đến tạo ra kết nối phù hợp cho một người mới bắt đầu.

Trong vòng 5 năm tới, vai trò của AI trong thiết kế chip sẽ chuyển từ hỗ trợ các nhà thiết kế con người sang đồng thiết kế và đồng tối ưu hóa với họ – học hỏi từ mỗi lần lặp lại, điều hướng sự phức tạp của thiết kế trong thời gian thực và cuối cùng là tăng tốc việc giao hàng của các chip sẵn sàng cho AI. Chúng tôi nhìn thấy AI không chỉ làm cho các chip nhanh hơn mà còn làm cho các chip nhanh hơn trở nên thông minh hơn.

Ngành công nghiệp bán dẫn đang chứng kiến sự đổi mới nhanh chóng với AI, HPC và kiến trúc đa chip. Những thách thức lớn nhất mà thiết kế kết nối cần giải quyết để theo kịp những tiến bộ này là gì?

Khi AI, HPC và kiến trúc đa chip thúc đẩy sự phức tạp chưa từng có, thách thức lớn nhất cho thiết kế kết nối là khả năng mở rộng mà không hy sinh hiệu suất, tiêu thụ điện năng hoặc thời gian đưa ra thị trường. Hiện tại, các chip có từ vài chục đến hàng trăm khối IP, mỗi khối có các yêu cầu băng thông, độ trễ và tiêu thụ điện năng khác nhau. Quản lý sự đa dạng này – trên nhiều chip, miền điện áp, miền đồng hồ – đòi hỏi các giải pháp kết nối vượt xa các phương pháp thủ công.

Công nghệ giải pháp kết nối như FlexGen giúp giải quyết các nút thắt chính: tối thiểu hóa chiều dài dây, tối đa hóa băng thông, phù hợp với các ràng buộc vật lý và thực hiện tất cả với tốc độ và tính lặp lại.

Tương lai của kết nối phải là tự động hóa trước và được kích hoạt bởi AI, với các công cụ có thể thích ứng với các sơ đồ mặt bằng thay đổi, kiến trúc dựa trên chip và các thay đổi muộn mà không cần phải làm lại hoàn toàn. Đây là cách duy nhất để theo kịp với các chu kỳ thiết kế khổng lồ và nhu cầu đa dạng của các SoC hiện đại và đảm bảo kết nối hiệu quả, có thể mở rộng ở trung tâm của các bán dẫn thế hệ tiếp theo.

Thị trường chipset AI được dự đoán sẽ tăng trưởng đáng kể. Arteris tự định vị mình như thế nào để hỗ trợ nhu cầu ngày càng tăng của các tải trọng AI, và FlexGen mang lại lợi thế độc nhất nào trong không gian này?

Arteris không chỉ tự định vị mình để hỗ trợ thị trường chiplet AI mà còn đã làm điều này trong nhiều năm bằng cách cung cấp các giải pháp IP kết nối SoC tự động hóa và có thể mở rộng, được thiết kế đặc biệt cho nhu cầu của các tải trọng AI, bao gồm AI sinh và Mô hình Ngôn ngữ Lớn (LLM) – hỗ trợ băng thông cao, độ trễ thấp và hiệu quả điện năng trên các kiến trúc phức tạp ngày càng tăng. FlexGen, với tư cách là thành viên mới nhất trong dòng sản phẩm IP kết nối của Arteris, sẽ đóng vai trò quan trọng hơn trong việc nhanh chóng tạo ra các cấu trúc tối ưu nhất cho các SoC lớn, dị hướng.

FlexGen mang lại thiết kế tăng dần, chế độ hoàn thành một phần và tìm đường tiên tiến để tối ưu hóa cấu hình kết nối mà không cần thiết kế lại hoàn toàn – điều quan trọng cho các chip AI đang phát triển trong suốt quá trình phát triển.

Khách hàng của chúng tôi đã xây dựng công nghệ Arteris vào các hệ thống đa chip và dựa trên chiplet, hiệu quả định tuyến lưu lượng trong khi vẫn tôn trọng các ràng buộc về sơ đồ mặt bằng và miền đồng hồ trên mỗi chiplet. Kết nối đa chip không nhất quán được hỗ trợ trên các giao diện tiêu chuẩn do các bộ điều khiển của bên thứ ba cung cấp.

Khi sự phức tạp của chip AI tăng lên, nhu cầu về tự động hóa, thích ứng và tốc độ cũng tăng theo. FlexGen cung cấp cả ba, giúp các đội xây dựng các kết nối thông minh hơn – nhanh hơn – để họ có thể tập trung vào việc quan trọng: nâng cao hiệu suất AI ở quy mô.

Với sự xuất hiện của RISC-V và silicon tùy chỉnh cho AI, cách tiếp cận của Arteris đối với thiết kế kết nối khác với kiến trúc kết nối truyền thống như thế nào?

Các kiến trúc kết nối truyền thống chủ yếu được xây dựng cho các thiết kế chức năng cố định, nhưng silicon AI và RISC-V hiện đại đòi hỏi một cách tiếp cận có thể cấu hình, có thể mở rộng và tự động hóa hơn – một giải pháp không phải là một kích cỡ phù hợp với tất cả. Đó là nơi Arteris nổi bật. IP kết nối của chúng tôi, đặc biệt là với FlexGen, được thiết kế để thích ứng với sự đa dạng và tính mô-đun của các SoC hiện đại, bao gồm cả lõi tùy chỉnh, gia tốc và chiplet, như đã đề cập ở trên.

FlexGen cho phép các nhà thiết kế tạo ra và tối ưu hóa các cấu trúc phản ánh các đặc điểm tải trọng duy nhất, cho dù đó là các đường dẫn độ trễ thấp cho suy luận AI hay các đường dẫn băng thông cao cho bộ nhớ chia sẻ trên các cụm RISC-V. Không giống như các kết nối tĩnh, các thuật toán của FlexGen tùy chỉnh mỗi kết nối cho kiến trúc của chip trên các miền đồng hồ, hòn đảo điện áp và các ràng buộc về sơ đồ mặt bằng.

Kết quả là Arteris cho phép các đội xây dựng silicon tùy chỉnh di chuyển nhanh hơn, giảm rủi ro và tận dụng tối đa các thiết kế khác biệt cao của họ – điều mà các kết nối truyền thống không được thiết kế để xử lý.

FlexGen tuyên bố cải thiện 10 lần tốc độ lặp lại thiết kế. Bạn có thể giải thích cách tự động hóa này giảm sự phức tạp và tăng tốc thời gian đưa ra thị trường cho các nhà thiết kế SoC không?

FlexGen mang lại sự cải thiện 10 lần tốc độ lặp lại thiết kế bằng cách tự động hóa một số nhiệm vụ phức tạp và tốn thời gian nhất trong thiết kế kết nối. Thay vì cấu hình thủ công các cấu trúc, giải quyết các miền đồng hồ hoặc tối ưu hóa các tuyến đường, các nhà thiết kế sử dụng động cơ FlexGen được nhận thức về vật lý và AI để xử lý những việc này trong vài giờ (hoặc ít hơn) – những việc mà truyền thống mất vài tuần.

Como đã đề cập ở trên, chế độ hoàn thành một phần có thể tự động hoàn thành thậm chí các thiết kế chưa hoàn thành, bảo tồn ý định thủ công trong khi tăng tốc độ đóng thời gian.

Kết quả là một dòng chảy thiết kế nhanh hơn, chính xác hơn và dễ lặp lại hơn, cho phép các đội SoC khám phá nhiều lựa chọn kiến trúc hơn, phản ứng với các thay đổi muộn và đưa ra thị trường nhanh hơn – với kết quả chất lượng cao hơn và giảm thiểu rủi ro làm lại tốn kém.

Một trong những tính năng nổi bật của FlexGen là giảm chiều dài dây, giúp cải thiện hiệu quả điện năng. Điều này ảnh hưởng đến hiệu suất tổng thể của chip như thế nào, đặc biệt là trong các ứng dụng nhạy cảm về điện năng như AI cạnh và tính toán di động?

Chiều dài dây trực tiếp ảnh hưởng đến tiêu thụ điện năng, độ trễ và hiệu quả tổng thể của chip – cả trong các ứng dụng AI / HPC trên đám mây và trong các ứng dụng suy luận AI cạnh nơi mỗi milli-watt đều quan trọng. Khả năng của FlexGen trong việc tự động giảm thiểu chiều dài dây – thường lên đến 30% – có nghĩa là các đường dẫn dữ liệu ngắn hơn, giảm điện dung và giảm tiêu thụ điện năng động.

Trong các điều khoản thực tế, điều này dịch sang thành nhiệt độ thấp hơn, tuổi thọ pin dài hơn và hiệu suất trên mỗi watt tốt hơn, tất cả đều quan trọng đối với các tải trọng AI ở cạnh hoặc trong môi trường di động và trên đám mây bằng cách ảnh hưởng trực tiếp đến chi phí sở hữu tổng thể (TCO). Bằng cách tối ưu hóa cấu trúc kết nối với vị trí và định tuyến được hướng dẫn bởi AI, FlexGen đảm bảo rằng các mục tiêu hiệu suất được đáp ứng mà không hy sinh hiệu quả điện năng – làm cho nó trở thành một lựa chọn lý tưởng cho các thiết kế tiết kiệm năng lượng ngày nay và trong tương lai.

Arteris đã hợp tác với các công ty bán dẫn hàng đầu trong các lĩnh vực trung tâm dữ liệu AI, ô tô, tiêu dùng, truyền thông và điện tử công nghiệp. Bạn có thể chia sẻ thông tin về việc FlexGen được áp dụng như thế nào trên các ngành công nghiệp này không?

IP kết nối Arteris thấy sự áp dụng mạnh mẽ trên tất cả các thị trường, đặc biệt là cho các chiplet và SoC cao cấp hơn. Đó là vì nó giải quyết các thách thức hàng đầu của mỗi lĩnh vực: hiệu suất, hiệu quả điện năng và sự phức tạp của thiết kế trong khi vẫn giữ nguyên chức năng cốt lõi và các ràng buộc về diện tích.

Trong lĩnh vực ô tô, ví dụ, các công ty như Dream Chip sử dụng FlexGen để tăng tốc giao điểm của AI và An toàn cho lái xe tự động bằng cách tận dụng Arteris cho thiết kế SoC ADAS của họ trong khi đáp ứng các ràng buộc nghiêm ngặt về điện năng và an toàn. Tối ưu hóa kết nối thông minh và tạo ra của FlexGen trong các trung tâm dữ liệu giúp quản lý nhu cầu băng thông lớn và khả năng mở rộng, đặc biệt là cho các tải trọng huấn luyện AI và tăng tốc.

FlexGen cung cấp một con đường nhanh và có thể lặp lại đến các kiến trúc kết nối được tối ưu hóa cho các thiết bị điện tử công nghiệp, nơi các chu kỳ thiết kế chặt chẽ và tuổi thọ sản phẩm là chìa khóa. Khách hàng đánh giá cao dòng chảy thiết kế tăng dần, tối ưu hóa dựa trên AI và khả năng thích ứng nhanh với các yêu cầu thay đổi, khiến FlexGen trở thành một phần quan trọng trong sự phát triển SoC thế hệ tiếp theo.

Chuỗi cung ứng bán dẫn đã phải đối mặt với nhiều gián đoạn đáng kể trong những năm gần đây. Arteris đang thích ứng chiến lược của mình như thế nào để đảm bảo các giải pháp kết nối SoC vẫn dễ tiếp cận và có thể mở rộng bất chấp những thách thức này?

Arteris phản ứng với các gián đoạn trong chuỗi cung ứng bằng cách tăng gấp đôi những gì làm cho các giải pháp kết nối của chúng tôi trở nên mạnh mẽ và có thể mở rộng: tự động hóa, linh hoạt và khả năng tương thích với hệ sinh thái.

FlexGen giúp khách hàng thiết kế nhanh hơn và vẫn linh hoạt để điều chỉnh sự sẵn có của silicon thay đổi, chuyển đổi nút hoặc chiến lược đóng gói. Bất kể họ đang thực hiện các thiết kế phái sinh hay tạo ra các kết nối mới từ đầu.

Chúng tôi cũng hỗ trợ khách hàng với các nút quy trình khác nhau, nhà cung cấp IP, môi trường thiết kế, đảm bảo khách hàng có thể triển khai các giải pháp Arteris bất kể họ sử dụng xưởng đúc, công cụ EDA hay kiến trúc SoC nào.

Bằng cách giảm sự phụ thuộc vào bất kỳ phần nào của chuỗi cung ứng và cho phép thiết kế nhanh hơn, lặp lại, chúng tôi đang giúp khách hàng giảm thiểu rủi ro thiết kế của họ và vẫn giữ đúng tiến độ – ngay cả trong thời gian không chắc chắn.

Nhìn về tương lai, những thay đổi lớn nhất bạn dự đoán trong phát triển SoC là gì, và Arteris đang chuẩn bị cho chúng như thế nào?

Một trong những thay đổi quan trọng nhất trong phát triển SoC là chuyển dịch sang kiến trúc dị hướng, thiết kế dựa trên chiplet và tải trọng AI tập trung. Những xu hướng này đòi hỏi các kết nối linh hoạt, có thể mở rộng và thông minh hơn – điều mà các phương pháp truyền thống không thể theo kịp.

Arteris đang chuẩn bị bằng cách đầu tư vào tự động hóa được thúc đẩy bởi AI, như được thấy trong FlexGen, và mở rộng hỗ trợ cho các hệ thống đa chip, miền đồng hồ và miền điện áp phức tạp, cũng như các thay đổi về sơ đồ mặt bằng muộn. Chúng tôi cũng tập trung vào việc cho phép thiết kế tăng dần, lặp lại nhanh hơn và tích hợp IP liền mạch – để khách hàng của chúng tôi có thể theo kịp với các chu kỳ phát triển đang thu hẹp và sự phức tạp ngày càng tăng.

Mục tiêu của chúng tôi là đảm bảo các đội SoC (và chiplet) vẫn linh hoạt, dù họ đang xây dựng cho AI cạnh, AI trên đám mây, hay bất cứ điều gì ở giữa, đồng thời cung cấp hiệu suất, điện năng và diện tích (PPA) tốt nhất – bất kể sự phức tạp của thiết kế, kiến trúc XPU và nút đúc được sử dụng.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Arteris.