Trí tuệ nhân tạo biên công nghiệp đòi hỏi hơn sức mạnh tính toán thô

Trong nhiều thập kỷ, thiết kế phần cứng biên đã tuân theo một thứ tự phân cấp rõ ràng: tối đa hóa thông lượng, sau đó quản lý năng lượng và nhiệt độ xung quanh nó. Sức mạnh tính toán thô là trần mà mọi thứ khác được xây dựng bên dưới. Logic đó có ý nghĩa khi các thiết bị biên là cố định, môi trường được kiểm soát và xử lý tập trung có thể xử lý mọi thứ mà biên không thể.

Tuy nhiên, không một trong những điều kiện đó được áp dụng trong môi trường công nghiệp ngày nay, và thứ tự phân cấp cũ đang bị phá vỡ vì điều đó. Các nhà điều hành cơ sở công nghiệp hiện đang đẩy tự động hóa dựa trên AI trực tiếp lên sàn nhà máy, đòi hỏi hành động thông minh và quyết đoán càng gần với hoạt động càng tốt. Khát vọng là âm thanh. Nhưng việc dịch nó thành phần cứng đáng tin cậy hoạt động trong điều kiện công nghiệp thực tế đòi hỏi phải suy nghĩ lại thiết kế chip từ đầu.

Một thứ tự phân cấp ràng buộc mới

Thị trường biên công nghiệp toàn cầu dự kiến sẽ tăng từ 21 tỷ đô la vào năm 2025 lên gần 45 tỷ đô la vào năm 2030, và nhu cầu phần cứng tăng tỷ lệ với sự tăng trưởng đó trông cơ bản khác với những gì các nhà thiết kế chip đã tối ưu hóa trong lịch sử. Khi tự động hóa dựa trên AI di chuyển từ môi trường thử nghiệm được kiểm soát sang sàn nhà máy trực tiếp, thứ tự phân cấp ràng buộc quản lý việc triển khai biên đã thực sự đảo ngược:

1. Năng lượng hiện đang đứng đầu. Hoạt động luôn bật đòi hỏi các chế độ kiểm soát linh hoạt để giảm lãng phí và giảm thiểu chi tiêu liên quan đến việc triển khai hệ thống AI biên.
2. Yếu tố nhiệt và môi trường có thể ảnh hưởng đáng kể đến hiệu suất. Các cơ sở công nghiệp giới thiệu các điều kiện môi trường cực đoan như nhiệt độ cao và giảm nhiệt, cũng như tiềm năng bụi và độ ẩm, tất cả đều có thể làm giảm chức năng một cách không thể đoán trước.
3. Độ trễ và quyết đoán là thiết yếu trong các trường hợp sử dụng tập trung vào độ chính xác như những trường hợp được tìm thấy trong các cơ sở công nghiệp, vì hành động kịp thời và chính xác có thể tạo ra sự khác biệt giữa thành công và đống phế liệu.
4. Thông lượng thô đến cuối cùng trong mô hình này. Mặc dù quan trọng, băng thông và thông lượng ít quan trọng hơn khi các khả năng nhúng là âm thanh. Xử lý và lý luận quan trọng xảy ra trên thiết bị, giảm thiểu nhu cầu truyền liên tục đến hệ thống xử lý tập trung.

Sự đảo ngược của những ràng buộc này đòi hỏi các nhà thiết kế phải áp dụng một cách tiếp cận mới khi thiết kế cho biên công nghiệp, một cách tiếp cận xem xét hơn sức mạnh tính toán thô.

Tìm ra “đúng”

Trong môi trường phát triển, ví dụ khi thiết kế một robot công nghiệp trên bàn làm việc, GPU có thể hoạt động tốt. Chúng là các thành phần rất có khả năng và hiệu quả có thể xử lý lượng lớn dữ liệu nhanh chóng và chính xác. Tuy nhiên, những quá trình này xảy ra trong môi trường được kiểm soát cao.

Các thiết bị công nghiệp thường được lắp đặt trên thiết bị cũ trong các cơ sở đã hoạt động. Chúng có thể di động. Năng lượng, không gian và khả năng nhiệt được xác định trước bởi môi trường, không phải bởi nhu cầu của thiết bị. Điều đó chỉ để lại thiết kế chip chính nó là biến, và silicon mục đích chung không phù hợp để lấp đầy vai trò đó. Nó quá cứng nhắc hoặc quá rộng để đáp ứng nhu cầu cụ thể và bền bỉ của AI biên công nghiệp.

Ví dụ, SoC với NPU tích hợp cung cấp một điểm trung gian cho các bản dựng này, cung cấp khả năng thấp và các tính năng quyết đoán mạnh mẽ. Tuy nhiên, chúng thường không đạt được trong các môi trường biên xa đòi hỏi do thiết kế của chúng, được tối ưu hóa cho chức năng định kỳ trong môi trường nhiệt bị hạn chế. Thiết kế tập trung vào suy luận khiến chúng trở thành một sự phù hợp không đáng tin cậy cho các thực tế phức tạp hơn của các cơ sở công nghiệp.

Để biến các hoạt động công nghiệp tự động thành hiện thực, các nhà thiết kế cần có thứ gì đó ở giữa: các chip đủ linh hoạt để lấp đầy khoảng trống rộng nhưng đủ cụ thể để xử lý các ứng dụng chuyên dụng.

FPGA: Một người bạn đồng hành có khả năng hơn

Ngày càng nhiều nhà phát triển biên đang bắt đầu tận dụng các mảng cổng lập trình trường (FPGA) như câu trả lời. Điều quan trọng là, FPGA không được đặt vị trí như một sự thay thế toàn bộ cho GPU, CPU hoặc các tùy chọn xử lý trung tâm khác. Thay vào đó, chúng hoạt động như các chip đồng hành, ngồi bên cạnh các bộ xử lý chính để xử lý các nhiệm vụ mà silicon mục đích chung xử lý kém trong điều kiện thực địa: giám sát cảm biến luôn bật, tiền xử lý thời gian thực, phản hồi quyết đoán và cổng năng lượng.

Tùy thuộc vào kiến trúc, các thiết bị đồng hành này có thể được đặt bên cạnh GPU hoặc CPU, hoặc đặt gần cảm biến chính, mang lại cho các nhà thiết kế sự linh hoạt trong cách và nơi mà tải công việc đó được offload. Khả năng hoạt động trong vai trò đồng hành này là điều khiến FPGA rất phù hợp với môi trường biên công nghiệp xa, nơi bộ xử lý chính cần được bảo vệ khỏi bị quá tải bởi các nhu cầu xử lý cấp thấp liên tục.

Thị trường FPGA toàn cầu được định giá 11,6 tỷ đô la vào năm 2024 và dự kiến sẽ đạt 41,6 tỷ đô la vào năm 2033, một quỹ đạo phản ánh sự công nhận ngày càng tăng về chính xác loại kiến trúc đồng hành này trong các triển khai công nghiệp và biên. Với vai trò là các chip đồng hành, FPGA mang lại một tập hợp khả năng cụ thể trực tiếp giải quyết thứ tự phân cấp ràng buộc đảo ngược:

• Xử lý song song, định hướng dữ liệu, cho phép thiết bị xử lý tiền xử lý tiên tiến trước khi truyền đến phần cứng xử lý tập trung. Điều này giảm thiểu các khối lượng dữ liệu, giảm thiểu độ trễ và đảm bảo hoạt động đáng tin cậy.
• Khả năng lý luận quyết đoán, có thể xác định các sự kiện kích hoạt đã biết để cho phép phản hồi thời gian thực trong các kịch bản quan trọng.
• Cổng năng lượng logic, cho phép thiết bị điều chỉnh sử dụng năng lượng dựa trên các kích hoạt môi trường (di chuyển hoặc các thay đổi khác), vì vậy các quy trình đòi hỏi cao chỉ hoạt động khi cần.
• Tính năng bảo mật tích hợp, cho phép FPGA hoạt động như một gốc tin cậy phần cứng (HRoT) và giúp bảo vệ xử lý tập trung khỏi các vi phạm bắt nguồn từ các thiết bị được đặt ở vị trí công cộng, thêm một lớp bảo mật bổ sung cho các hệ thống ngày càng phức tạp.

Mặc dù những tính năng này là quan trọng để thúc đẩy khả năng AI biên, sự linh hoạt của FPGA cuối cùng là điều khiến chúng trở thành “người giải quyết vấn đề” tối ưu cho các bản dựng biên xa. Chúng thường hoạt động như các bộ tiền xử lý thông minh, xử lý sự kết hợp cảm biến thời gian thực trên thiết bị để giảm thiểu nhu cầu truyền dữ liệu và cho phép phản hồi kịp thời.

Khả năng xử lý song song của chúng cho phép chúng tích hợp và phân tích dữ liệu nhanh chóng và chuyển tiếp đến các bộ xử lý mạnh hơn khi cần, hoặc hoạt động trong thời gian thực trong một cuộc khủng hoảng. Vì FPGA có thể xử lý các nhiệm vụ nhỏ hơn này một mình, xử lý tập trung duy trì nhiều băng thông hơn để xử lý các nhiệm vụ phức tạp hơn được chuyển tiếp.

Ngoài ra, FPGA được thiết kế lại, vì vậy các nhà quản lý hệ thống có thể cập nhật triển khai AI biên của họ khi khối lượng công việc, môi trường và nhu cầu thay đổi. Các thiết bị sử dụng FPGA như các chip đồng hành có thể phát triển cùng với nhu cầu hệ thống mà không cần thay thế phần cứng hoặc triển khai lại. Ví dụ, chúng cung cấp sự linh hoạt cần thiết để thích ứng khi tiến bộ mã hóa hậu lượng tử và làm cho các thuật toán mã hóa hiện có không hiệu quả.

Tốt hơn khi cùng nhau

Biên công nghiệp là nơi tự động hóa dựa trên AI sẽ chứng minh tiềm năng đầy đủ nhất, và nhu cầu tự động hóa trong thế giới thực không chờ đợi các chip mục đích chung bắt kịp. Các nhà phát triển biên cần bắt đầu áp dụng các nguyên tắc thiết kế mới và xây dựng các nền tảng tối ưu hóa cân bằng sự linh hoạt và đặc异 tính.

FPGA có thể làm chính xác điều đó. Ở nơi GPU và SoC đạt đến giới hạn của chúng, FPGA lấp đầy khoảng trống như các chip đồng hành có khả năng, cung cấp suy luận luôn bật, kiểm soát quyết đoán, hoạt động năng lượng thấp và tiềm năng phát triển cùng với các khả năng AI và các trường hợp sử dụng công nghiệp đang phát triển. Cho dù được triển khai độc lập hay kết hợp với các bộ xử lý mục đích chung, FPGA giúp tạo nền tảng vững chắc, đáng tin cậy và linh hoạt cần thiết để biến các hệ sinh thái AI biên xa thành hiện thực.