Chuyển đổi sang Trình diễn Trí tuệ nhân tạo đang Mang Trí tuệ Thời gian thực đến Cạnh

Ngành công nghiệp Trí tuệ nhân tạo – và cuộc đối thoại kết quả – đang chuyển sự tập trung khỏi những nỗ lực đào tạo mô hình Trí tuệ nhân tạo. Câu chuyện đó, diễn ra tập trung tại đám mây hoặc trung tâm dữ liệu (hoặc cả hai), là “tin cũ”. Bây giờ, với vô số trường hợp sử dụng trên hầu hết các ngành công nghiệp, những mô hình này đang được triển khai và chạy trong môi trường phân tán, phi tập trung. Ngành công nghiệp đang chuyển từ giai đoạn đào tạo sang giai đoạn trình diễn, và câu chuyện này đang diễn ra tại cạnh với trí tuệ thời gian thực cần thiết cho mọi thứ từ máy ảnh thông minh đến thiết bị nhúng trong máy móc công nghiệp. Sự tập trung đang chuyển từ đào tạo Trí tuệ nhân tạo tập trung sang Trí tuệ nhân tạo Cạnh, hoặc triển khai hỗn hợp.

Trong một kỷ nguyên mà tốc độ, độ chính xác và quyền riêng tư của dữ liệu quan trọng hơn bao giờ hết, Trí tuệ nhân tạo Cạnh đang định nghĩa lại các quy trình hoạt động tại các điểm chạm quan trọng nhất của doanh nghiệp. Không giống như các mô hình Trí tuệ nhân tạo truyền thống dựa trên cơ sở hạ tầng đám mây, Trí tuệ nhân tạo Cạnh mang lại việc ra quyết định gần hơn với điểm tạo dữ liệu.

Giá trị của Trí tuệ nhân tạo Cạnh

Giảm thiểu khoảng cách giữa tạo dữ liệu và việc ra quyết định giảm thiểu độ trễ bằng cách loại bỏ độ trễ từ truyền输 mạng, kết quả là giao hàng nhanh hơn của các thông tin dự đoán và quyết định tự động. Việc xử lý thời gian thực này mang lại hiệu quả cho các tổ chức, cải thiện mọi thứ từ trải nghiệm khách hàng đến chất lượng sản phẩm, hoặc thậm chí hỗ trợ an toàn cho nhân viên. Bất kể trường hợp sử dụng, khoảng cách ngắn hơn cũng cải thiện bảo mật và độ tin cậy bằng cách giảm thời gian dữ liệu nhạy cảm di chuyển và giảm băng thông yêu cầu.

Tính tức thời và liên quan là tối quan trọng, bất kể lĩnh vực ngành.

Ví dụ, trong sản xuất, Trí tuệ nhân tạo Cạnh có thể cung cấp năng lực cho các hệ thống đảm bảo chất lượng flag sản phẩm bị lỗi ngay lập tức. Trong chăm sóc sức khỏe, nó có thể hỗ trợ hệ thống giám sát bệnh nhân kích hoạt cảnh báo ngay khi phát hiện bất thường. Các nhà bán lẻ sẽ sử dụng Trí tuệ nhân tạo Cạnh để cá nhân hóa trải nghiệm khách hàng trong cửa hàng và quản lý hàng tồn kho động. Trong tất cả các kịch bản này, tuy nhiên, trí tuệ cần thiết ngồi ở cạnh là một yếu tố phân biệt chính. Trí tuệ nhân tạo Cạnh là quan trọng khi mili giây quan trọng.

Context Matters từ Trung tâm Dữ liệu đến Cạnh

Trong khi GPU thường được coi là đồng nghĩa với Trí tuệ nhân tạo, Trí tuệ nhân tạo Cạnh liên quan đến nhiều sắc thái hơn, vì nhu cầu và bản chất của công việc cho trình diễn cơ bản khác với những công việc cho đào tạo mô hình. Nhiều công việc trình diễn – đặc biệt là các ứng dụng dựa trên tầm nhìn – có thể được xử lý hiệu quả bởi CPU, mà hiệu quả về quyền lực và chi phí hơn. Ngay cả khi một triển khai cạnh yêu cầu hiệu suất cao hơn, một lớp mới của GPU tiết kiệm năng lượng đã xuất hiện, cung cấp các giải pháp được thiết kế cho cạnh.

Cuối cùng, việc chọn cấu hình phù hợp là một bài tập cân bằng giữa công việc cụ thể, thông lượng mong muốn và các hạn chế về môi trường. Triển khai Trí tuệ nhân tạo Cạnh yêu cầu phần cứng cân bằng hiệu suất với khả năng hoạt động thực tế trên lĩnh vực.

Thành công ở cạnh đòi hỏi một cách tiếp cận cơ bản khác giải quyết không gian, quyền lực và các hạn chế về làm mát trong khi duy trì hiệu suất. Phần cứng và phần mềm phải được thiết kế cụ thể cho nhu cầu cạnh, thường bao gồm khả năng hoạt động đáng tin cậy trong môi trường khắc nghiệt mà không ảnh hưởng đến khả năng tính toán. Sự thay thế là thời gian ngừng hoạt động, điều này có thể có tác động tiêu cực đáng kể.

Con đường đến Thành công

Con đường đến thành công Trí tuệ nhân tạo Cạnh bắt đầu bằng việc xác định một trường hợp sử dụng duy nhất, có tác động cao và tập trung vào việc triển khai ban đầu vào nó. Loại tập trung này giữ phạm vi có thể quản lý được cho một tổ chức trong khi thiết lập động lực tích cực với việc triển khai, cho phép tổ chức nắm bắt được tiềm năng của công nghệ này trong khi tinh chỉnh các quy trình hoạt động và khuôn khổ hỗ trợ.

Tuy nhiên, điều này cũng dễ nói hơn làm!

Hầu hết các tổ chức muốn tận dụng các triển khai Trí tuệ nhân tạo không am hiểu sâu sắc, cũng không được đắm mình trong tất cả các công nghệ cơ bản. Khoảng cách kiến thức này khiến họ tìm kiếm hướng dẫn và khả năng tăng cường từ các đối tác bên ngoài. Đặc biệt là khi các triển khai tăng trưởng và ngành công nghiệp chuyển từ đào tạo tại lõi đến trình diễn tại cạnh, các yêu cầu phần mềm và dịch vụ đi cùng với phần cứng trở nên quan trọng hơn. Hơn nữa, sự phức tạp sẽ chỉ tăng lên trong tương lai. Đặc biệt là ở cạnh, nơi thời gian ngừng hoạt động có thể có tác động tiêu cực lớn – và tốn kém, việc hợp tác với chuyên môn và dịch vụ cần thiết để đảm bảo hiệu suất nhất quán là không thể thương lượng.

Một điểm yếu phổ biến mà các tổ chức gặp phải là tập trung quá hẹp vào các dự án chứng minh khái niệm mà không có một con đường rõ ràng để mở rộng quy mô. Các tổ chức cũng phải tính đến sự phức tạp hoạt động – từ khả năng quản lý từ xa và độ chịu lỗi đến hỗ trợ vòng đời. Lý do nữa để làm việc với một đối tác có kinh nghiệm là rất quan trọng. Không giống như các trung tâm dữ liệu, nơi các hệ thống được theo dõi chặt chẽ và làm mới thường xuyên, cơ sở hạ tầng cạnh phải được thiết kế cho sự lâu dài, với mục tiêu điển hình là năm đến bảy năm.

Ngoài ra, các tổ chức ngày càng muốn hợp nhất các nguồn lực tính toán cạnh để giảm diện tích và chi phí. Điều này kết hợp các công việc truyền thống với các ứng dụng Trí tuệ nhân tạo trên các nền tảng ảo hóa thống nhất, loại bỏ nhu cầu về cơ sở hạ tầng riêng biệt, nhưng tăng nhu cầu về trí tuệ thời gian thực.

Trí tuệ nhân tạo Cạnh Tiếp theo

Trí tuệ nhân tạo Cạnh đang phát triển nhanh chóng, chuyển từ các hệ thống dựa trên quy tắc sang các hệ thống thông minh và nhận thức ngữ cảnh hơn. Với các tiến bộ trong Trí tuệ nhân tạo tạo sinh và các mô hình nền tảng, các hệ thống cạnh đang bắt đầu hỗ trợ các vòng học liên tục, điều chỉnh tự động dựa trên dữ liệu đầu vào mà không dựa vào đám mây.

Các triển khai dựa trên Kubernetes và các mô hình được chứa giúp thiết lập sự nhất quán cần thiết để giữ cho các triển khai Trí tuệ nhân tạo Cạnh hiệu quả. Việc chứa giúp dễ dàng đẩy các bản cập nhật nhanh từ đám mây đến cạnh, và Kubernetes điều phối các container với quy mô, quản lý các triển khai, cập nhật và kiểm tra sức khỏe tự động. Sự hiệu quả và độ tin cậy của các bản cập nhật được đẩy qua các nút cạnh cũng cải thiện độ chính xác của mô hình và mang lại sự phục hồi và thời gian hoạt động cao hơn – điều quan trọng để giữ giá trị của bất kỳ triển khai Trí tuệ nhân tạo Cạnh nào. Đồng thời, các thiết bị cạnh có thể thu thập dữ liệu mới sẽ giúp đào tạo các mô hình tốt hơn trong một hệ thống Trí tuệ nhân tạo đóng.

Trí tuệ nhân tạo Cạnh không chỉ là một từ khóa. Đó là sự tiến hóa cụ thể trong cách các ngành công nghiệp sẽ khai thác trí tuệ tại điểm tương tác trong tương lai – và nó đang đến nhanh. Với một kế hoạch Trí tuệ nhân tạo Cạnh kết hợp với cơ sở hạ tầng và khả năng hệ thống phù hợp, các tổ chức có thể mở khóa các hiệu quả mới mạnh mẽ trong Trí tuệ nhân tạo – đạt được khả năng phản hồi trong khi tránh thời gian ngừng hoạt động tốn kém.