Các Biên Giới Mới Trong Trí Tuệ Nhân Tạo Tạo – Far From the Cloud

Vào đầu, đã có internet, điều này đã thay đổi cuộc sống của chúng ta mãi mãi — cách chúng ta giao tiếp, mua sắm, kinh doanh. Và sau đó, vì lý do độ trễ, quyền riêng tư và hiệu quả về chi phí, internet đã chuyển đến mạng lưới biên, dẫn đến sự ra đời của “internet của mọi thứ.”

Bây giờ có trí tuệ nhân tạo, điều này làm cho mọi thứ chúng ta làm trên internet trở nên dễ dàng, cá nhân hóa và thông minh hơn. Tuy nhiên, để sử dụng nó, cần có máy chủ lớn và khả năng tính toán cao, vì vậy nó bị giới hạn ở đám mây. Nhưng những động lực相同 — độ trễ, quyền riêng tư, hiệu quả về chi phí — đã thúc đẩy các công ty như Hailo phát triển công nghệ cho phép AI trên biên.

Không thể phủ nhận, điều lớn tiếp theo là trí tuệ nhân tạo tạo. Trí tuệ nhân tạo tạo ra tiềm năng khổng lồ trên nhiều ngành công nghiệp. Nó có thể được sử dụng để tối ưu hóa công việc và tăng hiệu quả của các nhà tạo nội dung — luật sư, nhà văn, nhà thiết kế đồ họa, nhạc sĩ và nhiều hơn nữa. Nó có thể giúp khám phá các loại thuốc điều trị mới hoặc hỗ trợ trong các thủ tục y tế. Trí tuệ nhân tạo tạo có thể cải thiện tự động hóa công nghiệp, phát triển mã phần mềm mới và nâng cao an ninh giao thông thông qua tổng hợp tự động của video, âm thanh, hình ảnh và nhiều hơn nữa.

Tuy nhiên, trí tuệ nhân tạo tạo như nó tồn tại ngày nay bị giới hạn bởi công nghệ cho phép nó. Đó là vì trí tuệ nhân tạo tạo xảy ra trong đám mây — các trung tâm dữ liệu lớn của máy tính tốn kém, tiêu thụ năng lượng xa rời khỏi người dùng thực sự. Khi ai đó đưa ra một yêu cầu cho một công cụ trí tuệ nhân tạo tạo như ChatGPT hoặc một số giải pháp hội nghị truyền hình dựa trên AI mới, yêu cầu được truyền qua internet đến đám mây, nơi nó được xử lý bởi máy chủ trước khi kết quả được trả về qua mạng.

Khi các công ty phát triển các ứng dụng mới cho trí tuệ nhân tạo tạo và triển khai chúng trên các thiết bị khác nhau — máy quay và hệ thống an ninh, rô-bốt công nghiệp và cá nhân, máy tính xách tay và thậm chí xe hơi — đám mây là một nút thắt về băng thông, chi phí và kết nối.

Và đối với các ứng dụng như hỗ trợ lái xe, phần mềm máy tính cá nhân, hội nghị truyền hình và an ninh, việc di chuyển dữ liệu liên tục qua mạng có thể là một rủi ro về quyền riêng tư.

Giải pháp là cho phép các thiết bị này xử lý trí tuệ nhân tạo tạo tại biên. Trên thực tế, trí tuệ nhân tạo tạo dựa trên biên có thể mang lại lợi ích cho nhiều ứng dụng mới nổi.

Trí Tuệ Nhân Tạo Tạo Đang Trên Đà Phát Triển

Hãy xem xét rằng vào tháng 6, Mercedes-Benz cho biết nó sẽ giới thiệu ChatGPT đến xe của mình. Trong một chiếc Mercedes được nâng cấp bằng ChatGPT, ví dụ, một tài xế có thể hỏi xe — bằng giọng nói — về một công thức nấu ăn dựa trên các nguyên liệu họ đã có tại nhà. Đó là, nếu xe được kết nối với internet. Trong một bãi đỗ xe hoặc vị trí xa xôi, mọi thứ đều có thể xảy ra.

Trong vài năm qua, hội nghị truyền hình đã trở thành thứ hai tự nhiên đối với hầu hết chúng ta. Hiện tại, các công ty phần mềm đã tích hợp các hình thức AI vào các giải pháp hội nghị truyền hình. Có thể đó là để tối ưu hóa chất lượng âm thanh và video theo thời gian thực, hoặc để “đặt” mọi người trong cùng một không gian ảo. Bây giờ, các hội nghị truyền hình được hỗ trợ bởi trí tuệ nhân tạo tạo có thể tự động tạo ra các bản ghi họp hoặc kéo thông tin liên quan từ các nguồn công ty theo thời gian thực khi các chủ đề khác nhau được thảo luận.

Tuy nhiên, nếu một chiếc xe thông minh, hệ thống hội nghị truyền hình hoặc bất kỳ thiết bị biên nào khác không thể kết nối lại với đám mây, thì trải nghiệm trí tuệ nhân tạo tạo không thể xảy ra. Nhưng điều gì nếu họ không cần phải làm như vậy? Nó nghe có vẻ như một nhiệm vụ khó khăn khi xem xét việc xử lý khổng lồ của AI đám mây, nhưng nó hiện đang trở nên khả thi.

Trí Tuệ Nhân Tạo Tạo Tại Biên

Hiện tại, đã có các công cụ trí tuệ nhân tạo tạo, ví dụ, có thể tự động tạo ra các bản trình bày PowerPoint phong phú và hấp dẫn. Nhưng người dùng cần hệ thống hoạt động từ bất kỳ nơi nào, thậm chí không có kết nối internet.

Tương tự, chúng ta đang thấy một lớp mới của các trợ lý “đồng pilot” dựa trên trí tuệ nhân tạo tạo sẽ thay đổi cơ bản cách chúng ta tương tác với các thiết bị tính toán của mình bằng cách tự động hóa nhiều nhiệm vụ thường xuyên, như tạo báo cáo hoặc trực quan hóa dữ liệu. Hãy tưởng tượng mở một máy tính xách tay, máy tính xách tay nhận ra bạn thông qua camera của nó, sau đó tự động tạo ra một khóa hành động cho ngày / tuần / tháng dựa trên các công cụ được sử dụng nhiều nhất của bạn, như Outlook, Teams, Slack, Trello, v.v. Nhưng để duy trì quyền riêng tư của dữ liệu và trải nghiệm người dùng tốt, bạn phải có tùy chọn chạy trí tuệ nhân tạo tạo cục bộ.

Ngoài việc đáp ứng các thách thức của kết nối không ổn định và quyền riêng tư của dữ liệu, AI biên có thể giúp giảm nhu cầu băng thông và nâng cao hiệu suất ứng dụng. Ví dụ, nếu một ứng dụng trí tuệ nhân tạo tạo đang tạo nội dung phong phú, như một không gian hội nghị ảo, thông qua đám mây, quá trình có thể bị chậm lại tùy thuộc vào băng thông có sẵn (và tốn kém). Và một số loại ứng dụng trí tuệ nhân tạo tạo, như an ninh, rô-bốt hoặc chăm sóc sức khỏe, yêu cầu phản hồi hiệu suất cao, độ trễ thấp mà các kết nối đám mây không thể xử lý.

Trong an ninh video, khả năng nhận dạng lại mọi người khi họ di chuyển giữa nhiều máy quay — một số được đặt ở nơi mạng không thể tiếp cận — yêu cầu mô hình dữ liệu và xử lý AI trong chính các máy quay. Trong trường hợp này, trí tuệ nhân tạo tạo có thể được áp dụng cho các mô tả tự động về những gì máy quay nhìn thấy thông qua các truy vấn đơn giản như, “Tìm đứa trẻ 8 tuổi với áo đỏ và mũ bóng chày.”

Đó là trí tuệ nhân tạo tạo tại biên.

Phát Triển Trong AI Biên

Thông qua việc áp dụng một lớp mới của các bộ xử lý AI và sự phát triển của các mô hình dữ liệu trí tuệ nhân tạo tạo tinh gọn, hiệu quả hơn, nhưng không kém phần mạnh mẽ, các thiết bị biên có thể được thiết kế để hoạt động thông minh ở nơi kết nối đám mây là không thể hoặc không mong muốn.

Tất nhiên, xử lý đám mây sẽ vẫn là một thành phần quan trọng của trí tuệ nhân tạo tạo. Ví dụ, việc đào tạo các mô hình AI sẽ vẫn còn trong đám mây. Nhưng việc áp dụng đầu vào của người dùng vào các mô hình đó, được gọi là suy luận, có thể — và trong nhiều trường hợp nên — xảy ra tại biên.

Ngành công nghiệp đang phát triển các mô hình AI tinh gọn, nhỏ hơn, hiệu quả hơn có thể được tải lên các thiết bị biên. Các công ty như Hailo sản xuất các bộ xử lý AI được thiết kế đặc biệt để thực hiện xử lý mạng nơ-ron. Các bộ xử lý mạng nơ-ron không chỉ xử lý các mô hình AI một cách nhanh chóng, mà chúng cũng làm như vậy với ít năng lượng hơn, làm cho chúng tiết kiệm năng lượng và phù hợp với nhiều thiết bị biên, từ điện thoại thông minh đến máy quay.

Xử lý trí tuệ nhân tạo tạo tại biên cũng có thể hiệu quả cân bằng tải công việc ngày càng tăng, cho phép các ứng dụng mở rộng quy mô ổn định hơn, giảm bớt gánh nặng xử lý tốn kém của các trung tâm dữ liệu đám mây và giúp họ giảm dấu chân carbon.

Trí tuệ nhân tạo tạo đang sẵn sàng thay đổi tính toán lại. Trong tương lai, mô hình ngôn ngữ lớn trên máy tính xách tay của bạn có thể tự động cập nhật giống như hệ điều hành của bạn ngày hôm nay — và hoạt động theo cách tương tự. Nhưng để đạt được điều đó, chúng ta sẽ cần phải kích hoạt xử lý trí tuệ nhân tạo tạo tại biên của mạng. Kết quả hứa hẹn sẽ là hiệu suất tốt hơn, tiết kiệm năng lượng, quyền riêng tư và bảo mật. Tất cả những điều này dẫn đến các ứng dụng AI thay đổi thế giới nhiều như chính trí tuệ nhân tạo tạo.