Lãnh đạo tư tưởng
Những Phát Kiến Mới Trong Trí Tuệ Nhân Tạo Tạo Sinh — Far From the Cloud

Vào thời điểm bắt đầu, chúng ta có internet, thứ đã thay đổi cuộc sống của chúng ta mãi mãi — cách chúng ta giao tiếp, mua sắm, kinh doanh. Và sau đó, vì những lý do về độ trễ, quyền riêng tư và hiệu quả chi phí, internet đã chuyển đến mạng lưới biên, dẫn đến sự ra đời của “internet của mọi thứ”.
Bây giờ, chúng ta có trí tuệ nhân tạo, thứ làm cho mọi thứ chúng ta làm trên internet trở nên dễ dàng hơn, được cá nhân hóa hơn, thông minh hơn. Tuy nhiên, để sử dụng nó, chúng ta cần các máy chủ lớn và khả năng tính toán cao, vì vậy nó bị giới hạn trong đám mây. Nhưng những động lực相同 — độ trễ, quyền riêng tư, hiệu quả chi phí — đã thúc đẩy các công ty như Hailo phát triển các công nghệ cho phép AI hoạt động tại biên.
Không có gì nghi ngờ, điều lớn tiếp theo là trí tuệ nhân tạo tạo sinh. Trí tuệ nhân tạo tạo sinh mang lại tiềm năng khổng lồ trên nhiều ngành công nghiệp. Nó có thể được sử dụng để tối ưu hóa công việc và tăng hiệu quả của các nhà sáng tạo — luật sư, nhà văn, nhà thiết kế đồ họa, nhạc sĩ, v.v. Nó có thể giúp khám phá các loại thuốc điều trị mới hoặc hỗ trợ trong các thủ tục y tế. Trí tuệ nhân tạo tạo sinh có thể cải thiện tự động hóa công nghiệp, phát triển mã phần mềm mới và tăng cường an ninh giao thông thông qua tổng hợp tự động của video, audio, hình ảnh, v.v.
Tuy nhiên, trí tuệ nhân tạo tạo sinh như nó tồn tại ngày nay bị giới hạn bởi công nghệ cho phép nó. Đó là vì trí tuệ nhân tạo tạo sinh xảy ra trong đám mây — các trung tâm dữ liệu lớn, tốn kém, tiêu thụ năng lượng, xa rời người dùng thực sự. Khi ai đó đưa ra một yêu cầu cho một công cụ trí tuệ nhân tạo tạo sinh như ChatGPT hoặc một giải pháp hội nghị truyền hình dựa trên AI mới, yêu cầu đó được truyền qua internet đến đám mây, nơi nó được xử lý bởi các máy chủ trước khi kết quả được trả về qua mạng.
Khi các công ty phát triển các ứng dụng mới cho trí tuệ nhân tạo tạo sinh và triển khai chúng trên các thiết bị khác nhau — máy quay và hệ thống an ninh, rô-bốt công nghiệp và cá nhân, máy tính xách tay và thậm chí xe hơi — đám mây trở thành một nút thắt về băng thông, chi phí và kết nối.
Và đối với các ứng dụng như hỗ trợ lái xe, phần mềm máy tính cá nhân, hội nghị truyền hình và an ninh, việc liên tục di chuyển dữ liệu qua mạng có thể là một rủi ro về quyền riêng tư.
Giải pháp là cho phép các thiết bị này xử lý trí tuệ nhân tạo tạo sinh tại biên. Trên thực tế, trí tuệ nhân tạo tạo sinh dựa trên biên có thể mang lại lợi ích cho nhiều ứng dụng mới nổi.
Trí Tuệ Nhân Tạo Tạo Sinh Trên Đà Phát Triển
Hãy xem xét rằng vào tháng 6, Mercedes-Benz cho biết họ sẽ giới thiệu ChatGPT đến xe của họ. Trong một chiếc Mercedes được trang bị ChatGPT, ví dụ, người lái có thể yêu cầu xe — không cần dùng tay — một công thức nấu ăn dựa trên các nguyên liệu họ đã có tại nhà. Đó là, nếu xe được kết nối với internet. Trong một gara đậu xe hoặc vị trí xa xôi, mọi thứ đều không chắc chắn.
Trong vài năm qua, hội nghị truyền hình đã trở thành thứ hai tự nhiên đối với hầu hết chúng ta. Hiện tại, các công ty phần mềm đã tích hợp các hình thức AI vào các giải pháp hội nghị truyền hình. Có thể đó là để tối ưu hóa chất lượng âm thanh và video theo thời gian thực, hoặc để “đặt” mọi người vào cùng một không gian ảo. Bây giờ, các hội nghị truyền hình được trang bị trí tuệ nhân tạo tạo sinh có thể tự động tạo ra biên bản họp hoặc kéo thông tin liên quan từ các nguồn công ty theo thời gian thực khi các chủ đề khác nhau được thảo luận.
Tuy nhiên, nếu một chiếc xe thông minh, hệ thống hội nghị truyền hình hoặc bất kỳ thiết bị biên nào khác không thể kết nối lại với đám mây, thì trải nghiệm trí tuệ nhân tạo tạo sinh không thể xảy ra. Nhưng nếu họ không cần phải làm như vậy? Nó nghe có vẻ là một nhiệm vụ khó khăn khi xem xét việc xử lý lớn của AI đám mây, nhưng bây giờ nó đã trở nên có thể.
Trí Tuệ Nhân Tạo Tạo Sinh Tại Biên
Hiện tại, đã có các công cụ trí tuệ nhân tạo tạo sinh, ví dụ, có thể tự động tạo ra các bản trình bày PowerPoint phong phú và hấp dẫn. Nhưng người dùng cần hệ thống hoạt động từ bất kỳ nơi nào, thậm chí không cần kết nối internet.
Tương tự, chúng ta đang chứng kiến một lớp mới của các trợ lý “đồng pilot” dựa trên trí tuệ nhân tạo tạo sinh sẽ thay đổi cơ bản cách chúng ta tương tác với các thiết bị tính toán của mình bằng cách tự động hóa nhiều nhiệm vụ thường xuyên, như tạo báo cáo hoặc trực quan hóa dữ liệu. Hãy tưởng tượng mở một chiếc laptop, laptop nhận ra bạn thông qua camera của nó, sau đó tự động tạo ra một khóa hành động cho ngày/tuần/tháng dựa trên các công cụ thường được bạn sử dụng, như Outlook, Teams, Slack, Trello, v.v. Nhưng để duy trì quyền riêng tư của dữ liệu và trải nghiệm người dùng tốt, bạn phải có tùy chọn chạy trí tuệ nhân tạo tạo sinh cục bộ.
Bên cạnh việc đáp ứng các thách thức về kết nối không ổn định và quyền riêng tư của dữ liệu, trí tuệ nhân tạo tạo sinh tại biên có thể giúp giảm nhu cầu băng thông và tăng cường hiệu suất ứng dụng. Ví dụ, nếu một ứng dụng trí tuệ nhân tạo tạo sinh đang tạo nội dung phong phú, như một không gian hội nghị ảo, thông qua đám mây, quá trình có thể bị chậm lại tùy thuộc vào băng thông có sẵn (và tốn kém). Và một số loại ứng dụng trí tuệ nhân tạo tạo sinh, như an ninh, rô-bốt, hoặc chăm sóc sức khỏe, yêu cầu phản hồi hiệu suất cao, độ trễ thấp mà các kết nối đám mây không thể xử lý.
Trong an ninh video, khả năng xác định lại người khi họ di chuyển giữa nhiều camera — một số được đặt ở những nơi mà mạng không thể tiếp cận — đòi hỏi các mô hình dữ liệu và xử lý AI trong chính các camera. Trong trường hợp này, trí tuệ nhân tạo tạo sinh có thể được áp dụng cho các mô tả tự động về những gì các camera nhìn thấy thông qua các truy vấn đơn giản như, “Tìm đứa trẻ 8 tuổi với áo sơ mi đỏ và mũ bóng chày.”
Đó là trí tuệ nhân tạo tạo sinh tại biên.
Phát Triển Trong Trí Tuệ Nhân Tạo Biên
Thông qua việc áp dụng một lớp mới của các bộ xử lý AI và sự phát triển của các mô hình dữ liệu trí tuệ nhân tạo tạo sinh tinh gọn, hiệu quả hơn, mặc dù không kém mạnh mẽ, các thiết bị biên có thể được thiết kế để hoạt động thông minh nơi kết nối đám mây là không thể hoặc không mong muốn.
Tất nhiên, xử lý đám mây sẽ vẫn là một thành phần quan trọng của trí tuệ nhân tạo tạo sinh. Ví dụ, việc đào tạo các mô hình AI sẽ vẫn còn trong đám mây. Nhưng việc áp dụng các đầu vào của người dùng vào các mô hình đó, được gọi là suy luận, có thể — và trong nhiều trường hợp nên — xảy ra tại biên.
Ngành công nghiệp đang phát triển các mô hình AI tinh gọn, nhỏ hơn, hiệu quả hơn có thể được tải lên các thiết bị biên. Các công ty như Hailo sản xuất các bộ xử lý AI được thiết kế đặc biệt để thực hiện xử lý mạng nơ-ron. Những bộ xử lý mạng nơ-ron không chỉ xử lý các mô hình AI một cách nhanh chóng, mà chúng còn làm như vậy với ít năng lượng hơn, khiến chúng tiết kiệm năng lượng và phù hợp với nhiều thiết bị biên, từ điện thoại thông minh đến camera.
Xử lý trí tuệ nhân tạo tạo sinh tại biên cũng có thể hiệu quả trong việc cân bằng tải công việc ngày càng tăng, cho phép các ứng dụng mở rộng một cách ổn định, giảm gánh nặng xử lý tốn kém cho các trung tâm dữ liệu đám mây và giúp họ giảm dấu chân carbon.
Trí tuệ nhân tạo tạo sinh đang sẵn sàng thay đổi cách tính toán lại. Trong tương lai, mô hình ngôn ngữ lớn trên laptop của bạn có thể tự động cập nhật giống như hệ điều hành của bạn ngày hôm nay — và hoạt động theo cách tương tự. Nhưng để đạt được điều đó, chúng ta sẽ cần phải kích hoạt xử lý trí tuệ nhân tạo tạo sinh tại biên của mạng. Kết quả hứa hẹn sẽ mang lại hiệu suất tốt hơn, tiết kiệm năng lượng, quyền riêng tư và bảo mật. Tất cả những điều này dẫn đến các ứng dụng AI thay đổi thế giới nhiều như chính trí tuệ nhân tạo tạo sinh.












