Nowe Granice Sztucznej Inteligencji Generatywnej — Daleko od Chmury

Na początku było internet, który na zawsze zmienił nasze życie — sposób, w jaki się komunikujemy, robimy zakupy, prowadzimy interesy. A potem, z powodu opóźnień, prywatności i efektywności kosztowej, internet przeniósł się na krawędź sieci, dając początek „internetowi rzeczy”.

Teraz jest sztuczna inteligencja, która sprawia, że wszystko, co robimy w internecie, staje się łatwiejsze, bardziej personalizowane, bardziej inteligentne. Aby ją wykorzystać, potrzebne są jednak duże serwery i wysoka pojemność obliczeniowa, więc jest ograniczona do chmury. Ale te same motywacje — opóźnienia, prywatność, efektywność kosztowa — skłoniły firmy takie jak Hailo do opracowania technologii umożliwiających sztuczną inteligencję na krawędzi.

Bez wątpienia, następną wielką rzeczą jest sztuczna inteligencja generatywna. Sztuczna inteligencja generatywna oferuje ogromny potencjał w różnych branżach. Może być wykorzystywana do usprawnienia pracy i zwiększenia wydajności różnych twórców — prawników, pisarzy, grafików, muzyków i wielu innych. Może pomóc odkryć nowe leki terapeutyczne lub wspomóc procedury medyczne. Sztuczna inteligencja generatywna może poprawić automatyzację przemysłową, rozwijać nowy kod oprogramowania i poprawiać bezpieczeństwo transportu za pomocą automatycznej syntezy wideo, audio, obrazów i wielu innych.

Jednak sztuczna inteligencja generatywna, taka jaka istnieje dzisiaj, jest ograniczona przez technologię, która ją umożliwia. To dlatego, że sztuczna inteligencja generatywna zachodzi w chmurze — duże centra danych drogich, energochłonnych procesorów komputerowych, oddalonych od rzeczywistych użytkowników. Gdy ktoś wysyła żądanie do narzędzia sztucznej inteligencji generatywnej, takiego jak ChatGPT lub nowe rozwiązanie wideokonferencyjne oparte na sztucznej inteligencji, żądanie jest przesyłane przez internet do chmury, gdzie jest przetwarzane przez serwery, zanim wyniki są zwrócone przez sieć.

Gdy firmy rozwijają nowe aplikacje sztucznej inteligencji generatywnej i wdrażają je na różnych urządzeniach — kamerach i systemach bezpieczeństwa, robotach przemysłowych i osobistych, laptopach, a nawet samochodach — chmura jest wąskim gardłem pod względem przepustowości, kosztów i łączności.

A dla aplikacji takich jak asystent kierowcy, oprogramowanie komputerowe, wideokonferencje i bezpieczeństwo, ciągłe przenoszenie danych przez sieć może stanowić ryzyko dla prywatności.

Rozwiązaniem jest umożliwienie tym urządzeniom przetwarzania sztucznej inteligencji generatywnej na krawędzi. W rzeczywistości sztuczna inteligencja generatywna na krawędzi może przynieść korzyści wielu nowym aplikacjom.

Sztuczna Inteligencja Generatywna w Górze

Rozważmy, że w czerwcu Mercedes-Benz ogłosił, że wprowadzi ChatGPT do swoich samochodów. W samochodzie Mercedes z funkcją ChatGPT kierowca mógłby, na przykład, poprosić samochód — bez użycia rąk — o przepis na kolację na podstawie składników, które już ma w domu. To jest, jeśli samochód jest podłączony do internetu. W garażu lub na odległym miejscu, wszystkie zakłady są wyłączone.

W ciągu ostatnich dwóch lat wideokonferencje stały się dla nas czymś naturalnym. Już teraz firmy oprogramowania integrują formy sztucznej inteligencji z rozwiązaniami wideokonferencyjnymi. Może to być optymalizacja jakości audio i wideo na żywo lub „umieszczenie” ludzi w tym samym wirtualnym miejscu. Teraz wideokonferencje z sztuczną inteligencją generatywną mogą automatycznie tworzyć notatki z posiedzenia lub ściągać istotne informacje z firmowych źródeł w czasie rzeczywistym, gdy omawiane są różne tematy.

Jednak jeśli inteligentny samochód, system wideokonferencyjny lub jakiekolwiek inne urządzenie na krawędzi nie może połączyć się z chmurą, wówczas doświadczenie sztucznej inteligencji generatywnej nie może się wydarzyć. Ale co, jeśli nie musiałyby? Brzmi to jak trudne zadanie, biorąc pod uwagę ogromne przetwarzanie chmury, ale teraz staje się to możliwe.

Sztuczna Inteligencja Generatywna na Krawędzi

Już teraz istnieją narzędzia sztucznej inteligencji generatywnej, które mogą automatycznie tworzyć bogate, angażujące prezentacje PowerPoint. Ale użytkownik potrzebuje, aby system działał z dowolnego miejsca, nawet bez połączenia z internetem.

Podobnie, widzimy już nową klasę asystentów „kopilotów” opartych na sztucznej inteligencji generatywnej, które zasadniczo zmienią sposób, w jaki wchodzimy w interakcje z naszymi urządzeniami komputerowymi, automatyzując wiele rutynowych zadań, takich jak tworzenie raportów lub wizualizacja danych. Wyobraź sobie otwarcie laptopa, laptop rozpoznaje cię przez kamerę, a następnie automatycznie generuje plan działania na dzień/tydzień/miesiąc na podstawie twoich najczęściej używanych narzędzi, takich jak Outlook, Teams, Slack, Trello itp. Ale aby utrzymać prywatność danych i dobrą jakość użytkowania, musisz mieć możliwość uruchomienia sztucznej inteligencji generatywnej lokalnie.

Ponadto, spotkanie wyzwania niepewnych połączeń i prywatności danych, sztuczna inteligencja na krawędzi może pomóc zmniejszyć wymagania dotyczące przepustowości i poprawić wydajność aplikacji. Na przykład, jeśli aplikacja sztucznej inteligencji generatywnej tworzy treści bogate w dane, takie jak wirtualna przestrzeń konferencyjna, za pośrednictwem chmury, proces mógłby zwolnić w zależności od dostępnej (i kosztownej) przepustowości. A pewne typy aplikacji sztucznej inteligencji generatywnej, takie jak bezpieczeństwo, robotyka lub opieka zdrowotna, wymagają wysokowydajnych, niskiej latencji odpowiedzi, których połączenia chmury nie mogą obsłużyć.

W bezpieczeństwie wideo, możliwość ponownego identyfikowania ludzi, gdy poruszają się między wieloma kamerami — niektórymi umieszczonymi w miejscach, w których sieci nie mogą dotrzeć — wymaga modeli danych i przetwarzania sztucznej inteligencji w samych kamerach. W tym przypadku sztuczna inteligencja generatywna może być stosowana do automatycznych opisów tego, co kamery widzą, za pomocą prostych zapytań, takich jak „Znajdź 8-letnie dziecko w czerwonym T-shircie i baseballowej czapce”.

To jest sztuczna inteligencja generatywna na krawędzi.

Rozwój Sztucznej Inteligencji na Krawędzi

Poprzez przyjęcie nowej klasy procesorów sztucznej inteligencji i rozwój lżejszych, bardziej wydajnych, choć nie mniej potężnych modeli danych sztucznej inteligencji generatywnej, urządzenia na krawędzi mogą być zaprojektowane do inteligentnego działania tam, gdzie połączenie z chmurą jest niemożliwe lub niepożądane.

Oczywiście, przetwarzanie chmury pozostanie kluczowym składnikiem sztucznej inteligencji generatywnej. Na przykład, szkolenie modeli sztucznej inteligencji pozostanie w chmurze. Ale akt stosowania danych wejściowych do tych modeli, zwany inferencją, może — i w wielu przypadkach powinien — zachodzić na krawędzi.

Przemysł już rozwija lżejsze, mniejsze, bardziej wydajne modele sztucznej inteligencji, które mogą być ładowane na urządzenia na krawędzi. Firmy takie jak Hailo produkują procesory sztucznej inteligencji zaprojektowane specjalnie do przetwarzania sieci neuronowych. Tacy procesorzy sieci neuronowych nie tylko radzą sobie z modelami sztucznej inteligencji niezwykle szybko, ale robią to również z mniejszym zużyciem energii, co sprawia, że są one efektywne energetycznie i odpowiednie dla różnych urządzeń na krawędzi, od smartfonów po kamery.

Przetwarzanie sztucznej inteligencji generatywnej na krawędzi może również skutecznie równoważyć rosnące obciążenia, umożliwiać aplikacjom bardziej stabilne skalowanie, odciążać centra danych chmury od kosztownego przetwarzania i pomagać im zmniejszyć swój ślad węglowy.

Sztuczna inteligencja generatywna jest gotowa zmienić sposób komputacji ponownie. W przyszłości, LLM na twoim laptopie może być automatycznie aktualizowany w ten sam sposób, w jaki dzisiaj aktualizuje się system operacyjny — i działać w podobny sposób. Ale aby to osiągnąć, będziemy musieli umożliwić przetwarzanie sztucznej inteligencji generatywnej na krawędzi sieci. Rezultat obiecuje większą wydajność, efektywność energetyczną, prywatność i bezpieczeństwo. Wszystko to prowadzi do aplikacji sztucznej inteligencji, które zmienią świat tak samo, jak sama sztuczna inteligencja generatywna.