Noi frontiere în Inteligența Artificială Generativă — departe de cloud

La început, a existat internetul, care ne-a schimbat viețile pentru totdeauna — modul în care comunicăm, cumpărăm, facem afaceri. Și apoi, din motive de latență, confidențialitate și eficiență a costurilor, internetul s-a mutat la marginea rețelei, dând naștere “internetului lucrurilor”.

Apoi a apărut inteligența artificială, care face tot ce facem pe internet mai ușor, mai personalizat, mai inteligent. Pentru a o utiliza, însă, sunt necesari servere mari și o capacitate de calcul ridicată, astfel că este limitată la cloud. Dar aceleași motivații — latență, confidențialitate, eficiență a costurilor — au determinat companii precum Hailo să dezvolte tehnologii care permit inteligența artificială la marginea rețelei.

Fără îndoială, următoarea mare realizare este inteligența artificială generativă. Inteligența artificială generativă prezintă un potențial enorm în diverse industrii. Ea poate fi utilizată pentru a eficientiza munca și a crește eficiența diverselor creatori — avocați, scriitori de conținut, designeri grafici, muzicieni și mulți alții. Ea poate ajuta la descoperirea de noi medicamente terapeutice sau la îmbunătățirea procedurilor medicale. Inteligența artificială generativă poate îmbunătăți automatizarea industrială, dezvolta noi coduri de software și îmbunătăți securitatea transporturilor prin sinteza automată a videoului, audio, imagini și multe altele.

Cu toate acestea, inteligența artificială generativă, așa cum există astăzi, este limitată de tehnologia care o permite. Acest lucru se datorează faptului că inteligența artificială generativă are loc în cloud — mari centre de date cu procesoare de calculator costisitoare și consumatoare de energie, situate la distanță de utilizatorii reali. Când cineva emite o solicitare către un instrument de inteligență artificială generativă, cum ar fi ChatGPT sau o nouă soluție de videoconferință bazată pe inteligență artificială, solicitarea este transmisă prin internet către cloud, unde este procesată de servere înainte ca rezultatele să fie returnate prin rețea.

Pe măsură ce companiile dezvoltă noi aplicații pentru inteligența artificială generativă și le implementează pe diverse dispozitive — camere de supraveghere și sisteme de securitate, roboți industriali și personali, laptopuri și chiar mașini — cloud-ul reprezintă un bottleneck în ceea ce privește lățimea de bandă, costul și conectivitatea.

Și pentru aplicații precum asistența pentru șoferi, software-ul pentru calculator, videoconferința și securitatea, deplasarea constantă a datelor prin rețea poate fi un risc pentru confidențialitate.

Soluția constă în a permite acestor dispozitive să proceseze inteligența artificială generativă la marginea rețelei. De fapt, inteligența artificială generativă la marginea rețelei poate beneficia multe aplicații emergente.

Inteligența Artificială Generativă în Ascensiune

Luați în considerare faptul că, în luna iunie, Mercedes-Benz a anunțat că va introduce ChatGPT în mașinile sale. Într-o mașină Mercedes-Benz îmbunătățită cu ChatGPT, de exemplu, un șofer ar putea cere mașinii — fără a fi nevoie să țină volanul — o rețetă de cină pe baza ingredientelor pe care le are acasă. Acest lucru este posibil doar dacă mașina este conectată la internet. Într-un garaj sau într-o locație îndepărtată, toate pariurile sunt oferite.

În ultimii ani, videoconferința a devenit a doua natură pentru majoritatea dintre noi. Deja, companiile de software integrează forme de inteligență artificială în soluțiile de videoconferință. Poate că este pentru a optimiza calitatea audio și video în timp real sau pentru a “plasa” oamenii în același spațiu virtual. Acum, videoconferințele bazate pe inteligență artificială generativă pot crea automat minutele ședinței sau pot extrage informații relevante din sursele companiei în timp real, pe măsură ce se discută diverse subiecte.

Cu toate acestea, dacă o mașină inteligentă, un sistem de videoconferință sau orice alt dispozitiv de la marginea rețelei nu poate accesa cloud-ul, atunci experiența inteligenței artificiale generative nu poate avea loc. Dar ce se întâmplă dacă nu ar fi nevoie să o facă? Sună ca o sarcină descurajantă, având în vedere procesarea enormă a inteligenței artificiale din cloud, dar acum devine posibil.

Inteligența Artificială Generativă la Marginea Rețelei

Deja există instrumente de inteligență artificială generativă, de exemplu, care pot crea automat prezentări PowerPoint bogate și atractive. Dar utilizatorul are nevoie ca sistemul să funcționeze de oriunde, chiar și fără o conexiune la internet.

În mod similar, vedem o nouă clasă de asistenți “copilot” bazate pe inteligență artificială generativă care vor schimba fundamental modul în care interacționăm cu dispozitivele noastre de calcul, prin automatizarea multor sarcini rutiniere, cum ar fi crearea de rapoarte sau vizualizarea datelor. Imaginați-vă deschizând un laptop, laptopul recunoscându-vă prin cameră, apoi generând automat un plan de acțiune pentru zi/săptămână/lună pe baza instrumentelor dvs. cele mai utilizate, cum ar fi Outlook, Teams, Slack, Trello etc. Dar pentru a menține confidențialitatea datelor și o experiență bună a utilizatorului, trebuie să aveți opțiunea de a rula inteligența artificială generativă local.

În plus față de provocările legate de conexiunile nefiabile și confidențialitatea datelor, inteligența artificială la marginea rețelei poate ajuta la reducerea cerințelor de lățime de bandă și la îmbunătățirea performanței aplicațiilor. De exemplu, dacă o aplicație de inteligență artificială generativă creează conținut bogat în date, cum ar fi un spațiu de conferință virtual, prin cloud, procesul ar putea fi întârziat în funcție de lățimea de bandă disponibilă (și costisitoare). Și anumite tipuri de aplicații de inteligență artificială generativă, cum ar fi securitatea, robotică sau sănătate, necesită răspunsuri de înaltă performanță și joasă latență, pe care conexiunile cloud nu le pot gestiona.

În securitatea video, capacitatea de a reidentifica oamenii pe măsură ce se deplasează între multiple camere — unele plasate în locuri unde rețelele nu pot ajunge — necesită modele de date și procesare de inteligență artificială în camerele însele. În acest caz, inteligența artificială generativă poate fi aplicată pentru descrieri automate ale ceea ce văd camerele prin simple interogări, cum ar fi “Găsiți copilul de 8 ani cu tricoul roșu și șapca de baseball”.

Acesta este inteligența artificială generativă la marginea rețelei.

Dezvoltări în Inteligența Artificială la Marginea Rețelei

Prin adoptarea unei noi clase de procesoare de inteligență artificială și dezvoltarea de modele de inteligență artificială generativă mai eficiente și mai puțin consumatoare de energie, dar la fel de puternice, dispozitivele de la marginea rețelei pot fi proiectate pentru a funcționa inteligent în locuri unde conectivitatea cloud nu este posibilă sau nu este de dorit.

Desigur, procesarea din cloud va rămâne o componentă critică a inteligenței artificiale generative. De exemplu, antrenarea modelelor de inteligență artificială va rămâne în cloud. Dar actul de aplicare a intrărilor utilizatorului la aceste modele, numit inferență, poate — și în multe cazuri ar trebui — să aibă loc la marginea rețelei.

Industria este deja în curs de dezvoltare a unor modele de inteligență artificială mai mici, mai eficiente și mai puțin consumatoare de energie, care pot fi încărcate pe dispozitivele de la marginea rețelei. Companii precum Hailo produc procesoare de inteligență artificială special concepute pentru a efectua procesarea de rețele neuronale. Astfel de procesoare de rețele neuronale nu numai că gestionează modelele de inteligență artificială incredibil de rapid, dar o fac și cu mai puțină putere, făcându-le eficiente din punct de vedere energetic și potrivite pentru o varietate de dispozitive de la marginea rețelei, de la smartphone-uri la camere.

Procesarea inteligenței artificiale generative la marginea rețelei poate, de asemenea, să încarce eficient sarcinile de lucru în creștere, să permită aplicațiilor să se extindă mai stabil, să ușureze centrele de date cloud de procesarea costisitoare și să le ajute să-și reducă amprenta de carbon.

Inteligența artificială generativă este pe punctul de a schimba din nou calculul. În viitor, modelul de limbă mare de pe laptopul dvs. poate actualiza automat, la fel ca sistemul de operare de astăzi — și funcționează în mod similar. Dar pentru a ajunge acolo, va trebui să permitem procesarea inteligenței artificiale generative la marginea rețelei. Rezultatul promite o performanță mai bună, o eficiență energetică și o securitate mai mare. Toate acestea duc la aplicații de inteligență artificială care pot schimba lumea la fel de mult ca și inteligența artificială generativă însăși.