NTT prezintă o placă de inferență AI revoluționară pentru procesarea video 4K în timp real la margine

Într-un salt major pentru procesarea AI la margine, NTT Corporation a anunțat o placă de inferență AI revoluționară care poate procesa video 4K în timp real la 30 de cadre pe secundă, utilizând mai puțin de 20 de wați de putere. Această nouă placă de integrare la scară largă (LSI) este prima din lume care realizează o astfel de inferență video AI de înaltă performanță în medii cu constrângeri de putere, făcând-o o realizare pentru aplicațiile de calcul la margine.

Prezentată în timpul summitului NTT Upgrade 2025 de la San Francisco, placa este proiectată în mod special pentru a fi utilizată în dispozitive de margine – hardware situat fizic aproape de sursa de date, cum ar fi drone, camere inteligente și senzori. În contrast cu sistemele tradiționale de inteligență artificială care se bazează pe calculul în cloud pentru inferență, această placă aduce capacități puternice de inteligență artificială direct la margine, reducând drastic întârzierile și eliminând nevoia de a transmite videouri cu definiție ultra-înaltă către servere centralizate de cloud pentru analiză.

Calculul la margine vs. Calculul în cloud: De ce contează

În calculul tradițional în cloud, datele de la dispozitive precum drone sau camere sunt trimise către centre de date îndepărtate – adesea situate la sute sau mii de mile distanță – unde sunt procesate și analizate. Deși această abordare oferă putere de calcul virtual nelimitată, introduce întârzieri datorate transmisiei de date, ceea ce este problematic pentru aplicații în timp real, cum ar fi navigația autonomă, monitorizarea securității și luarea deciziilor în timp real.

În schimb, calculul la margine procesează datele local, pe dispozitivul însuși sau în apropierea acestuia. Acest lucru reduce întârzierile, conservă lățimea de bandă și permite insights în timp real, chiar și în medii cu conectivitate limitată sau intermitentă. De asemenea, îmbunătățește confidențialitatea și securitatea datelor, minimizând nevoia de a transmite date sensibile prin rețele publice.

Placa de inferență AI a NTT adoptă pe deplin această filozofie orientată spre margine, oferind analiza video 4K în timp real direct în dispozitiv, fără a se baza pe cloud.

O nouă eră pentru inteligența artificială în timp real pe drone și dispozitive

Cu această placă instalată, o dronă poate detecta oameni sau obiecte de la o distanță de până la 150 de metri (492 de picioare) – limita de altitudine legală pentru drone în Japonia. Acesta este un progres dramatic față de sistemele tradiționale de inteligență artificială în timp real, care sunt în general limitate la o rază de 30 de metri din cauza rezoluției mai scăzute sau a vitezei de procesare.

Acest progres permite o serie de noi cazuri de utilizare, printre care:

• Inspecții de infrastructură în locuri greu accesibile

• Răspuns la dezastre în zone cu conectivitate limitată

• Monitorizarea agricolă pe suprafețe largi

• Securitate și supraveghere fără legături permanente cu cloud-ul

Toate acestea sunt realizate cu o placă care consumă mai puțin de 20 de wați – mult mai puțin decât sutele de wați necesare de serverele de inteligență artificială bazate pe GPU, care sunt impractice pentru sisteme mobile sau cu baterii.

În interiorul plăcii: Motorul de inferență AI proprietar al NTT

Performanța LSI se bazează pe motorul de inferență AI personalizat al NTT, care asigură rezultate rapide și precise, minimizând în același timp consumul de putere. Inovațiile cheie includ:

• Corelația intercadru: Prin compararea cadrelor de videosecuente, placa reduce calculele redundante, îmbunătățind eficiența.

• Controlul dinamic al preciziei biților: Această tehnică ajustează precizia numerică necesară în timp real, utilizând mai puțini biți pentru sarcini mai simple, conservând energie fără a compromite acuratețea.

• Execuția nativă YOLOv3: Placa suportă execuția directă a You Only Look Once v3, unul dintre cele mai rapide algoritmi de detectare a obiectelor în timp real din învățarea automată.

Aceste caracteristici combinate permit plăcii să ofere o performanță robustă de inteligență artificială în medii anterior considerate prea limitate din punct de vedere al puterii sau al lățimii de bandă pentru inferența avansată.

Calea către comercializare și viziunea IOWN

NTT plănuiește să comercializeze placa în cursul anului fiscal 2025 prin compania sa operativă, NTT Innovative Devices Corporation.

Cercetătorii explorează deja integrarea acesteia în Rețeaua inovatoare optică și wireless (IOWN) – viziunea de infrastructură de generație următoare a NTT, menită să transforme coloana vertebrală digitală a societății moderne. În cadrul Infrastructurii centrate pe date (DCI) a IOWN, placa ar profita de Rețeaua de fotonică pentru o latență ultra-scăzută și o comunicare de înaltă viteză, completând puterea de procesare locală pe care o aduce dispozitivelor de margine.

NTT colaborează, de asemenea, cu NTT DATA, Inc. pentru a combina capacitățile plăcii cu tehnologia sa de Criptare bazată pe atribute (ABE), care permite controlul accesului sigur și fin la date sensibile. Împreună, aceste tehnologii vor sprijini aplicații de inteligență artificială care necesită atât viteză, cât și securitate – cum ar fi în sănătate, orașe inteligente și sisteme autonome.

O moștenire de inovare și o viziune pentru viitor

Această placă de inferență AI este cea mai recentă demonstrație a misiunii NTT de a împuternici o societate inteligentă și durabilă prin inovare tehnologică profundă. Ca lider global cu peste 92 de miliarde de dolari în venituri, 330.000 de angajați și 3,6 miliarde de dolari în cercetare și dezvoltare anuală, NTT deservește peste 75% din companiile din Fortune Global 100 și milioane de consumatori din 190 de țări.

Indiferent dacă este vorba de drone care zboară dincolo de linia de vedere, camere care detectează evenimente în timp real fără a depinde de cloud sau de securizarea fluxurilor de date cu criptare bazată pe atribute, noua placă a NTT deschide calea pentru următoarea frontieră a inteligenței artificiale la margine – unde inteligența se întâlnește cu imediatețea.