Derek Collison, osnivač i izvršni direktor tvrtke Synadia – serija intervjua

Derek Collison je osnivač i izvršni direktor tvrtke Sinadija. Synadia je izumila tehnologiju povezivanja otvorenog koda, NATS.io. S NATS-om možete jednostavno povezati sve svoje aplikacije i podatke na globalnoj razini, bez obzira na kojem su jeziku napisani ili gdje se izvode.

Derek Collison je 30-godišnji veteran industrije, poduzetnik i pionir u sigurnim i velikim distribuiranim sustavima i računalstvu u oblaku. Pomogao je u promjeni načina na koji funkcionišu financijski, transportni i logistički sustavi dok je proveo više od desetljeća u TIBCO-u, dizajnirajući sustave koji i danas pokreću velik dio tih industrija. U Googleu, Derek je suosnivač grupe AJAX APIs i stvorio najveći CDN za popularne javascript biblioteke, identificirajući potrebu za lakim i sigurnim pristupom Googleovim uslugama bez potrebe za dodatnim poslužiteljima.

Kako umjetna inteligencija i rubno računalstvo mogu raditi zajedno kako bi postigli nisku latenciju, složenu obradu podataka?

Rubno računalstvo ima dvije primarne uloge u gospodarstvu umjetne inteligencije. Primarna uloga danas je u prikupljanju i distribuciji rubnih podataka/telemetrije za korištenje u podršci centraliziranoj obuci modela.

Nova i mnogo veća prilika je za slučajeve upotrebe zaključivanja AI. AI i rubno računalstvo kritična su i snažna kombinacija koja omogućuje obradu u stvarnom vremenu, smanjenu latenciju, poboljšanu točnost te poboljšanu privatnost i sigurnost.

Sada vidimo jasne znakove da zaključivanje na rubu nije jednostavno pokretanje velikih kvantiziranih modela na rubu. Razvija se u višefazni cjevovod, onaj u kojem operacije brzog povećanja i generiranja proširenog dohvaćanja (RAG) transformiraju početni upit od korisnika ili sustava koristeći pristup podacima na rubu neovisan o stvarnom vremenu i lokaciji. Drugi je obilazak grafa više modela u odnosu na jedan model, bilo da su lokalni ili udaljeni.

Koje su neke aplikacije iz stvarnog svijeta u kojima je kombinacija umjetne inteligencije i rubnog računarstva imala značajan utjecaj?

AI sve većom brzinom utječe na svaku industriju. Vidimo NATS zajednicu otvorenog koda i aplikacije i usluge za izgradnju ekosustava u industrijskoj proizvodnji i IoT (prediktivno održavanje, optimizacija procesa i digitalni blizanci), autonomna vozila (optimizirane rute i sigurnost), zelena energija (energetska optimizacija), maloprodaja (personalizirana iskustva kupnje i upravljanje zalihama u stvarnom vremenu), FinTech (usklađenost s propisima i algoritamsko trgovanje) i vlada (DoD/IC zajednice npr. dron CUAS).

Jedan od naših kupaca je proizvođač medicinskih uređaja koji se koriste kao platforma za obuku u ustanovama diljem svijeta. Svaki lokalni događaj potrebno je uhvatiti i pohraniti kao dio procesa certifikacije. Potreba da se sav promet vrati u središnji oblak bila je previsoka i teška za udaljenije sesije. Naše izvorne rubne mogućnosti omogućile su im da pojednostave svoje mogućnosti isporuke platforme.

Kao tvorci NATS.io, kako vidite da tehnologija otvorenog koda oblikuje budućnost rubnog računalstva?

Rubno računalstvo pokazalo se kao drugačiji krajolik od računarstva u oblaku. Pristupi i rješenja koja se koriste u trenutnim takozvanim "cloud native" arhitekturama ne prevode se na rub.

Komponenta "što" rješenja ostaje poznata, ali "kako" je vrlo različita. Synadia/NATS.io mijenja "kako", a ne "što", kako bi riješio izazove s mikro-uslugama i pristupom podacima i protokom na rubu preko bilo kojeg oblaka ili geografskog područja.

Koje su ključne prednosti korištenja NATS.io za globalno povezivanje aplikacija i podataka?

Glavne prednosti NATS.io proizlaze iz njegovog jedinstvenog pristupa povezivosti i integriranog podatkovnog sloja. NATS-ova inteligentna povezivost omogućuje izradu aplikacija i usluga s transparentnošću lokacije ili ono što volimo zvati "nomadske aplikacije". NATS uklanja zahtjeve dodatne infrastrukture oblaka kao što su balanseri opterećenja, servisna mreža ili API pristupnici kako bi se korisnicima omogućilo da jednom napišu aplikaciju i implementiraju je bilo gdje.

Na tome se temelji naš podatkovni sloj s tokovima i pohranama ključeva/vrijednosti i objekata. To je kombinacija našeg podatkovnog sloja sa slojem povezivanja koji daje moćan pristup i uzorke protoka koji su vrlo dobro prilagođeni rubu za aplikacije osjetljive na kašnjenje i aplikacije u stvarnom vremenu.

Koje su sljedeće velike inovacije u rubu i povezivosti koje predviđate u nadolazećim godinama?

Upravljanje flotom u stvarnom vremenu, prikupljanje telemetrijskih podataka, analiza na rubu i naravno zaključivanje AI na rubu u stvarnom vremenu s određenim vremenskim omotnicama bit će prioritetne inovacije. Primjeri za to uključuju:

• Povećane mogućnosti AI na rubu: Kako se procesorska snaga bude poboljšavala, naprednije AI i mogućnosti strojnog učenja premjestit će se iz oblaka na rubne uređaje.
• 5G i konvergencija rubnog računalstva: Nastavak uvođenja 5G mreža transformirat će mogućnosti rubnog računalstva pružanjem ultra niske latencije i velike propusnosti.
• Kontinuum od ruba do oblakaVjerojatno ćemo vidjeti besprijekorniju integraciju između rubnog i cloud computinga, stvarajući kontinuum u kojem se podaci i radna opterećenja dinamički raspoređuju na temelju zahtjeva. Sviđa nam se izraz „zaista nomadske aplikacije“.
• Hiperlokalni podatkovni centri: Doći će do proliferacije malih, hiperlokalnih podatkovnih centara za podršku potrebama rubnog računalstva. Tvrtke poput Akamaija već prenamjenjuju infrastrukturu kako bi stvorile globalnu mrežu rubnih podatkovnih centara.
• Rubna rješenja specifična za industrijuVidjet ćemo prilagođenija rješenja za rubno računalstvo za specifične industrije poput zdravstva, proizvodnje, maloprodaje i poljoprivrede koja će se baviti jedinstvenim izazovima i prilikama u svakom sektoru.

Kako se Synadia postavlja kao vodeća u tim budućim trendovima?

Naš pristup je da se prvo uhvatimo u koštac s mrežnim povezivanjem, a zatim s podacima, a nedavno smo predstavili mogućnost nativnog rukovanja radnim opterećenjima s NATS Execution Engine (NEX). Ovakav pristup koji se razlikuje od drugih prouzročio je da smo rano bili pogrešno shvaćeni. Međutim, ovaj nam je pristup omogućio da donesemo neka inovativna i vrlo moćna rješenja za tržišne izazove oko dizajna i ruba sustava.

Kako aplikacije prelaze na mikroservise i prelaze na rub, moramo osigurati da različite komponente mogu komunicirati. Odustajemo od uobičajenog dugotrajnog pristupa dodavanja API pristupnika i uslužnih mreža i umjesto toga koristimo platformu Synadia i NATS.io za pojednostavljenje tehničkog skupa i njegove komunikacije.

Koji su glavni izazovi u projektiranju i izgradnji modernih distribuiranih sustava i kako Synadia rješava te izazove?

Većina ljudi dizajnira svoje sustave s fokusom prvo na radna opterećenja, zatim na podatke, a zatim na mrežu potrebnu za njihovo spajanje. Sigurnost je obično zadnja.

Synadijin tehnološki skup, usidren u NATS.io, omogućuje dosljedan i brz dizajn modernih distribuiranih sustava. Oni se mogu prilagoditi pojedinačnim implementacijama u oblaku, ali što je još važnije, ostaju sigurni za budućnost i kada više pružatelja usluga u oblaku, regija i rubnih lokacija uđe u igru.

Možete li navesti primjere kako su Synadijina rješenja pomogla tvrtkama u prevladavanju problema s tradicionalnim modelima povezivanja?

Synadijina platforma omogućuje dizajnerima sustava postizanje brzog uspjeha u implementacijama temeljenim na rubu i dokazivanje tih sustava u budućnosti bez obzira na ciljeve implementacije.

Oni također omogućuju konzistentan sigurnosni model i eliminaciju gomile drugih pokretnih dijelova koji nisu potrebni s platformom Synadia, poput balansera opterećenja, api pristupnika, GSLB-ova, vatrozida, VPN-ova, servisnih mreža itd.

Surađujemo s globalnim proizvođačem originalne opreme koji je želio modernizirati svoju digitalnu infrastrukturu. Cilj je bio izbjeći izolirane aplikacijske projekte i implementirati "globalnu podatkovnu strukturu" u koju bi se mogle uključiti sve njegove buduće digitalne usluge. To su vrste projekata koje nas oduševljavaju.

Kako komercijalne ponude tvrtke Synadia, poput Synadia Clouda i Synadia Platforme, poboljšavaju mogućnosti NATS.io?

Dok ćemo nastaviti sa značajkama otvorenog koda namijenjenim NATS programerima, Synadia pruža IP s dodanom vrijednošću prvenstveno oko nadzora i administracije NATS-a u poduzeću.

Synadia Cloud & Platform su "certificirane" verzije softvera koje su podržane za kritične i poslovne implementacije. Ovo su pakirane ponude koje pružaju niz ponuda od jeftinijih, višeregionalnih i multi-cloud SaaS-a iz Synadia Clouda, do lokalnih i rubnih lokacijskih implementacija za Synadia Platform. Ovo dvoje često rade i zajedno.

Koliko je za Synadiju važan angažman zajednice i koje inicijative poduzimate za poticanje snažne zajednice programera?

Naš tehnološki plan u potpunosti je vođen našim OSS ekosustavom i programerima koji koriste softver. Stalno smo uključeni u ekosustav, komuniciramo i dobivamo povratne informacije.

Značajno smo uložili u resurse kako bismo pomogli razvojnom iskustvu. To uključuje dokumentaciju, video upute i izvore uzorka koda.

Hvala vam na sjajnom intervjuu, čitatelji koji žele saznati više neka ga posjete Sinadija or NATS.io.