Derek Collison, grunnlegger og CEO av Synadia – Intervju-serie

Derek Collison er grunnlegger og CEO av Synadia. Synadia har oppfunnet den åpne kildekods-teknologien NATS.io. Med NATS kan du enkelt koble sammen alle dine applikasjoner og data på en global skala, uavhengig av hvilket språk de er skrevet i eller hvor de kjører.

Derek Collison er en 30-års bransje-veteran, entrepreneur og pionér innen sikre og store distribuerte systemer og skytjenester. Han hjalp til å endre måten finansielle, transport- og logistikk-systemer fungerte grunnleggende mens han tilbrakte over ett tiår i TIBCO, hvor han designet systemer som fortsatt driver mye av disse industrien i dag. Hos Google (GOOGL ) var Derek med på å etablere AJAX APIs-gruppen og skapte den største CDN-en for populære JavaScript-biblioteker, og identifiserte behovet for enkel og sikker tilgang til Googles tjenester uten behov for ekstra servere.

Hvordan kan AI og edge computing samarbeide for å oppnå lav-latens, kompleks data-behandling?

Edge computing har to primære roller å spille i AI-økonomien. Den primære rollen i dag er innhenting og distribusjon av edge-basert data/telemetri for bruk i sentralisert modell-trening.

Den fremvoksende og mye større muligheten er for AI-inferens-scenarier. AI og edge computing er en kritisk og kraftfull kombinasjon som muliggjør sanntids-behandling, redusert latens, forbedret nøyaktighet og forbedret sikkerhet og personvern.

Vi ser nå tydelige tegn på at inferens på kanten ikke bare handler om å få store kvantiserte modeller til å kjøre på kanten. Det utvikler seg til en multi-steg pipeline, hvor prompt-augmentering og retrieval-augmentert generering (RAG) operasjoner transformerer den opprinnelige prompten fra en bruker eller system ved hjelp av sanntids- og plass-uavhengig tilgang til data på kanten. Den andre er en graf-gjennomgang av flere modeller vs. en enkelt modell, enten de er lokale eller fjern.

Hva er noen virkelige anvendelser hvor kombinasjonen av AI og edge computing har hatt en betydelig innvirkning?

AI påvirker hver industri med økende hastighet. Vi ser den åpne kildekods-NATS-samfunnet og økosystemet bygge applikasjoner og tjenester i industriell produksjon og IoT (prediktiv vedlikehold, prosess-optimasjon og digitale tvilling), autonome kjøretøy (optimaliserte ruter og sikkerhet), grønn energi (energi-optimasjon), detaljhandel (tilpassede handle-erfaringer og sanntids-inventar-styring), FinTech (regulerings-etterlevelse og algoritme-handel) og regjering (DoD/IC-samfunn, f.eks. drone CUAS).

En av våre kunder er en produsent av medisinske enheter som brukes som et treningsplattform på steder over hele verden. Hver lokal hendelse må bli fanget og lagret som en del av en sertifiseringsprosess. Å måtte sende all trafikk tilbake til det sentrale skytjenesten var både kostnadskrevende og vanskelig for de mer fjerntliggende sesjonene. Våre native edge-egenskaper gjorde det mulig for dem å forenkle deres plattform-leverings-egenskaper.

Hvordan ser dere på hvordan åpen kildekodsteknologi former fremtiden for edge computing?

Edge computing har vist seg å være et annet landskap enn skytjenester. Tilnærmingene og løsningene som brukes i såkalte “cloud native”-arkitekturer oversettes ikke til kanten.

“Hva”-komponenten av løsningen forblir familiær, men “hvordan” er veldig annerledes. Synadia/NATS.io endrer “hvordan”, ikke “hva”, for å løse utfordringer med mikrotjenester og data-tilgang og -flyt på kanten over enhver sky eller geografi.

Hva er de viktigste fordelene med å bruke NATS.io for global tilkobling av applikasjoner og data?

De viktigste fordelene med NATS.io kommer fra dens unike tilnærming til tilkobling og integrert data-lag. NATS’ intelligente tilkobling muliggjør at applikasjoner og tjenester kan bygges med plass-uavhengighet eller hva vi liker å kalle “nomadiske applikasjoner”. NATS fjerner kravene til ekstra sky-infrastruktur som last-balanserere, tjenestemesh eller API-gateway for å la brukerne skrive en applikasjon en gang og deploye den overalt.

Bygget på dette er vårt data-lag med strømmer og nøkkel-verdi- og objekt-lagre. Det er kombinasjonen av vårt data-lag med tilkoblings-laget som gir kraftig tilgang og flyt-mønster som er svært godt egnet for kanten for lav-latens- og sanntids-applikasjoner.

Hva er de neste store innovasjonene i edge og tilkobling som dere forutser i årene som kommer?

Sanntids-flåte-styring, telemetri-data-innhenting, analyse på kanten og selvfølgelig AI-inferens på kanten i sanntid med bestemte tids-omgivelser vil alle være prioritet-innovasjoner. Eksempler på dette inkluderer:

• Økt AI-kapasitet på kanten: Etterhvert som prosesseringskraften forbedres, vil mer avanserte AI- og maskinlærings-kapasiteter flytte fra skytjenester til edge-enheter.
• 5G og edge computing-konvergens: Den fortsatte utrullingen av 5G-nettverk vil transformere edge computing-kapasiteter ved å tilby ultra-lav latens og høy båndbredde.
• Edge-til-skytjenesten-kontinuum: Vi vil sannsynligvis se en mer sammenhengende integrasjon mellom edge og skytjenester, som skaper et kontinuum hvor data og arbeidsbyrde deployes dynamisk basert på krav. Vi liker uttrykket “sanntids-nomadiske applikasjoner”.
• Hyperlokale data-sentre: Det vil være en proliferasjon av små, hyperlokale data-sentre for å støtte edge computing-behov. Selskaper som Akamai er allerede i ferd med å omgjøre infrastruktur for å skape et globalt nettverk av edge-data-sentre.
• Bransje-spesifikke edge-løsninger: Vi vil se mer tilpassede edge computing-løsninger for spesifikke industrier som helse, produksjon, detaljhandel og landbruk som håndterer unike utfordringer og muligheter i hver sektor.

Hvordan stiller Synadia seg for å lede i disse fremtidige trendene?

Vår tilnærming er først å håndtere nettverks-tilkobling, deretter data og vi har nylig introdusert evnen til å håndtere arbeidsbyrde naturlig med NATS Execution Engine (NEX). Denne forskjellige tilnærmingen fra andre gjorde at vi ble meget misforstått tidlig. Imidlertid har denne tilnærmingen gjort det mulig for oss å bringe noen innovative og svært kraftfulle løsninger til markedets utfordringer rundt system-design og edge.

Som applikasjoner overgang til mikrotjenester og flytter til kanten, må vi sikre at de forskjellige komponentene kan kommunisere. Vi snur den vanlige tids-krevende tilnærmingen til å legge til API-gateway og tjenestemesh, og i stedet utnytte Synadia Platform og NATS.io for å forenkle teknologi-staken og dens kommunikasjon.

Hva er de viktigste utfordringene i å designe og bygge moderne distribuerte systemer, og hvordan håndterer Synadia disse utfordringene?

De fleste designer sine systemer med fokus på arbeidsbyrde først, deretter data, og til slutt nettverket som trengs for å sette disse sammen. Sikkerhet legges vanligvis til sist.

Synadias teknologi-stak, forankret i NATS.io, muliggjør konsistent og rask design av moderne distribuerte systemer. Disse kan tilpasse seg enkelt-skytjeneste-utplasseringer, men viktigere, forbli fremtids-sikre og sikre når flere skytjeneste-tilbydere, regioner og edge-lokasjoner kommer inn i bildet.

Kan du gi eksempler på hvordan Synadias løsninger har hjulpet selskaper å overvinne problemer med tradisjonelle tilkoblings-modeller?

Synadias plattform gjør det mulig for system-designere å oppnå rask suksess i edge-baserte utplasseringer og å fremtids-sikre disse systemene uavhengig av utplasserings-mål.

De gjør det også mulig for en konsistent sikkerhetsmodell og eliminering av en rekke andre bevegelige deler som ikke er nødvendige med Synadia-plattformen, som last-balanserere, API-gateway, GSLB-er, brannmurer, VPN-er, tjenestemesh osv.

Vi arbeider med en global bil-OEM som ønsket å modernisere sin digitale infrastruktur. Målet var å unngå silo-aktige applikasjons-prosjekter og utplassere en “global data-stoff” som alle fremtidige digitale tjenester kunne koble seg til. Disse er de typene prosjekter som begeistrer oss.

Hvordan forbedrer Synadias kommersielle tilbud, som Synadia Cloud og Synadia Platform, NATS.io-kapasiteter?

Mens vi vil fortsette å åpne kildekod-funksjoner rettet mot en NATS-utvikler, tilbyr Synadia verdi-tilføyd IP primært rundt enterprise-overvåking og administrasjon av NATS.

Synadia Cloud og Synadia Platform er “sertifiserte” versjoner av programvaren som støttes for kritiske og enterprise-utplasseringer. Disse er pakket-tilbud som tilbyr et spekter av tilbud fra lavere kostnad, multi-regional og multi-skytjeneste-SaaS fra Synadia Cloud, til på-premise og edge-lokasjons-utplasseringer for Synadia Platform. Disse to arbeider ofte sammen også.

Hvor viktig er samfunns-engasjement for Synadia, og hva initiativer tar dere for å fremme et sterkt utvikler-samfunn?

Vår teknologi-vei-kart er fullstendig drevet av vårt åpne kildekods-økosystem og utviklerne som bruker programvaren. Vi er konstant engasjert med økosystemet, samhandler og får tilbakemeldinger.

Vi har investert betydelige ressurser for å hjelpe med utvikler-erfaringen. Dette inkluderer dokumentasjon, video-tutoriale og eksempel-kode-resurser.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Synadia eller NATS.io.