Derek Collison, grundlægger og administrerende direktør for Synadia – Interview Series

Derek Collison er grundlægger og administrerende direktør af Synadia. Synadia opfandt open source-forbindelsesteknologien, NATS.io. Med NATS kan du nemt forbinde alle dine applikationer og data på globalt plan, uanset hvilket sprog de er skrevet på, eller hvor de kører.

Derek Collison er en 30-årig industriveteran, iværksætter og pioner inden for sikre og distribuerede systemer i stor skala og cloud computing. Han hjalp med at ændre den måde, hvorpå finansielle, transport- og logistiksystemer grundlæggende fungerede, mens han tilbragte mere end et årti hos TIBCO og designede systemer, der stadig driver en stor del af disse industrier i dag. Hos Google var Derek med til at stifte AJAX APIs-gruppen og skabte det største CDN for populære javascript-biblioteker, hvilket identificerede behovet for nem og sikker adgang til Googles tjenester uden behov for yderligere servere.

Hvordan kan AI og edge computing arbejde sammen for at opnå kompleks databehandling med lav latens?

Edge computing har to primære roller at spille i AI-økonomien. Den primære rolle i dag er i indsamling og distribution af kantbaserede data/telemetri til brug for at understøtte den centraliserede træning af modeller.

Den nye og meget større mulighed er for AI-inferencing use cases. AI og edge computing er en kritisk og kraftfuld kombination, der muliggør realtidsbehandling, reduceret latenstid, forbedret nøjagtighed og forbedret privatliv og sikkerhed.

Vi ser nu tydelige tegn på, at inferens på kanten ikke blot er at få store kvantificerede modeller til at køre på kanten. Det er ved at udvikle sig til en flertrins pipeline, hvor prompt augmentation og retrieval-augmented generation (RAG)-operationer transformerer den indledende prompt fra en bruger eller et system ved hjælp af realtids- og lokationsuafhængig adgang til data ved kanten. Den anden er en grafgennemgang af flere modeller vs. en enkelt model, uanset om de er lokale eller fjerntliggende.

Hvad er nogle applikationer i den virkelige verden, hvor kombinationen af ​​AI og edge computing har gjort en betydelig indflydelse?

AI påvirker enhver industri med stigende hastighed. Vi ser open source NATS-fællesskabet og økosystembyggende applikationer og tjenester inden for industriel fremstilling og IoT (forudsigende vedligeholdelse, procesoptimering og digitale tvillinger), autonome køretøjer (optimerede ruter og sikkerhed), grøn energi (energioptimering), detailhandel (personliggjort indkøbsoplevelser og lagerstyring i realtid), FinTech (lovoverholdelse og algoritmisk handel) og regering (DoD/IC-fællesskaber f.eks. drone-CUAS).

En af vores kunder er en producent af medicinsk udstyr, der bruges som træningsplatform på faciliteter over hele kloden. Hver lokal begivenhed skal fanges og opbevares som en del af en certificeringsproces. At skulle trombone al trafik tilbage til den centrale sky var både uoverkommeligt og svært for de mere fjerntliggende sessioner. Vores native edge-kapaciteter gjorde det muligt for dem at forenkle deres platformleveringskapaciteter.

Som skaberne af NATS.io, hvordan ser du open source-teknologi forme fremtiden for edge computing?

Edge computing har vist sig at være et andet landskab end cloud computing. De tilgange og løsninger, der bruges i de nuværende såkaldte "cloud native" arkitekturer, oversætter ikke til kanten.

"Hvad"-komponenten i løsningen forbliver velkendt, men "hvordan" er meget anderledes. Synadia/NATS.io ændrer "hvordan", ikke "hvad", for at løse udfordringer med mikrotjenester og dataadgang og flow på kanten på tværs af enhver sky eller geografi.

Hvad er de vigtigste fordele ved at bruge NATS.io til global tilslutning af applikationer og data?

De vigtigste fordele ved NATS.io kommer fra dens unikke tilgang til tilslutning og integreret datalag. NATS' intelligente tilslutningsmuligheder gør det muligt at bygge applikationer og tjenester med lokalitetsgennemsigtighed eller hvad vi kan lide at kalde "nomadiske applikationer." NATS fjerner kravene til ekstra cloud-infrastruktur såsom load balancers, service mesh eller API-gateways for at give brugerne mulighed for at skrive en applikation én gang og implementere den hvor som helst.

Ud fra det bygger vores datalag med strømme og nøgleværdi- og objektlagre. Det er kombinationen af ​​vores datalag med forbindelseslaget, der giver kraftfulde adgangs- og flowmønstre, der passer meget godt til kanten til latensfølsomme og realtidsapplikationer.

Hvad er de næste store innovationer inden for kant og forbindelse, som du forudser i de kommende år?

Flådestyring i realtid, indsamling af telemetridata, analyse på kanten og selvfølgelig AI-inferens på kanten i realtid med specifikke tidsmæssige konvolutter vil alle være prioriterede innovationer. Eksempler på dette omfatter:

• Forøgede AI-kapaciteter på kanten: Efterhånden som processorkraften forbedres, vil mere avancerede AI- og maskinlæringsfunktioner flytte sig fra skyen til edge-enheder.
• 5G og edge computing konvergens: Den fortsatte udrulning af 5G-netværk vil transformere edge computing-kapaciteter ved at give ultra-lav latenstid og høj båndbredde.
• Kant-til-sky kontinuumVi vil sandsynligvis se en mere problemfri integration mellem edge- og cloud computing, hvilket skaber et kontinuum, hvor data og arbejdsbelastninger dynamisk implementeres baseret på krav. Vi kan godt lide udtrykket "ægte nomadiske applikationer".
• Hyperlokale datacentre: Der vil være en spredning af små, hyperlokale datacentre til at understøtte edge computing-behov. Virksomheder som Akamai omstiller allerede infrastrukturen for at skabe et globalt netværk af edge-datacentre.
• Branchespecifikke kantløsningerVi vil se flere skræddersyede edge computing-løsninger til specifikke brancher som sundhedspleje, produktion, detailhandel og landbrug, der adresserer unikke udfordringer og muligheder i hver sektor.

Hvordan positionerer Synadia sig til at føre an i disse fremtidige tendenser?

Vores tilgang er først at tackle netværksforbindelse, derefter data, og vi introducerede for nylig muligheden for at håndtere arbejdsbelastninger indbygget med NATS Execution Engine (NEX). Denne anderledes tilgang fra andre fik os tidligt til at blive meget misforstået. Men denne tilgang har givet os mulighed for at bringe nogle innovative og meget kraftfulde løsninger til markedsudfordringer omkring systemdesign og kant.

Efterhånden som applikationer overgår til mikrotjenester og bevæger sig til kanten, skal vi sikre, at de forskellige komponenter kan kommunikere. Vi vender den normale tidskrævende tilgang med at tilføje API-gateways og servicemasker, og i stedet udnytter vi Synadia Platform og NATS.io til at forenkle tech-stakken og dens kommunikation.

Hvad er hovedudfordringerne ved at designe og bygge moderne distribuerede systemer, og hvordan løser Synadia disse udfordringer?

De fleste mennesker designer deres systemer med først og fremmest fokus på arbejdsbelastninger, derefter data og til sidst det netværk, der skal til for at sætte dem sammen. Sikkerhed er normalt lagt til sidst.

Synadias tech-stack, forankret af NATS.io, tillader ensartet og hurtigt design af moderne distribuerede systemer. Disse kan tilpasse sig enkelte cloud-implementeringer, men endnu vigtigere forbliver fremtidssikrede og sikre, når flere cloud-udbydere, regioner og kantplaceringer kommer ind i billedet.

Kan du give eksempler på, hvordan Synadias løsninger har hjulpet virksomheder med at overvinde problemer med traditionelle tilslutningsmodeller?

Synadias platform giver systemdesignere mulighed for at opnå hurtig succes i edge-baserede implementeringer og fremtidssikre disse systemer uanset implementeringsmål.

De tillader også en ensartet sikkerhedsmodel og eliminering af en masse andre bevægelige dele, der ikke er nødvendige med Synadia-platformen, såsom belastningsbalancere, api-gateways, GSLB'er, firewalls, VPN'er, servicemasker osv.

Vi arbejder med en global auto OEM, der ønskede at modernisere sin digitale infrastruktur. Målet var at undgå silede applikationsprojekter og implementere et "globalt datastof", som alle dets fremtidige digitale tjenester kunne tilsluttes. Det er den type projekter, der begejstrer os.

Hvordan forbedrer Synadias kommercielle tilbud, såsom Synadia Cloud og Synadia Platform, mulighederne for NATS.io?

Mens vi vil fortsætte med open source-funktioner målrettet en NATS-udvikler, leverer Synadia værditilvækst IP primært omkring virksomhedsovervågning og administration af NATS.

Synadia Cloud & Platform er "certificerede" versioner af softwaren, der understøttes til missionskritiske og virksomhedsimplementeringer. Disse er pakkede tilbud, der giver et spektrum af tilbud fra lavere omkostninger, multi-regional og multi-cloud SaaS fra Synadia Cloud, til on-premise og edge location-implementeringer til Synadia Platform. Disse to arbejder ofte også sammen.

Hvor vigtigt er samfundsengagementet for Synadia, og hvilke initiativer tager du for at fremme et stærkt udviklerfællesskab?

Vores teknologikøreplan er fuldstændig drevet af vores OSS-økosystem og udviklerne, der bruger softwaren. Vi engagerer os konstant i økosystemet, interagerer og får feedback.

Vi har foretaget en betydelig investering i ressourcer for at hjælpe med udvikleroplevelsen. Dette inkluderer dokumentation, video selvstudier og eksempelkoderessourcer.

Tak for det gode interview, læsere, der ønsker at lære mere, bør besøge Synadia or NATS.io.