Derek Collison, grundlægger og administrerende direktør for Synadia – Interviewserie

Derek Collison er grundlægger og administrerende direktør for Synadia. Synadia har opfundet den åbne kildekode-teknologi, NATS.io. Med NATS kan du nemt tilslutte alle dine applikationer og data på en global skala, uanset hvilket sprog de er skrevet i eller hvor de køres.

Derek Collison er en 30-årig brancheveteran, iværksætter og pioner inden for sikre og store distribuerede systemer og cloud computing. Han hjalp med at ændre, hvordan finansielle, transports- og logistiksystemer grundlæggende fungerer, mens han tilbragte over et årti hos TIBCO, hvor han designede systemer, der stadig driver en stor del af disse industrier i dag. Hos Google (GOOGL ) var Derek med til at grundlægge AJAX APIs-gruppen og oprettede det største CDN for populære JavaScript-biblioteker, hvor han identificerede behovet for let og sikker adgang til Googles tjenester uden behov for ekstra servere.

Hvordan kan AI og edge computing arbejde sammen for at opnå lav ventetid, kompleks data bearbejdning?

Edge computing har to primære roller at spille i AI-økonomien. Den primære rol i dag er indsamling og distribution af edge-baseret data/telemetri til brug for central træning af modeller.

Den opblomstrende og langt større mulighed er for AI-inferens-sæt. AI og edge computing er en kritisk og kraftfuld kombination, der muliggør realtidsbearbejdning, reduceret ventetid, forbedret nøjagtighed og forbedret sikkerhed og privatliv.

Vi ser nu klare tegn på, at inferens på kanten ikke blot handler om at få store kvantificerede modeller til at køre på kanten. Det udvikler sig til en multi-stages pipeline, hvor prompt-augmentering og retrieval-augmenterede generation (RAG)-operationer transformerer den oprindelige prompt fra en bruger eller system ved hjælp af realtids- og lokalitetsuafhængig adgang til data på kanten. Den anden er en graftraversering af multiple modeller vs. en enkelt model, uanset om de er lokale eller fjerne.

Hvilke er nogle virkelige anvendelser, hvor kombinationen af AI og edge computing har haft en betydelig indvirkning?

AI har indvirkning på hver industri med en øgende hastighed. Vi ser den åbne kildekode-NATS-samfund og økosystem bygge applikationer og tjenester i industrielt fremstilling og IoT (prædictiv vedligeholdelse, procesoptimering og digitale tvilling), autonome køretøjer (optimerede ruter og sikkerhed), grøn energi (energi-optimering), detailhandel (personlige indkøbsoplevelser og realtids-inventarstyring), FinTech (regulerings-overholdelse og algoritme-handel) og regering (DoD/IC-samfund f.eks. drone CUAS).

En af vores kunder er en producent af medicinske enheder, der bruges som et træningsplatform på faciliteter over hele verden. Hver lokal begivenhed skal indsamles og gemmes som en del af en certificeringsproces. Det var både omkostningsprohibitivt og svært for de mere fjerntliggende sessioner at sende al trafik tilbage til den centrale sky. Vores native edge-kapaciteter gjorde det muligt for dem at forenkle deres platformleveringsmuligheder.

Hvordan ser I, som skabere af NATS.io, åbne kildekode-teknologien forme fremtiden for edge computing?

Edge computing har vist sig at være et andet landskab end cloud computing. Tilgangene og løsningerne, der bruges i de såkaldte “cloud-native”-arkitekturer, oversætter sig ikke til kanten.

“Hvad”-komponenten af løsningen forbliver velkendt, men “hvordan” er meget forskelligt. Synadia/NATS.io ændrer “hvordan”, ikke “hvad”, for at løse udfordringer med mikrotjenester og dataadgang og -flow på kanten på tværs af enhver sky eller geografi.

Hvad er de vigtigste fordele ved at bruge NATS.io til global tilslutning af applikationer og data?

De primære fordele ved NATS.io kommer fra dens unikke tilgang til tilslutning og integreret data-lag. NATS’ intelligente tilslutning muliggør, at applikationer og tjenester kan bygges med lokalitets-transparens eller det, vi kalder “nomadiske applikationer”. NATS fjerner kravene til ekstra sky-infrastruktur som load balancere, service mesh eller API-gateways, så brugerne kan skrive en applikation én gang og installere den overalt.

Bygget på det er vores data-lag med streams og nøgle-værdi- og objektgemme. Det er kombinationen af vores data-lag med tilslutnings-laget, der giver kraftfuld adgang og flow-mønstre, der er meget velegnede til kanten til lav-ventetids- og realtids-applikationer.

Hvad er de næste store innovationer i edge og tilslutning, som I forudser i de kommende år?

Realtids-flådestyring, telemetridata-indsamling, analyse på kanten og selvfølgelig AI-inferens på kanten i realtid med specifikke tidsområder vil alle være prioriterede innovationer. Eksempler på dette inkluderer:

• Øget AI-kapacitet på kanten: Da proceskraften forbedres, vil mere avancerede AI- og maskinlæringskapaciteter flytte fra skyen til edge-enheder.
• 5G og edge computing-sammenlægning: Den fortsatte udrolning af 5G-netværk vil transformere edge computing-kapaciteter ved at give ultra-lav ventetid og høj båndbredde.
• Edge-til-sky-kontinuum: Vi vil sandsynligvis se en mere sammentænkt integration mellem edge og cloud computing, hvilket skaber et kontinuum, hvor data og arbejdsbelastninger dynamisk deployes baseret på krav. Vi kan lide udtrykket “sandt nomadiske applikationer”.
• Hyperlokale datacentre: Der vil være en udbredelse af små, hyperlokale datacentre for at understøtte edge computing-behov. Selskaber som Akamai er allerede i gang med at ombruge infrastruktur for at skabe et globalt netværk af edge-datacentre.
• Branchespecifikke edge-løsninger: Vi vil se mere tilpassede edge computing-løsninger for specifikke industrier som sundhedsvesen, fremstilling, detailhandel og landbrug, der adresserer unikke udfordringer og muligheder i hver sektor.

Hvordan positionerer Synadia sig selv for at føre an i disse fremtidige tendenser?

Vores tilgang er først at tackle netværkstilslutning, derefter data, og vi har nyligt introduceret muligheden for at håndtere arbejdsbelastninger på naturlig vis med NATS Execution Engine (NEX). Denne anderledes tilgang fra andre fik os til at være meget misforstået tidligt. Men denne tilgang har gjort det muligt for os at bringe nogle innovative og meget kraftfulde løsninger til markedets udfordringer omkring systemdesign og edge.

Som applikationer overgår til mikrotjenester og flytter til kanten, har vi brug for at sikre, at de forskellige komponenter kan kommunikere. Vi vender den normale tidskrævende tilgang med at tilføje API-gateways og service-mesh, og i stedet udnytter vi Synadia Platform og NATS.io til at forenkle teknologi-stakken og dens kommunikation.

Hvad er de primære udfordringer i design og opbygning af moderne distribuerede systemer, og hvordan adresserer Synadia disse udfordringer?

De fleste designer deres systemer med fokus på arbejdsbelastninger først, derefter data, og til sidst det netværk, der er nødvendigt for at sætte dem sammen. Sikkerhed er normalt lagt til sidst.

Synadias teknologi-stak, forankret i NATS.io, muliggør en konsekvent og hurtig design af moderne distribuerede systemer. Disse kan tilpasse sig til enkelt-sky-installationer, men vigtigere forbliver fremtids-sikre og sikre, når multiple sky-udbydere, regioner og edge-placeringer kommer ind i billedet.

Kan du give eksempler på, hvordan Synadias løsninger har hjulpet virksomheder med at overvinde problemer med traditionelle tilslutningsmodeller?

Synadias platform giver system-designere mulighed for at opnå hurtig succes i edge-baserede installationer og for at fremtids-sikre disse systemer, uanset installationsmål.

De giver også mulighed for en konsekvent sikkerhedsmodel og eliminering af en masse andre flytende dele, der ikke er nødvendige med Synadia-platformen, som load balancere, API-gateways, GSLBs, firewalls, VPN’er, service-mesh og lignende.

Vi samarbejder med en global bil-OEM, der ønskede at modernisere sin digitale infrastruktur. Målet var at undgå siloede applikationsprojekter og installere en “global data-stof”, som alle fremtidige digitale tjenester kunne tilslutte sig. Disse er de typer af projekter, der begejstrer os.

Hvordan forbedrer Synadias kommercielle tilbud, såsom Synadia Cloud og Synadia Platform, NATS.io’s kapaciteter?

Mens vi vil fortsætte med at åbne kildekode-funktioner rettet mod en NATS-udvikler, giver Synadia værdi-tilføjet IP primært omkring enterprise-overvågning og administration af NATS.

Synadia Cloud og Platform er “certificerede” versioner af softwaren, der understøttes til mission-kritiske og enterprise-installationer. Disse er pakket-tilbud, der giver et spektrum af tilbud fra lavere omkostninger, multi-regionale og multi-sky SaaS fra Synadia Cloud til on-premise- og edge-placeringer for Synadia Platform. Disse to arbejder ofte sammen.

Hvor vigtigt er fællesskabsengagement for Synadia, og hvilke initiativer tager I for at fremme et stærkt udvikler-fællesskab?

Vores teknologi-vejledning er fuldstændigt drevet af vores OSS-økosystem og udviklerne, der bruger softwaren. Vi er konstant i gang med at engagere os med økosystemet, interagere og få feedback.

Vi har investeret betydelige ressourcer for at hjælpe med udvikler-oplevelsen. Dette inkluderer dokumentation, video-tutorials og sample-kode-ressourcer.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Synadia eller NATS.io.