Derek Collison, grundare och VD för Synadia – Intervjuserie

Derek Collison är grundare och VD för Synadia. Synadia uppfann anslutningstekniken med öppen källkod, NATS.io. Med NATS kan du enkelt ansluta alla dina applikationer och data i global skala, oavsett vilket språk de är skrivna på eller var de körs.

Derek Collison är en 30-årig branschveteran, entreprenör och pionjär inom säkra och storskaliga distribuerade system och cloud computing. Han hjälpte till att förändra hur ekonomi-, transport- och logistiksystem i grunden fungerade samtidigt som han spenderade över ett decennium på TIBCO och designade system som fortfarande driver mycket av dessa industrier idag. På Google var Derek med och grundade AJAX APIs-gruppen och skapade det största CDN för populära javascript-bibliotek, vilket identifierade behovet av enkel och säker åtkomst till Googles tjänster utan behov av ytterligare servrar.

Hur kan AI och edge computing arbeta tillsammans för att uppnå komplex databehandling med låg latens?

Edge computing har två primära roller att spela i AI-ekonomin. Den primära rollen idag är insamling och distribution av kantbaserad data/telemetri för användning för att stödja den centraliserade utbildningen av modeller.

Den framväxande och mycket större möjligheten är användningsfall för AI-inferencing. AI och edge computing är en kritisk och kraftfull kombination som möjliggör realtidsbehandling, minskad latens, förbättrad noggrannhet och förbättrad integritet och säkerhet.

Vi ser nu tydliga tecken på att slutledning vid kanten inte bara är att få stora kvantiserade modeller att köra på kanten. Det håller på att utvecklas till en pipeline i flera steg, en där prompt augmentation och retrieval-augmented generation (RAG) operationer omvandlar den initiala prompten från en användare eller ett system med hjälp av realtids- och platsoberoende åtkomst till data vid kanten. Den andra är en genomgång av flera modeller kontra en enda modell oavsett om de är lokala eller avlägsna.

Vilka är några verkliga applikationer där kombinationen av AI och edge computing har haft en betydande inverkan?

AI påverkar varje bransch i en ökande hastighet. Vi ser NATS-gemenskapen med öppen källkod och ekosystembyggande applikationer och tjänster inom industriell tillverkning och IoT (prediktivt underhåll, processoptimering och digitala tvillingar), autonoma fordon (optimerade rutter och säkerhet), grön energi (energioptimering), detaljhandel (personifierad shoppingupplevelser och lagerhantering i realtid), FinTech (regelefterlevnad och algoritmisk handel) och myndigheter (DoD/IC-gemenskaper t.ex. drönare CUAS).

En av våra kunder är en tillverkare av medicintekniska produkter som används som utbildningsplattform på anläggningar över hela världen. Varje lokal händelse måste fångas och lagras som en del av en certifieringsprocess. Att behöva trombona all trafik tillbaka till det centrala molnet var både kostsamt och svårt för de mer avlägsna sessionerna. Våra inbyggda edge-funktioner gjorde det möjligt för dem att förenkla sina plattformsleveransmöjligheter.

Som skapare av NATS.io, hur ser du på öppen källkodsteknologi forma framtiden för edge computing?

Edge computing har visat sig vara ett annat landskap än cloud computing. De tillvägagångssätt och lösningar som används i de nuvarande så kallade "molnbaserade" arkitekturerna översätts inte till kanten.

"Vad"-komponenten i lösningen är fortfarande bekant, men "hur" är väldigt annorlunda. Synadia/NATS.io ändrar "hur", inte "vad", för att lösa utmaningar med mikrotjänster och dataåtkomst och flöde i utkanten över vilket moln eller geografi som helst.

Vilka är de viktigaste fördelarna med att använda NATS.io för global anslutning av applikationer och data?

De främsta fördelarna med NATS.io kommer från dess unika syn på anslutning och integrerat datalager. NATS intelligenta anslutning gör att applikationer och tjänster kan byggas med platstransparens eller vad vi vill kalla "nomadiska applikationer." NATS tar bort kraven på extra molninfrastruktur som belastningsbalanserare, servicenät eller API-gateways för att tillåta användare att skriva en applikation en gång och distribuera den var som helst.

Bygger på det är vårt datalager, med strömmar och nyckel-värde och objektlager. Det är kombinationen av vårt datalager med anslutningslagret som ger kraftfulla åtkomst- och flödesmönster som är mycket väl lämpade för kanten för latenskänsliga och realtidsapplikationer.

Vilka är de nästa stora innovationerna inom edge och anslutning som du förutser under de kommande åren?

Fleet management i realtid, insamling av telemetridata, analys vid kanten och naturligtvis AI-inferens vid kanten i realtid med specifika tidsenvelopp kommer alla att vara prioriterade innovationer. Exempel på detta inkluderar:

• Ökad AI-kapacitet vid kanten: När processorkraften förbättras kommer mer avancerade AI- och maskininlärningsfunktioner att flyttas från molnet till edge-enheter.
• 5G och edge computing konvergens: Den fortsatta utbyggnaden av 5G-nätverk kommer att förvandla edge computing-kapacitet genom att tillhandahålla ultralåg latens och hög bandbredd.
• Kontinuum från kant till molnVi kommer sannolikt att se en mer sömlös integration mellan edge- och molntjänster, vilket skapar ett kontinuum där data och arbetsbelastningar distribueras dynamiskt baserat på krav. Vi gillar termen "verkligt nomadiska applikationer".
• Hyperlokala datacenter: Det kommer att finnas en spridning av små, hyperlokala datacenter för att stödja edge computing-behov. Företag som Akamai gör redan om infrastrukturen för att skapa ett globalt nätverk av avancerade datacenter.
• Branschspecifika kantlösningarVi kommer att se mer skräddarsydda edge computing-lösningar för specifika branscher som sjukvård, tillverkning, detaljhandel och jordbruk, som tar itu med unika utmaningar och möjligheter inom varje sektor.

Hur positionerar Synadia sig för att leda i dessa framtida trender?

Vårt tillvägagångssätt är först att ta itu med nätverksanslutning, sedan data och vi introducerade nyligen möjligheten att hantera arbetsbelastningar inbyggt med NATS Execution Engine (NEX). Detta annorlunda förhållningssätt från andra gjorde att vi tidigt blev väldigt missförstådda. Men detta tillvägagångssätt har gjort det möjligt för oss att ta med några innovativa och mycket kraftfulla lösningar på marknadens utmaningar kring systemdesign och edge.

När applikationer övergår till mikrotjänster och går mot kanten måste vi säkerställa att de olika komponenterna kan kommunicera. Vi vänder på det normala tidskrävande tillvägagångssättet att lägga till API-gateways och servicenät, och istället utnyttjar Synadia Platform och NATS.io för att förenkla teknikstacken och dess kommunikation.

Vilka är de största utmaningarna med att designa och bygga moderna distribuerade system, och hur hanterar Synadia dessa utmaningar?

De flesta designar sina system med fokus på arbetsbelastning först, sedan data och till sist det nätverk som behövs för att sätta ihop dessa. Säkerheten är vanligtvis skiktad sist.

Synadias tekniska stack, förankrad av NATS.io, tillåter konsekvent och snabb design av moderna distribuerade system. Dessa kan anpassa sig till enstaka molninstallationer, men ännu viktigare förbli framtidssäkra och säkra när flera molnleverantörer, regioner och kantplatser kommer in i bilden.

Kan du ge exempel på hur Synadias lösningar har hjälpt företag att övervinna problem med traditionella uppkopplingsmodeller?

Synadias plattform gör det möjligt för systemdesigners att uppnå snabb framgång i kantbaserade distributioner och att framtidssäkra dessa system oavsett implementeringsmål.

De tillåter också en konsekvent säkerhetsmodell och eliminering av en massa andra rörliga delar som inte behövs med Synadia-plattformen, som lastbalanserare, api-gateways, GSLB:er, brandväggar, VPN:er, servicenät, etc.

Vi arbetar med en global biltillverkare som ville modernisera sin digitala infrastruktur. Målet var att undvika silade applikationsprojekt och distribuera en "global dataväv" som alla dess framtida digitala tjänster kunde anslutas till. Det är den här typen av projekt som entusiasmerar oss.

Hur förbättrar Synadias kommersiella erbjudanden, som Synadia Cloud och Synadia Platform, NATS.ios möjligheter?

Medan vi kommer att fortsätta att använda öppen källkodsfunktioner riktade till en NATS-utvecklare, tillhandahåller Synadia mervärdes-IP främst kring företagsövervakning och administration av NATS.

Synadia Cloud & Platform är "certifierade" versioner av programvaran som stöds för uppdragskritiska och företagsimplementeringar. Dessa är paketerade erbjudanden som tillhandahåller ett spektrum av erbjudanden från lägre kostnad, multiregional och multi-moln SaaS från Synadia Cloud, till lokal- och kantplaceringar för Synadia Platform. Dessa två fungerar ofta också tillsammans.

Hur viktigt är samhällsengagemang för Synadia, och vilka initiativ tar du för att främja en stark utvecklargemenskap?

Vår tekniska färdplan är helt driven av vårt OSS-ekosystem och utvecklarna som använder programvaran. Vi engagerar oss ständigt i ekosystemet, interagerar och får feedback.

Vi har gjort en betydande investering i resurser för att hjälpa till med utvecklarupplevelsen. Detta inkluderar dokumentation, videohandledningar och exempelkodresurser.

Tack för den fina intervjun, läsare som vill veta mer bör besöka Synadia or NATS.io.