Derek Collison, grundare och VD för Synadia – Intervjuserie

Derek Collison är grundare och VD för Synadia. Synadia har uppfunnit den öppna källkodsanslutningsteknologin NATS.io. Med NATS kan du enkelt ansluta alla dina applikationer och data i en global skala, oavsett vilket språk de är skrivna i eller var de körs.

Derek Collison är en 30-årig branschveteran, entreprenör och pionjär inom säkra och storskaliga distribuerade system och molntjänster. Han hjälpte till att förändra hur finansiella, transport- och logistiksystem fungerar grundläggande medan han tillbringade över ett decennium på TIBCO, där han designade system som fortfarande driver mycket av dessa branscher idag. På Google (GOOGL ) var Derek med och grundade AJAX API-gruppen och skapade den största CDN för populära JavaScript-bibliotek, och identifierade behovet av enkel och säker åtkomst till Googles tjänster utan behov av extra servrar.

Hur kan AI och edge computing samarbeta för att uppnå låg latens, komplex data bearbetning?

Edge computing har två primära roller att spela i AI-ekonomin. Den primära rollen idag är insamling och distribution av edge-baserad data/telemetri för användning i centraliserad modellträning.

Den framväxande och mycket större möjligheten är för AI-inferens användningsfall. AI och edge computing är en kritisk och kraftfull kombination som möjliggör realtidsbearbetning, minskad latens, förbättrad noggrannhet och förbättrad säkerhet och integritet.

Vi ser nu tydliga tecken på att inferens på edge inte bara handlar om att få stora kvantiserade modeller att köra på edge. Det utvecklas till en multi-steg pipeline, där prompt-augmentering och retrieval-augmenterad generation (RAG) operationer omvandlar den ursprungliga prompten från en användare eller system med hjälp av realtids- och platsoberoende åtkomst till data på edge. Den andra är en graftraversal av flera modeller vs. en enda modell, oavsett om de är lokala eller fjärranslutna.

Vilka är några verkliga tillämpningar där kombinationen av AI och edge computing har haft en betydande inverkan?

AI påverkar varje bransch i en alltmer accelererad takt. Vi ser den öppna källkods-NATS-gemenskapen och ekosystemet bygga applikationer och tjänster inom industriell tillverkning och IoT (förutsägande underhåll, processoptimering och digitala tvillingar), autonoma fordon (optimerade rutter och säkerhet), grön energi (energi optimering), detaljhandel (personliga shoppingupplevelser och realtidsinventeringshantering) och FinTech (regleringsenhet och algoritmisk handel) och regering (DoD/IC-gemenskaper, t.ex. drone CUAS).

En av våra kunder är en tillverkare av medicinska enheter som används som en utbildningsplattform på anläggningar över hela världen. Varje lokal händelse måste spelas in och lagras som en del av en certifieringsprocess. Att behöva skicka all trafik tillbaka till det centrala molnet var både kostnadsprohibitivt och svårt för de mer avlägsna sessionerna. Vår nativa edge-funktion möjliggjorde för dem att förenkla sin plattformsleveransförmåga.

Hur ser Synadia på den öppna källkodsteknologins roll i utvecklingen av edge computing?

Edge computing har visat sig vara en annan landskap än molntjänster. Tillvägagångssätten och lösningarna som används i de så kallade “molntjänst-arkitekturerna” översätts inte till edge.

“Vad”-komponenten i lösningen förblir bekant, men “hur” är mycket annorlunda. Synadia/NATS.io ändrar “hur”, inte “vad”, för att lösa utmaningar med mikrotjänster och dataåtkomst och flöde på edge över alla moln och geografier.

Vilka är de viktigaste fördelarna med att använda NATS.io för global anslutning av applikationer och data?

De viktigaste fördelarna med NATS.io kommer från dess unika tillvägagångssätt för anslutning och integrerad datalager. NATS intelligenta anslutning möjliggör att applikationer och tjänster byggs med platsövervakning eller vad vi kallar “nomadiska applikationer”. NATS tar bort kraven på extra molninfrastruktur som lastbalanserare, service mesh eller API-gateways för att tillåta användare att skriva en applikation en gång och distribuera den var som helst.

Byggande på detta är vår datalager med strömmar och nyckel-värdeslagring och objektlagring. Det är kombinationen av vår datalager med anslutningslagret som ger kraftfull åtkomst och flödesmönster som är väl lämpade för edge för latenskänsliga och realtidsapplikationer.

Vilka är de nästa stora innovationerna inom edge och anslutning som du förutser under de kommande åren?

Realtidsflottledning, telemetridatainsamling, analys på edge och naturligtvis AI-inferens på edge i realtid med specifika tidsenvelopper kommer alla att vara prioriterade innovationer. Exempel på detta inkluderar:

• Ökade AI-funktioner på edge: När bearbetningskraften förbättras kommer mer avancerade AI- och maskinlärningsfunktioner att flytta från molnet till edge-enheter.
• 5G och edge computing konvergens: Den fortsatta utrullningen av 5G-nätverk kommer att förvandla edge computing-funktionerna genom att tillhandahålla ultralåg latens och hög bandbredd.
• Edge-till-moln kontinuum: Vi kommer sannolikt att se en mer sömlös integration mellan edge och molntjänster, vilket skapar ett kontinuum där data och arbetsbelastningar distribueras dynamiskt baserat på kraven. Vi gillar termen “verkligen nomadiska applikationer”.
• Hyperlokala datacenter: Det kommer att finnas en spridning av små, hyperlokala datacenter för att stödja edge computing-behov. Företag som Akamai återanvänder redan infrastruktur för att skapa ett globalt nätverk av edge-datacenter.
• Branschspecifika edge-lösningar: Vi kommer att se mer anpassade edge computing-lösningar för specifika branscher som hälsovård, tillverkning, detaljhandel och jordbruk som hanterar unika utmaningar och möjligheter i varje sektor.

Hur positionerar sig Synadia för att leda i dessa framtida trender?

Vår tillvägagångssätt är först att tackla nätverksanslutning, sedan data och vi introducerade nyligen möjligheten att hantera arbetsbelastningar naturligt med NATS Execution Engine (NEX). Detta skiljer sig från andra och gjorde att vi blev mycket missförstådda tidigt. Men detta tillvägagångssätt har möjliggjort att vi kan ta med innovativa och mycket kraftfulla lösningar till marknadsutmaningar runt systemdesign och edge.

När applikationer övergår till mikrotjänster och flyttar till edge, måste vi se till att de olika komponenterna kan kommunicera. Vi vänder på det vanliga tidskrävande tillvägagångssättet att lägga till API-gateways och service mesh, och istället använder vi Synadia-plattformen och NATS.io för att förenkla tekniska stacken och dess kommunikation.

Vilka är de viktigaste utmaningarna i att designa och bygga moderna distribuerade system, och hur hanterar Synadia dessa utmaningar?

De flesta designar sina system med fokus på arbetsbelastningar först, sedan data, sedan slutligen det nätverk som behövs för att kombinera dem. Säkerhet läggs vanligtvis till sist.

Synadias tekniska stack, förankrad i NATS.io, möjliggör konsekvent och snabb design av moderna distribuerade system. Dessa kan anpassas till enkelmolnsdistributioner, men viktigare, förbli framtidsproof och säkra när flera molnleverantörer, regioner och edge-platser kommer in i bilden.

Kan du ge exempel på hur Synadias lösningar har hjälpt företag att övervinna problem med traditionella anslutningsmodeller?

Synadias plattform möjliggör för systemdesigners att uppnå snabb framgång i edge-baserade distributioner och att framtidsproofa dessa system oavsett distributionsmål.

De möjliggör också en konsekvent säkerhetsmodell och eliminering av en mängd andra rörliga delar som inte behövs med Synadia-plattformen, som lastbalanserare, API-gateways, GSLB, brandväggar, VPN, service mesh etc.

Vi arbetar med en global bil-OEM som ville modernisera sin digitala infrastruktur. Målet var att undvika siloade applikationsprojekt och distribuera en “global data tyg” som alla framtida digitala tjänster kunde ansluta till. Detta är de typer av projekt som exciterar oss.

Hur förbättrar Synadias kommersiella erbjudanden, som Synadia Cloud och Synadia Platform, NATS.io:s funktioner?

Medan vi kommer att fortsätta öppna källkods-funktioner riktade mot en NATS-utvecklare, tillhandahåller Synadia värde-tillagt IP primärt runt företagsövervakning och administration av NATS.

Synadia Cloud och Synadia Platform är “certifierade” versioner av programvaran som stöds för uppdragskritiska och företagsdistributioner. Dessa är paketerade erbjudanden som tillhandahåller ett spektrum av erbjudanden från lägre kostnad, multi-regional och multi-moln SaaS från Synadia Cloud, till on-premise och edge-platsdistributioner för Synadia Platform. Dessa två fungerar ofta tillsammans.

Hur viktigt är gemenskapsengagemang för Synadia, och vilka initiativ tar ni för att främja en stark utvecklargemenskap?

Vår tekniska vägkarta drivs helt av vår OSS-ekosystem och utvecklarna som använder programvaran. Vi engagerar oss konstant med ekosystemet, interagerar och får feedback.

Vi har gjort en betydande investering i resurser för att hjälpa till med utvecklarupplevelsen. Detta inkluderar dokumentation, video tutorials och exempelkodsresurser.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Synadia eller NATS.io.