Derek Collison, Oprichter & CEO van Synadia – Interview Serie

Derek Collison is de Oprichter & CEO van Synadia. Synadia heeft de open source connectieve technologie NATS.io uitgevonden. Met NATS kun je al je applicaties en gegevens op wereldschaal gemakkelijk verbinden, ongeacht in welke taal ze zijn geschreven of waar ze worden uitgevoerd.

Derek Collison is een 30-jarige industrie-veteraan, ondernemer en pionier op het gebied van beveiligde en grote, gedistribueerde systemen en cloud computing. Hij heeft geholpen om de manier waarop financiële, transport- en logistieke systemen werken fundamenteel te veranderen tijdens zijn meer dan tien jaar bij TIBCO, waar hij systemen ontwierp die nog steeds een groot deel van die industrieën aandrijven. Bij Google (GOOGL ) was Derek mede-oprichter van de AJAX APIs-groep en creëerde hij het grootste CDN voor populaire JavaScript-bibliotheken, waarbij hij de behoefte aan eenvoudige en beveiligde toegang tot de services van Google zonder de noodzaak van extra servers identificeerde.

Hoe kunnen AI en edge computing samenwerken om lage latentie, complexe dataprocessing te bereiken?

Edge computing heeft twee belangrijke rollen te spelen in de AI-economie. De primaire rol vandaag is het verzamelen en distribueren van edge-gebaseerde gegevens/telemetrie voor gebruik bij het centrale trainen van modellen.

De opkomende en veel grotere kans is voor AI-inferencing-toepassingen. AI en edge computing zijn een kritische en krachtige combinatie die real-time verwerking, verlaagde latentie, verbeterde nauwkeurigheid en verbeterde privacy en beveiliging mogelijk maakt.

We zien nu duidelijke signalen dat inferencing aan de edge niet alleen het uitvoeren van grote, gequantificeerde modellen aan de edge is. Het evolueert naar een multi-stage pijplijn, waarbij prompt-augmentatie- en retrieval-augmented generatie (RAG)-bewerkingen de initiële prompt van een gebruiker of systeem transformeren met behulp van real-time en locatie-onafhankelijke toegang tot gegevens aan de edge. Het tweede is een grafische doorloop van meerdere modellen versus één model, of ze nu lokaal of op afstand zijn.

Wat zijn enkele echte toepassingen waarin de combinatie van AI en edge computing een aanzienlijke impact heeft gehad?

AI heeft een impact op elke industrie met een toenemende snelheid. We zien de open-source NATS-gemeenschap en -ecosysteem toepassingen en diensten bouwen in industriële productie en IoT (voorspellend onderhoud, procesoptimalisatie en digitale tweelingen), autonome voertuigen (geoptimaliseerde routes en veiligheid), groene energie (energie-optimalisatie), detailhandel (persoonlijke winkelervaringen en real-time voorraadbeheer), FinTech (regelgevende compliance en algoritmische handel) en overheid (DoD/IC-gemeenschappen, bijv. drone CUAS).

Een van onze klanten is een fabrikant van medische apparaten die als trainingsplatform worden gebruikt in faciliteiten over de hele wereld. Elk lokaal evenement moet worden vastgelegd en opgeslagen als onderdeel van een certificeringsproces. Het was niet alleen kostbaar, maar ook moeilijk om al het verkeer terug naar het centrale cloud te sturen. Onze native edge-mogelijkheden stelden hen in staat om hun platformleveringsmogelijkheden te vereenvoudigen.

Hoe ziet u, als creators van NATS.io, de toekomst van edge computing met open-source technologie?

Edge computing heeft zichzelf bewezen als een ander landschap dan cloud computing. De benaderingen en oplossingen die worden gebruikt in de huidige zogenaamde “cloud native” architectuur vertalen zich niet naar de edge.

Het “wat”-component van de oplossing blijft vertrouwd, maar het “hoe” is heel anders. Synadia/NATS.io verandert het “hoe”, niet het “wat”, om uitdagingen met microservices en gegevenstoegang en -stroom aan de edge overal te overwinnen, ongeacht cloud of geografie.

Wat zijn de belangrijkste voordelen van het gebruik van NATS.io voor wereldwijde connectiviteit van applicaties en gegevens?

De belangrijkste voordelen van NATS.io komen voort uit de unieke benadering van connectiviteit en geïntegreerde datalaag. De intelligente connectiviteit van NATS maakt het mogelijk om applicaties en diensten te bouwen met locatie-transparantie of, zoals wij het noemen, “nomadische applicaties”. NATS verwijdert de behoefte aan extra cloud-infrastructuur, zoals load balancers, service mesh of API-gateways, waardoor gebruikers een applicatie één keer kunnen schrijven en overal kunnen implementeren.

Daaropvolgend is onze datalaag, met streams en key-value en objectopslag. Het is de combinatie van onze datalaag met de connectiviteitslaag die krachtige toegang en stroompatronen biedt die zeer goed geschikt zijn voor de edge voor latency-gevoelige en real-time applicaties.

Wat zijn de volgende grote innovaties in edge en connectiviteit die u in de komende jaren voorziet?

Real-time vlootbeheer, telemetriegegevensverzameling, analyse aan de edge en natuurlijk AI-inferencing aan de edge in real-time met specifieke tijdelijke enveloppen zullen allemaal prioritaire innovaties zijn. Voorbeelden hiervan zijn:

• Verhoogde AI-mogelijkheden aan de edge: Naarmate de verwerkingskracht verbetert, zullen meer geavanceerde AI- en machine learning-mogelijkheden van de cloud naar edge-apparaten verhuizen.
• 5G en edge computing-convergentie: De voortdurende uitrol van 5G-netwerken zal de mogelijkheden van edge computing transformeren door ultra-lage latentie en hoge bandbreedte te bieden.
• Edge-to-cloud continuum: We zullen waarschijnlijk een naadloze integratie zien tussen edge en cloud computing, waardoor een continuum ontstaat waarin gegevens en workloads dynamisch worden geïmplementeerd op basis van vereisten. Wij noemen dit “echt nomadische applicaties”.
• Hyperlokale datacenters: Er zal een proliferatie zijn van kleine, hyperlokale datacenters om de behoeften van edge computing te ondersteunen. Bedrijven als Akamai hergebruiken al infrastructuur om een wereldwijd netwerk van edge-datacenters te creëren.
• Branchespecifieke edge-oplossingen: We zullen meer op maat gemaakte edge-computingoplossingen zien voor specifieke industrieën, zoals gezondheidszorg, productie, detailhandel en landbouw, die unieke uitdagingen en kansen in elke sector aanpakken.

Hoe positioneert Synadia zich om te leiden in deze toekomstige trends?

Onze aanpak is eerst om netwerkconnectiviteit aan te pakken, dan gegevens en we hebben onlangs de mogelijkheid geïntroduceerd om workloads native te verwerken met de NATS Execution Engine (NEX). Deze afwijkende aanpak van anderen zorgde ervoor dat we in het begin erg werden miskend. Deze aanpak heeft ons echter in staat gesteld om enkele innovatieve en zeer krachtige oplossingen te brengen voor uitdagingen rond systeemontwerp en edge.

Terwijl applicaties overgaan op microservices en naar de edge verhuizen, moeten we ervoor zorgen dat de verschillende componenten kunnen communiceren. We keren de gebruikelijke tijdrovende aanpak van het toevoegen van API-gateways en service meshes om en gebruiken in plaats daarvan Synadia Platform en NATS.io om de technische stack en de communicatie ervan te vereenvoudigen.

Wat zijn de belangrijkste uitdagingen bij het ontwerpen en bouwen van moderne, gedistribueerde systemen, en hoe lost Synadia deze uitdagingen op?

De meeste mensen ontwerpen hun systemen met een focus op workloads eerst, dan gegevens, en ten slotte het netwerk dat nodig is om deze samen te stellen. Beveiliging wordt meestal als laatste laag toegevoegd.

De technische stack van Synadia, verankerd in NATS.io, maakt een consistente en snelle ontwikkeling van moderne, gedistribueerde systemen mogelijk. Deze kunnen worden aangepast voor implementaties in één cloud, maar zijn vooral toekomstbestendig en beveiligd wanneer meerdere cloudproviders, regio’s en edge-locaties in beeld komen.

Kunt u voorbeelden geven van hoe de oplossingen van Synadia bedrijven hebben geholpen om problemen met traditionele connectiviteitsmodellen te overwinnen?

Het platform van Synadia stelt systeemontwerpers in staat om snel succes te behalen met edge-gebaseerde implementaties en om deze systemen toekomstbestendig te maken, ongeacht de implementatiedoelen.

Ze stellen ook een consistente beveiligingsmodel mogelijk en elimineren een heleboel andere bewegende delen die niet nodig zijn met het platform van Synadia, zoals load balancers, API-gateways, GSLB’s, firewalls, VPN’s, service meshes, enz.

We werken met een wereldwijde auto-OEM die zijn digitale infrastructuur wilde moderniseren. Het doel was om gesiloerde applicatieprojecten te vermijden en een “globale datastof” te implementeren waar alle toekomstige digitale diensten in konden worden geïntegreerd. Dit zijn de soorten projecten die ons enthousiast maken.

Hoe verhogen de commerciële aanbiedingen van Synadia, zoals Synadia Cloud en Synadia Platform, de mogelijkheden van NATS.io?

Terwijl we open-source-functies blijven ontwikkelen die zijn gericht op een NATS-ontwikkelaar, biedt Synadia waarde toegevoegde IP, voornamelijk rond het enterprise-monitoren en -beheren van NATS.

Synadia Cloud & Platform zijn “gecertificeerde” versies van de software die worden ondersteund voor mission-critical en enterprise-implementaties. Deze zijn verpakte aanbiedingen die een spectrum van aanbiedingen bieden, van lagere kosten, multi-regionale en multi-cloud SaaS van Synadia Cloud tot on-premise en edge-locatie-implementaties voor Synadia Platform. Deze twee werken vaak samen.

Hoe belangrijk is community-betrokkenheid voor Synadia, en welke initiatieven neemt u om een sterke ontwikkelaarsgemeenschap te stimuleren?

Onze technische roadmap wordt volledig aangedreven door onze OSS-ecosysteem en de ontwikkelaars die de software gebruiken. We zijn constant in contact met de ecosysteem, interactie en feedback.

We hebben een aanzienlijke investering gedaan in middelen om de ontwikkelaarservaring te helpen. Dit omvat documentatie, video-tutorials en sample-code-resources.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Synadia of NATS.io bezoeken.