Salience Labs rejser 125 mio. dollars i Serie B-finansiering for at opskalere optisk switching til AI-datacentre

Flere GPU’er gør ikke automatisk et AI-system hurtigere. Når tusindvis af processorer skal udveksle data, kan netværket afgøre, hvor meget nyttigt arbejde de dyre chips faktisk udfører. Salience Labs forsøger at løse denne begrænsning med switche, der holder data i det optiske domæne, mens de bevæger sig mellem forbindelser.

Den Oxford-baserede virksomhed har rejst en overtegnet Serie B-runde på 125 millioner dollars anført af Bullhound Capital. Blandt deltagerne er AMD Ventures, Intel Capital, SBI Group, Hudson River Trading og British Business Bank samt eksisterende aktionærer. Bullhound-partneren Callum Stewart indtræder i bestyrelsen.

Kapitalen skal understøtte udrulningen af virksomhedens teknologi til optisk kredsløbskobling, produktion i større mængder og udvidelsen af virksomhedens tilstedeværelse i Silicon Valley. Meddelelsen kommer efter en demonstration af en 64-ports siliciumfotonisk switch på ECOC 2026, og produkter med 128 og 256 porte er på virksomhedens køreplan.

Hvorfor AI-infrastruktur kræver mere end hurtigere processorer

Store AI-arbejdsbelastninger fordeler beregningerne på mange acceleratorer. Acceleratorerne skal udveksle information, og forsinkelser i kommunikationen kan få beregningsressourcerne til at stå og vente. Hvis man øger processorydelsen uden at tage højde for dataflytningen, kan udbyttet på systemniveau derfor blive stadig mindre.

Optiske forbindelser transporterer allerede data gennem mange datacenternetværk. Men en optisk forbindelse og en optisk switch løser forskellige problemer. En forbindelse transporterer signalet; en switch bestemmer, hvilken vej det tager. Ved traditionel elektrisk switching skal optiske signaler konverteres til elektrisk form i switchtrinnet og derefter konverteres tilbage, så de kan sendes videre optisk.

Optisk kredsløbskobling etablerer en rute for selve lyssignalet. Målet er at reducere konverteringsoverhead og skabe en forbindelse med lav latenstid mellem endepunkter. Det er en netværksteknologi: Den erstatter ikke GPU’er og udfører ikke modellens beregninger.

Denne forskel er med til at forklare den stigende interesse for netværk som en begrænsende faktor for AI-ydeevnen. Reelle forbedringer afhænger af, hvordan beregning, hukommelse og sammenkoblinger fungerer sammen, ikke af specifikationerne for én enkelt komponent.

Hvad Saliences tilgang med siliciumfotonik bidrager med

Salience beskriver sit design som en fuldt integreret, helt optisk switcharkitektur, der skal forbinde GPU’er på tværs af flere racks. Teknologien bygger på mere end et årtis forskning i siliciumfotonik med tilknytning til University of Oxford og University of Münster.

Siliciumfotonik integrerer optiske funktioner på halvlederchips. Saliences kommercielle argument er, at integration af switching og forstærkning kan kombinere optisk ydeevne med mulighed for reproducerbar masseproduktion. At omsætte designet til produktionshardware er et centralt formål med Serie B-runden.

Virksomhedens produktdokumentation giver et konkret eksempel med OC-32M-modulet: en ikke-blokerende optisk switch med 32 indgange og 32 udgange, som integrerer en fotonisk chip til switching og forstærkning, driverelektronik, firmware og fiberstik. Dokumentationen beskriver også en rackmonteret evalueringsplatform til kundernes udviklingsarbejde.

For dette modul angiver Salience en latenstid fra indgang til udgang på 10 nanosekunder, en omkonfigurationstid på under 300 mikrosekunder, et indsættelsestab på under 2 dB og et strømforbrug på under én watt pr. port. Det er virksomhedens specifikationer for det dokumenterede produkt, ikke uafhængigt verificerede målinger af det nyligt demonstrerede system med 64 porte.

Switchlatenstid og omkonfiguration er to forskellige ting

De to tidsangivelser beskriver forskellige hændelser. Latenstid handler om, hvor lang tid et signal bruger på at passere gennem en etableret forbindelse. Omkonfiguration handler om, hvor lang tid det tager at ændre, hvilke endepunkter der er forbundet.

En meget hurtig optisk forbindelse betyder ikke, at netværket kan omlægge forbindelserne på samme tidsskala. Applikationer får fordel af, at forbindelsesmønstre og planlægning udnytter kredsløbene effektivt, samtidig med at der tages højde for den tid, det tager at ændre dem.

Indsættelsestab er vigtigt af en anden grund: Optiske signaler mister effekt, når de passerer gennem komponenter og forbindelser. Switchene skal kunne fungere inden for netværkets optiske effektbudget. Salience fremhæver sin integrerede forstærkning som en del af virksomhedens tilgang til at gøre optisk switching praktisk i stor skala.

Virksomhedens teknologiside fremhæver også et lavere strømforbrug og solid-state-pålidelighed. Disse fordele skal vurderes på det rette niveau. Et strømforbrug pr. port er ikke det samme som energiforbruget i en hel AI-klynge, og lav switchlatenstid betyder ikke i sig selv hurtigere træning eller inferens.

Fra 64 porte til et større netværk

ECOC-demonstrationen markerer et skridt videre end det produkt med 32 porte, der beskrives på Saliences website. Virksomheden betegner demonstrationen med 64 porte som den første af sin art inden for optisk kredsløbskobling med siliciumfotonik.

Finansieringen skal understøtte udviklingen frem mod 128 og 256 porte. Et højere portantal kan give flere tilslutningsmuligheder i en enkelt switch, men disse større produkter er fortsat fremtidige løsninger ifølge meddelelsen. Demonstration, kvalificering og tilgængelighed i større mængder er separate milepæle.

Salience retter sig mod både scale-up- og scale-out-miljøer. Scale-up-netværk forbinder acceleratorer i tæt koordinerede computersystemer, mens scale-out-netværk forbinder systemer på tværs af større klynger. Begge kræver højtydende kommunikation, selv om deres topologi og krav til arbejdsbelastninger er forskellige.

Virksomhedens erklærede ambition om at forbinde tusindvis af GPU’er beskriver det tilsigtede netværks omfang; den bør ikke forveksles med portantallet i en enkelt switch. Opbygningen af netværket kræver beslutninger om topologi, styring, kompatibilitet og om, hvordan switchene skal kombineres.

Produktion og integration bliver den næste prøve

Administrerende direktør og medstifter Vaysh Kewada står i spidsen for Salience sammen med teknologidirektør og medstifter Johannes Feldmann. Virksomheden blev grundlagt i 2021 og retter nu ny kapital mod at øge produktionskapaciteten og udvide sin tilstedeværelse i USA, herunder med endnu en lokation på vestkysten.

Meddelelsen fremhæver fortsat kontakt med Keysight Technologies og Tower Semiconductor som en del af planerne om at understøtte implementering og drift i stor skala. Det peger på det arbejde, der skal udføres ud over selve den fotoniske chip: Test, emballering, styreelektronik, systemintegration og pålidelig produktion har alle betydning for, om en ny switch bliver til brugbar infrastruktur.

Opbakningen fra AMD Ventures og Intel Capital vækker interesse fra investorer med tætte forbindelser til computerøkosystemet. Den dokumenterer dog ikke i sig selv en produktintegration, en kundeordre eller en forpligtelse til implementering fra nogen af de to chipproducenter.

Serie B-finansieringen giver Salience ressourcer til at gennemføre overgangen fra demonstrationer af optisk switching til produktion i større skala. Virksomhedens fremskridt vil blive målt på kvalificeret hardware, ensartet produktion og resultater fra konkrete arbejdsbelastninger, der viser, hvor optiske kredsløb forbedrer omkostningseffektiviteten og ydeevnen i AI-infrastruktur.