Den kommande skiftet i AI-infrastruktur: Programmerbarhet bortom kisel

Medan hela världen alltmer förälskar sig i AI och alla dess applikationer, finns det några mycket verkliga hinder som hindrar dess fulla framgång. Ta till exempel AI-datacenterinfrastruktur, som står inför betydande tillförlitlighetsutmaningar, prestandabottleneck och alltmer elkraftsbesparingsbegränsningar som begränsar hur långt AI-system kan skalas i praktiken. Verkligen, AI:s ständigt föränderliga arbetsbelastningar kräver ett steg in i nästa skede av OCS-utveckling — programmerbara kisel-fotoniska OCS:er — som möjliggör nivåer av nätverksflexibilitet som aldrig tidigare setts.

Hur vi kom hit: Historien bakom OCS-utvecklingen

Optiska kretscommutatorer (OCS:er) har sina rötter i en lång historia av telefoni, som började i slutet av 1800-talet/tidigt 1900-tal när röstkommunikationen byggde på kretscommutering — fysiskt byta kablar för att upprätta en telefonanslutning mellan två parter. Paketcommutering introducerades på 1960-talet som ett sätt att bättre utnyttja delad infrastruktur. Det innebar att bryta data i små “paket” för att tillåta flera överföringar att resa över ett nätverk på vilken väg som helst. På 1970-talet definierades dessa paket ytterligare i hur de adresserades, dirigerades och levererades över heterogena system, och på 1980-talet blev denna definition — Transmission Control Protocol/Internet Protocol, eller TCP/IP — Internetstandard för att tillåta tidigare oförenliga nätverk att kommunicera under ett gemensamt ramverk. När nätverks- och skalbarhetskraven ökade på 1990-talet introducerades elektriska paketcommutatorer (EPS:er). I kombination med TCP/IP utgjorde EPS:erna grunden för Internet-tillväxten och anslöt miljontals användare globalt. Samtidigt började fiber ersätta koppar i globala nätverk, vilket erbjöd högre kapacitet och längre räckvidd och förmåga att stödja multi-terabit-hastigheter.

Den dynamiska AI-miljön

Men i början av 2000-talet utsattes nuvarande elektroniska nätverk för enorma påfrestningar från AI-arbetsbelastningar, vilket ledde till utvecklingen av de första kommersiella MEMS-baserade optiska kretscommutatorarkitekturer (OCS) för datacenter. Optiska MEMS-kommutatorer är all-optiska kommutatorer som använder mikroskopiska rörliga speglar för att omdirigera ljus mellan ingångs- och utgångsfiber utan att omvandla signalen till elektricitet. Dessa MEMS-baserade OCS:er stöder stora portantal, vilket är idealiskt för att optiskt ansluta avlägsna servrar och övervinna kopparbegränsningar i datacenter. Men begränsningar i omkonfigurationshastighet, kostnad per port och formfaktor har blivit uppenbara. Dessa begränsningar förhindrar att MEMS-baserade OCS:er tillgodoser behovet av nätverksomkonfiguration i realtid i hjärtat av datacenterns beräkningsmotor — skalnätverket — särskilt i AI-arbetsbelastningens närvaro.

Verkligen, idag, är begränsningarna för MEMS-baserade OCS:er och kraven på AI-datacentret blir alltmer påtagliga, tack vare de massiva, icke-linjära, oförutsägbara förändringarna som introduceras av AI varje år eller var sjätte månad — om inte varje kvartal. AI-datacenteraktörer måste nu anpassa sig snabbt och svara på den ständigt föränderliga AI-landskapet. Och nätverksdesigners trycks på att omkonfigurera eller omprogrammera sina AI-datacenternätverk efter behov för att undvika problem inom nätverket eller hantera den nya nivån av AI-arbetsbelastningar som kräver optimerad prestanda.

Programmerbar kisel-fotonik: Utanför en ’frusen’ nätverksgräns

Programmerbara kisel-fotoniska (SiPh) OCS:er är nästa steg i OCS-utvecklingen. Låg kostnad, mycket kompakta och drivna av programvara, kan dessa fotoniska chip omprogrammeras omedelbart för att anpassa sig i realtid till ljusets väg och därmed omkonfigurera nätverket. Jämfört med MEMS är den programmerbara SiPh-OCS:en fast tillståndsteknologi, som tar bort mycket av tillförlitlighetsrisken eftersom det inte finns några rörliga delar. Fast tillstånd, CMOS-kompatibel teknik innebär också att den kan matcha den optimala GPU-klustermålkostnaden på 100 dollar per radix.

Programmerbara SiPh-OCS:er stärker AI-datacenterarkitekturerna på två kritiska sätt. Först möjliggör de snabb omkonfiguration av GPU-interconnects så att arbetsbelastningar kan utföras mer effektivt och slutföras snabbare. När AI-utbildning utvecklas, måste kommunikationstopologier ändras dynamiskt — även inom utbildningsjobbet — utan paketförlust. Detta kräver extremt snabba omkonfigurations­tider, ett område där SiPh-OCS:ens skalbarhet är grundläggande överlägsen MEMS-baserade tillvägagångssätt, med stöd för omkonfiguration och transduktions­tider som är flera storleksordningar snabbare än MEMS-teknologier.

För det andra möjliggör SiPh-OCS:ens programmerbarhet att ytterligare funktioner integreras direkt i kommutatorn utan att skalas på formfaktor. Förmågor som realtids-telemetri genom SiGe-integrerade fotodetektorer och länkförstärkning kan införlivas för att förbättra observerbarheten och förbättra felresiliensen. Medan MEMS-baserade OCS:er vanligtvis introducerar 2–3 dB optisk förlust, kan SiPh-OCS-implementeringar utformas för att vara i princip förlustfria, vilket förbättrar den övergripande systemflexibiliteten och effektiviteten.

Blickar framåt

Eftersom historiska datacenternätverk är rigida och inte kan hålla jämna steg med AI-datacenterns förändrade behov, presenterar marknaden för programmerbar SiPh-teknologi en multi-miljarddollar-möjlighet. I samband med denna enorma tillväxt finns behovet av samarbete och samverkan mellan företag som ligger i hjärtat av denna nya tekniken. Till den änden finns det en OCP-standardiseringskropp — som inkluderar Google, Microsoft, Lumentum och andra innovatörer — som syftar till att göra programvaru-gränssnittet för nätverksadministratören som använder OCS så standardiserat och lättanvändbart som möjligt. Tillsammans delar dessa företag gärna sina perspektiv och skapar standarder för att driva tekniken framåt och påskynda antagandet.

När AI driver utvecklingen i vår värld, måste AI-datacenternätverk också utvecklas och vara framtids­säkra för att stödja det. Programmerbara SiPh-OCS:er möjliggör för företag att skapa på toppen av innovationen och förverkliga nya och spännande möjligheter för alla.