Den kommende skift i AI-infrastruktur: Programmabilitet ud over silicium

Mens hele verden er mere og mere forelsket i AI og alle dets anvendelser, findes der nogle meget reelle barrierer, der forhindrer dets fulde succes. Tag for eksempel AI-datacenter-infrastruktur, som står over for betydelige pålidelighedsudfordringer, performancebottlenecks og stigende strømforbrugsbegrænsninger, der begrænser, hvor langt AI-systemer kan skala i praksis. Faktisk kræver AI’s konstant skiftende arbejdslast en overgang til det næste trin i OCS-udvikling — programmable silicium-fotonik-baserede OCS’er — som muliggør niveauer af netværksflexibilitet, der ikke er set før.

Hvordan vi kom hertil: Historien bag OCS-udviklingen

Optiske kredsløbsskiftere (OCS’er) har rødder i en lang historie af telefoni, der startede i slutningen af 19. eller begyndelsen af 20. århundrede, da stemmekommunikation afhængig af kredsløbsskiftning — fysisk skiftning af kabler for at etablere en telefonforbindelse mellem to parter. Pakkeskiftning blev introduceret i 1960’erne som en måde at gøre bedre brug af delt infrastruktur. Det indebar at bryde data ned i små “pakker” for at tillade multiple transmissioner at rejse over et netværk på enhver rute. I 1970’erne blev disse pakker yderligere defineret i, hvordan de blev adresseret, routeret og leveret over heterogene systemer, og i 1980’erne blev denne definition — Transmission Control Protocol/Internet Protocol, eller TCP/IP — den internetstandard, der tillod tidligere uforenelige netværk at kommunikere under en fælles ramme. Da netværks- og skala-krav voksede i 1990’erne, blev elektriske pakkeskiftere (EPS’er) introduceret. Kombineret med TCP/IP understøttede EPS’er internettets vækst og forbinder millioner af brugere globalt. Samtidig begyndte fiber at erstatte kobber i globale netværk, og tilbød højere kapacitet og længere rækkevidde og evnen til at understøtte multi-terabit-hastigheder.

Det dynamiske AI-miljø

Men allerede i begyndelsen af 21. århundrede påførte AI-arbejdslast en enorm belastning på nuværende elektronisk-baserede netværk, hvilket fremkaldte udviklingen af de første kommercielle MEMS-baserede optiske kredsløbsskiftere (OCS) datacenter-arkitekturer. Optiske MEMS-skiftere er alle-optiske skiftere, der bruger mikroskopiske flytbare spejle til at omdirigere lys mellem input- og output-fibere uden at konvertere signalet til elektricitet. Disse MEMS-baserede OCS’er understøtter store portantal, der er ideelle til at optisk forbinde fjerne servere og overvinde kobberbegrænsninger i datacenter. Men begrænsninger i omkonfigurationshastighed, omkostninger pr. port og formfaktor er blevet åbenlyse. Disse begrænsninger forhindrer MEMS-baserede OCS’er i at imødekomme behovet for netværks-omkonfiguration i hjertet af datacenter-computermotoren, skala-netværket — især i forhold til AI-arbejdslast.

Faktisk er begrænsningerne for MEMS-baserede OCS’er og kravene til AI-datacenteret blot blevet mere udtalt, takket være de massive, ikke-lineære, uforudsigelige ændringer, der introduceres af AI hver år eller hver seks måned — hvis ikke hver kvartal. AI-datacenter-økosystem-aktører bliver nu bedt om at tilpasse sig hurtigt og reagere på den konstant skiftende AI-landsby. Og netværksdesignere er under pres for at omkonfigurere eller omprogrammere deres AI-datacenter-netværk efter behov for at undgå problemer inden for netværket eller håndtere det nye niveau af AI-arbejdslast, der kræver optimeret ydelse.

Programmable silicium-fotonik: Flytning ud over et ‘frosset’ netværk

Programmable silicium-fotonik (SiPh) OCS’er er det næste trin i OCS-udviklingen. Lav omkostning, meget kompakt og drevet af software, kan disse fotoniske chippenes være omgående omprogrammeret for at tilpasse sig i realtid måden, lys og derfor omkonfigurere netværket på. I sammenligning med MEMS er den programmable SiPh OCS fast-stat-teknologi, der fjerner en masse pålidelighedsrisiko, da der ikke er nogen flytbare dele. Fast-stat, CMOS-kompatibel teknologi indebærer også, at den kan matche det optimale GPU-cluster-mål på 100 $ pr. radix.

Programmable SiPh OCS’er styrker yderligere AI-datacenter-arkitekturer på to kritiske måder. Først muliggør de hurtig omkonfiguration af GPU-interconnects, så arbejdslast kan udføres mere effektivt og afsluttes hurtigere. Da AI-træning udvikler sig, skal kommunikationstopologier ændres dynamisk — selv inden for træningsjobbet — uden pakketab. Dette kræver ekstremt hurtige omkonfigurationsgange, et område, hvor SiPh OCS-skala er fundamentalt overlegen for MEMS-baserede tilgange, der understøtter omkonfiguration og transduktionstider, der er mange størrelsesordener hurtigere end MEMS-teknologier.

Anden, SiPh OCS-programmering tillader yderligere funktioner at blive integreret direkte i skiftestykket uden at skalere på formfaktor. Funktioner som realtids-telemetri via SiGe-integrerede fotodetektorer og link-forstærkning kan inkorporeres for at forbedre observerbarhed og forbedre fejlresiliens. Mens MEMS-baserede OCS’er typisk introducerer 2-3 dB optisk tab, kan SiPh OCS-implementationer være designet til at være effektivt tabfrie, hvilket forbedrer den samlede systemflexibilitet og effektivitet.

Udsigter

Fordi historiske datacenter-netværk er stive og ikke kan følge med de skiftende behov i AI-datacenter, præsenterer markedet for programmable SiPh-teknologi en multi-milliard-dollar-mulighed. Sammen med denne enorme vækst kommer behovet for samarbejde og samarbejde mellem virksomheder, der er i hjertet af denne nye teknologi. Til den ende findes der en OCP-standardiseringskrop — som inkluderer Google, Microsoft, Lumentum og andre innovatører — der sigter mod at gøre softwaregrænsefladen for netværksmanageren, der bruger OCS, så standard og let at bruge som muligt. Sammen deler disse virksomheder deres perspektiver og skaber standarder for at flytte teknologien fremad og accelerere adoption.

Da AI driver udvikling i vores verden, skal AI-datacenter-netværk også udvikle sig og være fremtidssikre for at understøtte det. Programmable SiPh OCS’er muliggør, at virksomheder kan skabe på toppen af innovation og realisere nye og spændende muligheder for alle.