De komende verschuiving in AI-infrastructuur: programmeerbaarheid voorbij silicium

Terwijl de hele wereld steeds meer verliefd wordt op AI en al zijn toepassingen, zijn er enkele zeer reële barrières die zijn succes belemmeren. Neem bijvoorbeeld AI-datacenter-infrastructuur, die significante betrouwbaarheidsuitdagingen, prestatiebeperkingen en steeds grotere energieverbruiksbeperkingen kent die beperken hoe ver AI-systemen in de praktijk kunnen worden geschaald. Inderdaad, de steeds veranderende AI-werklasten vragen om een stap naar het volgende stadium van OCS-ontwikkeling — programmeerbare siliciumfotonica-gebaseerde OCS’s — die niveaus van netwerkflexibiliteit mogelijk maakt die nog nooit eerder zijn gezien.

Hoe we hier zijn gekomen: De geschiedenis achter OCS-ontwikkeling

Optische schakelaars (OCS’s) hebben een lange geschiedenis in de telefonie, beginnend in het late 19e/vroege 20e eeuw toen spraakcommunicatie afhankelijk was van schakelen — fysiek schakelen van kabels om een telefoonverbinding tussen twee partijen tot stand te brengen. Pakketgeschakeld werd geïntroduceerd in de jaren 60 als een manier om beter gebruik te maken van gedeelde infrastructuur. Het hield in dat gegevens in kleine “pakketten” werden gebroken om meerdere transmissies toe te laten om over een netwerk te reizen via elke route. In de jaren 70 werden deze pakketten verder gedefinieerd in hoe ze werden geadresseerd, gerouteerd en geleverd over heterogene systemen, en in de jaren 80 werd deze definitie — Transmission Control Protocol/Internet Protocol, of TCP/IP — de internetstandaard om eerder onverenigbare netwerken te laten communiceren onder een gemeenschappelijk kader. Toen netwerk- en schaalbaarheidsvereisten in de jaren 90 groeiden, werden elektrische pakketgeschakelaars (EPS’s) geïntroduceerd. In combinatie met TCP/IP vormden EPS’s de basis voor de groei van het internet en verbonden miljoenen gebruikers wereldwijd. Tegelijkertijd verving glasvezel koper in wereldwijde netwerken, waardoor hogere capaciteit en langere bereik en de mogelijkheid om multi-terabit-snelheden te ondersteunen mogelijk werden.

De dynamische AI-omgeving

Maar in het begin van de 21e eeuw legden AI-werklasten een enorme druk op de huidige elektronische netwerken, waardoor de ontwikkeling van de eerste commerciële MEMS-gebaseerde optische schakelaar (OCS) datacenterarchitecturen noodzakelijk werd. Optische MEMS-schakelaars zijn volledig optische schakelapparaten die microscopisch beweegbare spiegels gebruiken om licht tussen ingangs- en uitgangsvezels om te leiden zonder het signaal om te zetten in elektriciteit. Deze MEMS-gebaseerde OCS’s ondersteunen grote poortaantallen, die ideaal zijn voor optische verbinding van verre servers die de beperkingen van koper in datacenters overwinnen. Echter, beperkingen in herconfiguratie-snelheid, kosten per poort en vormfactor zijn duidelijk geworden. Deze beperkingen voorkomen dat MEMS-gebaseerde OCS’s de behoefte aan netwerkherconfiguratie in real-time in het hart van de datacenter-computermotor — het schaalbaarheidsnetwerk — kunnen aanpakken, vooral in het licht van AI-werklasten.

Inderdaad, vandaag de dag worden de beperkingen van MEMS-gebaseerde OCS’s en de eisen aan het AI-datacenter alleen maar meer uitgesproken, dankzij de enorme, niet-lineaire, onvoorspelbare veranderingen die door AI elk jaar of elke zes maanden — zo niet elke kwartaal — worden geïntroduceerd. AI-datacenter-ecosysteemactoren worden nu gevraagd om snel aan te passen en te reageren op het steeds veranderende AI-landschap. En netwerkontwerpers worden onder druk gezet om hun AI-datacenter-netwerken te herconfigureren of te herprogrammeren zoals nodig om problemen binnen het netwerk te omzeilen of om de nieuwe niveaus van AI-werklasten met geoptimaliseerde prestaties te beheren.

Programmeerbare siliciumfotonica: Verder gaan dan een ‘bevroren’ netwerk

Programmeerbare siliciumfotonica (SiPh) OCS’s zijn de volgende stap in OCS-ontwikkeling. Laag in kosten, zeer compact en aangedreven door software, kunnen deze fotonische chips onmiddellijk worden herprogrammeerd om in real-time de manier van licht aan te passen en dus het netwerk te herconfigureren. In vergelijking met MEMS is de programmeerbare SiPh OCS een solide-staat technologie, die veel betrouwbaarheidsrisico’s wegneemt omdat er geen bewegende delen zijn. Solide-staat, CMOS-compatibele technologie impliceert ook dat het de optimale GPU-cluster-doelstelling van $100 per radix kan evenaren.

Programmeerbare SiPh OCS’s versterken AI-datacenter-architecturen op twee kritieke manieren. Ten eerste, ze ermöglichen snelle herconfiguratie van GPU-interconnects zodat werklasten efficiënter kunnen worden uitgevoerd en sneller kunnen worden voltooid. Aangezien AI-training evolueert, moeten communicatietopologieën dynamisch veranderen — zelfs binnen de trainingsjob — zonder pakketverlies. Dit vereist extreem snelle herconfiguratie-tijden, een gebied waarin SiPh OCS-schaalbaarheid fundamenteel superieur is aan MEMS-gebaseerde benaderingen, met herconfiguratie- en transductietijden die vele malen sneller zijn dan MEMS-technologieën.

Ten tweede, SiPh OCS-programmeerbaarheid stelt aanvullende functies in staat om rechtstreeks in de schakelfabric te worden geïntegreerd zonder de vormfactor te schalen. Mogelijkheden zoals real-time telemetrie via SiGe-geïntegreerde fotodetectors en linkamplificatie kunnen worden geïntegreerd om observabiliteit te verbeteren en falenbestendigheid te verhogen. Terwijl MEMS-gebaseerde OCS’s typisch 2–3 dB optische verlies introduceren, kunnen SiPh OCS-implementaties zo worden ontworpen dat ze effectief verliesvrij zijn, waardoor de algehele systeemflexibiliteit en efficiëntie worden verbeterd.

Kijken naar de toekomst

Omdat historische datacenter-netwerken star en niet kunnen bijhouden met de veranderende behoeften van AI-datacenters, biedt de markt voor programmeerbare SiPh-technologie een multibilliondollar-kans. Samen met deze enorme groei komt de behoefte aan samenwerking en coöperatie onder bedrijven die aan de basis staan van deze nieuwe technologie. Daartoe bestaat er een OCP-standaardisatieorgaan — dat Google, Microsoft, Lumentum en andere innovators omvat — dat als doel heeft om de software-interface voor de netwerkbeheerder die OCS gebruikt zo standaard en gemakkelijk mogelijk te maken. Samen delen deze bedrijven hun perspectieven en creëren ze standaarden om de technologie vooruit te helpen en adoptie te versnellen.

Aangezien AI de evolutie in onze wereld aandrijft, moeten AI-datacenter-netwerken eveneens evolueren en toekomstbestendig zijn om het te ondersteunen. Programmeerbare SiPh OCS’s stellen bedrijven in staat om te creëren op het hoogste niveau van innovatie en om nieuwe en spannende kansen voor iedereen te realiseren.