Myslitelé

Přicházející posun v infrastruktuře AI: programovatelnost za hranicí křemíku

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Zatímco celý svět je stále více okouzlen AI a všemi jejími aplikacemi, existují velmi reálné bariéry, které brání jejímu plnému úspěchu. Vzít například infrastrukturu datových center AI, která čelí významným výzvám spolehlivosti, výkonovým úzkým místům a stále se zvyšujícím omezením spotřeby energie, které omezují, jak daleko lze AI systémy v praxi škálovat. Skutečně, neustále se měnící pracovní zátěže AI vyžadují přechod do další fáze vývoje OCS – programovatelných optických obvodových přepínačů (OCS) založených na křemíkovém fotoniku, které umožňují úrovně flexibility sítě, které nebyly dříve viděny.

Jak jsme se sem dostali: Historie vývoje OCS

Optické obvodové přepínače (OCS) mají své kořeny v dlouhé historii telefonie, počínaje koncem 19. a počátkem 20. století, kdy komunikace hlasu závisela na přepínání obvodů – fyzickém přepínání kabelů pro navázání telefonního spojení mezi dvěma stranami. Přepínání paketů bylo zavedeno v 60. letech jako způsob, jak lépe využít sdílené infrastruktury. Zahrnovalo rozdělení dat do malých “paketů”, aby umožnilo několik přenosů cestovat po síti po libovolné trase. V 70. letech byly tyto pakety dále definovány tím, jak byly adresovány, směrovány a doručovány po heterogenních systémech, a v 80. letech se tato definice – Transmission Control Protocol/Internet Protocol, nebo TCP/IP – stala internetovým standardem, který umožnil dříve neslučitelné sítě komunikovat v rámci společného rámce. Jak se zvýšily požadavky na síť a škálovatelnost v 90. letech, byly zavedeny elektrické paketové přepínače (EPS). V kombinaci s TCP/IP podpořily EPS růst internetu a propojily miliony uživatelů celosvětově. Ve stejnou dobu začala být vlákna nahrazovat mědí v globálních sítích, nabízející vyšší kapacitu a delší dosah a schopnost podporovat multi-terabitové rychlosti.

Dynamické prostředí AI

Ale na počátku 21. století položily pracovní zátěže AI enormní tlak na současné elektronické sítě, což vedlo k vývoji prvních komerčních architektur datových center založených na MEMS (Micro-Electro-Mechanical Systems). Optické přepínače MEMS jsou zařízení pro přepínání světla, která používají mikroskopické pohyblivé zrcadlo k přesměrování světla mezi vstupními a výstupními vlákny bez převodu signálu na elektrický. Tyto MEMS-založené OCS podporují velké počty portů, které jsou ideální pro optické propojení vzdálených serverů a překonání omezení mědi v datových centrech. Nicméně, omezení v rychlosti rekonfigurace, nákladů na port a faktoru tvaru se stala zjevnými. Tato omezení brání MEMS-založeným OCS v řešení potřeby rekonfigurace sítě v reálném čase v srdci výpočetního motoru datového centra – sítě scale-up – zejména v případě zátěží AI.

Skutečně, dnes, omezení MEMS-založených OCS a požadavky na datové centrum AI se stávají ještě více zřetelnými, díky enormním, nelineárním, nepředvídatelným změnám, které AI přináší každý rok nebo každé šest měsíců – pokud ne každý čtvrtletí. Aktéři ekosystému datových center AI jsou nyní požádáni, aby se rychle přizpůsobili a reagovali na neustále se měnící krajinu AI. A návrháři sítí jsou pod tlakem, aby rekonfigurovali nebo přeprogramovali své sítě datových center AI podle potřeby, aby obešli problémy uvnitř sítě nebo spravovali novou úroveň zátěží AI, které vyžadují optimalizovaný výkon.

Programovatelná křemíková fotonika: Překročení “zamrzlé” sítě

Programovatelné křemíkové fotonické (SiPh) OCS jsou dalším krokem ve vývoji OCS. Nízké náklady, velmi kompaktní a řízené softwarem, tyto fotonické čipy lze okamžitě přeprogramovat, aby se přizpůsobily v reálném čase způsobu, jakým světlo prochází, a tím rekonfigurovat síť. Ve srovnání s MEMS je programovatelný SiPh OCS pevná technologie, která odstraňuje mnoho rizik spolehlivosti, protože neobsahuje pohyblivé části. Pevná, CMOS kompatibilní technologie také znamená, že může dosáhnout optimální cílové náklady GPU clusteru ve výši 100 dolarů za radix.

Programovatelné SiPh OCS dále posilují architektury datových center AI ve dvou kritických směrech. První, umožňují rychlou rekonfiguraci interconnectů GPU, aby se zátěže mohly vykonat efektivněji a dokončit rychleji. Jak se AI trénink vyvíjí, musí se topologie komunikace měnit dynamicky – dokonce i během tréninkového úkolu – bez ztráty paketů. To vyžaduje extrémně rychlé časy rekonfigurace, oblast, ve které je škálovatelnost SiPh OCS fundamentálně lepší než MEMS-založené přístupy, podporující časy rekonfigurace a transdukce řádově rychlejší než technologie MEMS.

Druhé, programovatelnost SiPh OCS umožňuje integrovat další funkce přímo do přepínače bez ovlivnění faktoru tvaru. Schopnosti, jako je reálná telemetrie prostřednictvím SiGe-integrovaných fotodetektorů a zesílení spoje, lze začlenit, aby se zlepšila pozorovatelnost a zvýšila odolnost proti selháním. Zatímco MEMS-založené OCS obvykle zavedou 2-3 dB optické ztráty, implementace SiPh OCS lze navrhnout tak, aby byly efektivě bezztrátové, zlepšující celkovou flexibilitu a efektivitu systému.

Vzhledem dopředu

Protože historické sítě datových center jsou rigidní a nemohou držet krok s měnícími se potřebami datových center AI, trh pro programovatelnou SiPh technologii představuje multi-miliardovou příležitost. Společně s touto enormní příležitostí přichází potřeba spolupráce a koordinace mezi podniky, které jsou v srdci této nové technologie. K tomuto účelu existuje standardizační orgán OCP — který zahrnuje Google, Microsoft (MSFT ), Lumentum a další inovátory — který má za cíl učinit softwareový rozhraní pro síťového manažera pomocí OCS co nejjednodušší a nejpřátelštější. Společně, tyto společnosti rády sdílejí své perspektivy a vytvářejí standardy, aby posunuly technologii dopředu a urychly její přijetí.

Jak AI pohání evoluci našeho světa, sítě datových center AI musí také evoluvovat a být budoucnosti odolné, aby je podporovaly. Programovatelné SiPh OCS umožňují společnostem vytvářet na vrcholu inovací a realizovat nové a vzrušující příležitosti pro všechny.

Christian Dupont je CEO společnosti iPronics, kde vybral desítky milionů na rozšíření společnosti v optických přepínačích pro datové centra AI. Inženýr EPFL s vyznamenáním kariéry v technologickém průmyslu, pan Dupont zastával výkonné role v Texas Instruments, působil jako CEO ve Varioptic a PoLight v oblasti optických MEMS a později jako CEO společnosti CEO-CF, Dolphin Integration a Riber.