Ayar Labs haalt $500 miljoen op in serie E bij een waardering van $3,75 miljard om optische interconnects voor AI-infrastructuur te schalen

Ayar Labs heeft $500 miljoen aan financiering opgehaald in een serie E-rondes, waarmee het totale kapitaal dat is opgehaald tot $870 miljoen komt en de waarde van het bedrijf op $3,75 miljard wordt gesteld. De ronde werd geleid door Neuberger Berman en er deden onder andere ARK Invest, Insight Partners, Qatar Investment Authority, Sequoia Global Equities en 1789 Capital aan mee, evenals strategische investeerders AMD, MediaTek, Alchip en NVIDIA.

Het bedrijf zegt dat de nieuwe financiering zal worden gebruikt om de productie- en testcapaciteit voor zijn co-packaged optics (CPO)-platform uit te breiden, een technologie die is ontworpen om een van de meest dringende uitdagingen in AI-infrastructuur aan te pakken: hoe grote hoeveelheden gegevens efficiënt tussen chips te verplaatsen.

De verborgen beperking in AI: gegevensoverdracht

Terwijl AI-koppen vaak de focus leggen op snellere GPUs en grotere modellen, zit een groeiende bottleneck elders – in de verbindingen tussen chips.

Moderne AI-systemen zijn afhankelijk van duizenden GPUs die in parallel werken. Deze processors wisselen voortdurend gegevens uit tijdens training en inferentie. Hoe sneller en efficiënter ze communiceren, hoe krachtiger het totale systeem wordt. Maar de meeste van deze communicatie is nog steeds afhankelijk van elektrische signalen die door koperdraad reizen.

Op kleine schaal werkt koper goed. Op hyperschaal AI-niveaus wordt het problematisch:

• Elektrische signalen verliezen kracht over afstand.
• Hogere bandbreedte vereist meer vermogen.
• Hogere gegevensoverdrachtsnelheden genereren meer warmte.
• Fysieke koperbanen nemen waardevolle ruimte in op printplaten en in pakketten.

Naarmate modellen groeien tot in de triljoenen parameters, is het simpelweg toevoegen van meer GPUs niet langer voldoende. De interconnect – het systeem dat processors met elkaar verbindt – bepaalt steeds meer de totale prestaties en kostenefficiëntie.

Wat is optische interconnect — en waarom is het belangrijk?

Optische interconnect vervangt elektrische gegevensoverdracht door licht.

In plaats van elektronen door koperdraden te duwen, zetten optische systemen elektrische signalen om in lichtpulsen die door kleine optische waveguides of fiber-achtige structuren reizen. Aan de ontvangende kant worden die lichtsignalen weer omgezet in elektrische signalen voor verwerking.

Deze aanpak biedt verschillende voordelen:

• Lagere vermogen per overgedragen bit
• Hogere bandbreedtecapaciteit
• Vermindering van signaaldegradatie over afstand
• Verbeterde energie-efficiëntie per GPU

In eenvoudige bewoordingen kan licht gegevens sneller en met minder energieverlies verplaatsen dan elektriciteit wanneer bandbreedte-eisen extreem worden.

Voor AI-infrastructuur is die efficiëntie van belang. Datacenters worden steeds meer beperkt door stroombudgetten. Als interconnects te veel energie verbruiken, beperkt dit het aantal accelerators dat binnen een vast stroomverbruik kan worden ingezet. Optische interconnect heeft tot doel die druk te verlichten.

Co-Packaged Optics: licht dichter bij de chip brengen

Optische netwerken zijn op zich niet nieuw – glasvezeloptica worden al decennialang gebruikt in de telecommunicatie. Wat wel nieuw is, is co-packaged optics (CPO).

Traditioneel zitten optische modules aan de rand van een serverprint of in afzonderlijke inplugbare transceivers. Co-packaged optics integreert de optische componenten rechtstreeks naast compute-chips binnen hetzelfde pakket. Door de elektrische paden te verkorten en de optische conversie dichter bij de processor te brengen, vermindert het systeem energieverlies en latentie.

Het hart van Ayar Labs’ aanpak is zijn TeraPHY-optische motor, die is ontworpen om te integreren in standaard halfgeleiderfabricage- en verpakkingsworkflows. In plaats van klanten te dwingen hun hele systemen opnieuw te ontwerpen, positioneert het bedrijf zijn technologie als compatibel met bestaande accelerator- en schakelontwerpen.

Het doel is geen incrementele verbetering – het is het mogelijk maken dat duizenden GPUs functioneren als een meer geïntegreerd systeem zonder de stroombudgetten te overbelasten.

Van eenhoornronde tot schaalvergroting

Ayar Labs’ laatste financieringsronde volgt op zijn $155 miljoen serie D in het najaar van 2024, die het bedrijf voorbij de $1 miljard-waardering markeerde en de vroege productie van zijn optische I/O-platform ondersteunde.

De serie E markeert een verschuiving van validatie naar schaalvergroting. Het bedrijf plant om de productie- en testcapaciteit uit te breiden, zijn aanwezigheid in het Taiwanese halfgeleider-ecosysteem te vergroten en de commerciële inzet te versnellen.

De aanwezigheid van zowel institutioneel kapitaal als strategische halfgeleiderinvesteerders in deze ronde geeft aan dat optische interconnect niet langer als puur experimenteel wordt beschouwd. Naarmate AI-infrastructuurbouwprojecten intensiveren, is interconnect-efficiëntie centraal geworden voor prestaties, kosten en energieduurzaamheid.

Als GPUs de motoren van de moderne AI vertegenwoordigen, kan optische interconnect bepalen hoe ver en hoe efficiënt die motoren kunnen draaien.