AI & AR drijven de vraag naar data – Open source-hardware komt de uitdaging tegemoet

Data is de levensader van de digitale economie, en naarmate nieuwe technologieën ontstaan en evolueren, neemt de vraag naar snellere datatransfer速率, lagere latentie en hogere rekenkracht in datacenters exponentieel toe. Nieuwe technologieën duwen de grenzen van datatransmissie en -verwerking op, en het gebruik van open source-technologieën kan datacenter-operatoren helpen hun huidige operaties te maximaliseren en zich voor te bereiden op de toekomst. Hier zijn enkele voorbeelden van technologie die de vraag naar hoge rekenkracht drijft en de manieren waarop open source-technologie, -gemeenschappen en -normen helpen om deze vraag op grote schaal en op een duurzame manier te beantwoorden.

Kunstmatige intelligentie en machine learning

Kunstmatige intelligentie (AI) en machine learning (ML) revolutioneren verschillende domeinen, zoals natuurlijke taalverwerking, computerzicht, spraakherkenning, aanbevelingssystemen en zelfrijdende auto’s. AI en ML stellen computers in staat om van data te leren en taken uit te voeren die normaal menselijke intelligentie vereisen.

AI en ML vereisen echter ook enorme hoeveelheden data en rekenkracht om complexe modellen en algoritmen te trainen en uit te voeren. Zo heeft GPT-3, een van de meest geavanceerde natuurlijke taalmodellen ter wereld, 175 miljard parameters en werd het getraind op 45 terabyte aan tekstdata. Om dergelijke grote datasets en modellen efficiënt te verwerken, hebben AI- en ML-toepassingen high-performance computing (HPC)-systemen nodig die hoge datatransfer速率, lage latentie en hoge rekenkracht kunnen leveren.

Een van de opkomende trends in HPC is het gebruik van gespecialiseerde processors zoals GPUs of TPUs die geoptimaliseerd zijn voor parallelle verwerking en matrixoperaties die veel voorkomen in AI- en ML-werklasten. Zo is de Grace CPU van NVIDIA een nieuwe processor die specifiek is ontworpen voor HPC-toepassingen en die NVIDIA’s GPU-technologie gebruikt om tot 10 keer snellere prestaties te leveren dan de huidige x86-CPU’s. De Grace CPU ondersteunt ook snelle interconnects zoals NVLink, die hoge datatransfer速率 tussen CPU’s en GPU’s mogelijk maken.

Augmented reality en virtual reality

De Apple Vision Pro zorgde voor een golf van belangstelling tijdens de onthulling. Augmented reality (AR) en virtual reality (VR) zijn twee van de meest immersieve en interactieve technologieën die verschillende industrieën transformeren, zoals entertainment, onderwijs, gezondheidszorg en productie. AR legt digitale informatie over de echte wereld heen, terwijl VR een volledig gesimuleerde omgeving creëert die gebruikers kunnen ervaren via een headset.

Deze technologieën stellen echter ook significante uitdagingen voor datatransfer en -verwerking. Vanwege de recente release zijn details over de Apple Vision Pro nog niet beschikbaar. Andere VR-headsets zijn echter al langer beschikbaar, dus we kunnen enkele aannamen doen. Zo vereisen VR-headsets zoals de Oculus Quest 2 een hoge-snelheidsverbinding met een PC of een cloudserver om hoogwaardige video- en audiocontent, evenals tracking- en invoerdata van de headset en controllers, te streamen. De videobitrate, die de hoeveelheid data is die per seconde wordt overgedragen, hangt af van de snelheid waarmee de GPU het signaal op de PC- of serverzijde kan encoderen en de snelheid waarmee de Quest 2-processor het signaal op de headsetzijde kan decoderen.

Volgens Oculus is de aanbevolen bitrate voor VR-streaming tussen 150 Mbps en 500 Mbps, afhankelijk van de resolutie en framefrequentie. Dit betekent dat VR-streaming een veel hogere datatransfer速rate vereist dan andere onlineactiviteiten zoals webbrowsen of muziekstreamen. Bovendien vereist VR-streaming ook lage latentie, die de tijd is die het kost voor een signaal om van het ene punt naar het andere te reizen. Hoge latentie kan leiden tot vertragingen of jittery gameplay, wat de immersie kan verstoren en misselijkheid kan veroorzaken.

De latentie hangt af van verschillende factoren, zoals de netwerksnelheid, de afstand tussen de apparaten en de encoderings- en decoderingsalgoritmen. Volgens Oculus is de ideale latentie voor VR-streaming lager dan 20 milliseconden. Het bereiken van dit niveau van prestaties is echter niet eenvoudig, vooral via draadloze verbindingen zoals Wi-Fi of 5G.

Open source-technologieën voor datacenter-optimalisatie

Naarmate nieuwe technologieën de vraag naar snellere datatransfer速率, lagere latentie en hogere rekenkracht in datacenters drijven, staan datacenter-operatoren voor verschillende uitdagingen, zoals toenemend energieverbruik, veeleisende nieuwe koelingsvereisten, ruimtegebruik, operationele kosten en een snelle innovatie- en vernieuwingscyclus van hardware. Om deze uitdagingen aan te pakken, moeten datacenter-operatoren hun huidige infrastructuur optimaliseren en nieuwe normen en technologieën adopteren die hun efficiëntie en schaalbaarheid kunnen verbeteren.

Dit is het doel van het Open19 Project, een initiatief van de Sustainable and Scalable Infrastructure Alliance dat nu deel uitmaakt van de Linux Foundation. Het Open19 Project is een open standaard voor datacenter-hardware die is gebaseerd op gemeenschappelijke vormfactoren en die next-generation hoog rendement power distributie, herbruikbare componenten en kansen voor opkomende hoge-snelheidsinterconnects biedt. De missie van de SSIA en de open standaarden die via het Open19-project zijn gecreëerd, zijn in overeenstemming met de bredere industriebeweging naar efficiëntie, schaalbaarheid en duurzaamheid voor de infrastructuur die onze digitale levens en gemeenschappen aandrijft. Het Open Compute Project is een ander initiatief om de groeiende vraag naar compute-infrastructuur op een efficiënte manier te ondersteunen. Dit project stimuleert eveneens community-gedreven samenwerking tussen industriele partners om datacenteroplossingen te ontwikkelen, met een focus op 21” serverrackgroottes die typisch door grote colo’s en hyperscalers worden gebruikt. De reikwijdte van de OCP omvat ook de datacenterfaciliteit en de interne IT-componenten van de servers.

Conclusie

Nieuwe technologieën drijven de vraag naar snellere datatransfer速率, lagere latentie en hogere rekenkracht in datacenters, terwijl gemeenschappen, overheden en bedrijven zich richten op bronbeheer en de toenemende duurzaamheidszorgen rond watergebruik, energiemanagement en andere koolstofintensieve aspecten van technologiecreatie, -gebruik en -implementatie. Het adopteren van open source-technologieën, ontwikkeld in community-gedreven fora zoals de SSIA en de Linux Foundation, kan datacenter-operatoren helpen hun huidige operaties te maximaliseren en zich voor te bereiden op een toekomst die duurzamer is, terwijl ze tegemoetkomen aan de vraag van deze spannende nieuwe toepassingen.