Det Heliga Graalet för Beräkningskraft i AI

Trots otrolig framsteg är artificiell intelligens fortfarande begränsad när den jämförs med förväntningarna i den verkliga världen. Vi bygger komplexa modeller, kör neuronnät och testar algoritmer, men framstegen stannar av ibland på platser där vi minst väntar det.

Problemet ligger ofta inte i algoritmerna eller data, utan i beräkningskraften, de resurser som tillåter modeller att lära sig och fungera i den nödvändiga skalan. Så vad ligger bakom denna barriär? Låt oss undersöka den kritiska resursen utan vilken inte ens de mest lovande AI-projekten kan gå utöver laboratoriet.

Beräkningsunderskottet och dess konsekvenser

För att förstå detta ämne, låt oss börja med historien om mobilkommunikation. När 3G- och 4G-nätverk dök upp, var internet redan nästan globalt. Och när 5G introducerades, frågade många människor en fullständigt rimlig fråga: “Internet kommer att bli snabbare – men vad betyder det?”

I verkligheten handlar ökningen av internetshastighet inte om användarbequemhet. Den förvandlar hela den teknologiska landskapsbilden. Användningsfall dyker upp som tidigare var omöjliga. 5G visade sig vara mycket snabbare än 4G, och detta språng var inte gradvis, som språnget från 1G till 2G, utan exponentiellt. Som ett resultat kan nya applikationer, enheter och hela teknologiklasser dyka upp.

Trafikljuskameror, realtidsanalysystem för trafik och automatiserade trafikregleringsmekanismer – allt detta blir möjligt tack vare nya kommunikationsteknologier. Polisen får nya sätt att utbyta data, och i rymden kan teleskop och satelliter sända stora mängder information till jorden. Ett kvalitativt språng i en grundläggande teknologi driver utvecklingen av hela ekosystemet.

Samma princip gäller för beräkningskraft. Tänk dig mänsklighetens totala beräkningsförmåga i hypotetiska enheter. Idag kan vi ha, säg, tio sådana enheter. Med dem kan vi generera bilder och videor, skriva texter, skapa marknadsföringsmaterial… Detta är redan betydande, men utbudet av applikationer är begränsat främst.

Om vi nu hade inte tio, utan tusen sådana enheter. Plötsligt blir teknologier som tidigare var för dyra möjliga, och startups som övergavs på grund av höga beräkningskostnader börjar bli ekonomiskt lönsamma.

<p-Ta exempel robotaxi. Idag förlitar de sig främst på relativt svaga lokala datorer installerade i fordonet. Men om videoflödet sändes till molnet med enorma beräkningsresurser, kunde data bearbetas och returneras i realtid. Och detta är avgörande: en bil som rör sig i 100 km/h måste fatta beslut på bråkdelen av en sekund – gå rakt, vänd, bromsa eller inte bromsa.

Det är då en fullt fungerande robotaxiindustri blir möjlig, inte bara isolerade lösningar som de vi ser idag. Varje lokal dator installerad i en bil är medfödd begränsad på ett sätt som en ansluten system inte är. Ju snabbare vi kan skala upp det, desto snabbare kommer världen runt oss att förändras.

Tillgång till chip och den “gyllene biljetten” i AI

I sammanhanget med beräkningskraft uppstår frågan: blir tillgång till moderna chip den “gyllene biljetten” för att komma in på AI-marknaden? Skapar stora spelare som tecknar avtal med chip-tillverkare eller producerar dem själva en klyfta mellan stora företagsföretag och alla andra?

Sådan klyfta uppstår bara i ett fall: om en affärsmodell fokuserar uteslutande på att sälja chip till stora kunder. I praktiken syftar tillverkare som NVIDIA till att tillhandahålla molnlösningar för alla. Deras optimerade chip är tillgängliga i molnet för både OpenAI och oberoende utvecklare.

Även strategiska allianser mellan företag som Google, Anthropic, Microsoft, OpenAI, Amazon och NVIDIA är primärt partnerskap för delad resursanvändning, snarare än försök att stänga av marknaden. Denna modell möjliggör en effektiv tilldelning av beräkningskraft, vilket påskyndar teknisk utveckling.

Om vi spårar kedjan av beräkningsresursanvändning, börjar den med slutanvändaren. Till exempel när du använder WhatsApp för videokonferenser och meddelanden, måste företaget se till att tjänsten fungerar: lagrar och bearbetar data, kör modeller för videorengöring, lägger till effekter och förbättrar bildkvalitet.

Att underhålla egna servrar är dyrt, de blir föråldrade och kräver konstant underhåll. Därför har molnlösningar, “molnet”, dykt upp. Marknaden domineras av tre aktörer: Google Cloud, AWS och Microsoft Azure. Andra företag kan inte konkurrera på denna nivå: infrastrukturens skala är för stor.

Molntjänster är enorma datacenter med kylning, strömförsörjning och dygnet-runt-underhåll. De innehåller servrar och specialiserade chip från NVIDIA, AMD och andra tillverkare, vilket möjliggör storskaliga beräkningsprocesser.

Här kommer vi till den avgörande frågan som jag diskuterade i min förra kolumn om datacenter, och vill fortsätta här: vad är den största flaskhalsen i detta system? Är det elbristen, eller svårigheten att kyla datacenter i regioner där klimatet gör det särskilt utmanande? I verkligheten ligger hemligheten i chipen själva…

Det heliga graalet

Varför är NVIDIA idag värderat till runt 5 biljoner dollar och räknas bland de mest framgångsrika börsnoterade företagen i världen? Anledningen är enkel: NVIDIA producerar chipen som AI-modeller tränas och körs på.

Var och en av dessa chip förbrukar enorma mängder el när de tränar stora modeller eller bearbetar alltmer växande datamängder. Men hur effektivt används den energin? Här kommer specialiserade chip in i bilden; de hanterar specifika uppgifter mycket mer effektivt än allmänna GPU:er.

AI-modeller skiljer sig åt. OpenAI har till exempel en familj av modeller, Anthropic en annan. Koncepten kan vara liknande, men de matematiska strukturerna och beräkningsprocesserna är olika. En enda allmän GPU, när den tränar OpenAI-modeller (som ChatGPT) jämfört med Anthropic-modeller (som Claude), fungerar som ett “en-storlek-passar-alla-verktyg”, som förbrukar, säg, 100 000 timmar av beräkning för en modell och 150 000 för en annan. Effektiviteten varierar betydligt och är sällan optimal.

Företag löser detta problem genom att producera specialiserade chip. Till exempel kan ett chip optimeras för ChatGPT-arkitekturen och träna den på, säg, 20 minuter, medan ett annat är anpassat till Anthropics arkitektur och också slutför träningen på 20 minuter. Energiförbrukning och tränings tid reduceras flera gånger jämfört med en allmän GPU.

När dessa chip säljs till stora företag, som Google, Amazon, Microsoft eller Azure, erbjuds de som fristående produkter. Användare kan välja, till exempel, ett chip optimerat för en YOLO-modell eller ett enklare, billigare chip för en Xen-arkitektur. På detta sätt får företag tillgång till beräkningsresurser som är exakt anpassade till deras uppgifter, snarare än att köpa allmänna GPU:er. Om en användare har tio olika funktioner kan de använda tio olika specialiserade chip.

Trenden är tydlig: specialiserade chip ersätter gradvis allmänna chip. Många startups arbetar idag med ASIC:er (Application-Specific Integrated Circuits), chip som är utformade för specifika beräkningsuppgifter. De första ASIC:erna dök upp för Bitcoin-gruvdrift: initialt gruvdes kryptovaluta på NVIDIA-GPU:er, sedan skapades chip enbart för Bitcoin och kunde inte utföra andra uppgifter.

Jag ser detta i praktiken: samma maskinvara kan producera helt olika resultat beroende på uppgiften. I mitt startup Introspector studerar vi dessa processer i verkliga projekt, och som strategisk rådgivare för Keymakr observerar jag hur kunderna får effektivitet från specialiserade chip, vilket gör att modellerna kan köras snabbare. Projekt som tidigare stannade av under träning eller inferens når stabila resultat med detta tillvägagångssätt.

Men smal specialisering medför risker. Ett chip som är optimerat för Anthropics arkitektur kommer inte att fungera för att träna OpenAI-modeller, och vice versa. Varje ny arkitektur kräver en ny generation av maskinvara, vilket skapar en risk för storskalig “inaktuella”. Om Anthropic släpper en ny arkitektur imorgon blir alla tidigare generationers chip ineffektiva eller värdelösa. Att producera nya chip kostar miljarder dollar och kan ta år.

Detta skapar en dilemma: ska vi göra specialiserade chip som fungerar perfekt i en smal scenario, eller fortsätta producera allmänna chip som löser alla uppgifter måttligt bra men inte kräver fullständig ersättning när arkitekturerna ändras?

Effektivitet i detta sammanhang mäts av tre primära parametrar: körningstid, elförbrukning och värmeutveckling. Dessa parametrar är direkt relaterade: ju längre ett system körs, desto mer energi förbrukar det och desto mer värme producerar det. Att reducera en parameter förbättrar automatiskt de andra två.

Här ligger “det heliga graalet” för AI-prestanda: om åtminstone en av de grundläggande effektivitetsparametrarna kan optimeras, förbättras de andra parametrarna nästan automatiskt också.

Hållbar process

Med den växande användningen av specialiserade chip har frågan om överproduktionsrisker blivit angelägen. För närvarande är överskottet av utrustning redan betydande, och företag hanterar detta på olika hållbara sätt, inklusive återanvändning av befintliga resurser.

Återvinning av utrustning har blivit en nyckelkomponent i hållbar utveckling inom högteknologiska industrier. Chip innehåller betydande mängder ädla och basmetaller, guld, koppar, aluminium, palladium och sällsynta jordartsmetaller, samt material som används i mikrochip och transistorer. När utrustningen blir föråldrad kan dessa värdefulla resurser återföras till produktion, vilket minskar kostnaden för nya komponenter samtidigt som industrins miljöavtryck minskas.

Vissa specialiserade fabriker och företag fokuserar på återvinning och utvinning av ädla metaller från föråldrade komponenter. Till exempel använder vissa anläggningar hydrometallurgiska processer och avancerade kemiska metoder för att utvinna guld och koppar med hög renhet, vilket möjliggör att dessa material kan återanvändas i nya chip.

Företag implementerar också slutna modeller, där gammal utrustning uppgraderas eller integreras i nya lösningar, vilket minskar behovet av primär resursutvinning. Sådana tillvägagångssätt hjälper inte bara till att minimera avfall utan också till att sänka produktionens koldioxidavtryck, eftersom traditionell gruvdrift och metallbearbetning kräver betydande energi.

Hållbar hantering av chip- och utrustningslivscykeln kan bli en branschstandard, där teknisk framsteg sammanfaller med miljöansvar.