Google on juuri julkaisnut todelliset luvut AI:n energiankulutuksesta – ja ne eivät ole sitä, minkä luulit

Kaikki puhuvat tekoälyn valtavasta energianjalanjäljestä. Olet varmasti nähnyt otsikot: “ChatGPT kuluttaa yhtä paljon sähköä kuin pieni maa” tai “Jokainen tekoälykysely juo pullon verran vettä.”

Google (GOOGL ) on juuri julkaisnut todelliset luvut tuotantojärjestelmistään, ja luvut kertovat täysin eri tarinan.

Tekoälykyselysi todellinen energiakustannus

Tässä on, mitä Google löysi: Mediaani Gemini -tekstikysely käyttää 0,24 wattituntia energiaa. Se on vähemmän sähköä kuin television katsominen yhdeksän sekunnin ajan. Vedenkulutus? Viisi tippaa. Ei viisi lasia. Viisi tippaa.

Julkinen mielipide ja todellisuus ovat valtavasti erillään. Aikaisemmat arviot väittivät, että tekoälykyselyt kuluttavat 10-50 millilitraa vettä kyselyä kohden. Jotkut tutkimukset esittivät energiankulutuksen 30 kertaa korkeampana kuin mitä Google mitataan tuotannossa.

Miksi valtava ero? Koska kukaan ei ole mitannut todellisia järjestelmiä suuressa mittakaavassa aiemmin. Akateemiset tutkimukset suorittavat eristetyt testit alikäytetyssä laitteistossa. Ne mitataan käytännössä auton polttoainetehokkuutta, kun se on paikallaan ajotiellä.

44-kertaisen parantaminen

Google vähensi tekoälypäästöjään 44 kertaa vuodessa. Ei 44 prosenttia – 44 kertaa.

Tämä ei ole teoreettinen parannus laboratoriossa. Tämä tapahtuu juuri nyt järjestelmissä, jotka palvelevat miljardeja kyselyjä. He saavuttivat tämän ohjelmistoparannuksen (33-kertaisen parannuksen) ja puhtaamman energianlähteen (1,4-kertaisen parannuksen) yhdistelmänä.

Useimmat tutkimukset tarkastelevat vain tekoälysuorittimia, jotka suorittavat laskennan. Se on kuin mitata ravintolan energiankäyttöä vain uunien avulla, jättäen huomiotta jääkaapit, valot ja ilmastointijärjestelmät.

Google:n tiedot osoittavat koko kuvan: Kyllä, tekoälykiihdyttimet käyttävät 58 % energiaa. Mutta tarvitaan myös tavallisia prosessoreita ja muistia (24 %), varamuistia luotettavuuden vuoksi (10 %) ja jäähdytysjärjestelmiä (8 %). Jos jätät yhden näistä mittauksesta pois, luvut ovat käytännössä merkityksettömiä.

Kun Google sovelsi kapeaa menetelmää, jonka jokainen muu käyttää – vain tekoälysuorittimien mittaaminen täysin käytetyillä koneilla – heidän energialukunsa laski 0,10 wattituntiin. Todellinen tuotantojärjestelmä käyttää 2,4 kertaa enemmän energiaa, koska todelliset järjestelmät tarvitsevat turvallisuuden, jäähdytyksen ja tukijärjestelmien vuoksi.

Mitä tämä todella tarkoittaa tekoälyn tulevaisuudelle

Tarina tekoälyn energiankulutuksesta tarvitsee todellisuustarkistuksen. Kyllä, tekoäly kuluttaa energiaa. Mutta oikein optimoidut järjestelmät ovat paljon tehokkaampia kuin tuhoava skenaario, jota usein esitetään.

Asia on, että 0,24 wattituntia kyselyä kohden? Amerikkalaiset käyttävät noin 30 kilowattituntia sähköä päivässä keskimäärin. Tarvitsisit suorittaa 125 000 tekoälykyselyä vastaamaan yhden päivän kotitalousenergiankulutusta.

Vedenkulutus on vielä dramaattisempi. Ne viisi tippaa vettä kyselyä kohden? Käytät enemmän vettä ensimmäisen sekunnin aikana, kun peset kädet.

Optimointipino

Google ei saavuta näitä lukuja yhden läpimurron kautta. He pinovat optimointeja jokaisessa järjestelmän tasossa.

He suorittavat pienempiä “luonnos” -malleja, jotka hahmottavat vastauksia, ja vahvistavat niitä vain tarvittaessa suuremmilla malleilla. He ryhmittävät tuhansia kyselyjä yhdessä tehokkuuden vuoksi. He käyttävät mukautettuja suorittimia, jotka on suunniteltu erityisesti tekoälytyökuormille, ja jotka ovat 30 kertaa tehokkaampia kuin heidän ensimmäinen sukupolvensa.

Heidän datakeskuksensa toimivat vain 9 % ylijäämänä teoreettisen vähimmäismäärän yläpuolella – käytännössä niin tehokkaasti kuin fyysisesti mahdollista. Ja ne toimivat yhä enenevissä määrin puhtaalla energialla, mikä leikkaa päästöjä jopa silloin, kun sähkönkulutus kasvaa.

Pohjimmiltaan

Tämä toimii vain, kun yritykset todella optimoivat koko pinonsa ja mitataan oikein. Yritykset, jotka kohtelevat tekoälyinfrastruktuuria epähuomiossa, ajavat tehottomia järjestelmiä likaisilla sähköverkoilla? He ovat ne, jotka luovat ongelmat, joista kaikki ovat huolissaan.

Erinomainen ero tehokkaiden ja tehottomien tekoälyjärjestelmien välillä on absoluuttinen. Ja juuri nyt suurin osa alasta ajaa edelleen tehottoman version.