Η Google Δημοσίευσε Πραγματικά Νούμερα για την Κατανάλωση Ενέργειας του AI — Και Δεν Είναι Αυτά που Νομίζεις

Όλοι μιλάμε για την τεράστια ενεργειακή αποτύπωση του AI. Έχετε δει τους τίτλους: “Το ChatGPT χρησιμοποιεί τόσο ηλεκτρισμό όσο μια μικρή χώρα” ή “Κάθε ερώτηση AI πίνει ένα μπουκάλι νερό.”

Η Google δημοσίευσε πραγματικά δεδομένα από τα παραγωγικά συστήματά της, και τα νούμερα λένε μια εντελώς διαφορετική ιστορία.

Η Πραγματική Ενεργειακή Κόστος της Ερώτησης AI σας

Εδώ είναι τι βρήκε η Google: Η μέση Gemini ερώτηση κειμένου χρησιμοποιεί 0,24 ωρο-βατ ενέργειας. Αυτό είναι λιγότερος ηλεκτρισμός από το να βλέπεις τηλεόραση για εννέα δευτερόλεπτα. Κατανάλωση νερού; Πέντε σταγόνες. Όχι πέντε γυάλινα. Πέντε σταγόνες.

Ο χάσμα μεταξύ της δημόσιας αντίληψης και της πραγματικότητας είναι τεράστιος. Προηγούμενες εκτιμήσεις ισχυρίστηκαν ότι οι ερωτήσεις AI κατανάλωναν από 10 έως 50 χιλιοστόλιτρα νερού ανά ερώτηση. Ορισμένες μελέτες πρότειναν κατανάλωση ενέργειας 30 φορές υψηλότερη από ότι μετρά η Google σε παραγωγή.

Γιατί η τεράστια διαφορά; Επειδή κανείς δεν είχε μετρήσει πραγματικά συστήματα σε κλίμακα μέχρι τώρα. Ακαδημαϊκές μελέτες εκτελούν απομονωμένα τεστ σε υποχρησιμοποιημένο υλικό. Βασικά, μετρούν την αποδοτικότητα καυσίμου ενός αυτοκινήτου ενώ είναι σταματημένο στο γκαράζ.

Η Βελτίωση 44 φορές

Η Google μειώθηκε τις εκπομπές άνθρακα του AI κατά 44 φορές σε ένα χρόνο. Όχι 44% — 44 φορές.

Αυτό δεν είναι κάποια θεωρητική βελτίωση σε εργαστήριο. Αυτό συμβαίνει τώρα στα συστήματα που εξυπηρετούν δισεκατομμύρια ερωτήσεων. Έφτασαν σε αυτό μέσω μιας συνδυασμού βελτιστοποίησης λογισμικού (33 φορές βελτίωση) και καθαρότερων πηγών ενέργειας (1,4 φορές βελτίωση).

Οι περισσότερες μελέτες κοιτάζουν μόνο τους 칩 AI που κάνουν τον υπολογισμό. Αυτό είναι σαν να μετράτε την ενεργειακή κατανάλωση ενός εστιατορίου μετρώντας μόνο τους φούρνους, αγνοώντας τους ψυγεία, τα φώτα και το σύστημα κλιματισμού.

Τα δεδομένα της Google δείχνουν την πλήρη εικόνα: Ναι, οι επιταχυντές AI χρησιμοποιούν 58% της ενέργειας. Αλλά χρειάζεστε επίσης κανονικούς επεξεργαστές και μνήμη (24%), εφεδρική ικανότητα για αξιοπιστία (10%) και συστήματα ψύξης (8%). Αν παραλείψετε οποιοδήποτε από αυτά στη μέτρησή σας, τα νούμερά σας είναι βασικά άσχετα.

Όταν η Google εφαρμόσει τη στενή μεθοδολογία που χρησιμοποιεί ο καθένας — μετρά μόνο τους 칩 AI σε πλήρως χρησιμοποιημένες μηχανές — το νούμερο ενέργειας τους έπεσε σε 0,10 ωρο-βατ. Το πραγματικό σύστημα παραγωγής χρησιμοποιεί 2,4 φορές περισσότερη ενέργεια επειδή τα πραγματικά συστήματα χρειάζονται αναδιπλωμένη ικανότητα, ψύξη και υποστηρικτική υποδομή.

Τι Αυτό Σημαίνει Πραγματικά για το Μέλλον του AI

Ο λόγος γύρω από την κατανάλωση ενέργειας του AI χρειάζεται μια πραγματικότητα. Ναι, το AI χρησιμοποιεί ενέργεια. Αλλά σωστά βελτιστοποιημένα συστήματα είναι πολύ πιο αποδοτικά από τις καταστροφικές σενάρια που προτείνουν.

Ο контέκστ matters εδώ. Αυτά τα 0,24 ωρο-βατ ανά ερώτηση; Οι Αμερικανοί χρησιμοποιούν περίπου 30 κιλοβατ-ώρες ηλεκτρικής ενέργειας ανά ημέρα κατά μέσο όρο. Θα χρειαζόσασταν να τρέξετε 125.000 ερωτήσεις AI για να αντιστοιχίσετε μια μέρα τυπικής οικιακής ενεργειακής κατανάλωσης.

Η ιστορία της κατανάλωσης νερού είναι ακόμη πιο δραματική. Αυτές οι πέντε σταγόνες νερού ανά ερώτηση; Χρησιμοποιείτε περισσότερο νερό στο πρώτο δευτερόλεπτο του πλυσίματος των χεριών σας.

Το Στάκ Optimization

Η Google δεν επιτυγχάνει αυτά τα νούμερα μέσω κάποιας単ικής đột pháσης. Είναι στακ βελτιστοποιήσεων σε κάθε στρώμα του συστήματος.

Εκτελούν μικρότερα “σχεδία” μοντέλα που σκιαγραφούν απαντήσεις,然后 επικυρώνουν με μεγαλύτερα μοντέλα μόνο όταν χρειάζεται. Είναι batching χιλιάδες ερωτήσεων μαζί για αποδοτικότητα. Είναι χρησιμοποιώντας custom 칩 που σχεδιάστηκαν ειδικά για φόρτους εργασίας AI που είναι 30 φορές πιο αποδοτικά από την πρώτη γενιά τους.

Τα κέντρα δεδομένων τους τρέχουν στο 9% υπερκεφαλαιοποίηση πάνω από το θεωρητικό ελάχιστο — βασικά τόσο αποδοτικά όσο φυσικά δυνατό. Και είναι ολοένα και περισσότερο τροφοδοτούμενα από καθαρή ενέργεια, μειώνοντας τις εκπομπές ακόμη και όταν η χρήση ηλεκτρικής ενέργειας αυξάνεται.

ΒOTTOM Line

Αυτό λειτουργεί μόνο όταν οι εταιρείες πραγματικά βελτιστοποιούν το πλήρες στάκ τους και μετρούν σωστά. Οι εταιρείες που αντιμετωπίζουν την υποδομή AI ως μια παρέκκλιση, τρέχοντας αναποτελεσματικά συστήματα σε βρώμικες πηγές ενέργειας; Είναι αυτοί που δημιουργούν τα προβλήματα που όλοι φοβόμαστε.

Ο χάσμα μεταξύ αποδοτικών και αναποτελεσματικών συστημάτων AI είναι απόλυτα τεράστιος. Και τώρα, η większość της βιομηχανίας vẫn τρέχει την αναποτελεσματική έκδοση.