Η Google μόλις δημοσίευσε πραγματικούς αριθμούς για την κατανάλωση ενέργειας από την τεχνητή νοημοσύνη - και δεν είναι αυτό που νομίζετε

Όλοι μιλάνε για το τεράστιο ενεργειακό αποτύπωμα της Τεχνητής Νοημοσύνης. Έχετε δει τους τίτλους: «Το ChatGPT χρησιμοποιεί τόση ηλεκτρική ενέργεια όσο μια μικρή χώρα» ή «Κάθε ερώτημα Τεχνητής Νοημοσύνης πίνει ένα μπουκάλι νερό».

Google μόλις δημοσιεύθηκαν πραγματικά δεδομένα από τα συστήματα παραγωγής τους, και οι αριθμοί λένε μια εντελώς διαφορετική ιστορία.

Το πραγματικό κόστος ενέργειας του ερωτήματός σας για τεχνητή νοημοσύνη

Να τι βρήκε η Google: Η διάμεση τιμή Gemini Το μήνυμα κειμένου χρησιμοποιεί 0.24 βατώρες ενέργειας. Αυτό είναι λιγότερη ηλεκτρική ενέργεια από το να παρακολουθείς τηλεόραση για εννέα δευτερόλεπτα. Κατανάλωση νερού; Πέντε σταγόνες. Όχι πέντε ποτήρια. Πέντε σταγόνες.

Το χάσμα μεταξύ της δημόσιας αντίληψης και της πραγματικότητας είναι τεράστιο. Προηγούμενες εκτιμήσεις ανέφεραν ότι οι προτροπές της τεχνητής νοημοσύνης κατανάλωναν από 10 έως 50 χιλιοστόλιτρα νερού ανά ερώτημα. Ορισμένες μελέτες υποδεικνύουν κατανάλωση ενέργειας 30 φορές υψηλότερη από αυτήν που μετρά η Google σε παραγωγή.

Γιατί αυτή η τεράστια διαφορά; Επειδή κανείς δεν έχει μετρήσει πραγματικά συστήματα σε κλίμακα μέχρι τώρα. Ακαδημαϊκές μελέτες διεξάγουν μεμονωμένες δοκιμές σε υποχρησιμοποιημένο υλικό. Ουσιαστικά μετρούν την απόδοση καυσίμου ενός αυτοκινήτου ενώ αυτό λειτουργεί στο ρελαντί στο δρόμο.

Η Βελτίωση 44x

Η Google μείωσε τις εκπομπές άνθρακα από την τεχνητή νοημοσύνη κατά 44 φορές σε ένα χρόνο. Όχι 44%, αλλά 44 φορές.

Δεν πρόκειται για κάποια θεωρητική βελτίωση σε ένα εργαστήριο. Αυτό συμβαίνει αυτή τη στιγμή στα συστήματα που εξυπηρετούν δισεκατομμύρια ερωτήματα. Το πέτυχαν αυτό μέσω ενός συνδυασμού βελτιστοποίησης λογισμικού (βελτίωση 33x) και καθαρότερων πηγών ενέργειας (βελτίωση 1.4x).

Οι περισσότερες μελέτες εξετάζουν μόνο τα τσιπ τεχνητής νοημοσύνης που κάνουν τους υπολογισμούς. Αυτό είναι σαν να μετράμε την κατανάλωση ενέργειας ενός εστιατορίου μετρώντας μόνο τους φούρνους, αγνοώντας τα ψυγεία, τα φώτα και το σύστημα HVAC.

Τα δεδομένα της Google δείχνουν την πλήρη εικόνα: Ναι, οι επιταχυντές τεχνητής νοημοσύνης χρησιμοποιούν το 58% της ενέργειας. Αλλά χρειάζεστε επίσης κανονικούς επεξεργαστές και μνήμη (24%), εφεδρική χωρητικότητα για αξιοπιστία (10%) και συστήματα ψύξης (8%). Αν παραλείψετε οποιοδήποτε από αυτά στις μετρήσεις σας, οι αριθμοί σας ουσιαστικά δεν έχουν νόημα.

Όταν η Google εφάρμοσε τη στενή μεθοδολογία που χρησιμοποιούν όλοι οι άλλοι —μετρώντας απλώς τα τσιπ τεχνητής νοημοσύνης σε πλήρως χρησιμοποιούμενα μηχανήματα— η ενεργειακή της κατανάλωση μειώθηκε στις 0.10 βατώρες. Το πραγματικό σύστημα παραγωγής χρησιμοποιεί 2.4 φορές περισσότερη ενέργεια, επειδή τα πραγματικά συστήματα χρειάζονται πλεονασμό, ψύξη και υποστηρικτική υποδομή.

Τι σημαίνει αυτό στην πραγματικότητα για το μέλλον της τεχνητής νοημοσύνης

Η αφήγηση γύρω από την κατανάλωση ενέργειας από την Τεχνητή Νοημοσύνη χρειάζεται μια ρεαλιστική αναθεώρηση. Ναι, η Τεχνητή Νοημοσύνη χρησιμοποιεί ενέργεια. Αλλά τα σωστά βελτιστοποιημένα συστήματα είναι πολύ πιο αποτελεσματικά από ό,τι υποδηλώνουν τα σενάρια καταστροφής.

Το πλαίσιο έχει σημασία εδώ. Αυτές οι 0.24 βατώρες ανά ερώτημα; Οι Αμερικανοί χρησιμοποιούν κατά μέσο όρο περίπου 30 κιλοβατώρες ηλεκτρικής ενέργειας την ημέρα. Θα χρειαστεί να εκτελέσετε 125,000 ερωτήματα τεχνητής νοημοσύνης για να αντιστοιχίσετε μία ημέρα τυπικής οικιακής χρήσης ενέργειας.

Η ιστορία της κατανάλωσης νερού είναι ακόμη πιο δραματική. Αυτές οι πέντε σταγόνες νερού ανά ερώτημα; Χρησιμοποιείτε περισσότερο νερό στο πρώτο δευτερόλεπτο που πλένετε τα χέρια σας.

Η στοίβα βελτιστοποίησης

Η Google δεν επιτυγχάνει αυτούς τους αριθμούς μέσω κάποιας μεμονωμένης ανακάλυψης. Είναι βελτιστοποιήσεις στοίβαξης σε κάθε επίπεδο του συστήματος.

Χρησιμοποιούν μικρότερα «πρόχειρα» μοντέλα που σκιαγραφούν απαντήσεις και στη συνέχεια επαληθεύουν με μεγαλύτερα μοντέλα μόνο όταν χρειάζεται. Συγκεντρώνουν χιλιάδες ερωτήματα μαζί για αποτελεσματικότητα. Χρησιμοποιούν προσαρμοσμένα τσιπ σχεδιασμένα ειδικά για φόρτους εργασίας τεχνητής νοημοσύνης που είναι 30 φορές πιο αποτελεσματικά από την πρώτη γενιά τους.

Τα κέντρα δεδομένων τους λειτουργούν με μόλις 9% γενικά έξοδα πάνω από το θεωρητικό ελάχιστο όριο—ουσιαστικά όσο το δυνατόν πιο αποτελεσματικά. Και τροφοδοτούνται ολοένα και περισσότερο από καθαρή ενέργεια, μειώνοντας τις εκπομπές ρύπων ακόμη και όταν αυξάνεται η χρήση ηλεκτρικής ενέργειας.

Κατώτατη γραμμή

Αυτό λειτουργεί μόνο όταν οι εταιρείες βελτιστοποιούν πραγματικά ολόκληρο το stack τους και μετρούν σωστά. Οι εταιρείες που αντιμετωπίζουν την υποδομή τεχνητής νοημοσύνης ως δεύτερη σκέψη, λειτουργούν αναποτελεσματικά συστήματα σε βρώμικα δίκτυα ηλεκτρικής ενέργειας; Αυτές είναι που δημιουργούν τα προβλήματα για τα οποία ανησυχούν όλοι.

Το χάσμα μεταξύ αποτελεσματικών και αναποτελεσματικών συστημάτων Τεχνητής Νοημοσύνης είναι απολύτως τεράστιο. Και αυτή τη στιγμή, το μεγαλύτερο μέρος του κλάδου εξακολουθεί να χρησιμοποιεί την αναποτελεσματική εκδοχή.