Γιατί ο Αγώνας των Chip AI Τρέχει Τώρα με Λογισμικό

Κάθε νέος επιταχυντής AI φτάνει με μια ιστορία βελτιστοποίησης: μέγιστη απόδοση, teraops ανά watt, εντυπωσιακά νούμερα που υποσχέονται ότι αυτό το chip θα αλλάξει τα πάντα. Τι αυτά τα νούμερα αφήνουν εκτός είναι εάν ο πελάτης μπορεί πραγματικά να χρησιμοποιήσει το chip σε παραγωγή. Οι περισσότερες φορές, δεν μπορούν, και αυτή είναι η πραγματική ιστορία του πού βρίσκεται η βιομηχανία AI hardware σήμερα. Αντιμετωπίζει ένα πρόβλημα ωριμότητας λογισμικού, και οι περισσότερες εταιρείες δεν είναι ακόμη έτοιμες να το πουν δημόσια.

Το Χάσμα που Κανείς Δεν Μιλάει

Οι κύκλοι ανάπτυξης πυριτίου διαρκούν δύο έως τέσσερα χρόνια, ενώ το τοπίο των μοντέλων AI εξελίσσεται σε κύκλο που μετράει μήνες και τάση προς εβδομάδες. Υπό αυτό βρίσκεται ένα πρόβλημα αλυσίδας αξίας: οι τελικές περιπτώσεις χρήσης, από οχήματα και εργοστάσια σε νοσοκομεία και συσκευές, ωριμάζουν σε λειτουργικότητα και αρχίζουν να παράγουν μετρήσιμο P&L αντίκτυπο. Αυτή η ωριμότητα οδηγεί σε απαίτηση για προσαρμογές λογισμικού, τα οποία με τη σειρά τους απαιτούν αλλαγές υλικού. Κάθε ένα από αυτά τα τρία στρώματα λειτουργεί σε μια θεμελιωδώς διαφορετική ταχύτητα, και αυτή η ανταπόκριση είναι η ριζική αιτία της τριβής που χτίζεται σε όλη την αγορά. Το στάκ λογισμικού που απαιτείται για να τρέξει μεγάλη έμφαση μοντέλου inference διαφέρει θεμελιωδώς από αυτό που χτίστηκε για προηγούμενες εργασίες machine learning. Οι χρονοδιαγράμματα ανάπτυξης υλικού δεν έχουν συμπιεστεί για να ταιριάζουν σε αυτόν τον κύκλο. Οι εταιρείες που αποστέλλουν νέο πυρίτιο σήμερα το δίνουν στους πελάτες με λογισμικό που δεν μπορεί να ξεκλειδώσει πλήρως τις ικανότητες του chip, παράγοντας ένα μοτίβο που επαναλαμβάνεται σε όλη την αγορά: εντυπωσιακό πυρίτιο, αωρό λογισμικό, αργή υιοθέτηση και χαμένες έσοδα. Το chip κάνει αυτό που σχεδιάστηκε να κάνει. Το ζήτημα είναι ότι οι πελάτες δεν μπορούν εύκολα να το χρησιμοποιήσουν.

Σκεφτείτε τι συνέβη στην αυτοκινητοβιομηχανία. Τα αυτοκίνητα ήταν σε μεγάλο βαθμό ένα λυμένο πρόβλημα μέχρι τα μέσα του εικοστού αιώνα, αλλά όταν το λογισμικό έγινε ο διαφοροποιητής, οι εταιρείες με τα πιο βαθιά ιχνηλατικά της παραγωγής δυσκολεύτηκαν περισσότερο να προσαρμοστούν. Η Ford και η GM ήξεραν πώς να χτίσουν κινητήρες, αλλά δεν είχαν κανένα μυικό μνήμονα για την κατασκευή λειτουργικών συστημάτων. Η βιομηχανία AI hardware ζει αυτή τη μετάβαση τώρα, και η παράλληλη είναι άβολη. Η NVIDIA παίζει τον ρόλο του διαταράκτου λογισμικού, ενώ οι παραδοσιακές εταιρείες ημιαγωγών ακόμη προσπαθούν να πουλήσουν οικοσυστήματα αναπτυξιακών μαζί με πυρίτιο.

Η κυριαρχία της NVIDIA έχει σχεδόν τίποτα να κάνει με το να έχει τα καλύτερα chip. Το CUDA (Compute Unified Device Architecture) είναι είκοσι ετών, με όλα τα συσσωρευμένα τεχνικά χρέη που αυτό подразумевает, αλλά αυτό που η NVIDIA其实 χτίστηκε είναι το λειτουργικό σύστημα του AI υπολογισμού: ένα προβλέψιμο, ώριμο οικοσύστημα που οι dévelopers και οι OEMs μπορούν να βασιστούν σε παραγωγή.

Οι πελάτες επιλέγουν πλατφόρμες με βάση την ωριμότητα του λογισμικού και τον κίνδυνο ενσωμάτωσης, οπότε όταν ένας νέος επιταχυντής φτάνει χωρίς ένα παραγωγικό στάκ λογισμικού, η εμπορική συζήτηση τελειώνει πριν ξεκινήσει.

Ο χρόνος μέχρι το πρώτο μοντέλο, ο οποίος ορίζεται ως πόσο γρήγορα ένας πελάτης τρέχει ένα πραγματικό AI workload σε ένα δεδομένο επιταχυντή, είναι ένα πολύ πιο σημαντικό εμπορικό μέτρο από τη μέγιστη απόδοση. Αυτή είναι η συζήτηση που οι περισσότερες εταιρείες υλικού δεν είναι έτοιμες να την έχουν.

Η Πραγματική Αγορά είναι η Inference

Η μητρική γλώσσα της επιχείρησης είναι το P&L, και κάθε εταιρεία που αναπτύσσει AI πρέπει να απαντήσει στην ίδια ερώτηση: πού είναι το χρήμα, και τι με εμποδίζει να το κατακτήσω; Η εκπαίδευση είναι ένα απαραίτητο βήμα, αλλά το εμπορικό AI ζει στην inference, και αυτή η αγορά έχει μόλις αρχίσει.

Η κλίμακα ασυμμετρίας εδώ είναι εντυπωσιακή. Η εκπαίδευση καλύπτει μια χρήση περίπτωσης; η inference καλύπτει άπειρες. Κάθε εφαρμογή του AI σε ένα όχημα, εργοστάσιο, νοσοκομείο, τηλέφωνο ή αποθήκη απαιτεί inference. Ένα chip που τρέχει συστήματα ασφαλείας σε ένα αυτοκίνητο δεν μπορεί να τραβήξει ισχύ από το κέντρο δεδομένων, και μια συσκευή που τρέχει inference σε πραγματικό χρόνο σε ένα εργοστάσιο δεν μπορεί να ανεχτεί υψηλή καθυστέρηση. Η αγορά inference edge απαιτεί πυρίτιο που σχεδιάστηκε ειδικά για αποδοτικότητα ισχύος, φυσικούς περιορισμούς και απαιτήσεις ασφαλείας και αξιοπιστίας των βιομηχανιών που το αναπτύσσουν.

Η πρόσφατη απόφαση της Google να χωρίσει την όγδοη γενιά TPU σε δύο διαφορετικά chip, ένα για εκπαίδευση και ένα για inference, αξίζει να μελετηθεί. Αυτή η αρχιτεκτονική επιλογή αναγνωρίζει ότι οι δύο εργασίες έχουν διαφοροποιηθεί τόσο σημαντικά που η βελτιστοποίηση και για τις δύο σε ένα單 design τώρα σημαίνει εξέχοντας σε καμία από τις δύο. Όταν μια εταιρεία που τρέχει κάποια από τα μεγαλύτερα AI υποδομές αποφασίζει ότι η ειδίκευση matters περισσότερο από την ενοποίηση, αυτό σημαίνει πού πηγαίνει η υπόλοιπη αγορά: προς purpose-κτισμένο inference πυρίτιο που αναπτύσσεται στο edge, σε όγκο, υπό πραγματικές περιορισμοί που τα benchmarks του κέντρου δεδομένων δεν были σχεδιασμένα να μετρήσουν.

Βρισκόμαστε σε μια inference land grab, ενώ η większość της αγοράς παραμένει οργανωμένη γύρω από την εκπαίδευση.

Τα Στρατηγικά Όρια της Κληρονομιάς

Οι εταιρείες που είναι καλύτερα τοποθετημένες για να κατασκευάσουν σε κλίμακα παραμένουν στρατηγικά ανίκανοι να εξυπηρετήσουν τις αγορές όπου η inference θα ζήσει. Οι πελάτες αυτοκίνητων χρειάζονται προμηθευτές να εγγυηθούν τη διαθεσιμότητα των συστατικών για μια δεκαετία. Οι γενικές εταιρείες ημιαγωγών όπως η Intel δεν θα δεσμευτούν σε αυτό. Αυτός ο στρατηγικός περιορισμός αφήνει μια ολόκληρη βιομηχανία υποεξυπηρετημένη, και καμία ποσότητα διαπραγμάτευσης δεν αλλάζει αυτό.

Η πλατφόρμα edge AI της NVIDIA αντιμετωπίζει ήδη μια πρόκληση από PIN-συμβατά εναλλακτικά που παρέχουν καλύτερη απόδοση ανά watt χωρίς να απαιτούν καμία αλλαγή στο στάκ λογισμικού. Ένας πελάτης μπορεί να ανταλλάξει το chip και να διατηρήσει όλα τα άλλα, καθιστώντας αυτό μια άμεση εμπορική επίθεση στο πιο αμυντικό μέρος της θέσης της NVIDIA στο edge.

Οι εταιρείες που απέδειξαν την концепτό τους στο CUDA ανακαλύπτουν ότι η οικονομική ανάπτυξη σε κλίμακα απαιτεί την ανασχεδιασμό σε πυρίτιο χαμηλής ισχύος, γιατί όταν οι οργανισμοί αναπτύσσουν δεκάδες χιλιάδες συσκευές, το κόστος ανά μονάδα και η κατανάλωση ισχύος γίνονται αποφασιστικοί παράγοντες. Η ακολουθία που παίζεται σε όλη την αγορά inference είναι απλή: χρησιμοποιήστε κάτι που δουλεύει, το δοκιμάστε, και στη συνέχεια βρείτε έναν τρόπο να το αναπτύξετε οικονομικά, γιατί πρέπει να κάνετε κέρδος από αυτό. Δεδομένου του ρυθμού της υιοθέτησης του AI, το παράθυρο για την καθιέρωση λογισμικού και οικοσυστημικών πλεονεκτημάτων μετράται σε trimesters.

Η Μηχανική Επένδυση που οι Περισσότερες Εταιρείες Παραλείπουν

Οι εταιρείες AI hardware συνεχίζουν να αποστέλλουν ισχυρά chip με λογισμικό που δεν μπορεί να τρέξει πλήρως. Το παραγωγικό στάκ συστήματος λογισμικού, που καλύπτει inference runtimes, βελτιστοποίηση compiler και ενεργοποίηση workload, απαιτεί βαθιά, εξειδικευμένη μηχανική που οι περισσότερες εταιρείες υλικού δεν έχουν εσωτερικά.

Η κατασκευή αυτής της ικανότητας σημαίνει την πρόσληψη των μηχανικών compiler και αρχιτεκτόνων runtime που μπορούν να κλείσουν το χάσμα μεταξύ того που ένα chip είναι θεωρητικά ικανό να κάνει και αυτό που ένας πελάτης μπορεί να αναπτύξει. Οι εταιρείες πρέπει επίσης να επενδύσουν σε toolchains πριν από το έσοδο να δικαιολογηθεί, γιατί μέχρι το έσοδο να φτάσει, το παράθυρο έχει κλείσει. Οι εταιρείες που παραλείπουν αυτή την επένδυση δεν χάνουν μόνο την πρώτη θέση. Χάνουν συμφωνίες.

Τα chip που επιτύχουν κλίμακα είναι τα πιο αναπτυσσόμενα chip, και η αναπτυξιάβιλτητα είναι μια λειτουργία της ποιότητας του λογισμικού. Οι μεγάλες αγοραστές, από τους OEMs και τους hyperscalers μέχρι τους πελάτες επιχειρήσεων, έχουν καεί trước από το πυρίτιο που βελτιστοποιείται καλά και ενσωματώνεται κακά. Επιλέγουν με βάση την ωριμότητα του οικοσυστήματος και τον κίνδυνο ενσωμάτωσης. Οι εταιρείες που αντιμετωπίζουν το λογισμικό ως πρώτη προτεραιότητα μηχανικής μετατρέπουν περισσότερες πιλότους σε συμβάσεις παραγωγής και φτάνουν στο έσοδο πιο γρήγορα. Αυτές που το αντιμετωπίζουν ως μια μετάφραση αποστολής βλέπουν το τεχνικά ανώτερο πυρίτιο να χάνει συμφωνίες με κατώτερο chip που υποστηρίζεται από πιο ώριμο στάκ.

Ο Χρόνος Ήδη Τρέχει

Οι εταιρείες AI hardware που είναι τοποθετημένες για να κατακτήσουν σημαντικό μερίδιο στην επόμενη φάση χτίζουν οικοσυστημικά πλεονεκτήματα σήμερα που θα είναι δύσκολο για τους μεταγενέστερους εισαγωγείς να αναπαραγάγουν. Η ευελιξία του λογισμικού, η ικανότητα να προσαρμοστεί σε νέες αρχιτεκτονικές μοντέλων χωρίς να περιμένει την επόμενη ταπετσαρία, διαχωρίζει το πυρίτιο που παραμένει εμπορικά σχετικό από το πυρίτιο που κυκλοφορεί ατελείωτα через πιλότους χωρίς ποτέ να παράγει τα έσοδα που χρειάζονται για να χρηματοδοτήσουν την επόμενη γενιά.

Οι αποφάσεις που λαμβάνονται τώρα, στις ομάδες μηχανικής, στις συμφωνίες συνεργασίας και στις εμπορικές πιλότους σε όλη την τοπική AI hardware, θα καθορίσουν ποιες εταιρείες θα είναι ακόμη σχετικές το 2028. Η εικοσάχρονη προηγμένη θέση του CUDA είναι ένα χαντράκι που χτίζεται σε βάθος οικοσυστήματος, αλλά jede εταιρεία που είναι πρόθυμη να αντιμετωπίσει το λογισμικό ως μια συνεχής προτεραιότητα μηχανικής μπορεί να χτίσει το ίδιο βάθος με τον καιρό.

Το ερώτημα που η βιομηχανία πρέπει να απαντήσει είναι ποίες εταιρείες κινούνται αρκετά γρήγορα για να χτίσουν το βάθος του οικοσυστήματος που κάνει τα chip τους την προεπιλογή πριν από κάποιον άλλον γίνει πολύ εδραιωμένος για να αντικατασταθεί.