Για να μειώσετε το κόστος του AI, ξεκινήστε με τις δαπάνες στο cloud

Η λεγόμενη «ακατάστατη μεσαία» περιοχή του AI μπορεί να έχει φτάσει στο μεγαλύτερο χάος της.

Καθώς μια παγκόσμια κρίση υλικού συναντά τη μαζική ζήτηση, τα κόστη του AI έχουν εκτοξευτεί. Σε μια προσπάθεια να αποκτήσουν περισσότερη υπολογιστική ισχύ, οι εταιρείες υπηρεσιών AI δεν είχαν άλλη επιλογή παρά να αυξήσουν τις τιμές τους και να αναθεωρήσουν τα μοντέλα χρέωσης, ρίχνοντας τους προϋπολογισμούς εκτός ισορροπίας και ανατρέποντας την καινοτομία就在 πολλές οργανώσεις ήταν τελικά σε θέση να ξεκινήσουν.

Το αποτέλεσμα είναι περισσότερο από το σοκ των τιμών: είναι μια υπαρξιακή κρίση για einen επιχειρηματικό κόσμο που effectively μόλις είχε μια. Οι εταιρείες έχουν αναθεωρήσει τους δρόμους τους για να προσαρμοστούν στην επίδραση του AI. Οι ομάδες έχουν αναδιατάξει τις ροές εργασίας τους σύμφωνα με τις ικανότητες του AI. Η ενεργοποίηση του AI έχει γίνει ο πρωταρχικός διαφοροποιητικός παράγοντας των οργανισμών. Το AI μπήκε στο πεδίο, ξεκινώντας μια μαζική μεταμόρφωση, και τώρα οι ομάδες ζητούν να αποσύρουν όταν έχουν μόλις αρχίσει να λειτουργούν.

Εταιρείες όπως Uber έχουν κάνει τους τίτλους για την τοποθέτηση επιθετικών ορίων στη χρήση του AI για να σταματήσουν τη ροή. Αλλά ενώ τα όρια χρήσης μπορούν να είναι ένα αποτελεσματικό μέτρο για την περικοπή του κόστους, δεν είναι ο μόνος τρόπος με τον οποίο οι επιχειρήσεις μπορούν να μειώσουν τις δαπάνες τους για υπολογιστική ισχύ.

Ο πρώτος τόπος που πρέπει να κοιτάξουν είναι το λογαριασμό του cloud.

Φαίνεται αντιφατικό. Ενώ η формуλα ήταν πάντα ότι περισσότερη υπολογιστική ισχύς ισοδυναμεί με μεγαλύτερη επίδραση του AI, αυτό δεν σημαίνει απαραίτητα ότι είναι πιο αποτελεσματικό. Οι επιχειρήσεις αιμορραγούν τους προϋπολογισμούς τους στις υπηρεσίες AI ενώ εξακολουθούν να βασίζονται σε υπερμεγέθη, υπερτιμωμένα υποδομή, η αύξηση του κόστους του AI απλώς εκθέτει ένα βαθύ ριζωμένο πρόβλημα που οι επιχειρήσεις δεν μπορούν πλέον να αγνοήσουν.

Πώς συσσωρεύονται οι δαπάνες στο cloud

Οι δαπάνες για την υποδομή ΤΠΕ είναι συχνά το δεύτερο μεγαλύτερο στοιχείο του προϋπολογισμού μιας οργάνωσης μετά από τον προσωπικό, αντιπροσωπεύοντας κατά μέσο όρο 10% του ετήσιου εσόδου μιας επιχείρησης – ένα ποσό που η ζήτηση για AI έχει ωθήσει ψηλά τα τελευταία χρόνια. Αλλά πολλοί προσθέτουν όγκο σε μια ήδη φουσκωμένη υποδομή ΤΠΕ.

Οι τεχνικοί διευθυντές και άλλοι τεχνολογικοί αποφασιστές ελκύονται από αυτό που είναι οικείο και αξιόπιστο. Δυστυχώς, αυτό είναι επίσης αυτό που αυξάνει τις δαπάνες τους στο cloud. Αναλαμβάνοντας το δοκιμασμένο και αληθινό, κλειδώνουν σε ακριβές συμφωνίες «ένα μέγεθος για όλους» με μεγάλους hyperscalers όπου πληρώνουν για λύσεις που δεν παράγουν αξία.

Με τον καιρό, βρίσκουν ότι πληρώνουν για μη χρησιμοποιημένες ή ανενεργές υπηρεσίες, μη βελτιστοποιημένη υλική υποδομή και κενές αποθήκες, όταν θα μπορούσαν να επενδύουν αυτό το χρήμα στην καινοτομία του AI. Με το AI να γίνεται όλο και πιο ακριβό, θα χρειαστούν κάθε δολάριο που μπορούν να πάρουν.

Προσαρμογή της υποδομής για αποτελεσματικότητα του AI

Η λήψη του ελέγχου των δαπανών στο cloud απαιτεί μια συνδυασμένη acute, βραχυπρόθεσμη δράση και μακροπρόθεσμη εξέλιξη. Η αντιμετώπιση του τι είναι λύσιμο σήμερα δίνει στις επιχειρήσεις τον εναέριο χώρο να σχεδιάσουν για μεγαλύτερες αναπροσαρμογές τον επόμενο χρόνο.

Η μετάβαση σε νέα υποδομή χρειάζεται χρόνο, και οι οργανώσεις χρειάζονται λύσεις τώρα ώστε οι ομάδες τους να μπορέσουν να συνεχίσουν να εργάζονται με το AI. Εδώ είναι τρία βήματα που οι επιχειρήσεις μπορούν να λάβουν αμέσως για να ρυθμίσουν τις δαπάνες τους στο cloud:

1 – Αναλύστε τη χρήση CPU και μνήμης

Υπάρχει ένα πράγμα σαν «πολύ» απόδοση. Οι ομάδες ΤΠΕ πρέπει να διεξάγουν μια λεπτομερή διάγνωση της χρήσης των υπηρεσιών cloud, και στη συνέχεια να υποβαθμίσουν τις περιπτώσεις που υπερβαίνουν τις απαιτήσεις απόδοσης. Ένα βαθύ πήδημα στην χρήση του cloud επίσης βοηθά τις ομάδες να ανακαλύψουν χαρακτηριστικά και υποδομή που δεν χρησιμοποιούνται καθόλου, εάν η τρέχουσα σύμβαση τους το επιτρέπει, μπορεί να είναι σε θέση να αποσυνδέσουν αυτές τις υπηρεσίες ή να διαπραγματευτούν μια χαμηλότερη πληρωμή καθ’ όλη τη διάρκεια της σύμβασης. Αλλιώς, η αναγνώριση μη χρησιμοποιημένων χαρακτηριστικών παρέχει ένα πολύτιμο πλαίσιο για τον καθορισμό των παραμέτρων της αναδιαμορφωμένης προσέγγισης cloud.

Καθώς οι επιχειρήσεις μετατοπίζουν την στρατηγική της υποδομής, θα θέλουν να επιλέξουν υπηρεσίες cloud που οικονομούν τη χρήση μνήμης. Για παράδειγμα, η υποδομή που είναι βελτιστοποιημένη για μνήμη και οι vCPUs παρέχουν πιο προσιτή υποστήριξη για την υποστήριξη επιχειρηματικών τάξεων σε σύγκριση με τις βελτιστοποιήσεις που βασίζονται σε Arm που προσφέρονται συνήθως από hyperscalers. Αυτό ανακουφίζει μέρος του φόρτου παρακολούθησης από τις ομάδες ΤΠΕ ενώ ταυτόχρονα μειώνει τις συνολικές δαπάνες στο cloud.

2 – Ορίστε αυστηρά όρια δαπανών

Τα όρια δαπανών και χρήσης έχουν sido η ανοσοαπόκριση της βιομηχανίας τεχνολογίας στις αυξήσεις των τιμών του AI, αλλά δεν είναι μόνο η τοποθέτηση των ορίων που έχει σημασία. Είναι πώς αυτά τα όρια ορίζονται, επικοινωνούνται και επιβάλλονται.

Για ένα, τα όρια δαπανών πρέπει να είναι συγκεκριμένα. Οι ηγέτες πρέπει να μπορέσουν να τα χρησιμοποιήσουν ως οδηγό για την προγραμματισμό έργων και την πηγή, επιτρέποντάς τους να διαμορφώσουν προϋπολογισμούς, χρονοδιαγράμματα και ομάδες έργων με προσανατολισμό στην αποτελεσματικότητα.

Όσον αφορά την επικοινωνία, είναι κρίσιμο ότι ολόκληρη η εργαζόμενη δύναμη να κατανοήσει το γιατί πίσω από τα όρια. Είμαστε συνηθισμένοι να βλέπουμε το ψηφιακό ως το άπειρο, αλλά σε αυτό το στάδιο της εκρηξης του AI, είμαστε αντιμέτωποι με τους νόμους της φυσικής. Όπως οι ελλείψεις και οι αλλαγές χρέωσης επηρεάζουν την καθημερινή εργασία των εργαζομένων, τα όρια δαπανών πρέπει να τοποθετηθούν ως ένας βιώσιμος τρόπος για να διατηρήσουν την καινούρια εξάρτησή τους από τα εργαλεία που βασίζονται στο AI, και όχι ως μια περιορισμός.

3 – Επιβάλετε πρωτόκολλα ετικέτας

Τα πρωτόκολλα ετικέτας αποτρέπουν τη μη διαχειριζόμενη χρήση ΤΠΕ που κρυφά αυξάνει τις δαπάνες υπολογισμού. Με ένα robust κώδικα ετικέτας, οι ηγέτες ΤΠΕ μπορούν να αποκτήσουν μια καλύτερη κατανόηση της κυκλοφορίας των υπηρεσιών cloud, επιτρέποντάς τους να στοχεύσουν την πηγή της υπερχρήσης και να κάνουν στρατηγικές προσαρμογές για να μειώσουν τους πόρους όπου συμβαίνει η φούσκα. Ταυτόχρονα, τα πρωτόκολλα ετικέτας μπορούν επίσης να δείξουν όπου οι ομάδες μπορεί να χρειαστούν μια αναβάθμιση.

Καθώς οι υφιστάμενες συμβάσεις cloud λήγουν, οι επιχειρήσεις έχουν την ευκαιρία να αναδιαμορφώσουν το οικοσύστημά τους υπολογισμού με μια σύνθετη, πολυ-cloud προσέγγιση. Αυτό δεν σημαίνει απαραίτητα να εγκαταλείψουν τους μακροχρόνιους συνεργάτες hyperscalers, αλλά να μειώσουν τις συμβάσεις τους για να συμφωνήσουν με πιο αποτελεσματική υποδομή αλλού στο στάκ. Εναλλακτικές λύσεις cloud, λύσεις edge που αποφορτίζουν το βάρος από την υποδομή που βασίζεται σε GPU, και λύσεις λογισμικού ανοιχτού κώδικα αποτελούν μια ευέλικτη, πολυ-πωλητή στρατηγική που κάνει περισσότερα από το να σώζει κόστος: αυξάνει την απόδοση του κάθε πρωτοκόλλου AI μέσω της μεγιστοποίησης της τιμής για απόδοση, επιτρέποντας στις επιχειρήσεις να επενδύσουν τις οικονομίες πίσω στην καινοτομία του AI.

Επανασύνδεση του μυαλού της αποτελεσματικότητας

Η διαχείριση του κόστους του AI είναι επίσης ένα ζήτημα πολιτισμού. Οι ομάδες που ενεργοποιούνται από το AI είναι αξιοσημείωτα εθισμένες στην αποτελεσματικότητα. Αυτός είναι ο λόγος για τον οποίο κατασκευάζουν πράκτορες, αυτοματοποιούν τις επικοινωνίες τους και αφήνουν το AI να κάνει το βαρύ έργο ενώ επεκτείνουν την ικανότητά τους για δημιουργικότητα και καινοτομία. Αλλά η ασεβής χρήση αυτών των εργαλείων έχει το αντίθετο αποτέλεσμα.

«Tokenmaxxing» και άλλες τάσεις που ενθαρρύνουν την σπατάλη χρήση του AI είναι ασυμβίβαστες με μια προκατάληψη για αποτελεσματικότητα. Εάν οι ομάδες θέλουν πραγματικά να κάνουν περισσότερα με λιγότερα, οι αλληλεπιδράσεις τους με το AI πρέπει να αντανακλούν这一 αρχή.

Αυτό απαιτεί την ταυτόχρονη μετατόπιση του πολιτισμού και της τεχνολογίας. Ενθαρρύνετε τη χρήση καλύτερων προτύπων για να μειώσετε το φορτίο συλλογής, αλλά επίσης υιοθετήστε υποδομή που οικονομεί αυτόματα τη συλλογή. Υιοθετήστε μικρότερα μοντέλα AI με ακριβείς περιπτώσεις χρήσης. Υιοθετήστε ανοιχτά μοντέλα και λογισμικό για να μειώσετε το φόρτο εκπαίδευσης. Ενδυναμώστε τους dévelopers να λύνουν προβλήματα αποτελεσματικά και εκπαιδεύστε μη τεχνικούς χρήστες του AI. Οι εταιρείες που θέλουν να ενθαρρύνουν τους υπαλλήλους τους να χρησιμοποιούν το AI πρέπει να το κάνουν υπεύθυνα.

Παρά τις αυξήσεις των τιμών, δεν abbiamo φτάσει στα φρένα στην μεταμόρφωση του AI. Η λειτουργία του AI σε κλίμακα ήταν πάντα going να είναι μια ακριβή επιχείρηση, απαιτώντας προσεκτική σχεδίαση και στρατηγική διανομή κεφαλαίου για να παραμείνει βιώσιμη. Όπου βρισκόμαστε είναι ένα σημείο πίεσης: οι κινήσεις που κάνουν οι ηγέτες ΤΠΕ τώρα θα καθορίσουν ποιος θα περάσει από αυτό και ποιος θα μείνει πίσω.

Ενώ η βιομηχανία κινητοποιείται για να λύσει την κρίση υπολογισμού, οι επιχειρήσεις πρέπει να βρουν τρόπους να κάνουν με αυτό που έχουν. Οι εταιρείες μπορούν να προστατεύσουν τον εαυτό τους από τα αστρονομικά κόστη του AI αντιμετωπίζοντας τις υπερ-δαπάνες στις λύσεις cloud, οικονομώντας τη συλλογή σε ένα κατανεμημένο cloud, και επενδύοντας σε υποδομή που προάγει την πραγματική απόδοση.