Μην Χτίζετε Την Επιχείρησή Σας AI Σε Δανεισμένη Πρόσβαση

Όλες οι εφαρμογές AI και οι επιχειρηματικές αναπτύξεις έχουν χτιστεί μέχρι τώρα με την υπόθεση ότι η πρόσβαση σε μοντέλα AI.frontier θα παραμείνει δυνατή και σχεδόν απεριόριστη. Αυτή ήταν η σωστή στάση, μέχρι τώρα. Η τάση ήταν ότι οι νέες ικανότητες των μοντέλων frontier ήταν να γίνονται εμπορικές ή ανοιχτές πηγές εντός 6 μηνών και因此 η εστίαση ήταν μόνο για την κατανόηση των μελλοντικών ικανοτήτων όσο το δυνατόν νωρίτερα. Οι εταιρείες, οι ομάδες ή οι άνθρωποι που μπορούσαν να χτίσουν προϊόντα κατανοώντας και προσαρμοζόμενοι στις νέες ικανότητες των μοντέλων frontier όσο το δυνατόν νωρίτερα για να χτίσουν εφαρμογές ήταν εκείνοι που κέρδιζαν. Ωστόσο, διάφορα σήματα μπορεί να υποδεικνύουν ότι αυτή η εποχή θα σταματήσει σύντομα. Η απόφαση του Υπουργείου Εμπορίου των ΗΠΑ να περιορίσει την πρόσβαση στα μοντέλα Fable και Mythos της Anthropic σε πολίτες των ΗΠΑ ήταν μόνο το πρώτο σημάδι. Ωστόσο, αυτή η περιορισμός ήταν αργότερα άρθηκε μετά από συντονισμό με την Anthropic, δείχνοντας πόσο γρήγορα οι συνθήκες πρόσβασης μπορούν να αλλάξουν και την ανάγκη για προσαρμόσιμες επιχειρηματικές συστήματα AI.

Οι τέσσερις λόγοι για τους οποίους η πρόσβαση στα μοντέλα frontier δεν είναι εγγυημένη

Η στάση της κατασκευής μόνο για μοντέλα frontier μπορεί να σταματήσει να είναι η σωστή αν η διαθεσιμότητά τους σταματήσει να είναι εγγυημένη. Υπάρχουν τουλάχιστον τέσσερις λόγοι για τους οποίους αυτό μπορεί να συμβεί. Πρώτον, η οικονομία των μοντέλων AI.frontier βασίζεται σε επιχορηγούμενη τιμολόγηση που δεν θα διαρκέσει. Οι πρόσφατες προετοιμασίες για την αρχική δημόσια προσφορά μετοχών από την OpenAI και την Anthropic τις ανάγκασαν να ανοίξουν τα βιβλία και να αποκαλύψουν σαφώς το πραγματικό κόστος των τρεχουσών υπηρεσιών AI που υποστηρίζονται, το οποίο μπορεί να μην είναι οικονομικά βιώσιμο μετά την αρχική δημόσια προσφορά. Υπάρχουν φήμες ότι η ιδιωτική συνδρομή των 200 δολαρίων που προσφέρει η Anthropic κοστίζει στην εταιρεία αρκετές χιλιάδες δολάρια.，因此, οι τιμές των token αναμένεται να συνεχίσουν να αυξάνονται και η εποχή της τεχνητά φθηνής πρόσβασης στα μοντέλα frontier θα τελειώσει.

Δεύτερον, τα μοντέλα frontier δεν γίνονται φθηνότερα να εκτελούνται. Σε αντίθεση με την κλασική υπολογιστική, όπου ο νόμος του Moore μειώνει σταθερά το κόστος κάθε δεδομένης λειτουργίας με το χρόνο, τα μοντέλα AI δεν φαίνεται να ακολουθούν αυτή την καμπύλη. Τα μοντέλα γίνονται μεγαλύτερα αλλά και πιο υπολογιστικά εντατικά. Όλοι οι μηχανικοί μας έχουν εξαντλήσει τα πιστωτικά τους σημεία Claude εντός 10 λεπτών μετά την (προσωρινή) κυκλοφορία του fable 5. Αυτό μπορεί να υποδηλώσει ότι τα επόμενα μοντέλα frontier θα απαιτήσουν περισσότερα token, περισσότερη υπολογιστική ισχύ και περισσότερη υποδομή με κάθε επανάληψη.

Τρίτον, φαίνεται ότι όλο και λιγότεροι παίκτες παραμένουν στην κούρσα για τα πραγματικά μοντέλα frontier. Το Mistral, που ήταν η ευρωπαϊκή ελπίδα να ανταγωνιστεί στο παγκόσμιο στάδιο των μοντέλων frontier, έχει αναθεωρήσει τις φιλοδοξίες του να είναι ένας σεμνός ακόλουθος. Τα κινεζικά μοντέλα είναι γρήγοροι ακόλουθοι αλλά συνεχίζουν να μένουν πίσω από τις καλύτερες κυκλοφορίες των ηγετικών εργαστηρίων.

Τέταρτον, τα μοντέλα frontier μπορεί να είναι πολύ επικίνδυνα για να χρησιμοποιηθούν σε κάθε εφαρμογή. Δεν χρησιμοποιούμε miniaturized πυρηνικούς αντιδραστήρες σε αυτοκίνητα, εν μέρει επειδή αυτό το πεδίο είναι υψηλά ρυθμιζόμενο και είναι επικίνδυνο. Οι δικοί μας πειραματισμοί δείχνουν ότι είναι πολύ δύσκολο να κρατηθεί ένα μοντέλο frontier σε λουρί για να διασφαλιστεί ότι παραμένει αβλαβές ενώ διατηρεί τις ικανότητές του. Αυτό μπορεί να είναι ένα μακροπρόθεσμο πραγματικό μάθημα και η υποκείμενη λογική πίσω από την αμερικανική ρύθμιση του Fable 5. Σε κάθε περίπτωση, είναι πολύ πιθανό ότι τα μοντέλα frontier θα αντιμετωπίζονται ως στρατηγικά περιουσιακά στοιχεία από τις χώρες και因此 δεν θα είναι τόσο ελεύθερα διαθέσιμα όσο είναι τώρα.

Άρα, μπορεί να εισέρχεται σε ένα κόσμο όπου το κόστος των token έχει σημασία και όπου τα μοντέλα frontier δεν είναι διαθέσιμα σε όλες τις εφαρμογές σε όλες τις χώρες.

Εισέρχεται το επίπεδο εφαρμογής

Σε ένα κόσμο όπου δεν κάθε κλήση μοντέλου πηγαίνει στο καλύτερο διαθέσιμο μοντέλο, πώς μπορούμε να διασφαλίσουμε ότι κάθε εργασία λύνεται αξιόπιστα και με το καλύτερο δυνατό επίπεδο απόδοσης; Η απάντηση μπορεί να βρίσκεται στο λεγόμενο “επίπεδο εφαρμογής”.

Ο CEO της NVIDIA, Jensen Huang, περιέγραψε τα AI ως ένα 5-στρώματο κέικ: ενέργεια, chips, κέντρα δεδομένων, μοντέλα και εφαρμογές. Υποστηρίζει ότι το επίπεδο εφαρμογής είναι και το πιο σημαντικό και αυτό που λείπει ακόμη.

Για ορισμένες εφαρμογές, όπως τα chatbots, αυτό το επίπεδο είναι εξαιρετικά λεπτό—πραγματικά μόνο μια διεπαφή chat. Σε άλλες, όπως τις προηγμένες βιομηχανικές και μηχανικές εφαρμογές, είναι πολύ πιο σημαντικό και κρίσιμο. Είναι το καθοριστικό επίπεδο στην αλυσίδα αξίας. Όταν η πρόσβαση σε ένα συγκεκριμένο μοντέλο frontier δεν θα είναι πλέον εγγυημένη, το ρόλο του επιπέδου εφαρμογής θα είναι να ομογενοποιήσει τα αποτελέσματα σε όλα τα μοντέλα και να διατηρήσει το κόστος των token υπό έλεγχο.

Συγκεκριμένα, αν θέλω να εκτελέσω μια σύνθετη, κρίσιμη για την αποστολή εργασία όπως η ανασχεδιασμός της αλυσίδας εφοδιασμού μου για ένα νέο αεροσκάφος, θα ζητήσω από ένα ισχυρό μοντέλο frontier να με βοηθήσει. Το μοντέλο μπορεί να είναι σε θέση να κατανοήσει πώς να το κάνει μόνο του, να χτίσει ένα εργαλείο σχεδιασμού για μένα και να επικοινωνήσει το αποτέλεσμα σε όλα τα τμήματα μου. Ωστόσο, αν αλλάξω μοντέλα σε ένα πιο ικανό, ένα λιγότερο ακριβό ή ένα από έναν διαφορετικό παρόχο, μπορεί να χάσω απόδοση ή να χάσω συνέπεια στο τελικό αποτέλεσμα. Σε πολλές πρακτικές περιπτώσεις σε επιχειρηματικά στήρια, αυτή η αβεβαιότητα δεν είναι αποδεκτή. Αυτό είναι το σημείο όπου το επίπεδο εφαρμογής παίζει κρίσιμο ρόλο: αντί να αφήσουμε το μοντέλο να λειτουργήσει σε einem ανοιχτό χώρο και να βασιστούμε στις ακατέργαστες ικανότητές του να παράγει το αποτέλεσμα, το επίπεδο εφαρμογής ορίζει ένα σαφές καμβά, ένα περιορισμένο σύνολο διαθέσιμων ενεργειών και ένα καθορισμένο περιθώριο εντός του οποίου μπορεί να λειτουργήσει. Το μοντέλο δεν ζητείται πλέον να κατανοήσει όλα από την αρχή, του δίνεται ένας καλά καθορισμένος καμβάς που θα αυξήσει σημαντικά την πιθανότητα ότι οποιοδήποτε μοντέλο θα εκτελεστεί καλά.

Κόστος, το μοντέλο μου μπορεί επίσης να αποφασίσει να εκτελέσει πολύ χαμηλού επιπέδου ενέργειες για να φτάσει στο στόχο του. Μπορεί να ξαναγράψει einen αλγόριθμο σχεδιασμού από την αρχή, να χτίσει μια νέα διεπαφή για μένα να οπτικοποιήσω το έργο του ή ακόμη και να αναπτύξει einen νέο βελτιωτή. Αλλά, αυτό μπορεί να είναι απίστευτα ακριβό σε tokens, ενώ καλές οδηγίες ή προκατασκευασμένα εργαλεία μπορούν να βοηθήσουν το μοντέλο να επιτύχει το ίδιο αποτέλεσμα με λιγότερα tokens. Αυτός είναι ο ρόλος του επιπέδου εφαρμογής. Η καλή είδηση είναι ότι τα μοντέλα τείνουν να είναι τεμπέλη και να ψάχνουν για συντομότερους δρόμους, οπότε μπορεί να μην χρειαζόμαστε να τα περιορίσουμε πολύ μια φορά που έχει πρόσβαση στο σωστό σύνολο δεξιοτήτων, εργαλείων και υπολογιστικών πόρων.

Σύντομα, ένα καλό επίπεδο εφαρμογής θα παρέχει σαφείς δεξιότητες, εργαλεία και οδηγίες για το μοντέλο να λειτουργήσει αξιόπιστα και με οικονομική αποτελεσματικότητα. Επιπλέον, αυτό σημαίνει ότι η εξάρτηση από ένα συγκεκριμένο μοντέλο μειώνεται. αν ενσωματώσετε την ευφυΐα σας στο επίπεδο εφαρμογής αντί για το ίδιο το μοντέλο, το υποκείμενο μοντέλο γίνεται ανταλλάξιμο. Σε πολλές περιπτώσεις, μπορεί να είναι αυτό που κάνει τη διαφορά μεταξύ πειραματικών και ευέλικτων επιχειρηματικών AI.

Κλήση για δράση για τους ηγέτες των επιχειρήσεων

Σε όλους τους κλάδους, συναντάμε καθημερινά με ηγέτες επιχειρήσεων που εργάζονται για να καθορίσουν την πυρήνα AI. Οι περισσότερες εταιρείες ξεκινούν με ένα ή περισσότερα μοντέλα frontier για να καθορίσουν το απαραίτητο στρώμα μοντέλου στην πυρήνα τους. Για το επίπεδο εφαρμογής, είτε βασίζονται σε εργαλεία που έχουν χτιστεί στο εσωτερικό, πλήρως αγορασμένες ικανότητες, ή ένα μείγμα και των δύο.

Η απαγόρευση της Anthropic ήταν μια υπενθύμιση ότι αυτή η πυρήνα μπορεί να διαταραχθεί την επόμενη μέρα. Οι αρχιτεκτονικές των εταιρειών πρέπει να είναι έτοιμες για όταν θα συμβεί ξανά. Για να είναι έτοιμες, οι εταιρείες πρέπει να λάβουν υπόψη τους την ταχύτητα της ανάπτυξης, αλλά και να χτίσουν λύσεις που θα μετριάσουν τις επιπτώσεις των αλλαγών του μοντέλου καθώς και των αυξανόμενων κοστών των token. Δεν είναι ένας εύκολος δρόμος, αλλά η συμβουλή μου θα ήταν:

• Επενδύστε στο επίπεδο εφαρμογής σας στρατηγικά και νωρίς. Οι εταιρείες που λείπουν από το τρένο θα έχουν πάντα ένα κενό σε σύγκριση με τους πρώτους που υιοθετούν.
• Κάντε την αδιακρισία του μοντέλου ένα αρχικό σχέδιο, όχι ένα γύρο.
• Το κόστος της αλλαγής μοντέλου δεν πρέπει να είναι ένα υπαρξιακό ερώτημα για τις επιχειρήσεις σας.
• Συνεργαστείτε με ειδικευμένες εταιρείες που μπορούν να μετρήσουν μοντέλα, να επικυρώσουν την απόδοση σε πολλαπλά στήρια και να βοηθήσουν να διασφαλίσουν μακροπρόθεσμες εγγυήσεις απόδοσης.

Οι εταιρείες που θα κερδίσουν το παιχνίδι στην επόμενη φάση AI των επιχειρήσεων δεν είναι απαραίτητα αυτές που θα έχουν πρόσβαση στα καλύτερα μοντέλα, αλλά αυτές που θα έχουν χτίσει το σωστό στρώμα γύρω από αυτά.