Το Μέλλον της Γεννητικής Ιντελιγένσιας είναι το Edge

Η έλευση του ChatGPT και της Γεννητικής Ιντελιγένσιας γενικά, είναι ένα ορόσημο στην ιστορία της τεχνολογίας και μοιάζει με την αυγή του Διαδικτύου και του smartphone. Η Γεννητική Ιντελιγένσια έχει δείξει απεριόριστο δυναμικό στην ικανότητά της να έχει έξυπνες συνομιλίες, να περνά εξετάσεις, να δημιουργεί σύνθετα προγράμματα/κώδικα και να δημιουργεί εντυπωσιακές εικόνες και βίντεο. Ενώ οι GPU εκτελούν τα περισσότερα μοντέλα Gen AI στην雲 – και για εκπαίδευση και για συλλογή – αυτό δεν είναι μια μακροπρόθεσμη ευέλικτη λύση, ιδιαίτερα για συλλογή, λόγω παραγόντων που περιλαμβάνουν κόστος, ισχύ, καθυστέρηση, ιδιωτικότητα και ασφάλεια. Αυτό το άρθρο αντιμετωπίζει κάθε einen από αυτούς τους παράγοντες μαζί με κίνητρα παραδείγματα για να μεταφέρει Gen AI υπολογιστικές εργασίες στο edge.

Οι περισσότερες εφαρμογές εκτελούνται σε υψηλής απόδοσης επεξεργαστές – είτε σε συσκευή (π.χ. smartphone, desktop, laptop) είτε σε κέντρα δεδομένων. Όσο μεγαλώνει το μερίδιο των εφαρμογών που χρησιμοποιούν Ιντελιγένσια, αυτοί οι επεξεργαστές με μόνο CPU είναι ανεπαρκείς. Επιπλέον, η ταχεία επέκταση των εργασιών της Γεννητικής Ιντελιγένσιας οδηγεί σε εκθετική ζήτηση για διακομιστές με δυνατά, πεινασμένα για ενέργεια GPU που με τη σειρά τους, οδηγούν σε αύξηση των κοστών υποδομής. Αυτοί οι διακομιστές με δυνατά GPU possono κοστίσουν μέχρι 7 φορές το κόστος eines κανονικού διακομιστή και τα GPU αντιπροσωπεύουν το 80% αυτής της πρόσθετης стоίμης.

Επιπλέον, ένας διακομιστής στην雲 καταναλώνει 500W έως 2000W, ενώ ένας διακομιστής με δυνατά GPU καταναλώνει μεταξύ 2000W και 8000W – 4 φορές περισσότερο! Για να υποστηρίξουν αυτούς τους διακομιστές, τα κέντρα δεδομένων χρειάζονται πρόσθετα μονάδα ψύξης και αναβαθμίσεις υποδομής – τα οποία possono να είναι ακόμη υψηλότερα από την επένδυση υπολογισμού. Τα κέντρα δεδομένων ήδη καταναλώνουν 300 TWH ανά έτος, περίπου 1% της συνολικής παγκόσμιας κατανάλωσης ενέργειας. Αν συνεχιστούν οι τάσεις της υιοθέτησης της Ιντελιγένσιας, τότε μέχρι το 5% της παγκόσμιας ενέργειας μπορεί να χρησιμοποιηθεί από τα κέντρα δεδομένων μέχρι το 2030. Επιπλέον, υπάρχει μια άνευ προηγουμένου επένδυση σε κέντρα δεδομένων για Γεννητική Ιντελιγένσια. Εκτιμάται ότι τα κέντρα δεδομένων θα καταναλώσουν μέχρι 500 δισεκατομμύρια δολάρια για κεφαλαιουχικές δαπάνες μέχρι το 2027, κυρίως με τη δύναμη των απαιτήσεων υποδομής της Ιντελιγένσιας.

Η κατανάλωση ηλεκτρικής ενέργειας από τα κέντρα δεδομένων, ήδη 300 TwH, θα αυξηθεί σημαντικά με την υιοθέτηση της γεννητικής Ιντελιγένσιας.

Ο κόστος υπολογισμού της Ιντελιγένσιας καθώς και η κατανάλωση ενέργειας θα εμποδίσουν την μαζική υιοθέτηση της Γεννητικής Ιντελιγένσιας. Οι προκλήσεις κλιμάκωσης possono να υπερνηθούν με τη μεταφορά του υπολογισμού της Ιντελιγένσιας στο edge και τη χρήση λύσεων επεξεργασίας που είναι βελτιστοποιημένες για τις εργασίες της Ιντελιγένσιας. Με αυτήν την προσέγγιση, άλλα οφέλη προκύπτουν επίσης για τον πελάτη, συμπεριλαμβανομένης της καθυστέρησης, της ιδιωτικότητας, της αξιοπιστίας, καθώς και της αυξημένης ικανότητας.

Ο υπολογισμός ακολουθεί τα δεδομένα στο Edge

Από τότε που η Ιντελιγένσια προήλθε από τον ακαδημαϊκό κόσμο, πριν από μια δεκαετία, η εκπαίδευση και η συλλογή των μοντέλων της Ιντελιγένσιας πραγματοποιήθηκαν στην雲/κέντρο δεδομένων. Με τα περισσότερα δεδομένα να παράγονται και να καταναλώνονται στο edge – ιδιαίτερα το βίντεο – ήταν λογικό να μεταφερθεί η συλλογή των δεδομένων στο edge, βελτιώνοντας έτσι το συνολικό κόστος ιδιοκτησίας (TCO) για τις επιχειρήσεις λόγω μειωμένων κοστών δικτύου και υπολογισμού. Ενώ το κόστος συλλογής της Ιντελιγένσιας στην雲 είναι επαναλαμβανόμενο, το κόστος συλλογής στο edge είναι एक μοναδικό, υλικό έξοδο. Βασικά, η ενίσχυση του συστήματος με einen Edge Ιντελιγένσιας επεξεργαστή μειώνει τους συνολικούς λειτουργικούς κοστους. Όπως και η μετεγκατάσταση των συμβατικών εργασιών της Ιντελιγένσιας στο Edge (π.χ. συσκευή, συσκευή), οι εργασίες της Γεννητικής Ιντελιγένσιας θα ακολουθήσουν. Αυτό θα φέρει σημαντικά οφέλη στις επιχειρήσεις και τους καταναλωτές.

Η μεταφορά στο edge, σε συνδυασμό με einen αποτελεσματικό Ιντελιγένσιας επεξεργαστή για την εκτέλεση συλλογής λειτουργιών, προσφέρει άλλα οφέλη. Τα πιο σημαντικά από αυτά είναι η καθυστέρηση. Για παράδειγμα, στις εφαρμογές παιχνιδιών, οι μη παίκτες χαρακτήρες (NPCs) possono να ελεγχθούν και να ενισχυθούν χρησιμοποιώντας γεννητική Ιντελιγένσια. Χρησιμοποιώντας LLM μοντέλα που εκτελούνται σε edge Ιντελιγένσιας επεξεργαστές σε μια κονσόλα παιχνιδιών ή υπολογιστή, οι παίκτες possono να δώσουν σε αυτούς τους χαρακτήρες συγκεκριμένα στόχους, ώστε να μπορέσουν να συμμετέχουν με νόημα στην ιστορία. Η χαμηλή καθυστέρηση από την τοπική edge συλλογή θα επιτρέψει στους NPCs να απαντούν σε πραγματικό χρόνο στις εντολές και τις ενέργειες των παικτών. Αυτό θα προσφέρει μια εξαιρετικά εύκολη εμπειρία παιχνιδιών με έναν αποτελεσματικό και ενεργειακά αποδοτικό τρόπο.

Στις εφαρμογές όπως η υγεία, η ιδιωτικότητα και η αξιοπιστία είναι εξαιρετικά σημαντικές (π.χ. αξιολόγηση ασθενών, συστάσεις φαρμάκων). Τα δεδομένα και τα σχετικά μοντέλα της Γεννητικής Ιντελιγένσιας πρέπει να είναι στο edge για να προστατεύσουν τα δεδομένα των ασθενών (ιδιωτικότητα) και οποιαδήποτε διακοπή δικτύου που θα μπλοκάρει την πρόσβαση στα μοντέλα της Ιντελιγένσιας στην雲 μπορεί να είναι καταστροφική. Ένας Edge Ιντελιγένσιας επεξεργαστής που εκτελεί ένα μοντέλο Γεννητικής Ιντελιγένσιας που έχει δημιουργηθεί ειδικά για κάθε επιχείρηση πελάτη – σε αυτήν την περίπτωση έναν πάροχο υγείας – μπορεί να λύσει ομαλά τα προβλήματα της ιδιωτικότητας και της αξιοπιστίας, ενώ προσφέρει χαμηλότερη καθυστέρηση και κόστος.

Η Γεννητική Ιντελιγένσια σε συσκευές edge θα διασφαλίσει χαμηλή καθυστέρηση στα παιχνίδια και θα διατηρήσει τα δεδομένα των ασθενών και θα βελτιώσει την αξιοπιστία για την υγεία.

Πολλλά μοντέλα της Γεννητικής Ιντελιγένσιας που εκτελούνται στην雲 possono να είναι κοντά σε ένα τρισεκατομμύριο παραμέτρων – αυτά τα μοντέλα possono να αντιμετωπίσουν αποτελεσματικά γενικούς σκοπούς ερωτήσεων. Ωστόσο, οι επιχειρηματικές συγκεκριμένες εφαρμογές απαιτούν τα μοντέλα να παράγουν αποτελέσματα που είναι σχετικά με την περίπτωση χρήσης. Πάρτε το παράδειγμα ενός βοηθού της Γεννητικής Ιντελιγένσιας που έχει δημιουργηθεί για να λαμβάνει παραγγελίες σε ένα γρήγορο εστιατόριο – για αυτό το σύστημα να έχει μια ομαλή αλληλεπίδραση με τον πελάτη, το υποκείμενο μοντέλο της Γεννητικής Ιντελιγένσιας πρέπει να έχει εκπαιδευτεί στα μενού του εστιατορίου, γνωρίζοντας επίσης τους αλλεργιογόνους και τα συστατικά. Το μέγεθος του μοντέλου μπορεί να βελτιστοποιηθεί χρησιμοποιώντας einen superset Large Language Model (LLM) για να εκπαιδεύσει ένα σχετικά μικρό, 10-30 δισεκατομμύρια παραμέτρων LLM και στη συνέχεια να χρησιμοποιήσει πρόσθετη λεπτομέρεια με τα δεδομένα του πελάτη. Ένα τέτοιο μοντέλο μπορεί να παράγει αποτελέσματα με αυξημένη ακρίβεια και ικανότητα. Και δεδομένου του μικρού μεγέθους του μοντέλου, μπορεί να αναπτυχθεί αποτελεσματικά σε einen Ιντελιγένσιας επεξεργαστή στο edge.

Η Γεννητική Ιντελιγένσια θα κερδίσει στο Edge

Θα υπάρχει πάντα ανάγκη για Γεννητική Ιντελιγένσια που εκτελείται στην雲, ιδιαίτερα για γενικούς σκοπούς εφαρμογές όπως το ChatGPT και το Claude. Αλλά όταν πρόκειται για επιχειρηματικές συγκεκριμένες εφαρμογές, όπως η γεννητική γεμίση του Adobe Photoshop ή ο συνεργάτης του Github, η Γεννητική Ιντελιγένσια στο edge δεν είναι μόνο το μέλλον, αλλά και το παρόν. Οι purpose-χτισμένοι Ιντελιγένσιας επεξεργαστές είναι το κλειδί για να γίνει αυτό δυνατό.