Ηγέτες σκέψης
Το Μέλλον της Παραγωγικής Τεχνητής Νοημοσύνης Βρίσκεται στο Edge

Βασικά σημείαΤο Edge AI μειώνει το κόστος του cloud και την κατανάλωση ενέργειας μεταφέροντας τη…
Δείτε περισσότερα
- Το Edge AI μειώνει το κόστος του cloud και την κατανάλωση ενέργειας μεταφέροντας τη διαδικασία συμπερασμού σε τοπικό υλικό.
- Η επεξεργασία στη συσκευή εξασφαλίζει άμεση απόκριση σε πραγματικό χρόνο και προστατεύει τα ευαίσθητα δεδομένα των χρηστών.
- Οι εξειδικευμένοι επιταχυντές edge επιτρέπουν τη δημιουργία συμπαγών, ειδικά προσαρμοσμένων για επιχειρήσεις μοντέλων παραγωγικής τεχνητής νοημοσύνης.
Η έλευση του ChatGPT και της Παραγωγικής Τεχνητής Νοημοσύνης γενικά, είναι ένα ορόσημο στην ιστορία της τεχνολογίας και μοιάζει με την αυγή του Διαδικτύου και του smartphone. Η Παραγωγική Τεχνητή Νοημοσύνη έχει δείξει απεριόριστο δυναμικό στην ικανότητά της να έχει έξυπνες συνομιλίες, να περνά εξετάσεις, να δημιουργεί σύνθετα προγράμματα/κώδικα και να δημιουργεί εντυπωσιακές εικόνες και βίντεο. Ενώ οι GPU εκτελούν τα περισσότερα μοντέλα Gen AI στο υπολογιστικό νέφος – και για εκπαίδευση και για εκτέλεση συμπερασμού – αυτό δεν είναι μια μακροπρόθεσμα κλιμακώσιμη λύση, ιδιαίτερα για εκτέλεση συμπερασμού, λόγω παραγόντων που περιλαμβάνουν κόστος, ισχύ, καθυστέρηση, ιδιωτικότητα και ασφάλεια. Αυτό το άρθρο αντιμετωπίζει κάθε έναν από αυτούς τους παράγοντες μαζί με παραδείγματα που αιτιολογούν την ανάγκη για να μεταφέρει Gen AI υπολογιστικές εργασίες στο edge.
Οι περισσότερες εφαρμογές εκτελούνται σε υψηλής απόδοσης επεξεργαστές – είτε σε συσκευή (π.χ. smartphone, desktop, laptop) είτε σε κέντρα δεδομένων. Όσο μεγαλώνει το μερίδιο των εφαρμογών που χρησιμοποιούν τεχνητή νοημοσύνη, αυτοί οι επεξεργαστές με μόνο CPU είναι ανεπαρκείς. Επιπλέον, η ταχεία επέκταση των εργασιών της Παραγωγικής Τεχνητής Νοημοσύνης οδηγεί σε εκθετική ζήτηση για διακομιστές με ακριβές και ενεργοβόρες GPU που με τη σειρά τους, οδηγούν σε αύξηση των κοστών υποδομής. Αυτοί οι διακομιστές με GPU για AI μπορούν να κοστίσουν πάνω από 7 φορές το κόστος ενός κανονικού διακομιστή και τα GPU αντιπροσωπεύουν το 80% αυτής της πρόσθετης δαπάνης.
Επιπλέον, ένας διακομιστής στο υπολογιστικό νέφος καταναλώνει 500W έως 2000W, ενώ ένας διακομιστής με δυνατά GPU καταναλώνει μεταξύ 2000W και 8000W – 4 φορές περισσότερο! Για να υποστηρίξουν αυτούς τους διακομιστές, τα κέντρα δεδομένων χρειάζονται πρόσθετες μονάδες ψύξης και αναβαθμίσεις υποδομής – τα οποία μπορούν να είναι ακόμη υψηλότερα από την επένδυση υπολογισμού. Τα κέντρα δεδομένων ήδη καταναλώνουν 300 TWH ανά έτος, περίπου 1% της συνολικής παγκόσμιας κατανάλωσης ενέργειας. Αν συνεχιστούν οι τάσεις της υιοθέτησης της τεχνητής νοημοσύνης, τότε μέχρι το 5% της παγκόσμιας ενέργειας μπορεί να χρησιμοποιηθεί από τα κέντρα δεδομένων μέχρι το 2030. Επιπλέον, υπάρχει μια άνευ προηγουμένου επένδυση σε κέντρα δεδομένων για Παραγωγική Τεχνητή Νοημοσύνη. Εκτιμάται ότι τα κέντρα δεδομένων θα καταναλώσουν μέχρι 500 δισεκατομμύρια δολάρια για κεφαλαιουχικές δαπάνες μέχρι το 2027, κυρίως με τη δύναμη των απαιτήσεων υποδομής της τεχνητής νοημοσύνης.

Η κατανάλωση ηλεκτρικής ενέργειας από τα κέντρα δεδομένων, ήδη 300 TwH, θα αυξηθεί σημαντικά με την υιοθέτηση της παραγωγικής τεχνητής νοημοσύνης.
Το κόστος υπολογισμού της τεχνητής νοημοσύνης καθώς και η κατανάλωση ενέργειας θα εμποδίσουν την μαζική υιοθέτηση της Παραγωγικής Τεχνητής Νοημοσύνης. Οι προκλήσεις κλιμάκωσης μπορούν να ξεπεραστούν με τη μεταφορά του υπολογισμού της τεχνητής νοημοσύνης στο edge και τη χρήση λύσεων επεξεργασίας που είναι βελτιστοποιημένες για τις εργασίες της τεχνητής νοημοσύνης. Με αυτήν την προσέγγιση, άλλα οφέλη προκύπτουν επίσης για τον πελάτη, συμπεριλαμβανομένης της μειωμένης καθυστέρησης, της ιδιωτικότητας, της αξιοπιστίας, καθώς και της αυξημένης ικανότητας.
Ο υπολογισμός ακολουθεί τα δεδομένα στο Edge
Από τότε που η τεχνητή νοημοσύνη προήλθε από τον ακαδημαϊκό κόσμο, πριν από μια δεκαετία, η εκπαίδευση και η εκτέλεση συμπερασμού των μοντέλων της τεχνητής νοημοσύνης πραγματοποιήθηκαν στο υπολογιστικό νέφος/κέντρο δεδομένων. Με τα περισσότερα δεδομένα να παράγονται και να καταναλώνονται στο edge – ιδιαίτερα το βίντεο – ήταν λογικό να μεταφερθεί η εκτέλεση συμπερασμού στα δεδομένα στο edge, βελτιώνοντας έτσι το συνολικό κόστος ιδιοκτησίας (TCO) για τις επιχειρήσεις λόγω μειωμένων κοστών δικτύου και υπολογισμού. Ενώ το κόστος εκτέλεσης συμπερασμού της τεχνητής νοημοσύνης στο υπολογιστικό νέφος είναι επαναλαμβανόμενο, το κόστος εκτέλεσης συμπερασμού στο edge είναι μια εφάπαξ δαπάνη για υλικό. Βασικά, η ενίσχυση του συστήματος με έναν επεξεργαστή AI στο edge μειώνει το συνολικό λειτουργικό κόστος. Όπως και η μετεγκατάσταση των συμβατικών εργασιών της τεχνητής νοημοσύνης στο Edge (π.χ. συσκευή, συσκευή), οι εργασίες της Παραγωγικής Τεχνητής Νοημοσύνης θα ακολουθήσουν. Αυτό θα φέρει σημαντικά οφέλη στις επιχειρήσεις και τους καταναλωτές.
Η μεταφορά στο edge, σε συνδυασμό με έναν αποδοτικό επιταχυντή AI για την εκτέλεση συμπερασμού, προσφέρει άλλα οφέλη. Το σημαντικότερο από αυτά είναι η χαμηλή καθυστέρηση. Για παράδειγμα, στις εφαρμογές παιχνιδιών, οι χαρακτήρες που δεν ελέγχονται από παίκτες (NPCs) μπορούν να ελεγχθούν και να ενισχυθούν χρησιμοποιώντας παραγωγική τεχνητή νοημοσύνη. Χρησιμοποιώντας LLM μοντέλα που εκτελούνται σε επιταχυντές AI στο edge σε μια κονσόλα παιχνιδιών ή υπολογιστή, οι παίκτες μπορούν να δώσουν σε αυτούς τους χαρακτήρες συγκεκριμένους στόχους, ώστε να μπορέσουν να συμμετέχουν με νόημα στην ιστορία. Η χαμηλή καθυστέρηση από την τοπική εκτέλεση συμπερασμού στο edge θα επιτρέψει στην ομιλία και τις κινήσεις των NPCs να ανταποκρίνονται σε πραγματικό χρόνο στις εντολές και τις ενέργειες των παικτών. Αυτό θα προσφέρει μια ιδιαίτερα καθηλωτική εμπειρία παιχνιδιού, με χαμηλό κόστος και ενεργειακή αποδοτικότητα.
Στις εφαρμογές όπως η υγεία, η ιδιωτικότητα και η αξιοπιστία είναι εξαιρετικά σημαντικές (π.χ. αξιολόγηση ασθενών, συστάσεις φαρμάκων). Τα δεδομένα και τα σχετικά μοντέλα της Παραγωγικής Τεχνητής Νοημοσύνης πρέπει να βρίσκονται στις εγκαταστάσεις του παρόχου για να προστατεύσουν τα δεδομένα των ασθενών (ιδιωτικότητα) και οποιαδήποτε διακοπή δικτύου που θα μπλοκάρει την πρόσβαση στα μοντέλα της τεχνητής νοημοσύνης στο υπολογιστικό νέφος μπορεί να είναι καταστροφική. Μια συσκευή AI στο edge που εκτελεί ένα μοντέλο Παραγωγικής Τεχνητής Νοημοσύνης που έχει δημιουργηθεί ειδικά για κάθε επιχείρηση πελάτη – σε αυτήν την περίπτωση έναν πάροχο υγείας – μπορεί να λύσει ομαλά τα προβλήματα της ιδιωτικότητας και της αξιοπιστίας, ενώ προσφέρει χαμηλότερη καθυστέρηση και κόστος.

Η Παραγωγική Τεχνητή Νοημοσύνη σε συσκευές edge θα διασφαλίσει χαμηλή καθυστέρηση στα παιχνίδια και θα διατηρήσει τα δεδομένα των ασθενών και θα βελτιώσει την αξιοπιστία για την υγεία.
Πολλά μοντέλα της Παραγωγικής Τεχνητής Νοημοσύνης που εκτελούνται στο υπολογιστικό νέφος μπορούν να είναι κοντά σε ένα τρισεκατομμύριο παραμέτρων – αυτά τα μοντέλα μπορούν να αντιμετωπίσουν αποτελεσματικά ερωτήματα γενικού σκοπού. Ωστόσο, οι εφαρμογές για συγκεκριμένες επιχειρήσεις απαιτούν τα μοντέλα να παράγουν αποτελέσματα που είναι σχετικά με την περίπτωση χρήσης. Πάρτε το παράδειγμα ενός βοηθού της Παραγωγικής Τεχνητής Νοημοσύνης που έχει δημιουργηθεί για να λαμβάνει παραγγελίες σε ένα εστιατόριο ταχείας εστίασης – για αυτό το σύστημα να έχει μια ομαλή αλληλεπίδραση με τον πελάτη, το υποκείμενο μοντέλο της Παραγωγικής Τεχνητής Νοημοσύνης πρέπει να έχει εκπαιδευτεί στα μενού του εστιατορίου, γνωρίζοντας επίσης τα αλλεργιογόνα και τα συστατικά. Το μέγεθος του μοντέλου μπορεί να βελτιστοποιηθεί χρησιμοποιώντας ένα ευρύτερο μεγάλο γλωσσικό μοντέλο (LLM) για να εκπαιδεύσει ένα σχετικά μικρότερο LLM 10–30 δισεκατομμυρίων παραμέτρων και στη συνέχεια να χρησιμοποιήσει πρόσθετη λεπτομερή προσαρμογή με δεδομένα του συγκεκριμένου πελάτη. Ένα τέτοιο μοντέλο μπορεί να παράγει αποτελέσματα με αυξημένη ακρίβεια και ικανότητα. Και δεδομένου του μικρού μεγέθους του μοντέλου, μπορεί να αναπτυχθεί αποτελεσματικά σε έναν επιταχυντή AI στο edge.
Η Παραγωγική Τεχνητή Νοημοσύνη θα κερδίσει στο Edge
Θα υπάρχει πάντα ανάγκη για Παραγωγική Τεχνητή Νοημοσύνη που εκτελείται στο υπολογιστικό νέφος, ιδιαίτερα για εφαρμογές γενικού σκοπού όπως το ChatGPT και το Claude. Αλλά όταν πρόκειται για εφαρμογές για συγκεκριμένες επιχειρήσεις, όπως το Generative Fill του Adobe Photoshop ή το GitHub Copilot, η Παραγωγική Τεχνητή Νοημοσύνη στο edge δεν είναι μόνο το μέλλον, αλλά και το παρόν. Οι ειδικά σχεδιασμένοι επιταχυντές AI είναι το κλειδί για να γίνει αυτό δυνατό.












