Νέα Σύνορα στη Γεννητική AI — Μακριά από το Cloud

Στην αρχή, υπήρχε το διαδίκτυο, το οποίο άλλαξε τις ζωές μας για πάντα — τον τρόπο με τον οποίο επικοινωνούμε, αγοράζουμε, διεξάγουμε επιχειρήσεις. Και στη συνέχεια, για λόγους καθυστέρησης, ιδιωτικότητας και οικονομικής αποδοτικότητας, το διαδίκτυο μετακινήθηκε στην άκρη του δικτύου, δίνοντας ζωή στο «διαδίκτυο των πραγμάτων».

Τώρα υπάρχει η τεχνητή νοημοσύνη, η οποία κάνει όλα όσα κάνουμε στο διαδίκτυο πιο εύκολα, πιο προσωποποιημένα, πιο έξυπνα. Για να τη χρησιμοποιήσουμε, ωστόσο, χρειάζονται μεγάλοι διακομιστές και υψηλή υπολογιστική ικανότητα, οπότε περιορίζεται στο cloud. Αλλά οι ίδιες мотивές — καθυστέρηση, ιδιωτικότητα, οικονομική αποδοτικότητα — έχουν οδηγήσει εταιρείες όπως η Hailo να αναπτύξουν τεχνολογίες που επιτρέπουν την τεχνητή νοημοσύνη στην άκρη.

Αδιαμφισβήτητα, το επόμενο μεγάλο πράγμα είναι η γεννητική AI. Η γεννητική AI παρουσιάζει τεράστιο δυναμικό σε διάφορους τομείς. Μπορεί να χρησιμοποιηθεί για να αυτοματοποιήσει την εργασία και να αυξήσει την αποτελεσματικότητα των δημιουργών — δικηγόρων, συγγραφέων περιεχομένου, γραφιστών, μουσικών και πολλών άλλων. Μπορεί να βοηθήσει στην ανακάλυψη νέων θεραπευτικών φαρμάκων ή να βοηθήσει στις ιατρικές διαδικασίες. Η γεννητική AI μπορεί να βελτιώσει την αυτοματοποίηση της βιομηχανίας, να αναπτύξει νέο κώδικα λογισμικού και να ενισχύσει την ασφάλεια των μεταφορών μέσω της αυτόματης σύνθεσης βίντεο, ήχου, εικόνων και πολλών άλλων.

Ωστόσο, η γεννητική AI όπως υπάρχει σήμερα περιορίζεται από την τεχνολογία που τη διευκολύνει. Αυτό συμβαίνει γιατί η γεννητική AI συμβαίνει στο cloud — μεγάλες κεντρικές μονάδες ακριβών, ενεργοβόρων επεξεργαστών υπολογιστών μακριά από τους πραγματικούς χρήστες. Όταν κάποιος εκδίδει μια εντολή σε ένα εργαλείο γεννητικής AI όπως το ChatGPT ή κάποια νέα λύση βιντεοκονφεράνς με βάση την τεχνητή νοημοσύνη, η αίτηση μεταδίδεται μέσω του διαδικτύου στο cloud, όπου επεξεργάζεται από διακομιστές πριν επιστραφούν τα αποτελέσματα μέσω του δικτύου.

Καθώς οι εταιρείες αναπτύσσουν νέες εφαρμογές για τη γεννητική AI και τις αναπτύσσουν σε διάφορους τύπους συσκευών — βιντεοκάμερες και συστήματα ασφαλείας, βιομηχανικούς και προσωπικούς ρομπότ, λάπτοπ και ακόμη και αυτοκίνητα — το cloud είναι ένα μπουκάλι σε όρους εύρους ζώνης, κόστους και συνδεσιμότητας.

Και για εφαρμογές όπως η βοήθεια οδηγού, το λογισμικό προσωπικού υπολογιστή, η βιντεοκονφεράνς και η ασφάλεια, η συνεχής μετακίνηση δεδομένων μέσω ενός δικτύου μπορεί να είναι ένα ρίσκο για την ιδιωτικότητα.

Η λύση είναι να επιτρέψουμε σε αυτές τις συσκευές να επεξεργάζονται τη γεννητική AI στην άκρη. Στην πραγματικότητα, η γεννητική AI με βάση την άκρη έχει τη δυνατότητα να ωφελήσει πολλές αναδυόμενες εφαρμογές.

Η Γεννητική AI στην Άνοδο

Συμβουλεύστε ότι τον Ιούνιο, η Mercedes-Benz ανέφερε ότι θα εισαγάγει το ChatGPT στα αυτοκίνητά της. Σε ένα ChatGPT-ενισχυμένο Mercedes, για παράδειγμα, ο οδηγός θα μπορούσε να ζητήσει από το αυτοκίνητο — χωρίς χέρια — μια συνταγή για δείπνο με βάση τα υλικά που ήδη έχει στο σπίτι. Αυτό, αν το αυτοκίνητο είναι συνδεδεμένο στο διαδίκτυο. Σε ένα γκαράζ ή μια απομακρυσμένη τοποθεσία, όλα τα ποντίκια είναι εκτός.

Τους τελευταίους δύο χρόνια, η βιντεοκονφεράνς έχει γίνει δεύτερη φύση για τους περισσότερους από εμάς. Ήδη, οι εταιρείες λογισμικού ενσωματώνουν μορφές AI σε λύσεις βιντεοκονφεράνς. Ίσως είναι για να βελτιώσουν την ποιότητα ήχου και βίντεο σε πραγματικό χρόνο, ή για να «τοποθετήσουν» τους ανθρώπους στο ίδιο εικονικό χώρο. Τώρα, οι βιντεοκονφεράνς με τη γεννητική AI μπορούν να δημιουργήσουν αυτόματα πρακτικά σημειώματα ή να ανακαλέσουν σχετικές πληροφορίες από εταιρικές πηγές σε πραγματικό χρόνο, καθώς συζητούνται διαφορετικά θέματα.

Ωστόσο, αν ένα έξυπνο αυτοκίνητο, ένα σύστημα βιντεοκονφεράνς ή οποιαδήποτε άλλη συσκευή άκρης δεν μπορεί να φτάσει πίσω στο cloud, τότε η εμπειρία της γεννητικής AI δεν μπορεί να συμβεί. Αλλά τι αν δεν χρειάζονταν; Ηταν ένα φοβερό έργο, λαμβάνοντας υπόψη την τεράστια επεξεργασία της AI στο cloud, αλλά τώρα γίνεται δυνατό.

Η Γεννητική AI στην Άκρη

Ηδη, υπάρχουν εργαλεία γεννητικής AI, για παράδειγμα, που μπορούν να δημιουργήσουν αυτόματα πλούσιες, ελκυστικές παρουσιάσεις PowerPoint. Αλλά ο χρήστης χρειάζεται το σύστημα να λειτουργεί από οπουδήποτε, ακόμη και χωρίς σύνδεση στο διαδίκτυο.

Ομοίως, βλέπουμε ήδη μια νέα κατηγορία βοηθών «συν-πιλότων» με βάση τη γεννητική AI που θα αλλάξουν θεμελιωδώς τον τρόπο με τον οποίο αλληλεπιδρούμε με τις συσκευές μας υπολογισμού, αυτοματοποιώντας πολλές руτίνες εργασιών, όπως η δημιουργία αναφορών ή η οπτικοποίηση δεδομένων. Φανταστείτε να ανοίγετε το λάπτοπ, το λάπτοπ να αναγνωρίζει ότι είστε μέσω της κάμερας, και στη συνέχεια να δημιουργεί αυτόματα ένα πρόγραμμα δράσης για την ημέρα/εβδομάδα/μήνα με βάση τα πιο χρησιμοποιημένα εργαλεία σας, όπως το Outlook, Teams, Slack, Trello, κ.λπ. Αλλά για να διατηρήσετε την ιδιωτικότητα των δεδομένων και μια καλή εμπειρία χρήστη, πρέπει να έχετε την επιλογή να εκτελείτε τη γεννητική AI τοπικά.

Εκτός από την αντιμετώπιση των προκλήσεων των αξιόπιστων συνδέσεων και της ιδιωτικότητας των δεδομένων, η AI στην άκρη μπορεί να βοηθήσει στη μείωση των απαιτήσεων εύρους ζώνης και να βελτιώσει την απόδοση των εφαρμογών. Για παράδειγμα, αν μια εφαρμογή γεννητικής AI δημιουργεί πλούσιο περιεχόμενο, όπως ένα εικονικό χώρο συνεδρίου, μέσω του cloud, η διαδικασία θα μπορούσε να καθυστερήσει ανάλογα με το διαθέσιμο (και ακριβό) εύρος ζώνης. Και ορισμένα είδη εφαρμογών γεννητικής AI, όπως η ασφάλεια, η ρομποτική ή η υγεία, απαιτούν υψηλές επιδόσεις, χαμηλή καθυστέρηση απαντήσεων που οι συνδέσεις cloud δεν μπορούν να χειριστούν.

Στην ασφάλεια βίντεο, η ικανότητα να αναγνωρίσετε ξανά τους ανθρώπους καθώς κινούνται μεταξύ πολλών καμερών — ορισμένων τοποθετημένων όπου τα δίκτυα δεν μπορούν να φτάσουν — απαιτεί μοντέλα δεδομένων και επεξεργασία AI στις ίδιες τις κάμερες. Σε αυτή την περίπτωση, η γεννητική AI μπορεί να εφαρμοστεί σε αυτόματες περιγραφές того που βλέπουν οι κάμερες μέσω απλών ερωτημάτων, όπως «Βρείτε το 8χρονο παιδί με το κόκκινο T-σερτ και το καπέλλο του μπέιζμπολ».

Αυτό είναι η γεννητική AI στην άκρη.

Αναπτύξεις στην AI Άκρης

Μέσω της υιοθέτησης μιας νέας κατηγορίας επεξεργαστών AI και της ανάπτυξης λεπτότερων, πιο αποτελεσματικών, αν και εξίσου ισχυρών μοντέλων γεννητικής AI, οι συσκευές άκρης μπορούν να σχεδιαστούν για να λειτουργούν με νοημοσύνη εκεί όπου η σύνδεση cloud είναι αδύνατη ή μη επιθυμητή.

Βέβαια, η επεξεργασία cloud θα παραμείνει ένα κρίσιμο συστατικό της γεννητικής AI. Για παράδειγμα, η εκπαίδευση των μοντέλων AI θα παραμείνει στο cloud. Αλλά η εφαρμογή των εισροών του χρήστη σε αυτά τα μοντέλα, που ονομάζεται επιπλοκή, μπορεί — και σε πολλές περιπτώσεις πρέπει — να συμβεί στην άκρη.

Η βιομηχανία已经 αναπτύσσει λεπτότερες, μικρότερες, πιο αποτελεσματικές μοντέλα AI που μπορούν να φορτωθούν σε συσκευές άκρης. Εταιρείες όπως η Hailo κατασκευάζουν επεξεργαστές AI που έχουν σχεδιαστεί για να εκτελούν επεξεργασία νευρωνικών δικτύων. Τέτοιες επεξεργαστές νευρωνικών δικτύων δεν μόνο χειρίζονται τα μοντέλα AI με απίστευτη ταχύτητα, αλλά το κάνουν επίσης με λιγότερη ενέργεια, καθιστώντας τις ενεργειακά αποδοτικές και κατάλληλες για διάφορες συσκευές άκρης, από smartphones έως κάμερες.

Η επεξεργασία της γεννητικής AI στην άκρη μπορεί επίσης να φέρει αποτελεσματικά ισορροπία στις αυξανόμενες εργασίες, να επιτρέψει στις εφαρμογές να κλιμακωθούν πιο σταθερά, να ανακουφίσει τους διακομιστές cloud από την ακριβή επεξεργασία και να βοηθήσει στην μείωση του αποτυπώματος άνθρακα.

Η γεννητική AI είναι έτοιμη να αλλάξει ξανά τον υπολογισμό. Στο μέλλον, το LLM στο λάπτοπ σας μπορεί να auto-ενημερωθεί με τον ίδιο τρόπο που το λειτουργικό σας σύστημα κάνει σήμερα — και να λειτουργήσει με παρόμοιο τρόπο. Αλλά για να φτάσουμε εκεί, θα χρειαζόμαστε να ενεργοποιήσουμε την επεξεργασία της γεννητικής AI στην άκρη του δικτύου. Το αποτέλεσμα υπόσχεται μεγαλύτερη απόδοση, ενεργειακή αποδοτικότητα, ιδιωτικότητα και ασφάλεια. Όλα αυτά οδηγούν σε εφαρμογές AI που θα αλλάξουν τον κόσμο τόσο όσο η ίδια η γεννητική AI.