Συνεντεύξεις

Sadeepa Wijesekara, Αντιπρόεδρος του Private Cloud AI στην HPE – Σειρά συνεντεύξεων

Antoine Tardif
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Sadeepa Wijesekara, Vice President of Private Cloud AI at HPE
Βασικά σημείαΤα οικονομικά της τεχνητής νοημοσύνης γίνονται επιχειρηματικός κλάδος μόνο όταν τα…
Δείτε περισσότερα
  • Τα οικονομικά της τεχνητής νοημοσύνης γίνονται επιχειρηματικός κλάδος μόνο όταν τα πιλοτικά προγράμματα κλιμακώνονται σε παραγωγή και τα οικονομικά τμήματα συμμετέχουν στη συζήτηση.
  • Το κόστος ανά διακριτικό μετρά την κατανάλωση, ενώ το κόστος ανά επιχειρηματικό αποτέλεσμα αποκαλύπτει αν η επένδυση έχει πραγματικά νόημα.
  • Οι πρακτόρικες ροές εργασίας μπορούν να πολλαπλασιάσουν δραματικά την κατανάλωση διακριτικών ακόμη και καθώς οι τιμές της συμπερασματολογίας συνεχίζουν να μειώνονται.

Ο Sadeepa Wijesekara είναι Αντιπρόεδρος του Private Cloud AI στη Hewlett Packard Enterprise (HPE), όπου ηγείται των εργασιών για εταιρικό λογισμικό τεχνητής νοημοσύνης και πλατφόρμες για περιβάλλοντα ιδιωτικού νέφους. Εστιάζει στην υποστήριξη οργανισμών ώστε να αναπτύσσουν τεχνητή νοημοσύνη με ασφάλεια και σε μεγάλη κλίμακα, συνδέοντας παράλληλα τις αποφάσεις για τις υποδομές με τις ανάγκες της επιχείρησης. Προσεγγίζει τα οικονομικά της τεχνητής νοημοσύνης σε παραγωγική λειτουργία από τη σκοπιά του μηχανικού, εξετάζοντας μεταξύ άλλων τη διαχείριση φόρτου εργασίας, την επιλογή μοντέλων και το κόστος διατήρησης της αξιοπιστίας συστημάτων που γίνονται ολοένα και πιο αυτόνομα.

Η Hewlett Packard Enterprise (HPE) παρέχει εταιρική τεχνολογία στους τομείς της τεχνητής νοημοσύνης, του νέφους, της δικτύωσης, των υπολογιστικών συστημάτων και της αποθήκευσης. Το χαρτοφυλάκιο Private Cloud AI υποστηρίζει οργανισμούς που αναπτύσσουν φόρτους εργασίας τεχνητής νοημοσύνης σε υποδομές τις οποίες ελέγχουν οι ίδιοι, παράλληλα με υβριδικά νέφη και εξωτερικές υπηρεσίες. Σε αυτή τη συνέντευξη, ο Wijesekara συζητά γιατί οι δαπάνες για την τεχνητή νοημοσύνη πρέπει να αξιολογούνται με βάση τα επιχειρηματικά αποτελέσματα, πώς οι ροές εργασίας με πράκτορες μεταβάλλουν την κατανάλωση, καθώς και τους οικονομικούς και λειτουργικούς παράγοντες που επηρεάζουν τις αποφάσεις για μοντέλα, ενορχήστρωση και υποδομές.

Η HPE έχει επεκτείνει τη χρήση της τεχνητής νοημοσύνης σε περισσότερους από 70.000 εργαζομένους. Τι σας έχει διδάξει αυτή η εμπειρία για το πότε τα οικονομικά της τεχνητής νοημοσύνης παύουν να αποτελούν ζήτημα πληροφορικής και μετατρέπονται σε ευρύτερο επιχειρηματικό πεδίο;

Τα οικονομικά της τεχνητής νοημοσύνης γίνονται ευρύτερο επιχειρηματικό πεδίο όταν οι εταιρείες περνούν από τις πιλοτικές εφαρμογές στην παραγωγική χρήση. Μια πιλοτική εφαρμογή μπορεί να δείξει αν η τεχνητή νοημοσύνη μπορεί να εκτελέσει μια εργασία, αλλά ενδέχεται να αποκρύψει αναποτελεσματικότητες, επειδή ο αριθμός των χρηστών είναι μικρός. Όταν οι χρήστες αυξάνονται από 10 σε 10.000, πρέπει να συνυπολογίζετε το κόστος, την καθυστέρηση και την αξιοπιστία, κατανοώντας παράλληλα την αξία που δημιουργεί η τεχνητή νοημοσύνη. Σε αυτό το σημείο, στη συζήτηση πρέπει να συμμετέχουν το οικονομικό τμήμα και τα στελέχη που είναι υπεύθυνα για τις επιχειρηματικές διαδικασίες τις οποίες υποστηρίζει η τεχνητή νοημοσύνη. Το τμήμα πληροφορικής μπορεί να μετρήσει τους πόρους που καταναλώνει μια εφαρμογή, αλλά τα επιχειρηματικά στελέχη πρέπει να κρίνουν αν τα αποτελέσματα δικαιολογούν αυτή την επένδυση.

Πολλοί οργανισμοί εξακολουθούν να εστιάζουν υπερβολικά σε μετρήσεις όπως το κόστος ανά token κατά την αξιολόγηση της παραγωγικής τεχνητής νοημοσύνης. Γιατί πιστεύετε ότι το κόστος ανά επιχειρηματικό αποτέλεσμα είναι ουσιαστικότερο μέτρο και πώς θα πρέπει οι επιχειρήσεις να το υπολογίζουν στην πράξη;

Το κόστος ανά token δείχνει πόση τεχνητή νοημοσύνη καταναλώσατε, αλλά όχι αν αυτή η κατανάλωση παρήγαγε χρήσιμο αποτέλεσμα. Οι εταιρείες θα πρέπει πρώτα να ορίζουν το επιχειρηματικό αποτέλεσμα και στη συνέχεια να υπολογίζουν το συνολικό κόστος που απαιτείται για την επίτευξή του. Το μοντέλο είναι ένα μέρος αυτού του κόστους, μαζί με το λογισμικό, την αποθήκευση, τη μεταφορά δεδομένων, τη διακυβέρνηση και το ανθρώπινο δυναμικό. Συγκρίνοντας αυτά τα κόστη με την αξία που δημιουργείται σε μια συγκεκριμένη επιχειρηματική διαδικασία, οι εταιρείες μπορούν να σχηματίσουν σαφέστερη εικόνα για το αν η επένδυση έχει οικονομικό νόημα.

Καθώς η τεχνητή νοημοσύνη περνά από τους ατομικούς βοηθούς σε συστήματα με πράκτορες και πολλαπλούς πράκτορες, που μπορούν να εκτελούν μεγάλες ακολουθίες εργασιών, πόσο δραματικά θα μπορούσε να αυξηθεί η κατανάλωση, ακόμη κι αν το υποκείμενο κόστος της εξαγωγής συμπερασμάτων συνεχίσει να μειώνεται;

Η κατανάλωση μπορεί να αυξηθεί πολύ γρήγορα, επειδή ένα αίτημα χρήστη ενδέχεται να ενεργοποιήσει πολύ περισσότερη εργασία στο παρασκήνιο. Ένας πράκτορας μπορεί να ανακτά πληροφορίες και να καλεί εργαλεία, εκτελώντας αρκετά βήματα προτού δώσει αποτέλεσμα. Σε μια ενδεικτική σύγκριση της HPE, μια βασική ανταλλαγή μηνυμάτων με chatbot χρησιμοποιούσε περίπου 400 tokens, ενώ ένα αίτημα RAG με πράκτορα χρησιμοποιούσε περίπου 21.500. Ακόμη κι αν οι τιμές των token μειωθούν, η συνολική κατανάλωση μπορεί και πάλι να αυξηθεί απότομα καθώς η τεχνητή νοημοσύνη αναλαμβάνει πιο σύνθετες εργασίες.

Πώς θα πρέπει οι εταιρείες να αξιολογούν αν μια εφαρμογή τεχνητής νοημοσύνης δημιουργεί πραγματική οικονομική αξία και όχι απλώς βελτιώνει δείκτες παραγωγικότητας ή παράγει εντυπωσιακές επιδείξεις;

Μια εφαρμογή πρέπει να συνδέεται με ένα επιχειρηματικό σχέδιο που περιλαμβάνει σαφείς βασικούς δείκτες απόδοσης (KPI), προτού επεκταθεί. Οι εταιρείες πρέπει να κατανοούν το κόστος της επιχειρηματικής διαδικασίας και πώς μεταβάλλεται με την εισαγωγή της τεχνητής νοημοσύνης. Πρέπει επίσης να διακρίνουν τη βελτίωση μιας δραστηριότητας από τη βελτίωση του επιχειρηματικού αποτελέσματος. Ο χρόνος που εξοικονομείται αποκτά μεγαλύτερη σημασία όταν συμβάλλει στην επίλυση περισσότερων ζητημάτων πελατών, στη μείωση των σφαλμάτων ή στην ολοκλήρωση εργασιών που προηγουμένως έμεναν ανεκτέλεστες. Η αξιολόγηση πρέπει να λαμβάνει υπόψη την ποιότητα του αποτελέσματος, καθώς και τυχόν πρόσθετο έλεγχο ή επανεργασία που απαιτείται. Μια επιτυχημένη επίδειξη αποδεικνύει μια δυνατότητα· οι μετρήσιμες βελτιώσεις στην επιχειρηματική διαδικασία στηρίζουν την απόφαση επέκτασής της. Σε ορισμένες περιπτώσεις, αυτή η ανάλυση μπορεί να δείξει ότι η τεχνητή νοημοσύνη δεν είναι η κατάλληλη λύση.

Η δρομολόγηση μοντέλων και η ενορχήστρωση της τεχνητής νοημοσύνης συζητούνται όλο και περισσότερο ως τρόποι ελέγχου του κόστους. Πόση αξία μπορούν να αποκομίσουν οι επιχειρήσεις επιλέγοντας δυναμικά ανάμεσα σε μικρότερα μοντέλα, μοντέλα αιχμής, εξειδικευμένα μοντέλα και παραδοσιακό λογισμικό, ανάλογα με την εργασία;

Υπάρχει μεγάλη αξία στο να επιλέγεται το κατάλληλο μοντέλο για κάθε εργασία. Έχουμε δει εταιρείες να υποβάλλουν πολύ διαφορετικούς φόρτους εργασίας στο ίδιο ακριβό μοντέλο αιχμής, επειδή αρχικά προτεραιότητά τους ήταν να θέσουν σε λειτουργία την ΤΝ. Αυτό μπορεί να είναι διαχειρίσιμο όταν οι χρήστες είναι λίγοι, αλλά το κόστος αυξάνεται γρήγορα όσο διευρύνεται η υιοθέτηση. Ένα μοντέλο αιχμής μπορεί να είναι κατάλληλο για σύνθετους συλλογισμούς, ενώ για μια εργασία ρουτίνας μπορεί να αρκεί ένα μικρότερο μοντέλο. Ένα εξειδικευμένο μοντέλο μπορεί να είναι καταλληλότερο για έναν συγκεκριμένο τομέα, ενώ μια προβλέψιμη εργασία που βασίζεται σε κανόνες μπορεί να εκτελεστεί αποτελεσματικότερα με παραδοσιακό λογισμικό. Η ενορχήστρωση βοηθά να συνδυαστούν αυτές οι επιλογές σε μια ροή εργασιών, χρησιμοποιώντας ένα ισχυρότερο μοντέλο όταν το απαιτεί η εργασία. Καθώς τα μοντέλα ανοικτών βαρών γίνονται πιο ικανά, οι εταιρείες έχουν επίσης περισσότερες δυνατότητες να εκτελούν ορισμένους φόρτους εργασίας στις δικές τους υποδομές, αντί να πληρώνουν για εξωτερικά μοντέλα. Σε επιχειρησιακή κλίμακα, αυτές οι αποφάσεις δρομολόγησης μπορούν να μειώσουν σημαντικά το κόστος, διατηρώντας παράλληλα την ποιότητα που απαιτεί η επιχείρηση.

Σε ποιο σημείο αλλάζει η οικονομική σκοπιμότητα εκτέλεσης φόρτων εργασίας ΤΝ, από την ενοικίαση υπολογιστικών πόρων μέσω API ή δημόσιου νέφους προς την ιδιοκτησία ή τον έλεγχο μεγαλύτερου μέρους της υποκείμενης υποδομής; Ποιες μεταβλητές θα πρέπει να λαμβάνουν υπόψη οι επιχειρήσεις όταν παίρνουν αυτή την απόφαση;

Το σκέφτομαι ως δίλημμα ενοικίασης ή αγοράς. Η ενοικίαση μπορεί να έχει νόημα όταν οι εταιρείες πειραματίζονται ή όταν η ζήτηση παρουσιάζει μεγάλες διακυμάνσεις. Όταν η χρήση αυξάνεται και γίνεται πιο προβλέψιμη, η ιδιοκτησία ή ο έλεγχος μεγαλύτερου μέρους της υποδομής μπορεί να αρχίσει να έχει οικονομικό νόημα. Η ιδιόκτητη υποδομή προσφέρει επίσης τη δυνατότητα εκτέλεσης πρόσθετων πειραμάτων ΤΝ σε περιόδους χαμηλής χρήσης, ώστε να αξιοποιείται καλύτερα μια επένδυση που έχει ήδη πραγματοποιηθεί. Οι εταιρείες πρέπει να λαμβάνουν υπόψη τα χαρακτηριστικά του φόρτου εργασίας, καθώς και το κόστος της ενέργειας, της διαχείρισης και της διατήρησης των συστημάτων σε σύγχρονη κατάσταση. Για πολλές μεγάλες επιχειρήσεις, η κατάλληλη προσέγγιση πιθανότατα θα συνδυάζει ιδιωτικές υποδομές και εξωτερικές υπηρεσίες, ανάλογα με τον φόρτο εργασίας.

Η HPE επεκτείνει τις ιδιωτικές υποδομές ΤΝ καθώς οι επιχειρήσεις θέτουν περισσότερους φόρτους εργασίας σε παραγωγική λειτουργία. Σε ποιους τομείς θεωρείτε ότι η ιδιωτική ΤΝ προσφέρει το μεγαλύτερο οικονομικό πλεονέκτημα σε σύγκριση με την αποκλειστική χρήση υπηρεσιών δημόσιου νέφους;

Η ιδιωτική ΤΝ μπορεί να προσφέρει σημαντικό οικονομικό πλεονέκτημα για φόρτους εργασίας με σταθερή χρήση, όταν οι εταιρείες αξιοποιούν αποτελεσματικά τη χωρητικότητα που διαθέτουν. Σε μία ανάλυση της HPE, με βάση συγκεκριμένες παραδοχές για τον φόρτο εργασίας, το κόστος του HPE Private Cloud AI εκτιμήθηκε σε περίπου 45 δολάρια ανά κόμβο-ώρα, έναντι περίπου 102 δολαρίων για μια αντίστοιχη διαμόρφωση ενοικιαζόμενου νέφους. Τα αποτελέσματα αυτά διαφέρουν ανάλογα με τον φόρτο εργασίας και θα πρέπει να υπολογίζονται εκ νέου για κάθε περιβάλλον. Η ιδιωτική ΤΝ προσφέρει επίσης στις εταιρείες ένα εναλλακτικό χρηματοοικονομικό μοντέλο, στο οποίο η υποδομή μπορεί να γίνει περιουσιακό στοιχείο που παράγει αξία για τον οργανισμό.

Οι πράκτορες ΤΝ συνεπάγονται δαπάνες πέρα από την εξαγωγή συμπερασμάτων, όπως ανάκτηση δεδομένων, κλήσεις εργαλείων, παρακολούθηση, ασφάλεια και διακυβέρνηση. Ποια κόστη είναι πιθανότερο να υποτιμούν οι οργανισμοί όταν καταρτίζουν προϋπολογισμό για την ΤΝ με πράκτορες σε μεγάλη κλίμακα;

Νομίζω ότι οι εταιρείες είναι πιθανό να υποτιμούν την προσπάθεια που απαιτείται για να διατηρούν τους πράκτορες αξιόπιστους, ασφαλείς και χρήσιμους με την πάροδο του χρόνου. Πέρα από την εξαγωγή συμπερασμάτων, υπάρχουν κόστη που συνδέονται με την ανάκτηση και την προετοιμασία δεδομένων, την πρόσβαση σε εξωτερικά εργαλεία και τη μεταφορά πληροφοριών μεταξύ συστημάτων. Οι επαναλαμβανόμενες κλήσεις εργαλείων ή οι αποτυχημένες προσπάθειες μπορεί να αυξήσουν τις δαπάνες χωρίς να ολοκληρωθεί κάποια εργασία. Οι εταιρείες πρέπει επίσης να προϋπολογίζουν τη διαδικασία αξιολόγησης των αποτελεσμάτων, την παρακολούθηση της συμπεριφοράς των πρακτόρων, τη διαχείριση των δικαιωμάτων πρόσβασης και τη διατήρηση των ελέγχων ασφάλειας και διακυβέρνησης. Στον υπολογισμό πρέπει να περιλαμβάνεται και η ανθρώπινη εποπτεία, καθώς και ο χρόνος που αφιερώνουν οι άνθρωποι στον έλεγχο εξαιρέσεων ή στη διόρθωση σφαλμάτων. Για να γίνει κατανοητό το κόστος μιας εργασίας που ολοκληρώνεται επιτυχώς, χρειάζεται ορατότητα σε ολόκληρη αυτή τη ροή εργασιών.

Έχετε τονίσει τη σημασία της παρακολούθησης της κατανάλωσης ΤΝ σε συνάρτηση με κάθε επιμέρους επιχειρηματική περίπτωση. Πώς είναι ένα αποτελεσματικό πλαίσιο εσωτερικής μέτρησης και πόσο συχνά θα πρέπει οι οργανισμοί να επανεκτιμούν αν μια εφαρμογή ΤΝ εξακολουθεί να δικαιολογεί τις συνεχιζόμενες δαπάνες υπολογιστικών πόρων και λειτουργίας;

Το πλαίσιο θα πρέπει να συνδέει άμεσα τη χρήση με την επιχειρηματική περίπτωση. Οι εταιρείες πρέπει να γνωρίζουν ποια εφαρμογή καταναλώνει πόρους και ποιο αποτέλεσμα αναμένεται να παράγει. Στην HPE, παρακολουθούμε τους βασικούς δείκτες απόδοσης (KPI) και το σχετικό μοναδιαίο κόστος για κάθε περίπτωση χρήσης, ώστε να μετράμε αν επιτυγχάνει τα αναμενόμενα αποτελέσματα. Θα ήθελα επίσης να υπάρχει αυτή η εικόνα σε επίπεδο επιμέρους τμημάτων και επιχειρηματικών διαδικασιών, ώστε ένας οικονομικός διευθυντής να μπορεί να κατανοήσει πόσο κοστίζει σήμερα μια διαδικασία σε σύγκριση με το κόστος της όταν χρησιμοποιεί ΤΝ. Η διαδικασία αυτή θα πρέπει να είναι συνεχής, επειδή η χρήση και η οικονομική σκοπιμότητα μιας εφαρμογής μπορούν να αλλάξουν με την πάροδο του χρόνου. Οι εταιρείες θα πρέπει επίσης να επανεκτιμούν την κατάσταση όταν αλλάζει ουσιαστικά ένα μοντέλο, μια τιμή ή μια ροή εργασιών, καθώς οι αλλαγές αυτές μπορούν να επηρεάσουν τόσο το κόστος όσο και την αξία μιας εφαρμογής.

Κοιτάζοντας τρία έως πέντε χρόνια μπροστά, καθώς η ΤΝ ενσωματώνεται στις περισσότερες επιχειρηματικές διαδικασίες, πώς πιστεύετε ότι θα εξελιχθούν τα οικονομικά της επιχειρησιακής ΤΝ; Θα αρχίσει τελικά η διαχείριση της κατανάλωσης ΤΝ να μοιάζει με πρακτικές όπως το FinOps για το υπολογιστικό νέφος ή θα χρειαστούν οι οργανισμοί ένα εντελώς νέο λειτουργικό μοντέλο;

Πιστεύω ότι τα οικονομικά της ΤΝ θα βασιστούν σε πρακτικές FinOps, όπως η ορατότητα του κόστους, η κατανομή του και η λογοδοσία, διευρύνοντάς τες παράλληλα ώστε να μετρούν την ποιότητα και την αξία της εργασίας που εκτελεί η ΤΝ. Καθώς οι πράκτορες αναλαμβάνουν περισσότερα στάδια μιας επιχειρηματικής διαδικασίας, οι εταιρείες θα χρειάζεται να κατανοούν το κόστος της επιτυχούς ολοκλήρωσής της, συμπεριλαμβανομένων των επαναλήψεων, της ανθρώπινης παρέμβασης και του κατά πόσο το αποτέλεσμα πληροί το απαιτούμενο πρότυπο. Αναμένω ότι αυτό θα αποτελέσει κοινή ευθύνη των τμημάτων πληροφορικής, οικονομικών και επιχειρησιακών λειτουργιών. Βρισκόμαστε ακόμη στα πρώτα στάδια της καθιέρωσης συνεπών τρόπων σύγκρισης μεταξύ οργανισμών και κλάδων. Με την πάροδο του χρόνου, θα ήθελα να καθιερωθούν τυποποιημένοι δείκτες που θα επιτρέπουν στις εταιρείες να κατανοούν πόσο αποτελεσματικά αξιοποιούν την ΤΝ και να αποτυπώνουν αυτή την εικόνα στην κατάσταση αποτελεσμάτων χρήσης τους (P&L).

Σας ευχαριστούμε για την εξαιρετική συνέντευξη· οι αναγνώστες που επιθυμούν να μάθουν περισσότερα για την ΤΝ σε ιδιωτικά νέφη, τις εταιρικές υποδομές και την κλιμάκωση φόρτων εργασίας ΤΝ, μπορούν να επισκεφθούν την HPE.

Ο Antoine είναι ένας οραματιστής ηγέτης και ιδρυτικός εταίρος της Unite.AI, με αμείωτο πάθος για τη διαμόρφωση και την προώθηση του μέλλοντος της τεχνητής νοημοσύνης και της ρομποτικής. Έχοντας ιδρύσει πολλές επιχειρήσεις, πιστεύει ότι η τεχνητή νοημοσύνη θα μεταμορφώσει την κοινωνία όσο και ο ηλεκτρισμός και συχνά μιλά με ενθουσιασμό για τις δυνατότητες των ανατρεπτικών τεχνολογιών και της τεχνητής γενικής νοημοσύνης (AGI).

Ως μελλοντολόγος, είναι αφοσιωμένος στη διερεύνηση του τρόπου με τον οποίο αυτές οι καινοτομίες θα διαμορφώσουν τον κόσμο μας. Επιπλέον, είναι ιδρυτής του Securities.io, μιας πλατφόρμας που εστιάζει στις επενδύσεις σε τεχνολογίες αιχμής οι οποίες επαναπροσδιορίζουν το μέλλον και μεταμορφώνουν ολόκληρους κλάδους.