Efrain Ruh, CTO της EMEA στην Digitate – Σειρά Συνεντεύξεων

O Efrain Ruh είναι ο Διευθύνων Σύμβουλος Τεχνολογίας για την EMEA στην Digitate, όπου ηγείται της περιφερειακής τεχνολογικής στρατηγικής με έμφαση στην επιχειρηματική τεχνητή νοημοσύνη, αυτοματοποίηση και μεγάλης κλίμακας μετασχηματισμό λειτουργιών. Συνεργάζεται στενά με πελάτες σε όλη την Ευρώπη, τη Μέση Ανατολή και την Αφρική για να βοηθήσει τις οργανώσεις να αναπτύσσουν τεχνητή νοημοσύνη με υπευθυνότητα, τονίζοντας την πρακτική εκτέλεση, τη διακυβέρνηση και τα μετρήσιμα αποτελέσματα. Ο Ruh είναι συχνός συνεισφέρων σε βιομηχανικές συζητήσεις για την τεχνητή νοημοσύνη, την ωριμότητα των MLOps και τις πραγματικότητες της μετάβασης από πιλότους τεχνητής νοημοσύνης σε συστήματα παραγωγής.

Digitate είναι μια εταιρεία επιχειρηματικού λογισμικού και θυγατρική της Tata Consultancy Services (TCS.BO ) που ειδικεύεται στην αυτοματοποίηση που βασίζεται στην τεχνητή νοημοσύνη για τις επιχειρηματικές και τεχνικές λειτουργίες. Η πυρήν της πλατφόρμας, ignio, ermöglicht αυτόνομες λειτουργίες συνδυάζοντας τη μηχανική μάθηση, τα γράφοι γνώσεων και την έξυπνη αυτοματοποίηση για να ανιχνεύει προβλήματα, να προβλέπει αποτελέσματα και να αυτοθεραπεύει συστήματα σε σύνθετα περιβάλλοντα επιχειρήσεων. Η Digitate εξυπηρετεί μεγάλες παγκόσμιες οργανώσεις που αναζητούν να μειώσουν την λειτουργική复雑ность ενώ βελτιώνουν την ανθεκτικότητα και την αποτελεσματικότητα μέσω της εφαρμοσμένης τεχνητής νοημοσύνης.

Δεδομένης της εκτεταμένης τεχνικής ηγεσίας σας στις θέσεις σας στην Digitate και της προηγούμενης πρακτικής εμπειρίας σας σε λειτουργίες ΤΠ, αρχιτεκτονική και επιχειρηματικά συστήματα, πώς έχει εξελιχθεί η άποψή σας για τη σημασία της εξηγητής τεχνητής νοημοσύνης σε σύγκριση με τα μοντέλα μαύρης κούτας που πολλές οργανώσεις εξακολουθούν να χρησιμοποιούν σήμερα;

Οι προηγούμενες γενιές της αυτοματοποίησης ήταν σε μεγάλο βαθμό αντιδραστικές και βασισμένες σε κανόνες, γεγονός που καθιστά την συμπεριφορά της μαύρης κούτας πιο ανεκτή, καθώς τα αποτελέσματα ήταν πολύ προβλέψιμα. Όταν τα συστήματα τεχνητής νοημοσύνης κινούνται προς τα προηγμένα πράγματα που μπορούν να σκεφτούν και να παράγουν τη δική τους απάντηση, η ανεκτικότητα για αδιαφάνεια εξαφανίζεται. Οι ηγέτες των ΤΠ είναι υπεύθυνοι για τη διατήρηση των κρίσιμων συστημάτων διαθέσιμων όλο το 24ωρο, και αυτή η ευθύνη αφήνει πολύ λίγο χώρο για πειραματισμούς με συστήματα των οποίων η λογική δεν μπορεί να επικυρωθεί. Η εξηγησιμότητα έχει因此 μετατοπιστεί από μια τεχνική λειτουργία σε μια λειτουργική απαιτούμενη που επιτρέπει την εμπιστοσύνη σε κλίμακα. Για να εμπιστευτούμε αυτούς τους νέους πράκτορες τεχνητής νοημοσύνης, είναι σημαντικό να μοιράζονται τη σκέψη τους (πρακτικά, πώς έφτασαν στη λύση) και τα αποτελέσματα της σκέψης τους.

Γιατί η εμπιστοσύνη και η εξηγησιμότητα εμφανίζονται ως τα μεγαλύτερα εμπόδια για την ευρύτερη υιοθέτηση της προηγμένης αυτοματοποίησης που βασίζεται στην τεχνητή νοημοσύνη στις επιχειρηματικές ΤΠ;

Οι επιχειρηματικές ΤΠ λειτουργούν υπό συνεχή ευθύνη και κίνδυνο. Όταν τα συστήματα τεχνητής νοημοσύνης λαμβάνουν αποφάσεις αυτόνομα, ιδιαίτερα σε προληπτικά ή αυτοθεραπευτικά μοντέλα λειτουργίας, οι ομάδες εποπτείας πρέπει να είναι σε θέση να κατανοήσουν γιατί λήφθηκε μια συγκεκριμένη ενέργεια. Χωρίς ορατότητα στα στοιχεία, το контέκστ και τη λογική απόφασης, η τεχνητή νοημοσύνη εισάγει αβεβαιότητα αντί να μειώνει την αβεβαιότητα. Αυτή η έλλειψη διαφάνειας και αβεβαιότητας επηρεάζει την εμπιστοσύνη, επομένως, επιβραδύνει την υιοθέτηση μεταξύ των ομάδων ΤΠ περισσότερο από την ακρίβεια του μοντέλου ή την απόδοση που θα μπορούσε ποτέ να κάνει.

Τι είναι η αληθινή εξηγησιμότητα στην αυτοματοποίηση που βασίζεται στην τεχνητή νοημοσύνη για τις επιχειρηματικές ΤΠ, και πώς μπορεί να βοηθήσει τις ομάδες να επικυρώσουν αποφάσεις πριν τα συστήματα ενεργήσουν αυτόνομα;

Η αληθινή εξηγησιμότητα είναι πρακτική και επικεντρωμένη στον χειριστή. Αυτό σημαίνει ότι απαιτεί από την τεχνολογία να δείξει σαφώς τα δεδομένα που χρησιμοποιούνται για τη σκέψη, να επικυρώσει ότι το σύστημα κατανοεί το σωστό λειτουργικό контέκστ και να εξηγήσει την προτεινόμενη πορεία ενέργειας με ανθρώπινα αναγνώσιμους όρους. Περιλαμβάνει επίσης ιστορική επικύρωση, όπως αν έχουν ληφθεί παρόμοιες αποφάσεις στο παρελθόν και ποια ήταν τα αποτελέσματα. Αυτό επιτρέπει στις ομάδες να επικυρώσουν ενέργειες γρήγορα και να επεκτείνουν την αυτόνομη εκτέλεση όπου ο κίνδυνος είναι χαμηλός. Αν οι άνθρωποι δεν μπορούν να κατανοήσουν και να ενεργήσουν γρήγορα πάνω από την εξέλιξη, τότε ένα εργαλείο εξηγησιμότητας αποτυγχάνει να εξυπηρετήσει τον σκοπό του.

Πώς μεταφράζεται η έλλειψη εξηγησιμότητας σε πραγματικό λειτουργικό, οικονομικό ή επιχειρηματικό κίνδυνο για μεγάλες οργανώσεις;

Αν διηύθυνατε ένα εργοστάσιο και ένα κρίσιμο κομμάτι εξοπλισμού έλλειπε ενδείξεις για να σηματοδοτήσει ένα ζήτημα συντήρησης, θα αρχίσει τελικά να dysλειτουργεί χωρίς να ειδοποιήσει την ομάδα – οδηγώντας σε κακή ποιότητα προϊόντων ή μη προγραμματισμένες διακοπές. Παρόμοια, η τεχνητή νοημοσύνη χωρίς εξηγησιμότητα μπορεί να μετατρέψει μικρά ζητήματα δεδομένων σε μεγάλες επιχειρηματικές περιπτώσεις. Ένα σύστημα προβλέψεων ικανότητας που βασίζεται στην τεχνητή νοημοσύνη που λειτουργεί με ελλιπή δεδομένα μπορεί να μειώσει την ικανότητα υποδομής για να εξοικονομήσει κόστη, μόνο για να προκαλέσει σοβαρή υποβάθμιση της απόδοσης κατά τις περιόδους πίεσης. Σε περίπτωση συστημάτων τεχνητής νοημοσύνης επιχειρήσεων συχνά βλέπουμε την επίδραση της κακής εξηγησιμότητας μέσω των λησμονημένων SLA, οικονομικών ποινών και επίδρασης πελατών. Παρόμοια, η επιθετική καταστολή των ενεργειών μπορεί να κρύψει κρίσιμες αποτυχίες, επιτρέποντας στις διακοπές να παραμείνουν ανιχνεύσιμες μέχρι να γίνει αληθινή έκτακτη ανάγκη.

Από την άποψή σας, ποιο ρόλο πρέπει να παίξουν οι πλατφόρμες τεχνητής νοημοσύνης για να κάνουν την σκέψη τους ελέγξιμη και κατανοητή για τις ομάδες ΤΠ που λειτουργούν κρίσιμα συστήματα;

Μια καλά σχεδιασμένη τεχνητή νοημοσύνη ή πλατφόρμα έχει την εξηγησιμότητα ενσωματωμένη, απλά και απλά. Αυτόνομα συστήματα πρέπει να τεκμηριώνουν τα δεδομένα που χρησιμοποιούνται, τη λογική που εφαρμόζεται, τις ενέργειες που προτείνονται ή λαμβάνονται και τα αποτελέσματα που ακολουθούν. Αυτές οι πληροφορίες πρέπει να παρουσιάζονται στη λειτουργική γλώσσα που χρησιμοποιούν οι ομάδες ΤΠ, όπως οι εξαρτήσεις, τα ιστορικά περιστατικά και η επιχειρηματική επίδραση, αντί για αφηρημένα σκορ της τεχνητής νοημοσύνης. Η ελέγξιμη είναι απαραίτητη για την ευθύνη, τη μάθηση και την μακροπρόθεσμη εμπιστοσύνη.

Ποιοι αρχιτεκτονικοί ή σχεδιαστικοί προσεγγίσεις βοηθούν τις επιχειρήσεις να μετακινούνται μακριά από την αδιαφάνεια της αυτοματοποίησης προς πιο διαφανείς, γυάλινα συστήματα;

Οι επιχειρήσεις υιοθετούν αρχιτεκτονικές που εδραιώνουν τις αποφάσεις της τεχνητής νοημοσύνης σε υψηλής ποιότητας λειτουργικά δεδομένα και ξεκαθαρίζουν τη διαύγεια των δεδομένων από τη λογική απόφασης. Διαφανή συστήματα διασφαλίζουν ότι η τεχνητή νοημοσύνη λειτουργεί με τις σωστές εισόδους και υποθέσεις πριν ενεργήσει. Πολλές οργανώσεις χρησιμοποιούν επίσης τη σταδιακή αυτονομία, ξεκινώντας με συστάσεις και προοδεύοντας στην αυτονομία της εκτέλεσης καθώς η εμπιστοσύνη αυξάνεται. Η ανοιχτή πρόσβαση στα δεδομένα και τα σαφή επίπεδα πολιτικής είναι κρίσιμα για την αποφυγή της αδιαφάνειας της μαύρης κούτας καθώς η αυτονομία αυξάνεται. Υπάρχει ακόμη πολύ χώρος για την βιομηχανία να μεγαλώσει την εξηγησιμότητα, και νομίζω ότι θα δούμε μια έκρηξη σε χαρακτηριστικά εξηγησιμότητας φέτος.

Πώς οι οργανώσεις επιτύχουν το σωστό ισορροπία μεταξύ της αυτόνομης δράσης της τεχνητής νοημοσύνης και της ανθρώπινης εποπτείας χωρίς να επιβραδύνουν τις λειτουργίες;

Η ισορροπία επιτυγχάνεται μέσω ελέγχων που βασίζονται στον κίνδυνο αντί για γενική εποπτεία. Οι χαμηλού κινδύνου, υψηλής συχνότητας εργασίες μπορούν να αυτοματοποιηθούν από άκρο σε άκρο με φράγματα, ενώ οι αποφάσεις με μεγαλύτερη επίδραση παραμένουν ανθρώπινες-επικυρωμένες μέχρι τα συστήματα να αποδείξουν αξιοπιστία. Όσο η εξηγησιμότητα βελτιώνεται και η τεχνητή νοημοσύνη αποδεικνύει συνεχώς σωστή κρίση, η αυτονομία επεκτείνεται φυσικά χωρίς να εισάγει λειτουργική τριβή.

Τι συμβουλή θα δίνατε στους CIO και CTO που θέλουν να κλιμακώσουν την τεχνητή νοημοσύνη στις επιχειρηματικές ΤΠ αλλά αντιμετωπίζουν εσωτερική αντίσταση λόγω προβλημάτων ορατότητας και ευθύνη;

Ξεκινήστε με τη διαφάνεια, όχι την αυτονομία. Συμμετέχετε τις ομάδες ΤΠ σας νωρίς και προτεραιότητα στη διαφάνεια και στην εκτέλεση για να χτίσετε την εμπιστοσύνη. Η αντίσταση συνήθως προέρχεται από την έλλειψη εσώτησης στις αποφάσεις της τεχνητής νοημοσύνης, όχι από την αντίθεση στην καινοτομία. Στη συνέχεια, εστιάστε στις περιπτώσεις χρήσης που μειώνουν τον θόρυβο, εξαφανίζουν την κούραση των ενεργειών και εξηγούν σαφώς πώς λαμβάνονται οι αποφάσεις πριν επιτρέψετε στα συστήματα να ενεργήσουν ανεξάρτητα.

Όταν τα συστήματα τεχνητής νοημοσύνης αναλαμβάνουν περισσότερες αποφάσεις, πώς πρέπει οι ηγετικές ομάδες να ξανασκέφτονται τη διακυβέρνηση, την επικύρωση και τα μοντέλα εμπιστοσύνης;

Η διακυβέρνηση πρέπει να μετατοπιστεί από στατικές διαδικασίες έγκρισης σε συνεχείς επικυρώσεις. Οι ηγετικές ομάδες πρέπει να ορίσουν πού επιτρέπεται η αυτονομία, ποια στοιχεία απαιτούνται και πότε απαιτείται ανθρώπινη παρέμβαση. Η εμπιστοσύνη πρέπει να κερδηθεί μέσω μετρήσιμων αποτελεσμάτων, όπως ακρίβεια, μειωμένα περιστατικά και ταχύτεροι χρόνοι επίλυσης, αντί για υποθέσεις για την усложνότητα του μοντέλου.

Προβλέποντας, πώς βλέπετε την εξηγησιμότητα και τη διαφάνεια της τεχνητής νοημοσύνης να επανασχεδιάζουν το μέλλον των αυτόνομων ΤΠ τις επόμενες quelques χρόνια;

Η εξηγησιμότητα της τεχνητής νοημοσύνης θα είναι ένα θεμελιώδες κομμάτι του παζλ όταν χτίζουμε προηγμένα και αυτόνομα ΤΠ για να κλιμακωθούν με ασφάλεια, χωρίς να χάσουν την κρίσιμη εμπιστοσύνη της ομάδας ΤΠ. Η γεννητική τεχνητή νοημοσύνη βελτιώνει ήδη τη διαφάνεια, επιτρέποντας στα συστήματα να επιφέρουν στοιχεία, να επικυρώσουν γεγονότα και να εξηγήσουν αποφάσεις με ανθρώπινα αναγνώσιμους όρους. Τα επόμενα χρόνια, αυτό το επίπεδο εξηγησιμότητας θα γίνει τυποποιημένο, επιτρέποντας στις οργανώσεις να μετακινηθούν πέρα από τον πειραματισμό και να ενσωματώσουν την τεχνητή νοημοσύνη βαθιά στις λειτουργίες, τη διακυβέρνηση και τις ροές εργασίας ως một αξιόπιστο συνεργάτη αντί για一个 αδιαφάνειας αποφασιστή. Τα επόμενα χρόνια, οι πράκτορες της τεχνητής νοημοσύνης θα είναι σε θέση να διαχειριστούν διαφορετικές δραστηριότητες μιας οργανώσεως, θα γίνουν μέρος της καθημερινής μας ζωής, αλλά για αυτά χρειαζόμαστε να μπορούμε να τους εμπιστευτούμε και η ακρίβεια και η διαφάνεια είναι κρίσιμες για να επιτύχουμε αυτό το στόχο. Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν Digitate.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν Digitate.