Connect with us

Αυτόνομες Πράκτορες Χρειάζονται Περισσότερα Από τη Παρατηρησιμότητα του AI

Ηγέτες σκέψης

Αυτόνομες Πράκτορες Χρειάζονται Περισσότερα Από τη Παρατηρησιμότητα του AI

mm

Όσο οι εταιρείες χρησιμοποιούν πράκτορες του AI για να σκέφτονται, να ενεργούν και να ξεκινούν ροές εργασιών, είναι απαραίτητο να αναπτύξουν einen σχέδιο για να παρακολουθούν και να διαχειρίζονται αυτούς.

Όταν διάφορα συστατικά ενός συστήματος AI αρχίζουν να λαμβάνουν τις δικές τους αποφάσεις, η παρατηρησιμότητα μόνο δεν είναι αρκετή για να εξασφαλίσει ότι οι λειτουργίες θα παραμείνουν σταθερές, ασφαλείς ή αξιόπιστες.

Για να διαχειριστούν αποτελεσματικά τους πράκτορες του AI σε ολόκληρη την εταιρεία, οι επιχειρήσεις πρέπει να γεφυρώσουν το χάσμα μεταξύ της ανίχνευσης προβλημάτων και της δράσης. Αυτό υπερβαίνει την απλή παρατήρηση προβλημάτων· οι επιχειρήσεις πρέπει να προλαμβάνουν ενεργά αυτά τα προβλήματα.

Η εμφάνιση των αυτόνομων πρακτόρων

Η αρχική κυμαία του επιχειρηματικού AI ήταν συστήματα που βασίζονταν σε ερωτήσεις· ένας χρήστης έθετε μια ερώτηση, το μοντέλο απαντούσε και η ανταλλαγή τελείωνε εκεί. Αν και αυτές οι πρώτες τεχνολογίες ήταν ουσιαστικά αντιδραστικές, ήταν χρήσιμες για την αναζήτηση, τους συνπιλώτες, τη δημιουργία περιεχομένου και τη σύνοψη.

Η επόμενη κυμαία είναι διαφορετική. Οι αυτόνομοι πράκτορες του AI όχι μόνο αντιδρούν, αλλά και συλλογίζονται μεταξύ στόχων, επιλέγουν εργαλεία, εξάγουν πληροφορίες, λαμβάνουν αποφάσεις και ξεκινούν ροές εργασιών. Μερικές φορές συνεργάζονται με άλλους πράκτορες ή συστήματα και όλο και περισσότερο υπηρετούν ως λειτουργικοί παίκτες внутри της εταιρείας, αντί να αποτελούν ένα στρώμα διεπαφής για ανθρώπινες οδηγίες.

Αυτή η αλλαγή είναι σημαντική επειδή επηρεάζει τις λειτουργικές ιδιότητες του AI. Οι ομάδες δεν παρακολουθούν πλέον μόνο τις εξόδους των μοντέλων. Αντίθετα, διαχειρίζονται δυναμικά συστήματα που μπορούν να επηρεάσουν άμεσα τους πελάτες, το προσωπικό, την υποδομή, τις επιχειρηματικές διαδικασίες και άλλες εφαρμογές.

Οι ικανότητες των πρακτόρων σήμερα

Οι ικανότητες των πρακτόρων εξελίσσονται μαζί με αυτούς. Οι πράκτορες μπορούν να επιλέξουν τι να κάνουν επόμενο, να διασπάσουν ένα στόχο σε βήματα και να ολοκληρώσουν δραστηριότητες σε διάφορα επίπεδα. Επικοινωνώντας με API, ερωτώντας βάσεις δεδομένων, αναζητώντας εσωτερικά συστήματα, ενημερώνοντας εγγραφές και ξεκινώντας κατωτέρω ενέργειες, συντονίζουν τις ροές εργασιών. Ενσωματώνοντας ερωτήσεις, μνήμη, επιχειρηματικές κανόνες, ανακτημένες πληροφορίες και σημάδια λειτουργίας σε πραγματικό χρόνο, οι πράκτορες μπορούν επίσης να λαμβάνουν αποφάσεις με βάση το контекστό.

Περισσότεροι εξελιγμένοι πράκτορες μπορούν να αναγνωρίσουν όταν μια ροή εργασιών αποτυγχάνει, να προσπαθήσουν ξανά, να αναβαθμίσουν προβλήματα ή να προωθήσουν εργασίες σε έναν ανθρώπινο επανεξεταστή. Μέσα σε CRM, συστήματα εισιτηρίων, υποδομή cloud, εσωτερικές βάσεις γνώσεων, πλατφόρμες παρατηρησιμότητας και επιχειρηματικές εφαρμογές, οι πράκτορες μπορούν να λειτουργούν ανεξάρτητα. Προβλέπουμε ότι αυτές οι ικανότητες θα συνεχίσουν να επεκτείνονται γρήγορα.

Πώς οι επιχειρήσεις ενσωματώνουν αυτόνομους πράκτορες του AI

Οι πράκτορες ενσωματώνονται σε μια επεκτεινόμενη σειρά επιχειρηματικών λειτουργιών και πλησιάζουν σε λειτουργικές διαδικασίες όπου η ταχύτητα, η ακρίβεια, η ασφάλεια και η διακυβέρνηση είναι σημαντικές. Μερικές από αυτές τις λειτουργίες περιλαμβάνουν την εξυπηρέτηση πελατών και την αντιμετώπιση περιπτώσεων, την απάντηση σε περιπτώσεις και τις λειτουργίες IT, τις ροές εργασιών για DevOps και την αξιοπιστία του ιστοτόπου, τη διόρθωση κώδικα και την ανάπτυξη λογισμικού, την επιχειρηματική και τη σχεδίαση της αλυσίδας εφοδιασμού, και πολλά άλλα.

Εξελισσόμενες λειτουργικές απειλές

Ωστόσο, καθώς οι πράκτορες γίνονται όλο και περισσότερο αυτόνομοι, οι επιχειρήσεις πρέπει να αντιμετωπίσουν ένα νέο είδος λειτουργικής απειλής.

  • Οι κακές επιλογές δεν είναι απλώς συμβουλές· συχνά εκτελούνται
  • Οι μικρές λάθη μπορούν να εξαπλωθούν γρήγορα σε άλλα συνδεδεμένα συστήματα
  • Οι πραγματικές ενέργειες μπορούν να προκληθούν από οπτασιασμούς
  • Οι πράκτορες μπορεί να απομακρύνθούν από την επιχειρηματική πρόθεση, την πολιτική ή τη συμμόρφωση
  • Οι αλληλεπιδράσεις μεταξύ πολλαπλών компонентів μπορούν να οδηγήσουν σε αποτυχίες
  • Η αυτοματοποιημένη λήψη αποφάσεων μπορεί να λαμβάνει αποφάσεις γρηγορότερα από την ανθρώπινη αξιολόγηση

Ενώ οι ομάδες μπορεί να παρατηρήσουν συμπτώματα, πρέπει επίσης να能够 να κατανοήσουν τους λόγους πίσω από τη συμπεριφορά του συστήματος. Το επιχειρηματικό AI χρειάζεται ελέγχους αξιοπιστίας除了 την ορατότητα.

Οι phứcικότητες των συστημάτων AI

Τα σημερινά συστήματα που οδηγούνται από το AI σπάνια είναι ένα μοντέλο. Είναι κατανεμημένα, στρωμένα συστήματα που αποτελούνται από πολλά αλληλεπιδρώντα συστατικά που περιλαμβάνουν:

  • Βασικά μοντέλα (LLMs)
  • Εξειδικευμένα ή ειδικά μοντέλα γλωσσών (SLMs)
  • Μοντέλα ενσωμάτωσης
  • Βάσεις δεδομένων διανυσμάτων
  • Πipelines αναζήτησης και συνιστώσες RAG
  • Προωθήσεις προτύπων και στρώματα ορχήστρας προτύπων
  • Σετ δεδομένων εκπαίδευσης και αξιολόγησης
  • Φράγματα και στρώματα πολιτικής
  • Πράκτορες και ροές εργασιών
  • Συστήματα κλήσης εργαλείων
  • Τηλεμετρία (aka καταγραφές, μετρήσεις και ιχνηλάτηση)
  • Σημεία ελέγχου έγκρισης ανθρώπινου-στο-βρόχο

Οι κίνδυνοι

Κάθε συστατικό προσθέτει einen διαφορετικό τρόπο αποτυχίας, και ο τρόπος με τον οποίο αλληλεπιδρούν προσθέτει περαιτέρω πολυπλοκότητα. Ακόμη και αν ένα σύστημα φαίνεται να είναι ισχυρό στο επίπεδο της υποδομής, μπορεί ακόμα να λαμβάνει κακές αποφάσεις και να παράγει ικανοποιητικά αποτελέσματα· όλα αυτά ενώ χτίζει κρυφά λειτουργικό κίνδυνο κάτω από την επιφάνεια.

Μερικοί από τους συναφείς κινδύνους περιλαμβάνουν την εισαγωγή κακών ή διεφθαρμένων εισόδων από pipelines δεδομένων, συμφράγματα υποδομής που μειώνουν την αξιοπιστία, επιζήμιες ή εσφαλμένες εξόδους, και λειτουργικά συμφράγματα στην απάντηση ανθρώπινης επανεξέτασης. Επιπλέον, συστήματα με πολλαπλούς πράκτορες ή βήματα μπορεί να αποτύχουν με τρόπους που δεν είναι άμεσα εμφανείς.

Παρατηρησιμότητα του AI

Η παραδοσιακή παρακολούθηση είναι ανεπαρκής για την κατανόηση της συμπεριφοράς των προτύπων, της ποιότητας αναζήτησης, της μετατόπισης του μοντέλου, των καναλιών εκτέλεσης του πράκτορα ή της σύνδεσης μεταξύ της συμπεριφοράς του AI και της επιρροής στην επιχείρηση ή τις λειτουργίες.

Εδώ είναι που έρχεται η παρατηρησιμότητα του AI. Η παρατηρησιμότητα του AI επιτρέπει στις ομάδες να κατανοήσουν πώς λειτουργούν τα συστήματα του AI στην παραγωγή, συλλέγοντας, συσχετίζοντας και αξιολογώντας εισόδους και εξόδους, επιθυμητές συμπεριφορές και σημάδια αποφάσεων που παράγονται από αυτά τα συστήματα. Αυτό είναι απαραίτητο, επειδή τα συστήματα του AI είναι κατανεμημένα, μη-детерμινιστικά και εξαιρετικά ευαίσθητα στο контекστό.

Η παρατηρησιμότητα του AI προσφέρει ολοκληρωμένη εικόνα στις ροές εργασιών του AI, ώστε οι ομάδες που τη χρησιμοποιούν να μπορέσουν να κατανοήσουν πώς αλληλεπιδρούν οι προωθήσεις, τα μοντέλα, τα στρώματα αναζήτησης, τα εργαλεία και τα κατωτέρω συστήματα κατά την εκτέλεση.

Η παρατηρησιμότητα του AI καθιστά δυνατή την παρακολούθηση της απόδοσης και της συμπεριφοράς, συμπεριλαμβανομένης της καθυστέρησης, του κόστους, της χρήσης token, της απόδοσης, των ποσοστών σφαλμάτων, της συμπεριφοράς του μοντέλου και των δεικτών ποιότητας εξόδου. Ιχνηλατεί και αναλύει μονοπάτια εκτέλεσης σε σύνθετες ροές εργασιών πρακτόρων και δείχνει πώς φθάνουν τα αποτελέσματα σε πολλά βήματα και εξαρτήσεις.

Η παρατηρησιμότητα του AI επίσης ανακαλύπτει ανωμαλίες σε λειτουργικά και σημάδια του AI, αποκαλύπτοντας ανωμαλή συμπεριφορά σε μοντέλα, pipelines, υποδομή ή αποτελέσματα που αντιμετωπίζονται από τους χρήστες πριν οι ομάδες τα ανακαλύψουν χειροκίνητα. Ταχύνει τη διαγνωστική όταν κάτι πάει λάθος και κάνει τις έρευνες ριζικής αιτίας ευκολότερες, συμπεριλαμβάνοντας λειτουργίες του AI στην τηλεμετρία του συστήματος (καταγραφές, μετρήσεις, ιχνηλάτηση και συμβάντα).

Η παρατηρησιμότητα μόνο δεν είναι αρκετή

Παρά το ότι είναι μια απαραίτητη επιχειρηματική πρακτική, η παρατηρησιμότητα του AI έχει εγγενείς περιορισμούς.

Η παρατηρησιμότητα είναι διαγνωστική παρά προληπτική· οι ομάδες μπορούν να μάθουν τι πήγε λάθος αλλά όχι απαραίτητα πώς να το αποτρέψουν από το να συμβεί ξανά. Είναι σημαντικό να κατανοηθεί ότι η γνώση των προηγούμενων ενεργειών ενός πράκτορα δεν μεταφράζεται αυτόματα σε έλεγχο των μελλοντικών ενεργειών του.

Όταν πρόκειται για σύνθετα μη-детерμινιστικά συστήματα, η παρατηρησιμότητα μπορεί συχνά να καταβαραθρώσει τις ομάδες με δεδομένα που οδηγούν σε αβεβαιότητα. Αντί να προσφέρει μια λειτουργική απάντηση, η παρατηρησιμότητα συχνά τελειώνει σε μια εξήγηση. Ακόμη και όταν οι ομάδες είναι ενήμερες για ένα πρόβλημα, μπορεί να μην έχουν την αυτοματοποίηση, τις προστατευτικές μεζονέτες και τους βρόχους ελέγχου που χρειάζονται για να λάβουν διορθωτική δράση.

Αυτό δημιουργεί ένα λειτουργικό χάσμα. Οι επιχειρήσεις μπορεί να μπορέσουν να ανακαλύψουν την μετατόπιση, τις κακές εξόδους, την επικίνδυνη συμπεριφορά ή τη μειωμένη απόδοση, αλλά μπορεί να μην μπορέσουν να το αποτρέψουν από το να συμβεί ξανά, να μετριάσει τις επιπτώσεις του ή να διατηρήσει αυτόνομους συστήματα μέσα σε ασφαλή παραμετρους λειτουργίας.

Αυτό σημαίνει ότι οι ομάδες συνεχίζουν να λειτουργούν αντιδραστικά. Χρησιμοποιούν χειροκίνητη παρέμβαση όταν κάτι πάει λάθος, εξετάζουν περιπτώσεις μετά το γεγονός και βασίζονται στην ανθρώπινη εργασία για να ανταποκριθούν σε συστήματα που γίνονται ταχύτερα και πιο αυτόνομα.

Μια επισκόπηση της αξιοπιστίας του AI

Η αξιοπιστία του AI υπερβαίνει την απλή παρατήρηση προβλημάτων. Είναι η επιστήμη του να εξασφαλίζεται ότι τα συστήματα του AI λειτουργούν ασφαλώς, σταθερά, προβλέψιμα και επιτυχώς σε πραγματικές παραγωγικές περιβάλλοντα. Η αξιοπιστία του AI κατανοεί και διαχειρίζεται το ολοκληρωμένο σύστημα γύρω από το AI. Κλείνει τον κύκλο μεταξύ ανίχνευσης και δράσης.

Η αξιοπιστία του AI επικεντρώνεται στο αν το ολοκληρωμένο σύστημα που οδηγείται από το AI μπορεί να λειτουργήσει μέσα σε λογικές λειτουργικές περιορισμούς με την πάροδο του χρόνου, και όχι μόνο αν ένα μοντέλο παρείχε μια ακριβή απάντηση. Η ποιότητα, η ασφάλεια, η ανθεκτικότητα, η εξήγηση, η συμμόρφωση με την πολιτική, η αποτελεσματικότητα του κόστους και η σταθερότητα λειτουργίας είναι όλα μέρος της εξίσωσης.

Η μετάβαση από την ανίχνευση στην πρόληψη

Η αξιοπιστία του AI μειώνει τον χρόνο μεταξύ της αναγνώρισης ενός προβλήματος και της αντιμετώπισής του. Μεταφέρει τη συζήτηση από “τι πήγε λάθος;” σε “πώς γρήγορα θα βελτιωθεί το AI μας;” Η εφαρμογή των ακόλουθων τεχνικών μεταφέρει την παρατηρησιμότητα από την παθητική παρατήρηση στην προληπτική πρόληψη:

  • Συσχέτιση σημάτων σε μοντέλα, δεδομένα και υποδομή για την ανίχνευση προβλημάτων
  • Προληπτική ανίχνευση προβλημάτων πριν από την επίδραση
  • Επιβεβαίωση όλων των εισόδων και εξόδων σε πιθανοκρατικά συστήματα του AI για την ανίχνευση λεπτών αλλαγών στη συμπεριφορά
  • Δημιουργία ενός βρόχου ανατροφοδότησης μεταξύ της ανίχνευσης ανεπιθύμητων εξόδων στην παραγωγή και της χρήσης αυτής για τη δημιουργία δεδομένων εκπαίδευσης που βελτιώνουν την ακρίβεια των υποκείμενων μοντέλων
  • Ιχνηλάτηση ροών εργασιών πολλαπλών πρακτόρων για να εξασφαλιστεί ότι μπορείτε να συνδέσετε τα σημεία γιατί και πώς τα δεδομένα εξελίχθηκαν για να ενημερώσουν σύνθετες ενέργειες
  • Ορισμένοι βρόχοι εργασιών ανθρώπινου-στο-βρόχο για ασφαλή απάντηση και αυτοματοποιημένη αποκατάσταση

Κλείνοντας το χάσμα μεταξύ ελέγχου και παρατήρησης

Οι επιχειρήσεις επωφελούνται από πλαισιά που ενσωματώνουν ορατότητα και έλεγχο και απαιτούν περισσότερα από ένα στρώμα παρατηρησιμότητας στην κορυφή του γενετικού AI. Σε cả τα детерμινιστικά και μη-детерμινιστικά συστήματα, μια πλατφόρμα αξιοπιστίας μπορεί να αναγνωρίσει, να προβλέψει, να εξηγήσει και να βοηθήσει στον έλεγχο προβλημάτων.

Τα ακόλουθα πρέπει να περιλαμβάνονται σε ένα βιώσιμο πλαισίο για αξιοπιστία του AI:

  • Ενσωματωμένη τηλεμετρία για cả τα συστήματα IT και AI
  • Ιχνηλάτηση ροών εργασιών και εξαρτήσεων συστημάτων
  • Ιχνηλάτηση συμπεριφοράς και ποιότητας του AI (προωθήσεις και αξιολογήσεις)
  • Προηγμένη ανίχνευση ανωμαλιών, ανεξάρτητα από την πηγή
  • Αιτιολογική συλλογιστική και ανάλυση ριζικής αιτίας
  • Ειδοποίηση που προσαρμόζεται αυτόματα στο περιβάλλον σας και δεν απαιτεί χειροκίνητες κατωφλίες
  • Επιβολή πολιτικής και φράγματα
  • Αξιολόγηση ανθρώπινου-στο-βρόχο για ευαίσθητες ή σημαντικές ενέργειες
  • Αυτοματοποίηση ροών εργασιών και συντονισμός αποκατάστασης
  • Χρήση προγνωστικής ανάλυσης για την πρόληψη προβλημάτων
  • Βρόχοι ανατροφοδότησης που συνδέουν ανίχνευση ανωμαλιών με βελτιωμένη ποιότητα μοντέλων του AI

Διευκόλυνση των λειτουργιών του AI

Τα συστήματα του AI βασίζονται σε υποδομή, υπηρεσίες, pipelines δεδομένων και λειτουργικές διαδικασίες· δεν αποτυγχάνουν μόνα τους. Οι ομάδες λαμβάνουν την ολοκληρωμένη εικόνα όταν η αξιοπιστία του AI και του IT συνδυάζονται.

Ένα λεπτό στρώμα LLM δεν πρέπει να είναι η βάση μιας αξιόπιστης πλατφόρμας. Για να αναγνωρίσετε και να διορθώσετε προβλήματα που άλλα εργαλεία του AI αγνοούν, πρέπει να ληφθούν υπόψη διάφορα τεχνικά του AI, συμπεριλαμβανομένων του ανοικτού AI, του προβλεπτικού AI, του αιτιολογικού AI και του γενετικού AI. Αυτή η σύνθεση τεχνικών είναι γνωστή ως “σύνθετο AI”.

Το γενετικό AI είναι καλό στην περίληψη της φυσικής γλώσσας. Είναι καλύτερο για τις περιπτώσεις που απαιτούν συλλογισμό μέσω μη δομημένων δεδομένων ή όταν αλληλεπιδρά με ανθρώπους. Αλλά αυτό δεν ταιριάζει στο σχήμα των περισσότερων προβλημάτων αξιοπιστίας στην παραγωγή.

Το προβλεπτικό AI επικεντρώνεται στην ανίχνευση πρώιμων σημάτων πριν γίνουν αποτυχίες, κακές εμπειρίες πελατών ή ακριβές αποτυχίες, χρησιμοποιώντας αλγόριθμους ανίχνευσης ανωμαλιών.

Το αιτιολογικό AI βοηθά στην ανίχνευση των πραγματικών αιτιών για να αποκαλύψει αν η ποιότητα αναζήτησης, η συμπεριφορά του μοντέλου, η αργότητα της υποδομής, η μετατόπιση των δεδομένων ή η αποτυχία του συστήματος ήταν η αιτία της πτώσης της απόδοσης.

Το ανοικτό AI ανακαλύπτει αυτόματα κρυφές προτύπους, δομές ή ανωμαλίες σε δεδομένα χωρίς ανθρώπινη καθοδήγηση. Υπερβαίνει το γενετικό AI για την αξιοπιστία, επειδή επικεντρώνεται στην ανίχνευση κρυφών δομών μέσα σε σύνθετα, μη ταξινομημένα δεδομένα για να ομαδοποιήσει παρόμοια αντικείμενα ή να βρει σχέσεις.

Όταν ο κίνδυνος, η αβεβαιότητα ή οι επιχειρηματικές επιπτώσεις είναι σημαντικές, οι πράκτορες του AI πρέπει να μπορέσουν να αυτοματοποιήσουν την αντίδραση, διατηρώντας την ανθρώπινη εμπλοκή για αξιόπιστη λειτουργία.

Η κατανόηση του μοντέλου του AI για το συγκεκριμένο επιχειρηματικό контекστό μπορεί να ενισχυθεί σε κάθε συνάντηση, χρησιμοποιώντας ενισχυτική μάθηση από πραγματικά δεδομένα χρηστών στην παραγωγή.

Ακόμη και τα πιο προηγμένα συστήματα υπερβαίνουν την ειδοποίηση· η κλειστή αποκατάσταση μαθαίνει από κάθε περιστατικό με την πάροδο του χρόνου, αυτοματοποιεί αναγνωρισμένες αντιδράσεις και ξεκινά ασφαλείς μέτρα.

Προετοιμασία για αυτόνομους συστήματα του AI

Οι επιχειρήσεις μπορούν να προετοιμαστούν για αυτόνομους συστήματα του AI με διάφορους τρόπους. Πρώτον, οι πράκτορες πρέπει να θεωρούνται ως λειτουργικά συστήματα και όχι ως εργαλεία παραγωγικότητας. Μόλις ένας πράκτορας έχει την ικανότητα να ενεργήσει, γίνεται ένα ολοκληρωμένο μέρος των επιχειρηματικών λειτουργιών και πρέπει να ρυθμίζεται ανάλογα.

Οι ομάδες μπορούν να καταγράψουν σήματα από μοντέλα, προωθήσεις, εργαλεία, ροές εργασιών, υποδομή και αποτελέσματα χρηστών αμέσως, ενstrumentalizing τους πράκτορες. Αυτή η βασική επιτήρηση δεν πρέπει να καθυστερήσει μέχρι οι πράκτορες να γίνουν απαραίτητοι για την επιχείρηση.

Η καθορισμός προτύπων αξιοπιστίας πριν από την ευρεία ανάπτυξη των πρακτόρων είναι επίσης κρίσιμος. Αντί να εισαχθούν μετά το γεγονός, οι αποδεκτές κατωφλίες για ασφάλεια, καθυστέρηση, ποσοστά σφαλμάτων, κίνδυνο οπτασιασμού, συμμόρφωση με την πολιτική και επιχειρηματική επίδραση πρέπει να ενσωματωθούν στο σχεδιασμό τους.

Η σύνδεση της συμπεριφοράς του AI με τα υποκείμενα συστήματα και διαδικασίες που την υποστηρίζουν επιτρέπει στις επιχειρήσεις να ενσωματώνουν τις λειτουργίες του AI και του IT. Η χρήση διαφορετικών εργαλείων για την υποδομή και για την παρακολούθηση του μοντέλου δημιουργεί τυφλά σημεία.

Η μηχανική πλατφόρμας, η SRE, η ασφάλεια, οι ομάδες δεδομένων, οι ομάδες του AI και οι ιδιοκτήτες επιχειρήσεων πρέπει να συνεργαστούν για να παρέχουν αξιόπιστη λειτουργία του AI, και οι αυτόνομες συστήματα υπερβαίνουν τις παραδοσιακές σιλό.

Κάθε περιστατικό, ανωμαλία και near-miss θα βελτιώσει το σύστημα, ενσωματώνοντας βρόχους ανατροφοδότησης στις λειτουργίες, επιτρέποντας στις επιχειρήσεις να συνεχίζουν να μαθαίνουν από την συμπεριφορά της παραγωγής.

Τέλος, είναι κρίσιμο να επιλεγούν πλατφόρμες που προορίζονται για έλεγχο και όχι μόνο για παρατήρηση. Οι επιχειρήσεις θα επωφεληθούν από συστήματα που ενσωματώνουν παρατηρησιμότητα, πρόβλεψη, εξήγηση και δράση, καθώς οι πράκτορες του AI γίνονται πιο αυτόνομοι. Οι οργανισμοί που θα μεταβούν επιτυχώς από την ανίχνευση προβλημάτων στην ασφαλή έλεγχο των αποτελεσμάτων θα είναι οι νικητές.

Το κάτωθι

Το AI στις επιχειρήσεις είναι τώρα ένα λειτουργικό σύστημα σε επιχειρηματικά περιβάλλοντα και όχι ένα εργαλείο. Σε πραγματικές παραγωγικές περιβάλλοντα, η προσθήκη αξιοπιστίας στα συστήματα του AI εγγυάται ασφαλείς, σταθερές, προβλέψιμες και αποτελεσματικές λειτουργίες. rom identifying problems to safely controlling outcomes will be the winners. The bottom line AI in businesses is now an operational system in enterprise environments rather than a tool. In real-world production settings, adding reliability to AI systems guarantees safe, consistent, predictable and efficient operations.

Η Helen Gu είναι ιδρύτρια της InsightFinder AI, η οποία ανιχνεύει αυτόματα την ολίσθηση του μοντέλου AI, παρέχει βαθιά διαγνωστικά και thựcεί ανάλυση αιτίας σε σύνθετα συστήματα AI.