Η τεχνητή νοημοσύνη λαμβάνει αποφάσεις κάθε λεπτό. Η διακυβέρνηση, όμως, εξακολουθεί να λειτουργεί ανά τρίμηνο

Ένα σύστημα υποβοηθούμενο από τεχνητή νοημοσύνη μπορεί να επηρεάσει εκατοντάδες λειτουργικές αποφάσεις προτού καν προγραμματιστεί η επόμενη συνεδρίαση μιας επιτροπής καθοδήγησης. Η διακυβέρνηση που βασίζεται σε τριμηνιαίους ελέγχους δεν σχεδιάστηκε ποτέ για τέτοιες ταχύτητες, και αυτή η αναντιστοιχία είναι το σημείο στο οποίο αρχίζουν να δυσκολεύονται πολλά προγράμματα τεχνητής νοημοσύνης σε μεγάλες επιχειρήσεις.

Αφιερώνουμε υπερβολικά πολύ χρόνο σε συζητήσεις για το ποια μοντέλα θα θέσουμε σε λειτουργία. Ωστόσο, η Gartner προβλέπει ότι έως το 2026 οι οργανισμοί θα εγκαταλείψουν το 60% των έργων τεχνητής νοημοσύνης που δεν υποστηρίζονται από δεδομένα κατάλληλα για την τεχνητή νοημοσύνη. Οι περισσότερες αποτυχίες της τεχνητής νοημοσύνης στις επιχειρήσεις έχουν ελάχιστη σχέση με το ίδιο το μοντέλο. Οφείλονται σε κάτι πιο θεμελιώδες: οι οργανισμοί δεν διαθέτουν μια αξιόπιστη και συνεκτική εικόνα της δικής τους επιχείρησης.

Το κρυφό κόστος των δεδομένων «έτοιμων για τεχνητή νοημοσύνη»

Οι περισσότερες επιχειρήσεις υποτιμούν την προσπάθεια που απαιτείται για να διασφαλιστούν η ιδιοκτησία, η διακυβέρνηση, η αξιοπιστία και το πλαίσιο των δεδομένων τους. Λίγες επενδύουν στην εξειδίκευση μεταξύ διαφορετικών λειτουργικών τομέων και στο λειτουργικό μοντέλο που απαιτούνται για τη δημιουργία πλαισίων διακυβέρνησης τα οποία διασφαλίζουν τη διαφάνεια, την επεξηγησιμότητα και τη λογοδοσία που χρειάζονται για να περάσει η τεχνητή νοημοσύνη πέρα από τις πιλοτικές εφαρμογές.

Υπάρχει μια απλή δοκιμασία που παροτρύνω τους πελάτες να κάνουν. Μπορεί ο οργανισμός να εξηγήσει με σαφήνεια ποιος έχει την ευθύνη για τα δεδομένα, πώς αυτά συνδέονται με τις επιχειρηματικές διαδικασίες, ποιοι έλεγχοι διέπουν τη χρήση τους και ποιος εξακολουθεί να λογοδοτεί για τις αποφάσεις που υποστηρίζονται από τεχνητή νοημοσύνη; Αν όχι, οι πρωτοβουλίες τους στον τομέα της τεχνητής νοημοσύνης είναι απίθανο να πετύχουν, ανεξάρτητα από το πόσα επενδύουν σε πλατφόρμες, υποδομές ή μοντέλα.

Το πρώτο βήμα σε κάθε πορεία μιας επιχείρησης προς την τεχνητή νοημοσύνη θα πρέπει να είναι η επένδυση στη διακυβέρνηση και σε ένα πρακτικό λειτουργικό μοντέλο που καθορίζει με σαφήνεια την ιδιοκτησία, τη λογοδοσία και τις αρμοδιότητες λήψης αποφάσεων. Αυτό που διαπιστώνω είναι ότι οι περισσότεροι οργανισμοί κάνουν το αντίθετο: θέτουν σε λειτουργία μοντέλα και υποδομές πριν δημιουργήσουν τα θεμέλια που απαιτούνται για την αξιοποίηση της τεχνητής νοημοσύνης σε μεγάλη κλίμακα.

Ωστόσο, οι αποφάσεις που υποστηρίζονται από τεχνητή νοημοσύνη βασίζονται σε περισσότερα από μεμονωμένα σημεία δεδομένων· εξαρτώνται επίσης από την κατανόηση του τρόπου με τον οποίο οι πληροφορίες συνδέονται με τις επιχειρηματικές διαδικασίες, τις πολιτικές, την ιδιοκτησία και το λειτουργικό πλαίσιο. Όταν αυτές οι σχέσεις είναι κατακερματισμένες, οι οργανισμοί δεν θα πρέπει να εκπλήσσονται όταν οι συστάσεις της τεχνητής νοημοσύνης γίνονται ασυνεπείς.

Όταν οι εφαρμογές τεχνητής νοημοσύνης έχουν παρ’ ολίγον αστοχίες, αποτυχίες ή αντικρουόμενες συστάσεις, τα κρίσιμα ερωτήματα είναι οργανωτικά και όχι τεχνικά. Ποιος έχει την ευθύνη για τα δεδομένα; Ποιος είναι υπεύθυνος για την απόφαση; Ποιος μπορεί να παρακάμψει την τεχνητή νοημοσύνη; Πώς κλιμακώνονται οι εξαιρέσεις; Χωρίς απαντήσεις, οι επιχειρήσεις κινδυνεύουν να δημιουργήσουν αυτοματισμούς χωρίς λογοδοσία.

Η εμπιστοσύνη οικοδομείται πριν από την ανάπτυξη

Η εμπιστοσύνη στην τεχνητή νοημοσύνη οικοδομείται πολύ πριν τεθεί σε λειτουργία οποιοδήποτε μοντέλο. Η αποτελεσματική διακυβέρνηση απαιτεί συνεργασία μεταξύ των τομέων της τεχνολογίας, των επιχειρηματικών λειτουργιών, της διαχείρισης κινδύνων, των νομικών υπηρεσιών, της κανονιστικής συμμόρφωσης και της ασφάλειας, επειδή τα συστήματα τεχνητής νοημοσύνης λειτουργούν πέρα από τα οργανωτικά όρια, ενώ η λογοδοσία συχνά παραμένει κατακερματισμένη σε επιμέρους μονάδες. Πολλές προκλήσεις διακυβέρνησης που αποδίδονται στην τεχνητή νοημοσύνη είναι συμπτώματα παλαιότερων προβλημάτων σχετικά με την ιδιοκτησία των δεδομένων και την εξουσία λήψης αποφάσεων, τα οποία η τεχνολογία απλώς έφερε στο φως.

Οι περισσότεροι οργανισμοί διαθέτουν ήδη μηχανισμούς διακυβέρνησης, όπως πολιτικές ασφάλειας, πλαίσια συμμόρφωσης και διαδικασίες έγκρισης. Αυτό που συχνά τους λείπει είναι μια συνεκτική εικόνα του τρόπου με τον οποίο συνδέονται όλα αυτά τα στοιχεία.

Η εμπιστοσύνη αναπτύσσεται όταν τα ενδιαφερόμενα μέρη κατανοούν το σκεπτικό πίσω από τις συστάσεις, εμπιστεύονται τα δεδομένα στα οποία αυτές βασίζονται και γνωρίζουν ότι έχουν τεθεί σε εφαρμογή οι κατάλληλοι έλεγχοι και μηχανισμοί κλιμάκωσης. Τίποτα από αυτά δεν μπορεί να ενσωματωθεί εκ των υστέρων μετά από ένα περιστατικό.

Όταν η τριμηνιαία διακυβέρνηση συναντά τις αποφάσεις της κάθε στιγμής

Τα παραδοσιακά μοντέλα διακυβέρνησης βασίζονται σε περιοδικούς ελέγχους, επιτροπές καθοδήγησης και αναδρομικές αναφορές. Τα συστήματα που υποστηρίζονται από τεχνητή νοημοσύνη παράγουν συστάσεις διαρκώς και σε μεγάλη κλίμακα. Τα υφιστάμενα πλαίσια δεν είναι λανθασμένα, αλλά είναι υπερβολικά αργά και αποκομμένα από τη λήψη λειτουργικών αποφάσεων. Ένας κύκλος τριμηνιαίων ελέγχων δεν μπορεί να διέπει αποφάσεις που λαμβάνονται κάθε ώρα, κάθε μέρα.

Τα καλύτερα αποτελέσματα τα βλέπω σε οργανισμούς που ενσωματώνουν τη διακυβέρνηση απευθείας στις λειτουργικές ροές εργασίας μέσω της εφαρμογής πολιτικών, των ροών εργασιών έγκρισης, της παρακολούθησης, της δυνατότητας ελέγχου και της ανθρώπινης εποπτείας. Έχουν δεσμευτεί να περάσουν από την περιοδική στη συνεχή διακυβέρνηση, ώστε να μπορούν να βλέπουν σε πραγματικό χρόνο ποια δεδομένα χρησιμοποιούνται, ποιες αποφάσεις επηρεάζονται, ποιος λογοδοτεί και πότε απαιτείται ανθρώπινη παρέμβαση.

Η συνεχής διακυβέρνηση δεν περιορίζεται στην παρακολούθηση των αποτελεσμάτων της τεχνητής νοημοσύνης. Σημαίνει ότι κατανοούμε ποιες πληροφορίες χρησιμοποιεί η τεχνητή νοημοσύνη, αν αυτές εξακολουθούν να είναι έγκυρες και αν οι αποφάσεις εξακολουθούν να ευθυγραμμίζονται με τις επιχειρηματικές πολιτικές και τους στόχους.

Η τεχνητή νοημοσύνη θα διαφωνεί με τον εαυτό της

Οι μεγάλοι οργανισμοί διαχειρίζονται καθημερινά ανταγωνιστικές προτεραιότητες. Οι ομάδες ασφάλειας θέλουν να μειώσουν τον κίνδυνο, οι ομάδες λειτουργιών θέλουν σταθερότητα, οι επιχειρηματικές ομάδες θέλουν ταχύτητα και οι οικονομικές ομάδες θέλουν αποδοτικότητα κόστους. Τώρα προστίθενται τα συστήματα τεχνητής νοημοσύνης, τα οποία εκπαιδεύονται σε διαφορετικά σύνολα δεδομένων και με διαφορετικούς στόχους και, όπως είναι φυσικό, αντανακλούν αυτές τις προτεραιότητες.

Ένα σύστημα τεχνητής νοημοσύνης για την ασφάλεια μπορεί να συστήσει την άμεση αποκατάσταση μιας κρίσιμης ευπάθειας, ενώ η ομάδα λειτουργιών καθυστερεί την αλλαγή επειδή το επηρεαζόμενο σύστημα υποστηρίζει μια κρίσιμη επιχειρηματική υπηρεσία. Και οι δύο θέσεις μπορεί να είναι βάσιμες. Για την επίλυση αυτών των συγκρούσεων απαιτούνται σαφείς αρμοδιότητες λήψης αποφάσεων, καθορισμένη ευθύνη για τους κινδύνους και διαδικασίες κλιμάκωσης.

Η ΤΝ πρέπει να παρέχει τα δεδομένα, το πλαίσιο και τις συστάσεις, αλλά η ευθύνη για την εξισορρόπηση επιχειρηματικών, λειτουργικών παραμέτρων και παραμέτρων κινδύνου πρέπει να παραμένει στον οργανισμό.

Αντιμετώπιση του σκεπτικισμού όταν ανακύπτουν ασυνέπειες

Όταν η ΤΝ διατυπώνει μια ασυνεπή σύσταση, είναι σαφές ότι στο μέλλον η επιχείρηση θα αντιμετωπίζει με σκεπτικισμό τις συστάσεις της. Η εμπιστοσύνη αποκαθίσταται όταν τα ενδιαφερόμενα μέρη κατανοούν γιατί διατυπώθηκε μια σύσταση, ποια δεδομένα χρησιμοποιήθηκαν και ποιος εξακολουθεί να λογοδοτεί για το αποτέλεσμα.

Η ΤΝ συχνά αποκαλύπτει προβλήματα στην ποιότητα των δεδομένων, κενά ως προς την ανάληψη ευθύνης και ασυνέπειες στις διαδικασίες που προϋπήρχαν στον οργανισμό. Είναι πολύ πιο παραγωγικό να αντιμετωπίζονται αυτές οι στιγμές ως ευκαιρίες για τη βελτίωση της διακυβέρνησης και των λειτουργικών διαδικασιών, παρά να υπερασπιζόμαστε την τεχνολογία. Με την πάροδο του χρόνου, η εμπιστοσύνη κερδίζεται με διαφάνεια, συνέπεια και απτά επιχειρηματικά αποτελέσματα.

Η αξιόπιστη βάση πληροφόρησης

Η συζήτηση γύρω από την ετοιμότητα για την ΤΝ επικεντρώνεται συνήθως στα μοντέλα, τις υποδομές και τα εργαλεία. Στην πράξη, οι οργανισμοί που σημειώνουν τη μεγαλύτερη επιτυχία επενδύουν σε κάτι πιο θεμελιώδες: μια αξιόπιστη βάση πληροφόρησης. Αυτή παρέχει το επιχειρηματικό πλαίσιο που εξηγεί πώς οι πληροφορίες συνδέονται με τις διαδικασίες, τις πολιτικές, την ανάληψη ευθύνης και τις λειτουργικές αποφάσεις, προσφέροντας στην ΤΝ ισχυρότερη βάση για διατυπώσεις συστάσεων τις οποίες οι οργανισμοί μπορούν να κατανοούν, να διαχειρίζονται και να εμπιστεύονται.

Ακόμη και το πιο προηγμένο μοντέλο ΤΝ δεν μπορεί να αντισταθμίσει την ανεπαρκή διακυβέρνηση της πληροφορίας, την ασάφεια ως προς την ανάληψη ευθύνης ή την ελλιπή κατανόηση του επιχειρηματικού πλαισίου. Αυτό που χρειάζεται να κάνουν οι οργανισμοί είναι να δημιουργήσουν το πλαίσιο, τη διακυβέρνηση, τη θεσμική μνήμη και τη νοημοσύνη λήψης αποφάσεων που απαιτούνται για να αξιοποιούν την ΤΝ υπεύθυνα και αποτελεσματικά, σε μεγάλη κλίμακα.

Αυτή η εργασία προχωρά πιο αργά και είναι λιγότερο ορατή από την ανάπτυξη ενός νέου μοντέλου, αλλά τελικά καθορίζει αν το μοντέλο θα προσφέρει διαρκή επιχειρηματική αξία.