Ηγέτες σκέψης

Το Εμπόδιο του AI Δεν Είναι η Αποτυχία. Είναι η Αποτυχία που Συμβαίνει Πολύ Αργά.

Beth Weeks
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
A conceptual photograph showing a hand approaching a transparent glass interface with a glowing green speedometer gauge and an upward-pointing arrow. The background shows an out-of-focus, tangled knot of black wires and red light.
Βασικά σημείαΟι οργανισμοί πρέπει να δίνουν προτεραιότητα στην ανθεκτικότητα έναντι της τελειότητας…
Δείτε περισσότερα
  • Οι οργανισμοί πρέπει να δίνουν προτεραιότητα στην ανθεκτικότητα έναντι της τελειότητας στα συστήματα ΤΝ για να αποφύγουν τη λειτουργική παράλυση.
  • Η επεξηγησιμότητα σε επίπεδο πίνακα ελέγχου παρέχει εποπτεία χωρίς να απαιτεί πλήρη διαφάνεια σε κάθε απόφαση της ΤΝ.
  • Καθορίστε μετρικές επιτυχίας της ΤΝ με βάση τα αποτελέσματα, όχι με βάση την εξήγηση κάθε μηχανισμού του μοντέλου.

Το Εμπόδιο του AI Δεν Είναι η Αποτυχία. Είναι η Αποτυχία που Συμβαίνει Πολύ Αργά.

Η Τεχνητή Νοημοσύνη (AI) μεταμορφώνει τον τρόπο με τον οποίο λειτουργούν, καινοτομούν και αναπτύσσονται οι οργανισμοί. Σε όλους τους κλάδους, οι οργανισμοί χρησιμοποιούν την AI για νααπλοποιήσουν τις ροές εργασιών, να απελευθερώσουν νέες αποδοτικότητες και να υποστηρίξουν ταχύτερες και αποφάσεις με μεγαλύτερη αυτοπεποίθηση. Όσο η AI γίνεται ο κινητήρας πίσω από την σύγχρονη παραγωγικότητα, βοηθά τους οργανισμούς να επιτύχουν μεγαλύτερη ευελιξία και κλίμακα.

Ωστόσο, παρά τις πολλές μετρήσιμες ωφέλειες της AI, κάτι απρόσμενο συμβαίνει. Πολλοί οργανισμοί συναντούν ένα εμπόδιο. Αντί να επιταχύνουν την καινοτομία, ορισμένες ομάδες παραμένουν σε μια κατάσταση πολυπλοκότητας, διαχείρισης κινδύνου και ενός αυξανόμενου φόβου του άγνωστου.

Γιατί; Επειδή σκεφτόμαστε λάθος.

Η AI συχνά παρεξηγείται ως μια τεχνολογία που πρέπει να ελεγχθεί πλήρως πριν μπορέσει κανείς να την εμπιστευτεί. Αυτό προέρχεται από την λανθασμένη πεποίθηση ότι η βεβαιότητα είναι προαπαιτούμενο για την ασφάλεια. Αλλά αυτή η ερμηνεία χάνει το σημείο της AI και του τρόπου με τον οποίο παρέχει αξία. Η AI είναι ένα προσαρμοστικό εργαλείο που σχεδιάστηκε για να μάθει και να εξελιχθεί με τη χρήση. Η αντιμετώπιση της σαν να πρέπει να συμπεριφέρεται σαν παραδοσιακό λογισμικό είναι μια λανθασμένη ερμηνεία της φύσης της και υπονομεύει το δυναμικό της.

Στην προσπάθεια να αξιοποιήσουμε την AI με ευθύνη, πολλοί οργανισμοί έχουν ακούσια μετατρέψει τη διαχείριση κινδύνου σε ένα εμπόδιο. Σε όλους τους κλάδους, οι ομάδες διστάζουν να αναπτύξουν την AI εκτός αν μπορούν να αναλύσουν, να εξηγήσουν και να δικαιολογήσουν κάθε στρώμα της διαδικασίας λήψης αποφάσεων, συχνά σε ένα μη πρακτικό βαθμό. Αν και αυτό το επίπεδο σχολαστικότητας αντανακλά καλοπροαίρετη due diligence, συχνά υπονομεύει τον ίδιο τον σκοπό της AI: να επιταχύνει την έμπνευση, να ενισχύσει τις ομάδες και να λύσει προβλήματα σε κλίμακα.

Είναι ώρα να επαναρυθμίσουμε μετατοπίζοντας την προσοχή μας από την απαίτηση για πλήρη έλεγχο και προς ένα μοντέλο που τονίζει την ανθεκτικότητα, την παραγωγικότητα και την πρακτική εξηγησιμότητα—χωρίς να σταματήσουμε την καινοτομία.

Ο Φόβος του Μαύρου Κουτιού Εμποδίζει την Πρόοδο

Οι άνθρωποι έχουν μια φυσική δυσφορία με συστήματα που δεν κατανοούν πλήρως, και τα εργαλεία AI—ειδικά τα μεγάλα, παραγωγικά μοντέλα—συχνά λειτουργούν με τρόπους που αντιστέκονται στην εύκολη εξήγηση. Ως αποτέλεσμα, πολλοί ηγέτες πέφτουν σε μια παγίδα: αν δεν μπορούν να εξηγήσουν πλήρως κάθε απόφαση AI, δεν μπορούν να εμπιστευτούν το σύστημα.

Ως τέτοιο, πολλοί οργανισμοί υπερσχεδιάζουν διαδικασίες εποπτείας, προσθέτοντας στρώματα διαλειτουργικών αναθεωρήσεων, ελέγχων συμμόρφωσης και ελέγχων εξηγησιμότητας, ακόμη και για περιπτώσεις χαμηλού κινδύνου. Όταν οι ομάδες αντιμετωπίζουν την εξηγησιμότητα ως την ανάγκη να ανοίξουν κάθε μαύρο κουτί, παγιδεύουν την εφαρμογή της AI σε ατελείωτες κυκλικές αναθεωρήσεις. Αυτό δημιουργεί μια “λειτουργική παράλυση” στην οποία οι ομάδες γίνονται τόσο φοβισμένες να κάνουν το λάθος πράγμα με την AI που σταματούν να κάνουν τίποτα, με αποτέλεσμα μια σταθερή έλλειψη ορμής, σταματημένες πρωτοβουλίες και τελικά, χαμένη ευκαιρία.

Το πρόβλημα δεν είναι η πρόθεση πίσω από τα συστήματα ελέγχου; είναι η υπόθεση ότι η διαχείριση κινδύνου πρέπει να ισούται με τον έλεγχο. Στην πρακτική, ο σχεδιασμός συστημάτων AI για ανθεκτικότητα αντί για την τελειότητα είναι μια πιο αποτελεσματική προσέγγιση. Το κλειδί είναι να εγκαταλείψουμε μια διαδικαστική προσέγγιση υπέρ της σκέψης που βασίζεται στα αποτελέσματα.

Η ανθεκτικότητα στην AI σημαίνει την αποδοχή ότι θα συμβούν λάθη και την κατασκευή φραγμών που μπορούν να ανιχνεύσουν και να επιδιορθώσουν. Σημαίνει την μετατόπιση της συζήτησης από το πώς να προληφθεί κάθε πιθανό λάθος στο πώς να διασφαλιστεί η ταχεία ανίχνευση και παρέμβαση όταν τα πράγματα πάνε στραβά.

Οι περισσότεροι σύγχρονοι μηχανισμοί κατασκευάζονται με την κατανόηση ότι θα συμβεί κάποιο επίπεδο σφάλματος. Για παράδειγμα, τα εργαλεία κυβερνοασφάλειας δεν αναμένεται να είναι 100% αδιαπέραστα. Δεν σχεδιάζονται να είναι. Αντίθετα, σχεδιάζονται να ανιχνεύουν, να απαντούν και να δημιουργούν γρήγορα πρωτόκολλα ανάκαμψης. Οι ίδιες προσδοκίες πρέπει να ισχύουν και για την AI.

Η απαίτηση για πλήρη ορατότητα σε κάθε απόφαση AI είναι απρακτική και μπορεί να είναι αντιπαραγωγική στην δημιουργία αξίας. Αντίθετα, οι οργανισμοί πρέπει να προωθήσουν μια “εξηγησιμότητα σε επίπεδο πίνακα ελέγχου” που παρέχει αρκετό πλαίσιο και εποπτεία για να ανιχνεύσει σφάλματα και να εφαρμόσει προφυλάξεις χωρίς να σταματήσει την καινοτομία της επιχείρησης.

Μην Περιπλέκετε Υπερβολικά την Εφαρμογή της AI

Οι οργανισμοί πρέπει να υιοθετήσουν πλήρη διαλειτουργικότητα στις εφαρμογές της AI, ανεξάρτητα από την περίπτωση χρήσης. Αντί να είναι ένας περισπασμός, η πλήρης διαλειτουργικότητα διασφαλίζει μια απρόσκοπτη ενσωμάτωση και απελευθερώνει μεγαλύτερη αξία σε όλα τα συστήματα. Στο μέλλον, σε όλες τις επιχειρήσεις, είναι πιθανό να δούμε εικονικές στρατιές από πράκτορες AI που εργάζονται όλοι μαζί για κοινούς στόχους.

Αυτή η στάση είναι για το να δώσουμε το κατάλληλο επίπεδο εξηγησιμότητας για να ταιριάξει με το επίπεδο κινδύνου—να σταματήσουμε να αντιμετωπίζουμε κάθε περίπτωση χρήσης της AI ως αν ήταν η λειτουργία ενός αυτόνομου οχήματος. Οι ομάδες μπορούν να επιτύχουν αυτό σχεδιάζοντας συστήματα AI που είναι παραγωγικά, υπεύθυνα και ευθυγραμμισμένα με την ανθρώπινη πρόθεση χωρίς να περιπλέκουν υπερβολικά την εφαρμογή.

Ορισμένες πρακτικές στρατηγικές περιλαμβάνουν:

  • Εφαρμογή της AI όπου οι άνθρωποι ήδη δυσκολεύονται: Χρησιμοποιήστε την AI για να αυξήσετε την ανθρώπινη λήψη αποφάσεων σε σύνθετες, μεγάλου όγκου περιοχές όπως η διαχείριση πόρων, η προτεραιότητα εργασιών ή η διαχείριση εκκρεμών εργασιών όπου η ταχύτητα και η κλίμακα έχουν περισσότερη σημασία από την απόλυτη βεβαιότητα.
  • Ορισμός μετρικών επιτυχίας της AI: Αντί να προσπαθήσετε να εξηγήσετε κάθε μοντέλο, ορίστε τι σημαίνει καλά αποτελέσματα. Βελτιώνονται τα χρονοδιαγράμματα; Μειώνεται η εργασία που πρέπει να επαναληφθεί; Οι χρήστες αποδέχονται τις προτάσεις της AI πιο συχνά; Αυτοί οι δείκτες προσφέρουν μια πιο σαφή εικόνα για το πώς λειτουργεί η AI αντί να ψάχνετε τις λεπτομέρειες του πώς το μοντέλο λαμβάνει αποφάσεις.
  • Καθιέρωση ορίων εμπιστοσύνης: Ορίστε αντοχές για όταν η έξοδος της AI μπορεί να γίνει αυτόματα αποδεκτή, να σημειωθεί ή να σταλεί για ανθρώπινη αναθεώρηση και να κατασκευάσετε έναν βρόχο ανατροφοδότησης για να βοηθήσετε το σύστημα να μάθει και να βελτιωθεί με τον καιρό.
  • Εκπαίδευση των ομάδων να κάνουν τις σωστές ερωτήσεις: Αντί να κάνετε κάθε ομάδα έναν ειδικό της AI, εστίαστε στην εκπαίδευση τους να κάνουν τις σωστές ερωτήσεις, όπως ποιο πρόβλημα η AI χρησιμοποιείται για να λύσει, ποιοι κίνδυνοι έχουν σημασία και πώς θα μετρηθεί η αποτελεσματικότητα.
  • Προτεραιότητα της ανθρώπινης σκέψης: Ακόμη και τα καλύτερα συστήματα AI επωφελούνται από την ανθρώπινη εποπτεία. Κατασκευάστε ροές εργασιών που επιτρέπουν στους ανθρώπους να επικυρώσουν, να διορθώσουν ή να παρακάμψουν τις αποφάσεις της AI ως τρόπο για να δημιουργήσετε μια κοινή ευθύνη.

Αυτή η προσέγγιση μπορεί να συγκριθεί με την οδήγηση ενός αυτοκινήτου. Οι περισσότεροι από εμάς δεν κατανοούμε πώς λειτουργεί η μετάδοση, πώς η καύση καυσίμου ενισχύει την επιτάχυνση ή πώς οι αισθητήρες ανιχνεύουν τα κοντινά οχήματα, αλλά αυτό δεν μας σταματά να οδηγούμε. Βασιζόμαστε στον πίνακα ελέγχου: μια απλοποιημένη διεπαφή που παρέχει τις πληροφορίες που χρειαζόμαστε για να λειτουργήσουμε με ασφάλεια, όπως η ταχύτητα, το επίπεδο καυσίμου και οι ειδοποιήσεις συντήρησης.

Τα συστήματα AI πρέπει να διευθύνονται με τον ίδιο τρόπο. Δεν χρειαζόμαστε να ανοίξουμε το καπό κάθε φορά που ο κινητήρας λειτουργεί. Τι χρειαζόμαστε είναι ένα σαφές σύνολο δεικτών που δείχνουν όταν κάτι δεν πάει καλά, πού μπορεί να χρειαστεί ανθρώπινη παρέμβαση και ποια είναι τα επόμενα βήματα. Αυτό το μοντέλο επιτρέπει στους οργανισμούς να εστιάσουν την εποπτεία όπου έχει σημασία χωρίς να πνιγούν στην τεχνική πολυπλοκότητα.

Σταματήστε να Εμποδίζετε τον Εαυτό σας

Η AI δεν θα είναι ποτέ άρτια. Και αν οι οργανισμοί τη θέτουν σε ένα πρότυπο τελειότητας που καμία ανθρώπινη ομάδα δεν θα μπορούσε να ικανοποιήσει, κινδυνεύουν να χάσουν την ευκαιρία να ξανασχεδιάσουν την εργασία, να επιταχύνουν την λήψη αποφάσεων και να απελευθερώσουν το δυναμικό σε όλη την επιχείρηση.

Εστιάζοντας στην ανθεκτικότητα έναντι του ελέγχου, υιοθετώντας την εξηγησιμότητα σε επίπεδο πίνακα ελέγχου και προσαρμόζοντας την εποπτεία στο πλαίσιο, μπορούμε να σταματήσουμε να υπεραναλύουμε την AI και να αρχίσουμε να δημιουργούμε περισσότερη επιτυχία με αυτήν.

Η Beth Weeks είναι η εκτελεστική αντιπρόεδρος ανάπτυξης στη Planview. Ηγείται της ομάδας ανάπτυξης λογισμικού για τα προϊόντα της Planview που παρέχουν Στρατηγική Διαχείριση Πορτοφολίου, Αυτοματοποίηση Επαγγελματικών Υπηρεσιών, Αρχιτεκτονική Επιχειρήσεων και δυνατότητες παραγωγής ιδεών.

Η Beth έχει διατελέσει σε εκτελεστικές θέσεις λογισμικού για τα τελευταία 20 χρόνια και έχει βοηθήσει τις εταιρείες λογισμικού να μετατρέψουν τα προϊόντα τους από εσωτερικές λύσεις σε καλά σχεδιασμένες λύσεις Λογισμικού ως Υπηρεσία (SaaS) και Πλατφόρμας ως Υπηρεσία (PaaS). Έχει επίσης εμπειρία στη δημιουργία εξαιρετικά παραγωγικών και συνεργατικών ομάδων, οι οποίες είναι διανεμημένες παγκοσμίως μέσω της Βόρειας Αμερικής, της Ευρώπης, της Μέσης Ανατολής και της Αφρικής (EMEA) και της Ινδίας.

Πριν ενταχθεί στη Planview το 2017, η Beth ήταν ανώτερη αντιπρόεδρος μηχανικής προϊόντων και cloud operations στο WP Engine, ηγούμενη της ανάπτυξης προϊόντων και των cloud operations για πολλά παγκόσμια κέντρα δεδομένων που φιλοξενούν περισσότερες από 500.000 ιστοσελίδες. Έχει επίσης διατελέσει σε ηγετικές θέσεις στις εταιρείες Zilliant, Vignette (που εξαγοράστηκε από την Open Text) και Intergraph.