Όταν το Μοντέλο Δεν Είναι το Πρόβλημα

Φανταστείτε ένα συνηθισμένο σενάριο στις χρηματοοικονομικές υπηρεσίες. Μια ομάδα αναπτύσσει einen AI για να αναθεωρήσει συμβάσεις: εκατοντάδες σελίδες, επαναλαμβανόμενες ρήτρες και рутиνα εργασία που συνήθως διαρκεί ημέρες. Το μοντέλο αναγνωρίζει τους κινδύνους και τις αναφορές στα σωστά παραγράφους. Όμως, η έξοδος δεν προστίθεται.

Αποδεικνύεται ότι το πρόβλημα βρίσκεται στο φάκελο των συμβάσεων, όπου τα αρχεία κάθονται πλάι-πλάι με ονόματα contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx, και contract_finalfinal_THIS_ONE.docx.

Ο AI επέλεξε το πιο πρόσφατα αποθηκευμένο αρχείο. Όμως, αυτό το αρχείο ήταν μια παλαιότερη έκδοση που κάποιος είχε τυχαία ανοίξει και αποθηκεύσει την προηγούμενη εβδομάδα.

Το μοντέλο έκανε ακριβώς αυτό που είχε σχεδιαστεί να κάνει. Η διαδικασία, όμως, το άφησε xuống.

Όταν το Μοντέλο Δεν Είναι το Πρόβλημα

Στο προηγούμενο άρθρο μου, έδειξα ότι οι αποτυχίες του AI συχνά αρχίζουν έξω από το μοντέλο – στη διακυβέρνηση, την ιδιοκτησία και τις δομές λήψης αποφάσεων που το περιβάλλουν. Όμως, η διακυβέρνηση είναι μόνο ένα μέρος του προβλήματος. Ακόμη και ένα καλά διακυβερνημένο σύστημα AI θα δυσκολευτεί αν η διαδικασία κάτω από αυτό зависит από παλαιές έγγραφες, ανεπίσημες εξαιρέσεις ή μονοπάτια έγκρισης που σχεδιάστηκαν για πολύ πιο αργή ταχύτητα εργασίας.

Όταν ένα σύστημα AI παράγει ένα κακό αποτέλεσμα, το μοντέλο είναι συνήθως ο πρώτος ύποπτος. Ίσως το μοντέλο είχε οραματιστεί, δεν κατανόησε την εργασία, ή έλαβε ένα αδύναμο σήμα. Όμως, μερικές φορές το μοντέλο έκανε ακριβώς αυτό που ήταν σχεδιασμένο να κάνει. Η αποτυχία συνέβη στη διαδικασία που παρείχε τις πληροφορίες του ή στην οργάνωση που δεν μπορούσε να ενεργήσει με βάση την έξοδό του.

Η ανάπτυξη του AI αποκαλύπτει προβλήματα διαδικασίας που πάντα υπήρχαν αλλά δεν ήταν ορατά – σαν ένα διαγνωστικό εργαλείο. Εξθέτει αδυναμίες που οι άνθρωποι προηγουμένως компένσες χωρίς να σκέφτονται: λείπουν контекστ, ασαφής ιδιοκτησία και ανεπίσημες λύσεις που δεν έχουν τεκμηριωθεί.

Ταχύτητα Χωρίς Ικανότητα

Ο AI δεν επιταχύνει μόνο την έξοδο. Επιταχύνει επίσης τις αναβάσεις, τις αιτήσεις για αποφάσεις και την ανακάλυψη προβλημάτων. Ένα μοντέλο σηματοδοτεί μια ανωμαλία σε πραγματικό χρόνο, όχι την Παρασκευή το απόγευμα όταν κάποιος τελικά βρίσκει τον χρόνο να διαβάσει τα αρχεία.

Οι οργανισμοί δεν είναι διαμορφωμένοι για αυτή τη ταχύτητα. Οι διαδικασίες έγκρισης, τα μονοπάτια αναβάθμισης, η εξουσία λήψης αποφάσεων – όλα αυτά είχαν ρυθμιστεί για την ανθρώπινη ταχύτητα. Όταν ο AI παράγει έξοδο πιο γρήγορα από ό,τι η οργάνωση μπορεί να την απορροφήσει, τρία πράγματα μπορούν να συμβούν:

• Ο AI περιμένει απόφαση, σβήνοντας την απόδοση της ταχύτητας.
• Οι υπάλληλοι αγνοούν την έξοδο και επιστρέφουν σε αυτό που πιστεύουν ότι λειτουργεί – την παλιά διαδικασία.
• Οι υπάλληλοι ωθούν τις αποφάσεις μπροστά χωρίς να τις ελέγξουν σωστά επειδή νιώθουν πιεσμένοι να διατηρήσουν την ταχύτητα που υποσχέθηκε η τεχνολογία.

Κάποιοι υπάλληλοι επιστρέφουν στις χειροκίνητες ελέγχους επειδή αυτοί τους φαίνονται ασφαλέστεροι. Άλλοι εγκρίνουν αποτελέσματα που δεν έχουν χρόνο να επιβεβαιώσουν επειδή νιώθουν πιεσμένοι να διατηρήσουν την ταχύτητα που υποσχέθηκε η τεχνολογία. Σε cả τις περιπτώσεις, η οργάνωση πληρώνει για ταχύτερη έξοδο χωρίς να γίνει ταχύτερη στην λήψη υπεύθυνων αποφάσεων.

Η ιδιοκτησία μπορεί επίσης να γίνει ασαφής. Ποιος είναι υπεύθυνος για την αναθεώρηση μιας σηματοδοτημένης ανωμαλίας, την απόφαση αν το μοντέλο είναι λάθος και την αναβάθμιση του ζητήματος όταν συμμετέχουν πολλές ομάδες; Χωρίς một σαφή απάντηση, ο AI συνεχίζει να τρέχει στο παρασκήνιο, παράγοντας έξοδο που κανείς δεν πραγματικά κατέχει.

Αυτό αντανακλά ένα ευρύτερο οργανωτικό πρόβλημα. Όπως μια ανάλυση του Forbes από το τέλος του 2025 παρατήρησε, όταν η τεχνολογία αλλάζει τις ροές εργασίας πιο γρήγορα από ό,τι μια οργάνωση μπορεί να τις απορροφήσει, το αποτέλεσμα δεν είναι αποτελεσματικότητα, αλλά υπερεργασία. Ο AI μπορεί να επιταχύνει ένα στάδιο μιας διαδικασίας, αλλά η αξία του εξακολουθεί να зависит από το αν η περιβάλλουσα οργάνωση μπορεί να απορροφήσει και να ενεργήσει με βάση αυτό που παράγει.

Η Σιωπηλή Γνώση που Κανείς Δεν Έγραψε

Φανταστείτε ότι ο Μάρτιν γνωρίζει ότι η σύμβαση της εταιρείας με έναν προμηθευτή περιλαμβάνει μια εξαίρεση για πληρωμές κάτω από €2,000. Συμφωνήθηκε προφορικά πριν από τρία χρόνια αλλά δεν τεκμηριώθηκε. Όταν η εταιρεία αναπτύσσει τον AI για να αυτοματοποιήσει τις έγκρισεις πληρωμών, το σύστημα μπλοκάρει την πληρωμή – σωστά, σύμφωνα με τη γραπτή σύμβαση.

Αυτό είναι σιωπηλή γνώση: οργανωτική γνώση που ζει στα κεφάλια των ανθρώπων παρά σε συστήματα. Κάθε εταιρεία έχει αυτή. Και οι περισσότερες εταιρείες δεν έχουν ιδέα πόσο από αυτή τη γνώση έχουν.

Ο AI μπορεί να χρησιμοποιήσει μόνο τη γνώση που έχει γίνει προσβάσιμη σε αυτόν. Η εξαίρεση του Μάρτιν δεν υπάρχει από την οπτική του συστήματος. Χωρίς αυτό το контекστ, η απόφασή του μπορεί να είναι τεχνικά σωστή αλλά λειτουργικά λάθος.

Η McKinsey έχει αναγνωρίσει την ίδια πρόκληση στις αναπτύξεις του AI. Η κατασκευή αποτελεσματικών πρακτικών του AI απαιτεί από τις εταιρείες να κωδικοποιήσουν τις εξειδικευμένες πρακτικές που μπορεί να υπάρχουν σε τυποποιημένες διαδικασίες – ή μόνο ως σιωπηλή γνώση στα κεφάλια των υπαλλήλων. Με άλλα λόγια: η ανάπτυξη του AI μπορεί να είναι η πρώτη φορά που μια οργάνωση βλέπει πόσο η διαδικασία εξαρτάται από αυτό που γνωρίζει ο Μάρτιν.

Η Ψευδής Πηγή της Αλήθειας

Η πιο επικίνδυνη έξοδος του AI δεν είναι πάντα μια σαφώς λάθος. Μπορεί να είναι μια πιστευτή, επαγγελματικά παρουσιασμένη απάντηση που παράγεται από παλαιές πληροφορίες.

Για χρόνια, πολλές υπηρεσίες έχουν λειτουργήσει με πολλαπλά αντίγραφα του ίδιου εγγράφου επειδή η Τζέιν από το τμήμα νομικών πάντα ξέρει ποιο είναι το αυθεντικό.

Ο AI, δυστυχώς, δεν το ξέρει.

Εάν δεν έχει δοθεί κανόνες για να διακρίνει μεταξύ εκδόσεων, το σύστημα δεν έχει λόγο να αμφισβητήσει το έγγραφο που λαμβάνει. Και έτσι, η αναθεώρηση του AI τρέχει σωστά – στο λάθος έγγραφο. Αυτό μπορεί να είναι χειρότερο από καμία αναθεώρηση καθόλου, επειδή η έξοδος φαίνεται πιστευτή.

Ένας έμπειρος υπάλληλος μπορεί να γνωρίζει πού είναι η αλήθεια και να μπορεί να πλοηγηθεί μέσα από το χάος. Ένα σύστημα, όμως, χρειάζεται ένα αξιόπιστο τρόπο να αναγνωρίσει ποια πληροφορία είναι τρέχουσα, εγκεκριμένη και σχετική.

Η σιωπηλή γνώση, τα αξιόπιστα έγγραφα και οι διαδικασίες έγκρισης που κατασκευάστηκαν για την ανθρώπινη ταχύτητα φαίνονται να είναι ξεχωριστά προβλήματα. Όμως, μοιράζονται την ίδια ρίζα αιτίας. Κανένα από αυτά δεν δημιουργήθηκε από τον AI, αλλά ο AI τα κάνει πιο δύσκολο να τα αγνοήσουμε.

Ερωτήσεις για Απάντηση Πριν να Κατασκευάσετε έναν Πράκτορα

Πριν από την ανάπτυξη ενός πράκτορα AI, μια οργάνωση πρέπει να μπορεί να απαντήσει σε τρεις ερωτήσεις.

Ποίες αποφάσεις εξαρτώνται από γνώση που δεν έχει τεκμηριωθεί;

Αυτό σημαίνει την αναγνώριση των εξαιρέσεων, των συντομεύσεων και των κρίσεων που οι έμπειροι υπάλληλοι εφαρμόζουν χωρίς να τις περιγράψουν σωστά. Οι συνεντεύξεις μόνο μπορεί να μην αποκαλύψουν όλη αυτή τη γνώση. Οι οργανισμοί μπορεί να χρειαστεί να παρατηρήσουν πώς εκτελείται η εργασία στην πράξη και να τη συγκρίνουν με την επίσημη διαδικασία.

Πώς θα αναγνωρίσει το σύστημα τις πληροφορίες που είναι τρέχουσες, εγκεκριμένες και σχετικές;

Η δίωξη ενός πράκτορα σε περισσότερα έγγραφα δεν λύνει το πρόβλημα εάν δεν μπορεί να διακρίνει ένα εγκεκριμένο συμβόλαιο από ένα προσχέδιο ή μια ενεργό πολιτική από μια παλιά. Οι κανόνες εκδόσεων, ιδιοκτησίας, κατάστασης έγκρισης και διατήρησης πρέπει να είναι σαφείς enough για το σύστημα να αναγνωρίσει ποια πηγή πρέπει να κυβερνήσει την απόφασή του.

Μπορούν οι υφιστάμενες διαδικασίες έγκρισης και αναβάθμισης να απορροφήσουν τον όγκο και την ταχύτητα της έξοδού του;

Οι ομάδες πρέπει να εκτιμήσουν όχι μόνο πόσο εργασία μπορεί να ολοκληρώσει ο πράκτορας, αλλά και πόσες αναθεωρήσεις, εξαιρέσεις και αναβάθμισεις μπορεί να δημιουργήσει η εργασία. Το πλαίσιο διαχείρισης κινδύνων του AI της NIST συνιστά να ορίζονται σαφώς οι ρόλοι και οι ευθύνες για την ανθρώπινη επίβλεψη των συστημάτων AI. Αυτές πρέπει να σχεδιαστούν για τον αναμενόμενο όγκο πριν από την ανάπτυξη του συστήματος – όχι μετά από τους υπαλλήλους να έχουν υπερφορτιστεί από αυτό.

Η Ετοιμότητα του AI Αρχίζει με τη Διαδικασία

Η ετοιμότητα του AI δεν είναι μόνο ένα τεστ της τεχνολογίας. Είναι ένα τεστ αν η οργάνωση έχει κάνει τις δικές της διαδικασίες σαφείς enough για την τεχνολογία να λειτουργήσει μέσα σε αυτές.

Η προετοιμασία μιας οργάνωσης για τον AI περιλαμβάνει περισσότερα από την επιλογή ενός μοντέλου ή την κατασκευή ενός πράκτορα. Σημαίνει την αποσαφήνιση της ιδιοκτησίας, την αναγνώριση των αυθεντικών πληροφοριών, την τεκμηρίωση των εξαιρέσεων και την ανασχεδιασμό του τρόπου με τον οποίο αναθεωρούνται, αναβαθμίζονται και ενεργούνται οι έξοδοι.

Αυτό είναι δύσκολο έργο, αλλά μια αποτυχημένη ανάπτυξη θα αναγκάσει τελικά την οργάνωση να το κάνει ούτως ή άλλως. Το μόνο μεταβλητό είναι ο χρόνος.