Γιατί το GenAI σταματά χωρίς ισχυρή διακυβέρνηση

Καθώς οι εταιρείες αγωνίζονται να μεταφέρουν ταโครงการ Generative AI από το πείραμα στη παραγωγή – πολλές επιχειρήσεις παραμένουν κολλημένες στη φάση πιλότου. Όπως υπογραμμίζει η πρόσφατη έρευνά μας, 92% των οργανισμών ανησυχούν ότι τα πειράματα GenAI προχωρούν χωρίς να αντιμετωπίσουν πρώτα τα θεμελιώδη προβλήματα δεδομένων. Ακόμη πιο αποκαλυπτικό: 67% δεν ήταν σε θέση να κλιμακώσουν κανένα από τα πειράματά τους σε παραγωγή. Αυτό το χάσμα παραγωγής έχει να κάνει λιγότερο με την τεχνολογική ωριμότητα και περισσότερο με την ετοιμότητα των υποκείμενων δεδομένων. Το потенτσιάλ του GenAI εξαρτάται από τη δύναμη του εδάφους που στέκεται. Και σήμερα, για τις περισσότερες οργανώσεις, αυτό το έδαφος είναι αβέβαιο το πολύ.

Γιατί το GenAI κολλάει στο πείραμα

Αν και οι λύσεις GenAI είναι σίγουρα ισχυρές, είναι τόσο αποτελεσματικές όσο τα δεδομένα που τα τροφοδοτούν. Η παλιά παροιμία “σκουπίδι μέσα, σκουπίδι έξω” είναι πιο αληθινή σήμερα παρά ποτέ. Χωρίς αξιόπιστα, πλήρη, εξουσιοδοτημένα και εξηγήσιμα δεδομένα, τα μοντέλα GenAI συχνά παράγουν αποτελέσματα που είναι ανακριβή, προκατειλημμένα ή ανεπαρκή για τον σκοπό.

Δυστυχώς, οι οργανώσεις έχουν βιαστεί να αναπτύξουν περιπτώσεις χρήσης χαμηλής προσπάθειας, όπως τα chatbot που προσφέρουν προσαρμοσμένες απαντήσεις από διαφορετικά εσωτερικά έγγραφα. Και ενώ αυτά βελτιώνουν τις εμπειρίες του πελάτη σε κάποιο βαθμό, δεν απαιτούν βαθιά αλλαγές στην υποδομή δεδομένων της εταιρείας. Αλλά για να κλιμακωθεί το GenAI στρατηγικά, είτε στην υγεία, τις χρηματοοικονομικές υπηρεσίες ή την αυτοματοποίηση της αλυσίδας εφοδιασμού, απαιτείται διαφορετικό επίπεδο ωριμότητας δεδομένων.

Στην πραγματικότητα, 56% των Chief Data Officers αναφέρουν την αξιόπιστη των δεδομένων ως βασικό εμπόδιο στην ανάπτυξη του AI. Άλλα ζητήματα είναι η ατελής δεδομένων (53%), τα προβλήματα ιδιωτικότητας (50%) και τα μεγαλύτερα κενά διακυβέρνησης του AI (36%).

Χωρίς διακυβέρνηση, κανένα GenAI

Για να μεταφέρει το GenAI πέρα από τη φάση πιλότου, οι εταιρείες πρέπει να αντιμετωπίσουν τη διακυβέρνηση των δεδομένων ως στρατηγική επιταγή για την επιχείρησή τους. Πρέπει να διασφαλίσουν ότι τα δεδομένα είναι κατάλληλα για την τροφοδοσία των μοντέλων AI και για να το κάνουν αυτό, πρέπει να απαντήσουν στα ακόλουθα ερωτήματα:

• Προέρχεται το δεδομένο που χρησιμοποιείται για την εκπαίδευση του μοντέλου από τα σωστά συστήματα;
• Έχουμε αφαιρέσει τις προσωπικές πληροφορίες και ακολουθήσαμε όλους τους κανονισμούς δεδομένων και ιδιωτικότητας;
• Είμαστε διαφανείς και μπορούμε να αποδείξουμε τη γραμμή καταγωγής των δεδομένων που χρησιμοποιεί το μοντέλο;
• Μπορούμε να τεκμηριώσουμε τις διαδικασίες δεδομένων μας και να είμαστε έτοιμοι να δείξουμε ότι τα δεδομένα δεν έχουν προκατάληψη;

Η διακυβέρνηση των δεδομένων πρέπει επίσης να είναι ενσωματωμένη στον πολιτισμό της οργάνωσης. Για να το κάνετε αυτό, απαιτείται η κατασκευή της γνώσης του AI σε όλα τα τμήματα. Ο νόμος του EU για το AI формαλίζει αυτή την ευθύνη, απαιτώντας και τους παρόχους και τους χρήστες των συστημάτων AI να κάνουν τις καλύτερες προσπάθειες για να διασφαλίσουν ότι οι εργαζόμενοι είναι αρκετά γνώστες του AI, βεβαιωμένοι ότι κατανοούν πώς λειτουργούν αυτά τα συστήματα και πώς να τα χρησιμοποιούν ευθύνη. Ωστόσο, η αποτελεσματική υιοθέτηση του AI πηγαίνει πέρα από την τεχνική γνώση. Απαιτεί επίσης μια ισχυρή βάση δεξιοτήτων δεδομένων, από την κατανόηση της διακυβέρνησης των δεδομένων μέχρι το σχήμα αναλυτικών ερωτημάτων. Η αντιμετώπιση της γνώσης του AI σε απομόνωση από τη γνώση των δεδομένων θα ήταν μυωπική, δεδομένου πόσο στενά είναι συνδεδεμένα.

Όσον αφορά τη διακυβέρνηση των δεδομένων, υπάρχει ακόμη δουλειά να γίνει. Μεταξύ των επιχειρήσεων που θέλουν να αυξήσουν τις επενδύσεις διαχείρισης δεδομένων, 47% συμφωνούν ότι η έλλειψη γνώσης των δεδομένων είναι ένα από τα κορυφαία εμπόδια. Αυτό υπογραμμίζει την ανάγκη για την κατασκευή της υψηλού επιπέδου υποστήριξης και την ανάπτυξη των σωστών δεξιοτήτων σε όλη την οργάνωση είναι κρίσιμη. Χωρίς αυτές τις βάσεις, ακόμη και τα πιο ισχυρά LLMs θα αγωνιστούν να παραδώσουν.

Ανάπτυξη AI που πρέπει να είναι υπεύθυνη

Στο τρέχον περιβάλλον κανονισμών, δεν είναι πλέον αρκετό για το AI να “δουλεύει απλά”, αλλά πρέπει επίσης να είναι υπεύθυνο και εξηγημένο. Ο νόμος του EU για το AI και το προτεινόμενο πλάνο δράσης του Ηνωμένου Βασιλείου για το AI απαιτούν διαφάνεια σε υψηλού κινδύνου περιπτώσεις χρήσης του AI. Άλλοι ακολουθούν το παράδειγμα, και 1.000+ σχετικές νομοθετικές προτάσεις είναι στην ατζέντα σε 69 χώρες.

Αυτή η παγκόσμια κίνηση προς την υπευθυνότητα είναι ένα прямό αποτέλεσμα της αυξανόμενης ζήτησης των καταναλωτών και των μετόχων για δικαιοσύνη στους αλγόριθμους. Για παράδειγμα, οι οργανώσεις πρέπει να είναι σε θέση να πουν τους λόγους για τους οποίους ένας πελάτης απορρίφθηκε για ένα δάνειο ή χρεώθηκε μια premium ασφαλιστική率. Για να μπορέσουν να το κάνουν αυτό, θα πρέπει να γνωρίζουν πώς το μοντέλο έκανε αυτή την απόφαση, και αυτό με τη σειρά του εξαρτάται από την ύπαρξη eines σαφούς, ελέγξιμου ιχνηλασμού των δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του.

Εάν δεν υπάρχει εξηγήσιμη, οι επιχειρήσεις κινδυνεύουν να χάσουν την εμπιστοσύνη των πελατών, καθώς και να αντιμετωπίσουν οικονομικές και νομικές επιπτώσεις. Ως αποτέλεσμα, η ιχνηλασιμότητα της καταγωγής των δεδομένων και η δικαιολογία των αποτελεσμάτων δεν είναι ένα “ωραίο να έχεις”, αλλά μια απαιτούμενη συμμόρφωση.

Και καθώς το GenAI επεκτείνεται πέρα από τη χρήση για απλά εργαλεία σε πλήρως ανεπτυγμένα πράγματα που μπορούν να λάβουν αποφάσεις και να ενεργήσουν, τα στοιχήματα για την ισχυρή διακυβέρνηση των δεδομένων αυξάνονται ακόμη περισσότερο.

Βήματα για την κατασκευή αξιόπιστου AI

Έτσι, τι σημαίνει καλό; Για να κλιμακωθεί το GenAI υπεύθυνα, οι οργανώσεις πρέπει να κοιτάξουν να υιοθετήσουν μια ενιαία στρατηγική δεδομένων σε τρεις πυλώνες:

• Προσαρμόστε το AI στην επιχείρηση: Καταγράψτε τα δεδομένα σας γύρω από βασικούς επιχειρηματικούς στόχους, διασφαλίζοντας ότι αντανακλούν το μοναδικό контекст, τις προκλήσεις και τις ευκαιρίες που είναι συγκεκριμένες στην επιχείρησή σας.
• Ιδρύστε εμπιστοσύνη στο AI: Ιδρύστε πολιτικές, πρότυπα και διαδικασίες για τη συμμόρφωση και την εποπτεία της ηθικής και υπεύθυνης ανάπτυξης του AI.
• Κτίστε AI-έτοιμες διαδικασίες δεδομένων: Συνδυάστε τις ποικίλες πηγές δεδομένων σας σε μια ανθεκτική βάση δεδομένων για ισχυρή AI, ενσωματώνοντας προκατασκευασμένες συνδέσεις GenAI.

Όταν οι οργανώσεις το κάνουν σωστά, η διακυβέρνηση επιταχύνει την αξία του AI. Για παράδειγμα, στις χρηματοοικονομικές υπηρεσίες, τα hedge funds χρησιμοποιούν το GenAI για να ξεπεράσουν τους ανθρώπινους αναλυτές στις προβλέψεις των τιμών των μετοχών ενώ μειώνουν σημαντικά το κόστος. Στην παραγωγή, η βελτιστοποίηση της αλυσίδας εφοδιασμού που οδηγείται από το AI ermögλει τις οργανώσεις να αντιδράσουν σε πραγματικό χρόνο στις γεωπολιτικές αλλαγές και τις περιβαλλοντικές πιέσεις.

Και αυτά δεν είναι απλά μελλοντικές ιδέες, συμβαίνουν τώρα, οδηγούμενα από αξιόπιστα δεδομένα.

Με ισχυρές βάσεις δεδομένων, οι εταιρείες μειώνουν την ολίσθηση του μοντέλου, περιορίζουν τους κύκλους επανεκπαίδευσης και αυξάνουν την ταχύτητα της αξίας. Αυτός είναι ο λόγος για τον οποίο η διακυβέρνηση δεν είναι ένα εμπόδιο, αλλά ένας ενεργοποιητής της καινοτομίας.

Τι έρχεται;

Μετά το πείραμα, οι οργανώσεις μετακινούνται πέρα από τα chatbot και επενδύουν σε μετασχηματιστικές ικανότητες. Από την προσωποποίηση των αλληλεπιδράσεων των πελατών μέχρι την επιτάχυνση της ιατρικής έρευνας, τη βελτίωση της ψυχικής υγείας και την απλοποίηση των ρυθμιστικών διαδικασιών, το GenAI αρχίζει να δείχνει το потенτσιάλ του σε διάφορους κλάδους.

Ωστόσο, αυτές οι κερδισμένες εξαρτώνται完全 από τα δεδομένα που τις υποστηρίζουν. Το GenAI αρχίζει με την κατασκευή μιας ισχυρής βάσης δεδομένων, μέσω της ισχυρής διακυβέρνησης των δεδομένων. Και ενώ το GenAI και το agentic AI θα συνεχίσουν να εξελίσσονται, δεν θα αντικαταστήσουν την ανθρώπινη εποπτεία σε κανένα σημείο. Αντίθετα, μπαίνουμε σε μια φάση της δομημένης δημιουργίας αξίας, όπου το AI γίνεται ένα αξιόπιστο συν-πιλότο. Με τις σωστές επενδύσεις σε ποιότητα δεδομένων, διακυβέρνηση και πολιτισμό, οι επιχειρήσεις μπορούν τελικά να μετατρέψουν το GenAI από μια υποσχόμενη πτήση σε κάτι που πραγματικά απογειώνεται.