Κινείτε Γρήγορα, Nhưng Μη Βάζετε Τίποτα Στη Θέση – Πώς Να Ισορροπήσετε Την Ευθύνη Της Υιοθέτησης Του AI και την Καινοτομία

Σύμφωνα με μια πρόσφατη παγκόσμια έρευνα από το McKinsey, ακόμη και αν το 78% των οργανισμών χρησιμοποιούν πλέον το AI σε τουλάχιστον μια επιχειρηματική λειτουργία, μόνο το 13% έχουν προσλάβει ειδικούς συμμόρφωσης του AI και ένα ασήμαντο 6% έχουν ειδικούς ηθικής του AI στη δύναμη εργασίας.

Αυτό, ευθέως, είναι ασεβής συμπεριφορά.

Αν και στο πρόσφατο παρελθόν μου ήμουν ένας μεγάλος υποστηρικτής του ηθους “κινείτε γρήγορα και βάζετε τίποτα στη θέση” του Σιλικόν Βάλεϊ, δεν μπορούμε να είμαστε τόσο ασεβείς με το AI – μια τεχνολογία που είναι πιο ισχυρή από οτιδήποτε έχουμε δει πριν και που εξελίσσεται με ταχύτητα φωτός.

Υιοθετώντας το AI χωρίς σημαντικά φράγματα είναι ακριβώς το είδος της ταχείας και ανεπίσημης συμπεριφοράς που είναι βέβαιο ότι θα οδηγήσει τελικά σε πίσω και θα κινδυνεύσει να βάζει τίποτα στη θέση.

Και αν και πολλοί CIO και CTO είναι ενήμεροι για αυτούς τους κινδύνους, φαίνεται να λειτουργούν υπό την υπόθεση ότι οι ρυθμιστές θα介νουν τελικά και θα τους σώσουν από το να καθορίσουν τα δικά τους πλαισια, με αποτέλεσμα πολλή συζήτηση για τον κίνδυνο με πολύ λίγη πραγματική εποπτεία.

Ενώ δεν έχω καμία αμφιβολία ότι οι ρυθμίσεις θα έρθουν τελικά, είμαι λιγότερο βέβαιος ότι θα καθοριστούν οποιαδήποτε στιγμή σύντομα. Το ChatGPT εισήχθη περίπου τρία χρόνια τώρα, και μόλις τώρα αρχίζουμε να βλέπουμε πράγματα όπως η συνεδρίαση της Γερουσίας για chatbots και κίνδυνοι ασφαλείας να λαμβάνουν χώρα. Η πραγματικότητα είναι ότι θα μπορούσε να είναι χρόνια πριν δούμε οποιαδήποτε σημαντική ρύθμιση.

Αντί να το θεωρήσουμε ως μια δικαιολογία για να καθυστερήσουμε την εσωτερική εποπτεία, αυτό θα πρέπει να μας οδηγήσει τις επιχειρήσεις να λάβουν μια πιο ενεργητική προσέγγιση. Ιδιαίτερα αν考虑 ότι όταν οι ρυθμίσεις τελικά έρθουν, οι εταιρείες χωρίς τα δικά τους πλαισια θα είναι σε αναζήτηση για να προσαρμοστούν στην συμμόρφωση. Αυτό ήταν ακριβώς αυτό που συνέβη όταν οι GDPR και CCPA ψηφίστηκαν.

Ακριβώς όπως τα scrappy startups των πρώτων χρόνων είναι τώρα υποχρεωμένα να τηρούν υψηλότερες προδιαγραφές ως οι εταιρείες τεχνολογίας που έχουν μεγαλώσει, πρέπει να ωριμάσουμε στην προσέγγισή μας για την υιοθέτηση του AI με ευθύνη.

Δεν υπάρχει “αγοράστε τώρα, πληρώστε αργότερα” με τις υπεύθυνες αναπτύξεις του AI – ξεκινήστε τώρα

Το πρώτο βήμα σε μια πιο υπεύθυνη προσέγγιση του AI είναι να σταματήσετε να περιμένετε τους ρυθμιστές και να καθορίσετε τα δικά σας κανόνες. Οτιδήποτε προβάδισμα μπορείτε να πιστεύετε ότι κερδίζετε αποφεύγοντας τα φράγματα σήμερα θα σας επιστρέψει στο μέλλον όταν θα αντιμετωπίζετε τη διαδικασία της ανακαίνισης.

Βέβαια, για πολλούς, το πρόβλημα δεν είναι να ξέρουν από πού να αρχίσουν. Η εταιρεία μου πρόσφατα έκανε μια έρευνα 500 CIO και CTO σε μεγάλες επιχειρήσεις και σχεδόν η μισή (48%) ανέφερε “να καθορίσει τι συνιστά υπεύθυνη χρήση ή ανάπτυξη του AI” ως μια πρόκληση για την εγγύηση της ηθικής χρήσης του AI.

Ένας εύκολος τρόπος να ξεκινήσετε είναι να επεκτείνετε το εύρος σας πέρα από τα χαρακτηριστικά που καθιστά δυνατά το AI και να σκεφτείτε τους πιθανούς κινδύνους. Για παράδειγμα, αν και η χρήση του AI μπορεί να σώσει χρόνο στους υπαλλήλους, ανοίγει επίσης την πιθανότητα να μοιραστούν μεγάλες ποσότητες Προσωπικών Αναγνωριστικών Πληροφοριών (PII) ή εμπορικών μυστικών με ανεγκεκρίτους και μη εγκεκριμένους LLMs.

Οποιαδήποτε ψηφιακή εταιρεία σήμερα είναι εξοικειωμένη με τον κύκλο ζωής ανάπτυξης λογισμικού (SDLC), ο οποίος παρέχει ένα πλαισιο για την κατασκευή ποιοτικών προϊόντων. Οι besten πρακτικές της διακυβέρνησης του AI πρέπει να ενσωματωθούν σε αυτή τη καθημερινή ροή εργασίας για να διασφαλιστεί ότι η υπεύθυνη λήψη αποφάσεων γίνεται μέρος της ρουτίνας, όχι μια σκέψη μετά.

Ένα σώμα διακυβέρνησης, όπως μια επιτροπή ηθικής ή ένα συμβούλιο διακυβέρνησης, πρέπει να καθοριστεί που να ορίσει τα πρότυπα για τις εφαρμογές του AI μέσα στην εταιρεία και να ορίσει τα μετρικά για να παρακολουθεί και να διατηρεί αυτό το πρότυπο. Λειτουργικά, αυτό μοιάζει με εργαλεία και διακυβέρνηση μοντέλων του AI, έγκριση λύσεων, διαχείριση κινδύνων, συμμόρφωση με ρυθμίσεις και πρότυπα, και διαφανή επικοινωνία. Αν και τεχνικά μπορεί να είναι μια “νέα” διαδικασία, δεν είναι πολύ διαφορετική από τις besten πρακτικές δεδομένων και τη διατήρηση της κυβερνοασφάλειας και μπορεί να αυτοματοποιηθεί για να διασφαλιστεί η έγκαιρη ανίχνευση τυχόν προβλημάτων.

Βέβαια, δεν όλοι οι κίνδυνοι απαιτούν το ίδιο επίπεδο προσοχής, οπότε είναι επίσης σημαντικό να αναπτύξετε μια διαδικασία διαχείρισης κινδύνων που να μπορεί να ιεραρχήσει τους κινδύνους και να επικεντρωθεί στις υψηλότερες προτεραιότητες.

Τέλος, και πιο κρίσιμο, η σαφής και διαφανής επικοινωνία για τις πρακτικές διακυβέρνησης τόσο εσωτερικά όσο και εξωτερικά είναι परमουθέντες. Αυτό περιλαμβάνει τη διατήρηση ζωντανών εγγράφων για τα πρότυπα διακυβέρνησης και την παροχή συνεχούς εκπαίδευσης για να διατηρήσει τις ομάδες ενημερωμένες.

Να σταματήσετε να αντιμετωπίζετε τη διακυβέρνηση ως απειλή για την καινοτομία

Είναι πολύ πιθανό ότι η πραγματική απειλή για το υπεύθυνο AI είναι η πεποίθηση ότι η διακυβέρνηση και η καινοτομία είναι αντίθετες. Τα δεδομένα της έρευνάς μας ανέφεραν ότι το 87% των CIO και CTO πιστεύουν ότι過 nhiều ρυθμίσεις θα περιορίσουν την καινοτομία.

Αλλά η διακυβέρνηση πρέπει να αντιμετωπίζεται ως στρατηγικός συνεργάτης, όχι ως κάποιο είδος φρένου καινοτομίας.

Ένας λόγος για τον οποίο η διακυβέρνηση θεωρείται ως μια δύναμη τριβής που επιβραδύνει την ορμή είναι ότι συχνά αφήνεται για το τέλος της ανάπτυξης προϊόντων, αλλά τα φράγματα πρέπει να είναι μέρος της διαδικασίας. Όπως αναφέρθηκε παραπάνω, η διακυβέρνηση μπορεί να ενσωματωθεί στους κύκλους σπριντ ώστε μια ομάδα προϊόντων να μπορεί να κινηθεί γρήγορα, ενώ ταυτόχρονα τρέχουν αυτόματα έλεγχοι για δίκαιότητα, προκατάληψη και συμμόρφωση. Μακροπρόθεσμα, αυτό αποδίδει ως οι πελάτες, οι υπαλλήλους και οι ρυθμιστές νιώθουν πιο σίγουροι όταν βλέπουν την ευθύνη να χτιστεί από την αρχή.

Και αυτό έχει αποδειχθεί ότι αποφέρει οικονομικά οφέλη. Έρευνα έχει δείξει ότι οι οργανισμοί με καλά εφαρμοσμένα πλαισια διακυβέρνησης δεδομένων και AI βιώνουν μια βελτίωση της οικονομικής απόδοσης 21-49%. Một αποτυχία να καθορίσετε αυτά τα πλαισια, ωστόσο, έρχεται με τις δικές του συνέπειες. Σύμφωνα με την ίδια μελέτη, μέχρι το 2027, η πλειοψηφία των οργανισμών (60%) “θα αποτύχει να πραγματοποιήσει την αναμενόμενη αξία της χρήσης του AI τους λόγω ανομοιογενών πλαισίων ηθικής διακυβέρνησης”.

Μια επιφύλαξη στο επιχείρημα ότι η διακυβέρνηση δεν πρέπει να έρχεται με το κόστος της καινοτομίας είναι ότι οι νομικές ομάδες που συμμετέχουν σε αυτές τις συζητήσεις έχουν την τάση να επιβραδύνουν τα πράγματα. Από την εμπειρία μου, ωστόσο, η καθιέρωση μιας ομάδας Διακυβέρνησης, Κινδύνου και Συμμόρφωσης (GRC) πάει μακρύ τρόπο για να διατηρήσει τα πράγματα να τρέχουν ομαλά και γρήγορα, λειτουργώντας ως γέφυρα μεταξύ των νομικών και προϊόντων ομάδων.

Όταν διαχειρίζεται καλά, η ομάδα GRC χτίζει θετικές σχέσεις με την νομική ομάδα, λειτουργώντας ως τα μάτια τους στο έδαφος και παίρνοντας τις αναφορές που χρειάζονται, ενώ συνεργάζεται επίσης με την ομάδα ανάπτυξης για να μετριάσει τους μελλοντικούς κινδύνους αγωγών και προστίμων. Τελικά, αυτό ενισχύει περαιτέρω ότι η επένδυση στη διακυβέρνηση από νωρίς είναι ο καλύτερος τρόπος για να διασφαλιστεί ότι δεν εμποδίζει την καινοτομία.

Δημιουργήστε συστήματα εποπτείας και διακυβέρνησης που μπορούν να κλιμακωθούν

Παρά το γεγονός ότι τόσοι πολλοί από τους ερωτηθέντες CIO και CTO πιστεύουν ότι οι ρυθμίσεις θα μπορούσαν να περιορίσουν την καινοτομία, μια tương tự μεγάλη ποσοστό (84%) περίμενε ότι η εταιρεία τους θα αυξήσει την εποπτεία του AI τους εντός των επόμενων 12 μηνών. Λαμβάνοντας υπόψη την πιθανότητα ότι οι ενσωματώσεις του AI θα συνεχίσουν να επεκτείνονται και να κλιμακώνονται με το χρόνο, είναι εξίσου σημαντικό ότι τα συστήματα διακυβέρνησης μπορούν να κλιμακωθούν μαζί με αυτά.

Κάτι που βλέπω συχνά στις πρώτες φάσεις των ενσωματώσεων του AI μέσα στις επιχειρήσεις είναι ότι διαφορετικές μονάδες μέσα στην επιχείρηση εργάζονται σε σιλό这样 που τρέχουν διαφορετικές αναπτύξεις ταυτόχρονα και με διαφορετικές οπτικές για το τι συνιστά “υπεύθυνο AI”. Για να αποφευχθούν αυτές οι ασυνέπειες, οι εταιρείες θα ήταν σοφές να καθιερώσουν ένα αφιερωμένο Κέντρο Αριστείας του AI που συνδυάζει τεχνική, συμμόρφωση και επιχειρηματική εμπειρογνωσία.

Το Κέντρο Αριστείας του AI θα καθόριζε τόσο εταιρικά πρότυπα όσο και διαδικασίες έγκρισης που θα είχαν μια ομαλή πορεία για περιπτώσεις χαμηλού κινδύνου. Αυτό, με τη σειρά του, διατηρεί την ταχύτητα ενώ επίσης διασφαλίζει ότι οι υψηλού κινδύνου αναπτύξεις περνούν από πιο επίσημους ελέγχους ασφαλείας. Παρόμοια, το Κέντρο Αριστείας θα πρέπει επίσης να ορίσει δείκτες ασφαλείας του AI για τους υψηλότερους εκτελεστές ώστε να μην χαθεί η ευθύνη στη διαδικασία της καθημερινής επιχείρησης.

Αλλά για να γίνει αυτό πραγματικότητα, οι εκτελεστές χρειάζονται βελτιωμένη ορατότητα στα δείκτες εποπτείας. Πίνακες που παρέχουν δεδομένα σε πραγματικό χρόνο για αυτούς τους δείκτες θα ήταν πολύ πιο αποτελεσματικοί από την τρέχουσα νόρμα των στατικών αναφορών συμμόρφωσης που είναι αμέσως παλαιές και που συχνά παραλείπονται. Ιδανικά, οι εταιρείες θα πρέπει επίσης να κατασκευάσουν μητρώα κινδύνων του AI, με τον ίδιο τρόπο που ήδη παρακολουθούν τους κινδύνους κυβερνοασφάλειας, além της διατήρησης αρχείων ελέγχου που αντανακλούν ποιος κατασκεύασε μια εφαρμογή ML/AI, πώς ελέγχθηκε και πώς εκτελείται με το χρόνο.

Το πιο σημαντικό συμπέρασμα εδώ είναι ότι το υπεύθυνο AI απαιτεί τη διακυβέρνηση να είναι μια συνεχής διαδικασία. Δεν είναι μόνο για τις έγκρισεις κατά την εκκίνηση, αλλά συνεχής παρακολούθηση καθ’ όλη τη διάρκεια του κύκλου ζωής του μοντέλου. Όπως και να έχει, η εκπαίδευση είναι κλειδί. Οι αναπτυξιακοί, τεχνολόγοι και επιχειρηματικοί ηγέτες θα πρέπει να εκπαιδευτούν στις υπεύθυνες πρακτικές του AI ώστε να μπορούν να αναγνωρίσουν προβλήματα από νωρίς και να διατηρήσουν υψηλά πρότυπα διακυβέρνησης καθώς τα συστήματα εξελίσσονται. Κάνωντας così, οι αναπτύξεις του AI είναι βέβαιο ότι θα είναι πιο αξιόπιστες, αποτελεσματικές και κερδοφόρες – χωρίς να χρειάζεται να σπάσουν τίποτα στη διαδικασία.