Γκέραλντ Κιέρσε, Διευθύνων Σύμβουλος και Συνιδρυτής της Trustible – Σειρά Συνεντεύξεων

Γκέραλντ Κιέρσε, Διευθύνων Σύμβουλος και Συνιδρυτής της Trustible, είναι ένας ηγέτης τεχνολογίας και πολιτικής που επικεντρώνεται στην εφαρμογή της υπευθύνου τεχνητής νοημοσύνης. Ηγείται της αποστολής της Trustible για να βοηθήσει τις οργανώσεις να建立ουν εμπιστοσύνη, να διαχειρίζονται τον κίνδυνο και να συμμορφώνονται με τις αναδυόμενες κανονιστικές προδιαγραφές της τεχνητής νοημοσύνης. Προηγουμένως, υπηρέτησε ως Αντιπρόεδρος και Γενικός Διευθυντής των Λύσεων Τεχνητής Νοημοσύνης στην FiscalNote, όπου επόπτευε τα προϊόντα τεχνητής νοημοσύνης επιχειρήσεων και κατέλαβε ανώτερες θέσεις σε εταιρική ανάπτυξη, προϊόν, πελάτες επιτυχίας και εκτελεστικές επιχειρήσεις. Η καριέρα του έχει συνεχώς βρεθεί στο交ρόν της τεχνολογίας, της ρύθμισης και της εκτελέσεως επιχειρήσεων.

Trustible παρέχει μια πλατφόρμα διακυβέρνησης τεχνητής νοημοσύνης που βοηθά τις οργανώσεις να καταλογογραφούν συστήματα τεχνητής νοημοσύνης, να αξιολογούν και να μειώνουν τον κίνδυνο και να εφαρμόζουν τη συμμόρφωση μέσω δομημένων εργοϋπευθύνσεων και εγγράφων. Σχεδιασμένη για νομικές, συμμορφωτικές και ομάδες τεχνητής νοημοσύνης, η πλατφόρμα κεντρικοποιεί τις δραστηριότητες διακυβέρνησης, ευθυγραμμίζει τις περιπτώσεις χρήσης της τεχνητής νοημοσύνης με κανονιστικά πλαίσια και επιτρέπει ταχύτερη, πιο διαφανή ανάπτυξη της υπευθύνου τεχνητής νοημοσύνης σε όλη την επιχείρηση.

Μετακινήθηκα από την αγορά προϊόντων και τον Chief of Staff στον ηγέτη των λύσεων τεχνητής νοημοσύνης στην FiscalNote πριν ιδρύσω την Trustible. Τι είδες σε αυτούς τους ρόλους που σέ κατέστησε πεπεισμένο ότι η διακυβέρνηση της τεχνητής νοημοσύνης χρειαζόταν μια αφιερωμένη πλατφόρμα, και ποιο πρόβλημα ήσουν αποφασισμένος να λύσεις πρώτα όταν εκκίνησες την Trustible;

Είχα την τύχη να έχω πολλούς ρόλους κατά τη διάρκεια των 8+ ετών μου στην FiscalNote, όπου ξεκίνησα ως πρώιμος υπάλληλος Seed/Series A και έφυγα ως ανώτερος εκτελεστής μετά την IPO.

Κατά τη διάρκεια της αγοράς προϊόντων, του Chief of Staff και τελικά του ηγέτη των λύσεων τεχνητής νοημοσύνης στην FiscalNote, συνέχισα να βλέπω το ίδιο ζήτημα να αναδύεται από διαφορετικές γωνίες. Η διακυβέρνηση της τεχνητής νοημοσύνης είναι ουσιαστικά ένα sociotechnical πρόβλημα, αλλά οι περισσότερες οργανώσεις την αντιμετωπίζουν με αποσπάσματα. Οι ομάδες αντιμετωπίζουν την απόδοση της τεχνητής νοημοσύνης, την ασφάλεια, την ιδιωτικότητα, την ηθική και τις νομικές αναθεωρήσεις ως ξεχωριστές πορείες, συχνά κατέχονται από διαφορετικές λειτουργίες με μικρή κοινή επιχειρησιακή σπονδυλική στήλη που τις συνδέει. Αυτές οι πέντε διαστάσεις είναι απολύτως σημαντικές και πρέπει να αντιμετωπιστούν συνεργατικά. Αλλά там όπου οι οργανώσεις αγωνίζονται είναι να μεταφράσουν αυτή τη sociotechnical πρόθεση σε κάτι που μπορεί να διαρκέσει όταν η τεχνητή νοημοσύνη μετακινηθεί σε πραγματικές αποφάσεις.

Την ίδια στιγμή, το κανονιστικό περιβάλλον γύρω από την τεχνητή νοημοσύνη ήταν σαφώς σε αλλαγή. Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη και οι σχετικές προδιαγραφές σήμανε μια μετατόπιση προς τη διακυβέρνηση της τεχνητής νοημοσύνης ως κανονισμένης υποδομής αντί για πειραματική τεχνολογία. Τι έγινε σαφές ήταν ότι πολλές εταιρείες προσπαθούσαν να χαρτογραφήσουν την πολιτική και τις κανονιστικές προδιαγραφές στην τεχνητή νοημοσύνη μετά την ανάπτυξή της, αντί να σχεδιάζουν διακυβέρνηση που θα μπορούσε να λειτουργήσει συνεχώς την κανονιστική πρόθεση σε αυτές τις sociotechnical διαστάσεις.

Η εμπειρία μου στην FiscalNote ήταν σημαντική επειδή εφαρμόζαμε την τεχνητή νοημοσύνη στο ίδιο το τοπίο πολιτικής, νομικής και κανονιστικής. Βοηθούσαμε τις οργανώσεις να κατανοήσουν πώς οι νόμοι εξελίσσονται, πώς οι απαιτήσεις ερμηνεύονται και πώς οι κανονιστικές προδιαγραφές μεταφράζονται σε επιχειρησιακές υποχρεώσεις με την πάροδο του χρόνου. Αυτή η εμπειρία κατέστησε σαφές ότι η αποτελεσματική διακυβέρνηση της τεχνητής νοημοσύνης απαιτεί την ίδια πειθαρχία στην αντίστροφη κατεύθυνση: εφαρμόζοντας πολιτική και κανονιστική σκέψη απευθείας σε тому πώς τα συστήματα της τεχνητής νοημοσύνης κατασκευάζονται, αναπτύσσονται, παρακολουθούνται και προσαρμόζονται καθώς οι συνθήκες αλλάζουν.

Οι πελάτες μας περιέγραψαν συνεχώς τα ίδια σημεία πόνου. Δεν μπορούσαν να απαντήσουν με εμπιστοσύνη τι συστήματα τεχνητής νοημοσύνης ήταν σε παραγωγή, ποια από αυτά ήταν υψηλού κινδύνου υπό τις αναδυόμενες κανονιστικές προδιαγραφές, ποιος ήταν υπεύθυνος όταν τα συστήματα διέσχιζαν λειτουργικές συνόρους ή πώς να αποδείξουν τη συνεχιζόμενη συμμόρφωση καθώς τα μοντέλα, τα δεδομένα, οι προμηθευτές και οι κανονιστικές προδιαγραφές εξελίσσονται ταυτόχρονα.

Όταν εκκινήσαμε την Trustible, το πρώτο πρόβλημα που προσπαθήσαμε να λύσουμε ήταν να μετατρέψουμε τη sociotechnical διακυβέρνηση από θεωρία σε επιχειρησιακή πραγματικότητα. Εστιάσαμε στη δημιουργία ενός συστήματος που συνδέει την τεχνική συμπεριφορά, το контέκστυ κινδύνου, την ιδιοκτησία και τις κανονιστικές προδιαγραφές σε ένα σημείο. Η Trustible χτίστηκε για να δώσει στις οργανώσεις ένα ζωντανό σύστημα εγγραφής για την τεχνητή νοημοσύνη, με συνεχής ορατότητα και υπευθυνότητα, ώστε η διακυβέρνηση να μπορεί να跟πει την τεχνολογική αλλαγή και την κανονιστική εξέλιξη αντί να μείνει πίσω.

Από την πρώτη γραμμή, τι έμαθες τα τελευταία χρόνια σχετικά με το γιατί οι προγράμματα διακυβέρνησης σταματούν όταν η τεχνητή νοημοσύνη μετακινηθεί σε πραγματικές αποφάσεις, ροές εργασίας και πελάτες-προς-πελάτες εμπειρίες;

Όταν η τεχνητή νοημοσύνη μετακινηθεί από το πείραμα σε πραγματικές ροές εργασίας, η διακυβέρνηση τείνει να σταματήσει για πολύ πρακτικούς λόγους παρά φιλοσοφικούς. Οι περισσότερες οργανώσεις απλά δεν ξέρουν πώς να αξιολογούν τον κίνδυνο της τεχνητής νοημοσύνης με τρόπο που να αντιστοιχεί στο πώς τα συστήματα χρησιμοποιούνται στην πραγματικότητα. Μπορούν να αξιολογούν μοντέλα στην αφαίρεση, αλλά αγωνίζονται να αξιολογούν τον κίνδυνο στο επίπεδο της περίπτωσης χρήσης, όπου ο контέκστυ, η επίδραση και οι κατωτέρω αποφάσεις έχουν πολύ μεγαλύτερη σημασία από τα τεχνικά μετρικά μόνα τους.

Αυτό το πρόβλημα γίνεται ακόμη πιο προφανές με την γεννητική τεχνητή νοημοσύνη. Ένα μόνο μοντέλο θεμελιώδους μπορεί να χρησιμοποιηθεί για υποστήριξη πελάτη, εσωτερική έρευνα, υποστήριξη αποφάσεων ή δημιουργία περιεχομένου, καθένα με πολύ διαφορετικά προφίλ κινδύνου. Χωρίς μια δομημένο τρόπο να αξιολογηθούν και να συγκριθούν αυτές οι χρήσεις, οι ομάδες είτε υπερ-στροφούν στην προσοχή είτε προχωρούν χωρίς πραγματική εμπιστοσύνη.

Η τρίτη πλευρά της τεχνητής νοημοσύνης περιπλέκει ακόμη περισσότερο τα πράγματα. Οι οργανώσεις βασίζονται πολύ σε προμηθευτές και ενσωματωμένες ικανότητες της τεχνητής νοημοσύνης, ωστόσο δεν έχουν συνεπείς μεθόδους για να αξιολογούν αυτά τα συστήματα, να κατανοούν τα ελεγχόμενα σημεία και να καθορίζουν πώς ο κίνδυνος του προμηθευτή μεταφράζεται στην δική τους κανονιστική και επιχειρησιακή έκθεση. Ως αποτέλεσμα, οι αναθεωρήσεις γίνονται υποκειμενικές και αργές.

Αυτά τα προκλήματα ενισχύονται από κενά σε εξειδίκευση και ιδιοκτησία. Οι ευθύνες διακυβέρνησης συχνά διανέμονται σε νομικές, συμμορφωτικές, ασφαλείς, δεδομένα και προϊόντα ομάδες χωρίς μια κοινή πλαισιο και一个 σαφώς υπεύθυνος ιδιοκτήτης όταν τα συστήματα φτάνουν στην παραγωγή. Σε συνδυασμό με ακατάλληλο εργαλείο όπως οι电子表格, αποθήκες εγγράφων ή legacy GRC πλατφόρμες, οι ομάδες διακυβέρνησης χάνουν την ορατότητα σε τι αλλάζει και γιατί έχει σημασία.

Στην καρδιά της, η διακυβέρνηση σταματάει επειδή οι οργανώσεις εφαρμόζουν παλιές αγωνιστικές που σχεδιάστηκαν για στατικά συστήματα σε δυναμικά συστήματα της τεχνητής νοημοσύνης. Η τεχνητή νοημοσύνη απαιτεί συνεχής αξιολόγηση κινδύνου, σαφή ιδιοκτησία που συνδέεται με αποτελέσματα και εργαλείο που αντανακλά πώς τα συστήματα λειτουργούν στην πραγματικότητα στην παραγωγή αντί για το πώς εγκρίθηκαν στο χαρτί.

Τέλος, η ιδιοκτησία είναι συχνά μη λυμένη. Σε πολλές οργανώσεις, δεν υπάρχει σαφής υπεύθυνος ιδιοκτήτης για ένα σύστημα της τεχνητής νοημοσύνης όταν αυτό διασχίζει από το πείραμα στην παραγωγή. Χωρίς έναν ονομασμένο επιχειρησιακό ιδιοκτήτη που είναι υπεύθυνος για τα αποτελέσματα, η διακυβέρνηση γίνεται συμβουλευτική και η πρόοδος επιβραδύνεται.

Το κοινό νήμα είναι ότι οι οργανώσεις εφαρμόζουν παλιές αγωνιστικές διακυβέρνησης σε μια ολοκαίνουργια τεχνολογία. Αυτές οι αγωνιστικές были χτισμένες για στατικά συστήματα και περιοδικές αναθεωρήσεις. Η τεχνητή νοημοσύνη απαιτεί συνεχής αξιολόγηση κινδύνου, σαφή ιδιοκτησία και εργαλείο που συνδέει την διακυβέρνηση απευθείας με το πώς τα συστήματα λειτουργούν στην πραγματικότητα στην παραγωγή.

Πώς ορίζετε τη Διακυβέρνηση της Τεχνητής Νοημοσύνης του Έτους 2, και τι αλλάζει όταν μια οργάνωση μεταβαίνει από την αρχική υιοθέτηση σε συνεχείς ελέγχους, διαχείριση της μετατόπισης και συνεχή συμμόρφωση;

Η Διακυβέρνηση της Τεχνητής Νοημοσύνης του Έτους 2 είναι η στιγμή όταν η τεχνητή νοημοσύνη παύει να αντιμετωπίζεται ως μια σειρά έργων και αρχίζει να αντιμετωπίζεται ως υποκείμενη υποδομή για λήψη αποφάσεων. Τι εννοώ με αυτό είναι ότι, στο πρώτο έτος, η διακυβέρνηση της τεχνητής νοημοσύνης είναι κυρίως για ενεργοποίηση. Οι ομάδες εστιάζονται στο να εγκρίνουν περιπτώσεις χρήσης, να εγγράφουν μοντέλα και να τοποθετούν διαδικασίες αναθεώρησης σε θέση ώστε η τεχνητή νοημοσύνη να μπορεί να προχωρήσει υπευθύνως.

Όταν τα συστήματα της τεχνητής νοημοσύνης κλιμακώνονται και ενσωματώνονται σε βασικές επιχειρησιακές διαδικασίες, ο εστιασμός μετατοπίζεται. Το ερώτημα δεν είναι πλέον αν κάτι πρέπει να αναπτυχθεί, αλλά αν μπορεί να λειτουργήσει ασφαλώς και αξιοπιστώς με την πάροδο του χρόνου καθώς τα δεδομένα, οι χρήστες, οι προμηθευτές και οι κανονιστικές προδιαγραφές αλλάζουν. Η διακυβέρνηση της τεχνητής νοημοσύνης γίνεται συνεχής αντί για επεισοδιακή, προκαλούμενη από πραγματικές αλλαγές στη συμπεριφορά ή το контέκστυ αντί για ημερολογιακές αναθεωρήσεις.

Ο κίνδυνος επίσης γίνεται δυναμικός. Αντί να αντιστοιχίζουν einen στατικό κίνδυνο σε κάθε μοντέλο κατά την εκκίνηση, οι οργανώσεις πρέπει να κατανοήσουν πώς ο κίνδυνος εξελίσσεται καθώς τα μοντέλα μετατοπίζονται, οι σκοποί επεκτείνονται ή νέοι ενδιαφερόμενοι αλληλεπιδρούν με το σύστημα. Η συμμόρφωση ακολουθεί την ίδια μετατόπιση. Οι κανονιστικές απαιτήσεις μετακινούνται από το να αντιστοιχίζονται σε πολιτικές σε να επιβάλλονται μέσω ζωντανών ελέγχων, σημάτων παρακολούθησης και συνεχούς καταγραφής αποδεικτικών.

Ένα άλλο βασικό σημείο της Διακυβέρνησης της Τεχνητής Νοημοσύνης του Έτους 2 είναι η εισαγωγή πραγματικής διαχείρισης περιστατικών της τεχνητής νοημοσύνης. Οι οργανώσεις πρέπει να γνωρίζουν ποια συστήματα παρακολουθούνται, να προτεραιοποιούν αυτά με βάση τον κίνδυνο και να ορίζουν σαφείς κριτήρια για έγκαιρη παρέμβαση. Αυτό επιτρέπει στις ομάδες να παρέμβουν εγκαίρως, πριν τα ζητήματα εξελιχθούν σε περιστατικά.

Με αποσπάσματα συστήματα και περιορισμένα μέσα, ποια είναι οι πρώτες ικανότητες διακυβέρνησης που πιστεύετε ότι οι εταιρείες πρέπει να τυποποιήσουν σε όλη την οργάνωση;

Όταν τα μέσα είναι περιορισμένα, οι οργανώσεις πρέπει να είναι προσεκτικές σχετικά με το πού ξεκινούν, επειδή οι πρώτες επιλογές ορίζουν την πορεία για όλα τα επόμενα. Η πρώτη προτεραιότητα είναι να κερδίσουν αξιόπιστη ορατότητα σε τι συστήματα της τεχνητής νοημοσύνης υπάρχουν στην επιχείρηση. Πολλές ομάδες πιστεύουν ότι έχουν μόνο quelques συστήματα της τεχνητής νοημοσύνης, μόνο για να ανακαλύψουν συστήματα σκιών, ενσωματωμένες ικανότητες προμηθευτών και κλιμακωμένες περιπτώσεις χρήσης που δεν αναθεωρήθηκαν ποτέ正式. Χωρίς μια ζωντανή θέα σε τι είναι σε παραγωγή, οι συζητήσεις διακυβέρνησης παραμένουν θεωρητικές και αποσυνδεμένες από την πραγματικότητα.

Μόλις υπάρχει ορατότητα μέσω του Καταλόγου της Τεχνητής Νοημοσύνης, είναι σχετικά με το να οδηγήσει την ιδιοκτησία στις περιπτώσεις χρήσης της τεχνητής νοημοσύνης. Η διακυβέρνηση καταρρέει γρήγορα όταν η ευθύνη είναι διανεμημένη σε επιτροπές ή λειτουργίες. Οι οργανώσεις πρέπει να ορίσουν σαφώς ποιος είναι υπεύθυνος για τα αποτελέσματα όταν ένα σύστημα της τεχνητής νοημοσύνης λαμβάνει ή επηρεάζει αποφάσεις, όχι μόνο ποιος το χτίστηκε ή το αναθεώρησε αρχικά. Αυτή η σαφήνεια γίνεται ιδιαίτερα σημαντική όταν συμβαίνουν περιστατικά ή όταν τα μοντέλα εξελίσσονται πέρα από τον αρχικό τους σκοπό.

Από εκεί, οι ομάδες χρειάζονται έναν πρακτικό τρόπο να σκεφτούν τον κίνδυνο. Αυτό σημαίνει να καθορίσουν μια κοινή προσέγγιση για την ταξινόμηση του κινδύνου που λειτουργεί σε όλα τα συστήματα, τις περιπτώσεις χρήσης της γεννητικής τεχνητής νοημοσύνης και τους προμηθευτές. Χωρίς ένα κοινό πρίσμα κινδύνου, οι οργανώσεις είτε υπερ-εξετάζουν τα συστήματα χαμηλού κινδύνου είτε υπο-εξετάζουν αυτά που έχουν τη μεγαλύτερη σημασία.

Τέλος, η διακυβέρνηση πρέπει να παράγει αποδεικτικά ως αποτέλεσμα της κανονικής λειτουργίας. Σχνά μιλάμε για “Πες το, Κάνε το, Απόδειξέ το” ως τρόπο να αποδείξουμε την αξιοπιστία της διακυβέρνησης της τεχνητής νοημοσύνης. Η καταγραφή των εγκρίσεων, αλλαγών και σημάτων παρακολούθησης καθώς τα συστήματα λειτουργούν επιτρέπει στις οργανώσεις να απαντούν σε ελέγχους, περιστατικά, αιτήματα πελατών και κανονιστικές ερωτήσεις με εμπιστοσύνη αντί να ανακατασκευάζουν αποφάσεις.

Γιατί πιστεύετε ότι η διακυβέρνηση της τεχνητής νοημοσύνης πρέπει να αντιμετωπίζεται με την ίδια σοβαρότητα όπως η ασφάλεια ή η GRC, και πού οι ηγέτες υποτιμούν περισσότερο την επιχειρησιακή εργασία;

Η διακυβέρνηση της τεχνητής νοημοσύνης φέρει συστημικό κίνδυνο που είναι συγκρίσιμος με την ασφάλεια και την GRC, αλλά με πρόσθετη複雑ность. Όπως οι αποτυχίες της ασφάλειας, οι αποτυχίες της τεχνητής νοημοσύνης μπορούν να εξαπλωθούν γρήγορα και αόρατα σε όλη την οργάνωση. Όπως η GRC, η τεχνητή νοημοσύνη διασχίζει νομικές, ηθικές και επιχειρησιακές υποχρεώσεις. Αντιθέτως, τα συστήματα της τεχνητής νοημοσύνης μπορούν να αλλάξουν συμπεριφορά με την πάροδο του χρόνου χωρίς ρητή ανθρώπινη δράση.

Όπου οι ηγέτες τείνουν να υποτιμούν την εργασία είναι στις συνεχείς επιχειρησιακές απαιτήσεις. Η παρακολούθηση είναι συνεχής αντί για περιοδική. Η συντονισμός διασχίζει προϊόν, δεδομένα, IT, νομικές, συμμορφωτικές και προμηθευτικές ομάδες. Η διαχείριση αλλαγών είναι συνεχής επειδή τα μοντέλα, οι προμηθευτές, οι περιπτώσεις χρήσης και οι κανονιστικές προδιαγραφές εξελίσσονται ταυτόχρονα.

Οι οργανώσεις που αντιμετωπίζουν τη διακυβέρνηση της τεχνητής νοημοσύνης ως μια φορά κανονιστική άσκηση αγωνίζονται αναπόφευκτα. Αυτές που αντιμετωπίζουν την διακυβέρνηση ως επιχειρησιακή υποδομή, πολύ σαν την ασφάλεια ή την αξιοπιστία, είναι καλύτερα τοποθετημένες να κλιμακώσουν την τεχνητή νοημοσύνη ασφαλώς και βιώσιμα.

Καθώς οι πολιτείες των ΗΠΑ προχωρούν με κανόνες της τεχνητής νοημοσύνης ενώ η ομοσπονδιακή πολιτική παραμένει αμφισβητούμενη, πώς θα πρέπει οι επιχειρήσεις να σχεδιάζουν τη διακυβέρνηση που παραμένει ανθεκτική στη κανονιστική αβεβαιότητα;

Το κανονιστικό περιβάλλον για την τεχνητή νοημοσύνη είναι αβέβαιο και εξελισσόμενο. Τα πιο ανθεκτικά προγράμματα διακυβέρνησης είναι χτισμένα γύρω από απαιτήσεις αντί για μεμονωμένες κανονιστικές προδιαγραφές. Αντί να αντιδρούν σε κάθε νέο νόμο με ειδικές διαδικασίες, οι οργανώσεις πρέπει να εστιάσουν στις κοινές προδιαγραφές που εμφανίζονται σε όλες τις δικαιοδοσίες, όπως η καταγραφή, η διαφάνεια, η ιδιοκτησία, η αξιολόγηση κινδύνου, η ανθρώπινη εποπτεία και η τεκμηρίωση.

Όταν τα συστήματα διακυβέρνησης είναι modulaire, νέες κανονιστικές απαιτήσεις μπορούν να αντιστοιχιστούν σε υφιστάμενους ελέγχους αντί να αναγκάζουν τις ομάδες να ξαναχτίσουν την προσέγγισή τους κάθε φορά που το τοπίο αλλάζει. Αυτό μειώνει την τριβή και βοηθά τη διακυβέρνηση να跟πει την πολιτική αλλαγή.

Ο στόχος δεν είναι να βελτιστοποιήσετε τη συμμόρφωση με τις σημερινές κανονιστικές προδιαγραφές, αλλά να προσαρμοστείτε καθώς οι προδιαγραφές εξελίσσονται.

Βλέποντας προς το 2026, ποια ικανότητες διακυβέρνησης της τεχνητής νοημοσύνης πιστεύετε ότι θα γίνουν απαραίτητες καθώς οι οργανώσεις κλιμακώνουν την τεχνητή νοημοσύνη σε περισσότερες επιχειρησιακές μονάδες;

Όταν η τεχνητή νοημοσύνη μετακινηθεί από απομονωμένα πιλοτικά σε συστήματα που διαμορφώνουν πραγματικές αποφάσεις, οι προδιαγραφές διακυβέρνησης αλλάζουν stejně γρήγορα. Μέχρι το 2026, οι οργανώσεις δεν θα μπορέσουν πλέον να βασιστούν στα playbooks που λειτουργούσαν το 2024 και 2025, όταν η εποπτεία της τεχνητής νοημοσύνης ήταν συχνά χειροκίνητη, επεισοδιακή και κεντρωμένη σε μεμονωμένες αναθεωρήσεις. Η συνεχής παρακολούθηση θα γίνει το ελάχιστο, επειδή η στατική τεκμηρίωση και οι αναθεωρήσεις σε συγκεκριμένο χρόνο δεν θα ικανοποιούν τους κανονιστές, τα διοικητικά συμβούλια, τους υπαλλήλους ή τους πελάτες σε ένα δυναμικό περιβάλλον της τεχνητής νοημοσύνης.

Όταν η τεχνητή νοημοσύνη ενσωματωθεί σε περισσότερες ομάδες και ροές εργασίας, οι οργανώσεις θα χρειαστούν επίσης συνεχή διακυβέρνηση σε όλο και πιο σύνθετες αλυσίδες εφοδιασμού της τεχνητής νοημοσύνης. Τα εσωτερικά μοντέλα, οι τρίτοι προμηθευτές, οι ενσωματωμένες ικανότητες της τεχνητής νοημοσύνης και τα αυτόνομα συστατικά θα πρέπει όλα να διακυβερνώνται μέσω του ίδιου πρίσματος, αντί να αντιμετωπίζουν την τεχνητή νοημοσύνη του προμηθευτή ως τυφλό σημείο ή να υποθέτουν ότι η ευθύνη τελειώνει στη προμήθεια.

Τα αποδεικτικά που είναι έτοιμα για έλεγχο θα πρέπει να είναι διαθέσιμα κατόπιν αιτήματος καθώς η κανονιστική επιβολή σκληραίνει και οι δημόσιες προδιαγραφές για διαφάνεια αυξάνονται. Αυτό σημαίνει την καταγραφή της δραστηριότητας διακυβέρνησης καθώς τα συστήματα της τεχνητής νοημοσύνης σχεδιάζονται, αναπτύσσονται και παρακολουθούνται, αντί να ανακατασκευάζουν αποφάσεις μετά από ένα περιστατικό ή αίτηση ελέγχου.

Τέλος, η διακυβέρνηση θα πρέπει να είναι ενσωματωμένη σε όλο το κύκλο ζωής της τεχνητής νοημοσύνης. Η εποπτεία δεν θα είναι μια νομική αναθεώρηση στην ανάπτυξη, αλλά μια επιχειρησιακή ικανότητα που ενσωματώνεται στις SDLC, MLOps και διαδικασίες προμήθειας για τρίτους. Οι οργανώσεις που χτίζουν αυτές τις ικανότητες θα είναι καλύτερα τοποθετημένες να προσαρμοστούν στην κανονιστική αβεβαιότητα, να απαντήσουν σε περιστατικά και να κλιμακώσουν την τεχνητή νοημοσύνη ταχύτερα και ασφαλέστερα καθώς οι προδιαγραφές εξελίσσονται.

Εάν συμβουλεύατε μια εταιρεία που ήδη έχει την τεχνητή νοημοσύνη σε παραγωγή αλλά δεν έχει επίσημο πρόγραμμα διακυβέρνησης, τι θα ήταν ένα ρεαλιστικό πρώτο 90ήμερο;

Τα πρώτα 30 ημέρες θα πρέπει να εστιάσουν στην απόκτηση βασικής ορατότητας. Αυτό σημαίνει την ταυτοποίηση των συστημάτων της τεχνητής νοημοσύνης που είναι σε παραγωγή, την κατανόηση του πού επηρεάζουν πραγματικές αποφάσεις και την ανάθεση σαφούς ιδιοκτησίας.

Η επόμενη φάση είναι σχετικά με την καθιέρωση βασικών ελέγχων. Οι οργανώσεις πρέπει να ορίσουν πώς ταξινομούν τον κίνδυνο, να εισαγάγουν σημεία ελέγχου για συστήματα υψηλού κινδύνου και να αρχίσουν να παρακολουθούν τις περιοχές που έχουν τη μεγαλύτερη σημασία.

Στην τελική φάση, η διακυβέρνηση πρέπει να μεταβεί από τη ρύθμιση στην λειτουργία. Η παρακολούθηση πρέπει να ενσωματωθεί στις υφιστάμενες ροές εργασίας, οι διαδρομές επέκτασης πρέπει να οριστούν σαφώς και τα αποδεικτικά πρέπει να αρχίσουν να συλλέγονται φυσικά καθώς τα συστήματα λειτουργούν.

Ο στόχος των πρώτων 90 ημερών δεν είναι η τελειότητα. Είναι η ορμή. Ένα πρόγραμμα διακυβέρνησης που λειτουργεί ατελείωτα στην πράξη είναι πολύ πιο πολύτιμο από ένα που υπάρχει μόνο στο χαρτί.”

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Trustible.