Ηγέτες σκέψης

Γιατί οι εταιρείες πρέπει να υιοθετήσουν διακυβέρνηση της ΤΝ βασισμένη σε αξίες

Isabella Grandi
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΈνα πλαίσιο διακυβέρνησης της ΤΝ βασισμένο σε αξίες επιτρέπει στις εταιρείες να…
Δείτε περισσότερα
  • Ένα πλαίσιο διακυβέρνησης της ΤΝ βασισμένο σε αξίες επιτρέπει στις εταιρείες να λειτουργούν παγκοσμίως χωρίς να αναπτύσσουν εκ νέου συστήματα για κάθε δικαιοδοσία.
  • Η υιοθέτηση έξι βασικών αξιών, όπως η λογοδοσία και η δικαιοσύνη, δημιουργεί εμπιστοσύνη του κοινού και πληροί τα υψηλότερα ηθικά πρότυπα.
  • Η ισχυρή διακυβέρνηση της ΤΝ δημιουργεί επιχειρηματική αξία, επιτρέποντας ταχύτερη είσοδο στην αγορά και μειώνοντας τον κίνδυνο σε πολλαπλές περιοχές.

Τον Σεπτέμβριο του 2025, όλα τα κράτη μέλη των Ηνωμένων Εθνών συγκεντρώθηκαν για πρώτη φορά για να συζητήσουν τη διεθνή διακυβέρνηση της τεχνητής νοημοσύνης. Πολλά εκπροσωπήθηκαν ξανά τον Φεβρουάριο στο AI Impact Summit στο Δελχί. Η εκδήλωση οδήγησε στη δημιουργία δύο νέων οργάνων με αντικείμενο τη διακυβέρνηση της ΤΝ, αλλά αποτέλεσε, στην καλύτερη περίπτωση, μια συμβολική επιτυχία.

Οι νέοι μηχανισμοί του ΟΗΕ σχεδιάστηκαν για να εξασφαλίζουν συναίνεση. Αποφεύγουν, επομένως, αμφιλεγόμενα πεδία, όπως οι στρατιωτικές χρήσεις της ΤΝ, και δεν διαθέτουν σαφείς πηγές χρηματοδότησης ούτε εξουσίες επιβολής. Αυτό δεν θα πρέπει να εκπλήσσει τους έμπειρους παρατηρητές. Ο σημερινός ΟΗΕ δεν μπορεί να κινηθεί γρήγορα ή να διασφαλίσει ότι όλοι συμμορφώνονται με τις αποφάσεις του, γεγονός που τον καθιστά ένα φόρουμ στο οποίο είναι δύσκολο να επιτευχθεί πραγματική αλλαγή.

Πρόκειται για ένα γνώριμο μοτίβο. Παρά τις πολυετείς, διάσπαρτες προσπάθειες οικοδόμησης συναίνεσης για τη ρύθμιση της ΤΝ, δεν έχουν επιτευχθεί σημαντικές διεθνείς συμφωνίες. Δημιουργήθηκε έτσι ένα κενό, στο οποίο μεμονωμένα κράτη και συνασπισμοί αναγκάστηκαν να αναπτύξουν τους δικούς τους κανόνες. Ωστόσο, η αποτελεσματική διακυβέρνηση της ΤΝ είναι κρίσιμη αν θέλουμε να υιοθετηθεί ευρέως, να κερδίσει την εμπιστοσύνη του κοινού και να προσφέρει διαρκή κοινωνικά και οικονομικά οφέλη

Πρόχειρες λύσεις και συνεχείς διορθώσεις

Για τις παγκόσμιες εταιρείες που αναπτύσσουν και λειτουργούν συστήματα ΤΝ, η απουσία κοινών, συμφωνημένων μηχανισμών διακυβέρνησης είναι προβληματική. Θέλουν να χρησιμοποιούν τα συστήματά τους σε ολόκληρο τον κόσμο, αλλά δεν υπάρχουν δύο δικαιοδοσίες που να εφαρμόζουν ακριβώς το ίδιο σύνολο κανόνων. Αναγκάζονται λοιπόν να δημιουργούν ένα γενικό πλαίσιο διακυβέρνησης για το σύστημά τους και κατόπιν να το ξαναχτίζουν από την αρχή σε κάθε χώρα όπου δραστηριοποιούνται, ώστε να συμμορφώνεται με την τοπική νομοθεσία και τους κανονισμούς. Αυτό δημιουργεί τεράστιο πρόσθετο φόρτο εργασίας, αυξάνει το κόστος των πρωτοβουλιών ΤΝ και τον κίνδυνο καθυστερήσεων και περιορίζει τη δυνατότητα των παγκόσμιων επιχειρήσεων να επιτυγχάνουν οικονομίες κλίμακας και να διαθέτουν αποτελεσματικά εργαλεία σε χρήστες παντού.

Υπάρχει όμως μια εναλλακτική. Για τις επιχειρήσεις που θέλουν να απλοποιήσουν την προσέγγισή τους, η καλύτερη επιλογή ίσως είναι ένα πλαίσιο διακυβέρνησης της ΤΝ που λαμβάνει υπόψη τις κοινές ηθικές αρχές των διαφορετικών περιοχών και εξασφαλίζει παντού υψηλά πρότυπα προστασίας της ελευθερίας, της ιδιωτικότητας και της ασφάλειας των ατόμων. Έτσι, οι επιχειρήσεις ΤΝ μπορούν να ενισχύσουν την εμπιστοσύνη του κοινού στην τεχνολογία τους, να διευρύνουν την πελατειακή τους βάση και να αξιοποιήσουν τα πιθανά οφέλη της ΤΝ για την κοινωνία.

Έξι βασικές αξίες για τη διακυβέρνηση της ΤΝ

Σε κάθε οργανισμό που ενδιαφέρεται για μια προσέγγιση στη διακυβέρνηση της ΤΝ βασισμένη σε αξίες, θα πρότεινα τις έξι βασικές αξίες που ακολουθούμε: λογοδοσία, επεξηγησιμότητα, διαφάνεια, δικαιοσύνη, ασφάλεια και δυνατότητα αμφισβήτησης αποφάσεων.

Τις επιλέξαμε επειδή καλύπτουν όλα τα βασικά πεδία του κύκλου ζωής ενός συστήματος ΤΝ και έχουν ήδη κωδικοποιηθεί σε διάφορα διεθνή και εθνικά πρότυπα για την ΤΝ, όπως το πρότυπο του Διεθνούς Οργανισμού Τυποποίησης ISO/IEC 42001 και το εγχειρίδιο τεχνητής νοημοσύνης για την κυβέρνηση του Ηνωμένου Βασιλείου.

Ας ξεκινήσουμε από τη λογοδοσία: σημαίνει να γνωρίζουμε ποιος είναι υπεύθυνος για τι σε κάθε στάδιο του κύκλου ζωής της ΤΝ. Χωρίς σαφή ανάθεση ευθυνών, κρίσιμοι έλεγχοι μπορεί να παραλειφθούν επειδή κανένα άτομο ή ομάδα δεν φέρει την τελική ευθύνη. Οι οργανισμοί θα πρέπει να ορίζουν ονομαστικά ανώτατα στελέχη, όπως τον επικεφαλής ΤΝ, ως υπευθύνους για τα συστήματα και τα βασικά στάδια. Θα πρέπει να χρησιμοποιούν ένα μοντέλο διακυβέρνησης βάσει κινδύνου και να ελέγχουν τα εργαλεία τρίτων εξίσου σχολαστικά με όσα αναπτύσσονται εσωτερικά. Αυτό σημαίνει να κατανοούν τους όρους, τους περιορισμούς και τις νομικές ευθύνες των προμηθευτών εξίσου καλά με τα δικά τους συστήματα.

Ο Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης, ΟΟΣΑ, το αποτυπώνει εύστοχα στις κατευθυντήριες γραμμές του για την ενίσχυση της λογοδοσίας στην ΤΝ, συνιστώντας στους οργανισμούς να δημιουργούν «μηχανισμούς ενσωμάτωσης της διαδικασίας διαχείρισης κινδύνων της ΤΝ στην ευρύτερη οργανωτική διακυβέρνηση, προάγοντας μια κουλτούρα διαχείρισης κινδύνων τόσο εντός των οργανισμών όσο και σε ολόκληρη την αλυσίδα αξίας της ΤΝ».

Ακολουθεί η επεξηγησιμότητα. Οι οργανισμοί θα πρέπει να μπορούν να δείξουν πώς ένα σύστημα ΤΝ καταλήγει σε μια απόφαση. Αυτό απαιτεί μηχανισμούς τεκμηρίωσης και ιχνηλάτησης της λήψης αποφάσεων, μαζί με σαφή αρχεία για τον σχεδιασμό του συστήματος, τα δεδομένα εκπαίδευσης και τις διαδικασίες λήψης αποφάσεων. Όλα αυτά επιτρέπουν στις ομάδες να κατανοούν την προέλευση και τη διαδρομή των πληροφοριών από τη δημιουργία του συστήματος έως τη θέση του σε λειτουργία.

Η δικαιοσύνη εστιάζει στη διασφάλιση δίκαιων αποτελεσμάτων από τα συστήματα ΤΝ, χωρίς αναπαραγωγή ή ενίσχυση υφιστάμενων προκαταλήψεων. Χωρίς στοχευμένους ελέγχους, τα συστήματα μπορεί να προκαλέσουν βλάβη παράγοντας μεροληπτικά αποτελέσματα, ιδίως σε πεδία υψηλού αντίκτυπου όπως οι προσλήψεις, η υγειονομική περίθαλψη και η ποινική δικαιοσύνη. Για να περιορίσουν το πρόβλημα, οι οργανισμοί θα πρέπει να εφαρμόζουν μέτρα εντοπισμού μεροληψίας, να εξετάζουν τακτικά τα αποτελέσματα για τις σχετικές ομάδες και να σχεδιάζουν πλαίσια διακυβέρνησης που λαμβάνουν υπόψη τις τοπικές απαιτήσεις κατά των διακρίσεων. Στην πράξη, αυτό σημαίνει συστήματα που πληρούν τα αυστηρότερα νομικά πρότυπα που είναι πιθανό να αντιμετωπίσουν, συμπεριλαμβανομένων των υποχρεώσεων του βρετανικού Equality Act 2010 και του Χάρτη των Θεμελιωδών Δικαιωμάτων της ΕΕ.

Η διαφάνεια προσφέρει σαφή ενημέρωση τόσο στους χρήστες όσο και στις ρυθμιστικές αρχές. Οι άνθρωποι θα πρέπει να κατανοούν πότε χρησιμοποιείται ΤΝ, ποιον ρόλο παίζει στη λήψη αποφάσεων και σε ποια δεδομένα βασίζεται. Ένα πρακτικό σημείο εκκίνησης είναι η τυποποίηση της τεκμηρίωσης των συστημάτων ΤΝ, με υποστήριξη από εσωτερικά εργαλεία όπως οι κάρτες μοντέλων: σύντομα έγγραφα που συνοδεύουν μοντέλα μηχανικής μάθησης και εξηγούν το προβλεπόμενο πλαίσιο χρήσης, τις λεπτομέρειες των διαδικασιών αξιολόγησης της απόδοσης και άλλες σχετικές πληροφορίες. Χωρίς διαφάνεια, οι χρήστες δεν μπορούν να αμφισβητήσουν άδικα αποτελέσματα, οι ρυθμιστικές αρχές δεν μπορούν να παρέμβουν αποτελεσματικά και οι επιβλαβείς επιπτώσεις μπορεί να αποκρυφτούν.

Η ασφάλεια αφορά την προστασία των συστημάτων ΤΝ από μη εξουσιοδοτημένη πρόσβαση, χειραγώγηση και μη επιδιωκόμενη συμπεριφορά. Αν η ασφάλεια είναι ανεπαρκής, η ΤΝ μπορεί να θέσει σε κίνδυνο οργανισμούς, χρήστες και δεδομένα, προκαλώντας οικονομική ζημία και βλάβη στη φήμη τους. Οι οργανισμοί θα πρέπει να καθορίζουν κατώφλια απόδοσης και ακρίβειας, να υποβάλλουν τα συστήματα σε δοκιμές αντοχής υπό ρεαλιστικές συνθήκες και να περιλαμβάνουν δοκιμές τύπου red team για τον εντοπισμό ευπαθειών.

Τέλος, η δυνατότητα αμφισβήτησης εξασφαλίζει έναν σαφή και προσβάσιμο τρόπο ένστασης ή προσφυγής κατά αποφάσεων που βασίζονται στην ΤΝ. Χωρίς αυτήν, οι επηρεαζόμενοι χρήστες δεν έχουν δυνατότητα αποκατάστασης και τα προβλήματα μπορεί να μην έρθουν ποτέ στο φως ή να μην επιλυθούν. Οι οργανισμοί θα πρέπει να προσφέρουν κανάλια αναφοράς στο σημείο χρήσης, να ορίζουν ανώτατα στελέχη για τη διαχείριση παραπόνων και να διασφαλίζουν ότι τα συστήματα μπορούν να παύσουν προσωρινά, να επανεξεταστούν ή να ενημερωθούν όπου χρειάζεται.

Ποια είναι τα οφέλη ενός πλαισίου βασισμένου σε αξίες;

Υπάρχουν δύο ισχυροί λόγοι για την υιοθέτηση αυτής της προσέγγισης στη διακυβέρνηση της ΤΝ. Πρώτον, όσοι αναπτύσσουν και θέτουν σε λειτουργία συστήματα ΤΝ έχουν ηθική ευθύνη απέναντι στα άτομα και τους οργανισμούς που επηρεάζονται από αυτά. Δεύτερον, πρόκειται για έναν αποτελεσματικότερο τρόπο υλοποίησης των υποσχόμενων οφελών της ΤΝ στην πράξη.

Οι χρήστες συστημάτων ΤΝ, εταιρικοί και μεμονωμένοι, εμπιστεύονται σιωπηρά τους δημιουργούς τους ότι δεν θα καταχραστούν προσωπικά δεδομένα ούτε θα τους εκθέσουν σε περιττούς κινδύνους. Όταν οι οργανισμοί προδίδουν αυτή την εμπιστοσύνη, είναι πολύ δύσκολο να διατηρήσουν τους χρήστες. Τελικά, οι άνθρωποι δεν θα αποδεχτούν την εισαγωγή των συστημάτων αν δεν πληρούνται και οι δύο προϋποθέσεις: να τα εμπιστεύονται και να βλέπουν τα σαφή οφέλη τους. Διαφορετικά, θα ενταθούν οι κοινωνικές και οικονομικές διαιρέσεις και θα χαθούν πολλές ευκαιρίες που προσφέρει η τεχνολογία.

Αντίθετα, εταιρείες που εφαρμόζουν παντού ένα πλαίσιο βασισμένο σε αξίες, ακόμη και σε περιοχές με χαλαρότερες απαιτήσεις διακυβέρνησης, μπορούν να δείξουν σε πελάτες, επενδυτές και ρυθμιστικές αρχές ότι τηρούν υψηλότερα πρότυπα από όσα απαιτεί η στοιχειώδης συμμόρφωση. Αυτό δημιουργεί εμπιστοσύνη, συμμετοχή και, τελικά, επιχειρηματική επιτυχία.

Η ισχυρή διακυβέρνηση της ΤΝ δημιουργεί αξία και δεν αποτελεί βάρος συμμόρφωσης. Επιτρέπει στις επιχειρήσεις να φέρνουν νέα προϊόντα στην αγορά ταχύτερα, να περιορίζουν την έκθεσή τους σε κινδύνους και να επεκτείνουν τις λύσεις τους σε πολλές αγορές με αυτοπεποίθηση.

Η έκθεση της McKinsey «Η κατάσταση της ΤΝ» έχει διαπιστώσει ότι «η εποπτεία της διακυβέρνησης της ΤΝ από τον διευθύνοντα σύμβουλο… είναι ένας από τους παράγοντες με τη μεγαλύτερη συσχέτιση με υψηλότερο, αυτοαναφερόμενο αντίκτυπο στα καθαρά κέρδη από τη χρήση παραγωγικής ΤΝ από έναν οργανισμό», υπογραμμίζοντας τα εμπορικά οφέλη αυτής της προσέγγισης. Υπό αυτή την έννοια, η ενσωμάτωση ισχυρών ηθικών πλαισίων στα συστήματα ΤΝ αποτελεί έκφραση πεφωτισμένου ίδιου συμφέροντος.

Πέρα από όλα αυτά, είναι απλώς το σωστό. Έχουμε οικοδομήσει την παγκόσμια πολιτική μας για ηθική ΤΝ γύρω από την ίδια αρχή: οι προηγμένες τεχνολογίες πρέπει να υπηρετούν τους ανθρώπους και την κοινωνία, όχι το αντίστροφο. Αυτό αντανακλά το ευρύτερο όραμα της Κοινωνίας 5.0, ένα ανθρωποκεντρικό μοντέλο καινοτομίας που επιδιώκει να συνδυάσει την οικονομική πρόοδο με την επίλυση κοινωνικών προκλήσεων.

Για να συμβάλουν αναδυόμενες τεχνολογίες όπως η ΤΝ σε μια πιο ευτυχισμένη και αρμονική κοινωνία, πρέπει να στηρίζονται σε ισχυρά ηθικά θεμέλια. Αυτό ξεκινά με την εστίαση όχι μόνο στα πρότυπα που οι οργανισμοί οφείλουν να πληρούν, αλλά και σε εκείνα που θα ήθελαν να επιτύχουν.

Η Isabella Grandi είναι Διευθύντρια Στρατηγικής, Διακυβέρνησης και Δεοντολογίας Δεδομένων και Τεχνητής Νοημοσύνης στην NTT DATA UK&I. Συνεργάζεται με οργανισμούς για τον σχεδιασμό και την εφαρμογή υπεύθυνης τεχνητής νοημοσύνης και της διακυβέρνησής της, βοηθώντας τους να μεταβούν από την τρέχουσα κατάστασή τους σε ένα πιο ώριμο λειτουργικό μοντέλο που βασίζεται στα δεδομένα.

Η δουλειά της επικεντρώνεται στην ενσωμάτωση δεοντολογικών πρακτικών και ισχυρής διαχείρισης κινδύνων τεχνητής νοημοσύνης στον τρόπο με τον οποίο οι οργανισμοί σχεδιάζουν και θέτουν σε λειτουργία την τεχνητή νοημοσύνη, ώστε η υπεύθυνη χρήση να αποτελεί μέρος των δομών λήψης αποφάσεων και των καθημερινών λειτουργιών.