Το διευρυνόμενο χάσμα ανάμεσα στην πολιτική για την ΤΝ και την εφαρμογή της στην πράξη

Η ΤΝ δεν έχει ένα ενιαίο εγχειρίδιο κανόνων

Η ΤΝ αναπτύσσεται σε διάφορους κλάδους και για πλήθος εφαρμογών ταχύτερα απ’ όσο μπορούν να εξελιχθούν οι πολιτικές και τα πλαίσια διακυβέρνησης που απαιτούνται για την εποπτεία της. Ιστορικά, οι εφαρμογές ΤΝ υπάγονταν σε μεγάλο βαθμό σε υφιστάμενους κανονισμούς για την προστασία των καταναλωτών, την ιδιωτικότητα και συγκεκριμένους κλάδους, καθώς και στις εσωτερικές πολιτικές των ίδιων των εταιρειών. Οι κυβερνήσεις θεσπίζουν πλέον απαιτήσεις ειδικά για την ΤΝ, αλλά αυτές παραμένουν αποσπασματικές και συχνά παρέχουν ελάχιστες κατευθύνσεις για τον πραγματικό τρόπο λειτουργίας των συστημάτων. Έτσι, οι εταιρείες καλούνται να συμβιβάσουν τις εξωτερικές απαιτήσεις με την ανοχή τους στον κίνδυνο, τους στόχους των προϊόντων τους και τις επιχειρησιακές συνθήκες που αντιμετωπίζουν.

Η ΕΕ εφαρμόζει πλέον ενεργά ορισμένες διατάξεις του Νόμου για την ΤΝ, ενώ η ομοσπονδιακή πολιτική των ΗΠΑ ευνοεί ρητά ένα λιγότερο επαχθές εθνικό πλαίσιο, με το Εκτελεστικό Διάταγμα 14365 να επιδιώκει τον περιορισμό των αντικρουόμενων απαιτήσεων των πολιτειών, την ίδια στιγμή που οι πολιτείες εισήγαγαν περισσότερα από 1.000 μέτρα σχετικά με την ΤΝ το 2025. Καθεμία από αυτές τις αρχές περιγράφει διαφορετικό επιδιωκόμενο αποτέλεσμα, και το βάρος της εναρμόνισής τους πέφτει στις εταιρείες που αναπτύσσουν και θέτουν σε λειτουργία τα συστήματα.

Ωστόσο, η θέσπιση κανονιστικών απαιτήσεων είναι μόνο ένα μέρος της πρόκλησης. Καθώς η ΤΝ χρησιμοποιείται σε όλο και περισσότερες εφαρμογές και συνθήκες, οι εταιρείες πρέπει να μεταφράσουν τις γενικές απαιτήσεις και τις εσωτερικές πολιτικές σε λειτουργικούς ελέγχους και επιμέρους αποφάσεις των συστημάτων ΤΝ. Κανένα κανονιστικό πλαίσιο δεν μπορεί να προβλέψει κάθε εφαρμογή, συνθήκη ή συμβιβασμό. Επομένως, οι οργανισμοί πρέπει να χαράξουν μια διαδρομή από τις απαιτήσεις που διέπουν τη λειτουργία τους και τις εσωτερικές πολιτικές έως τη συμπεριφορά των συστημάτων, τα μετρήσιμα αποτελέσματα και τον έλεγχο ή την επανεξέταση. Το Πλαίσιο Διαχείρισης Κινδύνων ΤΝ του NIST υιοθετεί παρόμοια προσέγγιση, δίνοντας έμφαση στη συνεχή μέτρηση και διαχείριση αντί να αντιμετωπίζει τη διακυβέρνηση ως μεμονωμένη άσκηση συμμόρφωσης. Οι απαιτήσεις μεταφέρονται προς τα κάτω και τα τεκμήρια επιστρέφουν προς τα πάνω: οι ρυθμιστικές αρχές και τα στελέχη της διοίκησης μπορεί να ορίζουν τα επιθυμητά αποτελέσματα, αλλά οι οργανισμοί οφείλουν να αποδεικνύουν αν τα συστήματά τους τα παράγουν πράγματι.

Έτσι, μεγάλο μέρος της πρακτικής ευθύνης για τη διακυβέρνηση της ΤΝ ανατίθεται στους οργανισμούς που θέτουν αυτά τα συστήματα σε λειτουργία.

Η διακυβέρνηση γίνεται δύσκολη στο επίπεδο της υλοποίησης

Οι κανονισμοί και τα πλαίσια διακυβέρνησης καθορίζουν συνήθως αρχές, υποχρεώσεις και επιθυμητά αποτελέσματα. Τα συστήματα που λειτουργούν στην παραγωγή, όμως, πρέπει να μετατρέπουν αυτά τα στοιχεία σε επιμέρους αποφάσεις, και ακριβώς σε αυτή τη μετατροπή δυσκολεύει η διακυβέρνηση. Μια πολιτική μπορεί να ορίζει ότι πρέπει να αποτρέπονται οι διακρίσεις, να προστατεύονται οι χρήστες, να παρέχεται διαφάνεια ή να διασφαλίζεται ουσιαστικός ανθρώπινος έλεγχος. Ωστόσο, ένα λειτουργικό σύστημα πρέπει να απαντά σε πολύ πιο συγκεκριμένα ερωτήματα: σε ποιο όριο ενεργοποιείται, με βάση ποια στοιχεία και με ποιον βαθμό βεβαιότητας, πότε απαιτείται ανθρώπινος έλεγχος, τι καταγράφεται και τι συμβαίνει όταν το σύστημα δεν είναι βέβαιο;

Οι ρυθμιστικές αρχές αναμένουν ήδη απαντήσεις σε αυτά τα ερωτήματα. Η FTC, το DOJ, το CFPB και η EEOC δήλωσαν από κοινού ότι θα ασκήσουν τις υφιστάμενες αρμοδιότητές τους όσον αφορά τα αυτοματοποιημένα συστήματα, πράγμα που σημαίνει ότι κάποια στιγμή θα ζητηθεί από μια εταιρεία να εξηγήσει πώς λαμβάνει αποφάσεις το σύστημά της.

Ας εξετάσουμε μια πλατφόρμα με σαφή πολιτική κατά της παρενόχλησης. Ένα μήνυμα που περιέχει βωμολοχίες μπορεί να είναι αβλαβές πείραγμα μεταξύ φίλων, ενώ ένα φαινομενικά αθώο μήνυμα μπορεί να αποτελεί μέρος μιας παρατεταμένης εκστρατείας στοχοποίησης άλλου χρήστη. Το σύστημα πρέπει να κρίνει ποιο πλαίσιο μπορεί να αξιοποιήσει με αξιοπιστία, πόσα στοιχεία αρκούν για να παρέμβει και ποια παρέμβαση είναι κατάλληλη: να αποκλείσει το μήνυμα, να προειδοποιήσει τον αποστολέα, να το παραπέμψει σε ανθρώπινο έλεγχο ή να μην κάνει τίποτα. Η μείωση των ορίων ανίχνευσης μπορεί να εντοπίσει περισσότερες επιβλαβείς συμπεριφορές, αλλά και να καταστείλει θεμιτές συνομιλίες. Η απαίτηση για ανθρώπινο έλεγχο μπορεί να βελτιώσει την κρίση, αλλά να καθυστερήσει την παρέμβαση. Καμία από αυτές τις αποφάσεις δεν καθορίζεται από μια γενική πολιτική που απαγορεύει την παρενόχληση, όμως όλες μαζί καθορίζουν πώς εφαρμόζεται στην πράξη αυτή η πολιτική.

Κανένα έγγραφο πολιτικής δεν επιλύει εκ των προτέρων αυτούς τους συμβιβασμούς, επομένως κάποιος μέσα στην εταιρεία πρέπει να αποφασίσει πώς θα αντιμετωπιστούν, να καταγράψει τις αποφάσεις και να τις επανεξετάζει. Ουσιαστικά, αυτό το άτομο διαμορφώνει την πολιτική, είτε αυτό προβλέπεται είτε όχι στο οργανόγραμμα.

Τι απαιτεί στην πράξη η υπεύθυνη ΤΝ

Αν οι άνθρωποι που υλοποιούν ένα σύστημα είναι ουσιαστικά εκείνοι που διαμορφώνουν την πολιτική, τότε η υπεύθυνη ΤΝ δεν μπορεί να αντιμετωπίζεται ως απλή δήλωση προθέσεων, καθώς πρέπει να αποτυπώνεται στον καθημερινό τρόπο λειτουργίας του συστήματος. Αυτό σημαίνει ότι πρέπει να γίνεται διαχείριση της χρήσης και της μέτρησης της ΤΝ, καθώς και να διορθώνεται η λειτουργία της με την πάροδο του χρόνου, όχι απλώς να εγκρίνεται μια πολιτική ή να ολοκληρώνεται μια αρχική αξιολόγηση. Στην πράξη, τρεις ιδέες έχουν τη μεγαλύτερη σημασία, και καθεμία απορρέει από τους παραπάνω συμβιβασμούς:

• Η διακυβέρνηση πρέπει να είναι ανάλογη με τις συνέπειες. Ένα σύστημα ΤΝ που προτείνει διαφημιστικά κείμενα, εγκρίνει ένα δάνειο, επισημαίνει μια απειλή για την ασφάλεια ή υποστηρίζει μια ιατρική απόφαση συνεπάγεται πολύ διαφορετικούς κινδύνους. Οι οργανισμοί πρέπει να καθορίζουν πού δικαιολογούνται αυστηρότεροι έλεγχοι, επανεξέταση και εποπτεία, με βάση τις πιθανές συνέπειες.
• Η ακρίβεια από μόνη της δεν αρκεί. Τα διαφορετικά σφάλματα έχουν διαφορετικό κόστος. Ένα ψευδώς θετικό αποτέλεσμα στον έλεγχο περιεχομένου μπορεί να καταστείλει θεμιτό λόγο, ενώ ένα λάθος στον δανεισμό, την υγειονομική περίθαλψη ή την ασφάλεια μπορεί να έχει πολύ σοβαρότερες συνέπειες. Η διακυβέρνηση πρέπει να λαμβάνει υπόψη τον πραγματικό αντίκτυπο μιας απόφασης, όχι μόνο τις επιδόσεις του μοντέλου.
• Η συνεχής αξιολόγηση και η ανατροφοδότηση είναι απαραίτητες. Οι παρακάμψεις, οι ενστάσεις, τα περιστατικά, οι οριακές περιπτώσεις και τα επακόλουθα αποτελέσματα πρέπει όλα να τροφοδοτούν τη συνεχή αξιολόγηση.

Ένα πρακτικό πλαίσιο για την εσωτερική διακυβέρνηση της τεχνητής νοημοσύνης

Για να εφαρμοστούν στην πράξη αυτές οι αρχές, η διακυβέρνηση πρέπει να ενσωματώνεται στον τρόπο με τον οποίο σχεδιάζονται, αναπτύσσονται και διαχειρίζονται τα συστήματα τεχνητής νοημοσύνης. Τέσσερις πρακτικές είναι ιδιαίτερα σημαντικές:

• Να αντιμετωπίζονται οι απαιτήσεις διακυβέρνησης ως απαιτήσεις προϊόντος και συστήματος από την αρχή. Οι έλεγχοι συμμόρφωσης που προστίθενται μετά την ανάπτυξη τείνουν να είναι δαπανηροί και εύθραυστοι. Είναι πολύ ευκολότερο να ενσωματωθούν εξαρχής σε ένα σύστημα η προστασία της ιδιωτικότητας, η διαφάνεια, η δυνατότητα ελέγχου και οι μηχανισμοί επανεξέτασης, παρά να προστεθούν εκ των υστέρων.
• Να δημιουργηθεί μια ελέγξιμη αλυσίδα από την πολιτική έως την απόφαση. Οι οργανισμοί θα πρέπει να μπορούν να συνδέουν την κανονιστική απαίτηση ή την εσωτερική πολιτική που διέπει τη λειτουργία με τον έλεγχο που εφαρμόστηκε και την απόφαση που προέκυψε. Χρειάζονται επίσης τα αποδεικτικά στοιχεία που απαιτούνται για την αξιολόγηση της απόφασης.
• Να οριστούν με σαφήνεια οι αρμοδιότητες και η λογοδοσία. Να καθοριστεί ποιος είναι υπεύθυνος για την πολιτική, ποιος αποφασίζει ποιο επίπεδο κινδύνου είναι αποδεκτό και ποιος παρακολουθεί τις επιδόσεις. Κάποιος θα πρέπει επίσης να έχει την εξουσία να παρέμβει όταν το σύστημα λειτουργεί έξω από αυτά τα όρια.
• Να δημιουργηθούν κοινές, προσαρμόσιμες υποδομές διακυβέρνησης. Οι έλεγχοι δεδομένων, τα ίχνη ελέγχου, οι παραμετροποιήσιμες πολιτικές, οι ροές εργασιών επανεξέτασης και η μέτρηση των επιδόσεων θα πρέπει να καλύπτουν πολλαπλές κανονιστικές απαιτήσεις και περιπτώσεις χρήσης. Οι έλεγχοι και τα κατώφλια θα πρέπει να μπορούν να προσαρμόζονται ανά δικαιοδοσία, εφαρμογή και επίπεδο κινδύνου, ώστε οι οργανισμοί να ανταποκρίνονται στις μεταβαλλόμενες απαιτήσεις χωρίς να χρειάζεται να ανακατασκευάζουν τα συστήματά τους.

Η διακυβέρνηση πρέπει να λειτουργεί στην πράξη

Οι κανονισμοί μπορούν να ορίζουν υποχρεώσεις και αρχές, όμως οι εταιρείες πρέπει ακόμη να τις μετατρέψουν σε συστήματα που λαμβάνουν πραγματικές αποφάσεις σε μεγάλη κλίμακα. Έτσι, η εσωτερική διακυβέρνηση γίνεται λειτουργική ευθύνη και όχι απλώς άσκηση συμμόρφωσης. Κάθε εταιρεία που αναπτύσσει συστήματα τεχνητής νοημοσύνης σε μεγάλη κλίμακα ήδη διαμορφώνει πολιτική μέσω των κατωφλίων της, των κανόνων επανεξέτασης και των διαδικασιών κλιμάκωσης· το μόνο ανοιχτό ερώτημα είναι αν το κάνει συνειδητά.

Οι ρυθμιστικές αρχές θα συνεχίσουν να καθορίζουν τα επιθυμητά αποτελέσματα και δεν θα συμφωνούν πάντα μεταξύ τους. Επομένως, η εταιρεία πρέπει να αποφασίζει πώς μεταφράζονται αυτές οι προσδοκίες σε ελέγχους και στη συνέχεια να αποδεικνύει, με στοιχεία, ότι οι έλεγχοι λειτουργούν. Οι εταιρείες που θα θεσπίσουν από τώρα σαφείς αρμοδιότητες, μετρήσιμους ελέγχους, δυνατότητα ελέγχου και προσαρμόσιμες υποδομές θα είναι καλύτερα προετοιμασμένες καθώς το ρυθμιστικό πλαίσιο συνεχίζει να εξελίσσεται.

Έχω δει αυτό το πρόβλημα από πολλές πλευρές: σε περιβάλλοντα κυβερνοασφάλειας, κατά την ανάπτυξη μοντέλων κινδύνου και τώρα κατά τη λειτουργία συστημάτων τεχνητής νοημοσύνης σε μεγάλη κλίμακα. Σε όλες αυτές τις περιπτώσεις, το δίδαγμα είναι παρόμοιο: ένα πλαίσιο λειτουργεί μόνο αν μπορεί να μεταφραστεί σε σαφείς αποφάσεις, να αξιολογηθεί στην πράξη και να βελτιωθεί όταν η πραγματικότητα αναδεικνύει τα κενά.