Προκατάληψη και Δικαιοσύνη των Συστημάτων AI στο Χώρο της Οικονομικής Εγκληματικότητας

Όταν πρόκειται για την καταπολέμηση της οικονομικής εγκληματικότητας, υπάρχουν προκλήσεις που υπερβαίνουν το πεδίο της απλής αποτροπής απάτης ή άλλων κακών ενεργειών.

Ορισμένες από τις πιο πρόσφατες, προηγμένες τεχνολογίες που εισαγωγούνται συχνά έχουν τις δικές τους συγκεκριμένες προβλήματα που πρέπει να ληφθούν υπόψη κατά τις φάσεις υιοθέτησης για να καταπολεμηθεί επιτυχώς η απάτη χωρίς τις επιπτώσεις της νομοθεσίας. Στην ανίχνευση απάτης, η δίκαιη διαδικασία και η προκατάληψη των δεδομένων μπορεί να συμβούν όταν ένα σύστημα είναι πιο βαρύ ή έλλειψη αντιπροσώπευσης ορισμένων ομάδων ή κατηγοριών δεδομένων. Θεωρητικά, ένα προβλεπτικό μοντέλο θα μπορούσε να συσχετίσει λανθασμένα τα επώνυμα από άλλες κουλτούρες με λογαριασμούς απάτης ή να μειώσει ψευδώς τον κίνδυνο μέσα σε τμήματα του πληθυσμού για某 τύπου οικονομικών δραστηριοτήτων.

Τα προκατειλημμένα συστήματα AI μπορούν να αντιπροσωπεύουν một σοβαρή απειλή όταν οι φήμες μπορεί να επηρεαστούν και συμβαίνει όταν τα διαθέσιμα δεδομένα δεν είναι αντιπροσωπευτικά του πληθυσμού ή του φαινομένου της εξερεύνησης. Αυτά τα δεδομένα δεν περιλαμβάνουν μεταβλητές που να συλλαμβάνουν σωστά το φαινόμενο που θέλουμε να προβλέψουμε. Ή εναλλακτικά, τα δεδομένα μπορεί να περιλαμβάνουν περιεχόμενο που παράγεται από ανθρώπους, το οποίο μπορεί να περιέχει προκατάληψη εναντίον ομάδων ανθρώπων, κληρονομιά από πολιτιστικές και προσωπικές εμπειρίες, οδηγώντας σε παραμορφώσεις κατά την λήψη αποφάσεων. Ενώ αρχικά τα δεδομένα μπορεί να φαίνονται αντικειμενικά, συλλέγονται και αναλύονται από ανθρώπους και μπορούν επομένως να είναι προκατειλημμένα.

Δεν υπάρχει μαγική λύση για την αντιμετώπιση των κινδύνων της διακρίσεων και της αδικίας στα συστήματα AI ή μόνιμες λύσεις στο πρόβλημα της δίκαιης διαδικασίας και της μείωσης της προκατάληψης στην αρχιτεκτονική των μοντέλων μηχανικής μάθησης και χρήσης, αυτά τα ζητήματα πρέπει να ληφθούν υπόψη τόσο για κοινωνικούς όσο και για επιχειρηματικούς λόγους.

Κάντε το Σωστό Πράγμα στο AI

Η αντιμετώπιση της προκατάληψης στα συστήματα AI-βασισμένα δεν είναι μόνο το σωστό πράγμα, αλλά και το έξυπνο πράγμα για τις επιχειρήσεις — και οι επιπτώσεις για τους ηγέτες των επιχειρήσεων είναι υψηλές. Τα προκατειλημμένα συστήματα AI μπορούν να οδηγήσουν τις χρηματοοικονομικές ιδρύματα στο λάθος δρόμο, κατανομώντας ευκαιρίες, πόρους, πληροφορίες ή ποιότητα υπηρεσιών με άδικο τρόπο. Έχουν ακόμη και το δυναμικό να παραβιάσουν τις πολιτικές ελευθερίες, να θέσουν σε κίνδυνο την ασφάλεια των ατόμων ή να επηρεάσουν την ευημερία ενός ατόμου εάν θεωρηθούν ως αποδοκιμαστικά ή προσβλητικά.

Είναι σημαντικό για τις επιχειρήσεις να κατανοήσουν τη δύναμη και τους κινδύνους της προκατάληψης του AI. Αν και συχνά αγνοούνται από το ίδρυμα, ένα προκατειλημμένο σύστημα AI-βασισμένο θα μπορούσε να χρησιμοποιεί επιζήμιες μοντέλα ή δεδομένα που αποκαλύπτουν φυλετική ή φυλετική προκατάληψη σε μια απόφαση δανειοδότησης. Πληροφορίες όπως ονόματα και φύλο θα μπορούσαν να είναιproxies για την ταξινόμηση και την αναγνώριση αιτητών με παράνομους τρόπους. Ακόμη και αν η προκατάληψη είναι αθέλητη, εξακολουθεί να θέτει τον οργανισμό σε κίνδυνο, καθώς δεν συμμορφώνεται με τις απαιτήσεις της νομοθεσίας και θα μπορούσε να οδηγήσει σε ορισμένες ομάδες ανθρώπων να απορρίπτονται άδικα δάνεια ή πιστωτικές γραμμές.

Σημερινά, οι οργανισμοί δεν έχουν τα απαραίτητα στοιχεία για να μειώσουν επιτυχώς την προκατάληψη στα συστήματα AI. Αλλά με το AI που αναπτύσσεται όλο και περισσότερο στις επιχειρήσεις για να ενημερώσει τις αποφάσεις, είναι ζωτικό να προσπαθούν οι οργανισμοί να μειώσουν την προκατάληψη, όχι μόνο για ηθικούς λόγους, αλλά και για να συμμορφωθούν με τις απαιτήσεις της νομοθεσίας και να χτίσουν έσοδα.

“Δίκαιη-Ενημερωμένη” Πολιτισμός και Υλοποίηση

Οι λύσεις που επικεντρώνονται στη δίκαιη-ενημερωμένη σχεδίαση και υλοποίηση θα έχουν τα πιο οφέλημα αποτελέσματα. Οι παρόχοι πρέπει να έχουν μια αναλυτική κουλτούρα που να λαμβάνει υπόψη την υπεύθυνη απόκτηση, χειρισμό και διαχείριση δεδομένων ως απαραίτητα στοιχεία της αλγοριθμικής δίκαιης διαδικασίας, γιατί αν τα αποτελέσματα ενός έργου AI παράγονται από προκατειλημμένα, συμβιβασμένα ή στρεβλωμένα σύνολα δεδομένων, τα επηρεαζόμενα μέρη δεν θα προστατεύονται επαρκώς από τις διακρίσεις.

Αυτά είναι τα στοιχεία της δίκαιης διαδικασίας που οι ομάδες της επιστήμης των δεδομένων πρέπει να έχουν υπόψη:

• Αντιπροσωπευτικότητα: Ανавис από το контекст, είτε η υπο-αντιπροσωπευτικότητα είτε η υπερ-αντιπροσωπευτικότητα των μειονεκτικών ή νομικά προστατευμένων ομάδων στα δεδομένα μπορεί να οδηγήσει στην συστηματική μειονέκτηση των ευάλωτων μερών στα αποτελέσματα του εκπαιδευμένου μοντέλου. Για να αποφευχθούν τέτοιου είδους προκαταλήψεις δειγμάτων, η εξειδίκευση του τομέα θα είναι κρίσιμη για να αξιολογήσει την ταίριαξη μεταξύ των συλλεγμένων ή αποκτηθέντων δεδομένων και του υποκείμενου πληθυσμού που θα μοντελοποιηθεί. Τα μέλη της τεχνικής ομάδας θα πρέπει να προσφέρουν μέσα για την αποκατάσταση των αντιπροσωπευτικών ελαττωμάτων στα δείγματα.
• Κατάλληλο για τον σκοπό και επαρκής: Είναι σημαντικό να κατανοηθεί εάν τα συλλεγμένα δεδομένα είναι επαρκή για τον προορισμό του έργου. Τα ανεπαρκή σύνολα δεδομένων μπορεί να μην αντανακλούν ισότιμα τις ιδιότητες που πρέπει να ζυγισθούν για να παράγουν ένα δικαιολογημένο αποτέλεσμα που είναι συνεπές με τον επιθυμητό σκοπό του συστήματος AI. Κατά συνέπεια, τα μέλη της ομάδας του έργου με τεχνικές και πολιτικές ικανότητες θα πρέπει να συνεργαστούν για να καθορίσουν εάν η ποσότητα των δεδομένων είναι επαρκής και κατάλληλη για τον σκοπό.
• Εξουσία Πηγής και Ακρίβεια Μέτρησης: Η αποτελεσματική μείωση της προκατάληψης αρχίζει από την αρχή της διαδικασίας εξαγωγής και συλλογής δεδομένων. Και οι πηγές και τα εργαλεία μέτρησης μπορούν να εισαγάγουν διακρίσεις στο σύνολο δεδομένων. Για να εξασφαλιστεί η μη-βλαπτική διακρίση, το δείγμα δεδομένων πρέπει να έχει βέλτιστη πιστότητα πηγής. Αυτό περιλαμβάνει την εξασφάλιση ή την επιβεβαίωση ότι οι διαδικασίες συλλογής δεδομένων περιελάμβαναν κατάλληλες, αξιόπιστες και αμερόληπτες πηγές μέτρησης και ρομποτικά μέθοδοι συλλογής.
• Σύγχρονη και Πρόσφατη: Εάν τα σύνολα δεδομένων περιλαμβάνουν παλιά δεδομένα, τότε οι αλλαγές στην υποκείμενη κατανομή δεδομένων μπορεί να επηρεάσουν αρνητικά την γενικευσιμότητα του εκπαιδευμένου μοντέλου. Παρέχοντας αυτές τις διακυμάνσεις της κατανομής να αντανακλούν αλλαγές στις κοινωνικές σχέσεις ή δυναμικές ομάδων, αυτή η απώλεια ακρίβειας σχετικά με τις πραγματικές ιδιότητες του υποκείμενου πληθυσμού μπορεί να εισαγάγει προκατάληψη στο σύστημα AI. Για την πρόληψη των διακριτικών αποτελεσμάτων, η σύγχρονη και πρόσφατη κατάσταση όλων των στοιχείων του συνόλου δεδομένων πρέπει να ελεγχθεί.
• Σχετικότητα, Κατάλληλη και Γνώση Τομέα: Η κατανόηση και η χρήση των πιο κατάλληλων πηγών και τύπων δεδομένων είναι κρίσιμες για την κατασκευή ενός ρομποτικού και αμερόληπτου συστήματος AI. Η στερεά γνώση του τομέα της υποκείμενης κατανομής του πληθυσμού και του προβλεπτικού στόχου του έργου είναι ουσιαστική για την επιλογή των βέλτιστων σχετικών εισόδων μέτρησης που συνεισφέρουν στην εύλογη επίλυση του ορισμένου προβλήματος. Οι εμπειρογνώμονες του τομέα θα πρέπει να συνεργαστούν στενά με τις ομάδες της επιστήμης των δεδομένων για να βοηθήσουν στην καθοδήγηση των βέλτιστων κατάλληλων κατηγοριών και πηγών μέτρησης.

Ενώ τα συστήματα AI-βασισμένα βοηθούν στις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων και προσφέρουν οικονομίες, τα χρηματοοικονομικά ιδρύματα που εξετάζουν το AI ως λύση πρέπει να είναι προσεκτικά για να διασφαλίσουν ότι δεν λαμβάνουν χώρα προκατειλημμένες αποφάσεις. Οι ηγέτες συμμόρφωσης πρέπει να είναι σε συγχρονισμό με την ομάδα της επιστήμης των δεδομένων για να επιβεβαιώσουν ότι οι ικανότητες του AI είναι υπεύθυνες, αποτελεσματικές και απαλλαγμένες από προκατάληψη. Έχοντας μια στρατηγική που υποστηρίζει το υπεύθυνο AI είναι το σωστό πράγμα να κάνετε, και μπορεί επίσης να παρέχει einen δρόμο για τη συμμόρφωση με τις μελλοντικές κανονιστικές ρυθμίσεις του AI.