Προκατάληψη και Δικαιοσύνη των Συστημάτων Βασισμένων στο AI Εντός της Οικονομικής Εγκληματικότητας

Όταν πρόκειται για την καταπολέμηση της οικονομικής εγκληματικότητας, υπάρχουν προκλήσεις που υπερβαίνουν το πεδίο της απλής αποτροπής των απάτων ή άλλων κακών ενεργειών.

Nieες προηγμένες τεχνολογίες που εκκινούν συχνά έχουν τα δικά τους συγκεκριμένα ζητήματα που πρέπει να ληφθούν υπόψη κατά τη διάρκεια των σταδίων υιοθέτησης για να καταπολεμήσουν επιτυχώς τους απάτες χωρίς τις επιπτώσεις της ρυθμιστικής. Στην ανίχνευση απάτης, η δικαιοσύνη του μοντέλου και η προκατάληψη των δεδομένων μπορούν να εμφανιστούν όταν ένα σύστημα είναι πιο βαρύ ή έλλειψη αντιπροσώπευσης ορισμένων ομάδων ή κατηγοριών δεδομένων. Θεωρητικά, ένα προβλεπτικό μοντέλο θα μπορούσε να συσχετίσει λανθασμένα τα επώνυμα από άλλους πολιτισμούς με απάτη ή να μειώσει ψευδώς τον κίνδυνο εντός τμημάτων του πληθυσμού για某タイプ οικονομικών δραστηριοτήτων.

Τα προκατειλημμένα συστήματα AI μπορούν να αντιπροσωπεύουν einen σοβαρό κίνδυνο όταν οι φήμες μπορεί να επηρεαστούν και συμβαίνει όταν τα διαθέσιμα δεδομένα δεν είναι αντιπροσωπευτικά του πληθυσμού ή του φαινομένου της εξερεύνησης. Αυτά τα δεδομένα δεν περιλαμβάνουν μεταβλητές που να κατοχυρώνουν σωστά το φαινόμενο που θέλουμε να προβλέψουμε. Ή εναλλακτικά, τα δεδομένα θα μπορούσαν να περιλαμβάνουν περιεχόμενο που παράγεται από ανθρώπους, το οποίο μπορεί να περιέχει προκατάληψη κατά των ομάδων ανθρώπων, κληρονομιά από πολιτισμικές και προσωπικές εμπειρίες, οδηγώντας σε παραμορφώσεις κατά την λήψη αποφάσεων. Ενώ αρχικά τα δεδομένα μπορεί να φαίνονται αντικειμενικά, συλλέγονται και αναλύονται από ανθρώπους και μπορούν επομένως να είναι προκατειλημμένα.

Ενώ δεν υπάρχει ασημένιο βόλι όταν πρόκειται για την αποκατάσταση των κινδύνων της διακρίσεως και της αδικίας στα συστήματα AI ή μόνιμες λύσεις στο πρόβλημα της δικαιοσύνης και της μείωσης της προκατάληψης στη διαμόρφωση του μοντέλου μηχανικής μάθησης και χρήσης, αυτά τα ζητήματα πρέπει να ληφθούν υπόψη για τόσο κοινωνικούς όσο και επιχειρηματικούς λόγους.

Κάνε το Σωστό Πράγμα στο AI

Η αντιμετώπιση της προκατάληψης στα συστήματα βασισμένα στο AI δεν είναι μόνο το σωστό πράγμα, αλλά και το έξυπνο πράγμα για τις επιχειρήσεις — και οι στοίχοι για τους ηγέτες των επιχειρήσεων είναι υψηλοί. Τα προκατειλημμένα συστήματα AI μπορούν να οδηγήσουν τις οικονομικές ιδρύματα στο λάθος μονοπάτι με την κατανομή ευκαιριών, πόρων, πληροφοριών ή ποιότητας υπηρεσιών με άδικο τρόπο. Έχουν ακόμη και το δυναμικό να παραβιάσουν τις πολιτικές ελευθερίες, να θέσουν σε κίνδυνο την ασφάλεια των ατόμων ή να επηρεάσουν το bien-être ενός ατόμου εάν θεωρηθούν ως αποδοκιμαστικά ή προσβλητικά.

Είναι σημαντικό για τις επιχειρήσεις να κατανοήσουν τη δύναμη και τους κινδύνους της προκατάληψης του AI. Αν και συχνά αγνοούνται από το ίδρυμα, ένα προκατειλημμένο σύστημα AI-βασισμένο θα μπορούσε να χρησιμοποιεί επιζήμιες μοντέλα ή δεδομένα που εκθέτουν φυλετική ή φυλετική προκατάληψη σε μια απόφαση δανειοδότησης. Πληροφορίες όπως ονόματα και φύλο θα μπορούσαν να είναιproxies για την ταξινόμηση και την αναγνώριση των αιτούντων με παράνομους τρόπους. Ακόμη και αν η προκατάληψη είναι ακούσια, εξακολουθεί να θέτει το ίδρυμα σε κίνδυνο με την μη συμμόρφωση με τις ρυθμιστικές απαιτήσεις και θα μπορούσε να οδηγήσει σε ορισμένες ομάδες ανθρώπων να απορρίπτονται άδικα δάνεια ή γραμμές πίστωσης.

Σημερινά, οι οργανισμοί δεν έχουν τα κομμάτια στη θέση τους για να μειώσουν επιτυχώς την προκατάληψη στα συστήματα AI. Αλλά με το AI που αναπτύσσεται όλο και περισσότερο σε επιχειρήσεις για να ενημερώσει τις αποφάσεις, είναι ζωτικό για τις οργανώσεις να καταβάλουν προσπάθειες για να μειώσουν την προκατάληψη, όχι μόνο για ηθικούς λόγους, αλλά και για να συμμορφωθούν με τις ρυθμιστικές απαιτήσεις και να κατασκευάσουν έσοδα.

“Δίκαιη” Πολιτισμός και Εφαρμογή

Οι λύσεις που επικεντρώνονται στη δίκαιη σχεδίαση και εφαρμογή θα έχουν τα πιο ωφέλιμα αποτελέσματα. Οι παρόχοι πρέπει να έχουν μια αναλυτική κουλτούρα που λαμβάνει υπόψη την υπεύθυνη απόκτηση, χειρισμό και διαχείριση των δεδομένων ως απαραίτητα στοιχεία της αλγορίθμου δίκαιης, γιατί αν τα αποτελέσματα ενός έργου AI παράγονται από προκατειλημμένα, συμβιβασμένα ή σκευασμένα σύνολα δεδομένων, τα επηρεαζόμενα μέρη δεν θα προστατεύονται επαρκώς από τις διακριτικές βλάβες.

Αυτά είναι τα στοιχεία της δίκαιης των δεδομένων που οι ομάδες επιστημών δεδομένων πρέπει να έχουν υπόψη:

• Αντιπροσωπευτικότητα:Ανάλογα με το контέκστ, είτε η υπο-αντιπροσωπευτικότητα ή η υπερ-αντιπροσωπευτικότητα των μειονεκτικών ή νομικά προστατευμένων ομάδων στα δεδομένα δείγματος μπορεί να οδηγήσει στη συστηματική μειονέκτηση των ευάλωτων μερών στα αποτελέσματα του εκπαιδευμένου μοντέλου. Για να αποφευχθεί τέτοιου είδους δείγματος προκατάληψης, η εξειδίκευση του τομέα θα είναι κρίσιμη για να αξιολογήσει τη συμβατότητα μεταξύ των συλλεγμένων ή αποκτηθέντων δεδομένων και του υποκείμενου πληθυσμού που μοντελοποιείται. Τα μέλη της τεχνικής ομάδας πρέπει να προσφέρουν μέσα για να διορθώσουν τις αντιπροσωπευτικές ελαττώματα στο δείγμα.
• Κατάλληλο για τον σκοπό και επάρκεια:Είναι σημαντικό να κατανοηθεί εάν τα συλλεγμένα δεδομένα είναι επαρκή για τον προβλεπόμενο σκοπό του έργου. Μη επαρκή σύνολα δεδομένων μπορεί να μην αντανακλούν ισότιμα τις ιδιότητες που πρέπει να ζυγιστούν για να παράγουν एक δικαιολογημένο αποτέλεσμα που είναι συνεπές με τον επιθυμητό σκοπό του συστήματος AI. Κατάλληλα, τα μέλη της ομάδας του έργου με τεχνικές και πολιτικές ικανότητες πρέπει να συνεργαστούν για να καθορίσουν εάν η ποσότητα των δεδομένων είναι επαρκής και κατάλληλη για τον σκοπό.
• Ακεραιότητα της πηγής και ακρίβεια μέτρησης:Η αποτελεσματική μείωση της προκατάληψης αρχίζει από την αρχή της διαδικασίας εξαγωγής και συλλογής δεδομένων. Και οι πηγές και τα εργαλεία μέτρησης μπορούν να εισαγάγουν διακριτικές παράμετροι στο σύνολο δεδομένων. Για να εξασφαλιστεί η μη ζημιογόνος διακρίση, το δείγμα δεδομένων πρέπει να έχει βέλτιστη ακεραιότητα πηγής. Αυτό περιλαμβάνει την ασφάλεια ή την επιβεβαίωση ότι οι διαδικασίες συλλογής δεδομένων εμπλέκουν κατάλληλες, αξιόπιστες και αμερόληπτες πηγές μέτρησης και ροβούστα μεθόδους συλλογής.
• Συγχρονικότητα και Πρόσφατο:Εάν τα σύνολα δεδομένων περιλαμβάνουν παλιά δεδομένα, τότε οι αλλαγές στην υποκείμενη κατανομή δεδομένων μπορεί να επηρεάσουν δυσμενώς την γενικευσιμότητα του εκπαιδευμένου μοντέλου. Παρέχοντας αυτές τις διακυμάνσεις αντανακλούν αλλαγές στις κοινωνικές σχέσεις ή δυναμικές ομάδων, αυτή η απώλεια ακρίβειας σχετικά με τις πραγματικές ιδιότητες του υποκείμενου πληθυσμού μπορεί να εισαγάγει προκατάληψη στο σύστημα AI. Για την πρόληψη των διακριτικών αποτελεσμάτων, η συγχρονικότητα και η πρόσφατο όλων των στοιχείων του συνόλου δεδομένων πρέπει να ελεγχθούν.
• Συσχέτιση, Κατάλληλο και Γνώση Τομέα:Η κατανόηση και χρήση των πιο κατάλληλων πηγών και τύπων δεδομένων είναι κρίσιμες για την κατασκευή ενός ροβούστου και αμερόληπτου συστήματος AI. Η στερεά γνώση του τομέα της υποκείμενης κατανομής πληθυσμού και του προβλεπτικού σκοπού του έργου είναι ουσιαστική για την επιλογή των πιο σχετικών εισόδων μέτρησης που συμβάλλουν στη λογική επίλυση του ορισμένου λύσης. Οι εμπειρογνώμονες του τομέα πρέπει να συνεργαστούν στενά με τις ομάδες επιστημών δεδομένων για να βοηθήσουν στην καθοδήγηση των πιο κατάλληλων κατηγοριών και πηγών μέτρησης.

Ενώ τα συστήματα AI-βασισμένα βοηθούν στις αυτοματοποιημένες διαδικασίες λήψης αποφάσεων και προσφέρουν οικονομίες, οι οικονομικές ιδρύσεις που θεωρούν το AI ως λύση πρέπει να είναι προσεκτικές για να διασφαλίσουν ότι δεν λαμβάνονται προκατειλημμένες αποφάσεις. Οι ηγέτες της συμμόρφωσης πρέπει να είναι σε συντονισμό με την ομάδα επιστημών δεδομένων για να επιβεβαιώσουν ότι οι ικανότητες του AI είναι υπεύθυνες, αποτελεσματικές και ελεύθερες από προκατάληψη. Έχοντας μια στρατηγική που προωθεί την υπεύθυνη χρήση του AI είναι το σωστό πράγμα να κάνετε, και μπορεί επίσης να προσφέρει einen δρόμο για τη συμμόρφωση με τις μελλοντικές ρυθμίσεις του AI.