Τι είναι το Responsible AI; Αρχές, Προκλήσεις και Οφέλη

Υπεύθυνη τεχνητή νοημοσύνη Το (RAI) αναφέρεται στον σχεδιασμό και την ανάπτυξη συστημάτων τεχνητής νοημοσύνης που είναι διαφανή, αμερόληπτα, υπεύθυνα και ακολουθούν τις δεοντολογικές οδηγίες. Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται πιο εύρωστα και διαδεδομένα, είναι απαραίτητη η διασφάλιση ότι αναπτύσσονται με υπευθυνότητα και ακολουθούν τις οδηγίες ασφάλειας και δεοντολογίας.

Υγεία, Μεταφορές, Διαχείριση Δικτύων και Επιτήρηση είναι κρίσιμες για την ασφάλεια εφαρμογές τεχνητής νοημοσύνης όπου η αποτυχία του συστήματος μπορεί να έχει σοβαρές συνέπειες. Οι μεγάλες εταιρείες γνωρίζουν ότι η RAI είναι απαραίτητη για τον μετριασμό των τεχνολογικών κινδύνων. Ωστόσο, σύμφωνα με μια έκθεση του MIT Sloan/BCG που περιελάμβανε 1093 ερωτηθέντες, 54% των εταιρειών δεν είχαν υπεύθυνη τεχνογνωσία και ταλέντο σε τεχνητή νοημοσύνη.

Αν και οι ηγέτες σκέψης και οι οργανισμοί έχουν αναπτύξει αρχές για την υπεύθυνη τεχνητή νοημοσύνη, η διασφάλιση της υπεύθυνης ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξακολουθεί να παρουσιάζει προκλήσεις. Ας εξερευνήσουμε αυτή την ιδέα λεπτομερώς:

5 Αρχές για Υπεύθυνη ΤΝ

1. Δικαιοσύνη

Οι τεχνολόγοι θα πρέπει να σχεδιάσουν διαδικασίες έτσι ώστε τα συστήματα AI να αντιμετωπίζουν όλα τα άτομα και τις ομάδες δίκαια χωρίς προκατάληψη. Ως εκ τούτου, η δικαιοσύνη είναι η πρωταρχική απαίτηση σε εφαρμογές λήψης αποφάσεων υψηλού κινδύνου.

Δικαιοσύνη ορίζεται ως:

«Εξέταση του αντίκτυπου σε διάφορες δημογραφικές ομάδες και επιλογή ενός από τους πολλούς μαθηματικούς ορισμούς της δικαιοσύνης των ομάδων που θα ικανοποιεί επαρκώς το επιθυμητό σύνολο νομικών, πολιτιστικών και ηθικών απαιτήσεων».

2. Ευθύνη

Υπευθυνότητα σημαίνει ότι τα άτομα και οι οργανισμοί που αναπτύσσουν και αναπτύσσουν συστήματα AI θα πρέπει να είναι υπεύθυνοι για τις αποφάσεις και τις ενέργειές τους. Η ομάδα που αναπτύσσει συστήματα τεχνητής νοημοσύνης θα πρέπει να διασφαλίζει ότι το σύστημα τεχνητής νοημοσύνης της είναι διαφανές, ερμηνεύσιμο, ελεγχόμενο και δεν βλάπτει την κοινωνία.

Η λογοδοσία περιλαμβάνει επτά συστατικά:

1. Πλαίσιο (σκοπός για τον οποίο απαιτείται λογοδοσία)
2. Εύρος (αντικείμενο λογοδοσίας)
3. Πράκτορας (ποιος είναι υπόλογος;)
4. Φόρουμ (στο οποίο πρέπει να αναφέρει το υπεύθυνο μέρος)
5. Πρότυπα (κριτήρια λογοδοσίας)
6. Διαδικασία (μέθοδος λογοδοσίας)
7. Συνέπειες (συνέπειες της λογοδοσίας)

3. Διαφάνεια

Η διαφάνεια σημαίνει ότι ο λόγος πίσω από τη λήψη αποφάσεων στα συστήματα τεχνητής νοημοσύνης είναι σαφής και κατανοητός. Τα διαφανή συστήματα AI είναι εξηγήσιμα.

Σύμφωνα με Λίστα αξιολόγησης για αξιόπιστη τεχνητή νοημοσύνη (ALTAI), η διαφάνεια έχει τρία βασικά στοιχεία:

1. Ιχνηλασιμότητα (τα δεδομένα, τα βήματα προεπεξεργασίας και το μοντέλο είναι προσβάσιμα)
2. Επεξηγησιμότητα (το σκεπτικό πίσω από τη λήψη αποφάσεων/πρόβλεψη είναι σαφές)
3. Ανοικτή επικοινωνία (σχετικά με τον περιορισμό του συστήματος AI)

4. Μυστικότητα

Το απόρρητο είναι μία από τις βασικές αρχές της υπεύθυνης τεχνητής νοημοσύνης. Αναφέρεται στην προστασία των προσωπικών πληροφοριών. Αυτή η αρχή διασφαλίζει ότι τα προσωπικά στοιχεία των ανθρώπων συλλέγονται και υποβάλλονται σε επεξεργασία με συναίνεση και φυλάσσονται μακριά από κακόβουλο περιεχόμενο.

Όπως αποδείχθηκε πρόσφατα, υπήρξε μια περίπτωση της Clearview, μιας εταιρείας που κατασκευάζει μοντέλα αναγνώρισης προσώπου για τις αρχές επιβολής του νόμου και τα πανεπιστήμια. Παρατηρητές δεδομένων του Ηνωμένου Βασιλείου μήνυσε την Clearview AI για 7.5 εκατομμύρια £ για τη συλλογή εικόνων κατοίκων του Ηνωμένου Βασιλείου από τα μέσα κοινωνικής δικτύωσης χωρίς συγκατάθεση για τη δημιουργία βάσης δεδομένων 20 δισεκατομμυρίων εικόνων.

5. Ασφάλεια

Ασφάλεια σημαίνει διασφάλιση ότι τα συστήματα τεχνητής νοημοσύνης είναι ασφαλή και δεν απειλούν την κοινωνία. Ένα παράδειγμα απειλής για την ασφάλεια της τεχνητής νοημοσύνης είναι εχθρικές επιθέσεις. Αυτές οι κακόβουλες επιθέσεις ξεγελούν τα μοντέλα ML ώστε να λάβουν λανθασμένες αποφάσεις. Η προστασία των συστημάτων τεχνητής νοημοσύνης από επιθέσεις στον κυβερνοχώρο είναι επιτακτική ανάγκη για την υπεύθυνη τεχνητή νοημοσύνη.

4 Μείζονες Προκλήσεις & Κίνδυνοι της Υπεύθυνης ΤΝ

1. Προκατάληψη

Οι ανθρώπινες προκαταλήψεις που σχετίζονται με την ηλικία, το φύλο, την εθνικότητα και τη φυλή μπορούν να επηρεάσουν τη συλλογή δεδομένων, οδηγώντας ενδεχομένως σε προκατειλημμένα μοντέλα τεχνητής νοημοσύνης. Μελέτη του Υπουργείου Εμπορίου των ΗΠΑ διαπίστωσε ότι η τεχνητή νοημοσύνη αναγνώρισης προσώπου προσδιορίζει εσφαλμένα τα έγχρωμα άτομα. Ως εκ τούτου, η χρήση της τεχνητής νοημοσύνης για την αναγνώριση προσώπου στις αρχές επιβολής του νόμου μπορεί να οδηγήσει σε παράνομες συλλήψεις. Επίσης, η δημιουργία δίκαιων μοντέλων AI είναι πρόκληση γιατί υπάρχουν 21 διαφορετικές παραμέτρους για τον καθορισμό τους. Άρα, υπάρχει συμβιβασμός. Η ικανοποίηση μιας δίκαιης παραμέτρου AI σημαίνει θυσία μιας άλλης.

2. Ερμηνευσιμότητα

Η ερμηνευτικότητα είναι μια κρίσιμη πρόκληση για την ανάπτυξη υπεύθυνης τεχνητής νοημοσύνης. Αναφέρεται στην κατανόηση του τρόπου με τον οποίο το μοντέλο μηχανικής μάθησης έχει καταλήξει σε ένα συγκεκριμένο συμπέρασμα.

Τα βαθιά νευρωνικά δίκτυα στερούνται ερμηνείας επειδή λειτουργούν ως Μαύρα Κουτιά με πολλαπλά στρώματα κρυμμένων νευρώνων, καθιστώντας δύσκολη την κατανόηση της διαδικασίας λήψης αποφάσεων. Αυτό μπορεί να είναι μια πρόκληση στη λήψη αποφάσεων υψηλού κινδύνου όπως η υγειονομική περίθαλψη, τα οικονομικά κ.λπ.

Επιπλέον, η επισημοποίηση της ερμηνευσιμότητας στα μοντέλα ML είναι πρόκληση γιατί είναι υποκειμενικός και  συγκεκριμένο τομέα.

3. Διακυβέρνηση

Η διακυβέρνηση αναφέρεται σε ένα σύνολο κανόνων, πολιτικών και διαδικασιών που επιβλέπουν την ανάπτυξη και την ανάπτυξη συστημάτων τεχνητής νοημοσύνης. Πρόσφατα, σημειώθηκε σημαντική πρόοδος στον λόγο διακυβέρνησης της τεχνητής νοημοσύνης, με τους οργανισμούς να παρουσιάζουν πλαίσια και ηθικές κατευθυντήριες γραμμές.

Οδηγίες ηθικής για αξιόπιστη τεχνητή νοημοσύνη από την ΕΕ, Αυστραλιανό Πλαίσιο Δεοντολογίας AI, να Αρχές τεχνητής νοημοσύνης του ΟΟΣΑ είναι παραδείγματα πλαισίων διακυβέρνησης AI.

Αλλά η ταχεία πρόοδος στην τεχνητή νοημοσύνη τα τελευταία χρόνια μπορεί να ξεπεράσει αυτά τα πλαίσια διακυβέρνησης της τεχνητής νοημοσύνης. Για το σκοπό αυτό, πρέπει να υπάρχει ένα πλαίσιο που να αξιολογεί τη δικαιοσύνη, την ερμηνευτικότητα και την ηθική των συστημάτων AI.

4. Κανονισμός

Καθώς τα συστήματα τεχνητής νοημοσύνης γίνονται όλο και πιο διαδεδομένα, πρέπει να υπάρξει ρύθμιση για να λαμβάνονται υπόψη οι ηθικές και κοινωνικές αξίες. Η ανάπτυξη κανονισμών που δεν καταπνίγει την καινοτομία της τεχνητής νοημοσύνης είναι μια κρίσιμη πρόκληση για την υπεύθυνη τεχνητή νοημοσύνη.

Ακόμη και με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR), τον Νόμο περί Απορρήτου των Καταναλωτών της Καλιφόρνια (CCPA) και τον Νόμο για την Προστασία Προσωπικών Πληροφοριών (PIPL) ως ρυθμιστικούς φορείς, οι ερευνητές της τεχνητής νοημοσύνης διαπίστωσαν ότι 97% των ιστοτόπων της ΕΕ δεν συμμορφώνονται με τις απαιτήσεις του νομικού πλαισίου GDPR.

Επιπλέον, οι νομοθέτες αντιμετωπίζουν α σημαντική πρόκληση στην επίτευξη συναίνεσης σχετικά με τον ορισμό της τεχνητής νοημοσύνης που περιλαμβάνει τόσο τα κλασικά συστήματα τεχνητής νοημοσύνης όσο και τις πιο πρόσφατες εφαρμογές τεχνητής νοημοσύνης.

3 Κύρια πλεονεκτήματα της υπεύθυνης τεχνητής νοημοσύνης

1. Μειωμένη προκατάληψη

Η υπεύθυνη τεχνητή νοημοσύνη μειώνει την προκατάληψη στις διαδικασίες λήψης αποφάσεων, χτίζοντας εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης. Η μείωση της μεροληψίας στα συστήματα τεχνητής νοημοσύνης μπορεί να προσφέρει ένα δίκαιο και δίκαιο σύστημα υγειονομικής περίθαλψης και μειώνει την προκατάληψη σε συστήματα τεχνητής νοημοσύνης των χρηματοπιστωτικών υπηρεσιών και ούτω καθεξής

2. Ενισχυμένη διαφάνεια

Η υπεύθυνη τεχνητή νοημοσύνη δημιουργεί διαφανείς εφαρμογές τεχνητής νοημοσύνης που οικοδομούν εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης. Διαφανή συστήματα AI μείωση του κινδύνου λάθους και κακής χρήσης. Η ενισχυμένη διαφάνεια διευκολύνει τον έλεγχο συστημάτων τεχνητής νοημοσύνης, κερδίζει την εμπιστοσύνη των ενδιαφερομένων και μπορεί να οδηγήσει σε υπεύθυνα συστήματα τεχνητής νοημοσύνης.

3. Καλύτερη ασφάλεια

Οι ασφαλείς εφαρμογές AI διασφαλίζουν το απόρρητο των δεδομένων, παράγουν αξιόπιστα και αβλαβή αποτελέσματα και είναι ασφαλείς από επιθέσεις στον κυβερνοχώρο.

Τεχνολογικοί γίγαντες αρέσει Microsoft και  Google, που βρίσκονται στην πρώτη γραμμή της ανάπτυξης συστημάτων AI, έχουν αναπτύξει αρχές Responsible AI. Η υπεύθυνη τεχνητή νοημοσύνη διασφαλίζει ότι η καινοτομία στην τεχνητή νοημοσύνη δεν είναι επιβλαβής για τα άτομα και την κοινωνία.

Οι ηγέτες σκέψης, οι ερευνητές, οι οργανισμοί και οι νομικές αρχές θα πρέπει να αναθεωρούν συνεχώς την υπεύθυνη βιβλιογραφία της τεχνητής νοημοσύνης για να εξασφαλίσουν ένα ασφαλές μέλλον για την καινοτομία της τεχνητής νοημοσύνης.

Για περισσότερο περιεχόμενο που σχετίζεται με την τεχνητή νοημοσύνη, επισκεφθείτε ενω.αι.