Η Βάση Δεδομένων Συμβάντων AI Σκοπεύει να Κάνει τις Αλγορίθμες AI Ασφαλέστερες

Κάθε αρκετά μεγάλο σύστημα θα έχει σφάλματα και μέρος της διόρθωσης αυτών των σφαλμάτων είναι η existence μιας βάσης δεδομένων τους που μπορεί να αναλυθεί για τις επιπτώσεις και τις πιθανές αιτίες. Παρόμοια με το FDA διατηρεί μια βάση δεδομένων για αντίρροπα φαρμακευτικά αποτελέσματα, ή το Εθνικό Συμβούλιο Ασφάλειας Μεταφορών διατηρεί μια βάση δεδομένων για αεροπορικά ατυχήματα, η Βάση Δεδομένων Συμβάντων AI είναι μια βάση δεδομένων που προορίζεται να καταγράψει τις αποτυχίες των συστημάτων AI και να βοηθήσει τους ερευνητές AI να σχεδιάσουν νέες μεθόδους για την αποφυγή αυτών των αποτυχιών. Οι δημιουργοί της Βάσης Δεδομένων Συμβάντων AI (AIID) ελπίζουν ότι θα βοηθήσει τις εταιρείες AI να αναπτύξουν ασφαλέστερες, πιο ηθικές λύσεις AI.

Τι είναι το AIID;

Το AIID είναι το προϊόν του οργανισμού Partnership on AI (PAI). Ο PAI ιδρύθηκε αρχικά το 2016 από μέλη των ομάδων έρευνας AI σε μεγάλες εταιρείες τεχνολογίας όπως η Facebook (META ), η Apple (AAPL ), η Amazon (AMZN ), η Google (GOOGL ), η IBM και η Microsoft. Από τότε, ο οργανισμός έχει προσλάβει μέλη από πολλές άλλες οργανώσεις, συμπεριλαμβανομένων διαφόρων μη κερδοσκοπικών οργανισμών. Το 2018, ο PAI ξεκίνησε να δημιουργήσει ένα συνεπές πρότυπο ταξινόμησης για τις αποτυχίες AI. Ωστόσο, δεν υπήρχε συλλογή συμβάντων AI στην οποία να βασιστεί αυτή η ταξινόμηση. Για αυτόν τον λόγο, ο PAI δημιούργησε το AIID.

Σύμφωνα με το TechTalks, το格式 του AIID επηρεάστηκε από τη δομή της βάσης δεδομένων αεροπορικών ατυχημάτων που διατηρεί το Εθνικό Συμβούλιο Ασφάλειας Μεταφορών. Από τότε που ξεκίνησε η συλλογή αναφορών το 1996, το σύστημα εμπορικής αεροπορικής ταξίδευσης έχει κατορθώσει να αυξήσει την ασφάλεια της αεροπορικής βιομηχανίας αρχειοθετώντας και αναλύοντας τα ατυχήματα. Η ελπίδα είναι ότι μια παρόμοια αποθήκη συμβάντων AI μπορεί να κάνει τα συστήματα AI ασφαλέστερα, πιο ηθικά και πιο αξιόπιστα. Το AIID έλαβε επίσης έμπνευση από τη βάση δεδομένων Common Vulnerabilities and Exposures, η οποία είναι μια αποθήκη αξιοσημείωτων αποτυχιών λογισμικού που καλύπτει eine ποικιλία διαφορετικών βιομηχανιών και επιστημών.

Ο Sean McGregor είναι ο αρχισυντάκτης της IBM για το Watson AI XPRIZE. Ο McGregor είναι επίσης υπεύθυνος για την επίβλεψη της ανάπτυξης της βάσης δεδομένων του AIID. Ο McGregor εξήγησε ότι ο στόχος του AIID είναι τελικά να αποτρέψει τα συστήματα AI από το να προκαλούν ζημιά ή τουλάχιστον να μειώσει τη σοβαρότητα των αντίρροπων συμβάντων. Όπως σημείωσε ο McGregor, τα συστήματα μάθησης με την βοήθεια μηχανής είναι σημαντικά πιο σύνθετα και απρόβλεπτα από τα παραδοσιακά συστήματα λογισμικού και ως αποτέλεσμα, δεν μπορούν να δοκιμαστούν με τον ίδιο τρόπο που δοκιμάζονται άλλα λογισμικά. Τα συστήματα μάθησης με την βοήθεια μηχανής μπορούν να αλλάξουν τη συμπεριφορά τους με απρόβλεπτο τρόπο. Ο McGregor σημείωσε ότι η ικανότητα των συστημάτων βαθιάς μάθησης να μαθαίνουν μπορεί να σημαίνει ότι «οι βλάβες είναι πιο πιθανές, πιο σύνθετες και πιο επικίνδυνες» όταν εισέρχονται σε ένα μη δομημένο κόσμο.

Περισσότερα από 1.000 Συμβάντα Σχετικά με το AI Καταγράφηκαν

Από τότε που δημιουργήθηκε το AIID, έχουν καταγραφεί περισσότερα από 1.000 συμβάντα σχετικά με το AI στη βάση δεδομένων. Από όλα τα συμβάντα στη βάση δεδομένων, τα ζητήματα που αφορούν την ισότητα του AI ήταν το πιο συχνό είδος αντίρροπων συμβάντων. Πολλά από αυτά τα συμβάντα ισότητας αφορούν τη χρήση αλγορίθμων αναγνώρισης προσώπου από κυβερνητικές υπηρεσίες. Ο McGregor σημείωσε επίσης ότι υπάρχει αυξανόμενος αριθμός συμβάντων που αφορούν ρομπότ που προστίθενται στη βάση δεδομένων.

Οι επισκέπτες της βάσης δεδομένων μπορούν να εκτελέσουν ερωτηματικές, αναζητώντας τη βάση δεδομένων για συμβάντα με βάση κριτήρια όπως λέξεις-κλειδιά, αναγνωριστικό συμβάντος, πηγή ή συγγραφέα. Για παράδειγμα, η εκτέλεση μιας αναζήτησης για «Deepfake» επιστρέφει 7 αναφορές, ενώ η αναζήτηση για «ρομπότ» επιστρέφει 158 αναφορές.

Μια κεντρική βάση δεδομένων για τα συμβάντα που τα συστήματα AI δεν λειτουργούν όπως αναμένεται μπορεί να βοηθήσει τους ερευνητές, τους μηχανικούς και τους ηθικούς να εποπτεύουν την ανάπτυξη και την ανάπτυξη των συστημάτων AI. Οι προϊστάμενοι προϊόντων στις εταιρείες τεχνολογίας μπορούν να χρησιμοποιήσουν το AIID για να δουν αν υπάρχουν潜在ικά προβλήματα πριν από την υιοθέτηση συστημάτων σύσταση AI, ή ένας μηχανικός AI μπορεί να λάβει μια ιδέα για τις πιθανές προκαταλήψεις που πρέπει να διορθωθούν κατά την δημιουργία της εφαρμογής AI. Παρόμοια, οι αξιωματούχοι κινδύνου μπορούν να χρησιμοποιήσουν τη βάση δεδομένων για να καθορίσουν πιθανές αρνητικές παρενέργειες που σχετίζονται με ένα μοντέλο AI, επιτρέποντάς τους να προγραμματίσουν και να αναπτύξουν μέτρα για την μείωση των πιθανών ζημιών.

Η αρχιτεκτονική που υποστηρίζει το AIID προορίζεται να είναι ευέλικτη, καθώς αυτό επιτρέπει τη δημιουργία νέων εργαλείων για την αναζήτηση της βάσης δεδομένων και την εξαγωγή σημαντικών πληροφοριών. Ο Partnership on AI και ο McGregor θα συνεργαστούν για να σχεδιάσουν μια ευέλικτη ταξινόμηση που μπορεί να χρησιμοποιηθεί για την ταξινόμηση όλων των διαφορετικών μορφών συμβάντων AI. Η ομάδα ελπίζει ότι όταν δημιουργηθεί η ευέλικτη ταξινόμηση, θα μπορεί να συνδυαστεί με ένα αυτοματοποιημένο σύστημα που θα καταγράφει αυτόματα τα συμβάντα AI.

«Η κοινότητα AI έχει αρχίσει να μοιράζεται εγγραφές συμβάντων μεταξύ τους για να κινητοποιήσει αλλαγές στα προϊόντα, τις διαδικασίες ελέγχου και τα προγράμματα έρευνας», εξήγησε ο McGregor μέσω TechTalks. «Η ιστοσελίδα κυκλοφόρησε δημόσια τον Νοέμβριο, οπότε μόλις αρχίζουμε να αντιλαμβανόμαστε τα οφέλη του συστήματος.»