Η Startup Unbiased Σκοπεύει να Αυξήσει τη Διαφάνεια στα Δεδομένα Μέσω του Blockchain, για την καταπολέμηση της Προκατάληψης στα Δεδομένα

Οι επιπτώσεις της προκατάληψης στα δεδομένα στην τεχνητή νοημοσύνη είναι καλά τεκμηριωμένες, και καθώς οι αλγόριθμοι της τεχνητής νοημοσύνης και της μηχανικής μάθησης διεισδύουν σε κάθε γωνία της κοινωνίας, οι εταιρείες τεχνητής νοημοσύνης αναζητούν νέους τρόπους για να διασφαλίσουν ότι οι αλγόριθμοι που αναπτύσσουν δεν κληρονομούν ανθρώπινες προκαταλήψεις. Ένας από τους νέους παίκτες στον χώρο της τεχνητής νοημοσύνης και της μηχανικής μάθησης, που στοχεύει στη μείωση της προκατάληψης στα δεδομένα, είναι η startup Unbiased. Η Unbiased έχει εκκινήσει einen νέο αγορά δεδομένων στην ενεργό πλατφόρμα blockchain Telos, με την ελπίδα να παρέχει στους πελάτες της αποκεντρωμένα, εργαλεία και εφαρμογές προστασίας της ιδιωτικής ζωής για την επιστήμη των δεδομένων και την τεχνητή νοημοσύνη.

Η παγκόσμια αγορά της τεχνητής νοημοσύνης προβλέπεται να συνεχίσει την ταχεία της ανάπτυξη κατά τη διάρκεια της επόμενης δεκαετίας, φθάνοντας τους 266 δισεκατομμύρια δολάρια μέχρι το 2027. Μέσα στα επόμενα τέσσερα χρόνια, οι παγκόσμιες δαπάνες για συστήματα και συστατικά της τεχνητής νοημοσύνης αναμένεται να διπλασιαστούν, φθάνοντας περίπου τα 110 δισεκατομμύρια δολάρια μέχρι το 2024, σύμφωνα με την IDC. Η ταχεία υιοθέτηση των αλγορίθμων της τεχνητής νοημοσύνης σε ολοένα και περισσότερες βιομηχανίες έχει οδηγήσει σε αυξανόμενες ανησυχίες σχετικά με τη διαφάνεια, την ιδιωτικότητα, την αξιοπρέπεια και την αντιπροσωπευτικότητα των συστημάτων της τεχνητής νοημοσύνης.

Μείωση της Προκατάληψης Μέσω της Διαφάνειας

Σύμφωνα με μια πρόσφατη έκθεση του CapGemini Research Institute, με τίτλο “Η τεχνητή νοημοσύνη και το ηθικό δίλημμα: Πώς οι οργανισμοί μπορούν να κατασκευάσουν ηθικά ρομποτικά συστήματα και να κερδίσουν εμπιστοσύνη”, η ηθική χρήση της τεχνητής νοημοσύνης έχει γίνει ένα σημαντικό ζήτημα για τους ηγέτες της τεχνολογίας σε όλο τον κόσμο, με την πλειοψηφία των ηγετών της τεχνολογίας να εκφράζουν ανησυχίες σχετικά με την πιθανή κακοποίηση των συστημάτων της τεχνητής νοημοσύνης. Περίπου 9 στις 10 οργανώσεις της τεχνολογίας δήλωσαν ότι ήταν ενήμερες για τουλάχιστον ένα περιστατικό όπου δημιουργήθηκαν ηθικά ζητήματα από την εφαρμογή ενός συστήματος της τεχνητής νοημοσύνης. Περίπου δύο τρίτα των εκτελεστικών της τεχνητής νοημοσύνης δήλωσαν ότι ήταν ενήμερες για πιθανές διακριτικές προκαταλήψεις στα συστήματα της τεχνητής νοημοσύνης, και περίπου η μισή από όλες τις οργανώσεις της τεχνολογίας έχουν einen ηθικό χάρτη που στοχεύει στην ανάπτυξη της τεχνητής νοημοσύνης, σε αντίθεση με μόνο το 5% των εταιρειών της τεχνολογίας το 2019.

Ενώ η έρευνα σχετικά με τον τρόπο με τον οποίο οι αλγόριθμοι της τεχνητής νοημοσύνης μπορούν να γίνουν πιο δίκαιοι συνεχίζεται, πολλοί ηθικοί και ειδικοί της τεχνητής νοημοσύνης εστιάζουν στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση της τεχνητής νοημοσύνης. Όσο οι αλγόριθμοι της τεχνητής νοημοσύνης γίνονται πιο πανταχού παρόντες και τυποποιημένοι, η εστίαση μεταφέρεται στην απόκτηση των δεδομένων που απαιτούνται για την εκπαίδευση των μοντέλων.

Υπάρχουν πολλές τρόποι για να μειώσετε την προκατάληψη στα δεδομένα της τεχνητής νοημοσύνης. Ορισμένες τεχνικές περιλαμβάνουν την τροποποίηση του μοντέλου ή των δεδομένων κατά την εκπαίδευση του μοντέλου. Αυτές οι τεχνικές είναι “εν διεργασία” τεχνικές διόρθωσης της προκατάληψης. Αυτό περιλαμβάνει τη χρήση τεχνικών ανταγωνιστικής εκπαίδευσης, όπου κάποιο ευαίσθητο χαρακτηριστικό/μεταβλητή (όπως το φύλο ή η φυλή) ελέγχεται με την επιβολή ποινής στην ικανότητα του μοντέλου να κάνει προβλέψεις που涉τικά με το χαρακτηριστικό αυτό. Αυτό γίνεται同時 με την προσπάθεια να ελαχιστοποιηθεί το σφάλμα του μοντέλου. Σε αντίθεση, η εστίαση στην αφαίρεση της προκατάληψης από το σύνολο δεδομένων είναι μια τεχνική προ-επεξεργασίας. Τα δεδομένα εκπαίδευσης για τα μοντέλα της μηχανικής μάθησης συχνά αναλαμβάνονται χειροκίνητα, και η εφαρμογή του blockchain θα μπορούσε να βοηθήσει τις εταιρείες να παρακολουθούν τη διαδικασία ετικέτας των δεδομένων τους για να διασφαλίσουν ότι τα σύνολα δεδομένων τους είναι αντιπροσωπευτικά.

Η Unbiased στοχεύει στο blockchain για να δημιουργήσει μια κουλτούρα της διαφάνειας μέσα στα σύνολα δεδομένων και τις αγορές δεδομένων. Τα περισσότερα εργαλεία που χρησιμοποιούνται για τη δημιουργία συνόλων δεδομένων για συστήματα της τεχνητής νοημοσύνης και αλγορίθμους της μηχανικής μάθησης είναι κεντρικά, και λόγω αυτού συχνά λείπουν της διαφάνειας. Η Unbiased στοχεύει να αξιοποιήσει τη φύση του blockchain για να καταγράψει τις ενέργειες που λαμβάνουν χώρα μέσα στην αγορά δεδομένων, η οποία περιλαμβάνει την ανταλλαγή δεδομένων, την ισοτιμία των εργασιών και των έργων, και τις συνεισφορές των εργαζομένων. Ο στόχος είναι ότι η αποκεντρωμένη φύση του blockchain του Telos να διευκολύνει τη διαφάνεια, επιτρέποντας στους χρήστες να λάβουν κρίσιμες πληροφορίες σχετικά με τη φύση της επιστήμης των δεδομένων. Οι χρήστες θα μπορούν να επικυρώσουν τα σύνολα δεδομένων τους και να καθορίσουν εάν οι αναnotaions έχουν thựcτοποιηθεί με βάση ορισμένα ηθικά принципία, όπως η δικαιοσύνη και η ιδιωτικότητα.

Σύμφωνα με τον Αρχιτέκτονα του Blockchain του Telos, η τομή της τεχνητής νοημοσύνης/μηχανικής μάθησης με το blockchain μπορεί να οδηγήσει σε μετασχηματιστικές νέες μεθόδους εργασίας με δεδομένα. Όπως αναφέρθηκε από τον Horn στο AIthority:

“Η Unbiased θα δείξει σε αυτούς τους κλάδους πώς η καταγραφή δεδομένων σε ένα υψηλής απόδοσης, χωρίς χρέωση, blockchain όπως το Telos μπορεί να προσθέσει διαφάνεια, αμεταβλητότητα, μικροπληρωμές και διακυβέρνηση στα προϊόντα τους για το όφελος όλων των μετόχων.”

Πέρα από τη διαφάνεια των δεδομένων εκπαίδευσης, ορισμένοι επιστήμονες και ερευνητές έχουν παρακαλέσει για περισσότερη διαφάνεια στα αλγόριθμα, τα μοντέλα και τον κώδικα. Μια διεθνής ομάδα επιστημόνων ζήτησε από τα επιστημονικά περιοδικά να τηρήσουν υψηλότερες προδιαγραφές διαφάνειας για τους ερευνητές της τεχνητής νοημοσύνης. Οι ερευνητές επιχειρηματολόγησαν ότι μεγαλύτερη διαφάνεια σχετικά με τα μοντέλα και τον κώδικα της τεχνητής νοημοσύνης θα βοηθούσε не μόνο στην αναπαραγωγιμότητα των μελετών, αλλά και στη συνεργασία μεταξύ ερευνητικών ομάδων. Πολλές επιστημονικές μελέτες δεν μπορούν να αναπαραχθούν, και αυτό είναι ένα ακόμη μεγαλύτερο πρόβλημα για τις μελέτες της τεχνητής νοημοσύνης που αφήνουν εκτός κρίσιμα υλικά. Στο μέλλον, το blockchain θα μπορούσε ακόμη και να χρησιμοποιηθεί για τη βελτίωση της παρακολούθησης και της αξιολόγησης της έρευνας στον τομέα της τεχνητής νοημοσύνης.