Navrina Singh, CEO και Ιδρυτής της Credo AI – Σειρά Συνεντεύξεων

Η Navrina Singh είναι CEO και Ιδρύτρια της Credo AI, μια εταιρεία που σχεδιάζει την πρώτη綜合ική πλατφόρμα SaaS για τη διακυβέρνηση του AI, η οποία επιτρέπει στις εταιρείες και τους ατόμους να κατανοήσουν καλύτερα και να παραδώσουν αξιόπιστα και ηθικά AI, να προηγηθούν των νέων κανονισμών και πολιτικών και να δημιουργήσουν ένα αρχείο AI που είναι ελέγξιμο και διαφανές σε όλη την οργάνωση. Η εταιρεία λειτουργεί σε μυστική λειτουργία και έχει δημιουργήσει ένα εντυπωσιακό χαρτοφυλάκιο πελατών που περιλαμβάνει einen από τους μεγαλύτερους κυβερνητικούς συμβούλους και εταιρείες χρηματοοικονομικών υπηρεσιών στον κόσμο, μεταξύ άλλων εταιρειών Fortune 100.

Μεγαλώσατε σε μια μικρή πόλη στην Ινδία με ταπεινές αρχές, πώς σας έρθανε τα πρώτα σας ενδιαφέροντα για την μηχανική και το πεδίο του AI;

Προέρχομαι από μια μεσαία οικογένεια· ο πατέρας μου ήταν στον στρατό για τέσσερις δεκαετίες και η μητέρα μου ήταν δασκάλα που έγινε σχεδιάστρια μόδας. Από νεαρή ηλικία, με ενθάρρυναν πάντα να αναπτύσσω την περιέργεια, την αγάπη για τις επιστημονικές ανακαλύψεις και μου παρείχαν ένα ασφαλές μέρος για να εξερευνήσω τα «τι αν».

Όταν μεγάλωνα στην Ινδία, οι γυναίκες δεν είχαν τόσες ευκαιρίες όσο οι άνδρες. Πολλές αποφάσεις είχαν ήδη ληφθεί για μια κοπέλα, με βάση το τι ήταν αποδεκτό από την κοινωνία. Ο μόνος τρόπος να απομακρύνεστε και να προσφέρετε μια καλή ζωή στην οικογένειά σας ήταν μέσω της εκπαίδευσης.

Μετά την αποφοίτησή μου από το λύκειο, αγόρασα τον πρώτο μου υπολογιστή, ο οποίος ήταν το παράθυρό μου στον κόσμο. Ήμουν πραγματικά ενθουσιασμένος με το υλικό και πέρασα ώρες在线 μαθαίνοντας πώς να αποσυναρμολογώ μητρικές πλακέτες, να κατασκευάζω εφαρμογές ρομποτικής, να μαθαίνω να προγραμματίζω, να ξανακάνω την ηλεκτρική εγκατάσταση στο σπίτι μου (ωχ!) και πολλά άλλα. Η μηχανική έγινε ο ασφαλής μου χώρος, όπου μπορούσα να πειραματίζομαι, να εξερευνώ, να κατασκευάζω και να ζήσω έναν κόσμο που ήθελα να ανήκω μέσω των εφευρέσεων μου. Ήμουν ενθουσιασμένος και ενθουσιασμένος με το πώς η τεχνολογία θα μπορούσε να είναι ένα ισχυρό εργαλείο για να επηρεάσει την αλλαγή, ιδιαίτερα για τις γυναίκες.

Μεγαλώνοντας, οι δυνατότητές μου ήταν περιορισμένες, αλλά οι δυνατότητες δεν ήταν. Πάντα ονειρευόμουν να έρθω στις Ηνωμένες Πολιτείες για να χτίσω μια ισχυρότερη βάση στην τεχνολογία για να λύσω τις μεγαλύτερες προκλήσεις που αντιμετωπίζει η ανθρωπότητα. Μετανάστησα εδώ το 2001, για να συνεχίσω το ταξίδι μου στη μηχανική στο Πανεπιστήμιο του Ουισκόνσιν Μάντισον.

Κατά τη διάρκεια των σχεδόν δύο δεκαετιών μου στη μηχανική, είχα την τιμή να εργαστώ σε πολλές πρωτοποριακές τεχνολογίες, από κινητά τηλέφωνα σε επαυξημένη πραγματικότητα.

Το 2011, άρχισα να εξερευνώ την Τεχνητή Νοημοσύνη για να χτίσω νέες αναδυόμενες επιχειρήσεις στην Qualcomm (QCOM ). Έχω επίσης περάσει χρόνο να χτίζω επιχειρήσεις και εφαρμογές σε AI σε ομιλία, όραση και NLP στην Microsoft (MSFT ) και Qualcomm, κατά τη διάρκεια της τελευταίας δεκαετίας. Όσο μάθαινα περισσότερα για την Τεχνητή Νοημοσύνη και το machine learning, έγινε σαφές ότι αυτή η πρωτοποριακή τεχνολογία θα διαταράξει drammatically τις ζωές μας πέρα από ό,τι μπορούμε να φανταστούμε.

Η κατασκευή μεγάλης κλίμακας Τεχνητής Νοημοσύνης με έκανε επίσης να κατανοήσω πώς η τεχνολογία μπορεί να κάνει μια δυσυervice στους ανθρώπους και τις κοινότητες, αν αφήνεται χωρίς έλεγχο. Chúng tôi, ως ηγέτες, πρέπει να αναλάβουμε ακραία ευθύνη για τις τεχνολογίες που χτίζουμε. Πρέπει να είμαστε προληπτικοί στο να μεγιστοποιήσουμε τα οφέλη για την ανθρωπότητα και να ελαττώσουμε τον κίνδυνο. Μετά από όλα «Τι κάνουμε, μας κάνει» Οπότε η κατασκευή με ευθύνη είναι κρίσιμη, η οποία έχει εμπνεύσει τη nächste φάση της καριέρας μου στη διακυβέρνηση του AI.

Πότε ξεκινήσατε σοβαρά να σκέφτεστε για τη διακυβέρνηση του AI;

Όταν ήμουν επικεφαλής της καινοτομίας στην Qualcomm, εξερευνούσα τις δυνατότητες που θα μπορούσε να φέρει η Τεχνητή Νοημοσύνη στις αναδυόμενες επιχειρήσεις μας. Η αρχική μας δουλειά ήταν επικεντρωμένη σε συνεργατικά ρομπότ που χρησιμοποιούνταν στην αλυσίδα εφοδιασμού. Αυτή ήταν η πρώτη μου έκθεση στο «πραγματικό» κίνδυνο της Τεχνητής Νοημοσύνης, ιδιαίτερα σε σχέση με την φυσική ασφάλεια των ανθρώπων που λειτουργούσαν μαζί με αυτά τα ρομποτικά συστήματα.

Κατά τη διάρκεια αυτής της περιόδου, περάσαμε σημαντικό χρόνο με startups, όπως η Soul Machines, μαθαίνοντας νέες περιπτώσεις χρήσης και βρίσκοντας τρόπους να συνεργαστούμε μαζί τους για να επιταχύνουμε τη δουλειά μας. Η Soul Machines είχε κυκλοφορήσει μια νέα έκδοση του baby avatar, «Baby X». Παρακολουθώντας αυτό το νευρωνικό δίκτυο που ενεργοποιούσε το μωρό, μάθαινε ενεργά από τον κόσμο γύρω του, με έκανε να σταματήσω και να σκεφτώ sobre τις απρόβλεπτες συνέπειες αυτής της τεχνολογίας. Η κόρη μου Ziya γεννήθηκε περίπου την ίδια εποχή, και μας της έδωσαν το παρατσούκλι «Baby Z» μετά το «Baby X» της Soul Machines. Έχω μιλήσει γι’ αυτό πολύ, συμπεριλαμβανομένης της Ομιλίας Γυναικών στο Προϊόν το 2019.

Οι μαθησιακές διαδρομές του Baby X και του Baby Z ήταν ερμητικά παρόμοιες! Όσο η Ziya μεγάλωνε, τους παρείχαμε την αρχική λεξιλόγιο και τα εργαλεία για να μάθουν. Μετά από κάποιο χρόνο, άρχισε να κατανοεί τον κόσμο και να τοποθετεί τα πράγματα μαζί της. Το νευρωνικό μωρό, το Baby X, μάθαινε επίσης μέσω αισθητήρων όρασης και αναγνώρισης ομιλίας, και γρήγορα χτίζοντας μια βαθιά κατανόηση του ανθρώπινου κόσμου.

Αυτές οι πρώτες στιγμές της Τεχνητής Νοημοσύνης με έκαναν να κατανοήσω ότι ήταν κρίσιμο να βρούμε τρόπους για να διαχειριστούμε τον κίνδυνο και να τοποθετήσουμε αποτελεσματικούς φραγμούς γύρω από αυτή τη शकτική τεχνολογία για να διασφαλίσουμε ότι αναπτύσσεται για το καλό.

Μπορείτε να μοιραστείτε την ιστορία της Credo AI;

Μετά την Qualcomm, μου ζητήθηκε να ηγηθώ της εμπορευματοποίησης των τεχνολογιών AI στην Microsoft στην ομάδα ανάπτυξης επιχειρήσεων και, στη συνέχεια, στην ομάδα προϊόντων. Κατά τη διάρκεια της θητείας μου, είχα την τύχη να εργαστώ σε ένα φάσμα τεχνολογιών AI με εφαρμογές σε περιπτώσεις από την ομιλία AI σε συμβουλευτική νοημοσύνη, και από τις οπτικές επιθεωρήσεις στην ομιλία που ενεργοποιεί την ανακάλυψη προϊόντων.

Ωστόσο, ο σπόρος της διακυβέρνησης του AI που φυτρώθηκε στην Qualcomm συνέχισε να μεγαλώνει καθώς συνέχιζα να μαρτυρώ την αυξανόμενη «έλλειψη εποπτείας» στην ανάπτυξη τεχνολογιών Τεχνητής Νοημοσύνης. Ως ηγέτης προϊόντων που εργαζόμουν με την ομάδα επιστημών δεδομένων και μηχανικής, μας мотίβισε να χτίσουμε μια υψηλής απόδοσης εφαρμογή AI που ενεργοποιούταν από το machine learning και να την αναπτύξουμε γρήγορα στην αγορά.

Είδαμε την συμμόρφωση και τη διακυβέρνηση ως ελέγχους που επιβράδυναν το ρυθμό της καινοτομίας. Ωστόσο, οι αυξανόμενες ανησυχίες μου για το έλλειμμα διακυβέρνησης μεταξύ των τεχνικών και των επαγγελματιών της εποπτείας σε κίνδυνο, με έκαναν να συνεχίσω να εξερευνώ τις προκλήσεις στην επίτευξη της διακυβέρνησης του AI.

Όλες οι ανεξέλεγκτες ερωτήσεις σχετικά με τη διακυβέρνηση του AI με έκαναν να αναζητήσω απαντήσεις. Έτσι, άρχισα να χτίζω τις βάσεις για einen μη κερδοσκοπικό οργανισμό με το όνομα MERAT (Αγορά για Εργαλεία AI Ηθικής και Ευθύνης) με στόχο να δημιουργήσω einen οικοσύστημα για startups και Global 2000s που επικεντρώνονται στην υπεύθυνη ανάπτυξη του AI.

Μέσω της πρώιμης πειραματικής εργασίας στο MERAT, έγινε σαφές ότι δεν υπήρχαν startups που να ενεργοποιούν πολυ-ενδιαφερόμενα εργαλεία για να ενισχύσουν την綜合ική διακυβέρνηση των εφαρμογών AI και ML – μέχρι την Credo AI. Αυτό το κενό ήταν η ευκαιρία μου να πραγματοποιήσω την αποστολή της καθοδήγησης του AI με πρόθεση. Η υπόθεσή μου συνέχισε να επικυρώνεται ότι η επόμενη πορεία της επανάστασης του AI θα καθοδηγηθεί από τη διακυβέρνηση. Οι επιχειρήσεις που θα ενστερνιστούν τη διακυβέρνηση θα αναδυθούν ως οι ηγέτες στις αξιόπιστες μάρκες.

Μου ζητήθηκε από τον AI Fund, einen孵化器 που ιδρύθηκε από τον Andrew Ng, einen αναγνωρισμένο εμπειρογνώμονα του AI. Ο AI Fund είχε επικεντρωθεί στα ίδια θέματα της εποπτείας και της διακυβέρνησης του AI που είχα καταναλώσει για την τελευταία δεκαετία.

Η Credo AI ιδρύθηκε στις 28 Φεβρουαρίου 2020, με χρηματοδότηση από τον AI Fund.

Το Credo σημαίνει «ένας σύνολο αξιών που καθοδηγεί τις ενέργειές σας». Με την Credo AI, η αποστολή μας είναι να ενδυναμώσουμε τις επιχειρήσεις να δημιουργήσουν AI με τα υψηλότερα ηθικά πρότυπα.

Σε μια πρότερη συνέντευξη, συζητήσατε πώς οι μάρκες στο μέλλον θα είναι αξιόπιστες όχι μόνο με βάση το πώς χτίζουν και αναπτύσσουν το AI, αλλά και με βάση το πώς το κλιμακώνουν για να είναι στην υπηρεσία της ανθρωπότητας. Μπορείτε να επεκταθείτε σε αυτό;

Η Τεχνητή Νοημοσύνη είναι μια από τις μεταβατικές τεχνολογίες του αιώνα και προσφέρει μετασχηματιστικές ευκαιρίες για την οικονομία και την κοινωνία. Είναι σε πορεία να συμβάλλει σχεδόν 16 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία μέχρι το 2030.

Ωστόσο, τα τελευταία χρόνια έχουν θέσει τον φακό σε σημαντικές απειλές του AI (και όχι, δεν είναι οι ρομποτικοί άρχοντες!) που ήδη υπάρχουν. Για παράδειγμα, αλγόριθμοι δικαστηρίου που βελτιστοποιούν για ελάχιστη επανεμφάνιση (μια ανατροπή σε εγκληματική συμπεριφορά) μπορούν να εισαγάγουν προκατάληψη και να αρνηθούν παρόλα στην εκεί που την αξίζουν.

Αλγόριθμοι κοινωνικών μέσων που βελτιστοποιούν για την εμπλοκή μπορούν να διαιρέσουν một εθνότητα.

Αδίκαιοι αλγόριθμοι μπορούν να είναι ο λόγος για τον οποίο δεν λαμβάνετε μια δουλειά ή εισαγωγή στο πανεπιστήμιο.

Οσο περισσότερη αυτονομία δίνουμε στα εργαλεία μας, τόσο μεγαλύτερος είναι ο όρος των απρόβλεπτων συνεπειών. Η εξαιρετική κλίμακα γεννά εξαιρετική επίδραση, αλλά όχι πάντα την επίδραση που σκοπεύουμε (για αυτό γράφω στο Μανιφέστο της Credo AI).

Προβλέπω ότι οι επιχειρήσεις που θα επενδύσουν στη διακυβέρνηση του AI για να χτίσουν τεχνολογία με ευθύνη και να δεσμευτούν για την ηθική χρήση των δεδομένων, θα μπορέσουν να εμπνεύσουν εμπιστοσύνη σε όλους τους ενδιαφερόμενους – πελάτες, καταναλωτές, επενδυτές, υπαλλήλους και άλλους.

Πώς η Credo AI βοηθά τις εταιρείες να παραμείνουν υπόλογες;

Η υπόλογη σημαίνει την υποχρέωση να αποδεχτείτε την ευθύνη για τις ενέργειές σας. Στο контέκστ της ανάπτυξης και της ανάπτυξης του AI, αυτό σημαίνει ότι οι επιχειρήσεις πρέπει να έχουν συμφωνήσει σε αυτό που «το καλό φαίνεται σε αυτούς» και να λάβουν ενεργά μέτρα για να αποδείξουν δράση σε αυτά τα συμφωνημένα στόχους και να αναλάβουν την ευθύνη για τα αποτελέσματα.

Η Credo AI στοχεύει να είναι ένας οδηγός για τις επιχειρήσεις στις προσπάθειές τους για ηθική και υπεύθυνη AI, για να τις κρατήσει υπόλογες έναντι των διαφόρων ενδιαφερόμενων: χρηστών, υπαλλήλων, ρυθμιστών, ελεγκτών, επενδυτών, διευθυντών και άλλων. Γι’ αυτό, η Credo AI έχει πρωτοπορήσει σε eine πραγματική, контέκστ-οδηγούμενη,綜合ική και συνεχής λύση για την παράδοση ηθικής και υπεύθυνης AI σε κλίμακα.

Χτίζοντας την υπόλογη και την εμπιστοσύνη στο AI είναι ένας δυναμικός процесс. Οι οργανισμοί πρέπει να συμφωνήσουν στις αξίες της εταιρείας, να τις κωδικοποιήσουν, να τις χτίσουν στην οργανωτική τους υποδομή, να παρακολουθήσουν την επίδραση και να επαναλάβουν τη διαδικασία με διαφορετικές φωνές που παρέχουν εισροή σε κάθε στάδιο. Η Credo AI ενεργοποιεί αυτή την υπόλογη μέσω μιας綜合ικής και πραγματικής λύσης για τη διαχείριση της συμμόρφωσης και τη μέτρηση του κινδύνου για τις αναπτύξεις του AI σε κλίμακα.

Χρησιμοποιώντας τη λύση διακυβέρνησης της Credo AI, οι επιχειρήσεις μπορούν να:

• Συμφωνήσουν στις απαιτήσεις διακυβέρνησης για τις περιπτώσεις χρήσης και τα μοντέλα AI, με προσαρμόσιμα πακέτα πολιτικών και εργαλεία υποστήριξης για την επιλογή μετρήσεων αξιολόγησης μοντέλων.
• Αξιολογήσουν και εξετάσουν τα δεδομένα και τα μοντέλα ML έναντι των συμφωνημένων στόχων
• Αναλύσουν τις τεχνικές προδιαγραφές σε δράσιμες επιπτώσεις κινδύνου για την επιχείρηση σε κάθε στάδιο ανάπτυξης και ανάπτυξης μοντέλων, ώστε να μπορείτε να पकρούσετε και να διορθώσετε ζητήματα διακυβέρνησης πριν γίνουν τεράστια προβλήματα

Καταγράφοντας τις αποφάσεις και τις ενέργειες σε κάθε σημείο, η Credo AI καταγράφει την προέλευση των αποφάσεων που οδήγησαν στη δημιουργία των μοντέλων ως απόδειξη. Αυτή η απόδειξη θα είναι ένα αρχείο που θα μοιραστεί εσωτερικά με τους ενδιαφερόμενους της εταιρείας και εξωτερικά με ελεγκτές που θα χτίσουν εμπιστοσύνη στις προθέσεις του AI.

Αυτή η απόδειξη θα βοηθήσει τις ομάδες ανάπτυξης να προβλέψουν και να προληψουν απρόβλεπτες συνέπειες και θα τυποποιήσει τον τρόπο με τον οποίο αξιολογούμε την αποτελεσματικότητα και την αξιοπιστία των μοντέλων AI.

Βρισκόμαστε στα πρώτα στάδια της ενεργοποίησης της διακυβέρνησης του AI μέσω綜合ικών αξιολογήσεων και εγγυήσεων και είμαστε ενθουσιασμένοι να συνεργαστούμε με περισσότερες επιχειρήσεις για να προωθήσουμε την υπόλογη.

Πώς η Credo AI βοηθά τις εταιρείες να απομακρύνθούν από τη διακυβέρνηση του AI ως μια μετάνοια;

Στον κόσμο μας, υπάρχει έλλειψη σαφήνειας γύρω από το τι είναι πραγματικά «υπεύθυνη», «ηθική» και «αξιόπιστη» AI, και πώς οι επιχειρήσεις μπορούν να την επιτύχουν. Βοηθάμε τις εταιρείες να ξανασχεδιάσουν αυτή την κρίσιμη ερώτηση, χρησιμοποιώντας την πλατφόρμα SaaS της Credo AI για να αποδείξουν την «οικονομία της ηθικής».

Με την Credo AI, οι επιχειρήσεις μπορούν να προσφέρουν όχι μόνο δίκαιη, συμμορφούμενη και ελέγξιμη AI, αλλά και να χτίσουν την εμπιστοσύνη των πελατών.

Η χτίση της εμπιστοσύνης των πελατών μπορεί να διευρύνει την βάση των πελατών μιας εταιρείας και να ξεκλειδώσει περισσότερες πωλήσεις. Για παράδειγμα, οι εταιρείες μπορούν να προσφέρουν την καλύτερη δυνατή εμπειρία πελάτη χρησιμοποιώντας ηθική AI στα chatbot του customer service, ή να χρησιμοποιήσουν υπεύθυνα το AI για να κατανοήσουν την δραστηριότητα του χρήστη και να προτείνουν πρόσθετο περιεχόμενο ή προϊόντα για αυτούς. Οι εξαιρετικά ικανοποιημένοι πελάτες προσφέρουν την καλύτερη διαφήμιση μοιράζοντας την εμπειρία τους με φίλους και οικογένεια.

Επιπλέον, οι εταιρείες μπορούν επίσης να δουν πώς η συνεργασία μεταξύ τεχνικών και εποπτικών λειτουργιών μπορεί να τις βοηθήσει να εξοικονομήσουν κόστος λόγω ταχύτερου χρόνου συμμόρφωσης, ενημερωμένου διαχείρισης κινδύνου, μειωμένων κινδύνων μάρκας και ρυθμιστικών. Βοηθάμε τις οργανώσεις να αναπτύξουν ηθική AI χτίζοντας einen γέφυρα μεταξύ τεχνικών μετρήσεων και ουσιαστικών επιχειρηματικών αποτελεσμάτων. Όπως περισσότεροι άνθρωποι συνειδητοποιούν, η προώθηση της ηθικής AI περιλαμβάνει πολύ περισσότερα από το να τσεκάρουν ένα «κουτί» της ρυθμιστικής συμμόρφωσης. Αλλά έχει τη δύναμη να προσφέρει ακόμη περισσότερα από μια συνεισφορά σε einen πιο ισορροπημένο κόσμο, το οποίο θα ήταν ένα αξιοθρήνητο αποτέλεσμα από μόνο του.

Όταν μια εταιρεία τηρεί υψηλά ηθικά πρότυπα, μπορεί να περιμένει πραγματικά επιχειρηματικά αποτελέσματα, όπως αύξηση των εσόδων. Η μετατόπιση της προοπτικής από μια αφηρημένη «μαλακή» έννοια σε μια αντικειμενική επιχειρηματική απόφαση έχει sido ένας κρίσιμος τρόπος για να βοηθήσουμε τις εταιρείες να θέσουν τη διακυβέρνηση του AI ως einen κρίσιμο μέρος του οικονομικού και κοινωνικού κινητήρα της εταιρείας.

Πρόσφατα, η διοίκηση Biden δημιούργησε την Εθνική Επιτροπή Συμβούλων για την Τεχνητή Νοημοσύνη. Ποιες είναι οι επιπτώσεις αυτού για τις επιχειρήσεις του AI;

Οι κυβερνήσεις σε όλο τον κόσμο προχωρούν με πλήρη δύναμη στη ρύθμιση του AI, και οι επιχειρήσεις πρέπει να προετοιμαστούν. Η σκέψη της διοίκησης Biden για τη δημιουργία της Εθνικής Επιτροπής Συμβούλων για την Τεχνητή Νοημοσύνη και τις επενδύσεις στην OSTP του Λευκού Οίκου είναι ένας καλός πρώτος βήμας για να φέρει δράση στις συζητήσεις γύρω από το δικαίωμα να κυβερνήσει τα συστήματα AI. Ωστόσο, πρέπει να γίνει πολύ περισσότερη δουλειά για να πραγματοποιηθεί το τι σημαίνει «Υπεύθυνη AI» για τη χώρα και την οικονομία μας.

Πιστεύω ότι το 2022 είναι τοποθετημένο για να είναι το έτος της δράσης για την υπεύθυνη AI. Είναι ένας ξύπνημα για τις επιχειρήσεις που θέλουν να εφαρμόσουν ή να ενισχύσουν το ηθικό τους πλαίσιο για το AI. Τώρα είναι η ώρα για τις εταιρείες να αξιολογήσουν το υπάρχον πλαίσιο για κενά, ή, για τις εταιρείες που δεν έχουν μια προσέγγιση, να εφαρμόσουν einen στεγνό πλαίσιο για αξιόπιστη AI για να τις οδηγήσει στο να ηγηθούν στην εποχή του AI.

Πρέπει να περιμένουμε περισσότερες σκληρές και μαλακές ρυθμίσεις να εμφανιστούν. Εκτός από τις ενέργειες του Λευκού Οίκου, υπάρχει πολλή ορμή που έρχεται από άλλους νομοθέτες και υπηρεσίες, όπως ο προσχέδιος Νόμος για την Algorithmic Accountability του Γερουσιασίου, η οδηγία της FTC γύρω από την προκατάληψη του AI, και άλλα.

Εάν προχωρήσουμε στο μέλλον, πόσο σημαντική θα είναι η ηθική του AI και η διακυβέρνηση του AI σε πέντε χρόνια;

Βρισκόμαστε στις πρώτες φάσεις της διακυβέρνησης του AI. Για να τονίσουμε πόσο κρίσιμη είναι η διακυβέρνηση του AI, εδώ είναι κάποιες από τις προβλέψεις μου για τα επόμενα χρόνια:

• Η ηθική διακυβέρνηση του AI θα γίνει μια κορυφαία προτεραιότητα οργανισμού

Οι επιχειρήσεις συνεχίζουν να επενδύουν και να απολαμβάνουν τα οφέλη της χρήσης του AI στις επιχειρήσεις τους. Η IDC έχει προβλέψει ότι θα υπάρξει μια δαπάνη 340 δισεκατομμυρίων δολαρίων για το AI το 2022. Χωρίς διακυβέρνηση, οι επιχειρήσεις θα είναι διστακτικές να επενδύσουν στο AI λόγω ανησυχιών για προκατάληψη, ασφάλεια, ακρίβεια, συμμόρφωση αυτών των συστημάτων.

Χωρίς εμπιστοσύνη, οι καταναλωτές θα είναι επίσης διστακτικοί να αποδεχτούν προϊόντα που βασίζονται στο AI ή να μοιραστούν δεδομένα για να χτίσουν αυτά τα συστήματα. Τα επόμενα πέντε χρόνια, η ηθική διακυβέρνηση του AI θα γίνει μια προτεραιότητα του διοικητικού συμβουλίου και ένας σημαντικός δείκτης που οι εταιρείες θα πρέπει να αποκαλύψουν και να αναφέρουν για να χτίσουν εμπιστοσύνη σε όλους τους ενδιαφερόμενους.

• Νέες κοινωνικές και τεχνικές κατηγορίες εργασίας θα εμφανιστούν μέσα σε μια εταιρεία

Βλέπουμε ήδη οργανισμούς που προηγούνται στην ηθική να επενδύουν σημαντικά στην μελλοντική ανάπτυξη για να διασφαλίσουν δίκαιη, συμμορφούμενη και ελέγξιμη εφαρμογή AI.

Για να ηγηθούν στο AI, οι εταιρείες θα πρέπει να επιταχύνουν την εκμάθηση για το τοπίο της ρύθμισης του AI και την εφαρμογή δομών υπόλογης σε κλίμακα. Όσο η αναδυόμενη περιοχή της ηθικής εφαρμογής του AI εξελίσσεται, μια νέα κοινωνική και τεχνική κατηγορία εργασίας μπορεί να αναδυθεί για να διευκολύνει αυτές τις συνομιλίες και να αναλάβει这一 περιοχή. Αυτό το νέο συστατικό της εργατικής δύναμης θα μπορούσε να λειτουργήσει ως μεσολαβητές μεταξύ τεχνικών και εποπτικών, βοηθώντας στην ανάπτυξη κοινών προτύπων και στόχων.

• Νέα AI-ενεργοποιημένα experiences θα απαιτήσουν αυστηρότερη διακυβέρνηση

Η διαχείριση των προβλεπόμενων και των απρόβλεπτων συνεπειών της Τεχνητής Νοημοσύνης είναι κρίσιμη, ιδιαίτερα καθώς εισέρχονται στον κόσμο του Metaverse και του web3. Οι κίνδυνοι του AI υπάρχουν στον πραγματικό κόσμο και τον εικονικό κόσμο, αλλά είναι ενισχυμένοι στον τελευταίο.

Βουτώντας στο Metaverse χωρίς να υπάρχει έλεγχος του AI, οι εταιρείες θέτουν τους πελάτες τους σε κίνδυνο για προκλήσεις όπως η κλοπή ταυτότητας και η απάτη. Είναι απαραίτητο ότι τα ζητήματα του AI και της διακυβέρνησης θα επιλυθούν στον πραγματικό κόσμο τώρα, για να διασφαλίσουν την ασφάλεια των καταναλωτών στο Metaverse.

• Νέα οικοσυστήματα στην ηθική διακυβέρνηση του AI θα αναδυθούν

Ο κόσμος έχει ξυπνήσει στην ιδέα ότι η διακυβέρνηση του AI αντιπροσωπεύει το βασικό κτίριο για την υλοποίηση της υπεύθυνης AI. Τα επόμενα χρόνια, θα δούμε einen ανταγωνιστικό και δυναμικό αγορά παρόχων υπηρεσιών να εμφανιστεί για να προσφέρει εργαλεία, υπηρεσίες, εκπαίδευση και άλλες ικανότητες για να υποστηρίξει αυτή την τεράστια ανάγκη.

Επιπλέον, θα δούμε και την ενοποίηση και την ενίσχυση των υφιστάμενων πλατφορμών MLops και GRC, για να φέρει ικανότητες διακυβέρνησης και αξιολόγησης στο AI.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε σχετικά με την Credo AI;

Η ηθική διακυβέρνηση του AI είναι μια επένδυση που προστατεύει το μέλλον και δεν μπορείτε να την αγνοήσετε, και σήμερα είναι η καλύτερη μέρα για να ξεκινήσετε.

Ευχαριστώ για τη λεπτομερή συνέντευξη και για το μοιρασμό όλων των ερευνών σας σχετικά με τη διακυβέρνηση και την ηθική του AI, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Credo AI.