Navrina Singh, CEO και Ιδρυτής της Credo AI – Σειρά Συνεντεύξεων

Η Navrina Singh είναι CEO και Ιδρυτής της Credo AI, μια εταιρεία που σχεδιάζει την πρώτη綜合ική πλατφόρμα AI governance SaaS που επιτρέπει στις εταιρείες και τους ατόμους να κατανοήσουν καλύτερα και να παραδώσουν αξιόπιστα και ηθικά AI, να προηγηθούν των νέων κανονισμών και πολιτικών και να δημιουργήσουν einen AI ρεκόρ που είναι auditable και διαφανής σε όλη την οργάνωση. Η εταιρεία έχει λειτουργήσει σε μυστική λειτουργία και έχει χτίσει μια εντυπωσιακή πορτοφόλιο πελατών που περιλαμβάνει έναν από τους μεγαλύτερους κυβερνητικούς συμβούλους και τις χρηματοοικονομικές εταιρείες στον κόσμο, μεταξύ άλλων Fortune 100 μαρκών.

Μεγαλώσατε σε μια μικρή πόλη στην Ινδία με ταπεινές αρχές, πώς σας έκανε να σας προσελκύσει η μηχανική και το πεδίο του AI;

Προέρχομαι από μια μεσαία οικογένεια· ο πατέρας μου ήταν στον στρατό για τέσσερις δεκαετίες και η μητέρα μου ήταν δασκάλα που μετατράπηκε σε σχεδιάστρια μόδας. Από νεαρή ηλικία, μου έδωσαν πάντα την ενθάρρυνση της περιέργειας, της αγάπης για τις επιστημονικές ανακαλύψεις και μου παρείχαν ένα ασφαλές μέρος να εξερευνήσω τα “τι;”.

Όταν μεγάλωνα στην Ινδία, οι γυναίκες δεν είχαν τόσο πολλές ευκαιρίες όσο οι άνδρες. Πολλές αποφάσεις είχαν ήδη ληφθεί για ένα κορίτσι, με βάση το τι ήταν αποδεκτό από την κοινωνία. Ο μόνος τρόπος να απομακρύνετε και να προσφέρετε μια καλή ζωή για την οικογένειά σας ήταν μέσω της εκπαίδευσης.

Μετά την αποφοίτησή μου από το λύκειο, κατείχα τον πρώτο μου υπολογιστή, ο οποίος ήταν το παράθυρό μου στον κόσμο. Ήμουν πραγματικά σε σκληρό, και πέρασα ώρες online μαθαίνοντας πώς να αποσυναρμολογώ μητρικές κάρτες, να χτίζω εφαρμογές ρομποτικής, να μαθαίνω να προγραμματίζω, να ξανακάνω την ηλεκτρική εγκατάσταση στο σπίτι μου (γιές!) και πολλά άλλα. Η μηχανική έγινε ο ασφαλής μου χώρος, όπου μπορούσα να πειραματίζομαι, να εξερευνώ, να χτίζω και να βιώσω έναν κόσμο που ήθελα να participe μέσω των εφευρέσεων μου. Ήμουν ενθουσιασμένος και εξαιρετικά ενθουσιασμένος με το πώς η τεχνολογία θα μπορούσε να είναι ένα ισχυρό εργαλείο για να επηρεάσει την αλλαγή, ιδιαίτερα για τις γυναίκες.

Μεγαλώνοντας, τα μέσα μου ήταν περιορισμένα, αλλά οι δυνατότητες δεν ήταν. Πάντα ονειρευόμουν να έρθω στις Ηνωμένες Πολιτείες για να χτίσω μια ισχυρότερη βάση στην τεχνολογία για να λύσω τις μεγαλύτερες προκλήσεις που αντιμετωπίζει η ανθρωπότητα. Μετανάστευσα εδώ το 2001, για να συνεχίσω το ταξίδι μου στη μηχανική στο Πανεπιστήμιο του Wisconsin Madison.

Κατά τη διάρκεια των σχεδόν δύο δεκαετιών μου στη μηχανική, είχα το προνόμιο να εργαστώ σε πολλές πρωτοποριακές τεχνολογίες, από κινητά σε επαυξημένη πραγματικότητα.

Το 2011, άρχισα να εξερευνώ την Τεχνητή Νοημοσύνη για να χτίσω νέες αναδυόμενες επιχειρήσεις στην Qualcomm. Επίσης, πέρασα χρόνο χτίζοντας επιχειρήσεις και εφαρμογές σε AI σε ομιλία, όραση και NLP στην Microsoft και Qualcomm, κατά τη διάρκεια της τελευταίας δεκαετίας. Όσο μάθαινα περισσότερα για την AI και το machine learning, έγινε σαφές ότι αυτή η πρωτοποριακή τεχνολογία θα διαταράξει μαζικά τις ζωές μας πέρα από αυτό που μπορούμε να φανταστούμε.

Η κατασκευή της κλίμακας της Τεχνητής Νοημοσύνης με έκανε επίσης να συνειδητοποιήσω ότι η τεχνολογία μπορεί να κάνει μια δυσκολία και να βλάψει τους ανθρώπους και τις κοινότητες μας, εάν αφεθεί χωρίς έλεγχο. Chúng tôi, ως ηγέτες, πρέπει να αναλάβουμε ακραία ευθύνη για τις τεχνολογίες που χτίζουμε. Πρέπει να είμαστε προδραστικοί στο να μεγιστοποιήσουμε τα οφέλη της για την ανθρωπότητα και να ελαττώσουμε τον κίνδυνο.毕竟 “Αυτό που φτιάχνουμε, μας φτιάχνει” Οπότε το να χτίζουμε υπεύθυνα είναι κρίσιμο, το οποίο έχει εμπνεύσει τη nächste φάση της καριέρας μου στη διακυβέρνηση AI.

Πότε άρχισα σοβαρά να σκέφτομαι για τη διακυβέρνηση AI;

Όταν ήμουν επικεφαλής της καινοτομίας στην Qualcomm, εξερευνούσα τις δυνατότητες που η AI θα μπορούσε να φέρει στις αναδυόμενες επιχειρήσεις μας. Η αρχική μας δουλειά ήταν επικεντρωμένη σε συνεργατικά ρομπότ που χρησιμοποιούνταν στην αλυσίδα εφοδιασμού. Αυτή ήταν η πρώτη μου έκθεση στο “πραγματικό” κίνδυνο της AI, ιδιαίτερα σε σχέση με την φυσική ασφάλεια των ανθρώπων που λειτουργούσαν μαζί με αυτά τα ρομποτικά συστήματα.

Κατά τη διάρκεια αυτής της περιόδου, πέρασα σημαντικό χρόνο με startups, όπως η Soul Machines, μαθαίνοντας νέες περιπτώσεις χρήσης και βρίσκοντας τρόπους να συνεργαστώ μαζί τους για να επιταχύνουμε τη δουλειά μας. Η Soul Machines είχε κυκλοφορήσει μια νέα έκδοση του baby avatar, “Baby X”. Παρακολουθώντας αυτό το νευρωνικό δίκτυο που ενεργοποιούσε το μωρό, ενεργά μαθαίνοντας από τον κόσμο γύρω της, με έκανε να σταματήσω και να σκεφτώ τις ανεπιθύμητες συνέπειες αυτής της τεχνολογίας. Η κόρη μου Ziya γεννήθηκε περίπου την ίδια εποχή, και μας άρεσε να την αποκαλούμε Baby “Z” μετά το Baby “X” της Soul Machines. Έχω μιλήσει γι’ αυτό khá πολύ, συμπεριλαμβανομένης της Ομιλίας των Γυναικών στο Product Keynote το 2019.

Οι μαθησιακές διαδρομές του Baby X και του Baby Z ήταν ερμητικά παρόμοιες! Όσο η Ziya μεγάλωνε, μας παρείχαμε την αρχική λεξιλόγιο και τα εργαλεία να μάθει. Με τον καιρό, άρχισε να κατανοεί τον κόσμο και να βάζει τα πράγματα μαζί herself. Το νευρωνικό μωρό Baby X, ήταν παρόμοια μαθαίνοντας μέσω αισθητήρων όρασης και αναγνώρισης ομιλίας, και γρήγορα χτίζοντας μια βαθιά κατανόηση του ανθρώπινου κόσμου.

Αυτά τα πρώιμα AI moments με έκαναν να συνειδητοποιήσω ότι ήταν κρίσιμο να βρούμε τρόπους να διαχειριστούμε τον κίνδυνο και να βάλουμε αποτελεσματικά φραγμούς γύρω από αυτή την ισχυρή τεχνολογία για να την αναπτύξουμε για καλό.

Μπορείτε να μοιραστείτε την ιστορία της γέννησης της Credo AI;

Μετά την Qualcomm, μου ζητήθηκε να ηγηθώ της εμπορικοποίησης των τεχνολογιών AI στην Microsoft στην ομάδα ανάπτυξης επιχειρήσεων και, στη συνέχεια, στην ομάδα προϊόντων. Κατά τη διάρκεια της θητείας μου, είχα τη τύχη να εργαστώ σε ένα φάσμα τεχνολογιών AI με εφαρμογές σε περιπτώσεις χρήσης από την ομιλία AI σε συμβατικές συμβάσεις, και από τις οπτικές επιθεωρήσεις στην ομιλία που ενεργοποιεί την ανακάλυψη προϊόντων.

Ωστόσο, ο σπόρος της διακυβέρνησης AI που φυτεύτηκε στην Qualcomm συνέχισε να μεγαλώνει καθώς συνέχιζα να μαρτυρώ την αυξανόμενη “έλλειψη εποπτείας” στην ανάπτυξη τεχνολογιών Τεχνητής Νοημοσύνης. Jako προϊοντος ηγέτης που εργαζόταν με την ομάδα επιστημών δεδομένων και μηχανικής, μας мотίβισε να χτίζουμε μια υψηλής απόδοσης εφαρμογή AI που τροφοδοτείται από machine learning και να την αναπτύξουμε γρήγορα στην αγορά.

Είδαμε τη συμμόρφωση και τη διακυβέρνηση ως φράγμα που επιβραδύνει το ρυθμό της καινοτομίας. Ωστόσο, οι αυξανόμενες ανησυχίες μου για το έλλειμμα διακυβέρνησης μεταξύ των τεχνικών και των επαγγελματιών της εποπτείας σε κίνδυνο, συμμόρφωση και ελέγχου, με έκαναν να συνεχίσω να εξερευνώ τις προκλήσεις στην πραγματοποίηση της διακυβέρνησης AI.

Όλες οι ανεξέλεγκτες ερωτήσεις σχετικά με τη διακυβέρνηση AI με έκαναν να αναζητήσω απαντήσεις. Έτσι, άρχισα να χτίζω τα θεμέλια για ένα μη κερδοσκοπικό οργανισμό που ονομάζεται MERAT (Αγορά για Ηθική και Υπεύθυνη AI εργαλεία) με στόχο να δημιουργήσω ένα οικοσύστημα για startups και Global 2000s που επικεντρώνονται στην υπεύθυνη ανάπτυξη AI.

Μέσω της πρώιμης πειραματικής εργασίας στο MERAT, έγινε σαφές ότι δεν υπήρχαν startups που να ενεργοποιούν εργαλεία πολλαπλών ενδιαφερόμενων για την παροχή綜合ικής διακυβέρνησης εφαρμογών AI και ML – μέχρι την Credo AI. Αυτό το κενό ήταν η ευκαιρία μου να πραγματοποιήσω την αποστολή της καθοδήγησης AI με πρόθεση. Η υπόθεσή μου συνέχισε να επικυρώνεται ότι η επόμενη μέτωπο της επανάστασης AI θα καθοδηγηθεί από τη διακυβέρνηση. Οι επιχειρήσεις που θα ενστερνιστούν τη διακυβέρνηση θα αναδυθούν ως ηγέτες σε αξιόπιστες μάρκες.

Μου ζητήθηκε από το AI Fund, έναν επενδυτικό οργανισμό που ιδρύθηκε από τον Andrew Ng, έναν αναγνωρισμένο εμπειρογνώμονα AI. Το AI Fund είχε επικεντρωθεί στα ίδια θέματα της auditable και της διακυβέρνησης AI που είχα καταναλώσει για την τελευταία δεκαετία.

Η Credo AI ιδρύθηκε στις 28 Φεβρουαρίου 2020, με χρηματοδότηση από το AI Fund.

Credo σημαίνει “ένα σύνολο αξιών που καθοδηγεί τις ενέργειές σας.” Με την Credo AI, η όρασή μας είναι να ενδυναμώσουμε τις επιχειρήσεις να δημιουργήσουν AI με τα υψηλότερα ηθικά πρότυπα.

Σε μια πρότερη συνέντευξη, συζητήσατε πώς οι μάρκες στο μέλλον θα είναι αξιόπιστες όχι “μόνο” με βάση το πώς χτίζουν και αναπτύσσουν AI, αλλά και με βάση το πώς κλιμακώνουν AI ώστε να είναι στην υπηρεσία της ανθρωπότητας. Μπορείτε να επεκταθείτε σε αυτό;

Η Τεχνητή Νοημοσύνη είναι μια από τις παιχνίδι-αλλαγμένες τεχνολογίες του αιώνα και προσφέρει μετασχηματιστικές ευκαιρίες για την οικονομία και την κοινωνία. Είναι στο δρόμο να συμβάλλει περίπου 16 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία μέχρι το 2030.

Ωστόσο, τα τελευταία χρόνια έχουν ρίξει φως σε σημαντικές απειλές AI (και όχι, δεν είναι οι ρομποτικοί άρχοντες!) που ήδη υπάρχουν. Για παράδειγμα, αλγόριθμοι δικαστηρίου που βελτιστοποιούν για ελάχιστη επαναλήπτουν (μια επανεισδοχή σε εγκληματική συμπεριφορά) μπορούν να εισαγάγουν προκατάληψη και να αρνηθούν παρόλα στην εκεί που την αξίζουν.

Αλγόριθμοι κοινωνικών μέσων που βελτιστοποιούν για την εμπλοκή μπορούν να διαιρέσουν μια εθνική.

Αδίκαιοι αλγόριθμοι μπορούν να είναι ο λόγος που δεν παίρνετε μια δουλειά ή εισαγωγή στο πανεπιστήμιο.

Όσο περισσότερη αυτονομία δίνουμε στα εργαλεία μας, τόσο μεγαλύτερη είναι η εύρος των ανεπιθύμητων συνεπειών. Η εξαιρετική κλίμακα παράγει εξαιρετική επίδραση, αλλά όχι πάντα την επίδραση που προορίζουμε (γράφω γι’ αυτό στο Credo AI Manifesto).

Προβλέπω ότι οι επιχειρήσεις που θα επενδύσουν στη διακυβέρνηση AI για να τις βοηθήσουν να χτίζουν τεχνολογία υπεύθυνα και να δεσμεύονται για την ηθική χρήση των δεδομένων, θα είναι σε θέση να εμπνεύσουν εμπιστοσύνη σε όλους τους ενδιαφερόμενους – πελάτες, καταναλωτές, επενδυτές, εργαζόμενοι και άλλοι.

Πώς η Credo AI βοηθά τις εταιρείες να παραμείνουν υπόλογες;

Υπολογισμός σημαίνει μια ευθύνη να αποδεχτείτε την ευθύνη για τις ενέργειές σας. Στο контέκστ της ανάπτυξης και της ανάπτυξης AI, αυτό σημαίνει ότι οι επιχειρήσεις πρέπει όχι μόνο να έχουν συμφωνήσει σε τι “καλό φαίνεται σε αυτούς”, αλλά να λάβουν ενεργά βήματα για να αποδείξουν δράση σε αυτά τα συμφωνημένα γκολ και να αναλάβουν την ευθύνη για τα αποτελέσματα.

Η Credo AI στοχεύει να είναι ένας sherpa για τις επιχειρήσεις στις πρωτοβουλίες τους για ηθική και υπεύθυνη AI για να τις κρατήσει υπόλογες σε διάφορους ενδιαφερόμενους: χρήστες, εργαζόμενους, ρυθμιστές, ελεγκτές, επενδυτές, εκτελεστές και άλλους. Έτσι, η Credo AI έχει πρωτοπορήσει μια λύση σε πραγματικό χρόνο, контέκστ-οδηγούμενη,綜合ική και συνεχής για την παράδοση ηθικής και υπεύθυνης AI σε κλίμακα.

Η κατασκευή της υπόλογότητας και της εμπιστοσύνης στην AI είναι ένας δυναμικός διαδικασία. Οι οργανισμοί πρέπει να συμφωνήσουν στις αξίες της επιχείρησης, να κωδικοποιήσουν αυτές τις αξίες, να τις χτίζουν στην οργανωτική τους υποδομή, να παρατηρήσουν την επίδραση και να επαναλάβουν τη διαδικασία με διάφορες φωνές που παρέχουν εισροή σε κάθε στάδιο. Η Credo AI ενεργοποιεί αυτή την υπόλογότητα μέσω μιας綜合ικής και πραγματικού χρόνου λύσης για τη διαχείριση της συμμόρφωσης και τη μέτρηση του κινδύνου για τις αναπτύξεις AI σε κλίμακα.

Χρησιμοποιώντας τη λύση διακυβέρνησης Credo AI, οι επιχειρήσεις είναι σε θέση να:

• Συμφωνήσουν στις απαιτήσεις διακυβέρνησης για τις περιπτώσεις χρήσης AI και τα μοντέλα, με προσαρμόσιμα πακέτα πολιτικής και εργαλεία υποστήριξης αποφάσεων για την επιλογή μετρήσεων αξιολόγησης μοντέλου.
• Αξιολογήσουν και εξετάσουν τα δεδομένα και τα μοντέλα ML έναντι των συμφωνημένων γκολ
• Αναλύσουν τις τεχνικές προδιαγραφές σε δράσεις επίδρασης κινδύνου για την επιχείρηση σε κάθε στάδιο ανάπτυξης και ανάπτυξης μοντέλου, ώστε να μπορείτε να πιάσετε και να διορθώσετε τα ζητήματα διακυβέρνησης πριν γίνουν τεράστια προβλήματα

Καταγράφοντας τις αποφάσεις και τις ενέργειες σε κάθε σημείο, η Credo AI καταγράφει την προέλευση των αποφάσεων που οδήγησαν στη δημιουργία των μοντέλων ως απόδειξη. Αυτή η απόδειξη θα είναι ένα ρεκόρ που θα μοιραστεί εσωτερικά με τους ενδιαφερόμενους της επιχείρησης και εξωτερικά με ελεγκτές που χτίζουν εμπιστοσύνη στις προθέσεις του AI.

Αυτή η απόδειξη θα βοηθήσει τις ομάδες ανάπτυξης να προβλέψουν και να προληψουν τις ανεπιθύμητες συνέπειες και θα τυποποιήσει τον τρόπο με τον οποίο αξιολογούμε την αποτελεσματικότητα και την αξιοπιστία των μοντέλων AI.

Βρισκόμαστε στα πολύ πρώιμα στάδια της ενεργοποίησης της διακυβέρνησης AI μέσω綜合ικών αξιολογήσεων και εγγυήσεων και είμαστε ενθουσιασμένοι να εργαστούμε με περισσότερες επιχειρήσεις για την προώθηση της υπόλογότητας.

Πώς η Credo AI βοηθά τις εταιρείες να μετατοπίσουν μακριά από τη διακυβέρνηση AI ως μια μετάνοια;

Στον κόσμο σήμερα, υπάρχει έλλειψη σαφής κατανόησης σχετικά με τι είναι “υπεύθυνη”, “ηθική” και “αξιόπιστη” AI, και πώς οι επιχειρήσεις μπορούν να την παραδώσουν. Βοηθάμε να ξαναχτίσουμε αυτή την κρίσιμη ερώτηση για τις επιχειρήσεις, χρησιμοποιώντας την πλατφόρμα SaaS Credo AI για να αποδείξουμε την “οικονομία της ηθικής”.

Με την Credo AI, οι επιχειρήσεις είναι σε θέση να παραδώσουν όχι μόνο δίκαιη, συμμορφωμένη και auditable AI, αλλά και να χτίζουν εμπιστοσύνη στους πελάτες.

Η κατασκευή της εμπιστοσύνης των καταναλωτών μπορεί να διευρύνει την βάση των πελατών μιας εταιρείας και να ξεκλειδώσει περισσότερες πωλήσεις. Για παράδειγμα, οι εταιρείες μπορούν να παρέχουν την καλύτερη δυνατή εμπειρία πελάτη χρησιμοποιώντας ηθική AI στα chatbots της υπηρεσίας πελατών, ή να χρησιμοποιήσουν υπεύθυνα AI για να κατανοήσουν την δραστηριότητα του χρήστη και να προτείνουν επιπλέον περιεχόμενο ή προϊόντα για αυτούς. Οι εξαιρετικά ικανοποιημένοι πελάτες, στη συνέχεια, προσφέρουν την καλύτερη διαφήμιση μοιράζοντας την εμπειρία τους με φίλους και οικογένεια.

Επιπλέον, οι επιχειρήσεις μπορούν επίσης να δουν πώς η συνεργασία μεταξύ τεχνικών και εποπτικών λειτουργιών μπορεί να τις βοηθήσει να εξοικονομήσουν κόστος λόγω ταχύτερου χρόνου συμμόρφωσης, ενημερωμένου διαχείρισης κινδύνου, μειωμένου κινδύνου μάρκας και ρυθμιστικού. Βοηθάμε τις οργανώσεις να αναπτύξουν ηθική AI χτίζοντας μια γέφυρα μεταξύ τεχνικών μετρήσεων και ουσιαστικών επιχειρηματικών αποτελεσμάτων. Όσο περισσότεροι άνθρωποι συνειδητοποιούν, η προώθηση της ηθικής AI περιλαμβάνει πολύ περισσότερα από το να ελέγξουν ένα “ρυθμιστικό” κουτί. Αλλά έχει τη δύναμη να παραδώσει ακόμη περισσότερα από μια συμβολή σε ένα πιο ισότιμο κόσμο, το οποίο θα ήταν ένα αξιοθρήνητο αποτέλεσμα από μόνο του.

Όταν μια εταιρεία τηρεί υψηλά ηθικά πρότυπα, μπορεί να περιμένει πραγματικά επιχειρηματικά αποτελέσματα, όπως αύξηση των εσόδων. Η μετατόπιση της προοπτικής από μια αφηρημένη “μαλακή” έννοια σε μια αντικειμενική επιχειρηματική απόφαση έχει sido ένας κρίσιμος τρόπος για μας να βοηθήσουμε να θέσουμε τη διακυβέρνηση AI ως einen κρίσιμο μέρος του οικονομικού και κοινωνικού κινητήρα για την εταιρεία.

Πρόσφατα, η διοίκηση Biden δημιούργησε την Εθνική Επιτροπή Συμβουλίων Τεχνητής Νοημοσύνης. Κατά τη γνώμη σας, ποίες είναι οι επιπτώσεις αυτού για τις επιχειρήσεις AI;

Οι κυβερνήσεις παγκοσμίως είναι πλήρως αφοσιωμένες στην ρύθμιση της AI, και οι επιχειρήσεις πρέπει να ετοιμαστούν. Η δημιουργία της Εθνικής Επιτροπής Συμβουλίων AI από τη διοίκηση Biden και οι επενδύσεις στην OSTP του Λευκού Οίκου είναι ένα καλό πρώτο βήμα για να φέρει δράση στις συζητήσεις γύρω από το δικαίωμα να κυβερνά τα συστήματα AI. Ωστόσο, πολύ έργο πρέπει να γίνει για να πραγματοποιηθεί τι θα σημαίνει η Υπεύθυνη AI για τη χώρα και την οικονομία μας.

Πιστεύω ότι το 2022 είναι τοποθετημένο για να είναι το έτος της δράσης για την υπεύθυνη AI. Είναι ένας ξύπνημα για τις επιχειρήσεις που επιδιώκουν να εφαρμόσουν ή να ενισχύσουν το ηθικό τους πλαίσιο AI. Τώρα είναι η ώρα για τις εταιρείες να αξιολογήσουν το υπάρχον πλαίσιο για κενά, ή, για τις εταιρείες που λείπουν μια προσέγγιση, να εφαρμόσουν ένα στερεό πλαίσιο για αξιόπιστη AI για να τις τοποθετήσει για επιτυχία να ηγηθούν στην εποχή της AI.

Πρέπει να περιμένουμε περισσότερες σκληρές και μαλακές ρυθμίσεις να αναδυθούν. Εκτός από τις ενέργειες του Λευκού Οίκου, υπάρχει πολλή ορμή που έρχεται από άλλους νομοθέτες και υπηρεσίες, όπως ο Algorithmic Accountability Act της Γερουσίας, η οδηγία της Federal Trade Commission (FTC) σχετικά με την προκατάληψη AI, και πολλά άλλα.

Εάν προωθήσουμε στο μέλλον, πόσο σημαντική θα είναι η ηθική AI και η διακυβέρνηση AI σε πέντε χρόνια;

Βρισκόμαστε στα πρώιμα στάδια της διακυβέρνησης AI. Για να υπογραμμίσει πόσο κρίσιμη είναι η διακυβέρνηση AI, εδώ είναι μερές από τις προβλέψεις μου για τα επόμενα χρόνια:

• Η ηθική διακυβέρνηση AI θα γίνει μια κορυφαία προτεραιότητα οργανισμού

Οι επιχειρήσεις συνεχίζουν να επενδύουν και να απολαμβάνουν τα οφέλη της χρήσης AI στις επιχειρήσεις τους. Η IDC έχει προβλέψει μια δαπάνη 340 δισεκατομμυρίων δολαρίων στην AI το 2022. Χωρίς διακυβέρνηση, οι επιχειρήσεις θα είναι διστακτικές να επενδύσουν στην AI λόγω ανησυχιών σχετικά με την προκατάληψη, την ασφάλεια, την ακρίβεια, τη συμμόρφωση αυτών των συστημάτων.

Χωρίς εμπιστοσύνη, οι καταναλωτές θα είναι επίσης διστακτικοί να αποδεχτούν προϊόντα AI ή να μοιραστούν δεδομένα για να χτίζουν αυτά τα συστήματα. Μέσα στα επόμενα πέντε χρόνια, η ηθική διακυβέρνηση AI θα γίνει μια προτεραιότητα του διοικητικού συμβουλίου και ένα σημαντικό μέτρο που οι εταιρείες θα πρέπει να αποκαλύψουν και να αναφέρουν για να χτίσουν εμπιστοσύνη σε όλους τους ενδιαφερόμενους.

• Νέες κοινωνικοτεχνικές κατηγορίες εργασίας θα αναδυθούν μέσα σε μια επιχείρηση

Βρισκόμαστε ήδη να βλέπουμε οργανισμούς που προωθούν την ηθική να επενδύουν σημαντικά στην μελλοντική ανάπτυξη για να διασφαλίσουν δίκαιη, συμμορφωμένη και auditable εφαρμογές AI.

Για να ηγηθούν στην AI, οι επιχειρήσεις θα πρέπει να επιταχύνουν την εκμάθηση σχετικά με το τοπίο ρυθμίσεων AI και την εφαρμογή структур υπόλογότητας σε κλίμακα. Όσο η αναδυόμενη περιοχή της ηθικής εφαρμογής AI εξελίσσεται, μια νέα κοινωνικοτεχνική κατηγορία εργασίας μπορεί να αναδυθεί για να διευκολύνει αυτές τις συνομιλίες και να αναλάβει την ευθύνη σε αυτή την περιοχή. Αυτό το νέο στοιχείο της εργατικής δύναμης θα μπορούσε να λειτουργήσει ως μεσολαβητές μεταξύ τεχνικών και εποπτικών, βοηθώντας στην ανάπτυξη κοινών προτύπων και στόχων.

• Νέα AI-ενεργοποιημένα experiences θα απαιτήσουν αυστηρότερη διακυβέρνηση

Η διαχείριση των προβλεπόμενων και των ανεπιθύμητων συνεπειών της Τεχνητής Νοημοσύνης είναι κρίσιμη, ιδιαίτερα καθώς εισερχόμαστε στο Metaverse και το web3 κόσμο. Οι κίνδυνοι της AI υπάρχουν στον πραγματικό κόσμο και τον εικονικό κόσμο, αλλά είναι ενισχυμένοι στον τελευταίο.

Όταν μια εταιρεία εισέρχεται στο Metaverse χωρίς να έχει λύσει τα ζητήματα διακυβέρνησης AI, θέτει τους πελάτες της σε κίνδυνο για προκλήσεις όπως η κλοπή ταυτότητας και η απάτη. Είναι κρίσιμο ότι τα ζητήματα AI και διακυβέρνησης θα πρέπει να λυθούν στον πραγματικό κόσμο τώρα για να διασφαλίσουν την ασφάλεια των καταναλωτών στο Metaverse.

• Νέα οικοσυστήματα σε ηθική διακυβέρνηση AI θα αναδυθούν

Ο κόσμος έχει ξυπνήσει στην ιδέα ότι η διακυβέρνηση AI αντιπροσωπεύει το βασικό οικοδόμημα για την λειτουργία της υπεύθυνης AI. Μέσα στα επόμενα χρόνια, θα δούμε μια ανταγωνιστική και δυναμική αγορά παρόχων υπηρεσιών να αναδυθεί για να παρέχει εργαλεία, υπηρεσίες, εκπαίδευση και άλλες ικανότητες για να υποστηρίξει αυτή την τεράστια ανάγκη.

Επιπλέον, θα δούμε επίσης την ενοποίηση και την επέκταση των υφιστάμενων πλατφορμών MLops και GRC, για να φέρει ικανότητες διακυβέρνησης και αξιολόγησης στην AI.

Υπάρχει κάτι άλλο που θα ήθελε να μοιραστείτε σχετικά με την Credo AI;

Η ηθική διακυβέρνηση AI είναι μια μελλοντική επένδυση που δεν μπορείτε να μη κάνετε, και σήμερα είναι η καλύτερη μέρα για να αρχίσετε.

Ευχαριστώ για τη λεπτομερή συνέντευξη και για το μοιρασμό όλων των επιψεών σας σχετικά με τη διακυβέρνηση AI και την ηθική, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα θα πρέπει να επισκεφθούν Credo AI.