συνεντεύξεις
Navrina Singh, Διευθύνουσα Σύμβουλος και Ιδρυτής της Credo AI – Series Interview
Η Navrina Singh είναι Διευθύνουσα Σύμβουλος και Ιδρύτρια της Credo AI, μια εταιρεία που σχεδιάζει την πρώτη ολοκληρωμένη πλατφόρμα SaaS διακυβέρνησης τεχνητής νοημοσύνης που επιτρέπει σε εταιρείες και άτομα να κατανοούν καλύτερα και να παρέχουν αξιόπιστη και ηθική τεχνητή νοημοσύνη, να παραμείνουν μπροστά από τους νέους κανονισμούς και πολιτικές και να δημιουργήσουν ένα αρχείο AI που είναι ελεγχόμενο και διαφανές σε όλο τον οργανισμό. Η εταιρεία λειτουργεί με μυστικότητα και δημιουργεί αθόρυβα ένα εντυπωσιακό χαρτοφυλάκιο πελατών που περιλαμβάνει έναν από τους μεγαλύτερους κυβερνητικούς εργολάβους και εταιρείες χρηματοοικονομικών υπηρεσιών στον κόσμο, μεταξύ άλλων εμπορικών σημάτων Fortune 100.
Μεγαλώσατε σε μια μικρή πόλη στην Ινδία με ταπεινές αρχές, πώς σας ελκύει η μηχανική και ο τομέας της τεχνητής νοημοσύνης;
Προέρχομαι από μια μεσοαστική οικογένεια. Ο μπαμπάς μου ήταν στο στρατό για τέσσερις δεκαετίες και η μαμά μου ήταν δασκάλα που έγινε σχεδιαστής μόδας. Από μικρή ηλικία, πάντα ενθάρρυναν την αίσθηση της περιέργειας, της αγάπης για τις επιστημονικές ανακαλύψεις και μου παρείχαν ένα ασφαλές μέρος για να εξερευνήσω το «τι θα γινόταν αν».
Όταν μεγάλωσα στην Ινδία, οι γυναίκες δεν είχαν τόσες ευκαιρίες όσο οι άνδρες. Είχαν ήδη ληφθεί πολλές αποφάσεις για ένα κορίτσι, με βάση το τι ήταν αποδεκτό από την κοινωνία. Ο μόνος τρόπος για να ξεφύγετε και να αντέξετε οικονομικά μια καλή ζωή για την οικογένειά σας ήταν μέσω της εκπαίδευσης.
Μετά την αποφοίτησή μου από το γυμνάσιο, είχα τον πρώτο μου υπολογιστή που ήταν το παράθυρό μου στον κόσμο. Ήμουν πραγματικά στο hardware και ξόδεψα ώρες στο διαδίκτυο μαθαίνοντας πώς να αποσυναρμολογώ μητρικές πλακέτες, να φτιάχνω εφαρμογές ρομποτικής, να μαθαίνω να κωδικοποιώ, να ξανακάνω ηλεκτρικά στο σπίτι μου (ναι!) και πολλά άλλα. Η μηχανική έγινε ο ασφαλής χώρος μου, όπου μπορούσα να πειραματιστώ, να εξερευνήσω, να χτίσω και να ζήσω έναν κόσμο στον οποίο ήθελα να γίνω μέρος μέσω των εφευρέσεών μου. Ενέπνευσα και ενθουσιάστηκα για το πώς η τεχνολογία θα μπορούσε να είναι ένα ισχυρό εργαλείο για να επηρεάσει την αλλαγή, ειδικά για τις γυναίκες.
Μεγαλώνοντας τα μέσα μου ήταν περιορισμένα, αλλά οι δυνατότητες όχι. Πάντα ονειρευόμουν να έρθω στις Ηνωμένες Πολιτείες για να οικοδομήσω μια ισχυρότερη βάση στην τεχνολογία για να λύσω τις μεγαλύτερες προκλήσεις που αντιμετωπίζει η ανθρωπότητα. Μετανάστευσα εδώ το 2001, για να συνεχίσω το μηχανολογικό μου ταξίδι στο Πανεπιστήμιο του Wisconsin Madison.
Κατά τη διάρκεια των σχεδόν δύο δεκαετιών μου στη μηχανική, είχα το προνόμιο να εργαστώ σε πολλαπλές τεχνολογίες αιχμής, από κινητά έως επαυξημένη πραγματικότητα.
Το 2011, άρχισα να εξερευνώ την Τεχνητή Νοημοσύνη για να δημιουργήσω νέες αναδυόμενες επιχειρήσεις στην Qualcomm. Έχω επίσης αφιερώσει χρόνο στη δημιουργία επιχειρήσεων και εφαρμογών σε τεχνητή νοημοσύνη σε ομιλία, όραση και NLP στη Microsoft και την Qualcomm, την τελευταία δεκαετία. Καθώς έμαθα περισσότερα για την τεχνητή νοημοσύνη και τη μηχανική μάθηση, κατέστη προφανές ότι αυτή η τεχνολογία αιχμής επρόκειτο να διαταράξει μαζικά τη ζωή μας πέρα από αυτό που μπορούμε να φανταστούμε.
Η οικοδόμηση τεχνητής νοημοσύνης σε επιχειρηματική κλίμακα με έκανε επίσης να συνειδητοποιήσω πώς η τεχνολογία μπορεί να κάνει κακό και να βλάψει τους ανθρώπους και τις κοινότητές μας, αν αφεθεί χωρίς έλεγχο. Εμείς, ως ηγέτες, πρέπει να αναλάβουμε εξαιρετική ευθύνη για τις τεχνολογίες που κατασκευάζουμε. Πρέπει να είμαστε προορατικοί στη μεγιστοποίηση των οφελών του για την ανθρωπότητα και στην ελαχιστοποίηση του κινδύνου. Εξάλλου, «Αυτό που φτιάχνουμε, μας κάνει» Επομένως, η υπεύθυνη οικοδόμηση είναι κρίσιμης σημασίας, κάτι που έχει εμπνεύσει την επόμενη φάση της καριέρας μου για τη διακυβέρνηση της τεχνητής νοημοσύνης.
Πότε αρχίσατε να σκέφτεστε σοβαρά τη διακυβέρνηση της AI;
Ενώ ήμουν επικεφαλής καινοτομίας στην Qualcomm, διερευνούσαμε τις δυνατότητες που θα μπορούσε να προσφέρει η τεχνητή νοημοσύνη στις αναδυόμενες επιχειρήσεις μας. Η αρχική μας εργασία επικεντρώθηκε σε συνεργατικά ρομπότ που χρησιμοποιήθηκαν στην αλυσίδα εφοδιασμού. Αυτή ήταν η πρώτη μου έκθεση στους «πραγματικούς» κινδύνους της τεχνητής νοημοσύνης, ειδικά σε σχέση με τη φυσική ασφάλεια των ανθρώπων που λειτουργούσαν παράλληλα με αυτά τα ρομποτικά συστήματα.
Κατά τη διάρκεια αυτής της περιόδου, περάσαμε σημαντικό χρόνο με startups, όπως η Soul Machines, μαθαίνοντας νέες περιπτώσεις χρήσης και βρίσκοντας τρόπους συνεργασίας μαζί τους για να επιταχύνουμε τη δουλειά μας. Η Soul Machines είχε κυκλοφορήσει μια νέα έκδοση του μωρού τους avatar, το «Baby X». Παρακολουθώντας αυτό το μωρό που τροφοδοτείται από το νευρικό δίκτυο, που μαθαίνει ενεργά από τον κόσμο γύρω του, με έκανε να σταματήσω και να σκεφτώ τις ακούσιες συνέπειες αυτής της τεχνολογίας. Η κόρη μου Ziya γεννήθηκε περίπου την ίδια εποχή και της δώσαμε στοργικά το παρατσούκλι στο Baby "Z" από το Soul Machines Baby "X". Έχω μιλήσει για αυτό αρκετά, συμπεριλαμβανομένου του Γυναίκες στο βασικό προϊόν το 2019.
Τα ταξίδια μάθησης του Baby X και του Baby Z ήταν τρομερά παρόμοια! Καθώς η Ziya μεγάλωνε, της παρέχαμε το αρχικό λεξιλόγιο και τα εργαλεία για να μάθει. Με τον καιρό, άρχισε να καταλαβαίνει τον κόσμο και να συνδυάζει τα πράγματα η ίδια. Το Baby X, το μωρό του νευρικού δικτύου, μάθαινε παρομοίως μέσω αισθητήρων όρασης και αναγνώρισης ομιλίας, και γρήγορα οικοδόμησε μια βαθιά κατανόηση του ανθρώπινου κόσμου.
Αυτές οι πρώτες στιγμές τεχνητής νοημοσύνης μου κατέστησαν σαφές ότι ήταν κρίσιμο να βρούμε τρόπους διαχείρισης του κινδύνου και να βάλουμε αποτελεσματικά προστατευτικά κιγκλιδώματα γύρω από αυτήν την ισχυρή τεχνολογία για να διασφαλίσουμε ότι θα αναπτυχθεί οριστικά.
Θα μπορούσατε να μοιραστείτε την ιστορία γένεσης πίσω από το Credo AI;
Μετά την Qualcomm, προσλήφθηκα για να ηγούμαι της εμπορευματοποίησης των τεχνολογιών τεχνητής νοημοσύνης στη Microsoft στον όμιλο επιχειρηματικής ανάπτυξης και, στη συνέχεια, στην ομάδα προϊόντων. Κατά τη διάρκεια της θητείας μου, είχα την τύχη να δουλέψω σε ένα φάσμα τεχνολογιών τεχνητής νοημοσύνης με εφαρμογές σε περιπτώσεις χρήσης, από το Conversational AI έως την ευφυΐα συμβάσεων και από τις οπτικές επιθεωρήσεις έως την ανακάλυψη προϊόντων με ομιλία.
Ωστόσο, ο σπόρος της διακυβέρνησης της τεχνητής νοημοσύνης που φυτεύτηκε στην Qualcomm συνέχισε να αυξάνεται καθώς συνέχισα να βλέπω το αυξανόμενο «έλλειμμα εποπτείας» στην ανάπτυξη τεχνολογιών Τεχνητής Νοημοσύνης. Ως ηγέτης προϊόντων που συνεργαζόμαστε με την ομάδα επιστήμης και μηχανικής δεδομένων, είχαμε το κίνητρο να δημιουργήσουμε μια εφαρμογή τεχνητής νοημοσύνης υψηλής απόδοσης που να υποστηρίζεται από μηχανική μάθηση και να την αναπτύξουμε γρήγορα στην αγορά.
Θεωρήσαμε τη συμμόρφωση και τη διακυβέρνηση ως έλεγχος πύλης που επιβραδύνει τον ρυθμό της καινοτομίας. Ωστόσο, οι αυξανόμενες ανησυχίες μου σχετικά με το έλλειμμα διακυβέρνησης μεταξύ των επαγγελματιών της τεχνικής και της εποπτείας σε θέματα κινδύνου, συμμόρφωσης, ελέγχου, με παρακίνησαν να συνεχίσω να διερευνώ τις προκλήσεις στην υλοποίηση της διακυβέρνησης της τεχνητής νοημοσύνης.
Όλα τα αναπάντητα ερωτήματα σχετικά με τη διακυβέρνηση της τεχνητής νοημοσύνης με ώθησαν να αναζητήσω απαντήσεις. Άρχισα λοιπόν να βάζω τα θεμέλια για έναν μη κερδοσκοπικό οργανισμό που ονομάζεται MERAT (Marketplace for Ethical and Responsible AI tools) με στόχο να δημιουργήσω ένα οικοσύστημα για νεοφυείς επιχειρήσεις και την παγκόσμια δεκαετία του 2000 με επίκεντρο την υπεύθυνη ανάπτυξη της τεχνητής νοημοσύνης.
Μέσα από πρώιμους πειραματισμούς στο MERAT, κατέστη σαφές ότι δεν υπήρχαν νεοφυείς επιχειρήσεις που να επέτρεπαν σε εργαλεία πολλών ενδιαφερομένων να ενισχύουν την ολοκληρωμένη διακυβέρνηση των εφαρμογών AI και ML – μέχρι την Credo AI. Αυτό το κενό ήταν η ευκαιρία μου να συνειδητοποιήσω την αποστολή της σκόπιμης καθοδήγησης της τεχνητής νοημοσύνης. Η υπόθεσή μου επικυρωνόταν συνεχώς ότι τα επόμενα σύνορα της επανάστασης της τεχνητής νοημοσύνης θα καθοδηγούνται από τη διακυβέρνηση. Οι επιχειρήσεις που ασπάζονται τη διακυβέρνηση θα αναδειχθούν ως ηγέτες σε αξιόπιστες μάρκες.
Με προσέγγισε το AI Fund, μια θερμοκοιτίδα που ίδρυσε ο Andrew Ng, ένας διάσημος εμπειρογνώμονας AI. Το AI Fund είχε επικεντρωθεί στα ίδια θέματα ελέγχου και διακυβέρνησης AI με τα οποία είχα ασχοληθεί την τελευταία δεκαετία.
Το Credo AI ενσωματώθηκε στις 28 Φεβρουαρίουth, 2020, με χρηματοδότηση από το Ταμείο AI.
Credo σημαίνει «ένα σύνολο αξιών που καθοδηγούν τις πράξεις σας». Με το Credo AI, το όραμά μας είναι να δώσουμε τη δυνατότητα στις επιχειρήσεις να δημιουργήσουν AI με τα υψηλότερα ηθικά πρότυπα.
Σε προηγούμενη συνέντευξη, συζητήσατε πώς οι επωνυμίες στο μέλλον θα είναι αξιόπιστες όχι «Μόνο» με βάση τον τρόπο κατασκευής και ανάπτυξης της τεχνητής νοημοσύνης, αλλά τον τρόπο με τον οποίο κλιμακώνουν την τεχνητή νοημοσύνη έτσι ώστε να είναι στην υπηρεσία της ανθρωπότητας. Θα μπορούσατε να το αναλύσετε αυτό;
Η Τεχνητή Νοημοσύνη είναι μια από τις τεχνολογίες που αλλάζουν τα παιχνίδια αυτού του αιώνα και προσφέρει μεταμορφωτικές ευκαιρίες για την οικονομία και την κοινωνία. Είναι σε καλό δρόμο να συνεισφέρει σχεδόν 16 τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία έως το 2030.
Ωστόσο, τα τελευταία αρκετά χρόνια έχουν βάλει τα φώτα της δημοσιότητας σε μεγάλες απειλές AI (και όχι, δεν είναι οι κυρίαρχοι ρομπότ!) ήδη εδώ. Για παράδειγμα, οι δικαστικοί αλγόριθμοι που βελτιστοποιούν την ελάχιστη υποτροπή (υποτροπή σε εγκληματική συμπεριφορά) μπορούν να εισαγάγουν μεροληψία και να αρνηθούν την αποφυλάκιση υπό όρους σε όσους το αξίζουν.
Οι κοινωνικοί αλγόριθμοι που βελτιστοποιούν για δέσμευση μπορούν να διχάσουν ένα έθνος.
Οι άδικοι αλγόριθμοι μπορεί να είναι ο λόγος που δεν βρίσκετε δουλειά ή εισαγωγή στο πανεπιστήμιο.
Όσο περισσότερη αυτονομία δίνουμε στα εργαλεία μας, τόσο μεγαλύτερο είναι το φάσμα των ακούσιων συνεπειών. Η εξαιρετική κλίμακα δημιουργεί εξαιρετικό αντίκτυπο, αλλά όχι πάντα ο αντίκτυπος που σκοπεύουμε (γράφω για αυτό στο Μανιφέστο Credo AI).
Προβλέπω ότι οι επιχειρήσεις που επενδύουν στη διακυβέρνηση της τεχνητής νοημοσύνης για να τις βοηθήσουν να χτίσουν υπεύθυνα την τεχνολογία και να δεσμευτούν στην ηθική χρήση των δεδομένων , θα είναι σε θέση να δημιουργήσουν εμπιστοσύνη μεταξύ των ενδιαφερομένων - πελάτες, καταναλωτές, επενδυτές, εργαζόμενους και άλλους.
Πώς βοηθά το Credo AI να κρατούν τις εταιρείες υπόλογες;
Υπευθυνότητα σημαίνει υποχρέωση αποδοχής της ευθύνης για τις πράξεις του. Στο πλαίσιο της ανάπτυξης και εξάπλωσης της τεχνητής νοημοσύνης, αυτό σημαίνει ότι οι επιχειρήσεις πρέπει όχι μόνο να έχουν ευθυγραμμιστεί με το τι τους φαίνεται «καλό», αλλά να λαμβάνουν σκόπιμα μέτρα για να επιδείξουν δράση σε αυτούς τους ευθυγραμμισμένους στόχους και να αναλάβουν την ευθύνη για τα αποτελέσματα.
Η Credo AI στοχεύει να είναι ένας σέρπα για τις επιχειρήσεις στις ηθικές και υπεύθυνες πρωτοβουλίες τεχνητής νοημοσύνης τους, ώστε να τις καθιστά υπόλογες στους διάφορους ενδιαφερόμενους: χρήστες, εργαζόμενους, ρυθμιστικούς φορείς, ελεγκτές, επενδυτές, στελέχη και άλλους. Ως εκ τούτου, η Credo AI πρωτοστάτησε σε μια λύση σε πραγματικό χρόνο, βασισμένη στο πλαίσιο, ολοκληρωμένη και συνεχή για την παροχή ηθικής και υπεύθυνης τεχνητής νοημοσύνης σε κλίμακα.
Η οικοδόμηση λογοδοσίας και εμπιστοσύνης στην τεχνητή νοημοσύνη είναι μια δυναμική διαδικασία. Οι οργανισμοί πρέπει να ευθυγραμμίζονται με τις εταιρικές αξίες, να κωδικοποιούν αυτές τις αξίες, να τις ενσωματώνουν στην οργανωτική τους υποδομή, να παρατηρούν τον αντίκτυπο και να επαναλαμβάνουν τη διαδικασία με διαφορετικές φωνές που παρέχουν πληροφορίες σε κάθε στάδιο. Το Credo AI επιτρέπει αυτή τη λογοδοσία μέσω μιας ολοκληρωμένης και σε πραγματικό χρόνο λύσης για τη διαχείριση της συμμόρφωσης και τη μέτρηση του κινδύνου για την ανάπτυξη τεχνητής νοημοσύνης σε κλίμακα.
Χρησιμοποιώντας τη λύση διακυβέρνησης Credo AI, οι επιχειρήσεις είναι σε θέση:
- Ευθυγραμμίστε τις απαιτήσεις διακυβέρνησης για τις περιπτώσεις και τα μοντέλα χρήσης τεχνητής νοημοσύνης, με προσαρμόσιμα πακέτα πολιτικών και εργαλεία υποστήριξης αποφάσεων για την επιλογή μετρήσεων αξιολόγησης μοντέλων.
- Αξιολογήστε και ανακρίνετε τα μοντέλα δεδομένων και ML σε σχέση με αυτούς τους ευθυγραμμισμένους στόχους
- Αναλύστε τις τεχνικές προδιαγραφές σε δραστικό αντίκτυπο κινδύνου για την επιχείρηση σε κάθε στάδιο ανάπτυξης και ανάπτυξης μοντέλων, ώστε να μπορείτε να εντοπίσετε και να διορθώσετε ζητήματα διακυβέρνησης προτού γίνουν τεράστια προβλήματα
Καταγράφοντας τις αποφάσεις και τις ενέργειες σε κάθε σημείο, το Credo AI αποτυπώνει την προέλευση των αποφάσεων που προέκυψαν στη δημιουργία των μοντέλων ως απόδειξη. Αυτά τα αποδεικτικά στοιχεία θα είναι ένα αρχείο που μοιράζεται εσωτερικά με τα ενδιαφερόμενα μέρη της επιχείρησης και εξωτερικά με ελεγκτές που οικοδομεί εμπιστοσύνη στις προθέσεις της τεχνητής νοημοσύνης.
Αυτά τα στοιχεία θα βοηθήσουν τις ομάδες ανάπτυξης να προβλέψουν και να αποτρέψουν ανεπιθύμητες συνέπειες και θα τυποποιήσουν τον τρόπο με τον οποίο αξιολογούμε την αποτελεσματικότητα και την αξιοπιστία των μοντέλων τεχνητής νοημοσύνης.
Βρισκόμαστε στα πρώτα βήματα της δυνατότητας διακυβέρνησης AI μέσω ολοκληρωμένων αξιολογήσεων και διαβεβαιώσεων και είμαστε ενθουσιασμένοι που θα συνεργαστούμε με περισσότερες επιχειρήσεις για την προώθηση της λογοδοσίας.
Πώς η Credo AI βοηθά τις εταιρείες να απομακρυνθούν από τη διακυβέρνηση της τεχνητής νοημοσύνης ως εκ των υστέρων;
Στον σημερινό κόσμο, υπάρχει έλλειψη σαφήνειας σχετικά με το τι είναι πραγματικά «υπεύθυνη», «ηθική» και «αξιόπιστη» τεχνητή νοημοσύνη και πώς μπορούν οι επιχειρήσεις να το αποδώσουν. Βοηθάμε να επαναδιατυπωθεί αυτό το βασικό ερώτημα για τις επιχειρήσεις, χρησιμοποιώντας την πλατφόρμα Credo AI SaaS για να επιδείξουμε τα «οικονομικά της ηθικής».
Με το Credo AI, οι επιχειρήσεις είναι σε θέση όχι μόνο να παρέχουν δίκαιη, συμβατή και ελεγχόμενη τεχνητή νοημοσύνη, αλλά είναι σε θέση να οικοδομήσουν την εμπιστοσύνη των πελατών.
Η οικοδόμηση εμπιστοσύνης των καταναλωτών μπορεί να διευρύνει τη βάση πελατών μιας εταιρείας και να ξεκλειδώσει περισσότερες πωλήσεις. Για παράδειγμα, οι εταιρείες μπορούν να παρέχουν την καλύτερη δυνατή εμπειρία πελατών χρησιμοποιώντας ηθική τεχνητή νοημοσύνη στα chatbot εξυπηρέτησης πελατών τους ή να χρησιμοποιούν υπεύθυνα την τεχνητή νοημοσύνη για να κατανοήσουν τη δραστηριότητα των χρηστών και να προτείνουν πρόσθετο περιεχόμενο ή προϊόντα για αυτούς. Οι εξαιρετικά ικανοποιημένοι πελάτες προσφέρουν στη συνέχεια την καλύτερη διαφήμιση μοιράζοντας την εμπειρία τους με τους φίλους και την οικογένειά τους.
Επιπλέον, οι επιχειρήσεις μπορούν επίσης να δουν πώς η συνεργασία μεταξύ τεχνικών και εποπτικών λειτουργιών μπορεί να τους βοηθήσει να εξοικονομήσουν κόστος λόγω του ταχύτερου χρόνου συμμόρφωσης, της ενημερωμένης διαχείρισης κινδύνου, των μειωμένων κινδύνων επωνυμίας και ρυθμιστικών αρχών. Βοηθάμε τους οργανισμούς να αναπτύξουν ηθική τεχνητή νοημοσύνη δημιουργώντας μια γέφυρα μεταξύ των τεχνικών μετρήσεων και των απτών επιχειρηματικών αποτελεσμάτων. Καθώς όλο και περισσότεροι άνθρωποι συνειδητοποιούν, η υπεράσπιση της ηθικής τεχνητής νοημοσύνης περιλαμβάνει πολύ περισσότερα από τον έλεγχο ενός πλαισίου «ρυθμιστικής συμμόρφωσης». Αλλά έχει τη δύναμη να προσφέρει ακόμη περισσότερα από μια συνεισφορά σε έναν πιο δίκαιο κόσμο, κάτι που θα ήταν από μόνο του ένα αξιόλογο αποτέλεσμα.
Όταν μια εταιρεία τηρεί υψηλά ηθικά πρότυπα, μπορεί να αναμένει πραγματικά επιχειρηματικά αποτελέσματα, όπως αυξημένα έσοδα. Η μετατόπιση της οπτικής από μια αφηρημένη «μαλακή» έννοια, σε μια αντικειμενική επιχειρηματική απόφαση ήταν ένας βασικός τρόπος για να βοηθήσουμε να τοποθετήσουμε τη διακυβέρνηση της τεχνητής νοημοσύνης ως κρίσιμο μέρος της οικονομικής και κοινωνικής μηχανής για την εταιρεία.
Πρόσφατα, η κυβέρνηση Μπάιντεν δημιούργησε την Εθνική Συμβουλευτική Επιτροπή Τεχνητής Νοημοσύνης. Κατά την άποψή σας, ποιες είναι οι επιπτώσεις αυτού για τις επιχειρήσεις τεχνητής νοημοσύνης;
Οι κυβερνήσεις παγκοσμίως καταβάλλουν κάθε δυνατή προσπάθεια για τη ρύθμιση της Τεχνητής Νοημοσύνης και οι επιχειρήσεις πρέπει να προετοιμαστούν. Η στοχαστική δημιουργία της Εθνικής Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη από την κυβέρνηση Μπάιντεν και οι επενδύσεις στο OSTP του Λευκού Οίκου αποτελούν ένα καλό πρώτο βήμα για να ληφθούν μέτρα στις συζητήσεις γύρω από το νομοσχέδιο δικαιωμάτων για τη διακυβέρνηση των συστημάτων Τεχνητής Νοημοσύνης. Ωστόσο, χρειάζεται πολλή δουλειά για να κατανοήσουμε τι θα σήμαινε η Υπεύθυνη Τεχνητή Νοημοσύνη για τη χώρα και την οικονομία μας.
Πιστεύω ότι το 2022 είναι το έτος δράσης για την υπεύθυνη τεχνητή νοημοσύνη. Είναι μια κλήση αφύπνισης για τις επιχειρήσεις που επιθυμούν να εφαρμόσουν ή να ενισχύσουν το ηθικό τους πλαίσιο τεχνητής νοημοσύνης. Τώρα είναι η ώρα για τις εταιρείες να αξιολογήσουν το υπάρχον πλαίσιο για τα κενά τους ή, για τις εταιρείες που δεν έχουν μια προσέγγιση, να εφαρμόσουν ένα σταθερό πλαίσιο για αξιόπιστη τεχνητή νοημοσύνη, ώστε να τις διαμορφώσουν ώστε να οδηγήσουν στην επιτυχία στην εποχή της τεχνητής νοημοσύνης.
Θα πρέπει να περιμένουμε να προκύψουν πιο σκληροί και ήπιοι κανονισμοί. Εκτός από τις ενέργειες του Λευκού Οίκου, υπάρχει μεγάλη ώθηση από άλλους υπεύθυνους χάραξης πολιτικής και φορείς, όπως το προσχέδιο Αλγοριθμικής Λογοδοσίας της Γερουσίας, η καθοδήγηση της Ομοσπονδιακής Επιτροπής Εμπορίου (FTC) σχετικά με την προκατάληψη της τεχνητής νοημοσύνης και πολλά άλλα.
Εάν προχωρήσουμε γρήγορα προς το μέλλον, πόσο σημαντική θα είναι η ηθική και η διακυβέρνηση της τεχνητής νοημοσύνης σε πέντε χρόνια;
Βρισκόμαστε στα πρώτα βήματα της διακυβέρνησης της AI. Για να υπογραμμίσω πόσο κρίσιμη είναι η διακυβέρνηση της τεχνητής νοημοσύνης, ακολουθούν μερικές από τις προβλέψεις μου για τα επόμενα χρόνια:
- Η ηθική διακυβέρνηση της τεχνητής νοημοσύνης θα γίνει κορυφαία προτεραιότητα του οργανισμού
Οι επιχειρήσεις συνεχίζουν να επενδύουν και να αποκομίζουν οφέλη από τη χρήση της τεχνητής νοημοσύνης στις επιχειρήσεις τους. Η IDC έχει προβλέψει δαπάνη 340 δισεκατομμυρίων δολαρίων για την τεχνητή νοημοσύνη το 2022. Χωρίς διακυβέρνηση, οι επιχειρήσεις θα είναι απρόθυμες να επενδύσουν στην τεχνητή νοημοσύνη λόγω ανησυχιών σχετικά με την προκατάληψη, την ασφάλεια, την ακρίβεια και τη συμμόρφωση αυτών των συστημάτων.
Χωρίς εμπιστοσύνη, οι καταναλωτές θα είναι επίσης απρόθυμοι να δεχτούν προϊόντα που βασίζονται σε τεχνητή νοημοσύνη ή να μοιραστούν δεδομένα για την κατασκευή αυτών των συστημάτων. Κατά τα επόμενα πέντε χρόνια, η ηθική διακυβέρνηση της τεχνητής νοημοσύνης θα γίνει μια προτεραιότητα στην αίθουσα συνεδριάσεων και μια σημαντική μέτρηση που θα πρέπει να αποκαλύψουν και να αναφέρουν οι εταιρείες για να οικοδομήσουν εμπιστοσύνη μεταξύ των ενδιαφερομένων τους.
- Νέες κοινωνικοτεχνικές κατηγορίες θέσεων εργασίας θα προκύψουν σε μια επιχείρηση
Βλέπουμε ήδη οργανισμούς που προωθούν την ηθική να επενδύουν σημαντικά στη μελλοντική επαλήθευση της ανάπτυξής τους για να διασφαλίσουν δίκαιες, συμβατές και ελεγχόμενες εφαρμογές τεχνητής νοημοσύνης.
Για να ηγηθούν στην τεχνητή νοημοσύνη, οι επιχειρήσεις θα πρέπει να επισπεύσουν περαιτέρω την εκμάθηση σχετικά με το ρυθμιστικό τοπίο της τεχνητής νοημοσύνης και τις υλοποιήσεις δομών λογοδοσίας σε κλίμακα. Καθώς το αναδυόμενο πεδίο εφαρμογής ηθικής τεχνητής νοημοσύνης εξελίσσεται, μια νέα κοινωνικοτεχνική κατηγορία θέσεων εργασίας θα μπορούσε να προκύψει για να διευκολύνει αυτές τις συνομιλίες και να αναλάβει την ευθύνη σε αυτόν τον τομέα. Αυτή η νέα συνιστώσα του εργατικού δυναμικού θα μπορούσε να λειτουργήσει ως ενδιάμεσοι μεταξύ των τεχνικών και των επιθεωρήσεων, βοηθώντας στην ανάπτυξη κοινών προτύπων και στόχων.
- Οι νέες εμπειρίες με τεχνητή νοημοσύνη θα απαιτήσουν αυστηρότερη διακυβέρνηση
Η διαχείριση της επιδιωκόμενης και της ακούσιας συνέπειας της τεχνητής νοημοσύνης είναι κρίσιμη, ειδικά καθώς εισερχόμαστε στον κόσμο του Metaverse και του web3. Οι κίνδυνοι της τεχνητής νοημοσύνης υπάρχουν στον πραγματικό και στον εικονικό κόσμο, αλλά ενισχύονται περαιτέρω στον τελευταίο.
Βουτώντας πρώτα στο κεφάλι του Metaverse με έλλειψη εποπτείας τεχνητής νοημοσύνης, οι επιχειρήσεις θέτουν τους πελάτες τους σε κίνδυνο για προκλήσεις όπως η κλοπή ταυτότητας και η απάτη. Είναι υψίστης σημασίας τα ζητήματα τεχνητής νοημοσύνης και διακυβέρνησης να επιλυθούν στον πραγματικό κόσμο τώρα, προκειμένου να διατηρηθούν οι καταναλωτές ασφαλείς στο Metaverse.
- Θα προκύψουν νέα οικοσυστήματα στην ηθική διακυβέρνηση της τεχνητής νοημοσύνης
Ο κόσμος έχει αφυπνιστεί στην ιδέα ότι η διακυβέρνηση της τεχνητής νοημοσύνης αντιπροσωπεύει το βασικό δομικό στοιχείο για τη λειτουργικότητα της υπεύθυνης τεχνητής νοημοσύνης. Τα επόμενα χρόνια, θα δούμε μια ανταγωνιστική και δυναμική αγορά παρόχων υπηρεσιών να αναδύεται για να παρέχει εργαλεία, υπηρεσίες, εκπαίδευση και άλλες δυνατότητες για την υποστήριξη αυτής της τεράστιας ανάγκης.
Επιπλέον, θα δούμε επίσης την ενοποίηση και την αύξηση των υφιστάμενων πλατφορμών MLops και GRC, για να φέρουμε τις δυνατότητες διακυβέρνησης και αξιολόγησης στην τεχνητή νοημοσύνη.
Υπάρχει κάτι άλλο που θα θέλατε να μοιραστείτε σχετικά με το Credo AI;
Η ηθική διακυβέρνηση της τεχνητής νοημοσύνης είναι μια μελλοντική επένδυση που δεν μπορείτε να αντέξετε οικονομικά δεν να φτιάξεις και σήμερα είναι η καλύτερη μέρα για να ξεκινήσεις.
Σας ευχαριστούμε για τη λεπτομερή συνέντευξη και για την κοινή χρήση όλων των γνώσεών σας σχετικά με τη διακυβέρνηση και την ηθική της τεχνητής νοημοσύνης, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα θα πρέπει να επισκεφθούν Credo AI.
