Γрейς Γι, Διευθύντρια Ηθικής Καινοτομίας (Ηθική και Προσβασιμότητα του AI) στην Adobe – Σειρά Συνεντεύξεων

Γрейς Γι είναι η Διευθύντρια Ηθικής Καινοτομίας (Ηθική και Προσβασιμότητα του AI) στην Adobe (ADBE ), οδηγώντας παγκόσμιες, οργανωτικές εργασίες γύρω από την ηθική και την ανάπτυξη διαδικασιών, εργαλείων, εκπαιδεύσεων και άλλων πόρων για να βοηθήσει να διασφαλιστεί ότι οι καινοτομίες του AI της Adobe εξελίσσονται συνεχώς σύμφωνα με τις βασικές αξίες και ηθικές αρχές της Adobe. Η Γрейς προωθεί την δέσμευση της Adobe για την κατασκευή και χρήση τεχνολογίας με υπευθυνότητα, τοποθετώντας την ηθική και την ενοποίηση σε όλα τα έργα της εταιρείας για την ανάπτυξη του AI. Jako μέρος αυτής της εργασίας, η Γрейς εποπτεύει την Επιτροπή Ηθικής του AI και το Συμβούλιο Επίβλεψης της Adobe, τα οποία κάνουν συστάσεις για να βοηθήσουν στην καθοδήγηση των ομάδων ανάπτυξης της Adobe και αναθεωρούν новые χαρακτηριστικά και προϊόντα του AI για να διασφαλιστεί ότι ανταποκρίνονται στις αρχές της Adobe για την ευθύνη, την υπευθυνότητα και τη διαφάνεια. Αυτές οι αρχές βοηθούν να διασφαλιστεί ότι φέρνουμε τις δυνατότητες του AI μας στην αγορά ενώ μειώνουμε τις επιζήμιες και τις προκατειλημμένες εξελίξεις. Η Γрейς εργάζεται επίσης με την ομάδα πολιτικής για να οδηγήσει την προώθηση και να βοηθήσει στη διαμόρφωση της δημόσιας πολιτικής, των νόμων και των κανονισμών γύρω από το AI για το όφελος της κοινωνίας.

Ως μέρος της δέσμευσης της Adobe για την προσβασιμότητα, η Γрейς βοηθά να διασφαλιστεί ότι τα προϊόντα της Adobe είναι περιεκτικά και προσβάσιμα σε όλους τους χρήστες, ώστε όλοι να μπορούν να δημιουργήσουν, να αλληλεπιδράσουν και να ασχοληθούν με ψηφιακές εμπειρίες. Υπό την ηγεσία της, η Adobe συνεργάζεται με κυβερνητικές ομάδες, εμπορικές ενώσεις και κοινότητες χρηστών για να προωθήσει και να προωθήσει πολιτικές και πρότυπα προσβασιμότητας, οδηγώντας σε αποτελεσματικές λύσεις βιομηχανίας.

Μπορείτε να μας πείτε για το ταξίδι της Adobe τα τελευταία πέντε χρόνια στη διαμόρφωση της Ηθικής του AI; Ποια είναι τα βασικά ορόσημα που έχουν ορίσει αυτή την εξέλιξη, ιδιαίτερα αντιμετωπίζοντας ταχεία προόδους όπως το γεννητικό AI;

Πέντε χρόνια πριν, κατηγοριοποιήσαμε τη διαδικασία Ηθικής του AI μας με την καθιέρωση των αρχών Ηθικής του AI μας για την ευθύνη, την υπευθυνότητα και τη διαφάνεια, οι οποίες χρησιμεύουν ως η βάση για τη διαδικασία διακυβέρνησης της Ηθικής του AI μας. Συγκροτήσαμε μια ποικίλη, διαλειτουργική ομάδα εργαζομένων της Adobe από όλο τον κόσμο για να αναπτύξουμε ενεργές αρχές που μπορούν να αντέξουν την δοκιμασία του χρόνου.

Από εκεί, αναπτύξαμε μια ροή αναθεώρησης για να αναγνωρίσουμε και να μετριάσουμε τους πιθανούς κινδύνους και προκαταλήψεις νωρίς στη διαδικασία ανάπτυξης του AI. Αυτή η πολλαπλή αξιολόγηση βοήθησε να αναγνωρίσουμε και να αντιμετωπίσουμε χαρακτηριστικά και προϊόντα που θα μπορούσαν να ενισχύσουν επιζήμιες προκαταλήψεις και στερεότυπα.

Όταν εμφανίστηκε το γεννητικό AI, προσαρμόσαμε την αξιολόγηση Ηθικής του AI μας για να αντιμετωπίσουμε новые ηθικές προκλήσεις. Αυτή η επαναληπτική διαδικασία μας επέτρεψε να παραμείνουμε μπροστά από πιθανές προβλήματα, διασφαλίζοντας ότι οι τεχνολογίες του AI μας αναπτύσσονται και αναπτύσσονται με υπευθυνότητα. Η δέσμευσή μας στην συνεχή μάθηση και τη συνεργασία με διάφορες ομάδες σε όλη την εταιρεία ήταν κρίσιμη για τη διατήρηση της σχετικότητας και της αποτελεσματικότητας του προγράμματος Ηθικής του AI μας, ενισχύοντας τελικά την εμπειρία που παρέχουμε στους πελάτες μας και προωθώντας την ενοποίηση.

Πώς μεταφράζονται οι αρχές Ηθικής του AI της Adobe – ευθύνη, υπευθυνότητα και διαφάνεια – στην καθημερινή λειτουργία; Μπορείτε να μοιραστείτε παραδείγματα για το πώς αυτές οι αρχές έχουν καθοδηγήσει τα έργα του AI της Adobe;

Συνεχίζουμε τις δεσμεύσεις Ηθικής του AI της Adobe στις δυνατότητες του AI μας εφαρμόζοντας ροβούστα μηχανική πρακτική που εξασφαλίζει υπεύθυνη καινοτομία, ενώ συνεχώς συλλέγουμε σχόλια από τους εργαζόμενους και τους πελάτες μας για να ενεργοποιήσουμε τις αναγκαίες προσαρμογές.

Νέα χαρακτηριστικά του AI υποβάλλονται σε μια περίεργη αξιολόγηση ηθικής για να αναγνωρίσουν και να μετριάσουν τις πιθανές προκαταλήψεις και κινδύνους. Όταν εισαγάγαμε το Adobe Firefly, την οικογένεια μοντέλων γεννητικού AI μας, υποβεβληθήκαμε σε αξιολόγηση για να μετριάσουμε ενάντια στη δημιουργία περιεχομένου που θα μπορούσε να ενισχύσει επιζήμιες στερεότυπα. Αυτή η αξιολόγηση είναι μια επαναληπτική διαδικασία που εξελίσσεται με βάση τη στενή συνεργασία με τις ομάδες προϊόντων, ενσωματώνοντας σχόλια και μαθήματα για να παραμείνουμε σχετικοί και αποτελεσματικοί. Επίσης, διεξάγουμε ασκήσεις ανακάλυψης κινδύνων με τις ομάδες προϊόντων για να κατανοήσουμε τις πιθανές επιπτώσεις και να σχεδιάσουμε τα κατάλληλα μηχανισμούς δοκιμής και ανατροφοδότησης.

Πώς αντιμετωπίζει η Adobe τις ανησυχίες σχετικά με την προκατάληψη στο AI, ιδιαίτερα σε εργαλεία που χρησιμοποιούνται από einen παγκόσμιο, διαφορετικό χρήστη; Μπορείτε να δώσετε ένα παράδειγμα για το πώς αναγνωρίστηκε και μετριάθηκε η προκατάληψη σε một συγκεκριμένο χαρακτηριστικό του AI;

Συνεχώς εξελίσσουμε την αξιολόγηση Ηθικής του AI και τη διαδικασία αναθεώρησης μας σε στενή συνεργασία με τις ομάδες προϊόντων και μηχανικής μας. Η αξιολόγηση Ηθικής του AI που είχαμε πριν από quelques χρόνια είναι διαφορετική από αυτή που έχουμε τώρα, και προβλέπω επιπλέον αλλαγές στο μέλλον. Αυτή η επαναληπτική προσέγγιση μας επιτρέπει να ενσωματώσουμε νέες γνώσεις και να αντιμετωπίσουμε αναδυόμενες ηθικές ανησυχίες καθώς οι τεχνολογίες όπως το Firefly εξελίσσονται.

Για παράδειγμα, όταν προσθέσαμε υποστήριξη πολλαπλών γλωσσών στο Firefly, η ομάδα μου ανίχνευσε ότι δεν παρείχε το预期ζόμενο αποτέλεσμα και ορισμένα λόγια μπλοκαρίστηκαν ακούσια. Για να μετριάσουμε αυτό, συνεργαστήκαμε στενά με την ομάδα διεθνοποίησης και ομιλητές της μητρικής γλώσσας για να επεκτείνουμε τα μοντέλα μας και να καλύψουμε χώρα-ειδικές όρους και συνδηλώσεις.

Η δέσμευσή μας να εξελίξουμε την προσέγγισή μας για αξιολόγηση καθώς η τεχνολογία προχωρά είναι αυτό που βοηθά την Adobe να ισορροπήσει την καινοτομία με την ηθική υπευθυνότητα. Με την προώθηση μιας ενοποιημένης και ανταποκριτικής διαδικασίας, διασφαλίζουμε ότι οι τεχνολογίες του AI μας ανταποκρίνονται στα υψηλότερα πρότυπα διαφάνειας και ακεραιότητας, ενδυναμώνοντας τους δημιουργούς να χρησιμοποιούν τα εργαλεία μας με εμπιστοσύνη.

Με τη συμμετοχή σας στη διαμόρφωση της δημόσιας πολιτικής, πώς αντιμετωπίζει η Adobe το σταυροδρόμι μεταξύ ταχέως μεταβαλλόμενων κανονισμών του AI και καινοτομίας; Ποιο είναι το ρόλο της Adobe στη διαμόρφωση αυτών των κανονισμών;

Ενεργά συμμετέχουμε με τους νομοθέτες και τις βιομηχανικές ομάδες για να βοηθήσουμε στη διαμόρφωση πολιτικής που ισορροπεί την καινοτομία με ηθικές σκέψεις. Οι συζητήσεις μας με τους νομοθέτες εστιάζονται στην προσέγγισή μας στο AI και τη σημασία της ανάπτυξης τεχνολογίας για την ενίσχυση των ανθρώπινων εμπειριών. Οι ρυθμιστές αναζητούν πρακτικές λύσεις για να αντιμετωπίσουν τις τρέχουσες προκλήσεις και με την παρουσίαση πλαισίων όπως οι αρχές Ηθικής του AI μας – που αναπτύχθηκαν συνεργατικά και εφαρμόστηκαν συνεχώς στις δυνατότητες του AI μας – προωθούμε πιο παραγωγικές συζητήσεις. Είναι κρίσιμο να φέρουμε συγκεκριμένα παραδείγματα στο τραπέζι που δείχνουν πώς λειτουργούν οι αρχές μας στην πράξη και να δείξουμε πραγματική επίδραση, αντί να μιλάμε για αφηρημένες έννοιες.

Ποια ηθικά ζητήματα προτεραιότητα η Adobe όταν προμηθεύεται δεδομένα εκπαίδευσης, και πώς διασφαλίζει ότι τα σύνολα δεδομένων που χρησιμοποιούνται είναι και ηθικά και επαρκώς ισχυρά για τις ανάγκες του AI;

Στην Adobe, προτεραιότητα δίνουμε σε几个 κρίσιμα ηθικά ζητήματα όταν προμηθεύουμε δεδομένα εκπαίδευσης για τα μοντέλα του AI μας. Ως μέρος της προσπάθειάς μας να σχεδιάσουμε το Firefly για να είναι εμπορικά ασφαλές, εκπαιδεύσαμε το μοντέλο σε σύνολο δεδομένων με άδεια περιεχομένου όπως το Adobe Stock και δημόσιο περιεχόμενο όπου το πνευματικό δικαίωμα έχει λήξει. Επίσης, επικεντρώθηκα στη διαφοροποίηση των συνόλων δεδομένων για να αποφευχθεί η ενίσχυση επιζήμιων προκαταλήψεων και στερεοτύπων στις εξόδους του μοντέλου μας. Για να επιτύχουμε αυτό, συνεργαζόμαστε με διαφορετικές ομάδες και εμπειρογνώμονες για να αναθεωρήσουμε και να επιμεληθούμε τα δεδομένα. Με την τήρηση αυτών των πρακτικών, αγωνιζόμαστε να δημιουργήσουμε τεχνολογίες του AI που δεν είναι μόνο ισχυρές και αποτελεσματικές αλλά και ηθικές και ενοποιημένες για όλους τους χρήστες.

Πόσο σημαντική είναι η διαφάνεια στην επικοινωνία προς τους χρήστες για το πώς η Adobe εκπαιδεύει τα συστήματα του AI όπως το Firefly και ποια δεδομένα χρησιμοποιούνται;

Η διαφάνεια είναι κρίσιμη όταν πρόκειται για την επικοινωνία προς τους χρήστες για το πώς η Adobe εκπαιδεύει τις δυνατότητες του AI όπως το Firefly, συμπεριλαμβανομένων των τύπων δεδομένων που χρησιμοποιούνται. Χτίζει εμπιστοσύνη και εμπιστοσύνη στις τεχνολογίες μας, διασφαλίζοντας ότι οι χρήστες κατανοούν τις διαδικασίες πίσω από την ανάπτυξη του γεννητικού AI μας. Με την ανοιχτή ανταλλαγή των πηγών δεδομένων, των μεθόδων εκπαίδευσης και των ηθικών φραγμών που έχουμε στη θέση μας, ενδυναμώνουμε τους χρήστες να λάβουν ενημερωμένες αποφάσεις σχετικά με το πώς αλληλεπιδρούν με τα προϊόντα μας. Αυτή η διαφάνεια δεν chỉ συμμορφώνεται με τις βασικές αρχές Ηθικής του AI μας αλλά και προωθεί μια συνεργατική σχέση με τους χρήστες μας.

Όσο το AI συνεχίζει να επεκτείνεται, ιδιαίτερα το γεννητικό AI, ποια θα είναι οι πιο σημαντικές ηθικές προκλήσεις που θα αντιμετωπίσουν εταιρείες όπως η Adobe στο κοντινό μέλλον;

Πιστεύω ότι οι πιο σημαντικές ηθικές προκλήσεις για εταιρείες όπως η Adobe είναι η μείωση των επιζήμιων προκαταλήψεων, η διασφάλιση της ενοποίησης και η διατήρηση της εμπιστοσύνης των χρηστών. Η πιθανότητα το AI να ενισχύσει ακούσια στερεότυπα ή να δημιουργήσει επιζήμιο και παραπλανητικό περιεχόμενο είναι μια ανησυχία που απαιτεί συνεχή επιτήρηση και ισχυρά φραγμά. Για παράδειγμα, με τις πρόσφατες προόδους στο γεννητικό AI, είναι πιο εύκολο παρά ποτέ για “κακούς ηθοποιούς” να δημιουργήσουν παραπλανητικό περιεχόμενο, να διαδώσουν ψευδείς πληροφορίες και να χειραγωγούν την κοινή γνώμη, υπονομεύοντας την εμπιστοσύνη και τη διαφάνεια.

Για να αντιμετωπίσουμε αυτό, η Adobe ίδρυσε τη Πρωτοβουλία Αυθεντικότητας Περιεχομένου (CAI) το 2019 για να δημιουργήσει ένα πιο αξιόπιστο και διαφανές ψηφιακό οικοσύστημα για τους καταναλωτές. Η CAI εφαρμόζει την λύση μας για να χτίσει εμπιστοσύνη στο διαδίκτυο – που ονομάζεται Πιστοποιήσεις Περιεχομένου. Οι Πιστοποιήσεις Περιεχομένου περιλαμβάνουν “υλικά” ή σημαντικές πληροφορίες όπως το όνομα του δημιουργού, η ημερομηνία δημιουργίας μιας εικόνας, τα εργαλεία που χρησιμοποιήθηκαν για τη δημιουργία μιας εικόνας και οι επεξεργασίες που έγιναν κατά τη διαδικασία. Αυτό ενδυναμώνει τους χρήστες να δημιουργήσουν μια ψηφιακή αλυσίδα εμπιστοσύνης και αυθεντικότητας.

Όσο το γεννητικό AI συνεχίζει να επεκτείνεται, θα είναι ακόμη πιο σημαντικό να προωθήσουμε την ευρεία υιοθέτηση των Πιστοποιήσεων Περιεχομένου για να αποκαταστήσουμε την εμπιστοσύνη στο ψηφιακό περιεχόμενο.

Τι συμβουλή θα δίνατε σε άλλες οργανώσεις που μόλις αρχίζουν να σκέφτονται για ηθικά πλαίσια για την ανάπτυξη του AI;

Η συμβουλή μου θα ήταν να αρχίσουν με την καθιέρωση σαφών, απλών και πρακτικών αρχών που μπορούν να καθοδηγήσουν τις προσπάθειές τους. Συχνά, βλέπω εταιρείες ή οργανισμούς που επικεντρώνονται σε αυτό που φαίνεται καλό στη θεωρία, αλλά οι αρχές τους δεν είναι πρακτικές. Ο λόγος για τον οποίο οι αρχές μας έχουν αντέξει την δοκιμασία του χρόνου είναι ότι τις σχεδιάσαμε για να είναι ενεργές. Όταν αξιολογούμε τις δυνατότητες του AI μας, οι ομάδες προϊόντων και μηχανικής μας γνωρίζουν τι αναζητούμε και ποια πρότυπα περιμένουμε από αυτούς.

Θα συνιστούσα επίσης στις οργανώσεις να έρθουν σε αυτή τη διαδικασία γνωρίζοντας ότι θα είναι επαναληπτική. Μπορεί να μην ξέρω τι θα εφεύρει η Adobe σε πέντε ή δέκα χρόνια, αλλά ξέρω ότι θα εξελίξουμε την αξιολόγησή μας για να ανταποκριθούμε σε αυτές τις καινοτομίες και τις ανατροφοδοτήσεις που λαμβάνουμε.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Adobe.