เกรซ ยี, ผู้อำนวยการอาวุโสฝ่ายนวัตกรรมทางจริยธรรม (จริยธรรม AI และการเข้าถึง) ของ Adobe – ซีรีส์สัมภาษณ์

เกรซ ยี เป็นผู้อำนวยการอาวุโสฝ่ายนวัตกรรมทางจริยธรรม (จริยธรรม AI และการเข้าถึง) ของ Adobe (ADBE ) โดยขับเคลื่อนการทำงานระดับโลกทั่วทั้งองค์กรเกี่ยวกับจริยธรรม และพัฒนากระบวนการ เครื่องมือ การฝึกอบรม และทรัพยากรอื่นๆ เพื่อช่วยให้แน่ใจว่านวัตกรรม AI ที่เป็นผู้นำในอุตสาหกรรมของ Adobe จะพัฒนาไปอย่างต่อเนื่องตามค่านิยมหลักและหลักการทางจริยธรรมของ Adobe เกรซส่งเสริมความมุ่งมั่นของ Adobe ในการสร้างและใช้เทคโนโลยีในลักษณะที่รับผิดชอบ โดยให้ความสำคัญกับจริยธรรมและความ包容ในทุกๆ การทำงานของบริษัทในการพัฒนา AI ในฐานะส่วนหนึ่งของงานนี้ เกรซดูแลคณะกรรมการจริยธรรม AI และคณะกรรมการตรวจสอบของ Adobe ซึ่งให้คำแนะนำเพื่อช่วยให้ทีมพัฒนาผลิตภัณฑ์ของ Adobe และตรวจสอบคุณลักษณะและผลิตภัณฑ์ AI ใหม่ๆ เพื่อให้แน่ใจว่าพวกเขาสอดคล้องกับหลักการของ Adobe ในเรื่องความรับผิดชอบ ความรับผิดชอบ และความโปร่งใส หลักการเหล่านี้ช่วยให้แน่ใจว่าเรานำผลิตภัณฑ์ AI ที่มีพลังมาใช้โดยลดผลลัพธ์ที่เป็นอันตรายและเอนเอียงให้เหลือน้อยที่สุด เกรซยังทำงานร่วมกับทีมนโยบายเพื่อขับเคลื่อนการสนับสนุนเพื่อช่วย塑范นโยบาย กฎหมาย และข้อบังคับเกี่ยวกับ AI เพื่อประโยชน์ของสังคม

ในฐานะส่วนหนึ่งของความมุ่งมั่นของ Adobe ในการเข้าถึง เกรซช่วยให้แน่ใจว่าผลิตภัณฑ์ของ Adobe มีความครอบคลุมและเข้าถึงได้สำหรับผู้ใช้ทุกคน เพื่อให้ทุกคนสามารถสร้าง ติดต่อ และมีส่วนร่วมกับประสบการณ์ดิจิทัลได้ ภายใต้การนำของเธอ Adobe ทำงานร่วมกับกลุ่มรัฐบาล สหพันธ์ทางการค้า และชุมชนผู้ใช้เพื่อส่งเสริมและพัฒนานโยบายและมาตรฐานการเข้าถึง เพื่อขับเคลื่อนการแก้ปัญหาในอุตสาหกรรมที่มีผลกระทบ

คุณสามารถบอกเราเกี่ยวกับเส้นทางของ Adobe ในช่วง 5 ปีที่ผ่านมาในการ塑范จริยธรรม AI ได้หรือไม่? มีเหตุการณ์สำคัญใดที่กำหนดการเปลี่ยนแปลงนี้ โดยเฉพาะอย่างยิ่งเมื่อเผชิญกับการพัฒนาอย่างรวดเร็ว เช่น AI ที่สร้างสรรค์?

เมื่อ 5 ปีที่แล้ว เราได้กำหนดกระบวนการจริยธรรม AI ของเราโดยการสร้างหลักการทางจริยธรรม AI ของเรา ซึ่งประกอบด้วยความรับผิดชอบ ความรับผิดชอบ และความโปร่งใส ซึ่งเป็นพื้นฐานสำหรับกระบวนการกำกับดูแลจริยธรรม AI ของเรา เราได้รวบรวมทีมที่หลากหลายและข้ามฟังก์ชันของพนักงาน Adobe จากทั่วโลกเพื่อสร้างหลักการที่สามารถนำไปปฏิบัติได้และทนทานต่อการทดสอบของเวลา

จากนั้นเราพัฒนากระบวนการตรวจสอบที่เข้มแข็งเพื่อระบุและบรรเทาผลกระทบและความเอนเอียงที่อาจเกิดขึ้นในระยะแรกของการ разработка AI การประเมินหลายส่วนที่ช่วยให้เราระบุและแก้ไขคุณลักษณะและผลิตภัณฑ์ที่อาจส่งเสริมความเอนเอียงและแบบแผนที่เป็นอันตราย

เมื่อ AI ที่สร้างสรรค์เกิดขึ้น เราได้ปรับกระบวนการตรวจสอบจริยธรรม AI ของเราเพื่อจัดการกับความท้าทายทางจริยธรรมใหม่ๆ กระบวนการเชิงอุปนัยนี้ทำให้เราสามารถอยู่เหนือปัญหาได้ และทำให้แน่ใจว่าเทคโนโลยี AI ของเราจะถูกพัฒนาและใช้งานอย่างรับผิดชอบ ความมุ่งมั่นของเราในการเรียนรู้อย่างต่อเนื่องและการทำงานร่วมกับทีมต่างๆ ทั่วทั้งบริษัทมีความสำคัญอย่างยิ่งในการรักษาความเกี่ยวข้องและประสิทธิผลของโปรแกรมจริยธรรม AI ของเรา ซึ่งจะช่วยเพิ่มประสบการณ์ที่เรามอบให้กับลูกค้าและส่งเสริมความ包容

หลักการทางจริยธรรม AI ของ Adobe ซึ่งประกอบด้วยความรับผิดชอบ ความรับผิดชอบ และความโปร่งใส นำไปสู่การปฏิบัติงานประจำวันอย่างไร? คุณสามารถแบ่งปันข้อมูลใดๆ เกี่ยวกับวิธีการที่หลักการเหล่านี้ช่วยให้โครงการ AI ของ Adobe?

เราปฏิบัติตามความมุ่งมั่นของ Adobe ในด้านจริยธรรม AI ในคุณลักษณะ AI ที่มีพลังของเราโดยการนำแนวทางปฏิบัติทางวิศวกรรมที่เข้มแข็งมาใช้เพื่อให้แน่ใจว่าการสร้างสรรค์อย่างรับผิดชอบ และรวบรวมข้อเสนอแนะอย่างต่อเนื่องจากพนักงานและลูกค้าเพื่อทำให้การปรับเปลี่ยนจำเป็น

คุณลักษณะ AI ใหม่ๆ จะต้องผ่านการประเมินจริยธรรมอย่างละเอียดเพื่อระบุและบรรเทาความเอนเอียงและความเสี่ยงที่อาจเกิดขึ้น เมื่อเรานำ Adobe Firefly ซึ่งเป็นครอบครัวของโมเดล AI ที่สร้างสรรค์มาใช้ มันผ่านการประเมินเพื่อลดการสร้างเนื้อหาที่อาจส่งเสริมแบบแผนที่เป็นอันตราย นี่เป็นกระบวนการที่เชิงอุปนัยซึ่งพัฒนาไปตามการทำงานร่วมกันอย่างใกล้ชิดกับทีมผลิตภัณฑ์ โดยการนำข้อเสนอแนะและความเข้าใจมาใช้เพื่อให้การทำงานมีความเกี่ยวข้องและประสิทธิผล เรายังดำเนินการตรวจสอบความเสี่ยงกับทีมผลิตภัณฑ์เพื่อทำความเข้าใจผลกระทบที่อาจเกิดขึ้น และออกแบบกลไกการตรวจสอบและข้อเสนอแนะที่เหมาะสม

Adobe จัดการกับความกังวลเกี่ยวกับความเอนเอียงใน AI อย่างไร โดยเฉพาะอย่างยิ่งในเครื่องมือที่ใช้โดยผู้ใช้ที่หลากหลายทั่วโลก? คุณสามารถให้ตัวอย่างเกี่ยวกับวิธีการที่ความเอนเอียงถูกระบุและบรรเทาในคุณลักษณะ AI เฉพาะ?

เรากำลังพัฒนากระบวนการประเมินและตรวจสอบจริยธรรม AI ของเราอย่างต่อเนื่อง โดยการทำงานร่วมกับทีมผลิตภัณฑ์และวิศวกรรม กระบวนการประเมินจริยธรรม AI ที่เรามีไม่กี่ปีที่แล้วแตกต่างจากที่เรามีในปัจจุบัน และฉันคาดว่าจะมีการเปลี่ยนแปลงเพิ่มเติมในอนาคต การเข้าใกล้เชิงอุปนัยนี้ทำให้เราสามารถนำการเรียนรู้ใหม่ๆ และจัดการกับความกังวลทางจริยธรรมที่เกิดขึ้นใหม่ๆ เช่น Firefly

ตัวอย่างเช่น เมื่อเราบวกการสนับสนุนภาษาหลายภาษาใน Firefly ทีมของฉันสังเกตเห็นว่ามันไม่ได้ให้ผลลัพธ์ที่ต้องการและบางคำถูกปิดกั้นโดยไม่ตั้งใจ เพื่อบรรเทาเราได้ทำงานอย่างใกล้ชิดกับทีมการทำให้เป็นมาตรฐานระหว่างประเทศและผู้พูดภาษาเจ้าของภาษาเพื่อขยายโมเดลและครอบคลุมคำศัพท์และนัยที่เฉพาะเจาะจง

ความมุ่งมั่นของเราในการพัฒนาแนวทางประเมินของเราเมื่อเทคโนโลยีเปลี่ยนแปลงเป็นสิ่งที่ช่วย Adobe สร้างสมดุลระหว่างนวัตกรรมและความรับผิดชอบทางจริยธรรม โดยการสร้างกระบวนการที่ตอบสนองและครอบคลุม เราให้แน่ใจว่าเทคโนโลยี AI ของเราสอดคล้องกับมาตรฐานสูงสุดของความโปร่งใสและความซื่อสัตย์ ทำให้ผู้สร้างสามารถใช้เครื่องมือของเราได้อย่างมั่นใจ

คุณสามารถบอกเราเกี่ยวกับวิธีการที่ Adobe จัดการกับการตัดกันระหว่างกฎระเบียบ AI ที่เปลี่ยนแปลงอย่างรวดเร็วและนวัตกรรมได้หรือไม่? Adobe มีบทบาทอะไรในการ塑范กฎระเบียบเหล่านี้?

เรามีส่วนร่วมอย่างแข็งขันในการติดต่อกับนักกำหนดนโยบายและกลุ่มในอุตสาหกรรมเพื่อช่วย塑范นโยบายที่สร้างสมดุลระหว่างนวัตกรรมและข้อพิจารณาทางจริยธรรม การสนทนาของเรากับนักกำหนดนโยบายมุ่งเน้นไปที่แนวทางของเราในการพัฒนา AI และความสำคัญของการสร้างเทคโนโลยีเพื่อเพิ่มประสบการณ์ของมนุษย์ ผู้กำหนดนโยบายกำลังมองหาวิธีแก้ปัญหาที่เป็นรูปธรรมเพื่อจัดการกับความท้าทายในปัจจุบัน และโดยการนำเสนอกรอบการทำงานเช่นหลักการทางจริยธรรม AI ของเรา ซึ่งพัฒนาโดยการทำงานร่วมกันและนำไปใช้อย่างต่อเนื่องในคุณลักษณะ AI ที่มีพลังของเรา เราสามารถส่งเสริมการสนทนาที่มีประสิทธิผลมากขึ้น

Adobe ให้ความสำคัญกับการพิจารณาด้านจริยธรรมใดๆ เมื่อเก็บข้อมูลฝึกอบรมสำหรับโมเดล AI ของตน? และ Adobe รับประกันว่าชุดข้อมูลที่ใช้นั้นมีจริยธรรมและเพียงพอสำหรับความต้องการของ AI หรือไม่?

ที่ Adobe เราให้ความสำคัญกับการพิจารณาด้านจริยธรรมหลายประการเมื่อเก็บข้อมูลฝึกอบรมสำหรับโมเดล AI ของเรา ในฐานะส่วนหนึ่งของความพยายามของเราในการออกแบบ Firefly ให้ปลอดภัยในเชิงพาณิชย์ เราได้ฝึกอบรมมันบนชุดข้อมูลของเนื้อหาที่ได้รับอนุญาต เช่น Adobe Stock และเนื้อหาสาธารณสมบัติซึ่งลิขสิทธิ์ได้หมดอายุแล้ว เรายังเน้นย้ำถึงความหลากหลายของชุดข้อมูลเพื่อหลีกเลี่ยงการเสริมสร้างความเอนเอียงและแบบแผนที่เป็นอันตรายในผลลัพธ์ของโมเดลของเรา เพื่อให้บรรลุเป้าหมายนี้ เราได้ทำงานร่วมกับทีมที่หลากหลายและผู้เชี่ยวชาญเพื่อตรวจสอบและคัดเลือกข้อมูล โดยการปฏิบัติตามแนวปฏิบัติเหล่านี้ เราพยายามสร้างเทคโนโลยี AI ที่ไม่เพียงแต่มีพลังและประสิทธิผลเท่านั้น แต่ยังเป็นจริยธรรมและครอบคลุมสำหรับผู้ใช้ทุกคน

คุณคิดว่าความโปร่งใส่มีความสำคัญเพียงใดในการสื่อสารกับผู้ใช้เกี่ยวกับวิธีการฝึกอบรมระบบ AI ของ Adobe เช่น Firefly และข้อมูลประเภทใดที่ใช้?

ความโปร่งใส่เป็นสิ่งสำคัญในการสื่อสารกับผู้ใช้เกี่ยวกับวิธีการฝึกอบรมคุณลักษณะ AI ที่สร้างสรรค์ของ Adobe เช่น Firefly รวมถึงประเภทของข้อมูลที่ใช้ ซึ่งช่วยสร้างความไว้วางใจและความมั่นใจในเทคโนโลยีของเรา โดยการเปิดเผยเกี่ยวกับแหล่งที่มาของข้อมูล วิธีการฝึกอบรม และมาตรการรักษาความปลอดภัยทางจริยธรรมที่เรามี เราให้อำนาจผู้ใช้ในการตัดสินใจอย่างมีข้อมูลเกี่ยวกับวิธีการที่พวกเขาติดต่อและใช้ผลิตภัณฑ์ของเรา ความโปร่งใสนี้ไม่เพียงแต่สอดคล้องกับหลักการทางจริยธรรม AI ของเราเท่านั้น แต่ยังช่วยสร้างความสัมพันธ์ที่ร่วมมือกับผู้ใช้ของเรา

เมื่อ AI ยังคงเติบโต โดยเฉพาะ AI ที่สร้างสรรค์ คุณคิดว่าความท้าทายทางจริยธรรมที่สำคัญที่สุดสำหรับบริษัทอย่าง Adobe ในอนาคตอันใกล้คืออะไร?

ฉันเชื่อว่าความท้าทายทางจริยธรรมที่สำคัญที่สุดสำหรับบริษัทอย่าง Adobe คือการบรรเทาความเอนเอียงที่เป็นอันตราย การรับรองความครอบคลุม และการรักษาความไว้วางใจของผู้ใช้ ความเสี่ยงที่ AI จะเสริมสร้างแบบแผนที่เป็นอันตรายหรือสร้างเนื้อหาที่เป็นอันตรายและทำให้เข้าใจผิดเป็นเรื่องที่ต้องให้ความสนใจอย่างต่อเนื่อง ตัวอย่างเช่น ด้วยความก้าวหน้าล่าสุดของ AI ที่สร้างสรรค์ มันง่ายกว่าที่ “ผู้กระทำที่ไม่ดี” จะสร้างเนื้อหาที่หลอกลวงและเผยแพร่ข้อมูลที่ไม่ถูกต้อง ทำให้ความไว้วางใจและความโปร่งใสลดลง

เพื่อจัดการกับปัญหานี้ Adobe ก่อตั้ง Content Authenticity Initiative (CAI) ในปี 2019 เพื่อสร้างระบบนิเวศดิจิทัลที่เชื่อถือได้และโปร่งใสมากขึ้นสำหรับผู้บริโภค CAI นำโซลูชันของเราในการสร้างความไว้วางใจออนไลน์มาใช้ – เรียกว่า Content Credentials Content Credentials รวมถึง “ส่วนผสม” หรือข้อมูลสำคัญ เช่น ชื่อผู้สร้าง วันที่สร้าง รูปภาพ เครื่องมือที่ใช้ในการสร้าง และการแก้ไขใดๆ ที่ทำระหว่างทาง สิ่งนี้ทำให้ผู้ใช้สามารถสร้างโซนสื่อสารดิจิทัลและความถูกต้อง

เมื่อ AI ที่สร้างสรรค์ยังคงเติบโต จะเป็นสิ่งสำคัญมากขึ้นที่จะส่งเสริมการนำ Content Credentials ไปใช้อย่างกว้างขวางเพื่อสร้างความไว้วางใจในเนื้อหาดิจิทัล

คุณมีคำแนะนำใดๆ สำหรับองค์กรอื่นๆ ที่เพิ่งเริ่มคิดเกี่ยวกับกรอบจริยธรรมสำหรับการพัฒนา AI?

คำแนะนำของฉันคือให้เริ่มต้นด้วยการกำหนดหลักการที่ชัดเจน ง่าย และสามารถนำไปปฏิบัติได้ ซึ่งสามารถชี้นำความพยายามของคุณได้ มักจะเห็นบริษัทหรือองค์กรที่มุ่งเน้นไปที่สิ่งที่ดูเหมือนดีในทางทฤษฎี แต่หลักการของพวกเขาก็ไม่ปฏิบัติตามได้ สาเหตุที่หลักการของเราทนทานต่อการทดสอบของเวลาได้ เพราะเราได้ออกแบบมันให้สามารถปฏิบัติตามได้ เมื่อเราทำการประเมินคุณลักษณะ AI ที่มีพลัง ทีมผลิตภัณฑ์และวิศวกรรมของเรารู้ว่าเรากำลังมองหาอะไรและมาตรฐานใดที่เราคาดหวังจากพวกเขา

ฉันจะแนะนำให้องค์กรเข้ามาในกระบวนการนี้โดยรู้ว่ามันจะเป็นกระบวนการที่เชิงอุปนัย ฉันไม่แน่ใจว่า Adobe จะคิดค้นอะไรในอีก 5 หรือ 10 ปี แต่ฉันรู้ว่าเราจะพัฒนากระบวนการประเมินของเราเพื่อตอบสนองกับนวัตกรรมเหล่านั้นและข้อเสนอแนะที่เราได้รับ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Adobe.