นาวรินา ซิงห์ ซีอีโอและผู้ก่อตั้ง Credo AI – สัมภาษณ์系列

นาวรินา ซิงห์ เป็นซีอีโอและผู้ก่อตั้ง Credo AI ซึ่งเป็นบริษัทที่ออกแบบแพลตฟอร์ม SaaS สำหรับการกำกับดูแล AI ที่ครอบคลุมเพื่อให้บริษัทและบุคคลสามารถเข้าใจและสร้าง AI ที่เชื่อถือได้และเป็นไปตามหลักจริยธรรมได้ดีขึ้น และสร้างบันทึก AI ที่สามารถตรวจสอบและโปร่งใสได้ทั่วทั้งองค์กร

คุณเติบโตในเมืองเล็กๆ ในอินเดียและมีจุดเริ่มต้นอย่างเรียบง่าย คุณพบว่าตัวเองถูกดึงดูดไปสู่วิศวกรรมและด้าน AI อย่างไร?

ฉันมาจากครอบครัวชนชั้นกลาง พ่อของฉันทำงานในกองทัพเป็นเวลา 4 ทศวรรษ และแม่ของฉันเป็นครูและนักออกแบบแฟชั่น ตั้งแต่ฉันยังเด็ก พวกเขามักจะสนับสนุนให้ฉันมีความอยากรู้อยากเห็นและรักการค้นพบทางวิทยาศาสตร์ และให้ฉันพื้นที่ที่ปลอดภัยในการสำรวจ “อะไรถ้า”

เมื่อฉันยังเติบโตอยู่ในอินเดีย สตรีไม่ได้รับโอกาสมากเท่าๆ กับ男性 มีการตัดสินใจหลายอย่างที่ถูกกำหนดไว้แล้วสำหรับเด็กหญิงตามมาตรฐานของสังคม วิธีเดียวที่จะหลุดพ้นและให้ครอบครัวมีชีวิตที่ดีคือผ่านการศึกษา

หลังจากจบมัธยม ฉันซื้อคอมพิวเตอร์เครื่องแรกของฉัน ซึ่งเป็นหน้าต่างสู่โลก ฉันสนใจฮาร์ดแวร์มากและใช้เวลาออนไลน์หลายชั่วโมงในการเรียนรู้วิธีการแยกเครื่องแม่ข่าย สร้างแอปพลิเคชันหุ่นยนต์ การเขียนโค้ด การทำไฟฟ้าในบ้าน (อ๊ะ!) และอื่นๆ วิศวกรรมกลายเป็นพื้นที่ที่ปลอดภัยสำหรับฉัน ที่ฉันสามารถทดลอง สำรวจ สร้าง และสัมผัสโลกที่ฉันต้องการเป็นส่วนหนึ่งผ่านการประดิษฐ์ของฉัน ฉันรู้สึกถูกชี้นำและตื่นเต้นเกี่ยวกับวิธีที่เทคโนโลยีสามารถเป็นเครื่องมือที่มีพลังในการเปลี่ยนแปลง โดยเฉพาะสำหรับสตรี

เมื่อฉันยังเติบโตอยู่ ความสามารถของฉันถูกจำกัด แต่ความเป็นไปได้ไม่ถูกจำกัด ฉันเคยฝันอยากมาในสหรัฐอเมริกาเพื่อสร้างฐานที่แข็งแกร่งในด้านเทคโนโลยีเพื่อแก้ไขปัญหาที่ยิ่งใหญ่ที่สุดของมนุษยชาติ ฉันเข้าเมืองในปี 2001 เพื่อ続ต่อการเดินทางด้านวิศวกรรมที่มหาวิทยาลัยวิสคอนซิน แมดิสัน

ในช่วงเกือบสองทศวรรษที่ผ่านมา ฉันมีโอกาสทำงานในด้านเทคโนโลยีใหม่ๆ หลายอย่าง ตั้งแต่โทรศัพท์มือถือไปจนถึงความเป็นจริงเสริม

ในปี 2011 ฉันเริ่มสำรวจ AI เพื่อสร้างธุรกิจใหม่ๆ ที่Qualcomm (QCOM ) ฉันยังใช้เวลาในการสร้างธุรกิจและแอปพลิเคชันใน AI ตั้งแต่สัญญาณเสียงไปจนถึงการประมวลผลภาษาธรรมชาติ ที่ Microsoft (MSFT ) และ Qualcomm ในช่วงสิบปีที่ผ่านมา เมื่อฉันเรียนรู้เพิ่มเติมเกี่ยวกับ AI และการเรียนรู้ของเครื่อง มันกลายเป็นเรื่องที่ชัดเจนว่าเทคโนโลยีนี้จะเปลี่ยนแปลงชีวิตของเราอย่างมากเกินกว่าที่เราจะคิดได้

การสร้าง AI ระดับองค์กรทำให้ฉันรู้ว่าเทคโนโลยีนี้สามารถทำอันตรายต่อผู้คนและชุมชนของเราได้ หากไม่ได้รับการควบคุม เราในฐานะผู้นำต้องรับผิดชอบต่อเทคโนโลยีที่เรากำลังสร้างอย่างมาก เราต้องดำเนินการเพื่อเพิ่มผลประโยชน์ของมันให้กับมนุษยชาติและลดความเสี่ยงให้เหลือน้อยที่สุด หลังจากทั้งหมด “สิ่งที่เราสร้างขึ้น ทำให้เราเป็นเช่นนั้น” ดังนั้นการสร้างอย่างรับผิดชอบจึงมีความสำคัญ ซึ่งได้สร้างแรงบันดาลใจให้ฉันในระยะต่อไปของอาชีพการงานในการสร้างการกำกับดูแล AI

คุณเริ่มคิดอย่างจริงจังเกี่ยวกับการกำกับดูแล AI เมื่อไหร่?

เมื่อฉันเป็นหัวหน้าฝ่ายนวัตกรรมที่ Qualcomm เรากำลังสำรวจความเป็นไปได้ที่ AI สามารถนำมาใช้ในธุรกิจใหม่ๆ ของเรา งานเริ่มต้นของเรามุ่งเน้นไปที่หุ่นยนต์ที่ทำงานร่วมกันในห่วงโซ่อุปทาน ซึ่งเป็นการเปิดเผย “ความเสี่ยงจริง” ของ AI ต่อความปลอดภัยของมนุษย์ที่ทำงานร่วมกับระบบหุ่นยนต์เหล่านี้

ในช่วงเวลานั้น เราใช้เวลาสำรวจกับสตาร์ทอัพ เช่น Soul Machines เพื่อเรียนรู้กรณีการใช้งานใหม่ๆ และหาวิธีจับมือกับพวกเขาเพื่อเร่งการทำงานของเรา Soul Machines ได้ปล่อยเวอร์ชันใหม่ของ “Baby X” ซึ่งเป็นหุ่นยนต์ที่มีพลังงานจากเครือข่ายประสาทเทียม การดูหุ่นยนต์ Baby X ที่เรียนรู้อย่างแข็งขันจากโลก xung quanh ทำให้ฉันหยุดและสะท้อนถึงผลกระทบที่ไม่ได้ตั้งใจของเทคโนโลยีนี้ ลูกสาวของฉัน Ziya เกิดในช่วงเวลาเดียวกัน และเราตั้งชื่อเล่นให้เธอเป็น “Baby Z” ตาม Baby “X” ของ Soul Machines ฉันพูดถึงเรื่องนี้หลายครั้ง รวมถึงใน การกล่าวสุนทรพจน์ของ Women In Product ในปี 2019

การเรียนรู้ของ Baby X และ Baby Z มีความคล้ายคลึงกันมาก! เมื่อ Ziya เติบโตขึ้น เราให้คำศัพท์และเครื่องมือเริ่มต้นเพื่อให้เธอเรียนรู้ เมื่อเวลาผ่านไป เธอเริ่มเข้าใจโลกและเริ่มสร้างสิ่งต่างๆ ด้วยตัวเอง Baby X ซึ่งเป็นหุ่นยนต์ที่มีพลังงานจากเครือข่ายประสาทเทียม ก็เรียนรู้ผ่านเซ็นเซอร์ภาพและระบบการรู้จำเสียงพูด และสร้างความเข้าใจที่ลึกซึ้งเกี่ยวกับโลกของมนุษย์

ช่วงเวลาด้าน AI ในยุคแรกๆ เหล่านี้ทำให้ฉันเห็นความสำคัญของการค้นหาวิธีการจัดการความเสี่ยงและติดตั้งราวกั้นรอบๆ เทคโนโลยีที่ทรงพลังนี้เพื่อให้แน่ใจว่ามันถูกนำไปใช้เพื่อประโยชน์ของมนุษยชาติ

คุณสามารถแบ่งปันเรื่องราวเกี่ยวกับการก่อตั้ง Credo AI ได้หรือไม่?

หลังจาก Qualcomm ฉันถูกชักชวนให้ไปเป็นผู้นำการค้าขาย AI ที่ Microsoft ในกลุ่มพัฒนาผลิตภัณฑ์และกลุ่มพัฒนาธุรกิจ ในช่วงเวลาที่ฉันทำงานที่ Microsoft ฉันมีโอกาสทำงานกับเทคโนโลยี AI หลายอย่าง ตั้งแต่ AI สำหรับการสนทนาไปจนถึงการตรวจสอบสัญญา และจากการตรวจสอบภาพไปจนถึงการค้นพบผลิตภัณฑ์โดยใช้เสียง

อย่างไรก็ตาม เมล็ดพันธุ์ของการกำกับดูแล AI ที่ถูกปลูกที่ Qualcomm ยังคงเติบโตเมื่อฉันตื่นตัวมากขึ้นเกี่ยวกับ “การขาดการกำกับดูแล” ในการพัฒนาเทคโนโลยี AI ในฐานะผู้นำผลิตภัณฑ์ที่ทำงานกับทีมวิทยาศาสตร์ข้อมูลและวิศวกรรม เราได้รับแรงบันดาลใจในการสร้างแอปพลิเคชัน AI ที่มีประสิทธิภาพสูงโดยใช้การเรียนรู้ของเครื่องและนำไปใช้ในตลาดอย่างรวดเร็ว

เรามองเห็นการปฏิบัติตามกฎระเบียบและการกำกับดูแลเป็นประตูที่ชะลอการสร้างสรรค์นวัตกรรม อย่างไรก็ตาม ความกังวลที่เพิ่มขึ้นของฉันเกี่ยวกับการขาดการกำกับดูแลระหว่างผู้เชี่ยวชาญด้านเทคนิคและผู้ตรวจสอบในด้านความเสี่ยง การปฏิบัติตามกฎระเบียบ และการตรวจสอบ ทำให้ฉันต้องการสำรวจความท้าทายในการสร้างการกำกับดูแล AI ต่อไป

คำถามที่ไม่ได้รับคำตอบเกี่ยวกับการกำกับดูแล AI ส่งเสริมให้ฉันค้นหาคำตอบ ฉันจึงเริ่มสร้างพื้นฐานสำหรับองค์กร非営利ชื่อ MERAT (Marketplace for Ethical and Responsible AI tools) โดยมีเป้าหมายในการสร้างระบบนิเวศสำหรับสตาร์ทอัพและ Global 2000 ที่มุ่งเน้นในการพัฒนา AI อย่างรับผิดชอบ

ผ่านการลองผิดลองถูกในระยะแรกที่ MERAT มันกลายเป็นเรื่องที่ชัดเจนว่าไม่มีสตาร์ทอัพใดที่สามารถให้เครื่องมือหลายฝ่ายที่ครอบคลุมเพื่อการกำกับดูแล AI และ ML ได้ จนกระทั่ง Credo AI ช่องว่างนี้เป็นโอกาสให้ฉันสามารถบรรลุภารกิจในการชี้นำ AI อย่างมีเจตนา

ฉันถูกเข้าถึงโดย AI Fund ซึ่งเป็น इनकิวเบเตอร์ที่ก่อตั้งโดย Andrew Ng ผู้เชี่ยวชาญ AI ที่มีชื่อเสียง AI Fund มุ่งเน้นไปที่หัวข้อการตรวจสอบและกำกับดูแล AI เช่นเดียวกับที่ฉันถูกครอบงำมาเป็นเวลา 10 ปี

Credo AI ถูกจัดตั้งขึ้นเมื่อวันที่ 28 กุมภาพันธ์ 2020 โดยได้รับการสนับสนุนจาก AI Fund

Credo หมายถึง “ชุดค่าผสมของค่านิยมที่ชี้นำการกระทำของคุณ” ด้วย Credo AI วิสัยทัศน์ของเราคือการเพิ่มขีดความสามารถให้กับองค์กรในการสร้าง AI ที่มีมาตรฐานทางจริยธรรมสูงสุด

ใน สัมภาษณ์ก่อนหน้านี้ คุณพูดถึงว่าแบรนด์ในอนาคตจะถูกเชื่อถือไม่ “เพียง” ตามวิธีที่พวกเขาสร้างและใช้ AI แต่ตามวิธีที่พวกเขาขยาย AI เพื่อให้อยู่ในบริการของมนุษยชาติ คุณสามารถอธิบายเพิ่มเติมเกี่ยวกับเรื่องนี้ได้หรือไม่?

AI เป็นหนึ่งในเทคโนโลยีที่เปลี่ยนแปลงเกมของศตวรรษนี้ และนำเสนอโอกาสที่เปลี่ยนแปลงสำหรับเศรษฐกิจและสังคม มันคาดว่าจะมีส่วนสนับสนุนประมาณ 16 ล้านล้านดอลลาร์สหรัฐฯ ต่อเศรษฐกิจโลกภายในปี 2030

อย่างไรก็ตาม ปีที่ผ่านมาได้โฟกัสไปที่ภัยคุกคาม AI ที่สำคัญ (และไม่ใช่หุ่นยนต์เหนือผู้คน!) ที่อยู่ที่นี่แล้ว ตัวอย่างเช่น อัลกอริทึมทางตุลาการที่ปรับให้เหมาะสมกับการกลับเข้าไปในพฤติกรรมทางอาญา (การกลับเข้าไปในพฤติกรรมทางอาญา) สามารถนำเข้ามาเป็นอคติและปฏิเสธการปล่อยตัวให้กับผู้ที่สมควรได้รับ

อัลกอริทึมทางสังคมที่ปรับให้เหมาะสมกับการมีส่วนร่วมสามารถแบ่งแยกประเทศได้

อัลกอริทึมที่ไม่ยุติธรรมสามารถเป็นสาเหตุที่คุณไม่ได้รับงานหรือการเข้าเรียนในมหาวิทยาลัย

เมื่อเราให้ความเป็นอิสระแก่เครื่องมือของเรา มันจะนำไปสู่ผลที่ไม่ได้ตั้งใจที่กว้างขึ้น การขยายขนาดที่ไม่ธรรมดาสามารถสร้างผลกระทบที่ไม่ได้ตั้งใจ (ฉันเขียนเกี่ยวกับเรื่องนี้ใน Credo AI Manifesto)

ฉันคาดการณ์ว่าองค์กรที่ลงทุนในการกำกับดูแล AI เพื่อช่วยให้พวกเขาสร้างเทคโนโลยีอย่างรับผิดชอบและมุ่งมั่นที่จะใช้ข้อมูลอย่างมีจริยธรรม จะสามารถสร้างความไว้วางใจกับผู้มีส่วนได้ส่วนเสียต่างๆ ได้

วิธีการที่ Credo AI ช่วยให้บริษัทต่างๆ รับผิดชอบต่อการกระทำของตน?

ความรับผิดชอบหมายถึงภาระผูกพันที่จะยอมรับความรับผิดชอบต่อการกระทำของตนเอง ในบริบทของการพัฒนาและใช้ AI นี่หมายถึงว่าองค์กรต่างๆ ต้องไม่เพียงแต่ตกลงเกี่ยวกับสิ่งที่ “ดูเหมือนดี” แต่ยังต้องดำเนินการเชิงรุกเพื่อแสดงการดำเนินการตามเป้าหมายที่สอดคล้องกันและรับผิดชอบต่อผลลัพธ์

Credo AI มีเป้าหมายที่จะเป็น “sherpa” สำหรับองค์กรในการดำเนินงาน AI ที่มีจริยธรรมและรับผิดชอบ เพื่อให้พวกเขารับผิดชอบต่อผู้มีส่วนได้ส่วนเสียต่างๆ เช่น ผู้ใช้พนักงาน ผู้กำกับดูแล ผู้ตรวจสอบ นักลงทุน ผู้บริหาร และอื่นๆ ดังนั้น Credo AI จึงเป็นผู้บุกเบิกในการนำเสนอโซลูชันที่ครอบคลุมและต่อเนื่องเพื่อนำเสนอ AI ที่มีจริยธรรมและรับผิดชอบในระดับใหญ่

การสร้างความรับผิดชอบและความไว้วางใจใน AI เป็นกระบวนการที่มีการเปลี่ยนแปลง องค์กรต่างๆ ต้องสอดคล้องกับค่านิยมขององค์กร ระบุค่านิยมเหล่านั้น สร้างค่านิยมเหล่านั้นเข้าไปในโครงสร้างพื้นฐานขององค์กร ตรวจสอบผลกระทบและทำซ้ำกระบวนการนี้ด้วยเสียงที่หลากหลายที่ให้ข้อเสนอแนะในแต่ละขั้นตอน Credo AI ทำให้ความรับผิดชอบนี้เป็นไปได้ผ่านโซลูชันที่ครอบคลุมและทันเวลาในการจัดการการปฏิบัติตามกฎระเบียบและการวัดความเสี่ยงสำหรับการใช้ AI ในระดับใหญ่

โดยใช้โซลูชันการกำกับดูแล Credo AI องค์กรต่างๆ สามารถ:

• สอดคล้องกับข้อกำหนดการกำกับดูแลสำหรับกรณีการใช้งาน AI และโมเดลของตน โดยมีแพ็คการกำกับดูแลที่สามารถปรับแต่งได้และเครื่องมือสนับสนุนการตัดสินใจสำหรับการเลือกเมตริกการประเมินโมเดล
• ประเมินและซักถามข้อมูลและโมเดล ML เทียบกับเป้าหมายที่สอดคล้องกัน
• วิเคราะห์ข้อกำหนดทางเทคนิคเป็นผลกระทบต่อความเสี่ยงทางธุรกิจที่สามารถดำเนินการได้ในทุกขั้นตอนของการพัฒนาและใช้โมเดล เพื่อให้คุณสามารถจับและแก้ไขปัญหาการกำกับดูแลก่อนที่จะกลายเป็นปัญหาที่ยิ่งใหญ่

โดยการบันทึกการตัดสินใจและการดำเนินการในแต่ละจุด Credo AI จับหลักฐานของการตัดสินใจที่นำไปสู่การสร้างโมเดลเหล่านี้เป็นหลักฐานที่จะแบ่งปันภายในผู้มีส่วนได้ส่วนเสียขององค์กรและภายนอกกับผู้ตรวจสอบ ซึ่งจะช่วยสร้างความไว้วางใจในเจตนาในการใช้ AI

หลักฐานนี้จะช่วยให้ทีมพัฒนาสามารถคาดการณ์และป้องกันผลที่ไม่ได้ตั้งใจ และจะกำหนดมาตรฐานในการประเมินประสิทธิภาพและความน่าเชื่อถือของโมเดล AI

เรายังอยู่ในระยะเริ่มต้นของการนำการกำกับดูแล AI มาใช้ และเราตื่นเต้นที่จะทำงานร่วมกับองค์กรต่างๆ เพื่อส่งเสริมความรับผิดชอบ

วิธีการที่ Credo AI ช่วยให้บริษัทต่างๆ หันเหจากการพิจารณาการกำกับดูแล AI เป็นเรื่องรองจากการดำเนินธุรกิจ?

ในโลกปัจจุบัน มีความไม่ชัดเจนเกี่ยวกับสิ่งที่ “รับผิดชอบ” “มีจริยธรรม” และ “เชื่อถือได้” ของ AI คืออะไร และวิธีการที่องค์กรสามารถนำไปใช้ได้ เราช่วยให้องค์กรต่างๆ ตั้งคำถามสำคัญนี้ใหม่โดยใช้แพลตฟอร์ม SaaS ของ Credo AI เพื่อแสดง “เศรษฐศาสตร์ของจริยธรรม”

ด้วย Credo AI องค์กรต่างๆ สามารถสร้าง AI ที่ยุติธรรม มีการปฏิบัติตามกฎระเบียบ และสามารถตรวจสอบได้ และสร้างความไว้วางใจกับลูกค้า

การสร้างความไว้วางใจกับลูกค้าสามารถขยายฐานลูกค้าและปลดล็อกการขายได้ ตัวอย่างเช่น บริษัทสามารถให้ประสบการณ์ลูกค้าที่ดีที่สุดโดยใช้ AI ที่มีจริยธรรมในหุ่นยนต์บริการลูกค้า หรือใช้ AI อย่างรับผิดชอบเพื่อทำความเข้าใจกิจกรรมของผู้ใช้และแนะนำเนื้อหาอื่นๆ หรือผลิตภัณฑ์ให้กับพวกเขา ลูกค้าที่พึงพอใจมากสามารถให้การตลาดที่ดีที่สุดโดยการแบ่งปันประสบการณ์ของตนกับเพื่อนและครอบครัว

นอกจากนี้ องค์กรยังสามารถเห็นได้ว่าการทำงานร่วมกันระหว่างหน้าที่ทางเทคนิคและหน้าที่กำกับดูแลสามารถช่วยให้พวกเขาประหยัดค่าใช้จ่ายได้เนื่องจากการปฏิบัติตามกฎระเบียบได้เร็วขึ้น การจัดการความเสี่ยงที่มีข้อมูล และลดความเสี่ยงต่อแบรนด์และกฎระเบียบ

เราช่วยให้องค์กรต่างๆ นำ AI ที่มีจริยธรรมมาใช้โดยการสร้างสะพานระหว่างเมตริกทางเทคนิคและผลลัพธ์ทางธุรกิจที่เป็นรูปธรรม เมื่อมีผู้คนมากขึ้นที่ตระหนักว่าการสนับสนุน AI ที่มีจริยธรรมต้องใช้มากกว่าการตรวจสอบการปฏิบัติตามกฎระเบียบ แต่มีพลังในการส่งมอบมากกว่าการมีส่วนร่วมต่อสังคมที่เท่าเทียมกัน ซึ่งจะเป็นผลลัพธ์ที่น่าพอใจโดยตัวมันเอง

เมื่อบริษัทยึดมั่นในมาตรฐานทางจริยธรรมสูง มันสามารถคาดหวังผลลัพธ์ทางธุรกิจที่แท้จริง เช่น การเพิ่มรายได้ การเปลี่ยนมุมมองจากแนวคิดที่ “อ่อน” ที่จะกลายเป็นตัวเลือกทางธุรกิจที่เป็นรูปธรรม เป็นวิธีที่สำคัญที่เราใช้ในการช่วยให้การกำกับดูแล AI เป็นส่วนสำคัญของเครื่องยนต์ทางเศรษฐกิจและสังคมของบริษัท

เมื่อเร็วๆ นี้ รัฐบาล拜เดนได้สร้างคณะกรรมการที่ปรึกษาด้าน AI ของประเทศ คุณคิดว่าสิ่งนี้มีผลกระทบต่อธุรกิจ AI อย่างไร?

รัฐบาลทั่วโลกกำลังดำเนินการเต็มที่ในการควบคุม AI และองค์กรต่างๆ ต้องเตรียมตัวแล้ว การสร้างคณะกรรมการที่ปรึกษาด้าน AI ของรัฐบาล拜เดนและการลงทุนในสำนักงานการวิทยาศาสตร์และเทคโนโลยีของทำเนียบขาวเป็นขั้นตอนแรกที่ดีในการนำการดำเนินการมาใช้ในการอภิปรายเกี่ยวกับสิทธิในการกำกับดูแลระบบ AI อย่างไรก็ตาม ยังมีงานที่ต้องทำมากมายเพื่อให้การกำกับดูแล AI ที่มีความรับผิดชอบเป็นจริงสำหรับประเทศและเศรษฐกิจของเรา

ฉันเชื่อว่าปี 2022 จะเป็นปีแห่งการดำเนินการสำหรับการกำกับดูแล AI ที่มีความรับผิดชอบ นี่เป็นเสียงปลุกให้กับองค์กรที่ต้องการนำกรอบการทำงานด้านจริยธรรมมาใช้หรือเสริมสร้างกรอบการทำงานที่มีอยู่แล้ว ตอนนี้เป็นเวลาที่ดีที่สุดสำหรับบริษัทต่างๆ ในการประเมินกรอบการทำงานที่มีอยู่สำหรับการกำกับดูแล AI และเตรียมตัวสำหรับความสำเร็จในการนำ AI ที่มีจริยธรรมมาใช้

เราควรคาดหวังกฎระเบียบและมาตรการอื่นๆ ที่จะเกิดขึ้น นอกเหนือจากการดำเนินการของทำเนียบขาว ยังมีแรงผลักดันที่จะเกิดขึ้นจากผู้กำหนดนโยบายและหน่วยงานอื่นๆ เช่น ร่างกฎหมาย Algorithmic Accountability Act ของวุฒิสภา และคำแนะนำของ Federal Trade Commission (FTC) เกี่ยวกับอคติของ AI และอื่นๆ

หากเราคาดการณ์ไปสู่อนาคต AI จะมีความสำคัญเพียงใดในอีก 5 ปี?

เรายังอยู่ในระยะเริ่มต้นของการกำกับดูแล AI เพื่อเน้นย้ำถึงความสำคัญของการกำกับดูแล AI ฉันจะให้คำทำนายบางอย่างสำหรับปีต่อๆ ไป:

• การกำกับดูแล AI ที่มีจริยธรรมจะกลายเป็นลำดับความสำคัญขององค์กร

องค์กรต่างๆ ยังคงลงทุนและได้รับประโยชน์จากการใช้ AI ในธุรกิจของตน IDC คาดการณ์ว่าจะมีการใช้จ่าย 340 พันล้านดอลลาร์สหรัฐฯ ใน AI ในปี 2022 โดยไม่มีการกำกับดูแล องค์กรต่างๆ จะไม่เต็มใจที่จะลงทุนใน AI เนื่องจากความกังวลเกี่ยวกับอคติ ความปลอดภัย ความถูกต้อง และการปฏิบัติตามกฎระเบียบของระบบเหล่านี้

โดยไม่มีความไว้วางใจ ผู้บริโภคก็จะไม่เต็มใจที่จะยอมรับผลิตภัณฑ์หรือบริการที่ใช้ AI หรือแบ่งปันข้อมูลเพื่อสร้างระบบเหล่านี้ ในช่วง 5 ปีที่จะมาถึง การกำกับดูแล AI ที่มีจริยธรรมจะกลายเป็นลำดับความสำคัญของห้องประชุมและเป็นเมตริกที่สำคัญที่บริษัทต่างๆ จะต้องเปิดเผยและรายงานเพื่อสร้างความไว้วางใจกับผู้มีส่วนได้ส่วนเสียต่างๆ

• งานใหม่ๆ ในด้านสังคมและเทคนิคจะเกิดขึ้นภายในองค์กร

เรากำลังเห็นแล้วว่าองค์กรที่มีจริยธรรมกำลังลงทุนอย่างมากในการสร้างความมั่นใจว่าการพัฒนาของพวกเขาจะมี AI ที่ยุติธรรม มีการปฏิบัติตามกฎระเบียบ และสามารถตรวจสอบได้ เพื่อให้นำ AI มาใช้ องค์กรต่างๆ จะต้องเร่งการเรียนรู้เกี่ยวกับภูมิทัศน์การกำกับดูแล AI และการนำโครงสร้างความรับผิดชอบมาใช้

เมื่อภาคการนำ AI ที่มีจริยธรรมมาใช้พัฒนาไป อาจเกิดงานใหม่ๆ ที่ไม่เคยเห็นมาก่อน ซึ่งอาจทำหน้าที่เป็นคนกลางระหว่างหน้าที่ทางเทคนิคและหน้าที่กำกับดูแล ช่วยพัฒนาเป้าหมายและมาตรฐานร่วมกัน

• ประสบการณ์ใหม่ๆ ที่ใช้ AI จะต้องการการกำกับดูแลที่เข้มงวดมากขึ้น

การควบคุมผลที่ไม่ได้ตั้งใจและที่ตั้งใจของ AI มีความสำคัญอย่างยิ่ง โดยเฉพาะเมื่อเราเข้าสู่โลกของ Metaverse และ web3 ความเสี่ยงของ AI มีอยู่ในโลกแห่งความเป็นจริงและโลกเสมือน แต่ความเสี่ยงนั้นเพิ่มขึ้นในโลกเสมือน

เมื่อเราเข้าสู่ Metaverse โดยไม่มีการกำกับดูแล AI เราเปิดโอกาสให้ผู้บริโภคตกอยู่ในความเสี่ยงต่อความท้าทาย เช่น การขโมยตัวตนและการฉ้อโกง ดังนั้นจึงเป็นสิ่งสำคัญที่จะต้องแก้ไขปัญหาการกำกับดูแล AI ในโลกแห่งความเป็นจริงก่อน เพื่อให้สามารถรักษาความปลอดภัยให้กับผู้บริโภคใน Metaverse

• ระบบนิเวศใหม่ๆ ในการกำกับดูแล AI จะเกิดขึ้น

โลกได้ตื่นตัวแล้วถึงความคิดที่ว่าการกำกับดูแล AI เป็นบล็อกการสร้างที่สำคัญในการนำ AI ที่มีความรับผิดชอบมาใช้ ในช่วงหลายปีที่จะมาถึง เราจะเห็นตลาดที่มีการแข่งขันและพลวัตของผู้ให้บริการที่จะเกิดขึ้นเพื่อให้บริการ เครื่องมือ การศึกษา และความสามารถอื่นๆ เพื่อสนับสนุนความต้องการที่ยิ่งใหญ่นี้

นอกจากนี้ เรายังจะเห็นการควบควมและเพิ่มขีดความสามารถของแพลตฟอร์ม MLOps และ GRC ที่มีอยู่แล้ว เพื่อนำความสามารถในการกำกับดูแลและการประเมินมาให้กับ AI

คุณมีอะไรที่ต้องการแบ่งปันเกี่ยวกับ Credo AI อีกหรือไม่?

การกำกับดูแล AI ที่มีจริยธรรมเป็นการลงทุนที่มีความปลอดภัยในอนาคตที่คุณไม่สามารถไม่ทำได้ และวันนี้เป็นวันที่ดีที่สุดในการเริ่มต้น

ขอขอบคุณสำหรับการสัมภาษณ์ที่มีรายละเอียดและสำหรับการแบ่งปันข้อมูลเชิงลึกเกี่ยวกับการกำกับดูแล AI และจริยธรรม ผู้อ่านสามารถเยี่ยมชม Credo AI เพื่อเรียนรู้เพิ่มเติม