นาวรินา ซิงห์ CEO และผู้ก่อตั้ง Credo AI – ซีรีส์สัมภาษณ์

นาวรินา ซิงห์ เป็น CEO และผู้ก่อตั้ง Credo AI บริษัทที่ออกแบบแพลตฟอร์ม AI治理 SaaS ที่ครอบคลุมครั้งแรก ซึ่งช่วยให้บริษัทและบุคคลเข้าใจและสร้าง AI ที่น่าเชื่อถือและจริยธรรมได้ดีขึ้น ติดตามกฎระเบียบและนโยบายใหม่ๆ และสร้างบันทึก AI ที่สามารถตรวจสอบและโปร่งใสทั่วทั้งองค์กรได้ บริษัทนี้ได้ดำเนินการอย่างเงียบๆ และสร้างพอร์ตโฟลิโอลูกค้าที่น่าประทับใจ ซึ่งรวมถึงหนึ่งในผู้รับเหมาทางการเงินและบริการทางการเงินรายใหญ่ที่สุดในโลก และยังรวมถึงแบรนด์ Fortune 100 อื่นๆ

คุณเติบโตในเมืองเล็กๆ ในอินเดียที่มีจุดเริ่มต้นที่เรียบง่าย คุณพบว่าตัวเองถูกดึงดูดไปสู่วิศวกรรมและด้าน AI อย่างไร?

ฉันมาจากครอบครัวชนชั้นกลาง พ่อของฉันอยู่ในกองทัพเป็นเวลาสี่ทศวรรษ และแม่ของฉันเป็นครูซึ่งเปลี่ยนมาเป็นนักออกแบบแฟชั่น ตั้งแต่ฉันยังเด็ก พวกเขามักจะสนับสนุนความอยากรู้อยากเห็นของฉัน ความรักในการค้นพบทางวิทยาศาสตร์ และให้ฉันพื้นที่ที่ปลอดภัยในการสำรวจ “what ifs”

เมื่อฉันเติบโตในอินเดีย หญิงสาวไม่ได้รับโอกาสมากเท่ากับชายๆ มีการตัดสินใจมากมายที่ถูกกำหนดไว้แล้วสำหรับเด็กผู้หญิงตามมาตรฐานของสังคม วิธีเดียวที่จะหลุดพ้นและให้ครอบครัวมีชีวิตที่ดีคือผ่านการศึกษา

หลังจากจบมัธยม ฉันซื้อคอมพิวเตอร์เครื่องแรกของฉัน ซึ่งเป็นหน้าต่างสู่โลก ฉันสนใจฮาร์ดแวร์มากและใช้เวลาออนไลน์หลายชั่วโมงในการเรียนรู้วิธีการถอดเมนบอร์ด สร้างแอปพลิเคชันโรบอติกส์ เรียนรู้การเขียนโค้ด 重新ทำไฟฟ้าในบ้าน (ยิกส์) และอื่นๆ วิศวกรรมกลายเป็นพื้นที่ที่ปลอดภัยสำหรับฉัน ที่ฉันสามารถทดลอง สำรวจ สร้าง และสัมผัสโลกที่ฉันต้องการเป็นส่วนหนึ่งผ่านการประดิษฐ์ของฉัน ฉันรู้สึกประทับใจและตื่นเต้นเกี่ยวกับวิธีที่เทคโนโลยีสามารถเป็นเครื่องมือที่มีพลังในการเปลี่ยนแปลงโลก โดยเฉพาะสำหรับผู้หญิง

การเติบโตขึ้นมา สิ่งที่ฉันมีจำกัด แต่ความเป็นไปได้ไม่จำกัด ฉันฝันอยากจะมาในสหรัฐอเมริกาเพื่อสร้างรากฐานที่แข็งแกร่งในด้านเทคโนโลยีเพื่อแก้ไขปัญหาที่ยิ่งใหญ่ที่สุดของมนุษยชาติ ฉันเข้าเมืองในปี 2001 เพื่อดำเนินการศึกษาวิศวกรรมต่อที่มหาวิทยาลัยวิสคอนซิน แมดิสัน

ตลอดเกือบสองทศวรรษที่ผ่านมาในด้านวิศวกรรม ฉันมีโอกาสทำงานกับเทคโนโลยีแนวหน้าหลายอย่าง ตั้งแต่มือถือไปจนถึงความเป็นจริงเสมือน

ในปี 2011 ฉันเริ่มสำรวจปัญญาประดิษฐ์เพื่อสร้างธุรกิจใหม่ๆ ที่Qualcomm ฉันยังใช้เวลาในการสร้างธุรกิจและแอปพลิเคชันใน AI ตั้งแต่สเปชไปจนถึง NLP ที่ Microsoft และ Qualcomm ในช่วงสิบปีที่ผ่านมา เมื่อฉันเรียนรู้เพิ่มเติมเกี่ยวกับ AI และการเรียนรู้ของเครื่อง มันกลายเป็นเรื่องชัดเจนว่าเทคโนโลยีนี้จะเปลี่ยนแปลงชีวิตของเราอย่างมาก

การสร้าง AI ระดับองค์กรทำให้ฉันรู้ว่าเทคโนโลยีนี้สามารถทำอันตรายต่อผู้คนและชุมชนของเรา หากปล่อยทิ้งไว้โดยไม่มีการควบคุม เราในฐานะผู้นำต้องรับผิดชอบต่อเทคโนโลยีที่เรากำลังสร้างอย่างมาก เราต้องดำเนินการอย่าง积极ในการเพิ่มผลประโยชน์ของมันให้กับมนุษยชาติและลดความเสี่ยงให้เหลือน้อยที่สุด หลังจากทั้งหมด “สิ่งที่เราสร้างขึ้น ทำให้เราเป็น” ดังนั้นการสร้างอย่างมีความรับผิดชอบจึงเป็นสิ่งสำคัญ ซึ่งได้启發ให้ฉันเข้าสู่ช่วงต่อไปของอาชีพการงานในการสร้าง AI 治理

คุณเริ่มคิดอย่างจริงจังเกี่ยวกับการ 治理 AI เมื่อไหร่?

เมื่อฉันเป็นหัวหน้าฝ่ายนวัตกรรมที่ Qualcomm เรากำลังสำรวจความเป็นไปได้ที่ AI สามารถนำมาใช้ในธุรกิจใหม่ๆ ของเรา งานเริ่มต้นของเรามุ่งเน้นไปที่หุ่นยนต์ร่วมที่ใช้ในโซ่อุปทาน นี่เป็นการเปิดเผย “ความเสี่ยงจริง” ของ AI ของฉัน โดยเฉพาะอย่างยิ่งเกี่ยวกับความปลอดภัยทางกายภาพของมนุษย์ที่ดำเนินการร่วมกับระบบหุ่นยนต์เหล่านี้

ในระหว่างนั้น เราใช้เวลาอย่างมากกับสตาร์ทอัพ เช่น Soul Machines ในการเรียนรู้กรณีการใช้งานใหม่ๆ และหาวิธีจับมือกับพวกเขาเพื่อเร่งการทำงานของเรา Soul Machines ได้ปล่อยเวอร์ชันใหม่ของ “Baby X” ที่มีพลังงานจากเน็ตเวิร์กประสาท ทำให้ฉันหยุดและสะท้อนถึงผลกระทบที่ไม่ได้ตั้งใจของเทคโนโลยีนี้ ลูกสาวของฉัน Ziya เกิดในช่วงเวลาเดียวกัน และเราตั้งชื่อเล่นให้เธอว่า “Baby Z” ตาม Soul Machines Baby “X” ฉันพูดถึงเรื่องนี้หลายครั้ง รวมถึงใน Women In Product Keynote ในปี 2019

การเรียนรู้ของ Baby X และ Baby Z นั้นคล้ายกันมาก! เมื่อ Ziya เติบโตขึ้น เราให้คำศัพท์เริ่มต้นและเครื่องมือในการเรียนรู้แก่เธอ เมื่อเวลาผ่านไป เธอเริ่มเข้าใจโลกและรวมสิ่งต่างๆ ด้วยตัวเอง Baby X ที่มีพลังงานจากเน็ตเวิร์กประสาทก็เรียนรู้ผ่านเซ็นเซอร์ภาพและระบบการรู้จำเสียง และสร้างความเข้าใจที่ลึกซึ้งเกี่ยวกับโลกของมนุษย์

ช่วงเวลา AI เหล่านี้ทำให้ฉันเข้าใจว่ามันสำคัญที่จะหาวิธีจัดการความเสี่ยงและวางรั้วให้กับเทคโนโลยีที่มีพลังนี้เพื่อให้แน่ใจว่ามันถูกใช้เพื่อประโยชน์ที่ดี

คุณสามารถแบ่งปันเรื่องราวเกี่ยวกับการก่อตั้ง Credo AI ได้หรือไม่?

หลังจาก Qualcomm ฉันถูกเรียกให้ไปนำการค้าขายเทคโนโลยี AI ที่ Microsoft ในกลุ่มพัฒนาและกลุ่มผลิตภัณฑ์ ในระหว่างที่ฉันทำงานที่นั่น ฉันมีโอกาสทำงานกับเทคโนโลยี AI หลายอย่างที่มีการใช้งานในกรณีต่างๆ ตั้งแต่ Conversational AI ไปจนถึงการวิเคราะห์ข้อตกลง และจากการตรวจสอบภาพถึงการค้นพบผลิตภัณฑ์โดยใช้เสียง

อย่างไรก็ตาม เมล็ดพันธุ์ของ AI 治理ที่ถูกปลูกที่ Qualcomm ยังคงเติบโตต่อไปเมื่อฉันเห็น “การขาดดุลในการกำกับดูแล” ที่เพิ่มขึ้นในการพัฒนาเทคโนโลยี AI ในฐานะผู้นำผลิตภัณฑ์ที่ทำงานกับทีมวิทยาศาสตร์ข้อมูลและวิศวกรรม เรามีแรงบันดาลใจในการสร้างแอปพลิเคชัน AI ที่มีประสิทธิภาพสูงโดยใช้การเรียนรู้ของเครื่องและนำไปใช้ในตลาดอย่างรวดเร็ว

เรามองว่าการปฏิบัติตามกฎระเบียบและการกำกับดูแลเป็นประตูที่ชะลอการนวัตกรรม อย่างไรก็ตาม ความกังวลที่เพิ่มขึ้นของฉันเกี่ยวกับการขาดดุลในการกำกับดูแลระหว่างผู้เชี่ยวชาญทางเทคนิคและผู้ตรวจสอบความเสี่ยง การปฏิบัติตามกฎระเบียบ และการตรวจสอบ ทำให้ฉันต้องการสำรวจความท้าทายในการบรรลุการกำกับดูแล AI

คำถามที่ไม่มีคำตอบเกี่ยวกับการกำกับดูแล AI ทำให้ฉันต้องการหาคำตอบ ดังนั้นฉันจึงเริ่มวางรากฐานสำหรับองค์กรไม่แสวงหาผลกำไรที่เรียกว่า MERAT (Marketplace for Ethical and Responsible AI tools) โดยมีเป้าหมายในการสร้างระบบนิเวศสำหรับสตาร์ทอัพและ Global 2000 ที่มุ่งเน้นในการพัฒนา AI อย่างมีความรับผิดชอบ

ผ่านการลองผิดลองถูกในระยะแรกที่ MERAT มันชัดเจนว่าไม่มีสตาร์ทอัพใดที่สามารถให้เครื่องมือหลายฝ่ายเพื่อการกำกับดูแล AI และ ML ที่ครอบคลุม – จนกระทั่ง Credo AI ช่องว่างนี้เป็นโอกาสสำหรับฉันในการบรรลุภารกิจในการชี้นำ AI อย่างมีจุดมุ่งหมาย

สมมติฐานของฉันยังคงได้รับการยืนยันว่าหน้าจักรของการปฏิวัติ AI จะถูกชี้นำโดยการกำกับดูแล องค์กรที่ยอมรับการกำกับดูแลจะเกิดขึ้นเป็นผู้นำในแบรนด์ที่น่าเชื่อถือ

ฉันถูกเข้าหาโดย AI Fund ซึ่งเป็น孵化ธุรกิจที่ก่อตั้งโดย Andrew Ng ผู้เชี่ยวชาญ AI ที่มีชื่อเสียง AI Fund มุ่งเน้นไปที่หัวข้อการตรวจสอบและกำกับดูแล AI ที่ฉันครอบคลุมมาเกือบสิบปี

Credo AI ถูกจัดตั้งขึ้นเมื่อวันที่ 28 กุมภาพันธ์ 2020 โดยได้รับการสนับสนุนจาก AI Fund

Credo หมายถึง “ชุดค่าผสมของคุณค่าที่ชี้นำการกระทำของคุณ” ด้วย Credo AI วิสัยทัศน์ของเราคือการเพิ่มขีดความสามารถให้กับองค์กรในการสร้าง AI ที่มีมาตรฐานจริยธรรมสูงสุด

ใน สัมภาษณ์ก่อนหน้านี้ คุณพูดถึงว่าแบรนด์ในอนาคตจะถูกเชื่อถือไม่ “เพียง” ตามวิธีการสร้างและใช้ AI แต่ตามวิธีการปรับขนาด AI เพื่อให้บริการมนุษยชาติ คุณสามารถอธิบายเพิ่มเติมเกี่ยวกับเรื่องนี้ได้หรือไม่?

ปัญญาประดิษฐ์เป็นหนึ่งในเทคโนโลยีที่เปลี่ยนแปลงเกมของศตวรรษนี้ และมีโอกาสที่จะเปลี่ยนแปลงเศรษฐกิจและสังคม มันคาดว่าจะมีส่วนสนับสนุนประมาณ 16 ล้านล้านดอลลาร์สหรัฐฯ ให้กับเศรษฐกิจโลกภายในปี 2030

อย่างไรก็ตาม ปีที่ผ่านมาส่องสว่างถึงภัยคุกคาม AI ที่สำคัญ (และไม่ใช่หุ่นยนต์!) ที่อยู่ที่นี่แล้ว ตัวอย่างเช่น อัลกอริทึมทางกฎหมายที่เพิ่มประสิทธิภาพสำหรับการกลับเข้าสู่อาชญากรรม (การกลับเข้าสู่พฤติกรรมทางอาญา) สามารถแนะนำความลำเอียงและปฏิเสธการปล่อยตัวให้กับผู้ที่สมควร

อัลกอริทึมทางสังคมที่เพิ่มประสิทธิภาพสำหรับการมีส่วนร่วมสามารถแบ่งแยกประเทศได้

อัลกอริทึมที่ไม่ยุติธรรมสามารถเป็นเหตุผลที่คุณไม่ได้รับงานหรือไม่ได้รับการยอมรับเข้ามหาวิทยาลัย

เมื่อเราให้อำนาจเครื่องมือของเรามากขึ้น ผลที่ตามมาโดยไม่ตั้งใจก็จะกว้างขึ้น การสร้างผลกระทบที่ไม่ธรรมดาสามารถสร้างผลกระทบที่ไม่คาดคิด (ฉันเขียนเกี่ยวกับเรื่องนี้ใน Credo AI Manifesto)

ฉันคาดการณ์ว่าองค์กรที่ลงทุนในการกำกับดูแล AI เพื่อช่วยสร้างเทคโนโลยีอย่างมีความรับผิดชอบและมุ่งมั่นที่จะใช้ข้อมูลอย่างมีจริยธรรม จะสามารถสร้างความไว้วางใจให้กับผู้มีส่วนได้ส่วนเสียต่างๆ ได้ – ลูกค้า ผู้บริโภค นักลงทุน พนักงาน และอื่นๆ

วิธีการที่ Credo AI ช่วยให้บริษัทต่างๆ รับผิดชอบต่อการกระทำของตน?

ความรับผิดชอบหมายถึงภาระผูกพันที่จะยอมรับความรับผิดชอบต่อการกระทำของตนเอง ในบริบทของการพัฒนาและการใช้ AI นี่หมายความว่าองค์กรต้องไม่เพียงแต่ตกลงเกี่ยวกับสิ่งที่ “ดูเหมือนดี” สำหรับพวกเขา แต่ยังต้องดำเนินการอย่างมีจุดมุ่งหมายเพื่อแสดงการกระทำบนเป้าหมายที่สอดคล้องกันและรับผิดชอบต่อผลลัพธ์

Credo AI มุ่งหวังที่จะเป็น “sherpa” สำหรับองค์กรในการริเริ่ม AI ที่มีจริยธรรมและความรับผิดชอบ เพื่อช่วยให้พวกเขาถือว่าผู้มีส่วนได้ส่วนเสียที่หลากหลาย: ผู้ใช้ พนักงาน ผู้กำกับดูแล ผู้ตรวจสอบ นักลงทุน และผู้บริหารอื่นๆ ดังนั้น Credo AI จึงเป็นผู้บุกเบิกในการให้บริการแบบเรียลไทม์ แบบบริบท และแบบครอบคลุมและต่อเนื่องเพื่อนำเสนอ AI ที่มีจริยธรรมและความรับผิดชอบในระดับใหญ่

การสร้างความรับผิดชอบและความไว้วางใจใน AI เป็นกระบวนการที่มีพลวัต องค์กรต้องสอดคล้องกับค่านิยมองค์กร บันทึกค่านิยมเหล่านั้นลงในโครงสร้างพื้นฐานขององค์กร สังเกตผลกระทบและทำซ้ำกระบวนการด้วยเสียงที่หลากหลายในการให้ข้อมูลในแต่ละขั้นตอน Credo AI ทำให้ความรับผิดชอบนี้เป็นไปได้ผ่านการแก้ปัญหาแบบครอบคลุมและแบบเรียลไทม์สำหรับการจัดการการปฏิบัติตามกฎระเบียบและการวัดความเสี่ยงสำหรับการใช้ AI ในระดับใหญ่

โดยใช้การกำกับดูแล AI ของ Credo AI องค์กรสามารถ:

• สอดคล้องกับข้อกำหนดการกำกับดูแลสำหรับกรณีการใช้งาน AI และแบบจำลองของตน โดยมีแพ็คการกำกับดูแลที่สามารถปรับแต่งได้และเครื่องมือสนับสนุนการตัดสินใจสำหรับการเลือกเมตริกการประเมินแบบจำลอง
• ประเมินและซักถามข้อมูลและแบบจำลอง ML เทียบกับเป้าหมายที่สอดคล้องกัน
• วิเคราะห์ข้อมูลจำเพาะทางเทคนิคเป็นผลกระทบความเสี่ยงแบบกระทำได้สำหรับธุรกิจในแต่ละขั้นตอนของการพัฒนาและใช้แบบจำลอง เพื่อให้คุณสามารถจับและแก้ไขปัญหาการกำกับดูแลก่อนที่จะกลายเป็นปัญหาที่ยิ่งใหญ่

โดยการบันทึกการตัดสินใจและการกระทำในแต่ละจุด Credo AI จับหลักฐานของการตัดสินใจที่นำไปสู่การสร้างแบบจำลองนี้ ซึ่งเป็นหลักฐานที่จะถูกแบ่งปันภายในผู้มีส่วนได้ส่วนเสียขององค์กรและภายนอกกับผู้ตรวจสอบเพื่อสร้างความไว้วางใจในเจตนาของ AI

หลักฐานนี้จะช่วยให้ทีมพัฒนาคำนวณและป้องกันผลที่ตามมาโดยไม่ตั้งใจ และจะมาตรฐานวิธีการประเมินประสิทธิภาพและความน่าเชื่อถือของแบบจำลอง AI

เรายังอยู่ในระยะแรกของการเปิดใช้งานการกำกับดูแล AI ผ่านการประเมินและการรับประกันที่ครอบคลุม และเราตื่นเต้นที่จะทำงานร่วมกับองค์กรเพิ่มเติมเพื่อส่งเสริมความรับผิดชอบ

วิธีการที่ Credo AI ช่วยให้บริษัทต่างๆ หันเหความสนใจจากการกำกับดูแล AI ที่เป็นเรื่องรองจากการดำเนินงาน?

ในโลกปัจจุบัน มีความไม่ชัดเจนเกี่ยวกับสิ่งที่ “รับผิดชอบ” “มีจริยธรรม” และ “น่าเชื่อถือ” ของ AI คืออะไร และวิธีการที่องค์กรสามารถส่งมอบสิ่งเหล่านี้ได้ เราช่วยให้องค์กรเปลี่ยนคำถามหลักนี้โดยใช้แพลตฟอร์ม SaaS ของ Credo AI เพื่อแสดง “เศรษฐศาสตร์ของจริยธรรม”

ด้วย Credo AI องค์กรสามารถไม่เพียงแต่นำเสนอ AI ที่ยุติธรรม การปฏิบัติตามกฎระเบียบ และการตรวจสอบได้เท่านั้น แต่ยังสามารถสร้างความไว้วางใจให้กับลูกค้าได้

การสร้างความไว้วางใจให้กับลูกค้าสามารถขยายฐานลูกค้าและปลดล็อกการขายได้ ตัวอย่างเช่น บริษัทสามารถให้ประสบการณ์ลูกค้าที่ดีที่สุดโดยใช้ AI ที่มีจริยธรรมในแชทบอทบริการลูกค้า หรือใช้ AI อย่างมีความรับผิดชอบเพื่อทำความเข้าใจกิจกรรมของผู้ใช้และแนะนำเนื้อหาอื่นๆ หรือผลิตภัณฑ์ให้กับพวกเขา ลูกค้าที่พึงพอใจมากสามารถให้การโฆษณาที่ดีที่สุดโดยการแบ่งปันประสบการณ์ของพวกเขากับเพื่อนและครอบครัว

นอกจากนี้ องค์กรยังสามารถเห็นได้ว่าการทำงานร่วมกันระหว่างหน้าที่ทางเทคนิคและหน้าที่กำกับดูแลสามารถช่วยให้พวกเขาลดต้นทุนได้เนื่องจากการปฏิบัติตามกฎระเบียบได้เร็วขึ้น การจัดการความเสี่ยงที่มีข้อมูล และลดความเสี่ยงต่อแบรนด์และกฎระเบียบที่ไม่สอดคล้องกัน เราช่วยองค์กรให้ใช้ AI ที่มีจริยธรรมโดยการสร้างสะพานระหว่างเมตริกทางเทคนิคและผลลัพธ์ทางธุรกิจที่เป็นรูปธรรม เมื่อมากขึ้นเรื่อยๆ คนที่รู้ว่าการสนับสนุน AI ที่มีจริยธรรมเกี่ยวข้องกับมากกว่าการตรวจสอบความสอดคล้องกับกฎระเบียบ

เมื่อบริษัทยึดมั่นในมาตรฐานจริยธรรมสูง พวกเขาสามารถคาดหวังผลลัพธ์ทางธุรกิจที่แท้จริง เช่น รายได้ที่เพิ่มขึ้น การเปลี่ยนมุมมองจากแนวคิดที่ “อ่อน” ที่เป็นนามธรรมไปสู่การตัดสินใจทางธุรกิจที่เป็นรูปธรรมได้กลายเป็นวิธีหลักในการช่วยให้ AI การกำกับดูแลถูกมองว่าเป็นส่วนสำคัญของเครื่องยนต์ทางเศรษฐกิจและสังคมของบริษัท

เมื่อเร็วๆ นี้ รัฐบาล Biden ได้สร้างคณะกรรมการที่ปรึกษาด้าน AI แห่งชาติ ในมุมมองของคุณ สิ่งนี้มีผลกระทบต่อธุรกิจ AI อย่างไร?

รัฐบาลทั่วโลกกำลังดำเนินการเต็มที่ในการควบคุม AI และองค์กรต้องเตรียมพร้อม การสร้างคณะกรรมการที่ปรึกษาด้าน AI แห่งชาติของการบริหาร Biden และการลงทุนใน White House OSTP เป็นขั้นตอนที่ดีในการนำการดำเนินการมาใช้ในการอภิปรายเกี่ยวกับสิทธิในการควบคุมระบบ AI อย่างไรก็ตาม มีงานที่ต้องทำมากมายเพื่อให้ AI ที่มีความรับผิดชอบมีความหมายสำหรับประเทศและเศรษฐกิจของเรา

ฉันเชื่อว่าปี 2022 จะเป็นปีแห่งการดำเนินการสำหรับ AI ที่มีความรับผิดชอบ นี่คือการปลุกให้องค์กรที่ต้องการนำกรอบจริยธรรม AI มาใช้หรือเสริมสร้างกรอบที่มีอยู่ให้แข็งแกร่งขึ้น ตอนนี้เป็นเวลาที่ดีที่สุดสำหรับบริษัทต่างๆ ในการประเมินกรอบการทำงานที่มีอยู่สำหรับการขาดดุลหรือสำหรับบริษัทที่ไม่มีกรอบการทำงานในการนำกรอบการทำงานที่แข็งแกร่งสำหรับ AI ที่น่าเชื่อถือมาใช้เพื่อให้พร้อมสำหรับความสำเร็จในการเป็นผู้นำในยุค AI

เราควรคาดหวังการกำกับดูแลที่เข้มงวดและอ่อนกว่าเพิ่มเติมที่จะเกิดขึ้น นอกเหนือจากการดำเนินการของทำเนียบขาว มีแรงผลักดันที่มากจากนักการเมืองและหน่วยงานอื่นๆ เช่น ร่าง Algorithmic Accountability Act ของวุฒิสภา และคำแนะนำของ Federal Trade Commission (FTC) เกี่ยวกับอคติของ AI และอื่นๆ

หากเราย้ายไปสู่อนาคต AI จริยธรรมและ AI การกำกับดูแลจะมีความสำคัญเพียงใดในอีกห้าปี?

เรายังอยู่ในระยะแรกของการกำกับดูแล AI เพื่อเน้นย้ำถึงความสำคัญของการกำกับดูแล AI นี่คือการคาดการณ์ของฉันสำหรับปีถัดไป:

• การกำกับดูแล AI ที่มีจริยธรรมจะกลายเป็นลำดับความสำคัญอันดับหนึ่งขององค์กร

องค์กรต่างๆ ยังคงลงทุนและได้รับประโยชน์จากการใช้ AI ในธุรกิจของตน IDC คาดการณ์ว่าจะมีการใช้จ่าย 340 พันล้านดอลลาร์สหรัฐฯ ใน AI ในปี 2022 โดยไม่มีการกำกับดูแล องค์กรจะลังเลที่จะลงทุนใน AI เนื่องจากความกังวลเกี่ยวกับความลำเอียง ความปลอดภัย ความถูกต้อง และการปฏิบัติตามกฎระเบียบของระบบเหล่านี้

โดยไม่มีความไว้วางใจ ผู้บริโภคก็จะลังเลที่จะยอมรับผลิตภัณฑ์หรือข้อมูล AI ที่จะสร้างระบบเหล่านี้ ในช่วงห้าปีที่จะมาถึง การกำกับดูแล AI ที่มีจริยธรรมจะกลายเป็นลำดับความสำคัญของห้องประชุมและเป็นเมตริกที่สำคัญที่บริษัทต่างๆ จะต้องเปิดเผยและรายงานเพื่อสร้างความไว้วางใจให้กับผู้มีส่วนได้ส่วนเสียต่างๆ

• หมวดหมู่งานใหม่ๆ จะเกิดขึ้นภายในองค์กร

เรากำลังเห็นแล้วว่าองค์กรที่มีจริยธรรมนำหน้ากำลังลงทุนอย่างมากในการอนาคตของการพัฒนาเพื่อให้แน่ใจว่าแอปพลิเคชัน AI ที่ยุติธรรม การปฏิบัติตามกฎระเบียบ และการตรวจสอบ

เพื่อนำหน้าใน AI องค์กรจะต้องเร่งการเรียนรู้เกี่ยวกับภูมิทัศน์การกำกับดูแล AI และการนำโครงสร้างความรับผิดชอบมาใช้ในระดับใหญ่ เมื่อภาคส่วนของการนำ AI ที่มีจริยธรรมมาใช้พัฒนาไป หน่วยงานใหม่ๆ อาจเกิดขึ้นเพื่ออำนวยความสะดวกในการสนทนาเหล่านี้และรับชาร์จในพื้นที่นี้ หน่วยงานใหม่นี้อาจทำงานเป็นตัวกลางระหว่างหน้าที่ทางเทคนิคและหน้าที่กำกับดูแลในการพัฒนามาตรฐานและเป้าหมายร่วมกัน

• ประสบการณ์ AI ที่มีพลังใหม่จะเรียกร้องการกำกับดูแลที่เข้มงวดมากขึ้น

การจัดการผลที่ตามมาโดยไม่ตั้งใจและที่ตั้งใจของ AI เป็นสิ่งสำคัญ โดยเฉพาะอย่างยิ่งเมื่อเราก้าวเข้าสู่ Metaverse และโลก web3 ความเสี่ยงของ AI มีอยู่ในโลกแห่งความเป็นจริงและโลกเสมือน แต่ถูกขยายใหญ่ขึ้นในโลกหลัง

เมื่อองค์กรเข้าสู่ Metaverse โดยไม่มีการกำกับดูแล AI พวกเขาก็ทำให้ลูกค้าของตนเสี่ยงต่อความท้าทาย เช่น การขโมยตัวตนและการฉ้อโกง เป็นสิ่งสำคัญที่จะต้องแก้ไขปัญหาการกำกับดูแล AI ในโลกแห่งความเป็นจริงเพื่อรักษาความปลอดภัยให้กับผู้บริโภคใน Metaverse

• ระบบนิเวศใหม่ๆ ในการกำกับดูแล AI ที่มีจริยธรรมจะเกิดขึ้น

โลกได้ตื่นตัวกับแนวคิดที่ว่าการกำกับดูแล AI เป็นบล็อกการสร้างที่สำคัญในการดำเนินการ AI ที่มีความรับผิดชอบ ในช่วงหลายปีที่จะมาถึง เราจะเห็นตลาดที่มีการแข่งขันและพลวัตของบริการที่จะให้บริการเครื่องมือ บริการ การศึกษา และความสามารถอื่นๆ เพื่อสนับสนุนความต้องการที่ยิ่งใหญ่นี้

นอกจากนี้ เรายังจะเห็นการควบรวมและเพิ่มขีดความสามารถของแพลตฟอร์ม MLOps และ GRC ที่มีอยู่เพื่อนำความสามารถในการกำกับดูแลและการประเมินมาให้กับ AI

มีสิ่งอื่นที่คุณต้องการแบ่งปันเกี่ยวกับ Credo AI หรือไม่?

การกำกับดูแล AI ที่มีจริยธรรมเป็นการลงทุนที่คุณไม่สามารถไม่ทำได้ และวันนี้เป็นวันที่ดีที่สุดในการเริ่มต้น

ขอขอบคุณสำหรับการสัมภาษณ์ที่มีรายละเอียดและสำหรับการแบ่งปันข้อมูลเชิงลึกเกี่ยวกับการกำกับดูแล AI และจริยธรรม ผู้อ่านต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม Credo AI