การขาดความน่าเชื่อถือของ AI สามารถขัดขวางนวัตกรรมและคุณค่าทางธุรกิจ

การสำรวจล่าสุดในหมู่ผู้นำธุรกิจระดับโลกแสดงให้เห็นว่า AI ที่น่าเชื่อถือเป็นประเด็นสำคัญ แต่หลายองค์กรไม่ได้ดำเนินการเพียงพอเพื่อให้บรรลุเป้าหมายนี้ แต่จะมีค่าใช้จ่ายอย่างไร?

แท้จริงแล้ว การสำรวจของ IBM เปิดเผยว่า 85% ของผู้ตอบแบบสำรวจเห็นด้วยว่าลูกค้ามีแนวโน้มที่จะเลือกบริษัทที่มีความโปร่งใสเกี่ยวกับวิธีการสร้างแบบจำลอง AI จัดการ และใช้งาน

อย่างไรก็ตาม ส่วนใหญ่ยอมรับว่าพวกเขาไม่ได้ดำเนินการสำคัญเพื่อให้แน่ใจว่า AI ของตนเป็นไปตามมาตรฐานที่น่าเชื่อถือและรับผิดชอบ เช่น การลดความเอนเอียง (74%) การติดตามการเปลี่ยนแปลงประสิทธิภาพและแบบจำลอง (68%) และการทำให้แน่ใจว่าสามารถอธิบายการตัดสินใจโดยใช้ AI (61%) ซึ่งเป็นเรื่องที่น่ากังวล โดยเฉพาะอย่างยิ่งเมื่อพิจารณาว่าการใช้ AI ยังคงเติบโต – 35% ระบุว่าพวกเขาใช้ AI ในธุรกิจของตน ซึ่งเพิ่มขึ้นจาก 31% ในปีก่อน

ฉันเพิ่งเข้าร่วมการประชุม Corporate Innovation Summit ในโตรอนโต ซึ่งผู้เข้าร่วมแลกเปลี่ยนความคิดสร้างสรรค์และแสดงเทคโนโลยีที่พร้อมจะกำหนดอนาคต ฉันมีโอกาสเข้าร่วมการอภิปรายสามครั้งในส่วนของการบริการทางการเงิน การประกัน และการค้าปลีก โดยมีประเด็นสำคัญสามประเด็นที่เกิดขึ้น: ความจำเป็นในการมีความโปร่งใสเพื่อสร้างความไว้วางใจใน AI การทำให้ AI เป็นประชาธิปไตยผ่านการพัฒนาที่ไม่ต้องใช้โค้ด/โค้ดต่ำ และการพัฒนาที่จะส่งมอบคุณค่าและลดความเสี่ยงผ่านการกำกับดูแล AI ที่ดีที่สุด

เพิ่มความไว้วางใจในเทคโนโลยี AI โควิด-19 เพิ่มและเร่งรัดแนวโน้มในการใช้ AI ที่มีพลังในการพูดคุย การช่วยเหลือทางการเงินเสมือน และการลงทะเบียนลูกค้าแบบไม่ต้องสัมผัส ซึ่งจะดำเนินต่อไปตามที่ การวิจัยของ Cap Gemini ซึ่งแสดงให้เห็นว่า 78% ของผู้บริโภคที่สำรวจวางแผนจะเพิ่มการใช้เทคโนโลยี AI รวมถึงการจัดการอัตลักษณ์ดิจิทัลในการติดต่อกับองค์กรทางการเงิน

ผลประโยชน์ที่เป็นธรรมชาติไม่เพียงพอ แต่ก็มีความท้าทายที่เกิดขึ้น ประการหนึ่งคือ การไม่ไว้วางใจของผู้บริโภคต่อเทคโนโลยี AI และผลกระทบต่อความเป็นส่วนตัวและความปลอดภัย 30% ของผู้บริโภคระบุว่าพวกเขาจะรู้สึกสบายใจมากขึ้นในการแบ่งปันข้อมูลชีวมิติหากผู้ให้บริการทางการเงินของพวกเขามีความโปร่งใสในการอธิบายวิธีการรวบรวม จัดการ และรักษาความปลอดภัยข้อมูล

ซีไอโอจะต้องนำหลักการ AI ที่น่าเชื่อถือมาใช้และกำหนดมาตรการอย่างเข้มงวดเพื่อปกป้องสิทธิความเป็นส่วนตัวและความปลอดภัย พวกเขาสามารถทำได้โดยการ การเข้ารหัส การลดข้อมูล และการยืนยันตัวตนอย่างปลอดภัย รวมถึงการพิจารณามาตรฐานอัตลักษณ์ดิจิทัลที่กระจายอำนาจที่เกิดขึ้นใหม่ มาตรฐานอัตลักษณ์ดิจิทัลที่กระจายอำนาจ ในผลลัพธ์ ความพยายามในการอัตโนมัติและการบริการตนเองของคุณจะเห็นการนำไปใช้มากขึ้นและต้องการการแทรกแซงจากมนุษยนน้อยลง

การเอาอุปสรรคออกจากการทำให้ AI เป็นประชาธิปไตย มีการเปลี่ยนแปลงที่เพิ่มขึ้นในการพัฒนาซอฟต์แวร์ AI ที่ไม่ต้องใช้โค้ด/โค้ดต่ำ ซึ่ง การวิจัย คาดการณ์ว่าจะมีมูลค่า 45.5 พันล้านดอลลาร์ในปี 2025 ตัวขับเคลื่อนหลักคือ การเพิ่มความเร็วในการสร้างมูลค่า ด้วยการปรับปรุงประสิทธิภาพในการพัฒนาซอฟต์แวร์ โดย 10 เท่า

ตัวอย่างเช่น 56% ขององค์กรบริการทางการเงินที่สำรวจพิจารณาว่าการรวบรวมข้อมูลจากผู้กู้ยืมเป็นหนึ่งในขั้นตอนที่ท้าทายและไม่มีประสิทธิภาพที่สุดในการดำเนินการสมัครเงินกู้ ซึ่งนำไปสู่อัตราการทิ้งการสมัครที่สูง ในขณะที่เทคโนโลยีการระบุตัวตนและรวบรวมข้อมูลที่ขับเคลื่อนด้วย AI ได้รับการพิสูจน์แล้วว่าสามารถปรับปรุงประสิทธิภาพในการสมัครเงินกู้ แต่ก็อาจ สร้างความเสี่ยงด้านการปฏิบัติตามกฎระเบียบ โดยเฉพาะความเป็นส่วนตัว ความลับ และความเอนเอียงของอัลกอริทึม AI

เพื่อลดและบรรเทาความเสี่ยงเหล่านี้ การพัฒนาซอฟต์แวร์ AI ที่ไม่ต้องใช้โค้ด/โค้ดต่ำจะต้องรวมการตรวจสอบอย่างครอบคลุมเพื่อให้แน่ใจว่าสามารถทำงานตามวัตถุประสงค์ในการออกแบบเดิมได้ ลบความเอนเอียงที่อาจเกิดขึ้นในเซตข้อมูลการฝึกอบรมที่รวมถึงความเอนเอียงในการตัวอย่าง ความเอนเอียงในการระบุฉลาก และมีความปลอดภัยจากการโจมตี AI ที่เป็นปฏิปักษ์ที่อาจส่งผลเสียต่อผลลัพธ์ของอัลกอริทึม AI การพิจารณาหลักการวิทยาศาสตร์ข้อมูลที่รับผิดชอบของความยุติธรรม ความถูกต้อง ความลับ และความปลอดภัยเป็นสิ่งสำคัญ

พัฒนากรอบการกำกับดูแลและกฎระเบียบ AI การกำกับดูแล AI ไม่ใช่สิ่งที่ดี แต่เป็นสิ่งจำเป็น ตามติดตามนโยบาย AI ของ OECD มีมากกว่า 700 การริเริ่มด้านกฎระเบียบ AI ที่กำลังพัฒนาในมากกว่า 60 ประเทศ

อย่างไรก็ตาม มีหลักการและมาตรฐานทางจริยธรรมที่พัฒนาโดยองค์กรมาตรฐานระหว่างประเทศ เช่น สถาบัน مهندรไฟฟ้าและอิเล็กทรอนิกส์ (IEEE) และ สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST)

ความกังวลขององค์กรเกี่ยวกับการสันนิษฐานว่ากฎระเบียบ AI จะกำหนดภาระผูกพันในการปฏิบัติตามกฎระเบียบที่เข้มงวดมากขึ้น โดยมีกลไกบังคับใช้ที่เข้มงวด รวมถึงการลงโทษสำหรับการไม่ปฏิบัติตามกฎระเบียบ

ยุโรปและอเมริกาเหนือกำลังดำเนินมาตรการที่จะกำหนดให้ซีไอโอทำงานร่วมกับฝ่ายเทคโนโลยีและธุรกิจเพื่อกำหนดนโยบายที่มีประสิทธิภาพ ตัวอย่างเช่น การเสนอ พระราชบัญญัติ AI ของคณะกรรมาธิการยุโรป กำลังเสนอให้กำหนดภาระผูกพันตามความเสี่ยงต่อผู้ให้บริการ AI เพื่อปกป้องสิทธิผู้บริโภค ในขณะเดียวกันก็ส่งเสริมนวัตกรรมและโอกาสทางเศรษฐกิจที่เกี่ยวข้องกับเทคโนโลยี AI

นอกจากนี้ ในเดือนมิถุนายน 2022 รัฐบาลกลางแคนาดาได้เผยแพร่ พระราชบัญญัติการดำเนินการบัญชีรายชื่อดิจิทัล ซึ่งปกป้องจากการกระทำที่ไม่พึงประสงค์ของระบบ AI ที่มีความเสี่ยงสูง สหรัฐอเมริกากำลังดำเนินการริเริ่มด้านกฎระเบียบ AI แต่ในระดับภาคส่วน สำนักงานคุ้มครองการเงินผู้บริโภค (CFPB) และ คณะกรรมการธนาคารกลาง (Federal Reserve Board) ล้วนใช้กลไกบังคับใช้เพื่อปกป้องผู้บริโภคจากการกระทำที่ไม่พึงประสงค์ที่เกิดจากการใช้ AI ที่เพิ่มขึ้น ซึ่งอาจส่งผลให้เกิดผลลัพธ์ที่เลือกปฏิบัติ แม้ว่าจะไม่ได้ตั้งใจก็ตาม กรอบการกำกับดูแล AI เป็นสิ่งจำเป็นสำหรับบริษัทที่มีนวัตกรรมใดๆ

การบรรลุ AI ที่น่าเชื่อถือต้องใช้ข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูล

การนำ AI ที่น่าเชื่อถือมาใช้ไม่สามารถทำได้โดยไม่มีการเข้าถึงข้อมูลเพื่อกำหนดว่าเทคโนโลยี AI จะมีผลกระทบมากที่สุดในด้านใด ก่อนที่จะดำเนินการนำไปใช้ จะเป็นการปรับปรุงการมีส่วนร่วมของลูกค้าหรือเพื่อเพิ่มประสิทธิภาพการดำเนินงานหรือเพื่อลดความเสี่ยงด้านการปฏิบัติตามกฎระเบียบ?

แต่ละปัจจัยขับเคลื่อนธุรกิจเหล่านี้ต้องการความเข้าใจว่ากระบวนการทำงานอย่างไร วิธีการจัดการการยกเว้นและข้อยกเว้น และระบุความแตกต่างในการดำเนินกระบวนการและอุปสรรคต่างๆ เมื่อองค์กรมีข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูลแล้ว จึงสามารถตัดสินใจทางธุรกิจได้อย่างมีข้อมูลเกี่ยวกับผลกระทบและผลลัพธ์ที่เกี่ยวข้องกับการนำโซลูชัน AI มาใช้เพื่อลดการเสียเวลาของลูกค้าและปรับปรุงประสิทธิภาพการดำเนินงาน เมื่อองค์กรมีข้อมูลเชิงลึกที่ขับเคลื่อนด้วยข้อมูลแล้ว จึงสามารถอัตโนมัติกระบวนการที่ใช้แรงงานมาก เช่น การปฏิบัติตามข้อกำหนด AI การตรวจสอบการปฏิบัติตามกฎระเบียบ KYC และ AML ในภาคการเงิน

สิ่งที่ต้องจดจำคือ ส่วนสำคัญของการอัตโนมัติกระบวนการด้วย AI คือการนำแนวปฏิบัติ AI ที่น่าเชื่อถือมาใช้ การใช้ AI อย่างมีจริยธรรมไม่ควรพิจารณาเป็นเพียงภาระผูกพันทางกฎหมายและศีลธรรมเท่านั้น แต่ยังเป็นเรื่องของธุรกิจด้วย มันสมเหตุสมผลทางธุรกิจที่จะโปร่งใสในการใช้ AI มันสร้างความไว้วางใจและสร้างความภักดีของแบรนด์