สตาร์ทอัพสร้างเครื่องมือเพื่อติดตาม AI และส่งเสริมการใช้ AI อย่างมีจริยธรรม

ในช่วงปีที่ผ่านมา ดูเหมือนว่าจะมีการให้ความสนใจมากขึ้นในการรับประกันว่า AI ถูกใช้ในรูปแบบที่มีจริยธรรม Google (GOOGL ) และ Microsoft (MSFT ) ได้เตือนนักลงทุน最近ว่าการใช้ AI อัลกอริทึมที่ไม่เหมาะสมหรือการออกแบบ AI ที่ไม่ดีนั้นเป็นความเสี่ยงทางจริยธรรมและกฎหมาย ในขณะเดียวกัน รัฐแคลิฟอร์เนียเพิ่งผ่านกฎหมายที่ห้ามการใช้เทคโนโลยีการรู้จำใบหน้าโดยหน่วยงานบังคับใช้กฎหมายของรัฐแคลิฟอร์เนีย

最近 สตาร์ทอัพ seperti Arthur ได้พยายามออกแบบเครื่องมือที่จะช่วยให้วิศวกร AI สามารถวัดและประเมินประสิทธิภาพของโมเดลการเรียนรู้ของเครื่องได้ ตามที่รายงานโดย Wired Arthur พยายามที่จะให้เครื่องมือแก่นักพัฒนา AI ที่จะทำให้ง่ายต่อการค้นหาปัญหาเมื่อออกแบบแอปพลิเคชันทางการเงิน เช่น การเปิดเผยความลำเอียงในการลงทุนหรือการตัดสินใจในการให้กู้ยืม

ความพยายามของ Arthur มุ่งเน้นไปที่การแก้ไขปัญหา “กล่องดำ” ของ AI ปัญหา “กล่องดำ” ใน AI อธิบายว่าไม่เหมือนกับโค้ดแบบดั้งเดิมที่สามารถอ่านได้ง่ายๆ โดยผู้ที่รู้วิธีอ่านโค้ด ระบบการเรียนรู้ของเครื่องจะแมปคุณสมบัติไปยังพฤติกรรมโดยไม่เปิดเผยเหตุผลที่พฤติกรรมเหล่านั้นถูกเลือกหรือวิธีการตีความคุณสมบัติเหล่านั้น ในอีกคำหนึ่ง ในระบบ “กล่องดำ” การนำไปใช้งานของอัลกอริทึมเป็นแบบไม่โปร่งใส

ระบบการเรียนรู้ของเครื่องทำงานโดยการค้นหารูปแบบจากข้อมูลนำเข้าและให้เหตุผลเกี่ยวกับรูปแบบเหล่านั้น ซึ่งทำได้โดยการให้เครื่องคอมพิวเตอร์เขียนโค้ดของตัวเองโดยการปรับฟังก์ชันทางคณิตศาสตร์บางอย่าง เพื่อแก้ไขปัญหานี้ นักวิจัยและวิศวกรต้องการเครื่องมือที่ทำให้การตรวจสอบและวิเคราะห์พฤติกรรมของซอฟต์แวร์การเรียนรู้ของเครื่องง่ายขึ้น สตาร์ทอัพอย่าง Arthur ยอมรับว่าการแก้ไขปัญหานี้เป็นเรื่องที่ยากและไม่กล่าวอ้างว่ามีวิธีแก้ไขที่ดีที่สุด แต่พวกเขาหวังว่าจะสามารถทำความก้าวหน้าในด้านนี้และทำให้การแก้ไข “กล่องดำ” ง่ายขึ้น หวังว่าถ้าระบบ AI สามารถวิเคราะห์ได้ง่ายขึ้น จะสามารถแก้ไขปัญหา เช่น ความลำเอียงได้ง่ายขึ้น

บริษัทใหญ่ๆ เช่น Facebook (META ) มีเครื่องมือบางอย่างเพื่อวิเคราะห์การทำงานภายในของระบบการเรียนรู้ของเครื่อง ตัวอย่างเช่น Facebook มีเครื่องมือที่เรียกว่า Fairness Flow ซึ่ง旨在รับรองว่าโฆษณาที่แนะนำงานให้กับผู้คนจะกำหนดเป้าหมายไปยังผู้คนจากภูมิหลังที่แตกต่างกัน อย่างไรก็ตาม มีแนวโน้มว่าทีม AI ขนาดใหญ่จะไม่ต้องการลงทุนเวลาทำเครื่องมือเหล่านี้ ดังนั้นจึงมีโอกาสทางธุรกิจสำหรับบริษัทที่ต้องการสร้างเครื่องมือติดตามสำหรับใช้โดยบริษัท AI

Arthur มุ่งเน้นไปที่การสร้างเครื่องมือที่ช่วยให้บริษัทสามารถดูแลและติดตามระบบ AI ได้ดีขึ้นหลังจากที่ระบบถูกนำไปใช้แล้ว เครื่องมือของ Arthur มีจุดมุ่งหมายเพื่อให้บริษัทสามารถเห็นได้ว่าประสิทธิภาพของระบบเปลี่ยนแปลงไปตามเวลา ซึ่งโดยทฤษฎีแล้วจะช่วยให้บริษัทสามารถตรวจจับปัญหาเช่น ความลำเอียงได้ หากซอฟต์แวร์แนะนำการกู้ยืมของบริษัทเริ่ม排除กลุ่มลูกค้าบางกลุ่น ระบบสามารถตั้งค่าสัญญาณที่บ่งบอกว่าระบบต้องการการตรวจสอบเพื่อให้แน่ใจว่าไม่ได้เลือกปฏิบัติต่อลูกค้าตามคุณลักษณะที่ไวต่อความรู้สึก เช่น เชื้อชาติหรือเพศ

อย่างไรก็ตาม Arthur ไม่ใช่บริษัทเดียวที่สร้างเครื่องมือที่ช่วยให้บริษัท AI สามารถตรวจสอบประสิทธิภาพของอัลกอริทึมได้ สตาร์ทอัพหลายแห่งกำลังลงทุนในการสร้างเครื่องมือเพื่อต่อสู้กับความลำเอียงและรับรองว่าอัลกอริทึม AI ถูกใช้อย่างมีจริยธรรม Weights & Biases เป็นอีกหนึ่งสตาร์ทอัพซึ่งสร้างเครื่องมือเพื่อช่วยให้วิศวกรการเรียนรู้ของเครื่องวิเคราะห์ปัญหาได้ Toyota ใช้เครื่องมือที่สร้างโดย Weights & Biases เพื่อติดตามอุปกรณ์การเรียนรู้ของเครื่องขณะฝึกอบรม ในขณะที่สตาร์ทอัพ Fiddler กำลังสร้างชุดเครื่องมือติดตาม AI ที่แตกต่าง IBM ยังสร้างบริการติดตามของตัวเองที่เรียกว่า OpenScale

ลิซ โอ’ซัลลิแวน หนึ่งในผู้ร่วมก่อตั้ง Arthur อธิบายว่าความสนใจในการสร้างเครื่องมือเพื่อช่วยแก้ไขปัญหา “กล่องดำ” มีแรงผลักดันจากความตระหนักเกี่ยวกับพลังของ AI ที่เพิ่มขึ้น

“ผู้คนเริ่มรู้ตัวว่าระบบเหล่านี้มีพลังมาก และพวกเขาต้องใช้ประโยชน์จากผลประโยชน์เหล่านั้นในลักษณะที่รับผิดชอบ” โอ’ซัลลิแวนกล่าว