สตาร์ทอัพสร้างเครื่องมือเพื่อติดตาม AI และส่งเสริมการใช้ AI อย่างมีจริยธรรม

ในช่วงเวลาหนึ่งปีที่ผ่านมา ดูเหมือนว่าจะมีการให้ความสนใจมากขึ้นในการรับรองว่า AI ถูกใช้ในรูปแบบที่มีจริยธรรม Google และ Microsoft ทั้งคู่ได้ เตือนนักลงทุน ว่าการใช้ AI algorithms อย่างไม่เหมาะสมหรือการออกแบบ AI algorithms ที่ไม่ดีนั้นเป็นความเสี่ยงทางจริยธรรมและกฎหมาย ในขณะเดียวกัน รัฐแคลิฟอร์เนียเพิ่ง ผ่านกฎหมาย ที่ห้ามการใช้เทคโนโลยีการจดจำใบหน้าโดยหน่วยงานบังคับใช้กฎหมายของแคลิฟอร์เนีย

ล่าสุด สตาร์ทอัพ เช่น Arthur ได้พยายามออกแบบเครื่องมือที่จะช่วยให้วิศวกร AI量และคุณภาพการทำงานของโมเดลการเรียนรู้ของเครื่อง ตามรายงานของ Wired Arthur พยายามให้นักพัฒนา AI เครื่องมือที่จะทำให้ง่ายต่อการค้นหาปัญหาเมื่อออกแบบแอปพลิเคชันทางการเงิน เช่น การเปิดเผยความลำเอียงในการลงทุนหรือการตัดสินใจในการให้กู้ยืม

ความพยายามของ Arthur มุ่งเน้นไปที่การแก้ไข ปัญหา “กล่องดำ” ของ AI ปัญหา “กล่องดำ” ใน AI อธิบายว่าไม่เหมือนกับโค้ดแบบดั้งเดิมที่สามารถอ่านได้ง่ายโดยผู้ที่รู้วิธีอ่าน แต่ระบบการเรียนรู้ของเครื่องจะแมปกับคุณลักษณะไปยังพฤติกรรมโดยไม่เปิดเผยเหตุผลที่พฤติกรรมเหล่านั้นถูกเลือกหรือวิธีการตีความคุณลักษณะเหล่านั้น ในอีกคำหนึ่ง ในระบบ “กล่องดำ” การใช้งานของอัลกอริทึมไม่โปร่งใส

ระบบการเรียนรู้ของเครื่องทำงานโดยการค้นหารูปแบบจากข้อมูลนำเข้าและให้เหตุผลเกี่ยวกับรูปแบบเหล่านั้น โดยการเขียนโค้ดของเครื่องโดยการดัดแปลงฟังก์ชันทางคณิตศาสตร์บางอย่าง เพื่อแก้ไขปัญหานี้ นักวิจัยและวิศวกรต้องการเครื่องมือที่ทำให้การสังเกตและวิเคราะห์พฤติกรรมของซอฟต์แวร์การเรียนรู้ของเครื่องง่ายขึ้น สตาร์ทอัพ เช่น Arthur ยอมรับว่าการแก้ไขปัญหานี้ยากและไม่กล่าวหาว่าตัวเองมีคำตอบที่ดีที่สุด แต่พวกเขาหวังว่าจะทำความก้าวหน้าในพื้นที่นี้และทำให้การแก้ไข “กล่องดำ” ง่ายขึ้น หวังว่าหากระบบ AI สามารถวิเคราะห์ได้ง่ายขึ้น ก็จะง่ายต่อการแก้ไขปัญหา เช่น ความลำเอียง

บริษัทขนาดใหญ่ เช่น Facebook มีเครื่องมือบางอย่างเพื่อวิเคราะห์การทำงานภายในของระบบการเรียนรู้ของเครื่อง ตัวอย่างเช่น Facebook มีเครื่องมือที่เรียกว่า Fairness Flow ซึ่งมีจุดมุ่งหมายเพื่อให้แน่ใจว่าโฆษณาที่แนะนำงานให้กับผู้คนมุ่งเป้าไปที่ผู้คนจากภูมิหลังที่แตกต่างกัน อย่างไรก็ตาม มีแนวโน้มว่าทีม AI ขนาดใหญ่จะไม่ต้องการลงทุนเวลาที่จะสร้างเครื่องมือดังกล่าว และดังนั้นจึงมีโอกาสทางธุรกิจสำหรับบริษัทที่ต้องการสร้างเครื่องมือติดตามสำหรับใช้โดยบริษัท AI

Arthur มุ่งเน้นไปที่การสร้างเครื่องมือที่ช่วยให้บริษัทสามารถดูแลและติดตามระบบ AI หลังจากที่ระบบได้รับการใช้งานแล้ว เครื่องมือของ Arthur มีจุดมุ่งหมายเพื่อให้บริษัทสามารถเห็นได้ว่าประสิทธิภาพของระบบเปลี่ยนแปลงไปตามเวลา ซึ่งจะทำให้บริษัทสามารถสังเกตเห็นปัญหาที่อาจเกิดขึ้นได้ หากซอฟต์แวร์แนะนำการให้กู้ยืมของบริษัทเริ่ม排除กลุ่มลูกค้าบางกลุ่น สามารถตั้งค่าสัญญาณเตือนเพื่อแสดงว่าระบบต้องการการตรวจสอบเพื่อให้แน่ใจว่าไม่ได้เลือกปฏิบัติต่อลูกค้าตามคุณลักษณะที่ละเอียดอ่อน เช่น เชื้อชาติหรือเพศ

อย่างไรก็ตาม Arthur ไม่ใช่บริษัทเดียวที่สร้างเครื่องมือที่ช่วยให้บริษัท AI สามารถตรวจสอบประสิทธิภาพของอัลกอริทึมได้ สตาร์ทอัพหลายแห่งกำลังลงทุนในการสร้างเครื่องมือเพื่อต่อสู้กับความลำเอียงและรับรองว่าอัลกอริทึม AI ถูกใช้อย่างมีจริยธรรม Weights & Biases เป็นสตาร์ทอัพอีกแห่งที่สร้างเครื่องมือเพื่อช่วยให้วิศวกรการเรียนรู้ของเครื่องสามารถวิเคราะห์ปัญหาได้ Toyota ใช้เครื่องมือที่สร้างโดย Weights & Biases เพื่อติดตามอุปกรณ์การเรียนรู้ของเครื่องในระหว่างการฝึกอบรม ในขณะเดียวกัน สตาร์ทอัพ Fiddler ก็กำลังสร้างชุดเครื่องมือติดตาม AI ที่แตกต่าง IBM ยังสร้างบริการติดตามของตนเองที่เรียกว่า OpenScale

Liz O’Sullivan หนึ่งในผู้ร่วมก่อตั้ง Arthur อธิบายว่าความสนใจในการสร้างเครื่องมือเพื่อช่วยแก้ไขปัญหา “กล่องดำ” นั้นได้รับแรงบันดาลใจจากความตระหนักเกี่ยวกับพลังของ AI ที่เพิ่มขึ้น

“ผู้คนเริ่มรับรู้ถึงพลังของระบบเหล่านี้ และว่าพวกเขาต้องใช้ประโยชน์จากผลประโยชน์เหล่านี้ในลักษณะที่รับผิดชอบ” O’Sullivan กล่าว