ActionAI ได้รับเงิน 10 ล้านดอลลาร์ เพื่อนำความน่าเชื่อถือและความรับผิดชอบมาให้กับ AI ขององค์กร

การนำ เอไอมาใช้ในองค์กร ได้เพิ่มขึ้นอย่างรวดเร็ว แต่การขยายขนาดไปเกินโครงการนำร่องยังคงเป็นความท้าทายที่ยังคงอยู่ สาเหตุหลักคือความน่าเชื่อถือ ในขณะที่พนักงานใช้เครื่องมือ AI ในงานประจำวันของตน องค์กรยังคงลังเลที่จะพึ่งพาเครื่องมือเหล่านี้สำหรับการดำเนินงานหลัก ๆ ที่ความแม่นยำและความรับผิดชอบมีความสำคัญ

ช่องว่างนี้คือสิ่งที่ ActionAI ตั้งเป้าที่จะปิดช่องว่างนั้น บริษัทได้ประกาศรอบการให้ทุน 10 ล้านดอลลาร์ในการสร้างโครงสร้างพื้นฐานที่ทำให้ระบบ AI มีความน่าเชื่อถือเพียงพอสำหรับการใช้งานขององค์กร

ทำไมการนำ AI มาใช้จึงหยุดชะงัก

尽管มีการทดลองอย่างกว้างขวาง แต่โครงการ AI ขององค์กรส่วนใหญ่ล้มเหลวในการเข้าสู่การผลิต ข้อมูลภายในมักไม่ได้รับการตรวจสอบ อินพุตอาจไม่สอดคล้องกัน และข้อผิดพลาด – โดยเฉพาะ การหลอกลวง – ทำให้เกิดความเสี่ยงในการดำเนินงานที่แท้จริง

การศึกษา แสดงให้เห็นว่าในขณะที่พนักงานส่วนใหญ่ใช้เครื่องมือ AI ในที่ทำงาน แต่หลายคนก็ทำเช่นนั้นโดยไม่ได้ตรวจสอบความถูกต้อง ในเวลาเดียวกัน การใช้ AI ขององค์กรส่วนใหญ่ยังคงอยู่ในโหมดนำร่อง ปัญหาไม่ใช่ว่า AI มีความสามารถหรือไม่ แต่ว่า AI สามารถเชื่อถือได้หรือไม่

สิ่งนี้เป็นปัญหาอย่าง đặc biệtในอุตสาหกรรม เช่น การเงิน การประกันภัย การดูแลสุขภาพ และการขนส่ง ซึ่งความผิดพลาดอาจมีผลกระทบทางกฎระเบียบ การเงิน หรือทางกฎหมาย

การสร้างชั้นความน่าเชื่อถือสำหรับ AI

แนวทางของ ActionAI คือการรักษาความน่าเชื่อถือเป็นชั้นพื้นฐานมากกว่าการพิจารณาในภายหลัง แพลตฟอร์มของบริษัทได้รับการออกแบบมาเพื่อติดตามและประเมินระบบ AI ในช่วงอายุการใช้งานทั้งหมด – ตั้งแต่ข้อมูลการฝึกอบรมไปจนถึงการผลิตสุดท้าย

แทนที่จะเน้นไปที่ประสิทธิภาพของโมเดลเพียงอย่างเดียว ระบบจะสร้างแผนที่ว่าข้อมูลไหลผ่านแต่ละขั้นตอนของ AI สแต็ก นี่ทำให้ทีมสามารถระบุได้ว่าความล้มเหลวเกิดขึ้นที่ไหน – ไม่ว่าจะเป็นในระดับอินพุต ระหว่างการประมวลผล หรือที่ขั้นตอนการผลิต

ส่วนประกอบสำคัญของแพลตฟอร์มคือความสามารถในการแก้ไขปัญหาในเวลาจริง เมื่อมีบางสิ่งผิดปกติ ทีมสามารถระบุเหตุผลรากฐานได้อย่างรวดเร็วและแก้ไขปัญหาได้ก่อนที่จะกลายเป็นปัญหาใหญ่ขึ้น

การแนะนำข้อยกเว้นที่อธิบายได้

หนึ่งในองค์ประกอบที่โดดเด่นที่สุดของแพลตฟอร์มคือระบบที่เรียกว่า ข้อยกเว้นที่อธิบายได้ (ExEx) แทนที่จะบังคับให้ระบบ AI ต้องดำเนินการด้วยการผลิตที่ไม่แน่นอน ExEx ตรวจจับเมื่อโมเดลไม่มั่นใจและส่งงานไปยังผู้ตรวจสอบ

สิ่งที่ทำให้แนวทางนี้น่าสนใจคือไม่เพียงแต่ระบุปัญหาเท่านั้น แต่ยังให้เหตุผลอีกด้วย ผู้ตรวจสอบได้รับบริบทที่อธิบายว่าทำไม AI จึงไม่มั่นใจ ทำให้พวกเขาตัดสินใจได้เร็วขึ้นและแม่นยำยิ่งขึ้น

สิ่งนี้สร้างการทำงาน แบบมีคนอยู่ในวงจร ที่มีโครงสร้าง ซึ่งไม่ทำให้การดำเนินงานชะงัก แต่เป็นการทำงานร่วมกันเพื่อให้แน่ใจว่าการผลิตที่ไม่แน่นอนหรือมีความเสี่ยงสูงจะไม่ผ่านระบบโดยไม่ได้รับการสังเกต

จากการตรวจสอบไปสู่การควบคุมอย่างต่อเนื่อง

นอกเหนือจากการนำไปใช้ แพลตฟอร์มยังคงติดตามประสิทธิภาพ AI ในการผลิต ระบบติดตามว่าระบบตอบสนองต่อข้อมูลใหม่ สภาพแวดล้อมที่เปลี่ยนแปลง หรือคำสั่งที่อัปเดตอย่างไร

เมื่อประสิทธิภาพลดลงหรือมีความผิดปกติ ระบบจะแจ้งเตือนโดยอัตโนมัติ ช่วยให้องค์กรสามารถรักษาความสม่ำเสมอได้ตลอดเวลา สิ่งนี้มีความสำคัญอย่างยิ่งเมื่อโมเดล AI เสื่อมลงหรือมีพฤติกรรมที่ไม่คาดคิดเมื่อเผชิญกับอินพุตใหม่

เป้าหมายคือการย้ายจากการนำ AI ไปใช้ในรูปแบบที่มีการจัดการอย่างต่อเนื่อง ซึ่งปรับเปลี่ยนโดยไม่สูญเสียความน่าเชื่อถือ

ActionAI มุ่งเน้นไปที่ภาคส่วนที่ความแม่นยำไม่สามารถต่อรองได้ ซึ่งรวมถึงบริการทางการเงิน การผลิต การค้าปลีก การประกันภัย การจัดหาสินค้า และระบบกฎหมาย

ในบรรยากาศเหล่านี้ แม้ความผิดพลาดเล็กน้อยก็สามารถสร้างปัญหาใหญ่ได้ โดยการนำการควบคุม การติดตาม และการ处理ข้อยกเว้นที่มีโครงสร้างมาใช้ แพลตฟอร์มได้รับการออกแบบมาเพื่อทำให้ AI มีความเป็นไปได้ในบริบทที่เคยถือว่ามีความเสี่ยงมาก่อน

การเปลี่ยนแปลงไปสู่ AI ที่รับผิดชอบ

สำหรับ Miriam Haart ผู้ก่อตั้ง ปัญหาหลักไม่ใช่แค่การปรับปรุงประสิทธิภาพ AI แต่ยังรวมถึงการทำให้ระบบ AI มีความรับผิดชอบตั้งแต่แรก

สถาปัตยกรรมของบริษัทมุ่งเน้นไปที่การตรวจสอบข้อมูลก่อนที่จะเข้าสู่ระบบ ติดตามพฤติกรรมระหว่างการดำเนินการ และรับรองว่าการผลิตสามารถอธิบายและตรวจสอบได้ ความสามารถในการมองเห็นแบบ end-to-end นี้ทำให้องค์กรสามารถย้ายจากการทดลองไปสู่การนำไปใช้เต็มรูปแบบ

ผลกระทบในวงกว้างของรอบการให้ทุนครั้งนี้คือการเปลี่ยนแปลงวิธีที่องค์กรคิดเกี่ยวกับ AI แทนที่จะรักษา AI ไว้เป็นเครื่องมือที่วางซ้อนบนระบบที่มีอยู่แล้ว บริษัทต่างๆ เริ่มมอง AI เป็นโครงสร้างพื้นฐานหลัก – สิ่งที่ต้องตรงตามมาตรฐานเดียวกันกับระบบที่สำคัญต่อภารกิจ

ActionAI กำลังตั้งตำแหน่งตัวเองที่จุดตัดกันของที่ที่ประสิทธิภาพเพียงอย่างเดียวไม่เพียงพอ ความน่าเชื่อถือ ความโปร่งใส และการควบคุมกำลังจะกลายเป็นข้อกำหนดที่สำคัญสำหรับการนำ AI มาใช้ในองค์กร

หากองค์ประกอบเหล่านี้สามารถมาตรฐานได้ AI อาจจะย้ายจากการทดลองที่แยกออกมาไปยังการดำเนินการที่รวมเข้าด้วยกันในองค์กร