สี่ความล้มเหลวที่มีค่าใช้จ่ายสูงสุดของ AI ที่ไม่ได้รับการทดสอบอย่างเพียงพอ

เมื่อบริษัทต่างๆ ติดตั้ง AI โดยไม่มีการกำกับดูแลของมนุษย์ที่เข้มงวด พวกเขากำลังขอให้ระบบอัตโนมัติที่ไม่แน่นอนตรวจสอบตัวเอง

ปัญหาไม่ได้อยู่ที่ว่า AI ไม่ดีในการทดสอบ AI เป็นเลิศในการทำสิ่งที่เคยทำมาก่อน โดยเฉพาะอย่างยิ่งการปฏิบัติตามกฎที่คุณกำหนดไว้อย่างชัดเจน แต่ความล้มเหลวที่จริงๆ แล้วทำลายแบรนด์ของคุณอยู่ในพื้นที่ที่การตัดสินใจของมนุษย์มีความสำคัญที่สุด การหลอกลวงเกี่ยวกับนโยบายการคืนเงิน การตอบสนองที่ไม่เหมาะสมต่อการร้องเรียนที่ละเอียดอ่อน การรักษาความปลอดภัยที่ไม่สามารถทนต่อแรงกดดันได้

ด้วยลูกค้า 70% ของลูกค้า ที่ยินดีที่จะเปลี่ยนไปหลังจากการโต้ตอบ AI ที่ไม่ดีเพียงครั้งเดียว ความเสี่ยงคือสูง แต่บริษัทส่วนใหญ่กำลังจัดส่ง AI ที่ได้รับการตรวจสอบโดยใช้เครื่องมือเก่าหรืออัตโนมัติเท่านั้น ซึ่งไม่เคยออกแบบมาเพื่อจับข้อผิดพลาดที่แท้จริงที่ขับไล่ลูกค้า

ในระหว่างการมีส่วนร่วมที่ Teslio ได้ดำเนินการสำหรับทีมระดับองค์กร มีแบบการล้มเหลวสี่แบบที่ทำให้เกิดความเสียหายที่มองเห็นได้สำหรับลูกค้าส่วนใหญ่ ไม่มีแบบการล้มเหลวเหล่านี้ถูกจับได้ด้วยการตรวจสอบอัตโนมัติเพียงอย่างเดียว

1. การรักษาความปลอดภัยและรั้วความปลอดภัยที่ไม่ได้รับการป้องกันจริง

ลูกค้าถามคำถามที่ถูกต้องให้กับชัตบอทของคุณในลักษณะที่ถูกต้อง ชัตบอทเสนอสินค้ามูลค่า 1,000 ดอลลาร์ให้พวกเขาในราคา 10 ดอลลาร์ หรือเปิดเผยข้อมูลที่ไม่ควรเปิดเผย หรือทำลายกฎธุรกิจพื้นฐานเพราะไม่มีการทดสอบเงื่อนไขขอบเขต

ความเสี่ยงนั้นตรงไปตรงมา ความเสียหายเกิดขึ้นทันทีและความเสียหายเป็นสาธารณะ

ปัญหาแท้จริงไม่ใช่แค่อัตโนมัติเท่านั้น แต่ยังรวมถึงการรักษาความปลอดภัยที่ไม่ได้มาตรฐาน ซึ่งต้องปรับให้เหมาะสมกับบริบทธุรกิจเฉพาะของตน และแม้ว่าจะปฏิบัติตามแนวปฏิบัติที่ดีที่สุด การรักษาความปลอดภัยยังคงอ่อนแอ เทคนิค เช่น “การหลอกลวงทางกวี” แสดงให้เห็นว่าการรักษาความปลอดภัยที่มีเจตนา tốtสามารถถูกจัดการในลักษณะที่ผู้สร้างไม่คาดคิด

สิ่งนี้ต้องการการคิดเชิงรุก การทดสอบที่มีมนุษย์เข้ามาเกี่ยวข้อง ซึ่งเข้าใจการออกแบบการรักษาความปลอดภัยและพื้นที่การโจมตี

2. ความล้มเหลวของความถูกต้องและตรรกะธุรกิจที่ซ่อนอยู่ในความหลอกลวง

ความเป็นจริงคือ AI มีการหลอกลวง เมื่อคุณมีความเชี่ยวชาญในโดเมนใดโดเมนหนึ่ง คุณจะสังเกตเห็นความหลอกลวงทันที

แต่นี่คือความผิดพลาดที่สำคัญในการพึ่งพาทีมภายในเพียงอย่างเดียว เมื่อคุณรู้จักสินค้าอย่างลึกซึ้ง คุณจะรู้วิธีถามคำถามที่จะให้คำตอบที่ถูกต้อง คุณไม่สามารถพบข้อผิดพลาดหากคุณไม่ได้ค้นหา

เมื่อบริษัทเริ่มสร้างบนโมเดลภาษาขนาดใหญ่ เมื่อพวกเขาเพิ่มกระบวนการและเวิร์กโฟลว์ของตนเอง การทดสอบกลายเป็นสิ่งสำคัญมากขึ้น

เมื่อ AI มีการหลอกลวง มันจะสร้างปัญหาให้กับลูกค้า

3. การละเลยด้านความใช้งานและประสบการณ์ของผู้ใช้

มันรู้สึกถูกต้องหรือไม่ มันดูถูกต้องหรือไม่ การประมวลผลการชำระเงินใช้เวลานานเกินไปหรือไม่ คำตอบมีเสียงที่เหมาะสมสำหรับลูกค้าที่ไม่พอใจหรือไม่

คำถามเหล่านี้เป็นคำถามที่เครื่องมืออัตโนมัติไม่สามารถตอบได้ และเป็นคำถามที่มีความสำคัญอย่างมากสำหรับลูกค้า

มีความแตกต่างพื้นฐานระหว่างการผ่านการทดสอบและการเป็นผลิตภัณฑ์ที่ดีจริงๆ การโต้ตอบ AI สามารถผ่านการทดสอบได้ทุกประการ แต่ยังคงถูกมองว่าไม่ถูกต้องโดยผู้ใช้

สิ่งนี้ต้องการการมีส่วนร่วมของมนุษย์ คุณต้องการผู้ที่ได้รับการฝึกอบรมให้รู้จักการล้มเหลวของ AI ทดสอบในพื้นที่ที่ลูกค้าของคุณอาศัยอยู่ โดยใช้อุปกรณ์และวิธีการชำระเงินที่พวกเขาทำจริงๆ

คุณต้องมีคนใช้ผลิตภัณฑ์จริงๆ คิดเกี่ยวกับประสบการณ์ที่มันหมายถึง และผลักดันกลับเมื่อมันไม่รู้สึกถูกต้อง

4. การหลอกลวงของความเชี่ยวชาญที่ได้รับการตรวจสอบ

สิ่งนี้คือความล้มเหลวที่ซับซ้อนและอาจเป็นอันตรายที่สุด เมื่อบริษัทต่างๆ ติดตั้ง AI โดยไม่มีการทดสอบที่เหมาะสม พวกเขากำลังเดิมพันว่า AI ได้รับความรู้เพียงพอเพื่อให้สามารถจัดการโดเมนได้อย่างเหมาะสม

แต่มีมิติอื่นของความเสี่ยงนี้ด้วย ผู้ใช้ส่วนใหญ่ของฟังก์ชัน AI มีความคิดเหมือนกัน พวกเขาไม่ได้สอบถามผลลัพธ์ หากมันฟังดูเชื่อถือได้และไม่ผิดที่เห็นได้ชัด พวกเขาจะไว้วางใจมัน

AI มีความสามารถในการรู้สิ่งที่เคยทำมา แต่ไม่ดีในการรู้สิ่งที่ควรทำในสถานการณ์ใหม่ๆ ทุกธุรกิจมีสถานการณ์ใหม่ๆ ทุกผลิตภัณฑ์มีกรณีขอบเขตทุกกรณี และทุกเส้นทางลูกค้ามีจุดที่คำตอบที่ถูกต้องคือคำตอบที่ AI ไม่ได้รับการฝึกให้ให้

การกำหนดความพร้อมในการเปิดตัวใหม่

กลยุทธ์การเปิดตัว AI ที่มีความเป็นมืออาชีพต้องมีการย้ายออกจากความคิดอัตโนมัติเพียงอย่างเดียว และสร้างโครงสร้างที่มีระบบการทำงานของมนุษย์

• วิศวกรรม: ทีมนี้ควรเป็นเจ้าของความสมบูรณ์ของระบบ การกำหนดสิ่งที่ล้มเหลวในระดับโมเดลและโครงสร้างพื้นฐาน และที่ใดที่การรักษาความปลอดภัยต้องมีการวางตำแหน่ง
• ผลิตภัณฑ์: ผู้นำควรเป็นเจ้าของขอบเขตการตัดสินใจ โดยตัดสินว่าการตัดสินใจใดที่ AI สามารถทำได้ด้วยตนเอง ซึ่งต้องการการอนุมัติของมนุษย์ และซึ่งไม่ควรสัมผัสใดๆ
• การออกแบบและ QA: ผู้เชี่ยวชาญเหล่านี้ควรเป็นเจ้าของประสบการณ์ของผู้ใช้ โดยตรวจสอบว่าผู้ใช้เข้าใจสิ่งที่ AI กำลังทำ สามารถรู้ตัวเมื่อมันผิด และมีการแก้ไขที่มีความหมายเมื่อมันผิด

เราต้องยอมรับว่าในขณะที่ AI สามารถสร้างประสบการณ์ที่น่าเหลือเชื่อสำหรับลูกค้าของเราได้ แต่ AI ไม่สามารถเป็นคนตัดสินและผู้พิพากษาของตัวเองได้ ความรับผิดชอบต่อคุณภาพของ AI เป็นความรับผิดชอบขององค์กรที่กระจายไปทั่วทีม มีจุดยึดในความเชี่ยวชาญของมนุษย์ และมีพื้นฐานมาจากการทดสอบในโลกแห่งความเป็นจริง