Yizheng Wang, หัวหน้า AI, Straiker Yizheng Wang หัวหน้า AI, Straiker

เมื่อการนำ AI ไปใช้เร็วกว่าการสร้างความสามารถของผู้ใช้ ผู้นำในอุตสาหกรรมต้องเข้ามาเสริมสร้าง

องค์กรต่างๆ กำลังขยายการใช้ AI เร็วกว่าที่พวกเขาสร้างความสามารถของผู้ใช้ ช่องว่างระหว่างการนำ AI ไปใช้และความสามารถของผู้ใช้ไม่ใช่แค่ปัญหาเรื่องการศึกษา แต่ยังเป็นความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้น และช่องว่างนี้ถูกขยายโดยการนำระบบ AI ที่สามารถวางแผน ตัดสินใจ และดำเนินการโดยไม่มีการลงทุนเท่าเทียมกันในการทำความเข้าใจว่าระบบเหล่านั้นจะทำงานอย่างไรภายใต้สภาวะที่ไม่แน่นอนหรือมีศัตรูในงานของฉันในการพัฒนาและนำระบบความปลอดภัยของ AI ไปใช้ในแอปพลิเคชันจริง ฉันสังเกตเห็นว่าช่องว่างนี้เป็นแหล่งที่มาหลักของความล้มเหลวของระบบและความเสี่ยงด้านความปลอดภัยการมีความเข้าใจพื้นฐานเกี่ยวกับความท้าทายของ AI เป็นกุญแจสำคัญในการสร้างและนำระบบความปลอดภัยที่เหมาะสมระบบ AI มีความเสี่ยงต่อการนำไปใช้ในทางที่ผิดโดยธรรมชาติหนึ่งในความท้าทายคือ AI ไม่ “เข้าใจ” ในความหมายของมนุษย์ แต่จะปรับให้เหมาะสมกับผลลัพธ์ตามรูปแบบมากกว่าความตั้งใจ โมเดลจะคาดการณ์ผลลัพธ์ที่น่าจะเป็นไปได้ตามข้อมูลการฝึกอบรม...