แหล่งที่มาของเนื้อหาคืออะไร? C2PA การใส่ลายน้ำ และการตรวจจับสื่อที่สร้างโดย AI

แหล่งที่มาของเนื้อหาบันทึกข้อมูลที่ตรวจสอบยืนยันได้เกี่ยวกับต้นกำเนิดและประวัติการแก้ไขของชิ้นงาน เพื่อให้ผู้คนและระบบตรวจสอบได้ว่าสร้างหรือเปลี่ยนแปลงชิ้นงานนั้นอย่างไร

ควรอธิบายแหล่งที่มาของเนื้อหาอย่างแม่นยำ เพราะชื่อนี้หมายถึงขั้นตอนการไหลของข้อมูล ทางเลือกในการฝึก กลไกขณะทำงาน หรือขอบเขตด้านธรรมาภิบาลอย่างใดอย่างหนึ่งโดยเฉพาะ การใช้คำนี้แทนคำว่า “AI ขั้นสูง” ทำให้ไม่สามารถทดสอบข้อกล่าวอ้างได้ คู่มือนี้จะติดตามแนวคิดดังกล่าวตั้งแต่ข้อมูลนำเข้าและข้อสมมติ ไปจนถึงผลลัพธ์ที่สังเกตได้ จากนั้นจะทดสอบทางลัดที่มีแนวโน้มถูกเข้าใจสับสนกับแนวคิดนี้มากที่สุด

แหล่งที่มาของเนื้อหา: คำจำกัดความ ขอบเขต และจุดประสงค์

แหล่งที่มาของเนื้อหาบันทึกข้อมูลที่ตรวจสอบยืนยันได้เกี่ยวกับต้นกำเนิดและประวัติการแก้ไขของชิ้นงาน เพื่อให้ผู้คนและระบบตรวจสอบได้ว่าสร้างหรือเปลี่ยนแปลงชิ้นงานนั้นอย่างไร คำจำกัดความนี้ประกอบด้วยข้อกำหนดเชิงปฏิบัติ 3 ประการ ได้แก่ มีข้อมูลนำเข้าที่ระบุได้ มีการแปลงข้อมูลหรือการตัดสินใจที่เป็นลักษณะเฉพาะของแหล่งที่มาของเนื้อหา และมีผลลัพธ์ที่ประเมินเทียบกับวัตถุประสงค์ที่ระบุไว้ได้ หากขาดองค์ประกอบข้อใดข้อหนึ่ง คำนี้อาจหมายถึงเพียงสิ่งที่มุ่งหวัง มากกว่ากลไกที่นำไปใช้จริง

AI ที่เชื่อถือได้ต้องมีหลักฐานตลอดวงจรชีวิต มาตรการควบคุมจะมีความหมายก็ต่อเมื่อระบุผู้รับผิดชอบ ขอบเขต เงื่อนไขกระตุ้น พฤติกรรมที่คาดหวัง และวิธีตรวจสอบไว้อย่างชัดเจน สำหรับแหล่งที่มาของเนื้อหา การมองภาพรวมทั้งระบบมีความสำคัญ เพราะประสิทธิภาพอาจขึ้นอยู่กับข้อมูลแวดล้อม ส่วนติดต่อผู้ใช้ ฮาร์ดแวร์ สิทธิ์การเข้าถึง และผู้คน แม้ไม่มีการเปลี่ยนแปลงโมเดลพื้นฐานก็ตาม ดังนั้น คำอธิบายที่มีประโยชน์จึงแยกพฤติกรรมที่โมเดลเรียนรู้ออกจากผลิตภัณฑ์ที่กำหนดว่าจะใช้พฤติกรรมนั้นเมื่อใด ที่ไหน และด้วยอำนาจในระดับใด

ทางลัดที่ชวนให้เข้าใจผิดมากที่สุดคือการตรวจจับ AI ซึ่งคาดเดาจากพิกเซลว่าสื่อถูกสร้างขึ้นหรือไม่ แม้จะมีคุณลักษณะที่มองเห็นได้บางอย่างร่วมกับแหล่งที่มาของเนื้อหา แต่ก็ทำให้เหตุและผลเปลี่ยนไป กล่าวคือ ต้องใช้หลักฐานคนละแบบเพื่อยืนยันความสำเร็จ ทรัพยากรคนละประเภทจะเป็นตัวกำหนดต้นทุนหลัก และต้องใช้มาตรการควบคุมคนละแบบเพื่อป้องกันอันตราย ดังนั้น ขอบเขตของแนวคิดนี้จึงอยู่ที่การปฏิบัติงาน ไม่ใช่การใช้คำศัพท์

แผนผังการทำงานของแหล่งที่มาของเนื้อหา 5 ขั้นตอน

แผนภาพนี้เป็นแผนที่เหตุและผลแบบย่อของแหล่งที่มาของเนื้อหา ไม่ได้หมายความว่าทุกการนำไปใช้จะประกอบด้วยซอฟต์แวร์ 5 ส่วน บางระบบรวมขั้นตอนเข้าด้วยกัน ขณะที่บางระบบทำขั้นตอนเดิมซ้ำเป็นวงจร แผนภาพนี้ยังมีประโยชน์ เพราะบังคับให้มีผู้รับผิดชอบ ข้อมูลนำเข้า ผลลัพธ์ และการทดสอบสำหรับการเปลี่ยนแปลงข้อมูลหรืออำนาจทุกครั้ง

1. บันทึกคำกล่าวอ้างขณะสร้างหรือแก้ไข: ข้อมูลนำเข้าและข้อสมมติของแหล่งที่มาของเนื้อหา

ในขั้นตอนนี้ของแหล่งที่มาของเนื้อหา ระบบต้องบันทึกคำกล่าวอ้างขณะสร้างหรือแก้ไข คำถามที่เป็นประโยชน์ไม่ใช่แค่ว่ามีการดำเนินการนั้นหรือไม่ แต่ยังรวมถึงการดำเนินการนั้นใช้ข้อมูลใด มีการเปลี่ยนสถานะใด และมีหลักฐานอะไรยืนยันว่าการเปลี่ยนแปลงนั้นถูกต้อง ผู้ตรวจสอบควรแยกแยะการดำเนินการนี้ออกจากการตรวจจับ AI ที่คาดเดาจากพิกเซลว่าสื่อถูกสร้างขึ้นหรือไม่ และทำซ้ำผลลัพธ์ได้ภายใต้เงื่อนไขที่ระบุไว้เดียวกัน

การส่งต่องานเข้าสู่ขั้นตอนนี้ของแหล่งที่มาของเนื้อหาเริ่มจากวัตถุประสงค์ที่ระบุไว้ และควรสิ้นสุดด้วยผลลัพธ์ที่รองรับการผูกข้อมูลดังกล่าวเข้ากับชิ้นงานด้วยวิธีการเข้ารหัสลับ ให้บันทึกความไม่แน่นอน ทางเลือกที่ถูกปฏิเสธ การใช้ทรัพยากร และการควบคุมใด ๆ ที่ดำเนินการโดยมนุษย์หรือซอฟต์แวร์ ณ จุดส่งต่อ ร่องรอยดังกล่าวช่วยให้ทีมตรวจพบได้ว่าแหล่งที่มาที่ถูกต้องบอกเล่าประวัติ แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏในสื่อนั้นเป็นเรื่องจริง ก่อนที่จุดอ่อนเดียวกันจะส่งผลต่อผลลัพธ์ที่มีนัยสำคัญ

2. ผูกข้อมูลดังกล่าวเข้ากับชิ้นงานด้วยวิธีการเข้ารหัสลับ: การแทนข้อมูลหรือการตัดสินใจในแหล่งที่มาของเนื้อหา

ในขั้นตอนนี้ของแหล่งที่มาของเนื้อหา ระบบต้องผูกข้อมูลดังกล่าวเข้ากับชิ้นงานด้วยวิธีการเข้ารหัสลับ คำถามที่เป็นประโยชน์ไม่ใช่แค่ว่ามีการดำเนินการนั้นหรือไม่ แต่ยังรวมถึงการดำเนินการนั้นใช้ข้อมูลใด มีการเปลี่ยนสถานะใด และมีหลักฐานอะไรยืนยันว่าการเปลี่ยนแปลงนั้นถูกต้อง ผู้ตรวจสอบควรแยกแยะการดำเนินการนี้ออกจากการตรวจจับ AI ที่คาดเดาจากพิกเซลว่าสื่อถูกสร้างขึ้นหรือไม่ และทำซ้ำผลลัพธ์ได้ภายใต้เงื่อนไขที่ระบุไว้เดียวกัน

การส่งต่องานเข้าสู่ขั้นตอนการตรวจสอบที่มาของเนื้อหานี้เริ่มจากการบันทึกคำยืนยันเกี่ยวกับการบันทึกภาพหรือเสียงในขณะสร้างหรือแก้ไข และควรจบลงด้วยผลลัพธ์ที่รองรับการลงนามรับรองข้ออ้างด้วยอัตลักษณ์ที่ตรวจสอบความรับผิดชอบได้ ให้บันทึกความไม่แน่นอน ทางเลือกที่ถูกปฏิเสธ การใช้ทรัพยากร และการควบคุมใด ๆ ที่มนุษย์หรือซอฟต์แวร์ใช้ ณ จุดเปลี่ยนผ่าน ร่องรอยดังกล่าวช่วยให้ทีมตรวจพบได้ว่าการระบุที่มาที่ถูกต้องบอกเล่าประวัติความเป็นมา แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง ก่อนที่ข้อจำกัดเดียวกันนี้จะส่งผลต่อผลลัพธ์ที่มีนัยสำคัญ

3. ลงนามรับรองข้ออ้างด้วยอัตลักษณ์ที่ตรวจสอบความรับผิดชอบได้: การเปลี่ยนแปลงที่เป็นลักษณะเฉพาะในการตรวจสอบที่มาของเนื้อหา

ในขั้นตอนนี้ของการตรวจสอบที่มาของเนื้อหา ระบบต้องลงนามรับรองข้ออ้างด้วยอัตลักษณ์ที่ตรวจสอบความรับผิดชอบได้ คำถามสำคัญไม่ใช่เพียงว่ามีการดำเนินการดังกล่าวหรือไม่ แต่ยังรวมถึงระบบใช้ข้อมูลใด เปลี่ยนสถานะใด และมีหลักฐานอะไรยืนยันว่าการเปลี่ยนแปลงนั้นถูกต้อง ผู้ตรวจสอบควรแยกแยะการดำเนินการนี้ออกจากการตรวจจับด้วย AI ซึ่งคาดเดาจากพิกเซลว่าสื่อนั้นถูกสร้างขึ้นหรือไม่ และทำซ้ำผลลัพธ์ได้ภายใต้เงื่อนไขที่ระบุไว้เดียวกัน

การส่งต่องานเข้าสู่ขั้นตอนการตรวจสอบที่มาของเนื้อหานี้เริ่มจากการผูกข้ออ้างเหล่านั้นเข้ากับชิ้นงานด้วยวิธีเข้ารหัส และควรจบลงด้วยผลลัพธ์ที่รองรับการเก็บรักษาหรือปรับปรุงข้อมูลกำกับรายการผ่านการแปลงรูปแบบต่าง ๆ ให้บันทึกความไม่แน่นอน ทางเลือกที่ถูกปฏิเสธ การใช้ทรัพยากร และการควบคุมใด ๆ ที่มนุษย์หรือซอฟต์แวร์ใช้ ณ จุดเปลี่ยนผ่าน ร่องรอยดังกล่าวช่วยให้ทีมตรวจพบได้ว่าการระบุที่มาที่ถูกต้องบอกเล่าประวัติความเป็นมา แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง ก่อนที่ข้อจำกัดเดียวกันนี้จะส่งผลต่อผลลัพธ์ที่มีนัยสำคัญ

4. เก็บรักษาหรือปรับปรุงข้อมูลกำกับรายการผ่านการแปลงรูปแบบต่าง ๆ: ข้อจำกัดและขอบเขตการตรวจสอบยืนยันในการตรวจสอบที่มาของเนื้อหา

ในขั้นตอนนี้ของการตรวจสอบที่มาของเนื้อหา ระบบต้องเก็บรักษาหรือปรับปรุงข้อมูลกำกับรายการผ่านการแปลงรูปแบบต่าง ๆ คำถามสำคัญไม่ใช่เพียงว่ามีการดำเนินการดังกล่าวหรือไม่ แต่ยังรวมถึงระบบใช้ข้อมูลใด เปลี่ยนสถานะใด และมีหลักฐานอะไรยืนยันว่าการเปลี่ยนแปลงนั้นถูกต้อง ผู้ตรวจสอบควรแยกแยะการดำเนินการนี้ออกจากการตรวจจับด้วย AI ซึ่งคาดเดาจากพิกเซลว่าสื่อนั้นถูกสร้างขึ้นหรือไม่ และทำซ้ำผลลัพธ์ได้ภายใต้เงื่อนไขที่ระบุไว้เดียวกัน

การส่งต่องานเข้าสู่ขั้นตอนการตรวจสอบที่มาของเนื้อหานี้เริ่มจากการลงนามรับรองข้ออ้างด้วยอัตลักษณ์ที่ตรวจสอบความรับผิดชอบได้ และควรจบลงด้วยผลลัพธ์ที่รองรับการตรวจสอบยืนยันและแสดงสัญญาณความน่าเชื่อถือที่มีอยู่ ให้บันทึกความไม่แน่นอน ทางเลือกที่ถูกปฏิเสธ การใช้ทรัพยากร และการควบคุมใด ๆ ที่มนุษย์หรือซอฟต์แวร์ใช้ ณ จุดเปลี่ยนผ่าน ร่องรอยดังกล่าวช่วยให้ทีมตรวจพบได้ว่าการระบุที่มาที่ถูกต้องบอกเล่าประวัติความเป็นมา แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง ก่อนที่ข้อจำกัดเดียวกันนี้จะส่งผลต่อผลลัพธ์ที่มีนัยสำคัญ

5. ตรวจสอบยืนยันและแสดงสัญญาณความน่าเชื่อถือที่มีอยู่: ผลลัพธ์ ข้อมูลป้อนกลับ และเกณฑ์ยุติในการตรวจสอบที่มาของเนื้อหา

ในขั้นตอนนี้ของการตรวจสอบที่มาของเนื้อหา ระบบต้องตรวจสอบยืนยันและแสดงสัญญาณความน่าเชื่อถือที่มีอยู่ คำถามสำคัญไม่ใช่เพียงว่ามีการดำเนินการดังกล่าวหรือไม่ แต่ยังรวมถึงระบบใช้ข้อมูลใด เปลี่ยนสถานะใด และมีหลักฐานอะไรยืนยันว่าการเปลี่ยนแปลงนั้นถูกต้อง ผู้ตรวจสอบควรแยกแยะการดำเนินการนี้ออกจากการตรวจจับด้วย AI ซึ่งคาดเดาจากพิกเซลว่าสื่อนั้นถูกสร้างขึ้นหรือไม่ และทำซ้ำผลลัพธ์ได้ภายใต้เงื่อนไขที่ระบุไว้เดียวกัน

การส่งต่องานเข้าสู่ขั้นตอนการตรวจสอบที่มาของเนื้อหานี้เริ่มจากการเก็บรักษาหรือปรับปรุงข้อมูลกำกับรายการผ่านการแปลงรูปแบบต่าง ๆ และควรจบลงด้วยผลลัพธ์ที่รองรับการติดตามตรวจสอบหรือการตัดสินใจขั้นสุดท้าย ให้บันทึกความไม่แน่นอน ทางเลือกที่ถูกปฏิเสธ การใช้ทรัพยากร และการควบคุมใด ๆ ที่มนุษย์หรือซอฟต์แวร์ใช้ ณ จุดเปลี่ยนผ่าน ร่องรอยดังกล่าวช่วยให้ทีมตรวจพบได้ว่าการระบุที่มาที่ถูกต้องบอกเล่าประวัติความเป็นมา แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง ก่อนที่ข้อจำกัดเดียวกันนี้จะส่งผลต่อผลลัพธ์ที่มีนัยสำคัญ

อ่านแผนผังขั้นตอนการตรวจสอบที่มาของเนื้อหาไปข้างหน้าเพื่อทำความเข้าใจกระบวนการผลิต และอ่านย้อนกลับเพื่อวินิจฉัยข้อผิดพลาด การวิเคราะห์ไปข้างหน้าพิจารณาว่าแต่ละขั้นตอนส่งต่อสิ่งใดให้ขั้นตอนถัดไป ส่วนการวิเคราะห์ย้อนกลับเริ่มจากผลลัพธ์ที่ไม่ถูกต้อง ล่าช้า มีค่าใช้จ่ายสูง หรือไม่ปลอดภัย แล้วไล่ย้อนดูว่าสมมติฐานก่อนหน้าใดเป็นเหตุให้เกิดผลเช่นนั้น การไล่ย้อนกลับมักช่วยให้ทีมพบว่าข้อผิดพลาดชี้ขาดเกิดขึ้นก่อนที่โมเดลจะสร้างผลลัพธ์ใด ๆ เสียอีก

ตัวอย่างการตรวจสอบที่มาของเนื้อหาแบบเจาะลึก

ภาพข่าวอาจมีคำยืนยันที่ลงนามรับรองเกี่ยวกับการบันทึกภาพและการแก้ไขติดมาด้วย ขณะที่ภายหลังมีการเพิ่มการครอปภาพเข้าไปในสายโซ่การระบุที่มาเดียวกัน

ตัวอย่างนี้ให้ข้อมูลที่เป็นประโยชน์ เพราะสามารถเชื่อมโยงการตรวจสอบที่มาของเนื้อหาเข้ากับข้อมูลนำเข้า สถานะระหว่างทาง และผลลัพธ์ที่สังเกตได้ แทนที่จะประเมินจากการสาธิตที่ผ่านการปรุงแต่ง การทดสอบอย่างเข้มงวดควรสร้างกรณีทั่วไป กรณียาก และกรณีที่ชวนให้เข้าใจผิดโดยเจตนาตามสถานการณ์นี้ เก็บข้อมูลฐานสำหรับเปรียบเทียบโดยไม่ใช้เทคนิคดังกล่าว และบันทึกทั้งประสิทธิภาพเฉลี่ยกับระดับความรุนแรงของความล้มเหลวแต่ละกรณี

ลองเปลี่ยนสมมติฐานหนึ่งข้อในตัวอย่างการตรวจสอบที่มาของเนื้อหา แล้ววิเคราะห์ซ้ำ โดยอาจนำข้อมูลนำเข้าที่จำเป็นออก เพิ่มสัญญาณที่ขัดแย้งกัน จำกัดทรัพยากรประมวลผล เปลี่ยนกลุ่มผู้ใช้ หรือบังคับให้ระบบงดให้คำตอบ กลไกที่ประสบความสำเร็จได้เฉพาะในการสาธิตที่จัดเตรียมอย่างพิถีพิถันเพียงครั้งเดียว ยังไม่ถือว่าพิสูจน์แล้วว่าสามารถใช้ได้ทั่วไปในสภาพแวดล้อมการปฏิบัติงานจริง

การตรวจสอบที่มาของเนื้อหาเทียบกับทางลัดที่พบบ่อยที่สุด

ข้อมูลแหล่งที่มาของเนื้อหามักถูกลดทอนให้เหลือเพียงการตรวจจับ AI ซึ่งคาดเดาจากพิกเซลว่าสื่อเป็นสิ่งที่สร้างขึ้นหรือไม่ การลดทอนเช่นนี้ทำให้ขอบเขตที่เป็นหัวใจของแนวคิดนี้หายไป ส่งผลให้ผู้ซื้ออาจเปรียบเทียบผลิตภัณฑ์ที่แตกต่างกัน นักวิจัยอาจกล่าวอ้างเกินกว่าที่การทดลองแสดงให้เห็น และผู้ปฏิบัติงานอาจติดตามสัญญาณที่ไม่ถูกต้องหลังนำระบบไปใช้งาน

การเปรียบเทียบควรระบุหน่วยที่ใช้ในการวิเคราะห์ด้วย งานวิจัยเกี่ยวกับข้อมูลแหล่งที่มาของเนื้อหาอาจแยกศึกษาเฉพาะโมเดลหรืออัลกอริทึม ขณะที่บริการที่นำไปใช้งานจริงยังมีการดึงข้อมูล การกำหนดเส้นทาง การแคช นโยบาย การระบุตัวตน ส่วนติดต่อผู้ใช้ และการติดตามตรวจสอบ ผลิตภัณฑ์สองรายการอาจใช้คำเรียกหลักคำเดียวกัน แต่ทำงานคนละส่วนขององค์ประกอบเหล่านี้ ควรพิจารณาว่าส่วนประกอบใดทำหน้าที่แปลงข้อมูลซึ่งเป็นหัวใจสำคัญ และมีส่วนประกอบใดอีกบ้างที่จำเป็นต่อผลลัพธ์ที่รายงาน

เหตุใดข้อมูลแหล่งที่มาของเนื้อหาจึงสำคัญในระบบ AI ปัจจุบัน

ข้อมูลแหล่งที่มาของเนื้อหามีความสำคัญในขณะนี้ เพราะระบบ AI กำลังได้รับบริบทที่ใหญ่ขึ้น รองรับรูปแบบข้อมูลที่หลากหลายขึ้น ใช้ทรัพยากรประมวลผลขณะทำงานมากขึ้น เข้าถึงเครื่องมือได้กว้างขวางขึ้น และเชื่อมโยงกับการตัดสินใจขององค์กรอย่างลึกซึ้งยิ่งขึ้น ภายใต้เงื่อนไขเหล่านี้ สิ่งที่เคยดูเหมือนเป็นเพียงรายละเอียดในการวิจัยอาจเป็นตัวกำหนดเวลาแฝง ความปลอดภัย การเข้าถึง ต้นทุนด้านสิ่งแวดล้อม คุณภาพผลิตภัณฑ์ หรือความรับผิดตามกฎหมาย

เกณฑ์วัดที่สำคัญไม่ใช่ว่าข้อมูลแหล่งที่มาของเนื้อหาจะให้ผลลัพธ์ที่น่าประทับใจได้สักครั้งหรือไม่ แต่อยู่ที่ว่าเทคนิคดังกล่าวช่วยปรับปรุงผลลัพธ์ที่สำคัญภายใต้เงื่อนไขที่เป็นตัวแทนของการใช้งานจริงได้หรือไม่ และทำได้มีประสิทธิภาพกว่าวิธีพื้นฐานที่เรียบง่ายกว่าหรือไม่ ควรรายงานการกระจายของผลลัพธ์ ประเภทของความล้มเหลว เวลาแฝงที่ปลายหาง การใช้ทรัพยากร และกลุ่มย่อยที่ได้รับผลกระทบ แทนการรวบผลลัพธ์ทั้งหมดให้เหลือค่าเฉลี่ยเพียงค่าเดียว

ติดตามทั้งตัวชี้วัดทางเทคนิคและผลกระทบต่อผู้คน บันทึกความไม่แน่นอน เก็บรักษาลำดับที่มาของข้อมูล เปิดทางให้ยกระดับปัญหา และออกแบบวิธีกู้คืนก่อนนำระบบไปเผชิญกับสภาพการใช้งานจริงที่เปลี่ยนแปลงอยู่เสมอ เมื่อนำหลักปฏิบัตินี้มาใช้กับข้อมูลแหล่งที่มาของเนื้อหาโดยเฉพาะ ก็จะทำให้ผู้อื่นนำหลักฐานไปประเมินต่อได้ ทีมอื่นสามารถพิจารณาว่าผลลัพธ์ที่กล่าวอ้างมีแนวโน้มจะยังคงเกิดขึ้นหรือไม่ เมื่อเปลี่ยนโมเดล ภาษา แพลตฟอร์มฮาร์ดแวร์ ชุดข้อมูล กลุ่มผู้ใช้ หรือระดับการยอมรับความเสี่ยง

ประโยชน์ที่ข้อมูลแหล่งที่มาของเนื้อหามอบให้ได้

เหตุผลที่หนักแน่นที่สุดในการใช้ข้อมูลแหล่งที่มาของเนื้อหาคือ ข้อมูลดังกล่าวสามารถจัดการกับคอขวดที่ตั้งใจแก้ได้โดยตรง ทั้งนี้ ประโยชน์ที่เกิดขึ้นอาจแตกต่างกันไปตามวิธีนำไปใช้ เช่น ช่วยให้ยึดโยงกับหลักฐานได้ดีขึ้น นำเสนอข้อมูลได้ตรงตามต้นฉบับมากขึ้น ทั่วไปกับข้อมูลใหม่ได้ดีขึ้น ลดเวลาแฝง ลดการเคลื่อนย้ายข้อมูลในหน่วยความจำ เพิ่มความชัดเจนด้านความรับผิดชอบ หรือสร้างขอบเขตที่ปลอดภัยยิ่งขึ้นระหว่างข้อเสนอจากโมเดลกับการดำเนินการจริง

ควรระบุประโยชน์ให้อยู่ในรูปของการตัดสินใจและการวัดผล คำว่า “ฉลาดขึ้น” ไม่ใช่เกณฑ์การยอมรับสำหรับข้อมูลแหล่งที่มาของเนื้อหา เป้าหมายที่นำไปใช้ได้จริงอาจกำหนดอัตราความผิดพลาดในกรณียาก การกู้คืนเมื่อพบหลักฐานที่ขัดแย้งกัน ต้นทุนที่เปอร์เซ็นไทล์หนึ่งของปริมาณการใช้งาน เวลาที่ใช้ในการตรวจทานโดยมนุษย์ การปรับเทียบ หรือสัดส่วนของการดำเนินการที่ยังอยู่ภายในขีดจำกัดอำนาจที่กำหนดไว้

รูปแบบความล้มเหลวที่เป็นหัวใจของข้อมูลแหล่งที่มาของเนื้อหา

ข้อจำกัดสำคัญคือข้อมูลแหล่งที่มาที่ถูกต้องอธิบายประวัติ แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง ความล้มเหลวนี้ไม่ใช่เรื่องที่ค่อยนำมาระบุเป็นข้อสังเกตภายหลังเมื่อการพัฒนาเสร็จสิ้น แต่ควรใช้เป็นแนวทางตั้งแต่เริ่มต้นในการเก็บรวบรวมข้อมูล วางสถาปัตยกรรม กำหนดสิทธิ์ ประเมินผล กำหนดเกณฑ์ก่อนเผยแพร่ และติดตามตรวจสอบข้อมูลแหล่งที่มาของเนื้อหา

มาตรการควบคุมสำหรับที่มาของเนื้อหาจะมีประโยชน์ก็ต่อเมื่อทำงานก่อนเกิดผลกระทบที่มีค่าใช้จ่ายสูงหรือย้อนกลับไม่ได้ ให้ระบุสัญญาณล่วงหน้าที่สังเกตเห็นได้เร็วที่สุดก่อนเกิดความล้มเหลว กำหนดเกณฑ์หรือกฎ มอบหมายผู้รับผิดชอบที่ต้องรับผิดชอบต่อผลลัพธ์ และทดสอบการกู้คืน ทั้งนี้ การกู้คืนอาจหมายถึงการงดให้ผลลัพธ์ การเปลี่ยนไปใช้ระบบที่เรียบง่ายกว่า การขอหลักฐานเพิ่มเติม การส่งต่อให้บุคคลพิจารณา การย้อนกลับไปใช้โมเดลเวอร์ชันก่อนหน้า หรือการหยุดการดำเนินการทั้งหมด ขึ้นอยู่กับกรณีใช้งาน

แผนประเมินที่มาของเนื้อหา

เริ่มประเมินที่มาของเนื้อหาด้วยการระบุว่าหลักฐานต้องรองรับการตัดสินใจใด กำหนดกลุ่มผู้ใช้งานจริง ผลกระทบหากได้ผลลัพธ์ผิด ข้อมูลที่มีอยู่จริง ณ เวลาตัดสินใจ และทางเลือกที่น่าเชื่อถือซึ่งเรียบง่ายที่สุด วิธีนี้ช่วยป้องกันไม่ให้การทดสอบมาตรฐานกลายเป็นเป้าหมายเพียงเพราะทำได้ง่าย

ใช้ชุดทดสอบที่ยังไม่เคยนำมาใช้สำหรับการเปรียบเทียบแบบควบคุม จากนั้นตรวจสอบที่มาของเนื้อหาในสภาพแวดล้อมการใช้งานจริงแบบเป็นขั้นตอน การประเมินแบบออฟไลน์ช่วยให้เปรียบเทียบรูปแบบต่าง ๆ ได้ ส่วนโหมดเงา การทดลองกับกลุ่มเล็ก การจำกัดอัตราการใช้งาน หรือขั้นตอนอนุมัติ จะช่วยให้เห็นว่าปริมาณการใช้งานจริง วงจรป้อนกลับ และผู้คนเปลี่ยนพฤติกรรมอย่างไร ขั้นตอนนำไปใช้งานจริงควรกำหนดเงื่อนไขหยุดไว้อย่างชัดเจน แทนที่จะสันนิษฐานว่าการปรับปรุงทุกอย่างควรนำไปใช้เต็มรูปแบบ

กำหนดเวอร์ชันของข้อมูลนำเข้าที่จำเป็นต่อการทำซ้ำกระบวนการตรวจสอบที่มาของเนื้อหา ซึ่งอาจรวมถึงข้อมูลต้นทาง ขั้นตอนการประมวลผลล่วงหน้า ตัวตัดคำหรือตัวเข้ารหัส น้ำหนักโมเดล การกำหนดค่า พรอมป์ต์หรือนโยบาย ดัชนีสำหรับค้นคืน ชุดประเมิน สมมติฐานด้านฮาร์ดแวร์ และโค้ดสำหรับให้บริการ หากไม่มีข้อมูลลำดับที่มา ทีมจะไม่สามารถระบุได้ว่าผลลัพธ์ที่เปลี่ยนไปเกิดจากเทคนิค สภาพแวดล้อม หรือการแก้ไขขั้นตอนการทำงานที่ไม่มีใครสังเกตเห็น

ท้ายที่สุด ให้ถามว่าผลการค้นพบแบบใดจะหักล้างข้ออ้างที่ว่าที่มาของเนื้อหามีประโยชน์ หากไม่มีผลลัพธ์ใดที่ทำให้เปลี่ยนการตัดสินใจนำไปใช้ได้ การประเมินนั้นก็เป็นเพียงการตลาด การกำหนดเกณฑ์การยอมรับไว้ล่วงหน้าและเก็บรักษาชุดข้อมูลยืนยันผลไว้ จะช่วยให้การประเมินนี้กลายเป็นหลักฐาน

คำถามที่ควรถามก่อนนำที่มาของเนื้อหาไปใช้

• วัตถุประสงค์: ที่มาของเนื้อหามุ่งแก้ปัญหาคอขวดที่วัดผลได้เรื่องใด?
• กลไก: การเปลี่ยนแปลงที่เป็นลักษณะเฉพาะเกิดขึ้นในขั้นตอนใดจากทั้งหมดห้าขั้นตอน?
• ค่าพื้นฐานสำหรับเปรียบเทียบ: ผลลัพธ์นี้เทียบกับการตรวจจับ AI ที่คาดเดาจากพิกเซลว่าสื่อถูกสร้างขึ้นด้วย AI หรือไม่ หรือเทียบกับทางเลือกอื่นที่เรียบง่ายกว่าแล้วเป็นอย่างไร?
• หลักฐาน: มีการทดสอบกรณีทั่วไป กรณียาก กรณีที่ออกแบบมาเพื่อโจมตีระบบ และกรณีของกลุ่มย่อยใดบ้าง?
• การดำเนินงาน: เมื่อใช้งานในวงกว้าง มีต้นทุนด้านเวลาแฝง หน่วยความจำ การประมวลผล พลังงาน การบำรุงรักษา และการตรวจทานเท่าใด?
• ความเสี่ยง: ทีมจะตรวจพบได้อย่างไรว่าข้อมูลที่มาที่ตรวจสอบได้บอกเล่าประวัติความเป็นมา แต่ไม่ได้พิสูจน์ว่าเหตุการณ์ที่ปรากฏนั้นเป็นเรื่องจริง?
• การกู้คืน: ระบบสามารถงดให้ผลลัพธ์ เปลี่ยนไปใช้ทางเลือกอื่น ย้อนกลับ หรือส่งต่อให้ผู้รับผิดชอบก่อนเกิดอันตรายได้หรือไม่?

แหล่งข้อมูลหลักสำหรับศึกษาที่มาของเนื้อหา

จุดเริ่มต้นที่น่าเชื่อถือสำหรับศึกษาส่วนต่าง ๆ ของโครงสร้าง AI ที่เกี่ยวข้องกับที่มาของเนื้อหา ได้แก่ กรอบการบริหารความเสี่ยงด้าน AI ของ NIST, ข้อกำหนดของ C2PA และ กรอบความเป็นส่วนตัวของ NIST ควรอ่านควบคู่กับเอกสารประกอบของโมเดล ชุดข้อมูล ฮาร์ดแวร์ และเขตอำนาจศาลที่เกี่ยวข้องโดยเฉพาะ แหล่งข้อมูลทั่วไปอาจอธิบายกลไกได้ แต่มีเพียงหลักฐานที่เจาะจงกับการนำไปใช้งานเท่านั้นที่ยืนยันได้ว่าการดำเนินการรูปแบบหนึ่งเหมาะสม

สิ่งที่ควรจำเกี่ยวกับที่มาของเนื้อหา

ที่มาของเนื้อหาเป็นกลไกที่กำหนดไว้อย่างชัดเจนภายในระบบสังคมและเทคนิคที่ใหญ่กว่า คุณค่าของกลไกนี้เกิดจากการช่วยให้ผลลัพธ์ที่เฉพาะเจาะจงดีขึ้นภายใต้เงื่อนไขที่ระบุไว้อย่างชัดเจน ไม่ใช่จากชื่อเรียกของมันเอง แผนภาพห้าขั้นตอนช่วยให้เห็นการไหลของข้อมูล การเปรียบเทียบช่วยชี้ให้เห็นว่าสิ่งนี้ไม่ใช่อะไร และแนวทางควบคุมแสดงให้เห็นว่าผู้ปฏิบัติงานที่รับผิดชอบสามารถเข้าแทรกแซงได้ตรงจุดใด

หลักปฏิบัติสำหรับที่มาของเนื้อหาคือ กำหนดวัตถุประสงค์ เปรียบเทียบกับค่าพื้นฐานที่น่าเชื่อถือ ทดสอบความล้มเหลวที่สำคัญที่สุด และเก็บหลักฐานที่จำเป็นต่อการติดตามการเปลี่ยนแปลงไว้ เมื่อมีองค์ประกอบเหล่านี้ครบ แนวคิดนี้ก็จะกลายเป็นทางเลือกด้านวิศวกรรมและธรรมาภิบาลที่ประเมินผลได้ หากไม่มีองค์ประกอบเหล่านี้ ก็เป็นเพียงชื่อที่ฟังดูมีอนาคตแต่ผูกอยู่กับความเสี่ยงในการใช้งานที่ยังไม่ทราบแน่ชัด