วิธีการสร้างความน่าเชื่อถือและความรับผิดชอบด้วย AI ที่สามารถอธิบายได้

ธุรกิจต่างๆ ได้เริ่มใช้ AI ไปแล้ว โดยแข่งขันกันเพื่อนำ chatbot, เครื่องมือสร้างเนื้อหา, และเครื่องมือสนับสนุนการตัดสินใจไปใช้ในทุกๆ ด้านของการดำเนินงาน ตามรายงานของ McKinsey 78% ของบริษัทต่างๆ ใช้ AI ในอย่างน้อยหนึ่งฟังก์ชันทางธุรกิจ

ความเร่งด่วนในการนำ AI ไปใช้นั้นสามารถเข้าใจได้ — ทุกคนเห็นคุณค่าที่เป็นไปได้ แต่ในการเร่งด่วนนี้ หลายองค์กรลืมไปว่าเทคโนโลยีเครือข่ายประสาทเทียมทั้งหมด รวมถึง LLM และระบบ AI ที่สร้างขึ้นทั้งหมดที่ใช้ในปัจจุบันและในอนาคต มีข้อบกพร่องที่สำคัญ: ไม่สามารถคาดเดาและควบคุมได้

บางคนได้เรียนรู้แล้วว่ามีผลกระทบที่แท้จริงจากการกระทำนี้ ที่หนึ่งในผู้จำหน่ายรถยนต์ Chevrolet ที่ได้นำ chatbot ไปใช้บนเว็บไซต์ ลูกค้าได้หลอกลวง chatbot ที่ใช้ ChatGPT ให้ขายรถยนต์ Chevrolet Tahoe ราคา 58,195 ดอลลาร์ให้เขาในราคา 1 ดอลลาร์ ลูกค้ารายอื่นได้กระตุ้นให้ chatbot นั้นเขียนสคริปต์ Python สำหรับสมการพลศาสตร์ของไหลที่ซับซ้อน ซึ่งทำได้อย่างมีความสุข ตัวแทนจำหน่ายรถยนต์ได้ปิดใช้งาน chatbot หลังเกิดเหตุการณ์เหล่านี้

ปีที่แล้ว Air Canada ถูกตัดสินแพ้ในศาลอุทธรณ์ เมื่อโต้แย้งว่า chatbot ของตนซึ่งให้ข้อมูลที่ไม่ถูกต้องแก่ผู้โดยสารเกี่ยวกับส่วนลดการเสียชีวิต “เป็นนิติบุคคลที่แยกจากกันซึ่งรับผิดชอบต่อการกระทำของตนเอง”

ความไม่แน่นอนนี้เกิดจากสถาปัตยกรรมพื้นฐานของ LLMs ซึ่งใหญ่และซับซ้อนจนไม่สามารถเข้าใจได้ว่าพวกมันมาถึงคำตอบที่เฉพาะเจาะจงหรือคาดเดาได้ว่าจะสร้างผลลัพธ์อย่างไรจนกว่าจะสร้างผลลัพธ์ออกมา ส่วนใหญ่ขององค์กรตอบสนองต่อปัญหาความน่าเชื่อถือโดยไม่ตระหนักถึงมันอย่างเต็มที่

วิธีแก้ปัญหาที่สมเหตุสมผลคือการตรวจสอบผลลัพธ์ของ AI ด้วยมือ ซึ่งใช้ได้ผลแต่จำกัดศักยภาพของเทคโนโลยีนี้ เมื่อ AI ถูกจำกัดให้เป็นเพียงผู้ช่วยส่วนบุคคล — การสร้างข้อความ, การบันทึกการประชุม, การสรุปเอกสาร, และช่วยในการเขียนโค้ด — มันจะให้ผลผลิตที่เพิ่มขึ้นเล็กน้อย ไม่เพียงพอที่จะปฏิวัติเศรษฐกิจ

ประโยชน์ที่แท้จริงของ AI จะมาถึงเมื่อเราหยุดใช้มันเพื่อช่วยงานที่มีอยู่แล้วและแทนที่จะเปลี่ยนกระบวนการ, ระบบ, และบริษัททั้งหมดให้ใช้ AI โดยไม่ต้องมีการแทรกแซงจากมนุษย์ทุกขั้นตอน พิจารณาการประมวลผลเงินกู้: หากธนาคารให้เจ้าหน้าที่การเงิน AI ที่ช่วยสรุปใบสมัคร พวกเขาอาจทำงานได้เร็วขึ้น 20-30% แต่การนำ AI ไปใช้ในการตัดสินใจทั้งกระบวนการ (ด้วยการป้องกันที่เหมาะสม) อาจลดต้นทุนลงมากกว่า 90% และกำจัดเวลาในการประมวลผลเกือบทั้งหมด นี่คือความแตกต่างระหว่างการปรับปรุงแบบทีละน้อยและการเปลี่ยนแปลง

เส้นทางสู่การนำ AI ที่เชื่อถือได้

การควบคุมศักยภาพที่แท้จริงของ AI โดยไม่ถูกครอบงำด้วยความไม่แน่นอนของมัน đòi hỏiการผสมผสานระหว่างแนวทางทางเทคนิคและความคิดเชิงกลยุทธ์ ในขณะที่วิธีการปัจจุบันบางอย่างให้คำตอบที่เป็นไปได้ แต่ละวิธีมีข้อจำกัดที่สำคัญ

บางองค์กรพยายามลดปัญหาความน่าเชื่อถือโดยใช้การกระตุ้นระบบ — การชี้นำพฤติกรรมของ AI ในทิศทางที่ต้องการเพื่อให้ AI ตอบสนองในลักษณะเฉพาะต่อการเข้าระบบบางอย่าง นักวิจัยของ Anthropic ได้แสดงให้เห็นถึงความอ่อนแอของแนวทางนี้โดยการระบุ “คุณลักษณะ Golden Gate Bridge” ในเครือข่ายประสาทเทียมของ Claude และโดยการเพิ่มคุณลักษณะนั้นอย่างเทียมเท่า ทำให้ Claude พัฒนาเป็นภาวะอัตลักษณ์ เมื่อถูกถามเกี่ยวกับรูปแบบทางกายภาพ Claude อ้างว่า เป็น Golden Gate Bridge เอง การทดลองนี้เปิดเผยว่าพฤติกรรมพื้นฐานของแบบจำลองสามารถเปลี่ยนแปลงได้ง่ายๆ และการกระตุ้นทุกครั้งแสดงถึงการแลกเปลี่ยน ซึ่งอาจปรับปรุงด้านหนึ่งของประสิทธิภาพในขณะที่ลดประสิทธิภาพอีกด้านหนึ่ง

วิธีการอื่นคือการให้ AI ตรวจสอบ AI อีกตัวหนึ่ง ในขณะที่แนวทางแบบชั้นสามารถจับข้อผิดพลาดบางอย่างได้ แต่ก็ยังขาดความครอบคลุมและเพิ่มความซับซ้อนอีกด้วย การป้องกันที่เขียนไว้ล่วงหน้าเป็นการแทรกแซงโดยตรง เช่น การปิดกั้นคำตอบที่มีคำหรือรูปแบบบางอย่าง เช่น ส่วนผสมของวัตถุระเบิด ในขณะที่มีประสิทธิภาพต่อปัญหาที่ทราบ แต่ไม่สามารถคาดการณ์ผลลัพธ์ที่เป็นปัญหาใหม่ที่เกิดขึ้นจากระบบที่ซับซ้อนนี้

วิธีการที่มีประสิทธิภาพมากกว่าคือการสร้างกระบวนการทาง AI ที่สามารถทำงานอัตโนมัติ โดยมีการกำกับดูแลของมนุษย์อย่างมีกลยุทธ์เพื่อจับปัญหาความน่าเชื่อถือก่อนที่จะก่อให้เกิดปัญหาในโลกแห่งความเป็นจริง คุณไม่ต้องการให้ AI อนุมัติหรือปฏิเสธใบสมัครเงินกู้โดยตรง แต่ AI สามารถทำการประเมินเบื้องต้นสำหรับผู้ดำเนินการของมนุษย์เพื่อตรวจสอบได้

การสร้างอนาคต

วิธีแก้ปัญหาที่เป็นไปได้บางส่วนเหล่านี้ชี้ไปที่วิธีการที่ครอบคลุมมากขึ้น องค์กรที่เปลี่ยนแปลงพื้นฐานวิธีการทำงานของตนเองแทนที่จะเพิ่ม AI เพื่อช่วยงานที่มีอยู่แล้วจะได้รับประโยชน์มากที่สุด แต่ AI ไม่ควรเป็นขั้นตอนสุดท้ายในกระบวนการหรือการตัดสินใจที่มีความเสี่ยงสูง ดังนั้น เส้นทางที่ดีที่สุดคืออะไร?

ขั้นแรก AI สร้างกระบวนการที่สามารถทำซ้ำได้และให้ผลลัพธ์ที่สอดคล้องกันอย่างโปร่งใสและเชื่อถือได้ ขั้นตอนที่สอง มนุษย์ตรวจสอบกระบวนการเพื่อให้แน่ใจว่าเข้าใจว่ามันทำงานอย่างไรและว่าข้อมูลเข้าเป็นไปตามที่ต้องการ สุดท้าย กระบวนการจะทำงานอัตโนมัติ — โดยไม่ใช้ AI — โดยมีการตรวจสอบผลลัพธ์จากมนุษย์เป็นระยะ

พิจารณาอุตสาหกรรมประกันภัย วิธีการแบบดั้งเดิมอาจเพิ่ม AI เพื่อช่วยให้ผู้ประมวลผลการเรียกร้องทำงานได้อย่างมีประสิทธิภาพมากขึ้น วิธีการที่ปฏิวัติมากกว่าคือการใช้ AI เพื่อพัฒนาตัวช่วยใหม่ๆ — เช่น การมองเห็นคอมพิวเตอร์ที่วิเคราะห์ภาพความเสียหายหรือแบบจำลองการตรวจจับฉ้อโกงที่เพิ่มขึ้นซึ่งระบุรูปแบบที่น่าสงสัย — และรวมตัวช่วยเหล่านี้เข้ากับระบบอัตโนมัติที่มีกฎที่ชัดเจนและเข้าใจได้ มนุษย์จะออกแบบและตรวจสอบระบบเหล่านี้แทนการประมวลผลการเรียกร้องแต่ละครั้ง

วิธีการนี้รักษาการกำกับดูแลของมนุษย์ไว้ที่จุดวิกฤตที่สิ่งสำคัญที่สุด: การออกแบบและตรวจสอบระบบตัวเอง มันทำให้เกิดการเพิ่มประสิทธิภาพอย่างมากในขณะเดียวกันก็กำจัดความเสี่ยงที่ความไม่แน่นอนของ AI จะนำไปสู่ผลลัพธ์ที่เป็นอันตรายในกรณีเฉพาะ

AI อาจระบุอินดิเคเตอร์ที่เป็นไปได้ของความสามารถในการชำระเงินกู้ในข้อมูลธุรกรรม ตัวอย่างเช่น ผู้เชี่ยวชาญของมนุษย์สามารถประเมินอินดิเคเตอร์เหล่านี้สำหรับความยุติธรรมและสร้างแบบจำลองที่ชัดเจนและเข้าใจได้เพื่อยืนยันพลังทำนายของพวกเขา

วิธีการนี้ในการสร้าง AI ที่สามารถอธิบายได้จะสร้างความแตกต่างที่ชัดเจนระหว่างองค์กรที่ใช้ AI ในลักษณะผิวเผินและที่เปลี่ยนแปลงการดำเนินงานของตนเองโดยรอบ AI องค์กรที่หลังจะดึงหนีไปในอุตสาหกรรมของตนได้มากขึ้น โดยสามารถให้บริการและผลิตภัณฑ์ที่มีราคาไม่แพงกว่าคู่แข่ง

ไม่เหมือนกับ AI แบบกล่องดำ ระบบ AI ที่สามารถอธิบายได้ทำให้มนุษย์รักษาการกำกับดูแลที่มีความหมายต่อการประยุกต์ใช้เทคโนโลยี ทำให้เกิดอนาคตที่ AI เพิ่มศักยภาพของมนุษย์แทนที่จะแทนที่แรงงานของมนุษย์