เมื่อ AI เริ่มทำธุรกรรม ใครที่ต้องรับผิดชอบ?

โลกการเงินกำลังเคลื่อนไปสู่ agentic AI ซึ่ง AI ไม่เพียงแต่ตอบคำถามเท่านั้น แต่ยังสามารถทำการซื้อขายและเจรจาแทนคุณด้วย การรวมสิ่งนี้เข้ากับการเงินแบบมองไม่เห็น และการธนาคารจะหายไปในพื้นหลังของชีวิตประจำวัน นี่คือการกระโดดไปข้างหน้าอย่างมากจากการที่คุณเปิดแอปหรือกรอกแบบฟอร์มไปสู่การมีรถยนต์ ซอฟต์แวร์ทำงาน หรือกระเป๋าเงินดิจิทัลที่ปลอดภัยจัดการการชำระเงินและเงินกู้โดยอัตโนมัติและทันที

นั่นคือทิศทางที่เรากำลังจะไป – ด้วยตลาดโลกสำหรับ AI ยักษ์ใหญ่ในบริการทางการเงินที่คาดว่าจะเติบโตในอัตราเฉลี่ยต่อปีมากกว่า 40% และจะเกิน 80 พันล้านดอลลาร์ในปี 2034 ในไม่กี่ปี เราจะหยุดทำการธนาคารและเริ่มดูแลระบบที่จัดการชีวิตทางการเงินของเราแทน เมื่อระบบ AI ขยับจากการจัดให้คำแนะนำผู้ใช้ไปสู่การดำเนินการธุรกรรมแทนพวกเขา fintechs จะต้องเผชิญกับคำถามพื้นฐาน: เมื่อเครื่องจักรทำการตัดสินใจทางการเงิน ใครที่จะรับผิดชอบต่อความรับผิดชอบทางกฎหมายและกฎระเบียบ?

การเปลี่ยนแปลงจากความช่วยเหลือสู่ความเป็นตัวแทน

สำหรับการเงิน ซึ่งโดยปกติแล้วต้องการให้มนุษย์อยู่ในขณะทำธุรกรรม จะเป็นเรื่องที่ไม่เคยคิดมาก่อนที่จะให้เครื่องจักรมีอำนาจในการตัดสินใจว่าจะทำธุรกรรมเมื่อไหร่และอย่างไร – โดยไม่ต้องมีการตัดสินใจของมนุษย์ในขณะนั้น

การเงินแบบมองไม่เห็น ได้พัฒนาแล้วผ่านการชำระเงินแบบฝังตัว การสมัครสมาชิกอัตโนมัติ การชำระเงินแบบคลิกเดียว และรางเงินแบบเรียลไทม์ การธนาคารกำลังย้ายเข้าไปในผลิตภัณฑ์จากภายในแอปธนาคาร การรวมสิ่งนี้เข้ากับระบบ agentic จะได้ความสามารถทางการเงินที่มีเป้าหมายซึ่งเข้าใจบริบท รวบรวมข้อมูลที่เกี่ยวข้องข้ามแพลตฟอร์ม และเริ่มกระบวนการทำงานโดยอัตโนมัติ ในระยะสั้น การเงินแบบ agentic จะเปลี่ยนความตั้งใจของมนุษย์เป็นการตัดสินใจแบบไดนามิกและต่อเนื่องโดยไม่ต้องมีการเข้าแทรกของมนุษย์ในแบบเรียลไทม์

การทำธุรกรรมแบบที่เรารู้จักกำลังจะกลายเป็นโครงสร้างพื้นฐานพื้นหลังและน้อยกว่าการโต้ตอบที่ตระหนักได้

ผลกระทบจะเป็นอย่างไร?

การเพิ่มขึ้นของการเงินแบบ agentic สามารถมองผ่านเลนส์ของการควบคุม พฤติกรรม และความไว้วางใจ

การควบคุมไม่ใช่การเปิดแอปหรือกดปุ่มแล้ว แต่จะถูกดูดซับเข้าไปในชั้นการเงินแบบมองไม่เห็น ระบบอัตโนมัติ และระบบการยืนยันตัวตน ซึ่งจะชี้นำว่าเงินจะเคลื่อนไหวไปอย่างไร ไม่ใช่การควบคุมที่จุดทำธุรกรรม แต่จะทำได้มาก่อนหน้านั้น เมื่อบุคคลกำหนดความชอบใจ ขอบเขต เป้าหมาย และการอนุญาตของตนเอง แทนที่จะตัดสินใจทุกครั้งที่เงินจะเคลื่อนไหว พวกเขาจะตัดสินใจเกณฑ์ที่เงินสามารถเคลื่อนไหวได้ ระบบจะนำการควบคุมนั้นไปข้างหน้า โดยตีความเกณฑ์เหล่านั้นในแบบเรียลไทม์และดำเนินการตามนั้น

สิ่งนี้เปลี่ยนแปลงและท้าทายวิธีการที่ผู้ใช้ใช้การควบคุม การควบคุมไม่ได้อยู่ในจุดทำธุรกรรมแล้ว แต่จะอยู่ในระบบการยืนยันตัวตน การออกแบบการอนุญาต การบันทึกการตัดสินใจ และการตรวจสอบหรือย้อนกลับของการกระทำเหล่านั้น ชั้นเหล่านี้จะกำหนดว่าการควบคุมทางการเงินจะดำเนินการอย่างไร แม้ว่าผู้ใช้จะไม่เห็นมันโดยตรง ก็ตาม การควบคุมจะถูกเปลี่ยนไปสู่การตรวจสอบล่วงหน้าของตรรกะของตัวแทน ซึ่งจะย้ายการตรวจสอบจากการตัดสินใจแบบเรียลไทม์ไปสู่การกำกับดูแล ‘ฟังก์ชันทางวัตถุ’ ซึ่งเป็นเป้าหมายหลักที่ถูกเขียนโปรแกรมเข้าไปใน AI เพื่อให้แน่ใจว่าความตั้งใจพื้นฐานของเครื่องจักรจะสอดคล้องกับผลประโยชน์ระยะยาวของผู้ใช้ก่อนที่เงินจะเคลื่อนไหว

เมื่อการกระทำทางการเงินย้ายเข้าไปในพื้นหลัง วิธีการที่ผู้คนโต้ตอบกับเงินของตนเองจะเปลี่ยนแปลงไปด้วย มีหลายสิ่งที่ต้องจัดการน้อยลง มีหลายสิ่งที่ต้องอนุมัติน้อยลง และมีหลายสิ่งที่ต้องตรวจสอบน้อยลง เมื่อเวลาผ่านไป การจัดการธุรกรรมอย่างแข็งขันจะเปลี่ยนไปสู่การตรวจสอบว่าระบบกำลังทำงานอย่างไร หากการชำระเงินแบบไม่ใช้เงินสดทำให้ธุรกรรมง่ายขึ้น และการชำระเงินอัตโนมัติทำให้ธุรกรรมต่อเนื่องกัน ระบบ agentic จะทำให้ธุรกรรมอัตโนมัติ

สิ่งไหนจะเกิดขึ้นกับความไว้วางใจ? เมื่อผู้ใช้พัฒนาไปจากกิจวัตรการตรวจสอบก่อนหน้านี้ ความน่าเชื่อถือของระบบพื้นฐานจะกลายเป็นกุญแจสำคัญของความไว้วางใจ ผู้คนจะไม่ตัดสินบริการโดยวิธีการที่มันประมวลผลการชำระเงินได้อย่างไร แต่จะดูว่ามันสามารถตัดสินใจแทนพวกเขาได้อย่างมั่นใจได้หรือไม่ ผู้ใช้จะอยากทราบว่าการตัดสินใจจะเกิดขึ้นอย่างไร ข้อมูลใดที่ถูกพิจารณา ขอบเขตใดที่มีอยู่ และสิ่งใดจะเกิดขึ้นเมื่อมีบางสิ่งผิดพลาด

เกิดอะไรขึ้นเมื่อมีบางสิ่งผิดพลาด?

กฎหมายทางการเงินส่วนใหญ่ถูกสร้างขึ้นโดยอาศัยแนวคิดที่ว่า มนุษย์เริ่มทำธุรกรรม แต่เมื่อช่วงเวลาของความตั้งใจและช่วงเวลาของการดำเนินการถูกแยกออก กฎหมายจะอ่อนลง เมื่อระบบอัตโนมัติ การกระทำที่เริ่มต้นจะกลายเป็นทางอ้อม ผู้ใช้อาจได้รับอนุญาตให้ทำการกำหนดกฎที่กว้าง แต่ไม่ใช่ธุรกรรมเฉพาะ จึงยากที่จะระบุการตัดสินใจที่นำไปสู่ความผิดพลาดได้ ความคิดของตัวตัดสินใจเดียวที่ชัดเจนจะไม่เกิดขึ้นอีกต่อไป และห่วงโซ่ของความตั้งใจ การดำเนินการ และสาเหตุซึ่งกรอบกฎหมายมักจะพึ่งพา จะถูกทำลาย

ระบบ agentic นำการตีความแบบอัลกอริทึมของความตั้งใจของผู้ใช้และผลลัพธ์ที่เกิดขึ้นจากข้อมูลแบบเรียลไทม์ มากกว่าคำสั่งแบบชัดเจน สิ่งที่ดูเหมือนธุรกรรมเดียวอาจเป็นผลมาจากการตัดสินใจอัตโนมัติหลายครั้งที่ซ้อนกันในระยะเวลา

สิ่งนี้สร้างความท้าทายเชิงปฏิบัติ สำหรับหนึ่ง การโต้แย้งจะยากต่อการแก้ไขเพราะไม่ชัดเจนว่าปัญหาอยู่ที่การกำหนดค่าของผู้ใช้ การตีความของระบบ การใช้ข้อมูลหรือการดำเนินการสุดท้าย การบังคับใช้กฎระเบียบจะซับซ้อนมากขึ้น เนื่องจากกรอบการทำงานแบบดั้งเดิมของการอนุญาตและความรับผิดชอบไม่ได้ถูกถ่ายโอนไปยังการตัดสินใจของ agentic ได้อย่างง่ายดาย

อย่างไรก็ตาม ในสายตาของผู้ควบคุมดูแล สถาบันการเงินยังคงรับผิดชอบต่อความล้มเหลว การละเมิด หรืออันตรายที่เกิดจากระบบเหล่านี้ กฎหมายรักษาการกระทำของ AI เหมือนกับการกระทำของพนักงานมนุษย์ หาก AI ทำผิดพลาด บริษัทจะรับผิดชอบ โดยเฉพาะอย่างยิ่งหากข้อผิดพลาดเกิดจากการตั้งค่าที่ไม่ดี การกำหนดค่าที่ไม่เหมาะสม หรือการดูแลที่ไม่เพียงพอ การรับรองคุณภาพและ การดูแลของมนุษย์ จึงไม่สามารถลดลงได้เมื่อเผชิญกับการตัดสินใจแบบอัตโนมัติ หากมีอะไรที่จะเกิดขึ้น พวกเขาจะกลายเป็นเรื่องสำคัญมากขึ้นในการรับรองว่าระบบจะทำงานตามที่ตั้งใจไว้

หมายความว่าถูกเรียกให้รับผิดชอบต่อการตัดสินใจที่ทำโดยซอฟต์แวร์ที่ออกแบบมาเพื่อทำงานอิสระ ซึ่งบ่อยครั้งไม่มีมนุษย์ที่คาดการณ์ไว้ ก่อนหน้านี้ คำถามเกี่ยวกับความรับผิดชอบ การตรวจสอบ และการอธิบายจะย้ายจากขอบเขตกฎหมายไปสู่จุดศูนย์กลางของการออกแบบ สถาบันการเงินจะต้องมีแบบจำลองที่ชัดเจนขึ้นในการติดตามการตัดสินใจ การกำหนดความรับผิดชอบ และการแสดงให้เห็นว่าการกระทำอัตโนมัติสามารถเข้าใจได้ ตรวจสอบ และควบคุมได้ เพื่อข้ามช่องว่างความรับผิดชอบอุตสาหกรรมควรใช้ ‘การอนุมานที่สามารถหักล้างได้ของการทำงานผิดปกติของอัลกอริทึม’ ซึ่งถือว่าระบบมีข้อผิดพลาด เว้นแต่สถาบันการเงินจะสามารถให้หลักฐานการตรวจสอบที่ไม่สามารถเปลี่ยนแปลงได้ ซึ่งแสดงให้เห็นว่าตัวแทนได้ปฏิบัติตามขอบเขตที่เข้ารหัสไว้อย่างเคร่งครัด

การมีบุคคลอาวุโสที่ดูแล ‘ตัวแทน’ แต่ละตัวจะช่วยจัดการ ความเสี่ยง ของการกระทำที่ไม่ได้ตั้งใจ และป้องกันข้อผิดพลาดที่จะบานปลายเป็นปัญหาใหญ่ๆ สิ่งนี้จะรับรองว่าบริษัทจะอยู่ในด้านที่ถูกต้องของกฎหมาย ในขณะเดียวกันก็รักษาความรับผิดชอบ

แนวทางที่ดีที่สุดคืออะไร?

เมื่อ AI แบบ agentic เข้ามาในด้านการเงิน การกำกับดูแลจะต้องชัดเจนขึ้นเช่นกัน ทีมกฎหมายและทีมการปฏิบัติตามกฎระเบียบจะต้องมีบทบาทที่เชิงรุกในการออกแบบกรอบการอนุญาตสำหรับตัวแทน AI การกำหนดความรับผิดชอบระหว่างผู้ร่วมธุรกิจ การกำหนดขอบเขตสัญญาในการดำเนินการของเครื่องจักร และการกำหนดมาตรฐานการบันทึกที่ชี้แจงว่าใครรับผิดชอบต่ออะไร การอนุญาตยังต้องพัฒนา – ผู้ใช้ต้องมีความเข้าใจที่ชัดเจนเกี่ยวกับสิ่งที่พวกเขาได้ลงนามและขอบเขตของการดำเนินการแบบ agentic

ในอุดมคติ นี่คือโลกที่ลูกค้ายังคงอยู่ภายใต้การควบคุมและรู้ว่า AI ของตนกำลังทำอะไรอยู่ แทนที่จะพึ่งพาสัญญาที่ยาวและซับซ้อนซึ่งลงนามเพียงครั้งเดียว การอนุญาตจะกลายเป็นแบบไดนามิกและแบ่งออกเป็น ‘สิทธิ์การใช้งานขนาดเล็ก’ สำหรับงานเฉพาะ แต่เพื่อหลีกเลี่ยง ‘ความเมื่อยล้าจากการแจ้งเตือน’ ซึ่งผู้ใช้จะอนุมัติคำเตือนโดยไม่ได้อ่าน การอนุญาตจะต้องได้รับการสนับสนุนโดยขอบเขตความเสี่ยงที่เข้ารหัสไว้ ซึ่งจะทำงานเป็น ‘เครื่องตัดวงจรอัตโนมัติ’ ที่หยุดการกระทำที่ไม่แน่นอนหรือมีความแปรผันสูงซึ่งอยู่นอกโปรไฟล์พฤติกรรมในอดีตของผู้ใช้

ตัวอย่างเช่น ผู้ใช้อาจอนุญาตให้ตัวแทน AI ของตน ‘พาสดิจิทัล’ เพื่อใช้จ่ายได้ไม่เกิน 50 ยูโรในนามของตนเองในหนึ่งวัน การกระทำทุกอย่างจะถูกบันทึก ทำให้เกิดหลักฐานที่ชัดเจนว่า AI อยู่ในขอบเขตที่ได้รับอนุญาต หาก AI พยายามทำอะไรที่ไม่ปกติหรือมีความเสี่ยง ระบบจะหยุดและขอการยืนยันอย่างรวดเร็วผ่านการแสกนลายนิ้วมือหรือการสแกนใบหน้าเป็นต้น การอนุญาตขนาดเล็กจะเปลี่ยนสิ่งที่อาจเป็นปัญหาทางกฎหมายให้กลายเป็นมาตรการความปลอดภัยแบบเรียลไทม์ – ซึ่งเป็นผลลัพธ์ที่ดีสำหรับทั้งผู้ใช้และสถาบัน ผู้ใช้รักษาความสามารถในการมองเห็นและควบคุม ในขณะที่ความเป็นอิสระของ AI ดำเนินการภายในขอบเขตที่รับผิดชอบและสามารถอธิบายได้ ความสามารถในการมองเห็นนี้ได้รับการรักษาไว้ดีที่สุดผ่าน ‘การตรวจสอบอย่างต่อเนื่อง’ โดยที่ชั้น ‘ผู้พิทักษ์’ ตามกฎจะทำงานขนานกับตัวแทน AI ชั้นนี้ไม่ได้เริ่มการทำธุรกรรม แต่มีอำนาจสูงสุดในการยับยั้งการกระทำใดๆ ที่ละเมิดขอบเขตความปลอดภัยที่กำหนดไว้ล่วงหน้า เพื่อให้แน่ใจว่าความปลอดภัยที่มีศูนย์กลางอยู่ที่มนุษย์ยังคงเป็นรูปแบบเชิงรุกมากกว่าการบันทึกเพียงอย่างเดียว

สุดท้าย ความสำเร็จของการเงินแบบ agentic จะขึ้นอยู่กับความสามารถในการดำเนินการอย่างปลอดภัย น่าเชื่อถือ และมีศูนย์กลางอยู่ที่มนุษย์ ความท้าทายอยู่ที่การเปลี่ยนระบบที่ซับซ้อนและไม่มองเห็นได้ให้กลายเป็นสิ่งที่ผู้คนสามารถไว้วางใจ เข้าใจ และรู้สึกควบคุมได้