การตัดสินใจที่สำคัญยิ่ง การทำงานของ AI ควรไม่ทำคนเดียว

เอเจนต์ AI มีปัญหา ที่ปลอมตัวเป็นข้อดี เอเจนต์พูดด้วยความมั่นใจและเขียนด้วยความ优雅 โดยประมวลผลข้อมูลเร็วกว่ามนุษย์ ซึ่งสามารถทำให้เข้าใจผิดว่า AI พร้อมที่จะทำงานอัตโนมัติ แต่ความเป็นจริงเมื่อตัดสินใจที่เกี่ยวข้องกับเงินจริง ความคาดหวังของลูกค้า และความไว้วางใจ AI ไม่ควรเป็นระบบอัตโนมัติ เพราะยังคงต้องการการดูแลจากผู้ใหญ่

บทเรียนนี้ไม่ได้มาจากทฤษฎี แต่มาจากการทดสอบ เมื่อ AI ของบริการไลฟ์สไตล์หรูหรา สามารถโต้ตอบกับลูกค้าจริง

คำแนะนำที่ดี แต่อาจเป็นอันตราย

ในการทดสอบระบบ AI ที่มีพลังในการจัดการไลฟ์สไตล์ ในตอนแรกดูเหมือนจะน่าประทับใจ สามารถสร้างรายชื่อร้านอาหารที่แนะนำ ตัวเลือกความบันเทิง ร่างตารางกิจกรรมท้องถิ่น และรวมทุกอย่างเหล่านี้เข้าด้วยกันเป็นข้อแนะนำที่ชัดเจนและคุณภาพสูง แต่ในประมาณ 15% ของกรณี มันแค่สร้างรายละเอียดขึ้นมาเอง และทำได้ดีพอที่จะเชื่อได้

มีตัวอย่างที่ทำให้ปัญหานี้ไม่สามารถเพิกเฉยได้: AI แนะนำร้านอาหารในดูไบที่ปิดไปแล้ว 8 เดือน เมื่อถูกถามเกี่ยวกับเรื่องนี้ มันไม่ลังเลหรือยอมรับว่าทำผิดพลาด เอเจนต์ยืนยันการสร้างสรรค์ข้อวิจารณ์และอ้างอิงมัน

อีกครั้งหนึ่ง เอเจนต์เข้าใจผิดร้านอาหารข้างถนนเป็นร้านอาหารที่ได้รับดาวมิชลินเพราะชื่อที่คล้ายกัน หากไม่มีมนุษย์ตรวจสอบคำสั่งซื้อ ลูกค้าของบริการคอนเซียร์จอาจจะจบลงที่มื้อเย็นที่ไม่เหมือนกับที่วางแผนไว้

จากนั้นเกิดเรื่องกับเกมปาเดล ลูกค้าถามเกี่ยวกับสโมสรกีฬาที่มีคอร์ตปาเดล AI กำลังจะส่งเขาไปที่ที่มีเพียงคอร์ตเทนนิส เพราะที่ไหนสักแห่งในข้อมูลแหล่งที่มา มีบทความที่ระบุว่าคอร์ตปาเดลถูกวางแผนจะสร้างที่นั่น และมันเปลี่ยน “วางแผน” เป็น “มีอยู่แล้ว” นี่คือสิ่งที่ทำให้โมเดลเป็นการทดลองที่มีความเสี่ยงในภาคบริการ: แม้ว่า AI จะไม่มีข้อมูลที่สมบูรณ์และถูกต้อง มันก็ไม่หยุด – มันคิดสร้างสรรค์

การหลอกลวงของ AI เป็นภัยคุกคามทางธุรกิจ

ปัญหานี้ไม่ได้จำกัดอยู่ในอุตสาหกรรมท่องเที่ยวเท่านั้น แต่อยู่ในตัวการนำไปใช้ของ AI เอง

ในพารามิเตอร์ที่กำหนดไว้อย่างชัดเจน AI ทำงานได้อย่างยอดเยี่ยม คุณสามารถให้ข้อมูลที่มีโครงสร้าง API ที่อัปเดต และมันจะทำงานได้ดีกว่าคุณในหลายด้าน มันจะจัดเรียงกรณีตาม 17 พารามิเตอร์ สแกนกฎข้อบังคับอย่างรวดเร็ว และสร้างร่างที่พร้อมใช้ในเวลาไม่นาน แต่โลกแห่งความเป็นจริงอยู่ห่างไกลจากฐานข้อมูลที่มีโครงสร้าง ความเป็นจริงเต็มไปด้วยกรณีขอบเขต ข้อมูลที่ล้าสมัย การตั้งค่าที่คลุมเครือ และช่องว่างในการดำเนินงาน

นี่คือจุดที่การหลอกลวงของ AI เริ่มเป็นความเสี่ยงทางธุรกิจ การศึกษา เตือนซ้ำๆ ว่าการหลอกลวงสามารถทำลายความไว้วางใจในทันที โดยเฉพาะเมื่อลูกค้าได้รับข้อมูลที่มีการออกแบบแต่ไม่ถูกต้องในช่วงการตัดสินใจ คนเรากำลัง ใช้ผู้วางแผนการท่องเที่ยว AI กันอย่างกว้างขวาง แต่ความไว้วางใจยังคงไม่เพียงพอ

HNWIs เป็นการทดสอบความเครียดสูงสุดสำหรับ AI

ตอนนี้มาทำให้เรื่องนี้ยากขึ้น

AI จัดการงานมาตรฐานได้ง่าย ตัวอย่างเช่น การจองเที่ยวจากลอนดอนไปดูไบ: ชั้นธุรกิจ โรงแรม 4 ดาว 3 คืน การทดสอบความเครียดที่แท้จริงคือคำสั่งซื้อจาก HNWI: วันครบรอบของเรา เธอ提到ร้านอาหารในอามัลฟีที่มีประตูสีน้ำเงิน เธอรักพีオนี แต่ไม่ชอบกุหลาบ และเธอจะรู้สึกสบายใจกับคนขับรถที่พูดภาษาฝรั่งเศส

คำขอนี้ดูหรูหรา แต่จากมุมมองการดำเนินงาน เป็นเหมือนสนามเหมือง มี AI ที่แนะนำตัวเลือก แต่มันก็อาจให้ข้อมูลที่ไม่ถูกต้องถึง 40% ด้วยความมั่นใจเต็มที่

ลูกค้าในกลุ่มหรูหราและ HNWI เปิดเผยข้อจำกัดที่แท้จริงของ AI มากกว่าที่การทดสอบใดๆ สามารถทำได้ เนื่องจากรายการของพวกเขามาตรฐานไม่ และความคาดหวังของพวกเขามีความรู้สึก อิงตามบริบท และเฉพาะเจาะจงมาก มากกว่าการที่สามารถตรวจสอบได้อัตโนมัติ

นอกจากนี้ การไม่สามารถให้บริการลูกค้า HNWI ได้อย่างมีประสิทธิภาพจะไม่สิ้นสุดเพียงการคืนเงิน แต่มันจะทำลายชื่อเสียงของบริษัท เนื่องจากการแนะนำและความไว้วางใจมีความสำคัญอย่างยิ่งในส่วนนี้

พนักงานที่แท้จริงจัดการกับการหลอกลวงเหล่านี้ทุกวัน พวกเขาสังเกตเห็นร้านอาหารที่ปิดในวันอังคารที่ลูกค้ามาถึง และการเดินเร็ว 5 นาทีที่แท้จริงแล้วเป็นการเดินขึ้นเนิน 25 นาทีพร้อมกระเป๋าเดินทาง พนักงานที่ได้รับการฝึกอบรมจะไม่พลาดโรงแรมบูติกที่ดูสมบูรณ์แบบในภาพ แต่จริงๆ แล้วถูกปิดด้วยสิ่งปิดกั้นเนื่องจากการบำรุงรักษา

ทำไมฟินเทคต้องต้องการความแม่นยำ ไม่ใช่ความเร็ว

เราสามารถนำหลักการเดียวกันนี้ไปใช้กับภาคฟินเทคทั้งหมด AI สามารถวิเคราะห์ผลิตภัณฑ์เปรียบเทียบที่เลือก ระบุความผิดปกติ และสร้างคำแนะนำได้อย่างรวดเร็วและมีประสิทธิภาพ แต่เมื่อพูดถึงเงิน มีศูนย์ที่ไม่มีข้อผิดพลาด

บริษัทฟินเทคกำลัง จ่ายค่าใช้จ่าย สำหรับการตัดสินใจที่ทำโดยระบบอัตโนมัติในรูปแบบของความไว้วางใจของลูกค้าที่สูญเสียไป บริษัทที่ประสบความสำเร็จนำกลไกการควบคุมมาใช้ตั้งแต่เนิ่นๆ แทนที่จะแนะนำมันในภายหลังหลังจากที่ความเสียหายเกิดขึ้น แล้ว

ชั้นการยืนยันเพิ่มเติมจำเป็นต้องมีระหว่าง AI และลูกค้า – ขั้นตอนที่ผลลัพธ์ถูกตรวจสอบอย่างละเอียดและปลอดภัย ในสาขาที่มีค่าใช้จ่ายในการผิดพลาดสูง ชั้นนี้กลายเป็นพื้นฐานของผลิตภัณฑ์

แนวคิดที่มีประโยชน์มากกว่าคือโครงสร้างพื้นฐาน AI ควรเน้น งานที่มีโครงสร้าง: การวิจัย การจัดเรียง การเปรียบเทียบ และการสร้างร่าง ในกระบวนการนี้ มนุษย์ควรตัดสินใจสุดท้าย เมื่อเวลาผ่านไป บางกระบวนการทำงานจะกลายเป็นเสถียรพอที่จะถูกทำให้ทำงานอัตโนมัติได้ ณ จุดนั้น มันอาจเป็นไปได้ที่จะกำหนดมาตรฐาน แต่ควรทำเช่นนี้ตามหลักฐาน ไม่ใช่ความเชื่อ

ความคิดเหล่านี้อาจดูไม่น่าประทับใจเท่ากับอนาคตที่เป็นอิสระอย่างสมบูรณ์ แต่นี่คือวิธีที่บริษัทที่จริงจังจะประสบความสำเร็จในระยะยาว