หยุดวิพากษ์วิจารณ์ข้อมูล และเริ่มแก้ไขวัตถุประสงค์ของคุณ

AI เรียนรู้จากเรา และเรามีความเอนเอียง

เนื่องจาก AI ถูกฝึกฝนจากข้อมูลที่สร้างโดยมนุษย์เป็นส่วนใหญ่ จึงจับได้ว่าเรามีความเอนเอียงและนำไปใช้ในการฝึกฝน นั่นเป็นเหตุผลที่ส่วนใหญ่ของการอภิปรายเกี่ยวกับความเอนเอียงของ AI มุ่งเน้นไปที่ข้อมูลที่ไม่ดี ขยะเข้า ขยะออก เป็นเรื่องง่าย แต่แม้ว่าข้อมูลจะถูกต้อง ความเอนเอียงก็ยังคงเกิดขึ้น

ปัญหาเชิงอื่นที่ซับซ้อนและ经常ถูกมองข้ามคือความเอนเอียงทางวัตถุประสงค์ ซึ่งไม่เห็นได้ชัดเจนเท่ากับปัญหาเกี่ยวกับข้อมูล แต่เป็นหนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดสำหรับการใช้งาน AI ที่เผชิญหน้ากับลูกค้า

ในบทความนี้ ฉันจะขุดคุ้ยสิ่งที่ความเอนเอียงทางวัตถุประสงค์เหมือนกับในส่วนของประสบการณ์ลูกค้า (CX) ทำไมมันสำคัญ และสิ่งที่แบรนด์สามารถทำได้เกี่ยวกับมัน

การกำหนดความเอนเอียงทางวัตถุประสงค์

ความเอนเอียงทางวัตถุประสงค์ไม่เกี่ยวกับข้อมูลที่มีข้อผิดพลาด มันเกี่ยวกับเจตนาผิดพลาด AI ทำตามที่ได้รับคำสั่ง และหากได้รับคำสั่งให้เพิ่มรายได้สูงสุด ก็จะทำตามนั้น แม้ว่าจะหมายถึงการทำลายความสัมพันธ์กับลูกค้า

ลองพิจารณา Delta Air Lines ซึ่งประกาศใช้ ราคาเครื่องบินที่ใช้ AI เพื่อกำหนดราคาสูงสุดที่ลูกค้าเต็มใจจ่าย เป็นตัวอย่างที่สมบูรณ์แบบของความเอนเอียงทางวัตถุประสงค์ ระบบไม่ได้ถูกฝึกฝนเพื่อช่วยคุณหาตั๋วราคาดี แต่ถูกฝึกฝนเพื่อเพิ่มการแปลงและลดต้นทุนการดำเนินงาน

สมมติว่าคุณกำลังจองเที่ยวบินไปปารีส คุณต้องการตั๋วราคาดีที่สุด แต่ระบบต้องการกำไรสูงสุด AI อาจเสนอเที่ยวบินราคา 800 ดอลลาร์ เมื่อเที่ยวบินราคา 400 ดอลลาร์มีอยู่ ไม่ใช่เพราะ AI ผิดพลาด แต่เพราะกำลังทำงานตามที่ได้รับคำสั่ง

ไม่ใช่สิ่งที่ลูกค้าขอความเป็นส่วนตัว…

ทำไมมันจึงไม่หลีกเลี่ยงได้

ความเอนเอียงทางวัตถุประสงค์เป็นการสะท้อนคุณค่า วัฒนธรรม และลำดับความสำคัญของแบรนด์ มันถูกถักทอเข้ากับเนื้อผ้าของ AI ของคุณ คำถามที่แท้จริงคือ มัน “เอียง” ในทิศทางไหน มันเอียงเข้าข้างเป้าหมายของลูกค้าหรือรายได้

ทีมที่แตกต่างกัน ภูมิภาค และวัฒนธรรมมีมุมมองที่แตกต่างกัน และจะฝึกโมเดล AI แตกต่างกัน หากทีมขายเป็นผู้นำ มันจะเอียงเข้าข้างการแปลง หากทีม CX เป็นผู้นำ มันอาจสอดคล้องกับการบริการและประหยัดมากกว่า

สถาปัตยกรรมเดียวกัน แต่มีผลลัพธ์ที่แตกต่างกัน

วิธีแก้ปัญหาไม่ใช่การเอาความเอนเอียงออกไปทั้งหมด แต่เป็นการชี้นำมันไปในทิศทางที่ถูกต้อง ให้ความเอนเอียง AI ของคุณไปสู่ความภักดีระยะยาว ไม่ใช่การชนะระยะสั้น

ผลที่ตามมาของ AI ที่ไม่สอดคล้องกัน

ความเสี่ยงที่ยิ่งใหญ่ที่สุดที่แบรนด์ต้องเผชิญเมื่อพูดถึงความเอนเอียงทางวัตถุประสงค์คือการสูญเสียความไว้วางใจ

ลูกค้า已经เบื่อกับการโต้ตอบที่ไม่เกี่ยวข้องและไม่ส่วนตัวของแบรนด์ เมื่อ AI ทำให้ประสบการณ์เหล่านั้นแย่ลง มันจะทำให้ลูกค้าผิดหวังและห่างเหิน

หากโมเดลภาษาขนาดใหญ่ (LLM) ถูกฝึกฝนจากข้อมูลที่มีความเอนเอียงและสมมติฐาน มันจะผลิตคำตอบที่ไม่ส่วนตัว เมื่อลูกค้ารู้สึกว่าแบรนด์ไม่สนใจพวกเขา พวกเขาอาจซื้อจากคุณวันนี้ แต่ไม่น่าจะยังคงอยู่กับแบรนด์ของคุณในระยะยาว

ประสบการณ์ในปัจจุบันขับเคลื่อนความภักดี ลูกค้าหลายคนยินดีจ่ายมากกว่าเพื่อประสบการณ์ที่ดี เมื่อ AI พยายามขายผลิตภัณฑ์ที่มีราคาแพงซึ่งไม่เหมาะกับความต้องการ พวกเขาจะสังเกตเห็น พวกเขาจะเลือกที่จะไม่ซื้อ และไม่กลับมาอีก

ปัญหา AI ที่มีเจตนา

ความเสี่ยงนั้นเพิ่มขึ้นเมื่อเรามองไปที่ AI ที่มีเจตนา

AI ที่มีเจตนา ถูกสร้างขึ้นเพื่อทำงานโดยอิสระ มันสามารถทำงานหลายขั้นตอนโดยไม่ต้องมีการมีส่วนร่วมของมนุษย์ แต่หากตรรกะของ AI มีข้อผิดพลาดหรือการฝึกฝนที่ไม่ถูกต้อง ความเสียหายจะเพิ่มขึ้น

ผู้เชี่ยวชาญเห็นด้วยว่า AI ที่มีเจตนามีระยะทางไกลที่จะไป ในความเป็นจริง รายงานล่าสุดแสดงให้เห็นว่าในขณะที่ CFO ส่วนใหญ่ทราบเกี่ยวกับ AI ที่มีเจตนา แต่มีเพียง 15% ที่พิจารณาใช้งานอย่างจริงจัง ข้อมูลที่เกี่ยวข้องระบุว่าความสามารถในการติดตามและป้องกันความเอนเอียงอย่างแม่นยำเป็นอุปสรรคสำคัญในการนำไปใช้

ระบบ AI ที่มีเจตนส่วนใหญ่ยังคงดิ้นรนกับความไม่แน่นอน ความจำที่คงอยู่ และความรับผิดชอบ นั่นคือส่วนผสมที่อันตรายเมื่อไม่มีวิธีที่ชัดเจนในการวินิจฉัยหรือแก้ไขข้อผิดพลาดหรือความเอนเอียงเมื่อเกิดขึ้น

แบรนด์ไม่ควรนั่งอยู่บนม้านั่ง แต่พวกเขาต้องดำเนินการอย่างมีกลยุทธ์

วิธีที่แบรนด์สามารถลดความเอนเอียงทางวัตถุประสงค์ได้

ให้เราเข้าใจกัน: คุณไม่สามารถกำจัดความเอนเอียงได้ คุณคือความเอนเอียง

แบรนด์ของคุณกำหนดว่า AI จะทำงานอย่างไร สำหรับดีกว่าหรือแย่กว่า ความเอนเอียงเหล่านี้มีอยู่แล้วในปฏิสัมพันธ์ของลูกค้าปัจจุบัน มันอยู่ในความต้านทานในการยกเลิก มันอยู่ในความโปร่งใสของข้อกำหนดและเงื่อนไข หรือ รูปแบบที่มืดบนเว็บไซต์ของคุณ

ความแตกต่างระหว่างความเอนเอียง AI คือขนาด AI สามารถเพิ่มความเร็วและลดการกำกับดูแลได้เร็วขึ้น ซึ่งจะกัดกร่อนเป้าหมายระยะยาว เช่น ความภักดีของแบรนด์และมูลค่าตลอดชีวิต

นั่นเป็นเหตุผลที่คุณต้องเตรียมตัว:

1. ถามคำถามที่ถูกต้อง

ก่อนที่คุณจะเริ่มการเดินทาง AI ของคุณ ให้หยุดและถาม: “เรามีทุกสิ่งที่ต้องการเพื่อทำสิ่งนี้ได้หรือไม่? เราสามารถทำสิ่งนี้ได้โดยไม่ต้องเสี่ยงต่อประสบการณ์ของลูกค้าและแบรนด์ของเรา?”

แบรนด์หลายแห่งกระโดดเข้าสู่ AI เพราะ ไม่ต้องการตกหล่น แต่การพยายามตามทันคนอื่นเป็นกลยุทธ์ที่ไม่ดี

คุณมีข้อมูลลูกค้าที่ถูกต้อง การรวมและธรรมาภิบาลที่จะสนับสนุนกรณีการใช้งาน AI ที่เผชิญหน้ากับลูกค้าโดยไม่เพิ่มความเอนเอียงหรือไม่? คุณเข้าใจเป้าหมายของลูกค้าของคุณหรือไม่?

หากคำตอบคือไม่ หรือแม้แต่ “อาจจะ” คุณก็ไม่พร้อม

2. สร้างสมดุลระหว่างวัตถุประสงค์

ในการสร้างสมดุลระหว่างวัตถุประสงค์ของลูกค้าและธุรกิจ ให้คิดถึงความต้องการของลูกค้าเป็นเป้าหมาย ในขณะที่วัตถุประสงค์ทางธุรกิจของคุณเป็นขอบเขต AI ของคุณควรทำงานภายในขอบเขตเหล่านั้น แต่ควรมุ่งไปสู่ผลลัพธ์ที่ให้ความสำคัญกับลูกค้าเป็นอันดับแรก คุณสามารถมองมันเป็นสมดุลระหว่างการคิดระยะสั้นและระยะยาว

เมตริกระยะสั้น เช่น รายได้ต่อการโต้ตอบ มีความสำคัญ แต่มักขัดแย้งกับคุณค่าระยะยาว แม้แต่ “พ่อของ AI” ก็เตือนไม่ให้ AI ขับเคลื่อนด้วยผลกำไรระยะสั้น เพราะ มุมมองนั้นไม่ขยายตัว

AI ของคุณอาจบรรลุเป้าหมายรายได้วันนี้ แต่คุณยินดีที่จะแลกเปลี่ยนความภักดีของลูกค้าเพื่อผลกำไรระยะสั้นหรือไม่?

พิจารณาตัวอย่าง Delta อีกครั้ง กลยุทธ์นั้นเป็นเทคนิคที่ฉลาดและสอดคล้องกับธุรกิจ แต่ลูกค้าไม่พอใจกับแนวคิดที่จะจ่ายเงินมากกว่าสำหรับตั๋วเครื่องบิน และ แบรนด์ถูกโจมตี

คิดในระยะเวลา 5 ปี คุณต้องเติบโตมูลค่าตลอดชีวิตอย่างช้าๆ และยั่งยืน

3. เข้าใจความต้องการที่เปลี่ยนแปลงของลูกค้า

ไม่ใช่แค่โดยทั่วไป แต่ในแต่ละกรณีการใช้งาน สิ่งที่พวกเขาพยายามจะบรรลุเป้าหมายคืออะไร?

หากคุณไม่เข้าใจสิ่งนั้น AI ของคุณจะเดาเท่านั้น นั่นเป็นเหตุผลที่โปรไฟล์ลูกค้าของคุณต้องเป็นปัจจุบัน สมบูรณ์ และเฉพาะเจาะจง ทั้งในระดับสูงและในระดับบุคคล

กลุ่มที่กว้างและสมมติฐานที่ล้าสมัยจะไม่เพียงพอ คุณต้องมีข้อมูลที่แทนบุคคลจริงที่อยู่อีกฝ่ายของการโต้ตอบ นั่นจะนำไปสู่ความเข้าใจลูกค้าที่ลึกซึ้งยิ่งขึ้น และเป็นพื้นฐานของการฝึกอบรม LLM ของคุณ

โมเดลการสร้างที่เพิ่มการค้นหา (RAG) ยังช่วยในเรื่องนี้ โดยดึงข้อมูลที่เกี่ยวข้องและถูกต้องเพื่อให้ลูกค้ามีประสบการณ์ที่ดีกว่าสำหรับงานเฉพาะที่พวกเขากำลังพยายามทำ

แต่ไม่ใช่การออกกำลังกายครั้งเดียว ลูกค้าเปลี่ยนเป้าหมายและความคาดหวัง แบรนด์ต้องอัปเดตระบบ AI ของตนอย่างสม่ำเสมอเพื่อสะท้อนถึงการพัฒนาล่าสุด ซึ่งหมายถึงการเยี่ยมชมข้อมูลการฝึกอบรมและอำนวยความสะดวกในการเรียนรู้อย่างต่อเนื่อง ไม่ใช่แค่การปรับผลลัพธ์

4. ตรวจสอบผู้ขาย AI อย่างใกล้ชิด

ผู้ขายไม่ได้ถูกสร้างมาเท่ากัน และสัญญาใหญ่ๆ ไม่ได้หมายความว่าจะได้ผลลัพธ์ที่ใหญ่ๆ เลือกพันธมิตรที่มีประสบการณ์จริงและผลงานที่พิสูจน์แล้ว ไม่ใช่แค่การแสดงตัวอย่างที่น่าประทับใจ ผู้ขายที่มีประสบการณ์หลายสิบปีในโดเมนเฉพาะสามารถใช้ข้อมูลนั้นเพื่อฝึกโมเดลได้ดีกว่าแบรนด์ใหม่ที่พึ่งพาเซตข้อมูลทั่วไป

ลูกค้าของคุณอาจสังเกตเห็นความแตกต่างในความลึกของข้อมูลเมื่อพวกเขาต้องการการสนับสนุนที่เชี่ยวชาญ

และจำไว้ว่า หาก AI ล้มเหลวในทางปฏิบัติ แบรนด์ของคุณจะเสียหาย ไม่ต้องถามคนๆ หนึ่งที่ได้รับผลกระทบจาก การหยุดทำงานของ CrowdStrike ในปี 2024 ลูกค้าเฉลี่ยไม่ได้ตำหนิผู้ให้บริการ พวกเขาตำหนิแบรนด์ที่ใช้เทคโนโลยี

มองหาผู้ขายที่ทำสิ่งนี้มาก่อน ในอุตสาหกรรมของคุณ ด้วยกรณีการใช้งานของคุณ ความรู้ในโดเมนเอาชนะความทะเยอทะยานทุกครั้ง

5. สร้างธรรมาภิบาล

หากคุณไม่ได้กำหนดตรรกะอย่างชัดเจนและสม่ำเสมอ AI ของคุณจะเริ่มตัดสินใจตามรูปแบบ ไม่ใช่นโยบาย รูปแบบเหล่านั้นอาจไม่สอดคล้องกับแบรนด์ของคุณ ค่านิยม หรือภาระผูกพันทางกฎหมายของคุณ

การกำกับดูแลที่มีศูนย์กลางและการตั้งกฎเป็นสิ่งสำคัญสำหรับการทำให้แน่ใจว่า AI ทำสิ่งที่ควรทำ ทุกครั้ง ทุกการโต้ตอบกับลูกค้า หากไม่มีการกำกับดูแลนี้ โมเดลหนึ่งอาจจัดการคำถามการเรียกเก็บเงินในทางหนึ่ง ในขณะที่อีกโมเดลหนึ่งให้คำตอบที่แตกต่างไปเลย

ยึดติดกับแนวทางปฏิบัติที่ดีที่สุดในอุตสาหกรรมและพึ่งพา เฟรมเวิร์กการบริหารความเสี่ยง เพื่อปกป้องแบรนด์ การกำกับดูแลที่ดีจะไม่ทำให้คุณช้าลง มันจะช่วยคุณหลีกเลี่ยงการทำความสะอาดในภายหลัง

6. ระบุ AI ที่มีเจตนาอย่างระมัดระวัง

สื่อบอกว่าระบบที่มีเจตนาเป็นอนาคตของทุกสิ่ง ในความเป็นจริง ส่วนใหญ่ของแบรนด์ไม่พร้อม และนั่นก็ไม่ใช่เรื่องแย่

เนื่องจากยังไม่มีหลักฐานมากนัก ให้เริ่มต้นด้วยขนาดเล็ก คู่ค้าด้วยผู้ให้บริการเทคโนโลยีที่ทำสิ่งนี้มาก่อนและสามารถชี้แนะคุณตลอดทาง จัดลำดับความสำคัญของการทำงานที่มีความเสี่ยงต่ำที่มีขั้นตอนชัดเจน โดยที่ระดับของเจตนาได้รับความไว้วางใจ – โดยทั่วไปเป็นของทีมเดียว การใช้งานเหล่านี้มักจะมีตรรกะที่ชัดเจน ความรับผิดชอบและความควบคุม จากนั้นคุณสามารถเรียนรู้และขยายจากที่นั่น

หากทีมหลายทีมเกี่ยวข้องหรือกระบวนการขาดโครงสร้าง อย่าหวังว่าการตัดสินใจของเครื่องจะทำงานสำหรับลูกค้าของคุณ

เพื่อให้ประสบความสำเร็จอย่างแท้จริง AI ที่มีเจตนา จำเป็นต้องมีการเข้าถึงโปรไฟล์ลูกค้าที่สมบูรณ์และปัจจุบัน ไม่มีบริบทแบบเรียลไทม์ แม้แต่โมเดลที่ดีที่สุดก็จะผลิตประสบการณ์ที่ไม่เชื่อมต่อและเอนเอียง

ความเอนเอียงคือกระจก ไม่ใช่ความผิดพลาด

AI ไม่สร้างความเอนเอียง มันสะท้อนถึงสิ่งที่ได้รับคำสั่งผ่านข้อมูล การฝึกอบรม และลำดับความสำคัญทางธุรกิจ นั่นเป็นเหตุผลที่ความสอดคล้องมีความสำคัญ หากระบบของคุณไม่ได้ออกแบบมาเพื่อลูกค้า AI จะเพิ่มความไม่เชื่อมต่อ

ความเอนเอียงทางวัตถุประสงค์ไม่สามารถถูกกำจัดได้อย่างสมบูรณ์ แต่สามารถจัดการได้

ให้ความภักดีระยะยาวเป็นเป้าหมายหลัก สิ่งอื่นๆ จะตามมา เมื่อทุกการตัดสินใจของโมเดลถูกกรองผ่านการรักษาไว้ มูลค่าตลอดชีวิต และความไว้วางใจ สิ่งอื่นๆ (การกำกับดูแล ความเข้าใจลูกค้า วัตถุประสงค์ที่สมดุล) จะตกลงไปอย่างเป็นธรรมชาติ

ทางลัดสำหรับวันนี้มักจะเสียคุณวันพรุ่งนี้ แต่ดำเนินการต่อด้วยความภักดีเป็นศูนย์กลางของกลยุทธ์ และ AI จะเปลี่ยนจากความเสี่ยงเป็นข้อได้เปรียบ