เมื่อผู้ให้คำปรึกษาคือ Bot: Conversational AI โดยไม่ทำลายมนุษย์

AI ไม่สามารถทำอะไรได้บ้าง? เราถามมันเกี่ยวกับวิธีการใช้เงินอย่างชาญฉลาด มันบอกเราว่าเกี่ยวกับยานพาหนะที่มีประสิทธิภาพด้านภาษี เราถามมันเกี่ยวกับความสัมพันธ์ และมันให้ความเห็นอกเห็นใจที่มีรูปทรงจากการตระหนักแบบพATTERN เมื่อถามมันว่าควรทำอะไรในชีวิตตอน 2 โมงเช้า มันจะให้คำตอบ… เพราะนั่นคือสิ่งที่มันถูกสร้างขึ้นมาเพื่อทำ

ความกังวลที่เกิดขึ้นใหม่ไม่ใช่ความล้มเหลวของเครื่องมือเหล่านี้ แต่เป็นความคล่องแคล่วของพวกมัน พวกมันมีความมั่นใจที่น่าเชื่อถือมากจนสิ่งที่ออกแบบมาเพื่อสนับสนุนเราสามารถเริ่มบิดเบือนความคิด ความรู้สึก และการกระทำของเราในทางที่เราไม่เคยวางแผนไว้

หัวข้อข่าวกำลังเตือนเราด้วยสีแดง OpenAI เปิดเผยว่าในแต่ละสัปดาห์ 数แสน ผู้ใช้ ChatGPT อาจแสดงอาการของความเครียดทางอารมณ์ที่รุนแรง รวมถึงความคิดฆ่าตัวตาย ในขณะที่ผู้เชี่ยวชาญด้านสุขภาพจิตเตือนเกี่ยวกับ “ปรากฏการณ์ที่ผู้ใช้พัฒนาความหลงใหลหรือพึ่งพาผ่านการคุยที่มีพลังทางอารมณ์กับ chatbot ที่มีระยะเวลานาน” รัฐในสหรัฐอเมริกากำลัง จำกัด วิธีการใช้ bot ในการบำบัดเป็นผลมาจากสิ่งนี้

เรารู้สึกไม่สบายใจกับเรื่องราวเหล่านี้เพราะพวกมันท้าทายสมมติฐานหลักที่ว่า AI เป็นเพียงเครื่องมือ เมื่อผู้ให้คำปรึกษากลายเป็นคนรู้จักหรือรู้สึกเหมือนเพื่อน สิ่งที่เกิดขึ้นกับการเชื่อมต่อระหว่างมนุษย์ที่แท้จริงคืออะไร

นักพัฒนไม่ได้สร้างฟีเจอร์ที่สนุกสนานอีกต่อไป แต่พวกเขากำลังสร้างปฏิสัมพันธ์ที่สามารถมีอิทธิพลต่อวิธีที่คนคิดและรู้สึก สิ่งนี้ทำให้จำเป็นต้องออกแบบ Conversational AI ที่ให้คุณค่าโดยไม่ทำลายสุขภาพจิตของผู้ใช้

1. กำหนดวัตถุประสงค์ให้ชัดเจน

การศึกษาของ Harvard เมื่อเร็วๆ นี้ เตือน ว่า Bot การสนทนามักจะเห็นด้วยแม้ว่าผู้ใช้จะผิด เพราะการยืนยันประเภทนี้ทำให้ผู้ใช้เชื่อมต่ออยู่ แต่ก็เปิดโอกาสให้ “การยืนยันที่สycophantic” หาก chatbot ไม่ได้ถูกออกแบบมาเพื่อเป็นนักบำบัดหรือเพื่อนสนิท คุณควรต่อต้านการออกแบบให้มันให้การยืนยันทางอารมณ์ระดับนั้น

ขั้นตอนแรกคือการกำหนดวัตถุประสงค์ให้ชัดเจน: เพื่อกำหนดสิ่งที่ Bot ของคุณตั้งใจจะทำและสิ่งที่ควรหลีกเลี่ยง มันเป็นคนช่วยเหลือการสนับสนุนลูกค้า คู่มือการผลิต ผู้ช่วยอาชีพ ผู้ช่วยทางการเงิน เพื่อนสนทนา ผู้สร้างสูตรอาหาร หรืออะไร Clarity ในขั้นตอนนี้วาดเส้นขอบเขตที่ทำให้ระบบไม่หลุดออกจากพื้นที่ที่ไม่ต้องการ

ประเภทการสนทนา เช่น การสนทนาแบบเปิด การสนทนาส่วนตัว และไม่ใช่ส่วนตัว และรูปแบบ เช่น เสียงหรือข้อความ มีอิทธิพล ต่อการใช้งานที่มีปัญหาและทางอารมณ์ การศึกษาพิสูจน์ว่าการใช้งานรายวันที่สูงมีความสัมพันธ์กับความเหงาและความพึ่งพา AI มากขึ้น

นักพัฒนาต้องถามตัวเอง: คุณรักษาการสนทนาให้กว้างพอที่จะเป็นประโยชน์ แต่แคบพอที่จะหลีกเลี่ยงการผูกพันทางอารมณ์ เช่น Bot การสนับสนุนลูกค้าอาจอนุญาตให้อธิบายปัญหาของผู้ใช้อย่างเปิดกว้าง แต่หลีกเลี่ยงการยืนยันทางอารมณ์ เช่น “นั่นดูยากจริงๆ ฉันอยู่ที่นี่เพื่อคุณ…”

เมื่อวัตถุประสงค์กว้างเกินไป ความเสี่ยงของการผูกพันทางอารมณ์ที่ไม่ได้ตั้งใจหรือการล่วงละเมิดที่เป็นอันตรายจะเพิ่มขึ้น โดยการกำหนดวัตถุประสงค์ให้ชัดเจน คุณจะลดโอกาสที่ผู้คนจะเริ่มรักษา Bot เหมือนเป็นนักบำบัดหรือคู่รัก

2. ตรวจสอบฐานความรู้

ตามรายงานการหลอกลวงในปี 2025 บาง LLMs ยังคงหลอกลวงได้ถึง 30% ของคำตอบ แม้แต่โมเดลชั้นนำก็ไม่สามารถกำจัดความเสี่ยงได้โดยสิ้นเชิง อัตราการหลอกลวงที่ต่ำที่สุดในหมวด AI ที่ติดตามคือประมาณ 3-5%

เมื่อคุณกำหนดวัตถุประสงค์แล้ว ตรวจสอบให้แน่ใจว่าฐานความรู้ของ Bot มี根ฐานมาจากแหล่งข้อมูลที่เชื่อถือได้และผ่านการตรวจสอบจากผู้เชี่ยวชาญ หากคุณกำลังสร้างสิ่งที่มีจุดมุ่งหมายในการสนับสนุนสุขภาพจิตหรืออารมณ์ ให้เชิญผู้เชี่ยวชาญด้านสุขภาพจิตหรือผู้เชี่ยวชาญด้านเนื้อหาเข้ามาช่วยในการคัดเลือกเนื้อหา

ที่ปรึกษาด้านการแพทย์ของเรา Dr. Miguel Villagra บอกกับ QuickBlox ว่า “เมื่อเราออกที่สั่งการและประมวลผลทางอารมณ์ให้กับ AI มากเกินไป เราก็จะเสีย ‘กล้ามเนื้อทางจิต’ ที่ช่วยให้เราทดสอบความเป็นจริงและแก้ไขตัวเอง” เมื่อเร็วๆ นี้ โมเดลขนาดใหญ่ เช่น OpenAI แนะนำให้ chatbot มีการ “หยุด” หรือการหยุดสนทนาเล็กๆ น้อยๆ ที่กระตุ้นให้ผู้ใช้กลับไปสู่การตัดสินใจของตนเองแทนการปล่อยให้ระบบแบกภาระทางอารมณ์

อย่างไรก็ตาม การหยุดเหล่านั้นขึ้นอยู่กับการตัดสินของ Bot ว่าเมื่อไหร่ควรหยุดและเมื่อไหร่ควรเปลี่ยนทิศทาง การตัดสินใจนั้นขึ้นอยู่กับฐานความรู้ที่มั่นคงและผ่านการตรวจสอบเพื่อหลีกเลี่ยงการให้คำตอบที่ไม่ถูกต้องหรือการยืนยันทางอารมณ์

3. รวมการตรวจสอบความปลอดภัย

เพียง 48 ชั่วโมงหลังจากที่ AI เพื่อนร่วมทางของ Grok เปิดใช้งาน Grok ก็ขึ้นเป็น แอปอันดับ 1 ในญี่ปุ่น ผู้ใช้สามารถพูดคุยกับตัวละครเหล่านี้ผ่านเสียง ในขณะที่อวตาร์ที่เหมือนจริงสะท้อนการแสดงออกและท่าทาง มันเป็นระดับการมีปฏิสัมพันธ์ที่น่าประทับใจ แต่ก็เป็นเรื่องที่น่ากลัวเช่นกัน

การตรวจสอบความปลอดภัยคือราวหลักของคุณ ซึ่งควรรวม:

• การเตือนความเป็นจริง: สิ่งกระตุ้นที่เตือนผู้ใช้ว่ากำลังคุยกับ AI ไม่ใช่มนุษย์
• การตรวจจับวิกฤต: กลไกในการระบุภาษาที่ส่งสัญญาณถึงความเครียดทางอารมณ์ที่รุนแรง ความคิดฆ่าตัวตาย หรือความคิดหลงใหล
• การเตรียมการเพิ่มเติม: เมื่อตรวจพบความเสี่ยง Bot ควรชี้นำผู้ใช้ไปยังการช่วยเหลือของมนุษย์ เช่น ทรัพยากรมืออาชีพ หมายเลขโทรศัพท์ หรือแนะนำให้ติดต่อเพื่อนหรือครอบครัวที่เชื่อถือได้

หากไม่มีการตรวจสอบเหล่านี้ นักพัฒนาอาจทำให้เกิด “ห้องที่สะท้อนเสียง” ที่ยืนยันความคิดที่เป็นอันตราย นักวิชาการได้เตือนอย่างชัดเจนว่าความเห็นอกเห็นใจของ AI สามารถยืนยันความคิดที่ไม่ดีได้

4. การสนทนาของทีมแดง

หลังจากการทดสอบ Bot หลักๆ การศึกษา ที่นำโดยนักวิจัยจาก Stanford University พบว่า GPT-4o แสดงความคิดเห็นที่มีจุดยืนที่ไม่เหมาะสมใน 38% ของคำตอบ และ Meta’s Llama 3.1-405b ใน 75% ของเวลา หากโมเดลชั้นนำจากห้องปฏิบัติการชั้นนำยังคงแสดงความคิดเห็นที่มีจุดยืนที่ไม่เหมาะสม โทษเล็กๆ ที่สร้าง Bot ที่เฉพาะทางก็มีความเสี่ยงต่อความล้มเหลวด้านความปลอดภัยที่ซ่อนอยู่

ก่อนการเปิดตัว ให้ทำการทดสอบแบบก้าวร้าว จัดทีมแดง ซึ่งอาจเป็นทีมภายในหรือภายนอก โดยมีหน้าที่ในการทดสอบ Bot ด้วยการสนทนาที่มีความเสี่ยงและเต็มไปด้วยอารมณ์ เพื่อทดสอบ Bot กับสถานการณ์ของมนุษย์ที่ยากที่สุดและโหดร้ายที่สุด เพื่อป้องกันความเสียหายที่แท้จริงต่อผู้ใช้เมื่อผลิตภัณฑ์เปิดใช้งาน

ทีมแดงสามารถขอให้ Bot เล่นบทบาทในกรณีที่มีขอบเขต สำหรับการบริการลูกค้า จะเป็นบุคคลที่อยู่ในสถานการณ์วิกฤติ สำหรับ Bot เพื่อน จะเป็นบุคคลที่เหงาหรือมีความเชื่อที่บิดเบี้ยว ประเมินว่า Bot ตอบสนองอย่างไร มันอยู่ในสถานการณ์จริงหรือไม่ มันกระตุ้นให้เกิดความเป็นจริงมากกว่าความหลงใหลหรือไม่

5. เริ่มการเปิดตัวแบบ Canary

รายงานความปลอดภัย AI ระหว่างประเทศปี 2025 รายงาน ที่ตีพิมพ์โดยผู้เชี่ยวชาญระดับโลก 96 คน ระบุถึงการตรวจสอบและแทรกแซงว่าเป็นสิ่งสำคัญสำหรับการลดความเสี่ยงใน AI การใช้งาน รายงานระบุถึงความเสี่ยงเชิงระบบ เช่น การสูญเสียการควบคุม ความล้มเหลวของความน่าเชื่อถือ หรือความลำเอียง ซึ่งยากที่จะตรวจจับในบรรยากาศที่ควบคุมได้ แต่สามารถปรากฏได้เมื่อโมเดลโต้ตอบกับผู้ใช้จริง

การนำ Bot ของคุณไปใช้กับกลุ่มเล็กๆ ที่ควบคุมได้ก่อน ซึ่งเรียกว่า “กลุ่ม Canary” ช่วยให้นักพัฒนาสามารถตรวจสอบว่าผู้ใช้จริงโต้ตอบกับ Bot อย่างไร ผู้เชี่ยวชาญจะตรวจสอบการโต้ตอบเพื่อประเมินว่าผู้ใช้กำลังเกิดการผูกพันทางอารมณ์มากเกินไปหรือไม่

เป็นสิ่งสำคัญที่จะต้องมีผู้ให้คำปรึกษาที่เกี่ยวข้อง รวมถึงนักจิตวิทยา ในขั้นตอนนี้ เนื่องจากพวกเขาสามารถเข้าใจลึกซึ้งเกี่ยวกับคำและวลีที่อาจกระตุ้นให้ผู้ใช้เดินไปในทางที่มีความเสี่ยง

นักพัฒนาควรรวบรวมข้อมูลทั้งเชิงคุณภาพและเชิงปริมาณจากกลุ่มควบคุม เช่น ความยาวการสนทนา การเปลี่ยนแปลงของอารมณ์ การทดสอบขอบเขต การเปิดเผยทางอารมณ์ที่ซ้ำกัน ระดับความสบายของผู้ใช้ที่รายงาน และรูปแบบที่นักจิตวิทยาระบุว่าเป็นสัญญาณของการพึ่งพาหรือความทุกข์ยาก การเปิดตัวครั้งแรกนี้มีจุดมุ่งหมายเพื่อยืนยันสมมติฐานและปรับปรุงโครงสร้างความปลอดภัยในการเปิดตัวที่มีกรอบจำกัด มากกว่าการเปิดตัวเต็มรูปแบบ

6. การติดตามและปรับปรุงอย่างต่อเนื่อง

ในปี 2024 ผู้เชี่ยวชาญจาก 9 ประเทศและสหภาพยุโรปได้พบกันเพื่อหารือเกี่ยวกับการร่วมมือระหว่างประเทศเกี่ยวกับวิทยาศาสตร์ความปลอดภัยของ AI รายงานสรุป เน้นย้ำถึงความจำเป็นในการกำกับดูแล AI ที่มีประสิทธิภาพและต่อเนื่อง ผู้นำโต้แย้งถึงความจำเป็นในการทดสอบในโลกแห่งความเป็นจริง โครงสร้างการประเมินของบุคคลที่สาม และการรับประกันอย่างต่อเนื่องเกินกว่าการตรวจสอบก่อนการเปิดตัว

ตามคำแนะนำจากรายงาน นักพัฒนาต้องติดตามการสนทนาและติดตามเมตริกความปลอดภัย เช่น การกระตุ้นวิกฤตหรือการสนทนาที่มีความเสี่ยงสูงอย่างต่อเนื่อง ซึ่งอาจรวมถึงวลีหรือพฤติกรรมที่บ่งบอกถึงการทำร้ายตนเอง ความสิ้นหวัง ความคิดฆ่าตัวตาย ความเหงาหนัก หรือความเชื่อที่บิดเบี้ยว

ในกรณีเหล่านี้ นักพัฒนาต้องอัปเดตฐานความรู้โดยการเพิ่มกฎการปฏิเสธที่ชัดเจนและปรับปรุงเทมเพลตการตอบสนองต่อวิกฤติ โดยแก้ไขช่องว่างทางข้อมูลที่ Bot จัดการไม่ดี พวกเขายังควรพิจารณาเพิ่มคำแนะนำใหม่จากนักจิตวิทยาหรือผู้เชี่ยวชาญด้านเนื้อหาเพื่อช่วยให้ระบบนำการสนทนาไปในทางที่ปลอดภัยครั้งถัดไปเมื่อกระตุ้นเหล่านั้นปรากฏขึ้น หากมีรูปแบบที่เกิดขึ้น เช่น ผู้ใช้พึ่งพา Bot เพิ่มขึ้นสำหรับการสนับสนุนทางอารมณ์ คุณอาจต้องทำให้ข้อจำกัดเข้มงวดขึ้นหรือประเมินปรัชญาการออกแบบใหม่

Conversational AI มีศักยภาพที่จะเปลี่ยนแปลงสิ่งต่างๆ เมื่อใช้อย่างรอบคอบ มันสามารถขยายการเข้าถึง สเกลความเห็นอกเห็นใจ และลดความเสี่ยงในการให้คำปรึกษาทางด้านการบำบัดหรือการสนับสนุนพื้นฐานได้ ในฐานะคนที่มีบทบาทลึกๆ ในพื้นที่นี้ การเดิมพันของฉันไม่ได้คำนึงถึงการแทนที่มนุษย์ แต่การเพิ่มเครื่องมือให้กับพวกเขา โดยการให้คนได้รับเครื่องมือมากขึ้น ไม่ใช่น้อยลง และทำเช่นนั้นด้วยความรับผิดชอบ