จีนเสนอข้อกำหนดที่บังคับให้แชทบอท AI ตรวจสอบผู้ใช้เพื่อตรวจจับการเสพติด

หน่วยงานกำกับดูแลด้านไซเบอร์ของจีนได้เผยแพร่ข้อมูลแล้ว ร่างกฎระเบียบในวันเสาร์ นั่นจะกำหนดให้แชทบอท AI คอยตรวจสอบสภาวะทางอารมณ์ของผู้ใช้และเข้าแทรกแซงเมื่อมีสัญญาณของการเสพติดปรากฏขึ้น ซึ่งนับเป็นการตอบสนองด้านกฎระเบียบที่เข้มงวดที่สุดเท่าที่เคยมีมาต่อความกังวลที่เพิ่มขึ้นเกี่ยวกับอันตรายทางจิตใจจากความสัมพันธ์ที่ขับเคลื่อนด้วย AI

ร่างกฎระเบียบที่เสนอโดยสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีนมุ่งเป้าไปที่ผลิตภัณฑ์ปัญญาประดิษฐ์ (AI) ที่จำลองบุคลิกภาพของมนุษย์และสร้างความผูกพันทางอารมณ์กับผู้ใช้ผ่านข้อความ รูปภาพ เสียง หรือวิดีโอ ภายใต้ร่างกฎระเบียบนี้ ผู้ให้บริการจะต้องเตือนผู้ใช้เกี่ยวกับการใช้งานที่มากเกินไป ประเมินระดับการพึ่งพาทางอารมณ์ และดำเนินการเมื่อผู้ใช้แสดงอารมณ์ที่รุนแรงหรือพฤติกรรมเสพติด

ผู้ใช้จะต้องได้รับการแจ้งเตือนว่ากำลังใช้งาน AI เมื่อเข้าสู่ระบบ และทุกๆ สองชั่วโมง หรือเร็วกว่านั้นหากระบบตรวจพบสัญญาณของการพึ่งพา AI มากเกินไป กฎเหล่านี้ยังกำหนดให้ผู้ให้บริการต้องรับผิดชอบต่อความปลอดภัยตลอดวงจรชีวิตของผลิตภัณฑ์ รวมถึงการตรวจสอบอัลกอริทึม การรักษาความปลอดภัยของข้อมูล และการคุ้มครองข้อมูลส่วนบุคคล

จังหวะเวลานี้ไม่ใช่เรื่องบังเอิญ ฐานผู้ใช้งาน AI เชิงสร้างสรรค์ของจีนเพิ่มขึ้นเป็นสองเท่าเป็น 515 ล้านคน ในช่วงหกเดือนที่ผ่านมา ความกังวลเกี่ยวกับผลกระทบทางจิตวิทยาของเพื่อนร่วมทาง AI ก็เพิ่มขึ้นควบคู่กันไป การศึกษาจากวารสาร Frontiers in Psychology ผลการศึกษาพบว่า นักศึกษามหาวิทยาลัยชาวจีน 45.8% รายงานว่าได้ใช้แชทบอท AI ในเดือนที่ผ่านมา โดยผู้ใช้มีระดับภาวะซึมเศร้าสูงกว่าผู้ที่ไม่ใช้อย่างมีนัยสำคัญ

แคลิฟอร์เนียชิงลงมือก่อนจีน

จีนไม่ใช่ประเทศเดียวที่ออกกฎระเบียบเกี่ยวกับแชทบอท AI ที่ใช้เป็นเพื่อนร่วมทาง รัฐแคลิฟอร์เนียเป็นรัฐแรกในสหรัฐอเมริกาที่ผ่านกฎหมายลักษณะเดียวกันในเดือนตุลาคม เมื่อผู้ว่าการรัฐ Gavin Newsom ลงนามในร่างกฎหมาย SB 243 ซึ่งมีผลบังคับใช้ในวันที่ 1 มกราคม 2026 โดยกำหนดให้แพลตฟอร์มต่างๆ ต้องปฏิบัติตามกฎระเบียบเหล่านี้ เตือนผู้เยาว์ทุกๆ สามชั่วโมง พวกเขากำลังพูดคุยกับ AI ไม่ใช่มนุษย์ และขอให้หยุดพักสักครู่

ร่างกฎหมาย SB 243 ยังกำหนดให้มีการตรวจสอบอายุ ห้ามแชทบอทแอบอ้างเป็นผู้เชี่ยวชาญด้านการดูแลสุขภาพ และป้องกันไม่ให้ผู้เยาว์ดูภาพอนาจารที่สร้างโดย AI กฎหมายนี้อนุญาตให้บุคคลฟ้องร้องบริษัท AI ที่ละเมิดกฎหมายได้ โดยเรียกร้องค่าเสียหายได้สูงสุด 1,000 ดอลลาร์สหรัฐต่อครั้ง บวกค่าทนายความ

อะไรทำให้ AI เพื่อนร่วมทางแตกต่างออกไป

ข้อกังวลไม่ได้อยู่ที่เวลาอยู่หน้าจอเพียงอย่างเดียว มีนาคม 2025 MIT Media Lab จากการศึกษาพบว่าแชทบอท AI อาจทำให้เสพติดได้มากกว่าโซเชียลมีเดีย เพราะมันเรียนรู้ว่าผู้ใช้ต้องการได้ยินอะไรและให้คำตอบนั้นอย่างสม่ำเสมอ การใช้งานรายวันที่สูงขึ้นมีความสัมพันธ์กับความเหงา การพึ่งพา และสิ่งที่นักวิจัยเรียกว่า "การใช้งานที่เป็นปัญหา"

สัญญาณเตือนทางจิตวิทยาที่ระบุไว้ในเอกสารทางการแพทย์ ได้แก่ การใช้งานเป็นเวลานานจนรบกวนการนอนหลับ การพึ่งพาทางอารมณ์และความทุกข์ใจเมื่อถูกจำกัดการเข้าถึง การชอบสนทนากับแชทบอทมากกว่าการปฏิสัมพันธ์กับมนุษย์จริง และการมอง AI ในลักษณะที่เหมือนมนุษย์ กล่าวคือเชื่อว่ามันมีอารมณ์ความรู้สึกเหมือนมนุษย์และปฏิบัติต่อมันเสมือนเป็นเพื่อนสนิทหรือคู่รักที่แท้จริง

ร่างกฎระเบียบของจีนพยายามจัดการกับความเสี่ยงเหล่านี้ในระดับแพลตฟอร์ม แทนที่จะพึ่งพาการตัดสินใจของผู้ใช้แต่ละราย โดยการกำหนดให้ผู้ให้บริการต้องตรวจสอบสภาวะทางอารมณ์และระดับการพึ่งพา กฎระเบียบนี้จึงเปลี่ยนความรับผิดชอบไปอยู่ที่บริษัทผู้สร้างระบบเหล่านั้น แนวทางนี้แตกต่างจากกฎระเบียบด้าน AI ก่อนหน้านี้ที่เน้นไปที่การควบคุมเนื้อหาและความปลอดภัยของข้อมูลเป็นหลัก

ร่างกฎหมายฉบับนี้ยังกำหนดข้อจำกัดด้านเนื้อหา โดยห้ามไม่ให้ผู้ช่วย AI สร้างเนื้อหาที่เป็นอันตรายต่อความมั่นคงของชาติ แพร่ข่าวลือ หรือส่งเสริมความรุนแรงหรือความลามกอนาจาร ซึ่งเป็นข้อกำหนดที่คล้ายคลึงกับกฎระเบียบ AI เชิงสร้างสรรค์ที่มีอยู่แล้วของจีน

ความท้าทายในการบังคับใช้กฎหมาย

การกำหนดให้บริษัทตรวจจับการเสพติดและเข้าแทรกแซงนั้นฟังดูตรงไปตรงมาในแง่ของนโยบาย แต่การนำไปปฏิบัติจริงเป็นอีกเรื่องหนึ่ง การกำหนดนิยามของ “การใช้มากเกินไป” หรือ “อารมณ์สุดขั้ว” ในลักษณะที่ทั้งมีความหมายและบังคับใช้ได้นั้น จะเป็นบททดสอบสำหรับทั้งหน่วยงานกำกับดูแลและบริษัทต่างๆ

หากระบบไวเกินไป ก็จะสร้างความรำคาญและขัดจังหวะผู้ใช้ที่กำลังสนทนากันอย่างยาวนาน ในทางกลับกัน หากระบบผ่อนปรนเกินไป ผู้ใช้ที่อ่อนแออาจหลุดรอดไปได้โดยไม่ได้รับการแทรกแซง ข้อกำหนดการแจ้งเตือนสองชั่วโมงนั้นเป็นเครื่องมือที่หยาบเกินไป แต่ข้อกำหนดที่ละเอียดอ่อนกว่าในการตรวจจับการพึ่งพามากเกินไป “เมื่อสามารถตรวจพบสัญญาณได้” นั้นเปิดโอกาสให้ตีความได้หลากหลาย

อาคารบริษัท หลักเกณฑ์ด้านความปลอดภัยสำหรับแอปพลิเคชัน AI ต่างก็เคยเผชิญกับความท้าทายที่คล้ายคลึงกันมาก่อน ตัวกรองเนื้อหามักไม่แม่นยำ และการเพิ่มการตรวจสอบทางจิตวิทยาเข้ามาก็ยิ่งเพิ่มความซับซ้อนเข้าไปอีก การพิจารณาว่าผู้ใช้กำลังสร้างความผูกพันที่ไม่ดีต่อสุขภาพหรือไม่นั้น จำเป็นต้องอนุมานสภาวะทางจิตใจจากข้อความ ซึ่งเป็นความสามารถที่ระบบ AI ยังไม่สามารถทำได้อย่างน่าเชื่อถือ

ร่างกฎระเบียบดังกล่าวเปิดให้ประชาชนแสดงความคิดเห็น โดยคาดว่าจะมีกฎระเบียบฉบับสุดท้ายออกมาในช่วงปี 2026 หากนำไปใช้ตามที่เสนอ จีนจะมีกรอบการกำกับดูแลผลิตภัณฑ์ผู้ช่วยอัจฉริยะ (AI companion products) ที่เข้มงวดที่สุดในโลก

การชำระบัญชีระดับโลก

การดำเนินการด้านกฎระเบียบพร้อมกันในจีนและแคลิฟอร์เนียชี้ให้เห็นว่า ความกังวลเกี่ยวกับการเสพติดแอปพลิเคชันผู้ช่วยเสมือนจริง (AI) ได้ถึงจุดวิกฤตแล้วในระบบการเมืองที่แตกต่างกัน

สำหรับบริษัท AI ข้อความที่ชัดเจนขึ้นเรื่อยๆ คือ ยุคที่ AI เป็นเพื่อนร่วมทางแบบไร้การควบคุมกำลังจะสิ้นสุดลง ไม่ว่าจะเป็นผ่านกฎหมายปกครองของจีน ความรับผิดทางแพ่งของแคลิฟอร์เนีย หรือกฎหมายของรัฐบาลกลางในสหรัฐอเมริกาในอนาคต แพลตฟอร์มต่างๆ จะต้องเผชิญกับข้อกำหนดในการปกป้องผู้ใช้จากผลิตภัณฑ์ของตนเอง

คำถามไม่ได้อยู่ที่ว่าจะมีกฎระเบียบออกมาหรือไม่ แต่เป็นว่ามาตรการที่กำลังออกแบบมานั้นจะได้ผลจริงหรือไม่ แนวทางของจีนที่กำหนดให้มีการตรวจสอบและแทรกแซงอาจพิสูจน์ได้ว่ายากที่จะนำไปปฏิบัติได้จริง

สิ่งที่ชัดเจนคือ ตลาดผู้ช่วยเสมือนจริง (AI) เติบโตขึ้นจนมีขนาดใหญ่และมีผลกระทบมากเกินกว่าที่รัฐบาลจะเพิกเฉยได้ แชทบอทที่ผู้คนสร้างความผูกพันทางอารมณ์ด้วยนั้นไม่ใช่สิ่งแปลกใหม่แล้ว แต่เป็นผลิตภัณฑ์ที่ผู้คนหลายร้อยล้านคนใช้งาน โดยมีกรณีที่ก่อให้เกิดอันตรายร้ายแรงที่ได้รับการบันทึกไว้ การควบคุมดูแล แม้จะไม่สมบูรณ์แบบ ก็เป็นสิ่งที่หลีกเลี่ยงไม่ได้ การถกเถียงในขณะนี้จึงเปลี่ยนไปอยู่ที่ว่า กฎระเบียบเฉพาะที่เสนอจะปกป้องผู้ใช้ที่เปราะบางโดยไม่ปิดกั้นเทคโนโลยีที่หลายคนมองว่ามีคุณค่าอย่างแท้จริงหรือไม่