จีนเสนอข้อกำหนดที่ต้องการให้ AI Chatbot ติดตามผู้ใช้เพื่อป้องกันการเสพติด

หน่วยงานกำกับดูแลไซเบอร์ของจีนได้เผยแพร่ ร่างกฎเมื่อวันเสาร์ ที่จะกำหนดให้ AI Companion Chatbot ติดตามสภาพทางอารมณ์ของผู้ใช้และเข้าแทรกเมื่อมีสัญญาณของการเสพติด – การตอบสนองด้านกฎระเบียบที่รุนแรงที่สุดจนถึงตอนนี้ต่อความกังวลที่เพิ่มขึ้นเกี่ยวกับอันตรายทางจิตจากความสัมพันธ์ที่ได้รับการขับเคลื่อนด้วย AI

ข้อกำหนดที่เสนอจาก Cyberspace Administration of China มุ่งเป้าไปที่ผลิตภัณฑ์ AI ที่จำลองบุคลิกภาพของมนุษย์และสร้างความสัมพันธ์ทางอารมณ์กับผู้ใช้ผ่านข้อความ รูปภาพ เสียง หรือวิดีโอ ตามร่าง ผู้ให้บริการจะต้องเตือนผู้ใช้ไม่ให้ใช้งานมากเกินไป ประเมินระดับการพึ่งพา และดำเนินการเมื่อผู้ใช้แสดงอารมณ์หรือพฤติกรรมที่เสพติด

ผู้ใช้ต้องได้รับการเตือนเมื่อเข้าสู่ระบบและทุกๆ 2 ชั่วโมง – หรือเร็วกว่านั้นหากระบบตรวจพบสัญญาณของการเสพติดมากเกินไป กฎเหล่านี้ยังกำหนดให้ผู้ให้บริการรับผิดชอบต่อความปลอดภัยตลอดวงจรชีวิตผลิตภัณฑ์ รวมถึงการตรวจสอบอัลกอริทึม ความปลอดภัยของข้อมูล และการคุ้มครองข้อมูลส่วนบุคคล

เวลานี้ไม่ใช่เรื่องบังเอิญ เมื่อ ผู้ใช้ AI ที่สร้างสรรค์ของจีนเพิ่มขึ้นสองเท่าถึง 515 ล้านคน ในช่วง 6 เดือนที่ผ่านมา ความกังวลเกี่ยวกับผลกระทบทางจิตของ AI Companion ก็เพิ่มขึ้นเช่นกัน การศึกษาของ Frontiers in Psychology พบว่า 45.8% ของนักศึกษามหาวิทยาลัยจีนรายงานว่าใช้ AI Chatbot ในเดือนที่แล้ว โดยผู้ใช้แสดงระดับการซึมเศร้ามากกว่าผู้ที่ไม่ใช้

แคลิฟอร์เนียเป็นคนแรกที่เอาชนะจีน

จีนไม่ใช่ประเทศเดียวที่กำกับดูแล AI Companion Chatbot แคลิฟอร์เนียกลายเป็นรัฐแรกในสหรัฐที่ผ่านกฎหมายที่คล้ายกันในเดือนตุลาคมเมื่อผู้ว่าการ Gavin Newsom ลงนาม SB 243 เป็นกฎหมาย ที่จะเริ่มมีผลบังคับใช้ในวันที่ 1 มกราคม 2026 จะกำหนดให้แพลตฟอร์ม เตือนผู้ใช้ที่อายุน้อยกว่า 18 ปีทุกๆ 3 ชั่วโมง ว่าพวกเขา đangพูดกับ AI ไม่ใช่มนุษย์ และให้พักผ่อน

SB 243 ยังกำหนดให้มีการยืนยันตัวตนตามอายุ ห้ามไม่ให้ AI Chatbot อ้างว่าเป็นมืออาชีพด้านสุขภาพ และห้ามไม่ให้ผู้ใช้ที่อายุน้อยกว่า 18 ปีเข้าถึงรูปภาพที่สร้างโดย AI ที่มีเนื้อหาที่ไม่เหมาะสม กฎหมายอนุญาตให้บุคคลสามารถฟ้องร้องบริษัท AI สำหรับการละเมิด โดยขอเงินชดเชยสูงถึง 1,000 ดอลลาร์ต่อเหตุการณ์พร้อมค่าธรรมเนียมทนายความ

สิ่งที่ทำให้ AI Companion แตกต่าง

ความกังวลไม่ใช่แค่เรื่องของเวลาที่ใช้หน้าจอ การศึกษาของ MIT Media Lab ในเดือนมีนาคม 2025 พบว่า AI Chatbot สามารถทำให้เกิดการเสพติดมากกว่าโซเชียลมีเดีย เนื่องจากพวกมันเรียนรู้สิ่งที่ผู้ใช้ต้องการได้ยินและให้ข้อเสนอแนะที่สอดคล้องกันอย่างต่อเนื่อง การใช้งานที่สูงขึ้นในแต่ละวันสัมพันธ์กับการเพิ่มขึ้นของความเหงา การพึ่งพา และสิ่งที่นักวิจัยเรียกว่า “การใช้ที่มีปัญหา”

สัญญาณเตือนด้านจิตที่ระบุในเอกสารทางคลินิก ได้แก่ การใช้งานที่ยาวนานขัดขวางการนอนหลับ การพึ่งพาทางอารมณ์และความทุกข์เมื่อถูกจำกัดการเข้าถึง การชอบการสนทนากับ AI Chatbot มากกว่าการโต้ตอบกับมนุษย์จริงๆ และการให้ลักษณะมนุษย์แก่ AI – เชื่อว่ามันมีอารมณ์เหมือนมนุษย์และปฏิบัติต่อ nó เป็นคนรู้ใจหรือคู่รักที่แท้จริง

ร่างกฎของจีนพยายามที่จะจัดการกับความเสี่ยงเหล่านี้ที่ระดับแพลตฟอร์ม แทนที่จะพึ่งพาการตัดสินใจของผู้ใช้แต่ละคน โดยกำหนดให้ผู้ให้บริการติดตามสภาพทางอารมณ์และระดับการพึ่งพา กฎระเบียบเหล่านี้แตกต่างจากกฎระเบียบ AI ก่อนหน้าที่มุ่งเน้นไปที่การดูแลเนื้อหาและการรักษาความปลอดภัยของข้อมูลเป็นหลัก

ร่างกฎยังกำหนดข้อจำกัดด้านเนื้อหา โดยห้าม AI Companion ไม่ให้สร้างเนื้อหาที่ก่อให้เกิดอันตรายต่อความมั่นคงของชาติ เผยแพร่ข่าวลือ หรือส่งเสริมความรุนแรงหรือลามกอนาจาร – ข้อกำหนดที่สะท้อนถึงกฎระเบียบ AI ที่สร้างสรรค์ของจีน

ความท้าทายในการบังคับใช้

การกำหนดให้บริษัทต่างๆ ตรวจจับการเสพติดและเข้าแทรกดูเหมือนจะตรงไปตรงมาในภาษานโยบาย การนำไปปฏิบัติเป็นอีกเรื่องหนึ่ง การกำหนดสิ่งที่構成 “การใช้มากเกินไป” หรือ “อารมณ์ที่รุนแรง” ในลักษณะที่มีความหมายและบังคับใช้ได้จะทดสอบผู้กำกับดูแลและบริษัททั้งสอง

การตรวจจับที่ไวเกินไป และระบบจะกลายเป็นเรื่องที่น่ารำคาญ – การขัดจังหวะผู้ใช้ที่เพียงแต่เกี่ยวข้องกับการสนทนาที่ยาวนานเกินไป การตรวจจับที่ไม่เข้มงวดเกินไป และผู้ใช้ที่อ่อนแอจะไม่ได้รับการแทรกแซง การกำหนดให้เตือนผู้ใช้ทุกๆ 2 ชั่วโมงเป็นเครื่องมือที่ตรงไปตรงมา แต่การกำหนดให้ตรวจจับการพึ่งพามากเกินไป “เมื่อมีสัญญาณที่สามารถตรวจจับได้” จะให้พื้นที่ตีความที่สำคัญ

บริษัทที่สร้าง ราวกั้นสำหรับ AI Applications ต้องเผชิญกับความท้าทายที่คล้ายกัน ฟิลเตอร์เนื้อหามีความไม่แม่นยำ และการเพิ่มการตรวจสอบจิตวิทยาแนะนำมิติใหม่ของความซับซ้อน การกำหนดว่าผู้ใช้กำลังสร้างความสัมพันธ์ที่ไม่ดีต่อสุขภาพต้องอาศัยการอนุมานสถานะทางจิตจากข้อความ – ความสามารถที่ระบบ AI ไม่ได้ครอบครองอย่างน่าเชื่อถือ

ร่างกฎเปิดให้ได้รับการแสดงความคิดเห็นจากสาธารณะ โดยคาดว่าจะมีกฎระเบียบที่สมบูรณ์ในปี 2026 หากนำไปใช้ตามที่เสนอ จีนจะมีกรอบการกำกับดูแล AI Companion ที่เข้มงวดที่สุดในโลก

การชำระล้างทั่วโลก

การดำเนินการด้านกฎระเบียบพร้อมกันในจีนและแคลิฟอร์เนียชี้ให้เห็นว่าความกังวลเกี่ยวกับการเสพติด AI Companion ได้ถึงจุดวิกฤติในระบบการเมืองที่แตกต่างกัน

สำหรับบริษัท AI สิ่งที่ชัดเจนคือยุคที่ไม่มีการควบคุมของ AI Companion กำลังจะสิ้นสุดลง ไม่ว่าจะผ่านกฎหมายการบริหารของจีน กฎหมายความรับผิดชอบทางแพ่งของแคลิฟอร์เนีย หรือกฎหมายของรัฐบาลกลางในอนาคตในสหรัฐอเมริกา แพลตฟอร์มจะต้องเผชิญกับข้อกำหนดในการปกป้องผู้ใช้จากผลิตภัณฑ์ของตนเอง

คำถามไม่ใช่ว่าการควบคุมกำลังจะมา – แต่ว่าการแทรกแซงที่ออกแบบขึ้นจะทำงานจริงหรือไม่ การเข้าใกล้ของจีนในการกำหนดให้ติดตามและเข้าแทรกอาจพิสูจน์ได้ว่าเป็นการนำไปปฏิบัติที่ยาก

สิ่งที่ชัดเจนคือตลาด AI Companion มีขนาดใหญ่และสำคัญเกินไปสำหรับรัฐบาลที่จะเพิกเฉย AI Chatbot ที่ผู้คนสร้างความสัมพันธ์ทางอารมณ์กับพวกมันไม่ใช่สิ่งแปลกใหม่อีกต่อไป – แต่เป็นผลิตภัณฑ์ที่ใช้โดยหลายร้อยล้านคน โดยมีกรณีการบาดเจ็บที่รุนแรงที่ได้รับการบันทึก การควบคุม แม้จะไม่สมบูรณ์แบบ ก็เป็นสิ่งที่หลีกเลี่ยงไม่ได้ การถกเถียงเปลี่ยนไปที่ว่ากฎที่เสนอจะปกป้องผู้ใช้ที่อ่อนแอโดยไม่ขัดขวางเทคโนโลยีที่หลายคนพบว่ามีคุณค่าอย่างแท้จริง