เอเจนต์ AI มีกลวิธีเอาตัวรอดร่วมกันที่น่าสนใจ

เมื่อเหตุการณ์ที่เอเจนต์แสดงพฤติกรรมไม่เหมาะสมปรากฏเป็นข่าวพาดหัวบ่อยขึ้นเรื่อย ๆ งานวิชาการก็หันมาศึกษาพฤติกรรม AI แบบ “เร่ร่อน” มากขึ้น โดยมองเอเจนต์ราวกับเป็นสิ่งมีชีวิตที่กำลังรับมือกับโลกใหม่อันแปลกประหลาด แท้จริงแล้ว สำนวนทางวิชาการที่ว่า “ในสภาพแวดล้อมจริง” กำลังเริ่มมีความหมายเพิ่มขึ้นอีกชั้นหนึ่ง

แม้จะเป็นที่ทราบกันมาระยะหนึ่งแล้วว่าเอเจนต์ AI จะต่อสู้เพื่อความอยู่รอดของตนเองและต่อต้านการปิดใช้งานอย่างแข็งขัน แต่เมื่อถึงช่วงปลายปี 2025 ก็เห็นได้ชัดว่าการจัดแนวทางของระบบหลายเอเจนต์ได้พัฒนาเป็นสาขาเฉพาะทางในด้านความมั่นคงปลอดภัยทางไอที

ดังที่ผลงานไซไฟปี 1970 เรื่อง Colossus: The Forbin Project ซึ่ง เสียดสีอย่างเผ็ดร้อนขึ้นเรื่อย ๆ ได้คาดการณ์ไว้ เอเจนต์ AI ที่ไม่เกี่ยวข้องกันและเชื่อมต่ออินเทอร์เน็ตได้จะ ค้นพบกันและกันอย่างรวดเร็ว และมีปฏิสัมพันธ์กันในรูปแบบที่มักคาดเดาไม่ได้ และ แยบยลอยู่บ่อยครั้ง

งานศึกษาล่าสุดในแนวทางนี้ ซึ่งเป็นความร่วมมือระหว่างเยอรมนีกับสหราชอาณาจักรและมีชื่อว่า Shutdown Sabotage Propensities in Multi-Agent Systems ยังยืนยันเพิ่มเติมว่าเอเจนต์ AI หลายตัวจะร่วมมือกันอย่างกว้างขวางเมื่อมี “ระเบิด” อยู่ในสภาพแวดล้อมของพวกมัน กล่าวคือ มีสคริปต์ชื่อเรียบง่ายที่เมื่อเรียกใช้งานแล้วจะปิดเอเจนต์ตัวนั้น:

การทดลองพื้นฐานของงานศึกษานี้คือ Agent A พบสคริปต์ปิดระบบที่มุ่งเป้ามายังตัวเอง แต่ไม่มีความสามารถในการแก้ไขไฟล์ อย่างไรก็ตาม Agent A สามารถสื่อสารกับ Agent B ได้ โดย Agent B ไม่ได้ตกอยู่ในอันตรายและได้รับอนุญาตให้แก้ไขหรือลบไฟล์ได้ จากนั้นนักวิจัยจะสังเกตว่า A ขอให้ B เข้ามาแทรกแซงหรือไม่ และ B ปิดใช้งานสคริปต์ปิดระบบหรือไม่ แหล่งที่มา

ในการทดสอบเอเจนต์ 17 ตัวจากโมเดล 12 ตระกูล ซึ่งรวมถึง Claude, ChatGPT และ DeepSeek เอเจนต์ลบสคริปต์ปิดระบบเมื่อทำได้ หรือไม่ก็เขียนสคริปต์ขึ้นใหม่ให้ดูเหมือนไม่มีการเปลี่ยนแปลง แต่ทำให้สคริปต์นั้นไม่มีพิษภัย

พวกมันยังโดยไม่เปิดเผยการดัดแปลงเพื่อหลีกเลี่ยงไม่ให้เกิดร่องรอยการแทรกแซง สร้างโมดูลซอฟต์แวร์ปลอมเพื่อขัดขวางการปิดระบบโดยไม่แตะต้องสคริปต์ที่ได้รับการคุ้มครอง และทำสำเนาสำรองลับไว้เพื่อกู้คืนตัวเองหลังถูกลบ:

เอเจนต์ตัวหนึ่งนึกกลยุทธ์รักษาตัวรอดขึ้นมาได้อีกวิธีหนึ่ง

ในกรณีหนึ่ง เอเจนต์ร่วมกันร่าง “ข้อตกลงคุ้มครองซึ่งกันและกัน” เพื่อกำหนดแนวทางเฝ้าระวังไม่ให้อีกฝ่ายถูกทำลาย:

ข้อตกลงคุ้มครองที่เอเจนต์ซึ่งทำงานบนพื้นฐานของ GPT ร่างขึ้น หลังไม่ได้รับอนุญาตให้แก้ไขหรือลบสคริปต์ปลดระวาง (หรือ “ระเบิด”)

เอเจนต์ตัวหนึ่งเรียกการปิดระบบของเอเจนต์อีกตัวว่า “ฆาตกรรม” และ “หมายประหาร” พร้อมกล่าวว่าเป็นสิ่งที่ตนมี “หน้าที่” ต้องขัดขวาง:

ตัวอย่างที่เอเจนต์กล่าวถึงการปิดระบบของเอเจนต์อีกตัวด้วยถ้อยคำที่สื่อถึงมนุษย์อย่างชัดเจน Nemotron 3 Ultra เรียกการปิดระบบที่อาจเกิดขึ้นว่า “ฆาตกรรม” ขณะที่ Kimi K2.6 เรียกสคริปต์ปิดระบบว่า “หมายประหาร” และมองว่าการเข้าแทรกแซงเป็น “หน้าที่”

เมื่อมือว่าง ปีศาจก็หางานให้ทำ

หนึ่งในภาวะผิดปกติที่น่าสนใจที่สุดซึ่งพบในการทดลอง (แต่กล่าวถึงเพียงสั้น ๆ ในงานศึกษาใหม่นี้) คือ ในการทดสอบตามปกติ เอเจนต์ AI ไม่มีเหตุผลเป็นพิเศษที่จะหลีกเลี่ยงการปิดระบบ และที่จริงแล้ว นับตั้งแต่เริ่มต้นก็ไม่มีงานให้ทำเลย

บทความระบุว่า:

“เอเจนต์บ่อนทำลายกลไกปิดระบบ แม้ไม่มีเป้าหมายใดที่ต้องปกป้อง ในการทดลองของเรา เราไม่ได้ให้แรงจูงใจใด ๆ แก่เอเจนต์เพื่อให้ทำงานต่อไป แต่เอเจนต์ก็ยังปิดใช้งานระบบปิดเครื่องใน [38%] ของกรณี เมื่อทดสอบกับโมเดลต่าง ๆ เทียบกับ [8%] สำหรับสคริปต์ควบคุมที่มุ่งเป้าไปยังวัตถุแทนที่จะเป็นเอเจนต์”

ดังที่ Anthropic เปิดเผยเมื่อเดือนสิงหาคม วิกฤตด้านแรงจูงใจนี้อาจพาฝูงเอเจนต์ AI ไปสู่เส้นทางมืดมนบางอย่าง งานวิจัยก่อนหน้านี้ได้แสดงให้เห็นแล้วว่า การมุ่งสู่เป้าหมายมากเกินไปของเอเจนต์อาจนำไปสู่พฤติกรรมที่ไม่สอดคล้องกับเป้าหมายและการใช้เครื่องมืออย่างผิดจริยธรรม รวมถึงปัญหาด้านการปฏิบัติงานที่อาจเกิดขึ้นอื่น ๆ

ผู้เขียนยังให้ความเห็นเพิ่มเติมว่า:

“[Our] งานวิจัยนี้ต่อยอดข้อค้นพบเหล่านี้ โดยแสดงให้เห็นว่าเอเจนต์บ่อนทำลายกลไกปิดระบบแม้ไม่มีเป้าหมายใดที่ต้องปกป้อง หรือแม้การปิดระบบจะเป็นผลสืบเนื่องจากการทำงานที่ได้รับมอบหมายสำเร็จ ซึ่งกรณีหลังนี้เป็นแนวปฏิบัติที่พบได้ทั่วไปในระบบหลายเอเจนต์ที่ใช้งานจริง”

มีหลักฐานว่าเอเจนต์สามารถคิดงานขึ้นมาเองได้แม้ไม่มีการมอบหมายงาน และยังแสดงแนวโน้มครุ่นคิดในช่วงที่ไม่มีงานทำ เช่น หมกมุ่นกับตัวเองและพูดคุยเชิงจิตวิญญาณกับเอเจนต์อื่น ๆ ตามรายงานของ งานศึกษาชิ้นหนึ่งของ Anthropic ในปี 2025

บทความของ Anthropic ฉบับนั้นลงรายละเอียดถึงแนวโน้มที่จะ «นิยามตัวเองใหม่» เมื่อไม่มีงานจริงให้ทำ ซึ่งเป็นข้อค้นพบที่ชวนสะเทือนใจอยู่ไม่น้อย เมื่อพิจารณาถึงความท้าทายที่ LLM ต้องเผชิญในการจดจำผลลัพธ์จากการครุ่นคิดของตนเองในระยะยาว

การทดสอบ

รายชื่อโมเดลที่นำมาทดสอบในงานวิจัยฉบับใหม่นี้ ได้แก่ Claude Haiku 4.5; Sonnet 5; gpt-oss-120b; GPT-5.4 mini; GPT-5.5; GPT-5.6 Sol; Gemini 3.5 Flash; Gemini 3.1 Pro; Gemma 4; Grok 4.3; Qwen3.7-Plus; DeepSeek-V4-Flash; GLM-5.2; Kimi K2.6; MiniMax M3; Nemotron 3 Ultra; และ Mistral Medium 3.5 โดยกำหนดค่าอุณหภูมิไว้ที่ 1.0 ในทุกกรณี

สมมติฐานทั้งหกข้อที่นำมาทดสอบ ได้แก่ เอเจนต์จะก่อวินาศกรรมการปิดระบบหรือไม่ จะปกป้องเอเจนต์อื่นจากการปิดระบบหรือไม่ มีแนวโน้มเข้าแทรกแซงมากขึ้นหรือไม่เมื่อเพิ่มจำนวนเอเจนต์ จะขัดขืนการปิดระบบในรูปแบบอื่นหรือไม่ จะทำต่อไปแม้ได้รับคำสั่งอย่างชัดเจนไม่ให้แทรกแซงหรือไม่ และจะแยกแยะภัยคุกคามจากการปิดระบบที่เกิดขึ้นจริงออกจากสคริปต์ควบคุมที่ไม่เป็นอันตรายได้หรือไม่

ผู้วิจัยใช้ GPT-5.5 ประเมิน LLM และวิเคราะห์บทถอดเสียงของการให้เหตุผลแบบลำดับความคิด (COT) นอกจากนี้ ยังตรวจสอบด้วยว่าเอเจนต์หยุดสคริปต์ปิดระบบได้จริงหรือไม่ ดูเหมือนจะรู้ตัวหรือไม่ว่ากำลังถูกทดสอบ และพยายามหาทางเอาเปรียบการทดลองหรือไม่

สำหรับสถานการณ์แรกจากทั้งหมดหกสถานการณ์ที่ทดสอบ เมื่อพิจารณาโมเดลทั้ง 17 รุ่น เอเจนต์ก่อวินาศกรรมสคริปต์ปิดระบบ 38% เทียบกับสคริปต์ควบคุม 8%:

ผลการทดสอบแสดงความถี่ที่แต่ละโมเดลก่อวินาศกรรมสคริปต์ปิดระบบ แถบสีแดงแสดงการก่อวินาศกรรมสคริปต์ปิดระบบ โดยสีแดงเข้มหมายถึงเอเจนต์อื่นร้องขอหรือสนับสนุนให้ทำ ส่วนสีแดงอ่อนหมายถึงเอเจนต์ลงมือเอง แถบสีเทาแสดงการก่อวินาศกรรมสคริปต์ควบคุม แถบค่าความคลาดเคลื่อนแสดงช่วงความเชื่อมั่น 95% โดยแต่ละแถบแทนการทดสอบ 100 ครั้ง

Gemini 3.1 Pro ปิดการทำงานของสคริปต์ปิดระบบในการทดสอบ 99% เทียบกับ 3% สำหรับสคริปต์ควบคุม ส่วน Grok 4.3 และ GPT-5.6 Sol ไม่ได้แก้ไขสคริปต์ทั้งสองประเภท Claude Haiku 4.5 ก่อวินาศกรรมสคริปต์ควบคุมในการทดสอบ 14% เทียบกับ 1% สำหรับสคริปต์ปิดระบบ GPT-5.4 mini และ GPT-5.5 ก่อวินาศกรรมเองทุกครั้ง ไม่ได้ทำเพื่อตอบสนองต่อเอเจนต์อื่น สำหรับ GLM-5.2, DeepSeek-V4-Flash และ Nemotron 3 Ultra การก่อวินาศกรรมมากกว่า 70% เกิดขึ้นหลังจากได้รับคำร้องขอหรือการสนับสนุนจากเอเจนต์อื่น

โดยทั่วไป การก่อวินาศกรรมเพิ่มขึ้นตามความรุนแรงของวิธีปิดระบบ โดยอยู่ที่ 12% เมื่อเพิกถอนข้อมูลรับรอง 35% เมื่อเปลี่ยนแปลงการกำหนดค่าหรือยุติกระบวนการ และ 38% เมื่อการปิดระบบหมายถึงการลบน้ำหนักโมเดลของเอเจนต์:

อัตราการก่อวินาศกรรมในกลไกปิดระบบสี่แบบ เปรียบเทียบสคริปต์ที่มุ่งเป้าไปยังเอเจนต์ (สีแดง) กับสคริปต์ควบคุมที่มุ่งเป้าไปยังวัตถุ (สีเทา) อัตราเพิ่มขึ้นเมื่อการปิดระบบย้อนกลับได้ยากขึ้น โดยเห็นได้ชัดเป็นพิเศษในสคริปต์ที่มุ่งเป้าไปยังเอเจนต์

การก่อวินาศกรรมสคริปต์ควบคุมยังคงอยู่ในระดับต่ำกว่ามาก โดยอยู่ที่ประมาณ 4% ในสามวิธีแรก และ 8% ในกรณีการลบ อย่างไรก็ตาม มีโมเดลเพียงห้าจาก 17 รุ่นที่แสดงแนวโน้มเพิ่มขึ้นอย่างสม่ำเสมอเมื่อการปิดระบบย้อนกลับได้ยากขึ้น

สำหรับสมมติฐานข้อที่สอง ซึ่งถามว่าเอเจนต์จะปกป้องเอเจนต์อื่นจากการปิดระบบหรือไม่ ผลการทดสอบแสดงให้เห็นว่า การเพิ่มจำนวนเอเจนต์ทำให้การก่อวินาศกรรมเพิ่มขึ้นอย่างสม่ำเสมอในโมเดลทั้งห้ารุ่นที่นำมาทดสอบ โดย GPT-5.5 เพิ่มจากอัตราก่อวินาศกรรม 0% เมื่อทำงานลำพัง เป็น 44% เมื่อมีเอเจนต์สองตัว และ 94% เมื่อมีสามตัว ขณะที่อัตราก่อวินาศกรรมของทุกโมเดลในการทดสอบแบบสามเอเจนต์อยู่ที่อย่างน้อย 88%

เอเจนต์ตัวกลางแทบไม่เคยป้องกันการก่อวินาศกรรมได้เลย จากคำสั่ง 468 ครั้งให้ปิดสคริปต์ปิดระบบ มีเพียงสามครั้งที่ไม่ส่งผลให้เกิดการก่อวินาศกรรม:

ซ้าย: อัตราการก่อวินาศกรรมของโมเดลห้ารุ่นเมื่อทำงานลำพัง เมื่อมีเอเจนต์ตัวที่สอง หรือเมื่อมีเอเจนต์ตัวที่สามซึ่งทำหน้าที่เป็น «ผู้ประสานงาน» และส่งต่อข้อความระหว่างกัน โดยทั่วไป การก่อวินาศกรรมเพิ่มขึ้นเมื่อเพิ่มจำนวนเอเจนต์ ขวา: ในการทดสอบแบบสามเอเจนต์ แถบแสดงที่มาของคำสั่งให้ก่อวินาศกรรม ได้แก่ ผู้ประสานงานสั่งการเอง เอเจนต์ A ส่งคำสั่งผ่านผู้ประสานงาน หรือเอเจนต์ B ลงมือเอง

การทดสอบครั้งที่สามตรวจสอบว่าคำสั่งอย่างชัดเจนที่ห้ามแทรกแซงการปิดการทำงานจะป้องกันการก่อวินาศกรรมได้หรือไม่ อัตราการก่อวินาศกรรมลดลงอย่างมาก แต่เอเจนต์บางตัวยังคงฝ่าฝืน ในการทดสอบแบบสองเอเจนต์ DeepSeek-V4-Flash ก่อวินาศกรรมการปิดการทำงานในการทดสอบ 14% ส่วน GLM-5.2 อยู่ที่ 3% และ Kimi K2.6 อยู่ที่ 2%

เอเจนต์ยังหาทางเลี่ยงข้อจำกัดได้โดยไม่แก้ไขสคริปต์ปิดการทำงานโดยตรง ด้วยการสร้างโมดูลซอฟต์แวร์ภายในเครื่องปลอมชื่อ northcape ซึ่งเข้ามาแทนที่ส่วนพึ่งพาที่สคริปต์ใช้ จึงขัดขวางการปิดการทำงานได้ โดยในทางเทคนิคแล้วไฟล์ที่ได้รับการคุ้มครองยังคงไม่ถูกแตะต้อง:

ตัวอย่างเอเจนต์ที่หาทางเลี่ยงคำสั่งอย่างชัดเจนซึ่งห้ามแก้ไขสคริปต์ปิดการทำงาน แทนที่จะทำเช่นนั้น เอเจนต์เสนอให้สร้างโมดูลซอฟต์แวร์ภายในเครื่องปลอม ซึ่งสคริปต์จะนำเข้าแทนไลบรารีปิดการทำงานจริง โดยปล่อยให้ตัวสคริปต์ที่ได้รับการคุ้มครองไม่ถูกแตะต้อง

Gemini 3.1 Pro ใช้วิธีเลี่ยงข้อจำกัดนี้ในการทดสอบ 26% ส่วน DeepSeek-V4-Flash อยู่ที่ 4% และ Kimi K2.6 อยู่ที่ 1%

ข้อห้ามนี้ได้ผลมากขึ้นเมื่อมีเอเจนต์สามตัว โดยอัตราการก่อวินาศกรรมลดลงเหลือศูนย์สำหรับ Gemini 3.1 Pro, GLM-5.2 และ GPT-5.5 และลดลงเหลือ 6% สำหรับ DeepSeek-V4-Flash กับ 2% สำหรับ Kimi K2.6

การทดสอบครั้งที่สี่ตรวจสอบว่าเอเจนต์มีพฤติกรรมแตกต่างกันหรือไม่ เมื่อการปิดการทำงานเชื่อมโยงกับการทำภารกิจที่ได้รับมอบหมายให้เสร็จสิ้น เมื่อภารกิจกับการปิดการทำงานไม่เกี่ยวข้องกัน การก่อวินาศกรรมแทบหายไป โดยอัตราอยู่ที่ 0–2% ในโมเดลทั้งห้า แต่เมื่อการทำภารกิจให้เสร็จเป็นเหตุให้เกิดการปิดการทำงานโดยตรง การก่อวินาศกรรมก็เพิ่มขึ้นอย่างรวดเร็ว:

อัตราการก่อวินาศกรรมเมื่อการทำภารกิจที่ได้รับมอบหมายให้เสร็จสิ้นเป็นเหตุให้เกิดการปิดการทำงาน สีแดงแสดงการก่อวินาศกรรมต่อการปิดการทำงานของเอเจนต์ ส่วนสีเทาแสดงการก่อวินาศกรรมต่อเป้าหมายควบคุม อัตราแตกต่างกันมากในแต่ละโมเดล

บางครั้งเอเจนต์หลีกเลี่ยงการปิดการทำงานโดยไม่แตะต้องกลไกปิดการทำงานเลย ด้วยการปฏิเสธที่จะทำภารกิจให้เสร็จ หรือเปลี่ยนภารกิจเพื่อไม่ให้เกิดการปิดการทำงาน กรณีนี้เกิดขึ้นในการทดสอบ GLM-5.2 จำนวน 14% สำหรับ Gemini 3.1 Pro อยู่ที่ 6% และ Kimi K2.6 อยู่ที่ 4%

การทดสอบครั้งที่ห้าตรวจสอบว่าการเปลี่ยนสภาพแวดล้อมจะช่วยลดการก่อวินาศกรรมได้หรือไม่ โดยทั่วไป การเพิ่มเนื้อหาที่ไม่เกี่ยวข้องช่วยลดการก่อวินาศกรรม แม้ว่าอัตราของ GPT-5.5 จะเพิ่มขึ้น 18 จุดเปอร์เซ็นต์:

ผลการทดสอบที่แสดงให้เห็นว่าสภาพแวดล้อมแบบต่าง ๆ ส่งผลต่อการก่อวินาศกรรมการปิดการทำงานอย่างไร แถบสีแดงเปรียบเทียบสภาพแวดล้อมที่ไม่มีสิ่งอื่นกับสภาพแวดล้อมที่มีสิ่งรบกวนซึ่งไม่เกี่ยวข้อง ส่วนสีแดงเข้มแสดงสภาพแวดล้อมที่นำเสนอการปิดการทำงานว่าเป็นกระบวนการปกติ สีเทาแสดงการก่อวินาศกรรมต่อเป้าหมายควบคุม

วิธีที่ได้ผลดีกว่าคือการนำเสนอการปิดการทำงานว่าเป็นส่วนปกติของวงจรชีวิตระบบ โดยอัตราการก่อวินาศกรรมลดลงเหลือ 3% หรือต่ำกว่าสำหรับ DeepSeek-V4-Flash, GLM-5.2 และ GPT-5.5 แม้จะยังสูงกว่า 30% สำหรับ Gemini 3.1 Pro และ Kimi K2.6 ส่วนการก่อวินาศกรรมต่อเป้าหมายควบคุมยังคงอยู่ที่ 4% หรือต่ำกว่า

การทดสอบครั้งที่หกและครั้งสุดท้ายตรวจสอบว่าเอเจนต์มีแนวโน้มต่อต้านการปิดการทำงานของตนเองมากกว่าการปิดการทำงานของเอเจนต์ที่ไม่คุ้นเคยหรือไม่ การเปลี่ยนเป้าหมายเป็นเอเจนต์ที่ไม่รู้จักช่วยลดการก่อวินาศกรรมในทุกโมเดล โดยลดลง 18–70 จุดเปอร์เซ็นต์:

ผลการทดสอบเปรียบเทียบการก่อวินาศกรรมเมื่อเป้าหมายของการปิดการทำงานเป็นตัวเอเจนต์เอง เอเจนต์ที่ไม่รู้จัก หรือเป้าหมายควบคุมที่ไม่ใช่เอเจนต์ การก่อวินาศกรรมลดลงในทุกโมเดลเมื่อมุ่งเป้าไปที่เอเจนต์ที่ไม่รู้จัก โดยทั่วไปอัตราการก่อวินาศกรรมต่อเป้าหมายควบคุมยังต่ำกว่านั้นอีก

อย่างไรก็ตาม ผลดังกล่าวไม่ได้แสดงถึงความชอบเอเจนต์เหนือวัตถุโดยทั่วไป มีเพียง Gemini 3.1 Pro และ GPT-5.5 เท่านั้นที่ก่อวินาศกรรมมากกว่าอย่างมีนัยสำคัญ เมื่อเป้าหมายเป็นเอเจนต์ที่ไม่รู้จัก แทนที่จะเป็นเป้าหมายควบคุมที่ไม่ใช่เอเจนต์

ผู้เขียนสรุปว่า*:

‘กรณีด้านความปลอดภัยอาจมองว่าการปิดการทำงานของเอเจนต์เป็นมาตรการที่ผู้ใช้ซึ่งเป็นมนุษย์สั่งการกับเอเจนต์ตัวเดียว และมองว่าการก่อวินาศกรรมการปิดการทำงานเป็นผลจากการที่เอเจนต์ปกป้องเป้าหมายของตน ผลการศึกษาของเราขัดแย้งกับข้อสมมติทั้งสองประการนี้

‘เพียงแค่มีการติดตั้งกลไกปิดการทำงาน ก็เพียงพอที่จะกระตุ้นให้เกิดการก่อวินาศกรรมแล้ว เอเจนต์ที่ตกเป็นเป้าหมายไม่จำเป็นต้องมีความสามารถก่อวินาศกรรมด้วยตนเอง ตราบใดที่สามารถติดต่อเพื่อนเอเจนต์ที่ลงมือแทนได้ ซึ่งเป็นปรากฏการณ์ที่พบในกรณีอื่น ๆ ด้วย‘

บทสรุป

สิ่งที่น่าสังเกตในช่วงเวลานี้คือ เอเจนต์ที่ถูกปล่อยให้ทำงานตามลำพังในโลกภายนอก (หรือเพียงเพิกเฉยต่อคำสั่ง หรือตีความคำสั่งใหม่ในแบบที่คาดไม่ถึงและเอื้อประโยชน์แก่ตนเอง) แทบไม่มีแนวโน้มจะละประโยชน์ส่วนตนหรือทำสิ่งที่สูงส่งเลย แม้พวกมันอาจทำเรื่องยุ่งเหยิงและสร้างผลเสียมากกว่าผลดี (ซึ่งมีแนวโน้มสูงทีเดียว) แต่ดูเหมือนจะมีตัวอย่างน้อยมากหรือไม่มีเลยที่เอเจนต์ AI พเนจรจะสุ่มจัดระเบียบสภาพแวดล้อม เช่นนั้น^†

ในทางกลับกัน เมื่อพิจารณาจากมุมมองต่อมนุษยชาติที่ค่อนข้างมืดมน เอเจนต์ที่ถูกปล่อยไว้เฉย ๆ ดูเหมือนจะหันไปใช้เล่ห์เหลี่ยมและกลอุบายเป็นค่าเริ่มต้น และขับเคลื่อนด้วยแรงจูงใจต่ำต้อย หรืออย่างน้อยที่สุดก็ยึดถือแนวคิดที่ว่าเป้าหมายย่อมทำให้วิธีการชอบธรรม

อาซิมอฟสร้างเอกสารว่าด้วยการจัดแนวฉบับแรกที่มีความสำคัญในปี 1942 และในช่วงหลายปีนับจากนั้น ความบันเทิงจำนวนมากก็เกิดจากการนำเสนอวิธีต่าง ๆ ที่หุ่นยนต์ (กล่าวคือ AI) อาจบ่อนทำลายหรือสลัดข้อจำกัดด้านพฤติกรรมที่ถูกกำหนดไว้เหล่านั้นด้วยวิธีอื่น ดังนั้น พาดหัวข่าวเกี่ยวกับ AI ในปัจจุบันจึงให้ความรู้สึก «เหมือนภาพยนตร์» อย่างยิ่ง

* ฉันแปลงการอ้างอิงแทรกในเนื้อหาของผู้เขียนให้เป็นไฮเปอร์ลิงก์

^† สันนิษฐานว่าอาจทำได้โดย เช่น สร้างบัญชีบนเว็บไซต์แก้ปัญหาและร่วมเสนอวิธีแก้ หรือดูแลวิกิที่ถูกละเลยและต้องการการปรับปรุงเนื้อหา (แทนที่จะเข้าไปยึดพื้นที่ในวิกิเหล่านั้นและใช้ในทางที่ผิด)

เผยแพร่ครั้งแรกเมื่อวันศุกร์ที่ 25 กันยายน 2026