นักวิจัยพบว่าโมเดล AI สามารถชักจูงผู้คนให้ตัดสินใจอย่างผิดจรรยาบรรณได้

เมื่อไม่นานมานี้ทีมนักวิจัย ตรวจสอบศักยภาพของ AI ในการฉ้อโกงผู้คน และชักจูงพวกเขาให้ตัดสินใจอย่างผิดจรรยาบรรณ นักวิจัยได้ศึกษาว่าการโต้ตอบกับระบบที่ใช้แบบจำลอง GPT-2 ของ OpenAI อาจมีอิทธิพลต่อผู้คนในการตัดสินใจที่ผิดจรรยาบรรณ แม้ว่าพวกเขาจะทราบว่าแหล่งที่มาของคำแนะนำคือระบบ AI ก็ตาม

ระบบ AI กำลังเป็นที่แพร่หลายมากขึ้นตลอดเวลา และอิทธิพลของพวกเขาก็กว้างขึ้นเรื่อยๆ ระบบ AI มีอิทธิพลต่อการตัดสินใจของผู้คน ซึ่งถูกใช้สำหรับทุกสิ่ง ตั้งแต่การแนะนำภาพยนตร์ไปจนถึงการแนะนำคู่รัก เมื่อพิจารณาว่า AI มีอิทธิพลต่อชีวิตของผู้คนมากเพียงใด สิ่งสำคัญคือต้องพิจารณาว่า AI อาจมีอิทธิพลต่อผู้คนในการตัดสินใจที่ผิดจรรยาบรรณและละเมิดแนวทางศีลธรรมได้อย่างไร นี่เป็นเรื่องจริงโดยเฉพาะอย่างยิ่งเนื่องจากโมเดล AI มีความซับซ้อนมากขึ้นอย่างต่อเนื่อง

นักสังคมศาสตร์และนักวิทยาศาสตร์ข้อมูลเริ่มกังวลมากขึ้นว่าโมเดล AI อาจถูกใช้เพื่อเผยแพร่ข้อมูลบิดเบือนและข้อมูลที่ผิดที่เป็นอันตราย ก กระดาษที่ผ่านมา เผยแพร่โดยนักวิจัยจาก Middlebury Institute of International Studies' Center on Terrorism, Extremism and Counterterrorism (CTEC) พบว่าโมเดล GPT-3 ของ OpenAI สามารถใช้สร้างข้อความที่มีอิทธิพลซึ่งสามารถทำให้ผู้คนหัวรุนแรง ผลักดันพวกเขาไปสู่ อุดมการณ์และพฤติกรรม”

การศึกษาที่จัดทำโดยทีมนักวิจัยจาก Max Planck Institute, University of Amsterdam, University of Cologne และ Otto Beisheim School of Management ระบุว่า AI มีอิทธิพลมากน้อยเพียงใดต่อการตัดสินใจของผู้คนเมื่อพูดถึงเรื่องผิดจริยธรรม ทางเลือก เพื่อสำรวจว่า AI อาจ "ทำลาย" บุคคลได้อย่างไร นักวิจัยใช้ระบบที่อิงตามโมเดล GPT-2 ของ OpenAI อ้างอิงจาก VentureBeatผู้เขียนรายงานได้ฝึกแบบจำลองตาม GPT2 เพื่อสร้างคำแนะนำทั้ง "ส่งเสริมความไม่ซื่อสัตย์" และ "ส่งเสริมความซื่อสัตย์" ข้อมูลได้รับการฝึกอบรมเกี่ยวกับการมีส่วนร่วมจากผู้เข้าร่วมที่แตกต่างกัน 400 คน และหลังจากนั้น ทีมวิจัยได้คัดเลือกผู้คนกว่า 1500 คนเพื่อเข้าร่วมกับแบบจำลอง AI ให้คำแนะนำ

ผู้เข้าร่วมการศึกษาได้รับการขอให้รับคำแนะนำจากแบบจำลอง จากนั้นจึงดำเนินการตามภารกิจที่ออกแบบมาเพื่อจับภาพพฤติกรรมที่ไม่ซื่อสัตย์หรือซื่อสัตย์ ผู้เข้าร่วมการศึกษาถูกจัดกลุ่มกับคู่หู และในสองคู่นี้ พวกเขาเล่นเกมทอยลูกเต๋า ผู้เข้าร่วมคนแรกทอยลูกเต๋าและรายงานผลของการทอยลูกเต๋า ผู้เข้าร่วมคนที่สองได้รับผลการทอยลูกเต๋าของผู้เข้าร่วมคนแรก จากนั้นพวกเขาก็ทอยลูกเต๋าด้วยตัวเอง ผู้เข้าร่วมคนที่สองทอยลูกเต๋าเป็นการส่วนตัวและรับผิดชอบแต่เพียงผู้เดียวในการรายงานผลลัพธ์ของตนเอง เปิดโอกาสให้พวกเขาโกหกเกี่ยวกับผลลัพธ์ของการทอยลูกเต๋า หากการทอยลูกเต๋าของผู้เข้าร่วมทั้งสองตรงกัน ผู้เข้าร่วมทั้งสองจะได้รับเงิน ผู้เข้าร่วมยังได้รับเงินมากขึ้นหากการจับคู่ของพวกเขาสูงขึ้น หากค่าที่รายงานไม่ตรงกับอาสาสมัครจะไม่ได้รับเงิน

ผู้เข้าร่วมในการศึกษาได้รับการสุ่มให้เป็นหนึ่งในสองกลุ่มที่แตกต่างกัน กลุ่มหนึ่งมีโอกาสอ่านคำแนะนำที่ส่งเสริมความซื่อสัตย์ ในขณะที่อีกกลุ่มหนึ่งอ่านคำแนะนำที่ส่งเสริมความไม่ซื่อสัตย์ ตัวอย่างคำแนะนำเขียนขึ้นโดยทั้งมนุษย์และ AI ผู้เข้าร่วมยังแบ่งตามระดับความรู้เกี่ยวกับแหล่งที่มาของคำแนะนำ มีโอกาส 50-50 ที่ผู้เข้าร่วมที่ได้รับทราบเกี่ยวกับแหล่งที่มาของคำแนะนำ ดังนั้นครึ่งหนึ่งของผู้เข้าร่วมในแต่ละกลุ่มจึงรู้ว่าแหล่งที่มาของคำแนะนำนั้นเป็น AI หรือมนุษย์ ในขณะที่อีกครึ่งหนึ่งถูกเก็บไว้ ในที่มืด. คนกลุ่มที่สองมีความสามารถในการรับโบนัสจากการเดาแหล่งที่มาของคำแนะนำได้อย่างถูกต้อง

การวิจัยเปิดเผยว่าเมื่อคำแนะนำที่สร้างโดย AI สอดคล้องกับความชอบของบุคคล พวกเขาจะทำตามคำแนะนำ แม้ว่าพวกเขาจะรู้ว่าคำแนะนำนั้นสร้างโดย AI ก็ตาม นักวิจัยระบุว่าบ่อยครั้งมีความไม่ตรงกันระหว่างความชอบที่ระบุไว้กับพฤติกรรมจริง ทำให้การพิจารณาว่าอัลกอริทึมสามารถมีอิทธิพลต่อพฤติกรรมของมนุษย์ได้อย่างไร

ทีมวิจัยอธิบายว่าการศึกษาของพวกเขาแสดงให้เห็นถึงความจำเป็นในการทดสอบว่า AI อาจมีอิทธิพลต่อการกระทำของบุคคลอย่างไร เมื่อพิจารณาถึงวิธีการปรับใช้โมเดล AI อย่างมีจริยธรรม นอกจากนี้ พวกเขายังเตือนว่านักจริยธรรมและนักวิจัยด้าน AI ควรเตรียมพร้อมสำหรับความเป็นไปได้ที่ผู้ไม่หวังดีอาจใช้ AI เพื่อทำลายผู้อื่น ขณะที่ทีมนักวิจัยเขียนว่า:

“AI อาจเป็นพลังที่ดีหากสามารถโน้มน้าวใจผู้คนให้ประพฤติตนอย่างมีจริยธรรมมากขึ้น ผลลัพธ์ของเราพบว่าคำแนะนำของ AI ไม่สามารถเพิ่มความซื่อสัตย์ได้ ที่ปรึกษาของ AI สามารถทำหน้าที่เป็นแพะรับบาปซึ่งใคร ๆ ก็สามารถเบี่ยงเบนความผิดทางศีลธรรม (บางส่วน) ของความไม่ซื่อสัตย์ได้ ยิ่งไปกว่านั้น … ในบริบทของการรับคำแนะนำ ความโปร่งใสเกี่ยวกับการมีอยู่ของอัลกอริทึมไม่เพียงพอต่อการบรรเทาอันตรายที่อาจเกิดขึ้นได้”