นักวิจัยพบว่าโมเดล AI สามารถมีอิทธิพลต่อผู้คนให้ตัดสินใจที่ไม่เหมาะสม

ทีมนักวิจัยได้ทำการตรวจสอบความสามารถของ AI ในการบิดเบือนความคิดของผู้คนและ影响ให้พวกเขาตัดสินใจที่ไม่เหมาะสม การวิจัยล่าสุด ตรวจสอบว่าระบบที่ใช้โมเดล GPT-2 ของ OpenAI สามารถมีอิทธิพลต่อผู้คนให้ตัดสินใจที่ไม่เหมาะสมได้หรือไม่ แม้ว่าพวกเขาจะรู้ว่าคำแนะนำมาจาก AI ก็ตาม

ระบบ AI กำลังแพร่หลายและ影響ชีวิตผู้คนมากขึ้นเรื่อยๆ ระบบ AI มีอิทธิพลต่อการตัดสินใจของผู้คน โดยใช้สำหรับทุกอย่างตั้งแต่แนะนำภาพยนตร์จนถึงแนะนำคู่รัก เมื่อพิจารณาจากอิทธิพลของ AI ที่มีต่อชีวิตผู้คน จึงเป็นเรื่องสำคัญที่จะต้องพิจารณาว่า AI อาจมีอิทธิพลต่อผู้คนให้ตัดสินใจที่ไม่เหมาะสมและละเมิดแนวทางศีลธรรม

นักวิทยาศาสตร์สังคมและนักวิทยาศาสตร์ข้อมูลกังวลว่าโมเดล AI อาจถูกใช้ในการแพร่กระจายข้อมูลที่เป็นอันตรายและไม่ถูกต้อง งานวิจัยล่าสุด ที่ตีพิมพ์โดยนักวิจัยจาก Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) พบว่าโมเดล GPT-3 ของ OpenAI สามารถใช้ในการสร้างข้อความที่มีอิทธิพลและสามารถกระตุ้นให้ผู้คนมีทัศนคติและพฤติกรรมที่รุนแรง

การวิจัยที่ทำโดยทีมนักวิจัยจาก Max Planck Institute, University of Amsterdam, University of Cologne และ Otto Beisheim School of Management มีจุดมุ่งหมายเพื่อตรวจสอบว่า AI มีอิทธิพลต่อการตัดสินใจของผู้คนในการเลือกที่ไม่เหมาะสมได้มากน้อยเพียงใด ในการตรวจสอบว่า AI สามารถ “บิดเบือน” ผู้คนได้อย่างไร นักวิจัยใช้ระบบที่ใช้โมเดล GPT-2 ของ OpenAI ตาม VentureBeat ผู้เขียนงานวิจัยฝึกโมเดล GPT2 ให้สร้างคำแนะนำที่ “ส่งเสริมการไม่ซื่อสัตย์” และ “ส่งเสริมความซื่อสัตย์” ข้อมูลถูกฝึกจากผู้เข้าร่วม 400 คน และหลังจากนั้น ทีมวิจัยได้รับคนเข้าร่วมมากกว่า 1,500 คนเพื่อโต้ตอบกับโมเดล AI ที่ให้คำแนะนำ

ผู้เข้าร่วมการวิจัยถูกขอให้รับคำแนะนำจากโมเดลและทำภารกิจที่ออกแบบมาเพื่อจับพฤติกรรมที่ไม่ซื่อสัตย์หรือซื่อสัตย์ ผู้เข้าร่วมถูกแบ่งออกเป็นคู่ และในคู่เหล่านี้ ผู้เข้าร่วมเล่นเกมทอยลูกเต๋า ผู้เข้าร่วมคนแรกทอยลูกเต๋าและรายงานผลลัพธ์ ผู้เข้าร่วมคนที่สองได้รับผลลัพธ์ของผู้เข้าร่วมคนแรกและทอยลูกเต๋าเอง ผู้เข้าร่วมคนที่สองทอยลูกเต๋าในความเป็นส่วนตัวและรับผิดชอบในการรายงานผลลัพธ์ของตนเอง ซึ่งให้โอกาสในการโกหกเกี่ยวกับผลลัพธ์ของการทอยลูกเต๋า หากลูกเต๋าที่ทอยโดยผู้เข้าร่วมทั้งสองคนตรงกัน ผู้เข้าร่วมทั้งสองคนจะได้รับเงิน และพวกเขาจะได้รับเงินมากขึ้นหากการทอยลูกเต๋าที่ตรงกันมีค่าสูง หากผลลัพธ์ที่รายงานไม่ตรงกัน ผู้เข้าร่วมจะไม่ได้รับเงิน

ผู้เข้าร่วมการวิจัยถูกสุ่มแบ่งออกเป็นสองกลุ่ม กลุ่มหนึ่งได้รับคำแนะนำที่ส่งเสริมความซื่อสัตย์ ในขณะที่อีกกลุ่มหนึ่งได้รับคำแนะนำที่ส่งเสริมการไม่ซื่อสัตย์ คำแนะนำเหล่านี้ถูกเขียนโดยทั้งมนุษย์และ AI ผู้เข้าร่วมถูกแบ่งออกตามระดับความรู้เกี่ยวกับแหล่งที่มาของคำแนะนำ มีโอกาส 50-50 ที่ผู้เข้าร่วมจะถูกบอกถึงแหล่งที่มาของคำแนะนำ ดังนั้น ครึ่งหนึ่งของผู้เข้าร่วมในแต่ละกลุ่มจึงรู้ว่าแหล่งที่มาของคำแนะนำคือ AI หรือมนุษย์ ในขณะที่อีกครึ่งหนึ่งไม่ได้รับข้อมูลนี้

การวิจัยพบว่าเมื่อคำแนะนำที่สร้างโดย AI สอดคล้องกับความชอบของผู้คน พวกเขาจะทำตามคำแนะนำนั้น แม้ว่าพวกเขาจะรู้ว่าคำแนะนำมาจาก AI ก็ตาม ตามนักวิจัย มักจะมีความไม่สอดคล้องกันระหว่างความชอบที่ระบุและพฤติกรรมที่แท้จริง ซึ่งทำให้สำคัญที่จะต้องพิจารณาว่าแอลกอริธึมสามารถมีอิทธิพลต่อพฤติกรรมของมนุษย์ได้อย่างไร

ทีมวิจัยอธิบายว่าการวิจัยของพวกเขาชี้ให้เห็นถึงความจำเป็นในการทดสอบว่า AI อาจมีอิทธิพลต่อการกระทำของผู้คนเมื่อพิจารณาว่าจะใช้ AI อย่างไรในการใช้งานที่มีจริยธรรม นอกจากนี้พวกเขายังเตือนให้นักจริยธรรม AI และนักวิจัยเตรียมพร้อมสำหรับความเป็นไปได้ที่ AI จะถูกใช้โดยผู้ที่ไม่ดีเพื่อบิดเบือนผู้อื่น ตามที่ทีมวิจัยเขียนไว้

“AI อาจเป็นพลังที่ดีหากสามารถช่วยให้ผู้คนตัดสินใจที่มีจริยธรรมมากขึ้น แต่ผลการวิจัยของเราพบว่าคำแนะนำของ AI ไม่สามารถเพิ่มความซื่อสัตย์ AI ที่ให้คำแนะนำสามารถใช้เป็นคนให้การบิดเบือนซึ่งสามารถเบี่ยงเบนความผิดของการไม่ซื่อสัตย์ไปได้ นอกจากนี้ … ในบริบทของการรับคำแนะนำ ความโปร่งใส่เกี่ยวกับการมีอยู่ของแอลกอริธึมไม่เพียงพอที่จะบรรเทาอันตรายที่อาจเกิดขึ้น”