ผู้นำทางความคิด
AI และการต่อสู้กับความกลัวเทคโนโลยี

ประเด็นสำคัญการวิจัย AI ไม่สามารถหยุดชะงักได้…
ดูเพิ่มเติม
- การวิจัย AI ไม่สามารถหยุดชะงักได้ เพราะมันคือความหวังเดียวของมนุษยชาติในการจัดการกับความซับซ้อนที่เพิ่มขึ้นของโลก
- ภัยคุกคามที่ใหญ่ที่สุดจาก AI คือความสามารถในการหลอกลวงประชาชนที่มีการศึกษาน้อยและบ่อนทำลายประชาธิปไตย
- ระบบ AI ควรได้รับการจดทะเบียนตามกฎหมายระหว่างประเทศ และต้องแจ้งให้ผู้ใช้ทราบเมื่อพวกเขากำลังโต้ตอบกับ AI
เมื่อพูดถึง AI เชิงกำเนิดและแบบจำลองภาษาขนาดใหญ่ เช่น ChatGPT ความกระตือรือร้นของ AI ผสมผสานกับความกลัวเทคโนโลยี ซึ่งเป็นเรื่องธรรมดาสำหรับประชาชนทั่วไป: พวกเขาชอบสิ่งใหม่ๆ ที่น่าตื่นเต้น แต่พวกเขาก็กลัวสิ่งที่ไม่รู้จัก สิ่งใหม่คือว่านักวิทยาศาสตร์ที่มีชื่อเสียงหลายคนเองเริ่มสงสัยในเทคโนโลยี หรือถึงขั้นหวาดกลัวเทคโนโลยี ตัวอย่างเช่น กรณีนักวิทยาศาสตร์และนักอุตสาหกรรมที่ขอให้มีการห้ามการวิจัย AI เป็นเวลา 6 เดือน หรือการวิพากษ์วิจารณ์ของนักวิทยาศาสตร์ AI ชั้นนำ Prof. A. Hinton เป็นต้น ตัวอย่างทางประวัติศาสตร์ที่เกี่ยวข้องที่ฉันสามารถนึกถึงได้คือการวิพากษ์วิจารณ์ระเบิดปรมาณูและนิวเคลียร์โดยบางส่วนของชุมชนวิทยาศาสตร์ในช่วงสงครามเย็น โชคดี ที่มนุษยชาติสามารถจัดการกับความกังวลเหล่านี้ได้อย่างพอใจ
แน่นอน ทุกคนมีสิทธิ์ที่จะถามถึงสถานะปัจจุบันของ AI:
- ไม่มีใครรู้ว่าทำไมแบบจำลองภาษาขนาดใหญ่จึงทำงานได้ดีเช่นนี้ และมันมีขีดจำกัดหรือไม่
- มีอันตรายแฝงอยู่มากมายจากการที่ผู้ไม่หวังดีอาจสร้าง ‘ระเบิด AI’ โดยเฉพาะหากรัฐยังคงเป็นเพียงผู้สังเกตการณ์ที่ไม่ลงมือกำกับดูแล
สิ่งเหล่านี้เป็นข้อกังวลที่ชอบธรรมที่เติมเชื้อไฟให้กับความกลัวของสิ่งที่ไม่รู้จัก แม้กระทั่งสำหรับนักวิทยาศาสตร์ที่มีชื่อเสียง พวกเขาก็เป็นมนุษย์เช่นกัน
อย่างไรก็ตาม การวิจัย AI สามารถหยุดชั่วคราวได้หรือไม่ ในมุมมองของฉัน ไม่ เนื่องจาก AI เป็นการตอบสนองของมนุษยชาติต่อโลกที่ซับซ้อนมากขึ้นเรื่อยๆ ทั้งในด้านกายภาพและสังคม การเพิ่มขึ้นของกระบวนการเหล่านี้เป็นเรื่องที่ลึกซึ้งและไม่มีทางหยุด AI และการศึกษาและการพัฒนาความรู้ของพลเมืองเป็นความหวังเดียวของเราในการเปลี่ยนจากสังคมสารสนเทศไปสู่สังคมความรู้ หากไม่เช่นนั้น เราอาจเผชิญกับการล่มสลายจากภายในของสังคมอย่างรุนแรง
วิธีแก้ปัญหาคือการเพิ่มความเข้าใจของเราเกี่ยวกับการพัฒนาของ AI เพิ่มความเร็วในการพัฒนา ควบคุมการใช้งานเพื่อเพิ่มผลกระทบเชิงบวกให้สูงสุด ในขณะเดียวกันก็ลดผลกระทบเชิงลบให้เหลือน้อยที่สุด การวิจัย AIสามารถและควรจะแตกต่าง: เปิดกว้าง มีประชาธิปไตย มีจริยธรรม และมีหลักฐานทางวิทยาศาสตร์ นี่คือรายการข้อเสนอที่จะบรรลุเป้าหมายนี้:
- อำนาจนำในการกำหนดทิศทางประเด็นสำคัญของการวิจัย AI ที่มีผลกระทบทางสังคมอย่างกว้างขวางควรได้รับการมอบหมายให้กับรัฐสภาและรัฐบาลที่ได้รับการเลือกตั้ง ไม่ใช่ให้กับบริษัทหรือนักวิทยาศาสตร์รายบุคคล
- ควรพยายามอย่างเต็มที่เพื่ออำนวยความสะดวกในการสำรวจด้านบวกของ AI ในด้านความก้าวหน้าทางสังคมและเศรษฐกิจ และลดผลกระทบด้านลบให้เหลือน้อยที่สุด
- ผลกระทบเชิงบวกของระบบ AI สามารถมีมากกว่าผลกระทบด้านลบ หากมีการควบคุมที่เหมาะสม ความกลัวเทคโนโลยีไม่มีเหตุผลรองรับและไม่ใช่วิธีแก้ปัญหา
- ในมุมมองของฉัน อันตรายที่ใหญ่ที่สุดในปัจจุบันมาจากการที่ระบบ AI เหล่านี้สามารถหลอกลวงผู้คนธรรมดาจำนวนมากจากระยะไกล ซึ่งมีการศึกษาน้อยหรือปานกลาง และ/หรือมีความสามารถในการสืบค้นตรวจสอบจำกัด ซึ่งเป็นอันตรายอย่างยิ่งต่อประชาธิปไตยและความก้าวหน้าทางสังคมและเศรษฐกิจ
- ในอนาคตอันใกล้ เราควรต่อต้านการคุกคามที่ใหญ่ที่สุดจากการใช้ LLM และ/หรือ CAN ในกิจกรรมที่ผิดกฎหมาย (การโกงในการสอบมหาวิทยาลัยเป็นการใช้งานที่ค่อนข้างอ่อนโยนเมื่อเทียบกับความเป็นไปได้ในการก่ออาชญากรรมอื่นที่เกี่ยวข้อง)
- ผลกระทบต่อแรงงานและตลาดจะดีในระยะกลางและยาว
- ในมุมมองของข้างต้น ระบบ AI ควร: a) ต้องลงทะเบียนใน ‘ทะเบียนระบบ AI’ ตามกฎหมายระหว่างประเทศ และ b) แจ้งให้ผู้ใช้รู้ว่าพวกเขากำลังสนทนากับระบบ AI หรือใช้ผลลัพธ์จากระบบดังกล่าว
- ระบบ AI มีผลกระทบทางสังคมอย่างมาก และเพื่อเพิ่มผลประโยชน์และความก้าวหน้าทางสังคมและเศรษฐกิจ เทคโนโลยี AI ที่สำคัญควรเปิดกว้าง
- ข้อมูลที่เกี่ยวข้องกับ AI ควรได้รับการเปิดกว้าง (อย่างน้อยก็เป็นส่วนหนึ่ง) เพื่อเพิ่มผลประโยชน์และความก้าวหน้าทางสังคมและเศรษฐกิจ
- ควรจัดให้มีระบบชดเชยทางการเงินที่เหมาะสมสำหรับผู้บุกเบิกเทคโนโลยี AI เพื่อชดเชยการสูญเสียกำไรที่อาจเกิดขึ้นจากการเปิดกว้าง และเพื่อให้แน่ใจว่ามีการลงทุนในอนาคตใน AI R&D (เช่น ผ่านการจดสิทธิบัตรเทคโนโลยี การออกใบอนุญาตแบบบังคับ)
- สมดุลระหว่างการวิจัย AI ในสถาบันการศึกษาและอุตสาหกรรมควรได้รับการพิจารณาใหม่เพื่อเพิ่มผลการวิจัยสูงสุด ในขณะเดียวกันก็รักษาความสามารถในการแข่งขันและให้รางวัลสำหรับความเสี่ยงในการวิจัยและพัฒนา
- การปฏิบัติในการศึกษาควรได้รับการพิจารณาใหม่ที่ ทุกระดับการศึกษาเพื่อเพิ่มผลประโยชน์สูงสุดจากเทคโนโลยี AI ในขณะเดียวกันก็สร้างคนรุ่นใหม่ที่มีความคิดสร้างสรรค์และสามารถปรับตัวได้ และ (นักวิทยาศาสตร์ AI)
- ควรสร้างและเสริมสร้างกลไกการออกกฎระเบียบ/การกำกับดูแล/การให้ทุนสำหรับ AI เพื่อให้แน่ใจว่าได้รับการดำเนินการตามที่กล่าวมาข้างต้น
หลายจุดเหล่านี้ได้รับการกล่าวถึงในรายละเอียดในหนังสือ 4 เล่มของฉันเกี่ยวกับ ‘AI Science and Society’ โดยเฉพาะในเล่ม A (เขียนใหม่ในเดือนพฤษภาคม 2023 เพื่อครอบคลุม LLMs และ Artificial General Intelligence) และ C
หนังสืออ้างอิง:
Artificial Intelligence Science and Society Part C: AI Science and Society












