ผู้นำทางความคิด

AI และการต่อสู้กับความกลัวเทคโนโลยี

Prof. Ioannis Pitas
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการวิจัย AI ไม่สามารถหยุดชะงักได้…
ดูเพิ่มเติม
  • การวิจัย AI ไม่สามารถหยุดชะงักได้ เพราะมันคือความหวังเดียวของมนุษยชาติในการจัดการกับความซับซ้อนที่เพิ่มขึ้นของโลก
  • ภัยคุกคามที่ใหญ่ที่สุดจาก AI คือความสามารถในการหลอกลวงประชาชนที่มีการศึกษาน้อยและบ่อนทำลายประชาธิปไตย
  • ระบบ AI ควรได้รับการจดทะเบียนตามกฎหมายระหว่างประเทศ และต้องแจ้งให้ผู้ใช้ทราบเมื่อพวกเขากำลังโต้ตอบกับ AI

เมื่อพูดถึง AI เชิงกำเนิดและแบบจำลองภาษาขนาดใหญ่ เช่น ChatGPT ความกระตือรือร้นของ AI ผสมผสานกับความกลัวเทคโนโลยี ซึ่งเป็นเรื่องธรรมดาสำหรับประชาชนทั่วไป: พวกเขาชอบสิ่งใหม่ๆ ที่น่าตื่นเต้น แต่พวกเขาก็กลัวสิ่งที่ไม่รู้จัก สิ่งใหม่คือว่านักวิทยาศาสตร์ที่มีชื่อเสียงหลายคนเองเริ่มสงสัยในเทคโนโลยี หรือถึงขั้นหวาดกลัวเทคโนโลยี ตัวอย่างเช่น กรณีนักวิทยาศาสตร์และนักอุตสาหกรรมที่ขอให้มีการห้ามการวิจัย AI เป็นเวลา 6 เดือน หรือการวิพากษ์วิจารณ์ของนักวิทยาศาสตร์ AI ชั้นนำ Prof. A. Hinton เป็นต้น ตัวอย่างทางประวัติศาสตร์ที่เกี่ยวข้องที่ฉันสามารถนึกถึงได้คือการวิพากษ์วิจารณ์ระเบิดปรมาณูและนิวเคลียร์โดยบางส่วนของชุมชนวิทยาศาสตร์ในช่วงสงครามเย็น โชคดี ที่มนุษยชาติสามารถจัดการกับความกังวลเหล่านี้ได้อย่างพอใจ

แน่นอน ทุกคนมีสิทธิ์ที่จะถามถึงสถานะปัจจุบันของ AI:

  • ไม่มีใครรู้ว่าทำไมแบบจำลองภาษาขนาดใหญ่จึงทำงานได้ดีเช่นนี้ และมันมีขีดจำกัดหรือไม่
  • มีอันตรายแฝงอยู่มากมายจากการที่ผู้ไม่หวังดีอาจสร้าง ‘ระเบิด AI’ โดยเฉพาะหากรัฐยังคงเป็นเพียงผู้สังเกตการณ์ที่ไม่ลงมือกำกับดูแล

สิ่งเหล่านี้เป็นข้อกังวลที่ชอบธรรมที่เติมเชื้อไฟให้กับความกลัวของสิ่งที่ไม่รู้จัก แม้กระทั่งสำหรับนักวิทยาศาสตร์ที่มีชื่อเสียง พวกเขาก็เป็นมนุษย์เช่นกัน

อย่างไรก็ตาม การวิจัย AI สามารถหยุดชั่วคราวได้หรือไม่ ในมุมมองของฉัน ไม่ เนื่องจาก AI เป็นการตอบสนองของมนุษยชาติต่อโลกที่ซับซ้อนมากขึ้นเรื่อยๆ ทั้งในด้านกายภาพและสังคม การเพิ่มขึ้นของกระบวนการเหล่านี้เป็นเรื่องที่ลึกซึ้งและไม่มีทางหยุด AI และการศึกษาและการพัฒนาความรู้ของพลเมืองเป็นความหวังเดียวของเราในการเปลี่ยนจากสังคมสารสนเทศไปสู่สังคมความรู้ หากไม่เช่นนั้น เราอาจเผชิญกับการล่มสลายจากภายในของสังคมอย่างรุนแรง

วิธีแก้ปัญหาคือการเพิ่มความเข้าใจของเราเกี่ยวกับการพัฒนาของ AI เพิ่มความเร็วในการพัฒนา ควบคุมการใช้งานเพื่อเพิ่มผลกระทบเชิงบวกให้สูงสุด ในขณะเดียวกันก็ลดผลกระทบเชิงลบให้เหลือน้อยที่สุด การวิจัย AIสามารถและควรจะแตกต่าง: เปิดกว้าง มีประชาธิปไตย มีจริยธรรม และมีหลักฐานทางวิทยาศาสตร์ นี่คือรายการข้อเสนอที่จะบรรลุเป้าหมายนี้:

  • อำนาจนำในการกำหนดทิศทางประเด็นสำคัญของการวิจัย AI ที่มีผลกระทบทางสังคมอย่างกว้างขวางควรได้รับการมอบหมายให้กับรัฐสภาและรัฐบาลที่ได้รับการเลือกตั้ง ไม่ใช่ให้กับบริษัทหรือนักวิทยาศาสตร์รายบุคคล
  • ควรพยายามอย่างเต็มที่เพื่ออำนวยความสะดวกในการสำรวจด้านบวกของ AI ในด้านความก้าวหน้าทางสังคมและเศรษฐกิจ และลดผลกระทบด้านลบให้เหลือน้อยที่สุด
  • ผลกระทบเชิงบวกของระบบ AI สามารถมีมากกว่าผลกระทบด้านลบ หากมีการควบคุมที่เหมาะสม ความกลัวเทคโนโลยีไม่มีเหตุผลรองรับและไม่ใช่วิธีแก้ปัญหา
  • ในมุมมองของฉัน อันตรายที่ใหญ่ที่สุดในปัจจุบันมาจากการที่ระบบ AI เหล่านี้สามารถหลอกลวงผู้คนธรรมดาจำนวนมากจากระยะไกล ซึ่งมีการศึกษาน้อยหรือปานกลาง และ/หรือมีความสามารถในการสืบค้นตรวจสอบจำกัด ซึ่งเป็นอันตรายอย่างยิ่งต่อประชาธิปไตยและความก้าวหน้าทางสังคมและเศรษฐกิจ
  • ในอนาคตอันใกล้ เราควรต่อต้านการคุกคามที่ใหญ่ที่สุดจากการใช้ LLM และ/หรือ CAN ในกิจกรรมที่ผิดกฎหมาย (การโกงในการสอบมหาวิทยาลัยเป็นการใช้งานที่ค่อนข้างอ่อนโยนเมื่อเทียบกับความเป็นไปได้ในการก่ออาชญากรรมอื่นที่เกี่ยวข้อง)
  • ผลกระทบต่อแรงงานและตลาดจะดีในระยะกลางและยาว
  • ในมุมมองของข้างต้น ระบบ AI ควร: a) ต้องลงทะเบียนใน ‘ทะเบียนระบบ AI’ ตามกฎหมายระหว่างประเทศ และ b) แจ้งให้ผู้ใช้รู้ว่าพวกเขากำลังสนทนากับระบบ AI หรือใช้ผลลัพธ์จากระบบดังกล่าว
  • ระบบ AI มีผลกระทบทางสังคมอย่างมาก และเพื่อเพิ่มผลประโยชน์และความก้าวหน้าทางสังคมและเศรษฐกิจ เทคโนโลยี AI ที่สำคัญควรเปิดกว้าง
  • ข้อมูลที่เกี่ยวข้องกับ AI ควรได้รับการเปิดกว้าง (อย่างน้อยก็เป็นส่วนหนึ่ง) เพื่อเพิ่มผลประโยชน์และความก้าวหน้าทางสังคมและเศรษฐกิจ
  • ควรจัดให้มีระบบชดเชยทางการเงินที่เหมาะสมสำหรับผู้บุกเบิกเทคโนโลยี AI เพื่อชดเชยการสูญเสียกำไรที่อาจเกิดขึ้นจากการเปิดกว้าง และเพื่อให้แน่ใจว่ามีการลงทุนในอนาคตใน AI R&D (เช่น ผ่านการจดสิทธิบัตรเทคโนโลยี การออกใบอนุญาตแบบบังคับ)
  • สมดุลระหว่างการวิจัย AI ในสถาบันการศึกษาและอุตสาหกรรมควรได้รับการพิจารณาใหม่เพื่อเพิ่มผลการวิจัยสูงสุด ในขณะเดียวกันก็รักษาความสามารถในการแข่งขันและให้รางวัลสำหรับความเสี่ยงในการวิจัยและพัฒนา
  • การปฏิบัติในการศึกษาควรได้รับการพิจารณาใหม่ที่ ทุกระดับการศึกษาเพื่อเพิ่มผลประโยชน์สูงสุดจากเทคโนโลยี AI ในขณะเดียวกันก็สร้างคนรุ่นใหม่ที่มีความคิดสร้างสรรค์และสามารถปรับตัวได้ และ (นักวิทยาศาสตร์ AI)
  • ควรสร้างและเสริมสร้างกลไกการออกกฎระเบียบ/การกำกับดูแล/การให้ทุนสำหรับ AI เพื่อให้แน่ใจว่าได้รับการดำเนินการตามที่กล่าวมาข้างต้น

หลายจุดเหล่านี้ได้รับการกล่าวถึงในรายละเอียดในหนังสือ 4 เล่มของฉันเกี่ยวกับ ‘AI Science and Society’ โดยเฉพาะในเล่ม A (เขียนใหม่ในเดือนพฤษภาคม 2023 เพื่อครอบคลุม LLMs และ Artificial General Intelligence) และ C

หนังสืออ้างอิง:

Artificial Intelligence Science and Society Part A: Introduction to AI Science and Information Technology

Artificial Intelligence Science and Society Part C: AI Science and Society

ศ. ไอโอานนิส ปิตาส (IEEE Fellow, IEEE Distinguished Lecturer, EURASIP Fellow) เป็นศาสตราจารย์ที่ภาควิชาวิทยาการคอมพิวเตอร์ของ AUTH และเป็นหัวหน้าห้องปฏิบัติการ ปัญญาประดิษฐ์และการวิเคราะห์สารสนเทศ (AIIA) เขาเคยเป็นศาสตราจารย์ผู้มาเยือนหลายมหาวิทยาลัย เขาได้ตีพิมพ์มากกว่า 920 บทความ มีส่วนร่วมในการเขียน หนังสือ 45 เล่มในสาขาที่สนใจ และเป็นบรรณาธิการ เขียน หรือร่วมเขียนหนังสืออีก 11 เล่มเกี่ยวกับ คอมพิวเตอร์วิทัศน์และการเรียนรู้ของเครื่อง เขาเป็นประธานของ International AI Doctoral Academy (AIDA)