ผู้นำด้านเทคโนโลยีเน้นย้ำถึงความเสี่ยงของ AI และความจำเป็นในการควบคุม AI อย่างเข้มงวด

การเติบโตและพัฒนาการของ AI ในช่วงไม่กี่ปีที่ผ่านมาได้เพิ่มขึ้นอย่างมาก ตามรายงานของ Statista คาดว่าตลาด AI ทั่วโลกจะสร้างรายได้ประมาณ 3,000 พันล้านดอลลาร์สหรัฐฯ ในปี 2024 เทียบกับ 126 พันล้านดอลลาร์สหรัฐฯ ในปี 2015 อย่างไรก็ตาม ผู้นำด้านเทคโนโลยีกำลังเตือนเราเกี่ยวกับความเสี่ยงต่างๆ ของ AI

โดยเฉพาะอย่างยิ่ง การมาถึงของ การสร้าง AI ในรูปแบบต่างๆ เช่น ChatGPT ได้นำเสนอความสามารถใหม่ๆ ในภาคส่วนต่างๆ เช่น การดูแลสุขภาพ การศึกษา การเงิน และอื่นๆ ระบบ AI เหล่านี้มีความเสี่ยงเนื่องจากข้อบกพร่องของ AI ที่ตัวแทนสามารถใช้ได้

มาทำความเข้าใจกันว่าผู้เชี่ยวชาญด้าน AI กำลังพูดถึงการพัฒนาล่าสุดและเน้นย้ำถึงความเสี่ยงของ AI เราจะพูดถึงวิธีการจัดการความเสี่ยงเหล่านี้ด้วย

ผู้นำด้านเทคโนโลยีและความกังวลเกี่ยวกับความเสี่ยงของ AI

Geoffrey Hinton

Geoffrey Hinton ผู้นำด้าน AI ที่มีชื่อเสียง (และเป็นพ่อของสาขานี้) ซึ่งลาออกจาก Google (GOOGL ) เมื่อเร็วๆ นี้ ได้แสดงความกังวลเกี่ยวกับการพัฒนาที่รวดเร็วของ AI และอันตรายที่อาจเกิดขึ้น Hinton เชื่อว่า AI Chatbot สามารถกลายเป็น “น่ากลัว” หากมันเกินความฉลาดของมนุษย์

Hinton กล่าวว่า:

“ปัจจุบัน สิ่งที่เรากำลังเห็นคือสิ่งต่างๆ เช่น GPT-4 ที่มีความรู้ทั่วไปมากกว่ามนุษย์ และมันเกินกว่ามนุษย์อย่างมาก ในด้านการให้เหตุผล มันไม่ดีเท่า แต่มันสามารถทำการให้เหตุผลได้แล้ว และด้วยอัตราการพัฒนา เราคาดว่าสิ่งต่างๆ จะดีขึ้นอย่างรวดเร็ว ดังนั้นเราจึงต้องกังวลเกี่ยวกับเรื่องนี้”

นอกจากนี้ เขายังเชื่อว่า “ผู้กระทำผิด” สามารถใช้ AI เพื่อทำ “สิ่งที่ไม่ดี” เช่น อนุญาตให้หุ่นยนต์มีเป้าหมายรอง แม้ว่าเขาจะมีความกังวล แต่ Hinton เชื่อว่า AI สามารถนำมาซึ่งผลประโยชน์ในระยะสั้น แต่เราก็ควรลงทุนอย่างหนักในความปลอดภัยและควบคุม AI

Elon Musk

การมีส่วนร่วมของ Elon Musk ใน AI เริ่มต้นด้วยการลงทุนใน DeepMind ในปี 2010 และร่วมก่อตั้ง OpenAI และรวม AI เข้ากับรถยนต์ไร้คนขับของ Tesla (TSLA )

แม้ว่าเขาจะมีความกระตือรือร้นเกี่ยวกับ AI แต่เขาก็มักจะแสดงความกังวลเกี่ยวกับความเสี่ยงของ AI Musk กล่าวว่าระบบ AI ที่มีพลังสามารถเป็นอันตรายต่อมนุษยชาติมากกว่าอาวุธนิวเคลียร์ ในการให้สัมภาษณ์ที่ Fox News ในเดือนเมษายน 2023 เขากล่าวว่า:

“AI มีอันตรายมากกว่า เช่น การออกแบบหรือการผลิตรถยนต์ที่ไม่ดี หรือการบำรุงรักษาที่ไม่ดี ในแง่ที่ว่ามันมีศักยภาพ — แม้ว่าจะมีความน่าจะเป็นที่ไม่เล็กน้อย — แต่ก็มีศักยภาพที่จะทำลายล้างมนุษยชาติ”

นอกจากนี้ Musk ยังสนับสนุนการควบคุม AI ของรัฐบาลเพื่อให้แน่ใจว่ามีความปลอดภัยจากความเสี่ยงที่อาจเกิดขึ้น แม้ว่าจะ “ไม่น่าสนุก”

หยุดการทดลอง AI ใหญ่ๆ: จดหมายเปิดจากผู้เชี่ยวชาญด้าน AI หลายพันคน

Future of Life Institute ได้ตีพิมพ์จดหมายเปิดเมื่อวันที่ 22 มีนาคม 2023 จดหมายดังกล่าวเรียกร้องให้หยุดการทดลอง AI ใหญ่ๆ เป็นเวลา 6 เดือน จดหมายดังกล่าวแสดงความกังวลเกี่ยวกับการพัฒนาระบบ AI ที่มีพลังมากกว่า GPT-4 ผู้เขียนจดหมายแสดงความกังวลเกี่ยวกับการพัฒนาระบบ AI ที่มีพลังซึ่งอาจนำไปสู่ความท้าทายทางสังคมและเศรษฐกิจ

นอกจากนี้ จดหมายดังกล่าวยังระบุว่าผู้พัฒนา AI ควรทำงานร่วมกับผู้กำหนดนโยบายเพื่อสร้างระบบการกำกับดูแล AI ที่ดี截至เดือนมิถุนายน 2023 จดหมายดังกล่าวได้รับการลงนามจากผู้พัฒนา AI และผู้เชี่ยวชาญด้าน AI มากกว่า 31,000 คน ผู้ลงนามที่มีชื่อเสียง ได้แก่ Elon Musk, Steve Wozniak (ผู้ร่วมก่อตั้ง Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (ผู้ชนะรางวัล Turing) และอื่นๆ

ข้อโต้แย้งเกี่ยวกับการหยุดการพัฒนาด้าน AI

ผู้นำด้าน AI สองคน คือ Andrew Ng และ Yann LeCun ได้แสดงความไม่เห็นด้วยกับการหยุดการพัฒนาระบบ AI ใหญ่ๆ เป็นเวลา 6 เดือน และถือว่าการหยุดนี้เป็นความคิดที่ไม่ดี

Ng กล่าวว่า แม้ว่า AI จะมีความเสี่ยงบางอย่าง เช่น ความลำเอียง แต่คุณค่าที่ AI สร้างขึ้นในด้านต่างๆ เช่น การศึกษา การดูแลสุขภาพ และการฝึกสอนแบบตอบสนอง เป็นเรื่องที่น่าประทับใจ

Yann LeCun กล่าวว่า การวิจัยและพัฒนาควรไม่หยุด แม้ว่าผลิตภัณฑ์ AI ที่ถึงมือผู้ใช้สามารถถูกควบคุมได้

อะไรคืออันตรายและความเสี่ยงที่อาจเกิดขึ้นของ AI?

1. การแทนที่งาน

ผู้เชี่ยวชาญด้าน AI เชื่อว่าระบบ AI ที่มีความฉลาดสามารถแทนที่งานที่ต้องใช้การคิดและสร้างสรรค์ ธนาคารการลงทุน Goldman Sachs คาดว่าประมาณ 300 ล้านงาน จะถูกแทนที่ด้วย AI ที่สร้างขึ้น

ดังนั้น จึงควรจะมีการควบคุมการพัฒนาด้าน AI เพื่อให้แน่ใจว่าไม่เกิดความเสื่อมถอยทางเศรษฐกิจอย่างรุนแรง ควรจะมีโปรแกรมการศึกษาเพื่อเพิ่มทักษะและความสามารถของพนักงานเพื่อรับมือกับความท้าทายนี้

2. ระบบ AI ที่มีความลำเอียง

ความลำเอียงที่มีอยู่ในหมู่มนุษย์เกี่ยวกับเพศ เชื้อชาติ หรือสีสามารถส่งผลต่อข้อมูลที่ใช้ในการฝึกอบรมระบบ AI ทำให้ระบบ AI มีความลำเอียง

ตัวอย่างเช่น ในบริบทของการสรรหาบุคลากร ระบบ AI ที่มีความลำเอียงสามารถปฏิเสธใบสมัครของบุคคลจากภูมิหลังเชื้อชาติหรือชาติพันธุ์ที่เฉพาะเจาะจง ทำให้เกิดการแบ่งแยกในตลาดงาน ใน การบังคับใช้กฎหมาย ระบบ AI ที่สามารถทำนายและป้องกันอาชญากรรมได้สามารถมุ่งเป้าไปที่ชุมชนหรือกลุ่มประชากรที่เฉพาะเจาะจง

ดังนั้น จึงจำเป็นต้องมีการวางแผนข้อมูลที่ครอบคลุมเพื่อจัดการกับความเสี่ยงของ AI โดยเฉพาะอย่างยิ่งความลำเอียง ระบบ AI ควรได้รับการประเมินและตรวจสอบอย่างสม่ำเสมอเพื่อให้แน่ใจว่ามันยุติธรรม

3. การใช้งาน AI ที่มีความเสี่ยงสูง

รถยนต์ไร้คนขับ การวินิจฉัยและรักษาโรค การบิน และการควบคุมโรงไฟฟ้านิวเคลียร์ เป็นตัวอย่างของการประยุกต์ใช้ AI ที่มีความเสี่ยงสูง ระบบ AI เหล่านี้ควรได้รับการพัฒนาอย่างระมัดระวัง เนื่องจากข้อผิดพลาดเล็กๆ น้อยๆ สามารถมีผลกระทบอย่างรุนแรงต่อชีวิตมนุษย์หรือสิ่งแวดล้อม

ตัวอย่างเช่น การทำงานผิดปกติของซอฟต์แวร์ AI ที่เรียกว่า Maneuvering Characteristics Augmentation System (MCAS) ถูกกล่าวหาว่าเป็นสาเหตุหนึ่งของการชนของเครื่องบิน Boeing 737 MAX สองลำ ในเดือนตุลาคม 2018 และเดือนมีนาคม 2019 ซึ่งทำให้ 346 คนเสียชีวิต

เราจะเอาชนะความเสี่ยงของระบบ AI ได้อย่างไร? – การพัฒนาด้าน AI ที่มีความรับผิดชอบและการปฏิบัติตามกฎระเบียบ

การสร้าง AI ที่มีความรับผิดชอบ (RAI) หมายถึงการพัฒนาระบบ AI ที่ยุติธรรม มีความรับผิดชอบ มีความโปร่งใส และมีความปลอดภัย ซึ่งรับประกันความเป็นส่วนตัวและปฏิบัติตามกฎระเบียบและบรรทัดฐานทางสังคม การนำ RAI ไปใช้สามารถเป็นเรื่องที่ซับซ้อนเนื่องจากการพัฒนาระบบ AI ที่กว้างขวางและรวดเร็ว

อย่างไรก็ตาม บริษัทเทคโนโลยีรายใหญ่ๆ ได้พัฒนาเฟรมเวิร์ก RAI เช่น:

1. Microsoft’s Responsible AI (MSFT )
2. Google’s AI Principles
3. IBM’S Trusted AI

ห้องปฏิบัติการ AI ทั่วโลกสามารถใช้หลักการเหล่านี้หรือพัฒนาเฟรมเวิร์ก RAI ของตนเองเพื่อสร้างระบบ AI ที่เชื่อถือได้

การปฏิบัติตามกฎระเบียบด้าน AI

เนื่องจากข้อมูลเป็นส่วนประกอบที่สำคัญของระบบ AI องค์กรและห้องปฏิบัติการ AI ต้องปฏิบัติตามกฎระเบียบต่อไปนี้เพื่อให้แน่ใจว่ามีความปลอดภัย ความเป็นส่วนตัว และความปลอดภัยของข้อมูล

1. GDPR (General Data Protection Regulation) – แผนการคุ้มครองข้อมูลของสหภาพยุโรป
2. CCPA (California Consumer Privacy Act) – กฎหมายรัฐแคลิฟอร์เนียเกี่ยวกับสิทธิความเป็นส่วนตัวและความคุ้มครองผู้บริโภค
3. HIPAA (Health Insurance Portability and Accountability Act) – กฎหมายสหรัฐฯ ที่คุ้มครองข้อมูลทางการแพทย์ของผู้ป่วย
4. EU AI Act และ Ethics guidelines for trustworthy AI – กฎระเบียบ AI ของสหภาพยุโรป

มีกฎหมายและข้อบังคับระดับภูมิภาคและท้องถิ่นหลายประการซึ่งออกโดยประเทศต่างๆ เพื่อปกป้องพลเมืองของตน องค์กรที่ไม่ปฏิบัติตามกฎระเบียบด้านข้อมูลอาจต้องเผชิญกับผลกระทบทางกฎหมายอย่างรุนแรง เช่น GDPR ได้กำหนดค่าปรับ 20 ล้านยูโร หรือ 4% ของผลกำไรประจำปี สำหรับการละเมิดที่รุนแรง เช่น การประมวลผลข้อมูลที่ไม่ชอบด้วยกฎหมาย การให้ความยินยอมในการประมวลผลข้อมูลที่ไม่ชัดเจน การละเมิดสิทธิของเจ้าของข้อมูล หรือการโอนข้อมูลที่ไม่ปลอดภัยไปยังหน่วยงานระหว่างประเทศ

การพัฒนาด้าน AI และกฎระเบียบ – ปัจจุบันและอนาคต

ด้วยการเติบโตของ AI ที่ไม่หยุดยั้ง กฎระเบียบและเฟรมเวิร์กการกำกับดูแล AI ก็ยังต้องมีการปรับปรุงและพัฒนาให้เข้มงวดและเฉพาะเจาะจงมากขึ้น

ผู้นำด้านเทคโนโลยีและนักพัฒนาด้าน AI ได้เตือนถึงความเสี่ยงของ AI หากไม่มีการควบคุมที่เหมาะสม การวิจัยและพัฒนาด้าน AI สามารถนำมาซึ่งผลประโยชน์ในหลายๆ ด้าน แต่จำเป็นต้องมีการควบคุมที่ระมัดระวัง

สำหรับเนื้อหาที่เกี่ยวข้องกับ AI เพิ่มเติม โปรดเยี่ยมชม unite.ai