ผู้นำทางความคิด

ใช่ กฎหมาย AI ของสหภาพยุโรปครอบคลุม AI แบบเอเจนต์—มาดูกันว่าครอบคลุมอย่างไร

Dr. Ley Muller Gyda Grodås Christiansen
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญAgentic AI อยู่ภายใต้ EU AI Act แล้วเนื่องจากตรงกับคำจำกัดความของระบบ AI
ดูเพิ่มเติม
  • Agentic AI อยู่ภายใต้ EU AI Act แล้วเนื่องจากตรงกับคำจำกัดความของระบบ AI
  • AI Act กำกับดูแลสิ่งที่เทคโนโลยีทำและความเสี่ยงที่เกิดขึ้น มากกว่าการระบุชื่อเทคโนโลยีเฉพาะ
  • บริษัทเทคโนโลยียักษ์ใหญ่ที่ล็อบบี้ต่อต้าน AI Act กำลังผลักดันการกำกับดูแลตนเองซึ่งเท่ากับการยึดครองกฎระเบียบ

ขณะนี้มีกระแสความคิดที่แพร่หลายว่า AI แบบเอเจนต์ และ เอเจนต์ AI ตกอยู่ในช่องว่างด้านกฎระเบียบบางประการ หรือกฎหมาย AI ของสหภาพยุโรปไม่มีความพร้อมเพียงพอที่จะกำกับดูแลเรื่องนี้ เราพบข้อกล่าวอ้างนี้ในสื่อข่าวนอร์เวย์ที่น่าเชื่อถือ (Morgenbladet และ Dagensnæringsliv) และยังมีนักวิชาการชั้นนำกล่าวซ้ำด้วย (มหาวิทยาลัยออสโล) เราเห็นข้อบกพร่องพื้นฐานสองประการในข้อกล่าวอ้างเหล่านี้… และคิดว่าข้อกล่าวอ้างดังกล่าวตั้งอยู่บนความกลัว ไม่ใช่ข้อเท็จจริง

ประการแรก AI แบบเอเจนต์ อยู่ภายใต้การกำกับดูแลตามกฎหมาย AI ของสหภาพยุโรป

ประการที่สอง ข้อกล่าวอ้างเช่นนี้บั่นทอนกฎระเบียบที่มีอยู่ และยิ่งตอกย้ำแนวคิดที่ว่าบริษัท AI อยู่ในจุดที่เหมาะสมกว่าในการจัดการความเสี่ยงจากระบบของตนเอง ซึ่งเป็นข้อโต้แย้งที่มักนำไปสู่การครอบงำหน่วยงานกำกับดูแล

เราทำงานใกล้ชิดกับกฎหมาย AI อยู่พอสมควร ในฐานะสมาชิกที่ได้รับแต่งตั้งให้เป็นคณะกรรมการ AI แห่งชาติของ Standards Norway นอกจากนี้ เรายังเป็นสมาชิกคณะกรรมการยุโรปที่จัดทำมาตรฐานที่สอดคล้องกันสำหรับผู้ให้บริการระบบ AI ความเสี่ยงสูง โดยมาตรฐานเหล่านี้ช่วยให้บริษัทต่าง ๆ ปฏิบัติตามข้อกำหนดทางกฎหมายของกฎหมาย AI ได้

กฎหมาย AI กำกับดูแล AI แบบเอเจนต์ในหลายด้าน

คณะกรรมาธิการยุโรปเผยแพร่คำถามที่พบบ่อยหลายข้อเกี่ยวกับ “เอเจนต์” และ “AI แบบเอเจนต์” โดยใช้ภาษาที่เข้าใจง่ายและอ่านสะดวก พร้อมชี้แจงว่า ใช่ เทคโนโลยีเหล่านี้อยู่ในขอบเขตของกฎระเบียบ เพราะเข้าเกณฑ์นิยามกว้าง ๆ ของระบบ AI (กฎหมาย AI กล่าวถึงเอเจนต์ AI อย่างไร | ศูนย์ช่วยเหลือกฎหมาย AI) ตัวอย่างเพิ่มเติมมีดังนี้

  • AI แบบเอเจนต์มักสร้างขึ้นบนโมเดลภาษาขนาดใหญ่ ซึ่งอยู่ภายใต้การกำกับดูแลในฐานะโมเดล AI วัตถุประสงค์ทั่วไป
  • เมื่อระบบ AI แบบเอเจนต์โต้ตอบกับมนุษย์ ข้อกำหนดด้านความโปร่งใสของกฎระเบียบก็มีผลบังคับใช้ด้วย
  • หากจัดประเภทโมเดล AI ว่ามีความเสี่ยงเชิงระบบ ผู้ให้บริการจะต้องปฏิบัติตามข้อกำหนดเพิ่มเติม ซึ่งรวมถึงการประเมินขีดความสามารถของโมเดล เช่น ความสามารถในการทำงานโดยอัตโนมัติและคุณลักษณะแบบเอเจนต์

กฎหมาย AI ไม่ได้ใช้คำว่า “เอเจนต์” แต่เป็นเพราะกฎหมายนี้ไม่ได้กำกับดูแลเทคโนโลยีประเภทใดประเภทหนึ่งโดยเฉพาะ หากกำกับดูแลว่าเทคโนโลยีนั้นออกแบบมาให้ทำอะไร และมีความเสี่ยงใดบ้างที่เกี่ยวข้องกับการทำงานเหล่านั้น

กฎหมาย AI มีเป้าหมายเพื่อคุ้มครองสิทธิขั้นพื้นฐานของเรา

คำวิจารณ์กฎหมาย AI จำนวนมากจากผู้ที่ต้องการให้มีกฎระเบียบมากขึ้น มาจากข้อเท็จจริงที่ว่าในเชิงโครงสร้างแล้ว ไม่อาจขจัดความเสี่ยงได้อย่างสมบูรณ์ แต่กรอบกฎระเบียบระหว่างประเทศก็ไม่อาจคาดการณ์ความเสี่ยงทั้งหมดที่จะเกิดขึ้นในอนาคตได้อยู่แล้ว

กฎหมาย AI มุ่งเน้นไปที่ความเสี่ยงจากระบบ AI ที่อาจส่งผลกระทบต่อสุขภาพ ความปลอดภัย และสิทธิขั้นพื้นฐาน ซึ่งระบุไว้ตั้งแต่ประโยคแรกของมาตราแรก

ภาพหน้าจอจาก EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex

สิ่งสำคัญอีกประการหนึ่งที่เราไม่ได้กล่าวถึงในประโยคแรกนี้คือ กฎหมาย AI มุ่งเน้นตลาด โดยกำหนดให้ส่งเสริมการใช้ AI และสนับสนุนนวัตกรรม กล่าวอีกนัยหนึ่ง กฎหมาย AI สนับสนุน AI ภายใต้บริบทนี้ จึงมีการกำกับดูแลการใช้งานและขอบเขตบางประการ

บางด้านถูกจัดประเภทไว้ล่วงหน้าว่ามีความเสี่ยงสูง

ตัวอย่างระบบ AI ที่ใช้ในด้านต่าง ๆ ได้แก่

  • การสรรหาบุคลากร
  • การจัดสรรบริการที่จำเป็น
  • อุปกรณ์การแพทย์
  • ระบบที่ผนวกรวมอยู่ในโครงสร้างพื้นฐานสำคัญ ซึ่งความปลอดภัยเป็นเรื่องสูงสุด

ผู้ให้บริการระบบ AI ไม่ว่าจะเป็นระบบแบบเอเจนต์หรือไม่ก็ตาม ซึ่งอาจส่งผลกระทบต่อสิทธิของเรา ต้องจัดให้มีระบบบริหารความเสี่ยงที่ครอบคลุม รวมถึงประเมินว่าผู้ใช้อาจนำระบบ AI ไปใช้ในทางที่ผิดได้อย่างไร

การครอบงำหน่วยงานกำกับดูแล: เมื่อผู้ให้บริการเสนอให้กำกับดูแลตนเอง

หากฟัง Anthropic, OpenAI และ Meta รวมถึงบุคคลบางกลุ่มในการถกเถียงในนอร์เวย์ ก็อาจทำให้เข้าใจว่า AI และ AI แบบเอเจนต์ซับซ้อนเกินกว่าที่กฎหมาย AI จะกำกับดูแลได้ ก้าวหน้าเกินกว่าที่สหภาพยุโรปจะตามทัน อันตรายเกินกว่าจะให้ใครกำกับดูแลได้ นอกจากบริษัทที่พัฒนาเทคโนโลยีเหล่านี้เอง

เราควรระมัดระวังเมื่อบริษัทเทคโนโลยีที่มีอำนาจมากที่สุดในโลก ซึ่งเคยล็อบบี้อย่างหนักให้บังคับใช้กฎหมาย AI อย่างเข้มงวดน้อยลง กลับอ้างในเวลานี้ว่ากฎระเบียบดังกล่าวไม่เพียงพอที่จะกำกับดูแลระบบที่ทรงพลังที่สุดของตน ทางออกที่บริษัทเหล่านี้เสนอคือการ “กำกับดูแล” ตนเอง

นี่คือกลไกคลาสสิกของการครอบงำหน่วยงานกำกับดูแล ซึ่งเป็นกระบวนการที่หน่วยงานซึ่งกฎหมายและกฎระเบียบมีเจตนาจะกำกับดูแล ค่อย ๆ เข้ามามีอิทธิพลต่อการกำหนดกฎหมายและกฎระเบียบเหล่านั้นเพื่อประโยชน์ของตนเอง

สหรัฐอเมริกาเป็นตัวอย่างที่ชัดเจนของเรื่องนี้ (เปิดฉากยุคแห่งปัญญาเหนือมนุษย์ – ทำเนียบขาว) ข้อตกลงทำเนียบขาวว่าด้วยปัญญาเหนือมนุษย์เป็น “ข้อตกลงโดยสมัครใจ” กับผู้บริหารจาก X, Meta, Anthropic, OpenAI และ Google ซึ่งบริษัทเหล่านี้ให้คำมั่นว่าจะกำกับดูแลตนเอง เอกสารระบุว่า กฎหมายอาจเหมาะสมในอนาคต ณ จุดใดจุดหนึ่งที่ยังเป็นเพียงสมมติฐานว่า “เมื่อเวลาผ่านไป การบัญญัติขั้นตอนเหล่านี้เป็นกฎหมายหรือข้อบังคับอาจเป็นเรื่องสมเหตุสมผล” เมื่อเวลาผ่านไป อาจจะเป็นเช่นนั้นก็ได้ การพิจารณากฎระเบียบอาจเป็นเรื่องสมเหตุสมผล

อย่างไรก็ตาม ในขณะนี้ชาวอเมริกันถูกคาดหวังให้ไว้วางใจว่าบริษัทเทคโนโลยีรายใหญ่เหล่านี้จะกำกับดูแลตนเอง

ยุโรปมีกฎหมายที่มีผลผูกพัน ต่างจากสหรัฐอเมริกา นั่นคือ AI Act

ถึงกระนั้น ความเสี่ยงที่อุตสาหกรรมจะเข้าครอบงำการกำกับดูแลก็ยังคงมีอยู่ รวมถึงการบั่นทอนความเชื่อมั่นในกฎหมายฉบับนี้ เพราะหากบริษัทยักษ์ใหญ่ด้านเทคโนโลยีโน้มน้าวผู้คนได้ว่า AI Act ยังไม่ดีพอ เราก็จะไม่สนับสนุนการบังคับใช้กฎหมายนี้อีกต่อไป ข้อกล่าวอ้างที่ว่า AI แบบเอเจนต์นั้นล้ำหน้า ฉลาด หรืออันตรายเกินกว่าที่ AI Act จะรับมือได้ เป็นเหตุผลที่บั่นทอนการสนับสนุนของเราต่อการกำกับดูแล

เมื่อการเข้าครอบงำการกำกับดูแลเกิดขึ้นแล้ว ก็ยากที่จะย้อนกลับ

เราเห็นพ้องกับข้อกังวลที่ว่าระบบ AI บางระบบอาจนำไปสู่ผลลัพธ์ที่คาดการณ์ได้ยาก ด้วยเหตุนี้เอง เราจึงจำเป็นต้องมีขั้นตอนการบริหารความเสี่ยง ซึ่ง AI Act ก็กำหนดไว้เช่นกัน (Dr. Muller ทำงานในคณะกรรมการที่ใกล้จะจัดทำมาตรฐานการบริหารความเสี่ยงฉบับประสานให้แล้วเสร็จ หมายเลข 18228)

AI Act ของสหภาพยุโรปไม่ใช่กฎหมายที่สมบูรณ์แบบ และมีแนวโน้มว่าจะต้องได้รับการพัฒนาต่อไป อย่างไรก็ตาม การวาดภาพว่า AI แบบเอเจนต์อยู่นอกขอบเขตของ AI Act แห่งสหภาพยุโรป มีแต่จะสร้างความไม่แน่นอน ไม่ใช่ความปลอดภัย

ดร. Ley Muller เชี่ยวชาญด้านธรรมาภิบาล AI อย่างมีจริยธรรม เธอเป็นกรรมการในคณะกรรมการกำหนดมาตรฐาน AI และดำเนินธุรกิจที่ปรึกษาด้านธรรมาภิบาล AI ชื่อ Values-driven AI ด้วย ครึ่งหนึ่งของเวลาทำงาน เธอช่วยผู้ให้บริการ AI ในยุโรปปฏิบัติตามข้อกำหนดของ AI Act ส่วนเวลาที่เหลือ เธอช่วยองค์กรภาครัฐขนาดใหญ่จัดการการใช้ AI แบบเงา และสร้างความเห็นพ้องในวงกว้างระหว่างผู้มีส่วนได้ส่วนเสียเกี่ยวกับกลยุทธ์ด้าน AI

Gyda Grodås Christiansen เป็นที่ปรึกษาอาวุโสที่ทำงานด้านสุขภาพดิจิทัล สารสนเทศสุขภาพ และธรรมาภิบาลด้านปัญญาประดิษฐ์ เธอมีส่วนร่วมในการกำหนดมาตรฐานระหว่างประเทศผ่าน คณะกรรมการเทคนิคร่วม 21 ของ CEN/CENELEC และ Standard Norway งานของเธอมุ่งเน้นเรื่องการทำงานร่วมกันได้ ข้อมูลสุขภาพ และการนำปัญญาประดิษฐ์มาใช้ในระบบสาธารณสุขอย่างมีความรับผิดชอบ