สัมภาษณ์
สตาฟรอส กาดินิส ศาสตราจารย์ด้านกฎหมายแห่ง Berkeley Law และผู้เขียน Corporate Ordering – ชุดบทสัมภาษณ์

ประเด็นสำคัญการสั่งการขององค์กรอธิบายว่าบริษัทต่างๆ…
ดูเพิ่มเติม
- การสั่งการขององค์กรอธิบายว่าบริษัทต่างๆ เขียนกฎและตรวจสอบตนเองอย่างไรก่อนที่หน่วยงานกำกับดูแลจะลงมือ
- การประเมินความปลอดภัยของ AI ขาดความเป็นอิสระเมื่อฝ่ายบริหารเป็นผู้จ้างและสามารถไล่ผู้ตรวจสอบภายนอกของตนเองออกได้
- กรอบความปลอดภัยที่ไม่เคยทำให้การเปิดตัวล่าช้าเลยนั้นแยกไม่ออกจากประชาสัมพันธ์
Stavros Gadinis เป็นศาสตราจารย์กฎหมาย George R. Johnson ประจำคณะนิติศาสตร์ UC Berkeley งานวิจัยของเขาศึกษาธรรมาภิบาลองค์กร กฎระเบียบทางการเงิน และระบบภายในที่บริษัทใช้ประกอบการตัดสินใจและติดตามผล ก่อนเข้าสู่วงวิชาการ เขาเคยทำงานด้านกฎหมายองค์กรในยุโรป
หนังสือเล่มใหม่ของเขา การจัดระเบียบองค์กร: บริษัทต่าง ๆ รับมือกับความขัดแย้งทางสังคมอย่างไร จัดพิมพ์โดย Cambridge University Press และศึกษาว่าธุรกิจพัฒนาระบบธรรมาภิบาลอย่างไรในช่วงที่กฎเกณฑ์สาธารณะยังไม่ชัดเจน ผ่านกรณีศึกษาที่เกี่ยวข้องกับบริการเรียกรถ การพัฒนาอย่างยั่งยืนด้านสภาพภูมิอากาศ และปัญญาประดิษฐ์ หนังสือเล่มนี้พิจารณาว่าบริษัทกำหนดกฎเกณฑ์ ใช้อำนาจ และกำกับดูแลการดำเนินงานของตนเองอย่างไร
เส้นทางอาชีพของคุณครอบคลุมทั้งการทำงานด้านกฎหมายองค์กรในยุโรป และการวิจัยเรื่องธรรมาภิบาลองค์กรกับกฎระเบียบทางการเงินที่ Berkeley Law ประสบการณ์เหล่านี้หล่อหลอมแนวคิดของคุณอย่างไร และอะไรเป็นแรงบันดาลใจให้เขียน Corporate Ordering?
ผมเริ่มต้นอาชีพด้วยการทำงานด้านกฎหมายองค์กรในยุโรป จากนั้นใช้เวลาหลายปีที่ Berkeley ศึกษาธรรมาภิบาลองค์กรและกฎระเบียบทางการเงิน รวมถึงวิธีที่กฎเกณฑ์แพร่ข้ามพรมแดนในสถานการณ์ที่ไม่มีรัฐบาลใดรัฐบาลหนึ่งเป็นผู้กำกับดูแล เรามักมองโลกธุรกิจกับโลกของหน่วยงานกำกับดูแลว่าอยู่คนละขั้ว ฝ่ายหนึ่งกระตือรือร้นที่จะตัดสินใจอย่างรวดเร็วและทำกำไรมหาศาล ส่วนอีกฝ่ายยึดมั่นในกระบวนการราชการและประโยชน์สาธารณะ ทั้งการทำงานจริงและการวิจัยสอนผมว่าเส้นแบ่งระหว่างสองฝ่ายนี้พร่าเลือนกว่าที่คิดมาก
หนังสือเล่มนี้เกิดขึ้นจากการพูดคุยกับที่ปรึกษากฎหมายทั่วไปและผู้บริหารระดับสูงเกี่ยวกับวิธีจัดการกับการตัดสินใจที่เป็นข้อถกเถียง ซึ่งเป็นการตัดสินใจที่พนักงาน ลูกค้า ชุมชน และรัฐบาลต่างต้องการผลลัพธ์ที่ไม่เหมือนกัน สิ่งที่ทำให้ผมประทับใจคือ วิธีการของพวกเขาคล้ายกับแนวทางของหน่วยงานกำกับดูแลที่มีประสิทธิภาพอย่างยิ่ง พวกเขารวบรวมข้อมูลโดยติดต่อผู้ที่ได้รับผลกระทบ อธิบายเหตุผลในการตัดสินใจต่อสาธารณะ และสร้างกลไกเพื่อตรวจสอบว่าการตัดสินใจนั้นยืนหยัดได้หรือไม่ สิ่งเหล่านี้ไม่ใช่แนวปฏิบัติเฉพาะของหน่วยงานกำกับดูแลหรือของบริษัท แต่เป็นหลักการของการตัดสินใจที่รอบคอบในทุกสถาบันที่ใช้อำนาจเหนือผู้อื่น Corporate Ordering คือความพยายามของผมที่จะอธิบายกลไกดังกล่าว แสดงให้เห็นว่ากลไกนี้ใช้ได้ผลตรงไหน และล้มเหลวตรงไหน
“การจัดระเบียบองค์กร” คืออะไร และแนวคิดนี้ช่วยอธิบายอย่างไรว่า บริษัท AI กำหนดกฎเกณฑ์สำหรับเทคโนโลยีที่กฎระเบียบยังตามไม่ทันได้อย่างไร?
การจัดระเบียบองค์กรคือโครงสร้างพื้นฐานด้านธรรมาภิบาลภายในที่บริษัทสร้างขึ้นเพื่อใช้ตัดสินใจในเรื่องที่มีข้อโต้แย้ง ก่อนที่กฎหมายจะกำหนดว่าบริษัทต้องทำอย่างไร แนวคิดนี้มีหน้าที่สามประการ ซึ่งสะท้อนการแบ่งอำนาจของรัฐ การกำหนดกฎเกณฑ์คือวิธีที่บริษัทเขียนหลักการของตนเอง การใช้อำนาจบริหารคือวิธีนำหลักการเหล่านั้นไปใช้กับการตัดสินใจที่เป็นรูปธรรม ส่วนการติดตามตรวจสอบคือวิธีตรวจสอบว่าบริษัทได้ดำเนินการตามที่กำหนดไว้หรือไม่ และค้นหาสาเหตุเมื่อไม่ได้ทำเช่นนั้น
บริษัท AI แสดงให้เห็นการทำงานของทั้งสามหน้าที่ ห้องปฏิบัติการ AI ชั้นนำเขียนธรรมนูญ ข้อกำหนดของโมเดล และกรอบความปลอดภัย ซึ่งเป็นการกำหนดกฎเกณฑ์ พวกเขาตัดสินใจว่าโมเดลพร้อมเปิดตัวหรือไม่ โมเดลจะปฏิเสธคำขอใด และใครจะเข้าถึงได้ ซึ่งเป็นการใช้อำนาจบริหาร นอกจากนี้ยังว่าจ้างให้มีการทดสอบโจมตีแบบทีมแดง การประเมินจากภายนอก และการรายงานเหตุการณ์ ซึ่งเป็นการติดตามตรวจสอบ ในหนังสือเล่มนี้ ผมสำรวจการทำงานของทั้งสามหน้าที่ในห้องปฏิบัติการ AI รายใหญ่ ความแตกต่างระหว่างแต่ละแห่งมีอยู่จริง แต่สิ่งที่โดดเด่นไม่แพ้กันคือแนวทางที่บรรจบกัน เมื่อแต่ละบริษัทค้นพบว่าตนจำเป็นต้องมีองค์ประกอบทุกส่วน
ผมอยากชี้แจงเรื่องหนึ่งให้ชัดเจน เพราะมักมีคนเข้าใจผิด การจัดระเบียบองค์กรไม่ใช่ข้อโต้แย้งที่คัดค้านกฎระเบียบ แต่เป็นการอธิบายถึงวัตถุดิบที่กฎระเบียบจะนำไปใช้ เมื่อฝ่ายนิติบัญญัติลงมือ พวกเขาหยิบยืมแนวคิดที่บริษัทพัฒนาขึ้นก่อน คำถามที่แท้จริงคือ ร่างแรกนั้นจัดทำขึ้นอย่างรอบคอบมากพอที่จะสมควรแก่การนำไปใช้หรือไม่
หนังสือของคุณศึกษาบริการเรียกรถ การพัฒนาอย่างยั่งยืนด้านสภาพภูมิอากาศ และธรรมาภิบาล AI บทเรียนใดจากสองด้านแรกที่นำมาใช้กับ AI ได้มากที่สุด และ AI มีความท้าทายที่แตกต่างไปโดยพื้นฐานในด้านใดบ้าง?
บทเรียนจากบริการเรียกรถและสภาพภูมิอากาศคือ บริษัทมักเป็นผู้ร่างกฎหมายฉบับแรก Uber และ Lyft พัฒนาแนวปฏิบัติด้านการรายงานเรื่องประกันภัยและความปลอดภัยก่อนที่รัฐต่าง ๆ จะมีกฎเกณฑ์ในเรื่องนี้ และการจัดทำบัญชีคาร์บอนของภาคธุรกิจส่วนใหญ่ก็อาศัย GHG Protocol ซึ่งเป็นมาตรฐานที่ภาคธุรกิจมีส่วนช่วยพัฒนาขึ้น จากนั้นหน่วยงานกำกับดูแลก็ยอมรับแนวปฏิบัติเหล่านั้น เสริมเติม หรือบัญญัติให้เป็นกฎหมาย กฎระเบียบแทบไม่เคยเริ่มต้นจากศูนย์ และยิ่งบริษัทพิจารณาทางเลือกของตนอย่างรอบคอบและคำนึงถึงผู้ได้รับผลกระทบมากเท่าใด ทางเลือกเหล่านั้นก็ยิ่งมีโอกาสได้รับการบรรจุไว้ในกฎระเบียบมากขึ้นเท่านั้น
AI แตกต่างออกไปในสองด้าน ด้านแรกคือความเร็ว หน่วยงานกำกับดูแลมักตามหลังภาคอุตสาหกรรมอยู่หนึ่งก้าว แต่ในด้าน AI ช่องว่างนั้นกว้างกว่ามาก หน่วยงานกำกับดูแลจะต้องพึ่งพาบริษัทในการพัฒนามาตรฐานและกระบวนการภายใน พร้อมกับมุ่งเน้นความพยายามของตนเองไปที่การกำกับดูแล การตรวจสอบยืนยัน และการบังคับใช้กฎระเบียบ บทบาทของหน่วยงานจึงเปลี่ยนไป ไม่ใช่ลดความสำคัญลง การตรวจสอบยืนยันเป็นจุดที่อำนาจรัฐมีความสำคัญมากที่สุด เพราะเป็นจุดที่ผลประโยชน์ของฝ่ายบริหารขัดแย้งกับหน้าที่ของตนเองอย่างรุนแรงที่สุด ความแตกต่างประการที่สองคือขอบเขต AI ส่งผลต่อชีวิตประจำวันแทบทุกด้าน และกลายเป็นการลงทุนขนาดใหญ่ของประเทศโดยรวม ผลกระทบด้านความเสี่ยงเชิงระบบนั้นยากจะมองข้ามพอ ๆ กับที่ยากจะหยั่งถึง
เมื่อบริษัท AI เป็นผู้เลือกและจ่ายค่าตอบแทนให้ผู้ประเมินความปลอดภัยจากภายนอกเอง ควรมีมาตรการคุ้มครองใดบ้างเพื่อให้การกำกับดูแลนั้นเป็นอิสระอย่างแท้จริง?
ความขัดแย้งทางผลประโยชน์เช่นนี้พบได้ทั่วไปในการตรวจสอบบัญชี และกฎหมายบริษัทก็มีเครื่องมือจัดการปัญหานี้อยู่แล้ว ประการแรกคือใครเป็นผู้ว่าจ้างและปลดผู้ประเมิน ผู้ประเมินควรขึ้นตรงต่อกรรมการอิสระที่ไม่มีความสัมพันธ์ทางการเงินอื่นกับบริษัท เช่นเดียวกับที่คณะกรรมการตรวจสอบกำกับดูแลผู้สอบบัญชีภายนอก แทนที่จะเป็นซีอีโอหรือซีเอฟโอ ฝ่ายบริหารไม่ควรมีอำนาจปลดผู้ตรวจสอบเพียงเพราะข้อค้นพบของผู้ตรวจสอบไม่เป็นที่พอใจ
ประการที่สองคือการเข้าถึงข้อมูลและการเผยแพร่ผล ผู้ประเมินต้องเข้าถึงสิ่งที่ตนร้องขอ และต้องมีสิทธิเผยแพร่ข้อค้นพบของตน หรืออย่างน้อยเผยแพร่บทสรุปที่มีสาระสำคัญ โดยบริษัทไม่มีสิทธิคัดค้าน ความเสี่ยงต่อชื่อเสียงคือสิ่งที่ทำให้การตรวจสอบมีน้ำหนัก ประการที่สามคือการกำหนดมาตรฐานการตรวจสอบร่วมกัน เพื่อให้การประเมินมีความหมายเดียวกันในทุกบริษัท และผู้ประเมินไม่อาจแข่งขันกันด้วยการผ่อนปรน ประการที่สี่คือการคุ้มครองผู้แจ้งเบาะแส และแม้กระทั่งการให้รางวัลเมื่อพวกเขานำข้อมูลที่นำไปดำเนินการได้มาเปิดเผย เพราะคนในบริษัทมักเป็นกลุ่มแรกที่รู้ว่ามีการชี้นำผลการประเมิน
สมมติว่าผู้ประเมินภายนอกพบข้อกังวลด้านความปลอดภัยร้ายแรงก่อนการเปิดตัวโมเดลขนาดใหญ่ไม่นาน ใครควรได้รับทราบข้อค้นพบนั้น และใครควรมีอำนาจเลื่อนหรือระงับการนำโมเดลไปใช้งาน?
ควรส่งข้อค้นพบดังกล่าวให้คณะกรรมการบริษัทโดยตรง โดยควรส่งให้คณะกรรมการชุดย่อยที่ประกอบด้วยกรรมการอิสระและรับผิดชอบด้านความปลอดภัย และไม่ควรส่งผ่านทีมผู้บริหารที่กำลังผลักดันการเปิดตัวเพียงช่องทางเดียว ฝ่ายบริหารสามารถและควรชี้แจงตอบสนองได้ แต่ไม่ควรเป็นผู้กลั่นกรองข้อมูล อำนาจในการเลื่อนหรือระงับการนำไปใช้งานควรอยู่กับคณะกรรมการบริษัท เพราะนี่คือการตัดสินใจประเภทที่คณะกรรมการมีหน้าที่ตัดสินใจ เป็นเรื่องที่มีเดิมพันสูง มีผลประโยชน์ขัดแย้งกัน และไม่มีคำตอบที่ถูกต้องอย่างชัดเจน
แต่ประเด็นที่สำคัญกว่าคือ ต้องตัดสินใจอย่างชัดแจ้ง มีการบันทึกไว้ และตรวจสอบย้อนกลับได้ว่าใครเป็นผู้ตัดสินใจ หากคณะกรรมการเดินหน้าต่อทั้งที่มีข้อกังวล บันทึกควรแสดงให้เห็นว่าคณะกรรมการรู้อะไร พิจารณาประเด็นใดบ้าง และเหตุใดจึงเห็นว่าความเสี่ยงนั้นยอมรับได้ หลักฐานที่บันทึกไว้นี้เป็นเงื่อนไขที่ทำให้เกิดความรับผิดทางกฎหมาย หรืออย่างน้อยก็ความเสียหายต่อชื่อเสียง และทำให้ผู้คนต้องคิดให้รอบคอบมากขึ้น ศาลมีแนวโน้มยอมรับมากขึ้นว่าการตัดสินใจออกแบบซอฟต์แวร์ส่งผลต่อผู้ใช้ และบริษัทที่แสดงให้เห็นได้ว่าพยายามอย่างจริงจังและมีการบันทึกหลักฐานไว้ ย่อมอยู่ในสถานะที่แตกต่างอย่างมากจากบริษัทที่ทำเช่นนั้นไม่ได้
เมื่อข้อกังวลด้านความปลอดภัยขัดแย้งกับเป้าหมายรายได้หรือแรงกดดันจากการแข่งขัน กระบวนการตัดสินใจของคณะกรรมการบริษัทที่น่าเชื่อถือควรมีลักษณะอย่างไร?
กระบวนการที่น่าเชื่อถือต้องตั้งอยู่บนข้อมูลรอบด้านและมีบันทึกหลักฐาน คณะกรรมการควรได้รับข้อมูลที่เป็นรูปธรรมเกี่ยวกับต้นทุนของการเลื่อนเปิดตัว รวมถึงลักษณะและโอกาสที่จะเกิดข้อกังวลด้านความปลอดภัย ตลอดจนทางเลือกในการลดความเสี่ยง คณะกรรมการควรสอบถามว่าการทดสอบเพียงพอหรือไม่ และหากยังไม่เพียงพอ ก็ควรสั่งให้ทดสอบเพิ่มเติมหรือขอให้มีการตรวจสอบจากภายนอก เมื่อยังมีความไม่แน่นอนอยู่จริง ก็มีทางเลือกอื่นระหว่างการเปิดตัวกับการระงับไว้ เช่น การเปิดให้ใช้งานในวงจำกัด การทยอยเปิดตัว หรือการทดสอบในสภาพแวดล้อมจำลอง ซึ่งช่วยให้บริษัทเรียนรู้เพิ่มเติมก่อนตัดสินใจผูกมัดกับแนวทางใดแนวทางหนึ่ง และไม่ว่าคณะกรรมการจะตัดสินใจอย่างไร สิ่งที่บริษัทกล่าวต่อสาธารณะเกี่ยวกับความปลอดภัยของโมเดลต้องถูกต้องแม่นยำ ซึ่งเป็นประเด็นที่ก่อให้เกิดความเสี่ยงด้านการฟ้องร้องในปัจจุบันเป็นส่วนใหญ่
จากนั้นคณะกรรมการควรบันทึกสิ่งที่ตัดสินใจและเหตุผล เมื่อเวลาผ่านไป บันทึกเหล่านี้จะกลายเป็นแนวทางให้ยึดถือ โดยการตัดสินใจยากครั้งต่อไปจะถูกนำไปเทียบกับครั้งก่อน และผู้ที่ตรวจสอบบริษัทจะเห็นได้ว่าหลักการที่บริษัทประกาศไว้นั้นมีผลผูกพันต่อการตัดสินใจจริงหรือไม่ Microsoft เริ่มจัดทำบันทึกการตัดสินใจในลักษณะนี้แล้ว และผมคิดว่านี่เป็นหนึ่งในเครื่องมือด้านธรรมาภิบาลปัญญาประดิษฐ์ที่ได้รับการกล่าวถึงน้อยเกินไป แรงกดดันจากการแข่งขันมีอยู่จริง และคณะกรรมการอาจตัดสินใจเดินหน้าต่อได้อย่างสมเหตุสมผล แต่สิ่งที่ทำไม่ได้คือปล่อยให้การตัดสินใจเกิดขึ้นไปเองโดยปริยาย
งานของคุณเสนอหลักเกณฑ์ “ดุลพินิจทางธุรกิจเพื่อสังคม” สำหรับประเมินการตัดสินใจของคณะกรรมการ หลักเกณฑ์นี้จะใช้กับบริษัทปัญญาประดิษฐ์ที่เลื่อนการเปิดตัวผลิตภัณฑ์ซึ่งทำกำไรได้ เพราะอาจก่ออันตรายต่อสาธารณะอย่างไร?
ภายใต้กฎหมายบริษัทที่มีอยู่ คณะกรรมการที่เลื่อนการเปิดตัวผลิตภัณฑ์ซึ่งทำกำไรได้ย่อมได้รับความคุ้มครองอย่างดีอยู่แล้ว ศาลให้ความเคารพต่อดุลพินิจทางธุรกิจของกรรมการ และการยอมรับกำไรที่ลดลงในวันนี้เพื่อหลีกเลี่ยงอันตรายในวันหน้า ก็อยู่ในขอบเขตดังกล่าวอย่างชัดเจน คำถามที่ยากกว่าคือประเด็นกลับกันว่า คณะกรรมการให้ความสำคัญกับอันตรายต่อสาธารณะอย่างจริงจังหรือไม่
หลักดุลพินิจทางธุรกิจเพื่อสังคมกำหนดให้คณะกรรมการประเมินอันตรายที่อาจเกิดขึ้นต่อสาธารณะเช่นเดียวกับความเสี่ยงทางธุรกิจอื่น ๆ โดยใช้ตัวชี้วัดที่เป็นรูปธรรม วัดผลได้ และเฉพาะเจาะจงเท่าที่จะทำได้ หลักสำคัญอยู่ที่กระบวนการและการตรวจสอบอย่างรอบคอบ ไม่ใช่ผลลัพธ์ คณะกรรมการที่รวบรวมข้อมูลที่เหมาะสม รับฟังผู้ได้รับผลกระทบ และบันทึกเหตุผลในการตัดสินใจ ย่อมสมควรได้รับความเคารพต่อดุลพินิจ ไม่ว่าจะเลื่อนการเปิดตัวหรือเดินหน้าต่อก็ตาม ส่วนคณะกรรมการที่ไม่ได้ดำเนินการใด ๆ เหล่านี้ย่อมไม่สมควรได้รับความเคารพดังกล่าว ดังนั้น ในกรณีที่คุณยกตัวอย่างมา ประเด็นไม่ได้อยู่ที่การเลื่อนเปิดตัว แต่อยู่ที่ว่าคณะกรรมการแสดงให้เห็นได้หรือไม่ว่าตัดสินใจเช่นนั้นมาอย่างไร และหากเผชิญข้อเท็จจริงชุดเดิมอีกครั้ง จะตัดสินใจแบบเดิมหรือไม่
บริษัทปัญญาประดิษฐ์เผยแพร่กรอบแนวทางด้านความปลอดภัยและคำมั่นโดยสมัครใจ แต่ผู้อ่านแทบไม่เคยเห็นว่านโยบายเหล่านั้นส่งผลต่อการตัดสินใจแต่ละครั้งอย่างไร หลักฐานใดจะแยกธรรมาภิบาลที่มีประสิทธิผลออกจากการทำเพื่อประชาสัมพันธ์ได้?
บ่อยครั้ง เมื่อบริษัทต่าง ๆ เผยแพร่กรอบแนวทาง สาธารณชนก็ยังสงสัยว่ากรอบดังกล่าวถูกนำมาใช้กับการตัดสินใจเฉพาะเรื่องจริงหรือไม่ หรือเป็นเพียงถ้อยคำเชิงวาทศิลป์ที่บริษัทไม่เคยนำไปปฏิบัติจริง คำตอบคือการเปิดเผยข้อมูลในรูปแบบเฉพาะ แทนที่จะออกแถลงการณ์เชิงหลักการเพิ่มเติม บริษัทควรรายงานการตัดสินใจที่ตนได้ทำอย่างเจาะจง และอธิบายว่ากรอบแนวทางมีอิทธิพลต่อการตัดสินใจเหล่านั้นอย่างไร เช่น มีการเลื่อนการเปิดตัวใดบ้าง ระงับความสามารถใดไว้บ้าง มีการใช้เกณฑ์ความเสี่ยงข้อใดบ้าง และเกิดอะไรขึ้นตามมา
หลักฐานที่ชี้ชัดที่สุดคือการตัดสินใจที่ทำให้บริษัทต้องสูญเสียบางอย่าง หากกรอบแนวทางไม่เคยทำให้ผลลัพธ์เปลี่ยนแปลง ไม่เคยทำให้การเปิดตัวล่าช้า และไม่เคยถูกนำมาใช้แม้ต้องแลกกับรายได้ ก็ยากที่จะแยกกรอบดังกล่าวออกจากการประชาสัมพันธ์ นอกจากนี้ การเปิดเผยข้อมูลเหล่านี้ต้องมีรายละเอียดมากพอที่จะตรวจสอบได้ และในประเด็นที่มีผลกระทบสำคัญที่สุด ควรให้บุคคลที่สามซึ่งมีความน่าเชื่อถือเป็นผู้ตรวจสอบและสามารถยืนยันต่อสาธารณะได้
การกำกับดูแลตนเองขององค์กรมีข้อจำกัดอยู่ตรงไหน การตัดสินใจเกี่ยวกับระดับความเสี่ยงจาก AI ที่ยอมรับได้เรื่องใดบ้างที่จำเป็นต้องมีกฎเกณฑ์สาธารณะหรือการกำกับดูแลตามระบอบประชาธิปไตย
ข้อจำกัดที่สำคัญที่สุดเกี่ยวข้องกับความล้มเหลวในการกำกับติดตาม แม้แต่บริษัทที่มีเจตนาดีและดำเนินงานอย่างรับผิดชอบก็อาจเผชิญวิกฤตครั้งใหญ่ได้ และเมื่อถึงเวลานั้น ผลประโยชน์ทับซ้อนก็จะเพิ่มขึ้น พนักงานอาจปกปิดข้อมูลที่อาจส่งผลเสียต่อหน้าที่การงานหรือโบนัสของตน ผู้บริหารอาจปิดบังข่าวร้ายเพื่อหลีกเลี่ยงคำวิจารณ์จากสาธารณชน ความกลัวว่าจะถูกฟ้องร้องอาจทำให้บริษัทไม่กล้าเปิดเผยข้อมูล ในวิกฤตองค์กรที่ผ่านมา ข้อมูลสำคัญมักมาจากผู้ที่ผู้บริหารควบคุมไม่ได้ ไม่ว่าจะเป็นผู้สอบบัญชีและผู้ตรวจสอบภายนอก ผู้ได้รับผลกระทบ หรือผู้แจ้งเบาะแสภายในที่ใช้ช่องทางรายงานอิสระ
นี่คือจุดที่กฎเกณฑ์สาธารณะมีความสำคัญมากที่สุด กฎหมายอาจช่วยเพิ่มประโยชน์ได้ไม่มากนักในขั้นตอนการกำหนดกฎ เพราะกฎหมายมักหยิบยืมแนวคิดหลักจากบริษัทต่าง ๆ แต่กฎหมายช่วยเพิ่มการเปิดเผยข้อมูลได้มากกว่า โดยครอบคลุมถึงบริษัทที่ไม่ยอมเปิดเผยข้อมูลโดยสมัครใจ และกฎหมายช่วยได้มากที่สุดในด้านการตรวจสอบยืนยัน ด้วยการกำหนดให้มีการตรวจสอบอย่างเป็นอิสระ คุ้มครองผู้แจ้งเบาะแส และให้อำนาจที่แท้จริงแก่การตรวจสอบจากภายนอก
ข้อจำกัดอีกประการหนึ่งเป็นเรื่องของการดำเนินการร่วมกัน สิ่งที่บริษัทเดียวทำได้มากที่สุดคือยับยั้งการกระทำของตนเอง แต่ไม่อาจหยุดคู่แข่งได้ การตัดสินใจเกี่ยวกับความเสี่ยงระดับหายนะ รวมถึงการตัดสินใจว่าจะชะลอการพัฒนาเทคโนโลยีแนวหน้าหรือไม่ จำเป็นต้องอาศัยความร่วมมือระหว่างบริษัทและรัฐบาล ทั้งในประเทศและระหว่างประเทศ รูปแบบหนึ่งที่ผมเห็นว่ามีแนวโน้มที่ดีคือการจัดตั้งองค์กรกำหนดมาตรฐานระหว่างประเทศในลักษณะเดียวกับ ISSB ในด้านการรายงานความยั่งยืน โดยเป็นอิสระจากรัฐบาล แต่มีคณะกรรมการทรัสตีที่มีตัวแทนจากรัฐบาลกำกับดูแล การกำกับดูแลองค์กรเป็นสิ่งจำเป็นสำหรับงานนี้ เพราะการควบคุมโมเดลเหล่านี้เกิดขึ้นภายในบริษัทที่พัฒนาโมเดลขึ้นมา แต่บริษัทไม่อาจดำเนินงานนี้เพียงลำพังได้
หากวันนี้คุณต้องให้คำแนะนำแก่คณะกรรมการของบริษัท AI ที่เติบโตอย่างรวดเร็ว คุณจะให้ความสำคัญกับการเปลี่ยนแปลงด้านธรรมาภิบาลสามเรื่องใด และอีกหนึ่งปีต่อมา คุณจะพิจารณาหาหลักฐานอะไรเพื่อประเมินว่าการเปลี่ยนแปลงเหล่านั้นได้ผลหรือไม่
ประการแรก การรับฟังความคิดเห็นในการกำหนดกฎ ก่อนนำกรอบความปลอดภัยหรือนโยบายการใช้งานมาใช้หรือปรับปรุง บริษัทควรปรึกษาหารือกับผู้ที่ได้รับผลกระทบ (ผู้ใช้ ภาคประชาสังคม และผู้เชี่ยวชาญเฉพาะด้าน) พร้อมเผยแพร่สิ่งที่ได้รับฟังและวิธีที่บริษัทตอบสนอง ประการที่สอง การรายงานความรับผิดชอบอย่างสม่ำเสมอ โดยจัดทำรายงานประจำปีเกี่ยวกับการตัดสินใจที่ยากลำบากซึ่งคณะกรรมการและฝ่ายบริหารทำภายใต้กรอบแนวทาง พร้อมรายละเอียดมากพอให้ตรวจสอบได้ ประการที่สาม การแต่งตั้งผู้ตรวจสอบภายนอกโดยกรรมการอิสระ ซึ่งต้องรายงานต่อกรรมการเหล่านั้น เข้าถึงข้อมูลได้อย่างครบถ้วน และมีสิทธิ์เผยแพร่ผลการตรวจสอบ
เมื่อผ่านไปหนึ่งปี ผมจะมองหาหลักฐานว่ามาตรการแต่ละข้อส่งผลจริง สำหรับการรับฟังความคิดเห็น ต้องมีกฎอย่างน้อยหนึ่งข้อที่เปลี่ยนไปเพราะสิ่งที่บริษัทได้รับฟัง สำหรับการรายงาน ต้องมีการเปิดเผยการตัดสินใจที่บริษัทไม่อยากพูดถึง รวมถึงการตัดสินใจที่ทำให้บริษัทสูญเสียรายได้หรือเวลา สำหรับผู้ตรวจสอบ ต้องมีข้อค้นพบที่บริษัทไม่ต้องการให้เกิดขึ้น และมีบันทึกว่าคณะกรรมการดำเนินการอย่างไรกับข้อค้นพบเหล่านั้น หากผ่านไปหนึ่งปีแล้วรายงานทุกฉบับมีแต่ข่าวดี แสดงว่าการเปลี่ยนแปลงเหล่านั้นไม่ได้ผล
ขอบคุณสำหรับบทสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านที่ต้องการศึกษาเพิ่มเติมเกี่ยวกับหนังสือและทางเลือกในการซื้อ โปรดไปที่เว็บไซต์ทางการของหนังสือเรื่อง การจัดระเบียบองค์กร












