กระแสปลุกปั่นเรื่อง AI จะนำไปสู่หายนะและคาเฟ่ธีม AI: คำถามด้านธรรมาภิบาลที่เรามองข้ามไม่ได้

เรากำลังจะถึงคราวหายนะหรือไม่? AI มีจิตสำนึกหรือเปล่า? แล้วทำไมบริษัท AI ถึงเปิดคาเฟ่?

คำถามเหล่านี้ชวนให้นึกภาพตาม ทำให้ไม่สบายใจ และ—โดยเฉพาะเรื่องจิตสำนึก—เป็นประเด็นที่ตอบได้ยากจริง ๆ อีกทั้งยังมีแนวโน้มดึงความสนใจของเราไปสู่แง่มุมของเรื่องราวเกี่ยวกับ AI ที่ชวนคาดเดาที่สุดหรือกระตุ้นอารมณ์มากที่สุด ขณะเดียวกัน คำถามที่ไม่หวือหวาเท่ากลับส่งผลต่อชีวิตผู้คนอยู่แล้ว ใครต้องรับผิดชอบเมื่อระบบ AI ก่อให้เกิดอันตราย? ข้อมูลและแรงงานใดทำให้ระบบนี้เกิดขึ้นได้? ควรอนุญาตให้ระบบมีอิทธิพลต่อการตัดสินใจเรื่องใดบ้าง? แล้วใครมีสิทธิ์แสดงความคิดเห็น?

ฉันไม่ได้คิดไปเองเสมอไปว่าทุกคนที่หยิบยกความเสี่ยงต่อการดำรงอยู่ของมนุษย์ขึ้นมาพูดคุย ถกเถียงเรื่องจิตสำนึกของเครื่องจักร หรือเปิดคาเฟ่ ทำเช่นนั้นเพื่อหลีกเลี่ยงคำถามเหล่านี้ แต่ละประเด็นล้วนควรค่าแก่การใส่ใจได้ด้วยตัวมันเอง ทว่าเวลาและความสนใจของเรามีจำกัด เมื่อเรื่องราวน่าตื่นตะลึงกลายเป็นจุดสนใจหลัก เราควรถามว่ามีเรื่องอะไรอีกบ้างที่ถูกบดบังจนพ้นสายตาไป

เสน่ห์ของ AI ที่จับต้องได้

อุตสาหกรรม AI เริ่มจัดหาสถานที่จริงให้กับผลิตภัณฑ์ที่ส่วนใหญ่จับต้องไม่ได้ของตน “Zero Slop Zone” ของ Anthropic ในนิวยอร์กเชิญชวนผู้มาเยือนให้ใช้เวลาอย่างไม่เร่งรีบไปกับกาแฟ หนังสือ ปากกา และกระดาษ ส่วน Perplexity เปิด Cafe Curious คาเฟ่ในกรุงโซลที่นำ AI ของบริษัทมาเป็นส่วนหนึ่งของประสบการณ์ รายงานข่าวเกี่ยวกับป๊อปอัปของ Anthropic และ คาเฟ่ของ Perplexity ในกรุงโซล กล่าวถึงความพยายามสองรูปแบบที่แตกต่างกันในการนำเทคโนโลยีนามธรรมมาไว้ในพื้นที่ทางสังคมที่คนทั่วไปคุ้นเคย

แนวคิดนี้ก็พอเข้าใจได้ คนส่วนใหญ่มองไม่เห็นโมเดลภาษา ตรวจสอบโครงสร้างพื้นฐานเบื้องหลังไม่ได้ หรือจินตนาการได้ยากว่าเกิดอะไรขึ้นระหว่างคำสั่งกับคำตอบ คาเฟ่จึงเป็นสิ่งที่จับต้องได้มาแทนภาพนามธรรม ทั้งห้องหนึ่งห้อง กาแฟหนึ่งแก้ว และบทสนทนาหนึ่งวง คาเฟ่ช่วยให้ผู้คนเข้าถึงบริษัทและเทคโนโลยีของบริษัทได้ง่ายขึ้น—และอาจเข้าใจได้ง่ายขึ้นด้วย

นอกจากนี้ยังมีอีกแง่มุมหนึ่ง พื้นที่จริงทำให้บริษัทเป็นที่ประจักษ์ในชุมชน อย่างน้อยที่สุดก็สื่อว่า “ตอนนี้เราอยู่ที่นี่ ในสถานที่แห่งนี้” ซึ่งอาจสร้างความอุ่นใจได้ในแวดวงที่ผลิตภัณฑ์ นโยบาย และความคาดหวังเปลี่ยนแปลงอย่างรวดเร็ว แต่การเป็นที่ประจักษ์ไม่ได้หมายความว่าจะต้องรับผิดชอบ พื้นที่ที่ต้อนรับผู้คนอาจทำให้เทคโนโลยีดูคุ้นเคยขึ้น แต่ไม่ได้บอกเราว่าเทคโนโลยีนั้นได้รับการฝึกฝนมาอย่างไร มีความน่าเชื่อถือในด้านใดบ้าง หรือผู้คนมีช่องทางเยียวยาอย่างไรเมื่อระบบให้ข้อมูลผิดพลาดในเรื่องสำคัญ

ความแตกต่างนี้สะท้อนแนวคิดหนึ่งที่ฉันย้อนกลับไปคิดถึงมาหลายปีแล้ว นั่นคือ ประสบการณ์ดิจิทัลไม่เคยเป็นเรื่องดิจิทัลเพียงอย่างเดียว เพราะประสบการณ์เหล่านั้นเกิดขึ้นท่ามกลางสถานที่ ความสัมพันธ์ และสถาบันต่าง ๆ คำถามด้านการออกแบบจึงไม่ได้มีเพียงว่าจะทำให้ผู้คนรู้สึกเข้าถึงระบบ AI ได้ง่ายขึ้นอย่างไร แต่ยังรวมถึงประสบการณ์นั้นช่วยให้ผู้คนเข้าใจข้อจำกัดของระบบและยังคงมีอำนาจตัดสินใจอย่างแท้จริงหรือไม่

ข้อถกเถียงเรื่องจิตสำนึก—และผู้คนที่ได้รับผลกระทบอยู่แล้ว

ความแตกต่างเดียวกันนี้สำคัญต่อการถกเถียงเรื่องจิตสำนึกของ AI ด้วย ผู้คนยังเห็นต่างกันจริง ๆ ว่าเครื่องจักรมีจิตสำนึกได้หรือไม่ หลักฐานแบบใดจึงจะนับว่าเพียงพอ และความไม่แน่นอนควรส่งผลต่อความรับผิดชอบของเราอย่างไร ข้อโต้แย้งของ Anil Seth ใน Noemaชี้ว่าไม่ควรมองสติปัญญากับจิตสำนึกเป็นสิ่งเดียวกัน ส่วน รายงานข่าวล่าสุดใน The Guardian ก็อธิบายเช่นกันว่าเหตุใดคำถามนี้จึงยังไม่มีข้อยุติ การถกเถียงเรื่องนี้ไม่มีคำตอบง่าย ๆ

แต่ความไม่แน่นอนเกี่ยวกับชีวิตภายในของเครื่องจักรไม่ได้ทำให้คำถามในปัจจุบันเกี่ยวกับผลกระทบต่อมนุษย์พลอยไม่แน่นอนไปด้วย ความรับผิดชอบไม่ได้เริ่มขึ้นก็ต่อเมื่อเราตกลงกันได้ว่าจิตสำนึกคืออะไร แต่เริ่มตั้งแต่องค์กรต่าง ๆ สร้าง นำไปใช้ และทำกำไรจากระบบที่ส่งผลกระทบต่อผู้คน

ลองพิจารณาคำถามที่เราตรวจสอบได้ในตอนนี้ มีการใช้ข้อมูลใดฝึกระบบ และใช้ภายใต้เงื่อนไขใด? ใครเป็นผู้เตรียมและตรวจสอบผลลัพธ์ของระบบ? ระบบทำงานได้ดีเพียงใดกับคนแต่ละกลุ่ม? จะเกิดอะไรขึ้นเมื่อมีการใช้ระบบในแวดวงสาธารณสุข การจ้างงาน การศึกษา หรือบริการสาธารณะ? ผู้ใช้สามารถโต้แย้งคำแนะนำจากระบบอัตโนมัติ ติดต่อผู้มีอำนาจตัดสินใจที่เป็นมนุษย์ และได้รับคำอธิบายที่มีสาระได้หรือไม่?

ข้อกังวลเหล่านี้ไม่ใช่เรื่องสมมติ บททบทวนเรื่องอคติใน AI ทางการแพทย์อธิบายว่าข้อมูลที่มีอคติและการตัดสินใจด้านการออกแบบอาจส่งผลให้การตัดสินใจทางคลินิกไม่เป็นธรรมได้อย่างไร ขณะเดียวกัน งานวิจัยเกี่ยวกับ AI และการจ้างงานยังอยู่ระหว่างการพัฒนา การวิเคราะห์ตลาดแรงงานของ Anthropicเสนอวิธีหนึ่งในการวัดระดับการได้รับผลกระทบ ส่วน บททบทวนของ Hamilton Projectเตือนว่าหลักฐานเกี่ยวกับผลกระทบต่อตลาดแรงงานในวงกว้างยังไม่สมบูรณ์ แหล่งข้อมูลเหล่านี้ชี้ไปคนละทางในประเด็นที่เราจะสรุปได้ในวันนี้ แต่ต่างก็ย้ำถึงความจำเป็นในการวัดผลกระทบ แทนที่จะแทนที่หลักฐานด้วยเรื่องเล่าที่ฟังดูมั่นใจ

การพูดถึงระบบยังมีความเสี่ยงอีกประการหนึ่ง ชื่อ เสียง และรูปแบบการสนทนาที่คล้ายมนุษย์อาจทำให้ AI ดูเหมือนคนมากกว่าผลิตภัณฑ์ ซึ่งส่งผลต่อความไว้วางใจและวิธีที่ผู้คนคล้อยตามคำตอบของระบบได้ การตั้งคำถามว่าการพูดถึงจิตสำนึกหรือการออกแบบให้มีลักษณะคล้ายมนุษย์อาจเบี่ยงเบนความสนใจจากองค์กรที่กำหนดเป้าหมายและข้อจำกัดของระบบหรือไม่ จึงเป็นเรื่องสมเหตุสมผล บทวิเคราะห์หนึ่งใน MIT Technology Reviewเสนอว่าเรื่องเล่าเกี่ยวกับจิตสำนึกอาจบดบังคำถามเรื่องความรับผิดชอบของบริษัท นี่เป็นข้อโต้แย้งเกี่ยวกับผลของกรอบการนำเสนอ ไม่ใช่หลักฐานว่าทุกคนที่หยิบยกประเด็นนี้ขึ้นมามีเจตนาแอบแฝง

หายนะไม่ใช่แผนธรรมาภิบาล

ความเสี่ยงต่อการดำรงอยู่ควรได้รับความสนใจอย่างจริงจัง การเกิดหายนะไม่ได้ทำให้ความเสียหายที่อาจเกิดขึ้นในระยะใกล้มีความสำคัญน้อยลง และความเสียหายในระยะใกล้ก็ไม่ได้มีความสำคัญน้อยลงเพียงเพราะอาจเกิดหายนะขึ้น เราไม่จำเป็นต้องเลือกสนใจช่วงเวลาใดช่วงเวลาหนึ่งแล้วละเลยอีกช่วงหนึ่ง

แต่เมื่อคำถามว่า “เราถึงคราวหายนะแล้วหรือ?” กลายเป็นหัวข้อสนทนาทั้งหมด ความเสี่ยงระยะยาวก็กลับมาเบียดบังความเสียหายที่เกิดขึ้นในปัจจุบันอีกครั้ง คำว่า “หายนะ” อาจฟังเหมือนเป็นข้อสรุป มากกว่าจะเป็นคำเชื้อเชิญให้ลงมือทำ เพราะหากผลลัพธ์เป็นสิ่งที่หลีกเลี่ยงไม่ได้ แล้วจะพยายามทำงานยาก ๆ เพื่อเปลี่ยนแปลงมันไปทำไม บทความของ New Yorker ที่เล่าถึงหลักสูตรว่าด้วยความเสี่ยงต่อการดำรงอยู่กล่าวถึงคำถามเรื่อง “การสร้างมหาวิหาร” ของนักศึกษาคนหนึ่งว่า หากเชื่อว่าโลกอาจถึงกาลอวสาน เหตุใดจึงมุ่งมั่นสร้างสิ่งที่จะอยู่ยืนยาวกว่าตัวเรา คำตอบไม่ใช่ความเสี่ยงเหล่านั้นจะหายไป แต่เป็นเพราะความไม่แน่นอนไม่ได้ลบล้างความสามารถของเรา—หรือความรับผิดชอบของเรา—ในการตัดสินใจว่าอะไรสำคัญต่อไป และช่วยกำหนดสิ่งที่จะเกิดขึ้นต่อจากนี้

นั่นคือสิ่งที่ฉันหมายถึงด้วยปรัชญา “การมองโลกในแง่ดีอย่างมีกลยุทธ์” ซึ่งไม่ใช่การพูดอย่างเลื่อนลอยว่า “ทุกอย่างจะต้องเรียบร้อย” และไม่ใช่การปฏิเสธที่จะพิจารณาหลักฐาน หมายถึงการยอมรับความเสี่ยงที่เกิดขึ้นจริงและพยายามลดความเสี่ยงเหล่านั้น และในระหว่างนั้นก็ทุ่มเทอย่างจริงจังให้กับอนาคตที่ควรค่าแก่การไปให้ถึง ความหวังไม่ได้ตรงข้ามกับความเข้มงวดรอบคอบ ความหวังอาจเป็นสิ่งที่ทำให้ความเข้มงวดรอบคอบยังเชื่อมโยงกับการลงมือปฏิบัติ

คำถามด้านธรรมาภิบาลที่ซ่อนอยู่เบื้องหลังภาพหวือหวา

ไม่ว่าองค์กรจะซื้อเครื่องมือ AI สร้างเครื่องมือขึ้นเอง หรือกำหนดนโยบายเกี่ยวกับ AI คำถามเชิงปฏิบัติก็มักไม่หวือหวาเท่าคาเฟ่หรือคำกล่าวอ้างเรื่องจิตสำนึก แต่กลับมีประโยชน์มากกว่า ได้แก่

• วัตถุประสงค์: ระบบนี้มีไว้เพื่อแก้ปัญหาอะไร และ AI เป็นเครื่องมือที่เหมาะสมกับงานนั้นหรือไม่
• หลักฐาน: ระบบผ่านการทดสอบอย่างไรบ้าง รวมถึงการทดสอบกับผู้ใช้ที่หลากหลายและกรณีที่พบไม่บ่อย
• ขอบเขต: การตัดสินใจใดบ้างที่ต้องให้มนุษย์เป็นผู้ตัดสินใจ และระบบนี้ทำอะไรไม่ได้บ้าง
• ความรับผิดรับชอบ: ใครต้องรับผิดชอบเมื่อระบบล้มเหลว และผู้ที่ได้รับผลกระทบจะยื่นอุทธรณ์ได้อย่างไร
• ความโปร่งใส: ผู้คนเข้าใจได้หรือไม่ว่า AI เข้ามามีส่วนเกี่ยวข้องเมื่อใด และข้อมูลใดมีอิทธิพลต่อผลลัพธ์ของระบบ
• การกำกับดูแลอย่างต่อเนื่อง: ใครเป็นผู้ติดตามประสิทธิภาพ ข้อมูลที่เปลี่ยนแปลงไป และผลกระทบที่ไม่พึงประสงค์หลังเริ่มใช้งาน

กรอบการทำงานอย่าง กรอบการบริหารความเสี่ยงด้าน AI ของ NIST ช่วยให้องค์กรมีแนวทางที่เป็นระบบในการระบุและจัดการความเสี่ยงตลอดอายุการใช้งานของระบบ AI ไม่มีกรอบการทำงานใดทดแทนการใช้วิจารณญาณหรือการถกเถียงในสาธารณะได้ แต่การกำกับดูแลจะเป็นรูปธรรมมากขึ้นเมื่อระบุความรับผิดชอบ การทดสอบ และช่องทางเยียวยาไว้อย่างชัดเจน

ยังมีโครงสร้างพื้นฐานทางกายภาพที่ต้องกำกับดูแลด้วย AI ต้องอาศัยศูนย์ข้อมูล ไฟฟ้า น้ำ ที่ดิน และเงินทุน ไม่ใช่แค่ส่วนติดต่อผู้ใช้ รายงานเกี่ยวกับ โครงสร้างการจัดหาเงินทุนของโครงการศูนย์ข้อมูลขนาดใหญ่ทำให้เกิดคำถามว่า มีการเปิดเผยความเสี่ยงด้านโครงสร้างพื้นฐานอย่างไร และท้ายที่สุดใครเป็นผู้แบกรับความเสี่ยงเหล่านั้น คาเฟ่อาจช่วยให้ผู้คนได้สัมผัสกับ AI แต่เพียงลำพังแล้ว คาเฟ่ไม่อาจทำให้เข้าใจโครงสร้างพื้นฐานที่อยู่เบื้องหลัง AI ได้อย่างชัดเจน

เช่นนั้นก็เพลิดเพลินกับคาเฟ่ไป ตั้งคำถามใหญ่ ๆ เกี่ยวกับจิตสำนึก ให้ความสำคัญกับความเสี่ยงจากหายนะ แล้วหันกลับมาพิจารณาการตัดสินใจที่เราตรวจสอบและส่งอิทธิพลได้ในตอนนี้ว่า จะสร้างอะไร ใครได้ประโยชน์ ใครเป็นผู้แบกรับต้นทุน และมีมาตรการคุ้มครองอะไรบ้างเมื่อเกิดข้อผิดพลาด

อนาคตไม่ใช่คำตัดสินที่พาดหัวข่าวหยิบยื่นมาให้ แต่เป็นชุดทางเลือกที่บริษัท สถาบัน รัฐบาล และชุมชนเป็นผู้ตัดสินใจ ซึ่งยังตั้งคำถามและเปลี่ยนแปลงได้ คำถามที่มีประโยชน์ที่สุดจึงไม่ใช่แค่ว่าเราถึงคราวหายนะแล้วหรือไม่ แต่คือเงื่อนไขใดจะทำให้ AI ส่งเสริมให้มนุษย์มีชีวิตที่เจริญงอกงาม และเราพร้อมทำอะไรบ้างเพื่อทำให้เงื่อนไขเหล่านั้นเกิดขึ้นจริง