จูลิเอตต์ โพเวลล์ และ อาร์ต ไคลเนอร์ ผู้เขียนหนังสือ The AI Dilemma – ซีรีส์สัมภาษณ์

จูลิเอตต์ โพเวลล์ และ อาร์ต ไคลเนอร์ เป็นผู้เขียนหนังสือ The AI Dilemma

จูลิเอตต์ โพเวลล์ เป็นนักเขียน ผู้สร้างรายการโทรทัศน์ที่มีประสบการณ์มากกว่า 9,000 รายการ และเป็นนักเทคโนโลยีและนักสังคมวิทยา เธอยังเป็นผู้บรรยายบน Bloomberg TV/ Business News Networks และเป็นผู้บรรยายในการประชุมที่จัดโดย The Economist และ International Finance Corporation การสัมภาษณ์ของเธอบน TED มียอดดูมากกว่า 130,000 ครั้งบน YouTube จูลิเอตต์สามารถระบุรูปแบบและแนวปฏิบัติของผู้นำธุรกิจที่ประสบความสำเร็จซึ่งพึ่งพา AI และข้อมูลที่มีจริยธรรมเพื่อชนะ เธอยังเป็นอาจารย์ที่ NYU’s ITP และสอนหลักสูตรที่รวมถึง Design Skills for Responsible Media ซึ่งเป็นหลักสูตรที่อิงจากหนังสือของเธอ

อาร์ต ไคลเนอร์ เป็นนักเขียน บรรณาธิการ และนักอนาคตศาสตร์ หนังสือของเขา ได้แก่ The Age of Heretics, Who Really Matters, Privilege and Success และ The Wise เขาเคยเป็นบรรณาธิการของ strategy+business นิตยสารที่ได้รับรางวัลจาก PwC อาร์ต ยังเป็นสมาชิกของ NYU-ITP และ IMA และสอนหลักสูตรที่รวมถึง Responsible Technology and the Future of Media

“The AI Dilemma” เป็นหนังสือที่เน้นถึงอันตรายของเทคโนโลยี AI เมื่ออยู่ในมือที่ไม่เหมาะสม ในขณะที่ยังยอมรับถึงประโยชน์ที่ AI มอบให้กับสังคม

ปัญหาเกิดขึ้นเนื่องจากเทคโนโลยีที่ซ่อนอยู่มีความซับซ้อนมากจนผู้ใช้สุดท้ายไม่สามารถเข้าใจการทำงานภายในของระบบที่ปิดได้

หนึ่งในประเด็นที่สำคัญที่สุดคือการกำหนดความหมายของ AI ที่มีจริยธรรมซึ่งมีการเปลี่ยนแปลงอยู่เสมอ เนื่องจากค่านิยมทางสังคมมักจะไม่คงที่ตลอดเวลา

ฉันชอบอ่าน “The AI Dilemma” มาก มันเป็นหนังสือที่ไม่ทำให้ AI ดูอันตรายหรือลึกเกินไปในเรื่องของ Artificial General Intelligence (AGI) แทนที่จะให้ความรู้แก่ผู้อ่านเกี่ยวกับวิธีการที่ข้อมูลส่วนบุคคลของเราถูกใช้โดยไม่มีการรู้ตัว และข้อจำกัดของ AI ในปัจจุบัน

ด้านล่างนี้เป็นคำถามที่ออกแบบมาเพื่อให้ผู้อ่านได้เห็นภาพว่าพวกเขาจะได้รับอะไรจากหนังสือที่น่าตื่นเต้นนี้

สิ่งใดที่ทำให้คุณตัดสินใจเขียน “The AI Dilemma” ในตอนแรก?

จูลิเอตต์เข้าเรียนที่ Columbia เพื่อศึกษาขอบเขตและความเป็นไปได้ของการควบคุม AI เธอได้ยินจากเพื่อนที่ทำงานในโครงการ AI เกี่ยวกับความตึงเครียดที่มีอยู่ในโครงการเหล่านั้น เธอได้สรุปว่ามี AI Dilemma ซึ่งเป็นปัญหาที่ใหญ่กว่าการควบคุมตนเอง เธอได้พัฒนา Apex benchmark model ซึ่งเป็นแบบจำลองของวิธีการตัดสินใจเกี่ยวกับ AI ที่มีแนวโน้มไปสู่ความรับผิดชอบต่ำเนื่องจากการโต้ตอบระหว่างบริษัทและกลุ่มภายในบริษัท ซึ่งนำไปสู่การเขียนวิทยานิพนธ์ของเธอ

อาร์ตได้ทำงานร่วมกับจูลิเอตต์ในการเขียนหลายโครงการ เขาอ่านวิทยานิพนธ์ของเธอและกล่าวว่า “คุณมีหนังสือที่นี่” จูลิเอตต์เชิญเขาให้ร่วมเขียนหนังสือด้วย เมื่อทำงานร่วมกัน พวกเขาพบว่าตัวเองมีมุมมองที่แตกต่างกัน แต่มีความเห็นที่ตรงกันว่าปรากฏการณ์ AI ที่ซับซ้อนและเสี่ยงนี้ต้องถูกเข้าใจให้ดีขึ้น เพื่อให้ผู้ใช้สามารถใช้งานได้อย่างมีความรับผิดชอบและประสิทธิภาพ

หนึ่งในปัญหาพื้นฐานที่เน้นใน The AI Dilemma คือการไม่สามารถเข้าใจได้ว่าระบบ AI นั้นมีความรับผิดชอบหรือไม่ โดยการตรวจสอบโค้ดต้นกำเนิดเพียงอย่างเดียว สิ่งนี้เป็นปัญหาใหญ่ขนาดไหน?

ปัญหาไม่ได้อยู่ที่โค้ดต้นกำเนิดเป็นหลัก เมื่อมีระบบที่ปิด มันไม่ใช่แค่โค้ดเท่านั้น แต่เป็นระบบสังคม-เทคโนโลยี — แรงงานของมนุษย์และเทคโนโลยีที่มีอิทธิพลซึ่งกันและกัน — ที่ต้องถูกสำรวจ สิ่งนี้รวมถึงการระบุวัตถุประสงค์ การระบุข้อมูล การตั้งลำดับความสำคัญ การสร้างแบบจำลอง การตั้งค่าแนวทางและรั้วกั้นสำหรับการเรียนรู้ของเครื่อง และการตัดสินใจเมื่อและวิธีการที่มนุษย์ควรเข้าแทรกแซง สิ่งนี้ต้องถูกทำให้โปร่งใส –至少สำหรับผู้สังเกตการณ์และผู้ตรวจสอบ — ความเสี่ยงของความไม่เท่าเทียมทางสังคมและความเสี่ยงอื่นๆ มีมากขึ้นเมื่อส่วนเหล่านี้ของกระบวนการถูกซ่อนไว้ คุณไม่สามารถออกแบบการทำงานใหม่จากโค้ดต้นกำเนิดได้

การเน้นไปที่ Explainable AI (XAI) สามารถแก้ไขปัญหานี้ได้หรือไม่?

สำหรับวิศวกร Explainable AI เป็นกลุ่มของข้อจำกัดและแนวปฏิบัติทางเทคโนโลยีที่มุ่งหมายเพื่อให้แบบจำลองมีความโปร่งใสต่อผู้ที่ทำงานกับมัน สำหรับผู้ที่ถูกกล่าวหาว่าไม่ถูกต้อง ความเข้าใจได้จะมีความหมายที่แตกต่างและความเร่งด่วน พวกเขาต้องการความเข้าใจได้เพื่อให้สามารถต่อสู้กลับในความป้องกันของตนเอง เราทุกคนต้องการความเข้าใจได้ในการทำให้การตัดสินใจทางธุรกิจหรือรัฐบาลที่อยู่เบื้องหลังแบบจำลองชัดเจน ในสหรัฐอเมริกามักจะมีความตึงเครียดระหว่างความเข้าใจได้ — สิทธิของมนุษย์ที่จะรู้ — และสิทธิขององค์กรในการแข่งขันและนวัตกรรม ผู้ตรวจสอบและผู้กำกับต้องการระดับความเข้าใจได้ที่แตกต่าง เราได้กล่าวถึงสิ่งนี้ใน The AI Dilemma

คุณสามารถแบ่งปันมุมมองของคุณเกี่ยวกับความสำคัญของการทำให้ผู้มีส่วนได้ส่วนเสีย (บริษัท AI) รับผิดชอบต่อโค้ดที่พวกเขาพัฒนาและปล่อยสู่โลกได้หรือไม่?

จนถึงตอนนี้ ตัวอย่างเช่น ในกรณีของการชนรถยนต์ไร้คนขับใน Tempe, AZ ที่ทำให้ผู้คนตาย ผู้ควบคุมถูกกล่าวหาว่าเป็นผู้รับผิดชอบ บุคคลหนึ่งถูกส่งเข้าเรือนจำ ในที่สุดแล้ว มันเป็นความล้มเหลวขององค์กร

เมื่อทางรถไฟพัง วิศวกรเครื่องกลถูกกล่าวหาว่าเป็นผู้รับผิดชอบ นั่นเพราะวิศวกรเครื่องกลได้รับการฝึกอบรม การฝึกอบรมอย่างต่อเนื่อง และถูกถือว่ามีความรับผิดชอบโดยวิชาชีพของพวกเขา วิศวกรคอมพิวเตอร์ไม่ใช่

ผู้มีส่วนได้ส่วนเสีย รวมถึงบริษัท AI ควรได้รับการฝึกอบรมและการฝึกอบรมซ้ำเพื่อตัดสินใจที่ดีขึ้นและรับผิดชอบมากขึ้นหรือไม่?

The AI Dilemma เน้นไปที่วิธีการที่บริษัทอย่าง Google (GOOGL ) และ Meta สามารถเก็บเกี่ยวและสร้างรายได้จากข้อมูลส่วนบุคคลของเราได้อย่างไร คุณสามารถแบ่งปันตัวอย่างที่สำคัญของการละเมิดข้อมูลส่วนบุคคลที่ทุกคนควรต้องรู้หรือไม่?

จาก The AI Dilemma หน้า 67ff:

กรณีใหม่ๆ ของการละเมิดข้อมูลส่วนบุคคลอย่างเป็นระบบยังคงปรากฏต่อสายตาสาธารณะ มีหลายกรณีที่เกี่ยวข้องกับการใช้การรู้จำใบหน้าอย่างลับๆ ในเดือนธันวาคม 2022 MIT Technology Review ตีพิมพ์เรื่องราวเกี่ยวกับการปฏิบัติของ iRobot ที่มีมานาน โรบอท Roomba บันทึกภาพและวิดีโอในบ้านของผู้ทดสอบแบบสุ่ม ซึ่งหมายความว่าเก็บข้อมูลส่วนบุคคลและครอบครัวที่มีความส่วนตัวสูง ซึ่งถูกแชร์โดยไม่มีการรู้ตัวของผู้ทดสอบกับกลุ่มภายนอก ในกรณีหนึ่ง ภาพของบุคคลที่อยู่ในห้องน้ำถูกโพสต์บน Facebook (META ) ในขณะเดียวกัน ในอิหร่าน เจ้าหน้าที่ได้เริ่มใช้ข้อมูลจากระบบการรู้จำใบหน้าเพื่อติดตามและจับกุมผู้หญิงที่ไม้สวมหีบบ

ไม่มีความจำเป็นที่จะขยายเรื่องราวเหล่านี้ต่อไป มีเรื่องราวมากมาย และสิ่งสำคัญคือต้องระบุผลคูณของการดำเนินชีวิตในลักษณะนี้ เราสูญเสียความรู้สึกที่มีต่อการควบคุมชีวิตของเราเมื่อเรารู้สึกว่าข้อมูลส่วนตัวของเราอาจถูกใช้เทียบกับเราได้ทุกเมื่อโดยไม่มีการเตือน

แนวคิดที่อันตรายที่ถูกนำขึ้นมา คือ การออกแบบโลกของเราให้ไม่มีการขัดข้อง โดยที่การขัดข้องถูกกำหนดว่าเป็น “จุดใดๆ ในการเดินทางของลูกค้ากับบริษัทที่พวกเขาต้องหยุดชะงักหรือทำให้เกิดความไม่พอใจ” วิธีการที่ความคาดหวังของประสบการณ์ที่ไม่มีการขัดข้องอาจนำไปสู่ AI ที่อันตรายได้อย่างไร?

ในนิวซีแลนด์ โรบอท Pak’n’Save ที่ชาญฉลาดแนะนำสูตรอาหารที่จะสร้างก๊าซคลอรีนหากใช้ สิ่งนี้ถูกส่งเสริมว่าเป็นวิธีสำหรับลูกค้าในการใช้ส่วนเหลือและประหยัดเงิน

การไม่มีการขัดข้องทำให้เกิดความเชื่อมั่นในการควบคุม มันเร็วและง่ายกว่าที่จะฟังแอปมากกว่าการดูสูตรของยาย ผู้คนตามเส้นทางที่มีการต้านทานน้อยที่สุดและไม่ทราบว่ามันนำไปที่ไหน

การขัดข้องเป็นสิ่งสร้างสรรค์ คุณมีส่วนร่วม สิ่งนี้นำไปสู่การควบคุมที่แท้จริง การควบคุมที่แท้จริงต้องใช้ความสนใจและการทำงาน และ — ในกรณีของ AI — การทำการวิเคราะห์ผลกระทบและประโยชน์ที่ขยายออกไป

ด้วยการหลอกลวงที่ว่าเรามีการควบคุม มันเหมือนกับว่าเราอาศัยอยู่ในโลกที่ระบบ AI กำลังกระตุ้นให้ผู้คน แทนที่จะให้ผู้คนควบคุมอย่างเต็มที่ คุณสามารถให้ตัวอย่างที่ผู้คนเชื่อว่าพวกเขามีการควบคุม แต่จริงๆ แล้วไม่มีการควบคุมได้หรือไม่?

ในซานฟรานซิสโก ในขณะนี้ มีรถแท็กซี่ไร้คนขับ ความคิดเห็นต่อเรื่องนี้มักจะทำให้เกิดอารมณ์สองขั้ว: ความตื่นเต้น (“แท็กซี่ในราคาถูก!”) และความกลัว (“มันจะชนฉันหรือไม่?”) ดังนั้น ผู้กำกับหลายคนจึงแนะนำให้ทดสอบรถยนต์เหล่านี้พร้อมผู้โดยสารที่สามารถควบคุมได้ อย่างไรก็ตาม การมีผู้โดยสารที่ตื่นตัวและพร้อมที่จะเข้าควบคุมระบบในเวลาจริงอาจไม่ใช่การทดสอบความปลอดภัยสาธารณะที่ดี การมั่นใจมากเกินไปเป็นพลวัตที่พบบ่อยกับระบบ AI ระบบอัตโนมัติมากขึ้น ผู้ควบคุมมนุษย์มักจะไว้วางใจมันและไม่ให้ความสนใจอย่างเต็มที่ เมื่อเกิดอุบัติเหตุจริงๆ เราไม่คาดคิดและไม่ phản應ทันเวลา

การวิจัยมากมายถูกนำมาใช้ในการเขียนหนังสือเล่มนี้ มีอะไรที่ทำให้คุณประหลาดใจบ้างหรือไม่?

สิ่งหนึ่งที่ทำให้เราตกใจจริงๆ คือ ผู้คนจากทั่วโลกไม่สามารถตกลงกันได้ว่าใครควรอยู่และใครควรตายใน การจำลองการชนรถยนต์ไร้คนขับของ The Moral Machine หากเราไม่สามารถตกลงกันได้แล้ว มันจะยากที่จะจินตนาการว่าเราจะมีการกำกับดูแลทั่วโลกหรือมาตรฐาน AI ที่เป็นเอกภาพได้อย่างไร

คุณทั้งสองคนอธิบายตัวเองว่าเป็นนักธุรกิจรุ่นใหม่ สิ่งที่คุณได้เรียนรู้และรายงานจะส่งผลต่อความพยายามในอนาคตของคุณอย่างไร?

การให้คำปรึกษาด้าน AI ของเรามุ่งเน้นไปที่ช่วยให้องค์กรเติบโตอย่างมีความรับผิดชอบกับเทคโนโลยี ทนายความ วิศวกร นักสังคมวิทยา และนักคิดธุรกิจล้วนเป็นผู้มีส่วนได้ส่วนเสียในอนาคตของ AI ในการทำงานของเรา เรานำมุมมองเหล่านี้มารวมกันและฝึกฝนการสร้างความเสี่ยงเชิงสร้างสรรค์เพื่อหาวิธีแก้ปัญหาที่ดีขึ้น เราได้พัฒนาเฟรมเวิร์ก เช่น แคลคูลัสของความเสี่ยงที่ตั้งใจ เพื่อช่วยในการนำทางประเด็นเหล่านี้

ขอขอบคุณสำหรับคำตอบที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ The AI Dilemma