จูลิเอตต์ โพเวลล์ และ อาร์ต ไคลเนอร์ ผู้เขียนหนังสือ The AI Dilemma – ซีรีส์สัมภาษณ์

จูลิเอตต์ โพเวลล์ และ อาร์ต ไคลเนอร์ เป็นผู้เขียนหนังสือ The AI Dilemma

จูลิเอตต์ โพเวลล์ เป็นนักเขียน ผู้สร้างรายการโทรทัศน์ที่มีประสบการณ์ทำรายการสด 9,000 รายการ และเป็นนักเทคโนโลยีและนักสังคมวิทยา เธอยังเป็นผู้บรรยายบน Bloomberg TV/ Business News Networks และเป็นผู้บรรยายในการประชุมที่จัดโดย The Economist และ International Finance Corporation การบรรยาย TED ของเธอ มียอดดูมากกว่า 130,000 ครั้งบน YouTube จูลิเอตต์สามารถระบุรูปแบบและแนวปฏิบัติของผู้นำธุรกิจที่ประสบความสำเร็จซึ่งพึ่งพา AI และข้อมูลที่มีจริยธรรมเพื่อชนะ เธอยังเป็นอาจารย์ที่ NYU’s ITP และสอนสี่หลักสูตร รวมถึง Design Skills for Responsible Media ซึ่งเป็นหลักสูตรที่อิงจากหนังสือของเธอ

อาร์ต ไคลเนอร์ เป็นนักเขียน บรรณาธิการ และนักอนาคตศาสตร์ หนังสือของเขา ได้แก่ The Age of Heretics, Who Really Matters, Privilege and Success และ The Wise เขาเคยเป็นบรรณาธิการของ strategy+business นิตยสารที่ได้รับรางวัลจาก PwC อาร์ต ยังเป็นอาจารย์ที่ NYU-ITP และ IMA มาอย่างยาวนาน และสอนสี่หลักสูตร รวมถึง Responsible Technology and the Future of Media

“The AI Dilemma” เป็นหนังสือที่เน้นถึงอันตรายของเทคโนโลยี AI เมื่ออยู่ในมือที่ไม่เหมาะสม ในขณะที่ยังยอมรับถึงประโยชน์ที่ AI มอบให้กับสังคม

ปัญหาเกิดขึ้นเนื่องจากเทคโนโลยีที่ซ่อนอยู่มีความซับซ้อนมากจนผู้ใช้สุดท้ายไม่สามารถเข้าใจการทำงานภายในของระบบที่ปิดได้

หนึ่งในประเด็นที่สำคัญที่สุดคือการกำหนดความหมายของ AI ที่มีจริยธรรมซึ่งมีการเปลี่ยนแปลงอยู่เสมอ เนื่องจากค่านิยมทางสังคมมักจะไม่คงที่ตลอดเวลา

ฉันชอบอ่าน “The AI Dilemma” มาก หนังสือเล่มนี้ไม่กล่าวถึงอันตรายของ AI อย่างเกินจริง และไม่ได้เจาะลึกข้อเสียที่อาจเกิดจากปัญญาประดิษฐ์ทั่วไป (AGI) แต่ผู้อ่านจะได้เรียนรู้วิธีที่ข้อมูลส่วนบุคคลของเราถูกใช้โดยไม่รู้ตัว รวมถึงข้อจำกัดของ AI ในปัจจุบันและเหตุผลที่ควรกังวล

ด้านล่างนี้เป็นคำถามที่ออกแบบมาเพื่อให้ผู้อ่านได้เห็นภาพว่าพวกเขาจะได้รับอะไรจากหนังสือที่น่าตื่นเต้นนี้

สิ่งใดที่ทำให้คุณตัดสินใจเขียน “The AI Dilemma” ในตอนแรก?

จูลิเอตต์เข้าเรียนที่ Columbia เพื่อศึกษาขอบเขตและความเป็นไปได้ของการควบคุม AI เธอได้ยินจากเพื่อนที่ทำงานในโครงการ AI เกี่ยวกับความตึงเครียดที่มีอยู่ในโครงการเหล่านั้น เธอได้สรุปว่ามี AI Dilemma ซึ่งเป็นปัญหาที่ใหญ่กว่าการควบคุมตนเอง เธอได้พัฒนา Apex benchmark model ซึ่งเป็นแบบจำลองของวิธีการตัดสินใจเกี่ยวกับ AI ที่มีแนวโน้มไปสู่ความรับผิดชอบต่ำเนื่องจากการโต้ตอบระหว่างบริษัทและกลุ่มภายในบริษัท ซึ่งนำไปสู่การเขียนวิทยานิพนธ์ของเธอ

อาร์ตได้ทำงานร่วมกับจูลิเอตต์ในการเขียนหลายโครงการ เขาอ่านวิทยานิพนธ์ของเธอและกล่าวว่า “คุณมีหนังสือที่นี่” จูลิเอตต์เชิญเขาให้ร่วมเขียนหนังสือด้วย เมื่อทำงานร่วมกัน พวกเขาพบว่าตัวเองมีมุมมองที่แตกต่างกัน แต่มีความเห็นที่ตรงกันว่าปรากฏการณ์ AI ที่ซับซ้อนและเสี่ยงนี้ต้องถูกเข้าใจให้ดีขึ้น เพื่อให้ผู้ใช้สามารถใช้งานได้อย่างมีความรับผิดชอบและประสิทธิภาพ

หนึ่งในปัญหาพื้นฐานที่เน้นใน The AI Dilemma คือการไม่สามารถเข้าใจได้ว่าระบบ AI นั้นมีความรับผิดชอบหรือไม่ โดยการศึกษาซอร์สโค้ดเพียงอย่างเดียว หรือว่าระบบนั้นตอกย้ำความไม่เท่าเทียมทางสังคมหรือไม่ สิ่งนี้เป็นปัญหาใหญ่ขนาดไหน?

ปัญหาไม่ได้อยู่ที่ซอร์สโค้ดเป็นหลัก ดังที่ Cathy O’Neil ชี้ไว้ เมื่อมีระบบกล่องปิด มันไม่ใช่แค่โค้ดเท่านั้น แต่เป็นระบบสังคม-เทคโนโลยี — พลังจากมนุษย์และเทคโนโลยีที่มีอิทธิพลซึ่งกันและกัน — ที่ต้องถูกสำรวจ สิ่งนี้รวมถึงการระบุวัตถุประสงค์ การระบุข้อมูล การตั้งลำดับความสำคัญ การสร้างแบบจำลอง การตั้งค่าแนวทางและรั้วกั้นสำหรับการเรียนรู้ของเครื่อง และการตัดสินใจเมื่อและวิธีการที่มนุษย์ควรเข้าแทรกแซง สิ่งนี้ต้องถูกทำให้โปร่งใส –อย่างน้อยสำหรับผู้สังเกตการณ์และผู้ตรวจสอบ — ความเสี่ยงของความไม่เท่าเทียมทางสังคมและความเสี่ยงอื่นๆ มีมากขึ้นเมื่อส่วนเหล่านี้ของกระบวนการถูกซ่อนไว้ คุณไม่สามารถย้อนสร้างตรรกะการออกแบบจากซอร์สโค้ดได้

การเน้นไปที่ Explainable AI (XAI) สามารถแก้ไขปัญหานี้ได้หรือไม่?

สำหรับวิศวกร Explainable AI เป็นกลุ่มของข้อจำกัดและแนวปฏิบัติทางเทคโนโลยีที่มุ่งหมายเพื่อให้แบบจำลองมีความโปร่งใสต่อผู้ที่ทำงานกับมัน สำหรับผู้ที่ถูกกล่าวหาอย่างไม่เป็นธรรม ความสามารถในการอธิบายจะมีความหมายที่แตกต่างและความเร่งด่วน พวกเขาต้องการความสามารถในการอธิบายเพื่อให้สามารถโต้แย้งเพื่อปกป้องตนเอง เราทุกคนต้องการความสามารถในการอธิบายในการทำให้การตัดสินใจทางธุรกิจหรือรัฐบาลที่อยู่เบื้องหลังแบบจำลองชัดเจน ในสหรัฐอเมริกามักจะมีความตึงเครียดระหว่างความสามารถในการอธิบาย — สิทธิของมนุษย์ที่จะรู้ — และสิทธิขององค์กรในการแข่งขันและนวัตกรรม ผู้ตรวจสอบและผู้กำกับต้องการระดับความสามารถในการอธิบายที่แตกต่าง เราได้กล่าวถึงสิ่งนี้ใน The AI Dilemma

คุณสามารถแบ่งปันมุมมองของคุณเกี่ยวกับความสำคัญของการทำให้ผู้มีส่วนได้ส่วนเสีย (บริษัท AI) รับผิดชอบต่อโค้ดที่พวกเขาพัฒนาและปล่อยสู่โลกได้หรือไม่?

จนถึงตอนนี้ ตัวอย่างเช่น ในกรณีของการชนรถยนต์ไร้คนขับใน Tempe, AZ ที่ทำให้คนเดินถนนเสียชีวิต ผู้ควบคุมถูกดำเนินคดีและได้รับโทษคุมประพฤติภายใต้การกำกับดูแลเป็นเวลาสามปี ในที่สุดแล้ว มันเป็นความล้มเหลวขององค์กร

เมื่อสะพานพัง วิศวกรเครื่องกลถูกกล่าวหาว่าเป็นผู้รับผิดชอบ นั่นเพราะวิศวกรเครื่องกลได้รับการฝึกอบรม การฝึกอบรมอย่างต่อเนื่อง และถูกถือว่ามีความรับผิดชอบโดยวิชาชีพของพวกเขา วิศวกรคอมพิวเตอร์ไม่ใช่

ผู้มีส่วนได้ส่วนเสีย รวมถึงบริษัท AI ควรได้รับการฝึกอบรมและการฝึกอบรมซ้ำเพื่อตัดสินใจที่ดีขึ้นและรับผิดชอบมากขึ้นหรือไม่?

The AI Dilemma เน้นไปที่วิธีการที่บริษัทอย่าง Google (GOOGL ) และ Meta สามารถเก็บเกี่ยวและสร้างรายได้จากข้อมูลส่วนบุคคลของเราได้อย่างไร คุณสามารถแบ่งปันตัวอย่างที่สำคัญของการละเมิดข้อมูลส่วนบุคคลที่ทุกคนควรต้องรู้หรือไม่?

จาก The AI Dilemma หน้า 67ff:

กรณีใหม่ๆ ของการละเมิดข้อมูลส่วนบุคคลอย่างเป็นระบบยังคงปรากฏต่อสายตาสาธารณะ มีหลายกรณีที่เกี่ยวข้องกับการใช้การรู้จำใบหน้าอย่างลับๆ ในเดือนธันวาคม 2022 MIT Technology Review ตีพิมพ์เรื่องราวเกี่ยวกับการปฏิบัติของ iRobot ที่มีมานาน โรบอท Roomba บันทึกภาพและวิดีโอในบ้านของอาสาสมัครทดสอบรุ่นเบตา ซึ่งหมายความว่าเก็บข้อมูลส่วนบุคคลและครอบครัวที่มีความส่วนตัวสูง ซึ่งถูกแชร์โดยไม่มีการรู้ตัวของผู้ทดสอบกับกลุ่มในต่างประเทศ ในกรณีหนึ่ง ภาพของบุคคลที่อยู่ในห้องน้ำถูกโพสต์บน Facebook (META ) ในขณะเดียวกัน ในอิหร่าน เจ้าหน้าที่ได้เริ่มใช้ข้อมูลจากระบบการรู้จำใบหน้าเพื่อติดตามและจับกุมผู้หญิงที่ไม่สวมฮิญาบ

ไม่มีความจำเป็นที่จะขยายเรื่องราวเหล่านี้ต่อไป มีเรื่องราวมากมาย และสิ่งสำคัญคือต้องระบุผลสะสมของการดำเนินชีวิตในลักษณะนี้ เราสูญเสียความรู้สึกที่มีต่อการควบคุมชีวิตของเราเมื่อเรารู้สึกว่าข้อมูลส่วนตัวของเราอาจถูกใช้เล่นงานเราได้ทุกเมื่อโดยไม่มีการเตือน

แนวคิดที่อันตรายที่ถูกนำขึ้นมา คือ การออกแบบโลกของเราให้ไม่มีการขัดข้อง โดยที่การขัดข้องถูกกำหนดว่าเป็น “จุดใดๆ ในการเดินทางของลูกค้ากับบริษัทที่พวกเขาต้องหยุดชะงักหรือทำให้เกิดความไม่พอใจ” วิธีการที่ความคาดหวังของประสบการณ์ที่ไม่มีการขัดข้องอาจนำไปสู่ AI ที่อันตรายได้อย่างไร?

ในนิวซีแลนด์ โรบอท Pak’n’Save ที่ชาญฉลาดแนะนำสูตรอาหารที่จะสร้างก๊าซคลอรีนหากใช้ สิ่งนี้ถูกส่งเสริมว่าเป็นวิธีสำหรับลูกค้าในการใช้ส่วนเหลือและประหยัดเงิน

การไร้แรงเสียดทานสร้างภาพลวงตาว่าเราควบคุมได้ มันเร็วและง่ายกว่าที่จะฟังแอปมากกว่าการดูสูตรของยาย ผู้คนตามเส้นทางที่มีการต้านทานน้อยที่สุดและไม่ทราบว่ามันนำไปที่ไหน

การขัดข้องเป็นสิ่งสร้างสรรค์ คุณมีส่วนร่วม สิ่งนี้นำไปสู่การควบคุมที่แท้จริง การควบคุมที่แท้จริงต้องใช้ความสนใจและการทำงาน และ — ในกรณีของ AI — การทำการวิเคราะห์ต้นทุนและประโยชน์อย่างละเอียด

ด้วยการหลอกลวงที่ว่าเรามีการควบคุม มันเหมือนกับว่าเราอาศัยอยู่ในโลกที่ระบบ AI กำลังกระตุ้นให้ผู้คน แทนที่จะให้ผู้คนควบคุมอย่างเต็มที่ คุณสามารถให้ตัวอย่างที่ผู้คนเชื่อว่าพวกเขามีการควบคุม แต่จริงๆ แล้วไม่มีการควบคุมได้หรือไม่?

ในซานฟรานซิสโก ในขณะนี้ มีรถแท็กซี่ไร้คนขับ ความคิดเห็นต่อเรื่องนี้มักจะทำให้เกิดอารมณ์สองขั้ว: ความตื่นเต้น (“แท็กซี่ในราคาถูก!”) และความกลัว (“มันจะชนฉันหรือไม่?”) ดังนั้น หน่วยงานกำกับดูแลหลายแห่งจึงแนะนำให้ทดสอบรถยนต์เหล่านี้พร้อมผู้โดยสารที่สามารถควบคุมได้ อย่างไรก็ตาม การมีผู้โดยสารที่ตื่นตัวและพร้อมที่จะเข้าควบคุมระบบในเวลาจริงอาจไม่ใช่การทดสอบความปลอดภัยสาธารณะที่ดี การมั่นใจมากเกินไปเป็นพลวัตที่พบบ่อยกับระบบ AI ระบบอัตโนมัติมากขึ้น ผู้ควบคุมมนุษย์มักจะไว้วางใจมันและไม่ให้ความสนใจอย่างเต็มที่ เราเบื่อหน่ายกับการเฝ้าดูเทคโนโลยีเหล่านี้ เมื่ออุบัติเหตุกำลังจะเกิดขึ้นจริง เราไม่คาดคิดและมักตอบสนองไม่ทันเวลา

การวิจัยมากมายถูกนำมาใช้ในการเขียนหนังสือเล่มนี้ มีอะไรที่ทำให้คุณประหลาดใจบ้างหรือไม่?

สิ่งหนึ่งที่ทำให้เราตกใจจริงๆ คือ ผู้คนจากทั่วโลกไม่สามารถตกลงกันได้ว่าใครควรอยู่และใครควรตายใน การจำลองการชนรถยนต์ไร้คนขับของ The Moral Machine หากเราไม่สามารถตกลงกันได้แล้ว มันจะยากที่จะจินตนาการว่าเราจะมีการกำกับดูแลทั่วโลกหรือมาตรฐาน AI ที่เป็นเอกภาพได้อย่างไร

คุณทั้งสองคนอธิบายตัวเองว่าเป็นผู้ประกอบการ สิ่งที่คุณได้เรียนรู้และรายงานจะส่งผลต่อความพยายามในอนาคตของคุณอย่างไร?

การให้คำปรึกษาด้าน AI ของเรามุ่งเน้นไปที่ช่วยให้องค์กรเติบโตอย่างมีความรับผิดชอบกับเทคโนโลยี ทนายความ วิศวกร นักสังคมวิทยา และนักคิดธุรกิจล้วนเป็นผู้มีส่วนได้ส่วนเสียในอนาคตของ AI ในการทำงานของเรา เรานำมุมมองเหล่านี้มารวมกันและฝึกฝนแรงเสียดทานเชิงสร้างสรรค์เพื่อหาวิธีแก้ปัญหาที่ดีขึ้น เราได้พัฒนาเฟรมเวิร์ก เช่น แคลคูลัสของความเสี่ยงที่ตั้งใจ เพื่อช่วยในการนำทางประเด็นเหล่านี้

ขอขอบคุณสำหรับคำตอบที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ The AI Dilemma