เบลีย์ คัคส์มาร์ ผู้สมัครปริญญาดุษฎีบัณฑิตที่มหาวิทยาลัยวอเตอร์ลู – ซีรีส์สัมภาษณ์

เบลีย์ คัคส์มาร์ เป็นผู้สมัครปริญญาดุษฎีบัณฑิตในสาขาวิทยาการคอมพิวเตอร์ tại มหาวิทยาลัยวอเตอร์ลู และเป็นสมาชิกคณะกรรมการที่จะเข้าร่วมมหาวิทยาลัยอัลเบอร์ต้า ใน tương lai การวิจัยของเธอเกี่ยวข้องกับการพัฒนาระบบที่ช่วยเพิ่มความเป็นส่วนตัวผ่านการเรียนรู้ของเครื่องจักร โดยศึกษาวิธีการทางเทคนิคสำหรับการคำนวณส่วนตัวและความเข้าใจของผู้ใช้เกี่ยวกับระบบเหล่านี้ งานวิจัยของเธอมีจุดมุ่งหมายเพื่อระบุศักยภาพและข้อจำกัดของความเป็นส่วนตัวในการใช้งานเครื่องจักรเรียนรู้

การวิจัยของคุณมุ่งเน้นไปที่การพัฒนาระบบที่ช่วยเพิ่มความเป็นส่วนตัวผ่านการเรียนรู้ของเครื่องจักร ทำไมความเป็นส่วนตัวใน AI จึงมีความสำคัญ?

ความเป็นส่วนตัวใน AI มีความสำคัญเพราะ AI ในโลกของเราไม่สามารถมีอยู่ได้โดยไม่มีข้อมูล ข้อมูลเป็นสิ่งที่อธิบายคนและพฤติกรรมของพวกเขา เราไม่ทำงานกับข้อมูลเกี่ยวกับประชากรของต้นไม้และระดับน้ำบ่อยนัก ดังนั้นเมื่อเราทำงานกับข้อมูลที่สามารถส่งผลกระทบต่อผู้คนจริงๆ เราต้องตระหนักถึงสิ่งนั้นและเข้าใจว่าระบบของเราสามารถทำดีหรือทำร้ายได้อย่างไร สิ่งนี้เป็นพิเศษสำหรับ AI ที่หลายระบบได้รับประโยชน์จากปริมาณข้อมูลขนาดใหญ่หรือต้องการใช้ข้อมูลที่มีความละเอียดอ่อน (เช่น ข้อมูลสุขภาพ) เพื่อพยายามพัฒนาความเข้าใจใหม่ๆ เกี่ยวกับโลกของเรา

คุณเห็นว่าเครื่องจักรเรียนรู้ทรยศต่อความเป็นส่วนตัวของผู้ใช้อย่างไร?

ทรยศเป็นคำที่เข้มข้น อย่างไรก็ตาม ระบบใดๆ ที่ใช้ข้อมูลเกี่ยวกับคนโดยไม่ได้รับอนุญาต ไม่ได้แจ้งให้ทราบ และไม่พิจารณาถึงอันตรายที่อาจเกิดขึ้น จะมีความเสี่ยงต่อการทรยศต่อความเป็นส่วนตัวของบุคคลหรือมาตรฐานความเป็นส่วนตัวของสังคม โดยพื้นฐานแล้ว สิ่งนี้จะส่งผลให้เกิดการทรยศต่อความเป็นส่วนตัวด้วยการบาดเจ็บเล็กๆ น้อยๆ การปฏิบัติเหล่านี้อาจรวมถึงการฝึกอบรมแบบจำลองบนกล่องจดหมายอีเมลของผู้ใช้ การฝึกอบรมบนข้อความ SMS ของผู้ใช้ หรือบนข้อมูลสุขภาพ โดยไม่ได้แจ้งให้ผู้ที่เกี่ยวข้องทราบ

คุณสามารถอธิบายความเป็นส่วนตัวที่แตกต่างได้อย่างไร และคุณมีมุมมองอย่างไรเกี่ยวกับเรื่องนี้?

ความเป็นส่วนตัวที่แตกต่างเป็นคำจำกัดความหรือเทคนิคที่ได้รับความนิยมในการใช้เพื่อให้บรรลุความเป็นส่วนตัวทางเทคนิค โดยทั่วไปแล้ว คำจำกัดความทางเทคนิคของความเป็นส่วนตัวจะรวมถึงสองด้านหลัก ได้แก่ สิ่งที่ถูกป้องกัน และ ใครที่ถูกป้องกัน ในความเป็นส่วนตัวทางเทคนิค การรับรองความเป็นส่วนตัวคือการป้องกันที่ได้รับเมื่อสมมติฐานบางอย่างถูกต้อง สมมติฐานเหล่านี้อาจเกี่ยวกับศัตรูที่อาจเกิดขึ้น ความซับซ้อนของระบบ หรือสถิติ เทคนิคนี้มีประโยชน์อย่างมากและมีการใช้งานที่หลากหลาย อย่างไรก็ตาม สิ่งสำคัญที่ต้องจำไว้คือความเป็นส่วนตัวที่แตกต่างไม่เท่ากับความเป็นส่วนตัว

ความเป็นส่วนตัวไม่ได้จำกัดอยู่เพียงคำจำกัดความหรือแนวคิดเดียว และมีความสำคัญที่จะต้องตระหนักถึงแนวคิดอื่นๆ ที่อยู่นอกเหนือจากสิ่งนี้ ตัวอย่างเช่น ความสมบูรณ์ของบริบทเป็นแนวคิดเชิงแนวคิดเกี่ยวกับความเป็นส่วนตัวที่คำนึงถึงวิธีการที่แอปพลิเคชันต่างๆ หรือองค์กรต่างๆ ที่แตกต่างกันเปลี่ยนแปลงการรับรู้ความเป็นส่วนตัวของบุคคลในสถานการณ์หนึ่งๆ ยังมีแนวคิดทางกฎหมายเกี่ยวกับความเป็นส่วนตัว เช่น ที่ครอบคลุมใน PIPEDA ของแคนาดา GDPR ของยุโรป และกฎหมายคุ้มครองผู้บริโภคของแคลิฟอร์เนีย (CCPA) ทั้งหมดนี้บอกเป็นนัยว่าเราไม่สามารถรักษาระบบทางเทคนิคให้อยู่ในสุญญากาศที่ไม่มีปัจจัยอื่นๆ ที่เกี่ยวข้องกับความเป็นส่วนตัว แม้ว่าจะใช้ความเป็นส่วนตัวที่แตกต่างก็ตาม

อีกประเภทหนึ่งของการเรียนรู้ของเครื่องจักรที่ช่วยเพิ่มความเป็นส่วนตัวคือการเรียนรู้แบบกระจาย (Federated Learning) คุณสามารถอธิบายสิ่งนี้ได้อย่างไร และคุณมีมุมมองอย่างไรเกี่ยวกับเรื่องนี้?

การเรียนรู้แบบกระจายเป็นวิธีการหนึ่งในการทำการเรียนรู้ของเครื่องจักรเมื่อต้องการฝึกอบรมแบบจำลองบนชุดข้อมูลที่กระจายอยู่ทั่วหลายเจ้าของหรือที่ตั้ง ไม่ใช่เทคนิคที่ช่วยเพิ่มความเป็นส่วนตัวโดยธรรมชาติ เทคนิคที่ช่วยเพิ่มความเป็นส่วนตัวต้องกำหนดอย่างชัดเจนว่าสิ่งใดที่ถูกป้องกัน ใครที่ถูกป้องกัน และเงื่อนไขที่ต้องเป็นไปตามการป้องกันเหล่านั้น ตัวอย่างเช่น เมื่อเราพิจารณาการคำนวณที่มีความเป็นส่วนตัวที่แตกต่างอย่างง่ายๆ มันรับรองว่าบุคคลที่ดูผลลัพธ์จะไม่สามารถระบุได้ว่าจุดข้อมูลใดๆ ถูกใช้หรือไม่

การเรียนรู้แบบกระจายไม่มีคุณสมบัตินี้ มันเพียงฝึกอบรมแบบจำลองบนชุดข้อมูลที่กระจายโดยไม่ต้องให้เจ้าของข้อมูลส่งมอบข้อมูลโดยตรงให้กันและกันหรือให้กับบุคคลที่สาม แม้ว่าสิ่งนี้จะดูเหมือนเป็นคุณสมบัติในการรักษาความเป็นส่วนตัว แต่ที่ต้องการคือการรับรองอย่างเป็นทางการว่าไม่สามารถเรียนรู้ข้อมูลที่ถูกป้องกันได้จากตัวกลางและผลลัพธ์ที่ฝ่ายที่ไม่น่าเชื่อถือจะสังเกตเห็น การรับรองนี้มีความสำคัญอย่างยิ่งในบริบทการเรียนรู้แบบกระจายที่ฝ่ายที่ไม่น่าเชื่อถือรวมถึงทุกคนที่ให้ข้อมูลเพื่อฝึกอบรมแบบจำลองร่วมกัน

ข้อจำกัดในปัจจุบันของแนวทางเหล่านี้คืออะไร?

ข้อจำกัดในปัจจุบันสามารถอธิบายได้ดีที่สุดว่าเป็นธรรมชาติของการแลกเปลี่ยนระหว่างความเป็นส่วนตัวและประโยชน์ใช้สอย แม้ว่าคุณจะทำทุกอย่างอื่นได้แล้ว เช่น สื่อสารผลกระทบต่อความเป็นส่วนตัวให้กับผู้ที่ได้รับผลกระทบ ประเมินระบบสำหรับสิ่งที่คุณพยายามทำ ฯลฯ มันลงเอยด้วยการบรรลุความเป็นส่วนตัวที่สมบูรณ์แบบหมายความว่าเราไม่สามารถสร้างระบบได้ และการบรรลุประโยชน์ใช้สอยที่สมบูรณ์แบบโดยทั่วไปจะไม่มีการป้องกันความเป็นส่วนตัว ดังนั้นคำถามคือว่าเราจะกำหนด “จุดสมดุลที่เหมาะสม” ได้อย่างไร และสร้างระบบให้ถึงจุดนั้นเพื่อให้เราบรรลุฟังก์ชันการทำงานที่ต้องการในขณะเดียวกันก็ให้การป้องกันความเป็นส่วนตัวที่จำเป็น

คุณมีเป้าหมายที่จะพัฒนาระบบที่ตระหนักถึงผู้ใช้และช่วยเพิ่มความเป็นส่วนตัวผ่านการเรียนรู้ของเครื่องจักร คุณสามารถอธิบายรายละเอียดเกี่ยวกับวิธีการเหล่านี้ได้อย่างไร?

สิ่งที่ฉันหมายถึงคือเราสามารถพัฒนาระบบทางเทคนิคที่ช่วยเพิ่มความเป็นส่วนตัวได้หลากหลาย อย่างไรก็ตาม เมื่อทำเช่นนั้น มันสำคัญที่จะต้องกำหนดว่าการรับรองความเป็นส่วนตัวเหล่านั้นได้ถึงผู้ที่ได้รับผลกระทบหรือไม่ สิ่งนี้อาจหมายถึงการพัฒนาระบบหลังจากที่ค้นพบว่าชนิดใดของการป้องกันที่ประชากรมีคุณค่า สิ่งนี้อาจหมายถึงการอัปเดตระบบหลังจากที่ค้นพบว่าผู้คนใช้ระบบอย่างไรในสถานการณ์จริง โดยคำนึงถึงข้อเสี่ยงและความเสี่ยงของพวกเขา เทคนิคทางเทคนิคอาจเป็นระบบที่ถูกต้องซึ่งตรงตามคำจำกัดความที่ฉันกล่าวถึงก่อนหน้านี้ ระบบที่ตระหนักถึงผู้ใช้จะออกแบบระบบของตนโดยอาศัยข้อมูลจากผู้ใช้และผู้ที่ได้รับผลกระทบในโดเมินของการประยุกต์ใช้ที่ตั้งใจ

คุณกำลังมองหานักศึกษาระดับบัณฑิตศึกษาที่สนใจเพื่อเริ่มในเดือนกันยายน 2024 คุณคิดว่านักศึกษาควรสนใจในเรื่องความเป็นส่วนตัวของ AI หรือไม่ และทำไม?

ฉันคิดว่านักศึกษาควรสนใจเพราะสิ่งนี้จะเติบโตในความแพร่หลายภายในสังคมของเรา เพื่อให้เห็นภาพว่าระบบเหล่านี้กำลังขยายตัวอย่างรวดเร็ว ไม่ต้องมองไกลไปกว่าการเพิ่มขึ้นของ Chat-GPT ผ่านบทความข่าว สื่อสังคม และการอภิปรายเกี่ยวกับผลกระทบของมัน เราอาศัยอยู่ในสังคมที่การเก็บและการใช้ข้อมูลฝังอยู่ใน生活ประจำวันของเราอย่างลึกซึ้งจนเราเกือบจะให้ข้อมูลเกี่ยวกับตัวเราเองแก่บริษัทและองค์กรต่างๆ อย่างต่อเนื่อง บริษัทเหล่านี้ต้องการใช้ข้อมูลนี้ บางครั้งเพื่อปรับปรุงบริการของตน และบางครั้งเพื่อผลกำไร ในจุดนี้ ดูเหมือนว่าไม่สมจริงที่จะคิดว่าแนวปฏิบัติในการใช้ข้อมูลของบริษัทเหล่านี้จะเปลี่ยนแปลง อย่างไรก็ตาม การมีระบบที่ช่วยรักษาความเป็นส่วนตัวซึ่งป้องกันผู้ใช้ขณะยังอนุญาตให้ทำการวิเคราะห์ที่บริษัทต้องการสามารถช่วยสร้างสมดุลระหว่างความเสี่ยงและผลตอบแทนซึ่งกลายเป็นส่วนหนึ่งของสังคมของเราอย่างไม่ชัดเจน

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม หน้า Github ของ Bailey Kacsmar เพื่อเรียนรู้เพิ่มเติม