แพทริเซีย ไทน์ ซีอีโอของ Private AI – สัมภาษณ์ซีรีส์

แพทริเซีย ไทน์ เป็น Co-Founder และ CEO ของ Private AI นักศึกษาระดับ PhD ในสาขาวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยโตรอนโต และเป็น Postgraduate Affiliate ที่ Vector Institute โดยทำการวิจัยเกี่ยวกับการประมวลผลภาษาธรรมชาติที่รักษาความเป็นส่วนตัว โดยมุ่งเน้นไปที่การเข้ารหัสลับแบบใช้การประยุกต์ เธอยังทำการวิจัยเกี่ยวกับวิธีการคำนวณสำหรับการถอดรหัสภาษาที่สูญหาย

แพทริเซียเป็นผู้รับ奨学金 NSERC Postgraduate Scholarship, RBC Graduate Fellowship, Beatrice “Trixie” Worsley Graduate Scholarship ในสาขาวิทยาการคอมพิวเตอร์ และ Ontario Graduate Scholarship เธอมีประสบการณ์ในการวิจัยและพัฒนาซอฟต์แวร์เป็นเวลา 8 ปี รวมถึงที่ McGill Language Development Lab, Computational Linguistics Lab ของมหาวิทยาลัยโตรอนโต, Department of Linguistics ของมหาวิทยาลัยโตรอนโต และ Public Health Agency of Canada

สิ่งใดที่ดึงดูดคุณให้เข้าสู่สาขาวิทยาการคอมพิวเตอร์?

ความสามารถในการแก้ปัญหาและสร้างสรรค์ไปพร้อมๆ กัน มันเหมือนกับการทำงานฝีมือ คุณจะได้เห็นผลิตภัณฑ์ของคุณเป็นรูปเป็นร่าง มาก nhưช่างไม้ที่สร้างเฟอร์นิเจอร์ เมื่อผมได้ยินใครสักคนพูดว่า การเขียนโปรแกรมเป็นเครื่องมือสร้างสรรค์ที่สุด ความจริงแล้วผลิตภัณฑ์ที่คุณสร้างสามารถขยายและใช้ได้ทั่วโลก ซึ่งเป็นเรื่องที่น่าพึงพอใจมาก

คุณสามารถพูดถึงเรื่องราวการก่อตั้ง Private AI และวิธีการที่คุณสังเกตเห็นว่าไม่มีเครื่องมือที่ง่ายต่อการรวมเข้ากับการรักษาความเป็นส่วนตัว?

ผ่านการพูดและการเขียน เราสร้างและถ่ายโอนข้อมูลที่ละเอียดอ่อนที่สุดไปยังบริษัทที่ให้บริการเรา เมื่อเรากำลังพิจารณาว่าจะสร้างผลิตภัณฑ์ NLP อะไร เราพบว่ามีระดับความเป็นส่วนตัวที่เราต้องรวมเข้าด้วยกัน ซึ่งไม่มีอยู่ในตลาด หากต้องการใช้โซลูชันความเป็นส่วนตัว บริษัทต่างๆ ต้องถ่ายโอนข้อมูลของผู้ใช้ไปยังบุคคลที่สาม ใช้โซลูชันโอเพ่นซอร์สที่ไม่ดีหรือสร้างโซลูชันภายในโดยมีความเชี่ยวชาญด้านความเป็นส่วนตัวน้อยมาก ดังนั้น เราจึงตัดสินใจมุ่งเน้นในการสร้างผลิตภัณฑ์ที่ดีที่สุดสำหรับนักพัฒนาและทีม AI ที่ต้องการผลลัพธ์ของเทคโนโลยีที่เพิ่มความเป็นส่วนตัวให้ทำงานได้ง่ายสำหรับความต้องการของพวกเขา

ทำไมการรักษาความเป็นส่วนตัวของ AI จึงสำคัญ?

ประมาณ 80% ของข้อมูลที่สร้างขึ้นเป็นข้อมูลที่ไม่มีโครงสร้าง และ AI เป็นวิธีเดียวที่จะทำให้ข้อมูลนั้นเป็นประโยชน์ มันสามารถใช้เพื่อประโยชน์ เช่น ช่วยตรวจจับการล้มสำหรับประชากรผู้สูงอายุ หรือใช้เพื่อจุดประสงค์ที่ไม่ดี เช่น การสร้างโปรไฟล์และติดตามบุคคลจากกลุ่มที่ไม่ได้รับการเป็นตัวแทน การรับรองว่าความเป็นส่วนตัวถูกสร้างเข้าไปในซอฟต์แวร์ที่เราสร้าง ทำให้ AI มีโอกาสน้อยที่จะถูกใช้ในทางที่ไม่ดี

ทำไมความเป็นส่วนตัวจึงเป็นข้อได้เปรียบในการแข่งขัน?

มีหลายเหตุผล แต่นี่คือบางส่วน:

1. ผู้ใช้จำนวนมากขึ้นเรื่อยๆ คิดถึงความเป็นส่วนตัว และเมื่อผู้บริโภคมีการศึกษามากขึ้น ความกังวลนี้ก็เพิ่มขึ้น: 70% ของผู้บริโภคกังวลเกี่ยวกับความเป็นส่วนตัวของข้อมูล ของตน
2. มันง่ายกว่าที่จะทำธุรกิจกับธุรกิจอื่นๆ หากคุณมีโปรโตคอลและเทคโนโลยีการป้องกันข้อมูลและการรักษาความเป็นส่วนตัวที่เหมาะสม
3. เมื่อคุณสร้างผลิตภัณฑ์ของคุณในรูปแบบที่รักษาความเป็นส่วนตัว คุณจะสามารถติดตามจุดอ่อนในการให้บริการของคุณได้ดีขึ้น และโดยเฉพาะอย่างยิ่งผ่านการลดข้อมูล คุณจะกำจัดข้อมูลที่คุณไม่ต้องการและอาจทำให้คุณมีปัญหาเมื่อเกิดการโจมตีทางไซเบอร์

คุณสามารถพูดถึงความสำคัญของการรักษาความเป็นส่วนตัวของข้อมูลฝึกอบรมและทำไมมันจึงเสี่ยงต่อการถอดรหัสกลับ?

นี่เป็นคำถามที่ดี และจำเป็นต้องมีการศึกษาเพิ่มเติมเกี่ยวกับเรื่องนี้ ในทางที่เรียบง่าย โมเดลการเรียนรู้ของเครื่องจำข้อมูลได้ โมเดลที่ใหญ่ขึ้นจะจำกรณีชายขอบได้มากขึ้น ซึ่งหมายความว่าข้อมูลที่โมเดลเหล่านั้นได้รับการฝึกอบรมสามารถถูกถอดรหัสออกมาในระหว่างการผลิตได้ ซึ่งได้รับการแสดงในหลายๆ เอกสารวิจัย รวมถึง The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks และ Extracting Training Data from Large Language Models

ยังพบว่า ข้อมูลส่วนบุคคลสามารถถูกถอดรหัสออกมาจากเวกเตอร์คำ และสำหรับผู้ที่มีข้อสงสัยเกี่ยวกับปัญหานี้ที่แท้จริง มีการฉาวโฉ่เมื่อเร็วๆ นี้ เมื่อชัตบอทรักของเกาหลีเขียนรายละเอียดของผู้ใช้ในระหว่างการแชทกับผู้ใช้รายอื่น

คุณมีความคิดเห็นอย่างไรเกี่ยวกับการเรียนรู้แบบกระจายและความเป็นส่วนตัวของผู้ใช้?

การเรียนรู้แบบกระจายเป็นขั้นตอนที่ดีเมื่อกรณีการใช้งานอนุญาต แต่ก็ยังสามารถถอดรหัสข้อมูลเกี่ยวกับการป้อนข้อมูลของผู้ใช้จากอัปเดตของน้ำหนักที่ส่งไปยังคลาวด์จากอุปกรณ์ของผู้ใช้ ดังนั้นจึงสำคัญที่จะรวมการเรียนรู้แบบกระจายเข้ากับเทคโนโลยีที่เพิ่มความเป็นส่วนตัวอื่นๆ (ความเป็นส่วนตัวที่แตกต่างและเข้ารหัสแบบโฮโมมอร์ฟิก/การคำนวณหลายฝ่ายที่ปลอดภัย) เทคโนโลยีที่เพิ่มความเป็นส่วนตัวแต่ละอย่างต้องถูกเลือกตามกรณีการใช้งาน ไม่มีเทคโนโลยีใดที่สามารถใช้ได้กับทุกปัญหา เราได้พูดถึงต้นไม้การตัดสินใจ ที่นี่ ประโยชน์หลักๆ คือคุณไม่เคยส่งข้อมูลดิบออกจากอุปกรณ์ของคุณ ประโยชน์หลักๆ คือหากคุณต้องการข้อมูลเพื่อแก้ปัญหาหรือตรวจสอบว่าระบบถูกฝึกอบรมอย่างถูกต้อง จะยากกว่าที่จะหาได้ การเรียนรู้แบบกระจายเป็นจุดเริ่มต้นที่ดี แต่ยังมีปัญหาหลายอย่างที่การวิจัยและอุตสาหกรรมกำลังทำงานอยู่

Private AI ช่วยให้นักพัฒนาสามารถรวมการวิเคราะห์ความเป็นส่วนตัวด้วยโค้ดเพียงไม่กี่บรรทัดเพื่อให้แน่ใจถึงความเป็นส่วนตัวได้อย่างไร?

เทคโนโลยีของเรารันในรูปแบบ REST API ซึ่งผู้ใช้ของเราส่งคำขอ POST ไปยังข้อความที่ต้องการลบข้อมูลส่วนบุคคล ระบุหรือสร้างข้อมูลใหม่ด้วยข้อมูลจริง ลูกค้าบางรายส่งการถอดเสียงที่ต้องถูกลบข้อมูลส่วนบุคคลเพื่อให้เป็นไปตามข้อกำหนด PCI ในขณะที่ลูกค้ารายอื่นส่งการแชททั้งหมดเพื่อให้สามารถใช้ข้อมูลเพื่อฝึกหุ่นยนต์เชิงสนทนา ระบบวิเคราะห์ความรู้สึก หรือโมเดล NLP อื่นๆ ผู้ใช้ของเรายังสามารถเลือกเอนทิตีที่ต้องการเก็บหรือใช้เป็นเมตาดาต้าเพื่อติดตามที่เก็บข้อมูลส่วนบุคคล เราลดความยากในการฝึกอบรมระบบที่แม่นยำเพื่อตรวจจับและแทนที่ข้อมูลส่วนบุคคลในข้อมูลที่ซับซ้อน

ทำไมความเป็นส่วนตัวสำหรับอุปกรณ์ IoT จึงเป็นปัญหาในปัจจุบัน และคุณมีความคิดเห็นอย่างไรเกี่ยวกับการแก้ปัญหา?

สุดท้าย วิธีที่ดีที่สุดในการแก้ปัญหาเกี่ยวกับความเป็นส่วนตัวคือการพึ่งพากรณีการใช้งาน และอุปกรณ์ IoT ไม่แตกต่าง อุปกรณ์บางอย่างอาจพึ่งพาการใช้งานแบบ edge การอนุมานแบบ edge และการเรียนรู้แบบกระจายที่รักษาความเป็นส่วนตัว (เช่น การรู้จำฝูงชนในเมืองอัจฉริยะ) ในขณะที่กรณีการใช้งานอื่นๆ อาจต้องอาศัยการรวบรวมข้อมูลและการทำให้ไม่ระบุชื่อ (เช่น ข้อมูลการใช้พลังงาน) ด้วยการกล่าวถึง อุปกรณ์ IoT เป็นตัวอย่างที่ดีของวิธีการที่ความเป็นส่วนตัวและความปลอดภัยต้องไปด้วยกัน อุปกรณ์เหล่านี้มีช่องโหว่ด้านความปลอดภัยทางไซเบอร์มาก ดังนั้นจึงมีเพียงเล็กน้อยเท่านั้นที่เทคโนโลยีที่เพิ่มความเป็นส่วนตัวสามารถทำได้โดยไม่ต้องแก้ไขช่องโหว่หลักของอุปกรณ์ ในทางกลับกัน หากไม่มีการคิดถึงวิธีการเพิ่มความเป็นส่วนตัวของผู้ใช้ ข้อมูลที่รวบรวมจากภายในบ้านสามารถถูกแบ่งปันโดยไม่มีการตรวจสอบไปยังบุคคลที่ไม่รู้จัก ทำให้ยากที่จะรับประกันความปลอดภัยของข้อมูล เรามีจุดสองจุดที่ต้องปรับปรุง และการออกกฎหมายฉบับร่างโดยคณะกรรมาธิการยุโรปเกี่ยวกับความปลอดภัยของอุปกรณ์ IoT อาจเป็นสิ่งที่กระตุ้นให้ผู้ผลิตอุปกรณ์ให้ความสำคัญกับความปลอดภัยและความเป็นส่วนตัวของผู้บริโภคอย่างจริงจัง

มีสิ่งอื่นที่คุณต้องการแบ่งปันเกี่ยวกับ Private AI หรือไม่?

เราคือกลุ่มผู้เชี่ยวชาญด้านความเป็นส่วนตัว ภาษาธรรมชาติ ภาษาพูด การประมวลผลภาพ โมเดลการเรียนรู้ของเครื่องแบบติดตั้งในสภาพแวดล้อมที่มีทรัพยากรต่ำ ซึ่งได้รับการสนับสนุนจาก M12 กองทุนร่วมลงทุนของ Microsoft (MSFT )

เรารับรองว่าผลิตภัณฑ์ที่เราสร้างขึ้น นอกจากจะแม่นยำแล้ว ยังใช้พลังงานการคำนวณได้อย่างมีประสิทธิภาพด้วย คุณจึงไม่ต้องมีค่าใช้จ่ายมากเกินไปที่จะจ่ายค่าใช้จ่ายบนคลาวด์เมื่อสิ้นสุดเดือน นอกจากนี้ ข้อมูลของลูกค้าจะไม่ถูกส่งไปยังเรา – ทุกอย่างจะถูกประมวลผลในระบบของตนเอง

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดีเยี่ยม หากต้องการเรียนรู้เพิ่มเติม โปรดเยี่ยมชม Private AI