นักวิจัยเชื่อว่า AI สามารถใช้เพื่อช่วยปกป้องความเป็นส่วนตัวของผู้คน

ศาสตราจารย์สองคนในสาขาวิทยาศาสตร์ข้อมูลได้ตีพิมพ์ บทความใน The Conversation โดยแย้งว่า AI สามารถช่วยรักษาความเป็นส่วนตัวของผู้คนได้ โดยแก้ไขปัญหาบางอย่างที่ AI สร้างขึ้นเอง

Zhiyuan Chen และ Aryya Gangopadhyay แย้งว่าแอลกอริธึม AI สามารถใช้เพื่อปกป้องความเป็นส่วนตัวของผู้คน โดยชดเชยบางประเด็นเกี่ยวกับความเป็นส่วนตัวที่ AI สร้างขึ้น Chen และ Gangopadhyay ยอมรับว่าผลิตภัณฑ์ที่ขับเคลื่อนด้วย AI ที่เราใช้เพื่อความสะดวกสบายจะไม่ทำงานได้หากไม่มีการเข้าถึงข้อมูลจำนวนมาก ซึ่งดูเหมือนขัดแย้งกับการพยายามรักษาความเป็นส่วนตัวในตอนแรก นอกจากนี้ เมื่อ AI ขยายออกไปในอุตสาหกรรมและแอปพลิเคชันมากขึ้น ข้อมูลมากขึ้นจะถูกเก็บและจัดเก็บในฐานข้อมูล ทำให้การละเมิดฐานข้อมูลนั้นน่าดึงดูดมากขึ้น อย่างไรก็ตาม Chen และ Gangopadhyay เชื่อว่าเมื่อใช้อย่างถูกต้อง AI สามารถช่วยบรรเทาปัญหาเหล่านี้ได้

Chen และ Gangopadhyay อธิบายในบทความของพวกเขาว่าความเสี่ยงด้านความเป็นส่วนตัวที่เกี่ยวข้องกับ AI มาจากแหล่งต่างๆ อย่างน้อยสองแหล่ง แหล่งแรกคือชุดข้อมูลขนาดใหญ่ที่รวบรวมเพื่อฝึกโมเดลเครือข่ายประสาทเทียม ส่วนแหล่งที่สองคือโมเดลเอง ข้อมูลอาจ “รั่ว” จากโมเดลเหล่านี้ โดยพฤติกรรมของโมเดลอาจเปิดเผยรายละเอียดเกี่ยวกับข้อมูลที่ใช้ในการฝึก

เครือข่ายประสาทเทียมลึกประกอบด้วยหลายชั้นของเซลล์ประสาท โดยแต่ละชั้นเชื่อมต่อกับชั้นที่อยู่รอบๆ เซลล์ประสาทแต่ละตัว以及ลิงก์ระหว่างเซลล์ประสาทจะเข้ารหัสสำหรับบิตต่างๆ ของข้อมูลการฝึก โมเดลอาจพิสูจน์ได้ว่าดีเกินไปในการจดจำรูปแบบของข้อมูลการฝึก แม้ว่าโมเดลจะไม่เกินขอบเขตก็ตาม สิ่งเหล่านี้อยู่ในเครือข่ายและผู้กระทำที่เป็นอันตรายอาจสามารถอนุมานประเด็นบางประการเกี่ยวกับข้อมูลการฝึกได้ เช่นที่มหาวิทยาลัย Cornell พบในการศึกษาหนึ่งของพวกเขา นักวิจัยของ Cornell พบว่าแอลกอริทึมการรู้จำใบหน้าสามารถถูกโจมตีโดยผู้โจมตีเพื่อเปิดเผยว่าภาพใด และด้วยเหตุนี้จึงเปิดเผยคนใดที่ใช้ในการฝึกโมเดลการรู้จำใบหน้า นักวิจัยของ Cornell ค้นพบว่าแม้ว่าผู้โจมตีจะไม่มีการเข้าถึงโมเดลต้นฉบับที่ใช้ในการฝึกแอปพลิเคชัน ผู้โจมตีก็ยังสามารถสืบค้นเครือข่ายและกำหนดได้ว่าบุคคลใดถูก включไว้ในการฝึกข้อมูลโดยใช้โมเดลที่ฝึกอบรมด้วยข้อมูลที่คล้ายกันมาก

ปัจจุบันโมเดล AI บางรุ่นกำลังถูกใช้เพื่อป้องกันการละเมิดข้อมูลและพยายามรักษาความเป็นส่วนตัวของผู้คน โมเดล AI มักถูกใช้เพื่อตรวจจับการพยายามแฮ็กโดยการรู้จับรูปแบบพฤติกรรมที่แฮกเกอร์ใช้เพื่อเจาะระบบความปลอดภัย อย่างไรก็ตาม แฮกเกอร์มักจะเปลี่ยนพฤติกรรมของตนเพื่อพยายามหลอกลวง AI ที่ตรวจจับรูปแบบ

วิธีการฝึกอบรมและพัฒนา AI ใหม่ๆ มีเป้าหมายเพื่อให้โมเดลและแอปพลิเคชัน AI น้อยเสี่ยงต่อวิธีการแฮ็กและกลยุทธ์หลบหลีกความปลอดภัย การเรียนรู้แบบ Adversarial มุ่งหวังที่จะฝึกโมเดล AI ด้วยการจำลองข้อมูลอินพุตที่เป็นอันตรายหรือเป็นอันตราย และทำให้โมเดลมีความทนทานต่อการแสวงหาประโยชน์ ดังนั้น “Adversarial” ในชื่อ ตาม Chen และ Gangopadhyay การวิจัยของพวกเขา ค้นพบ วิธีการต่อต้านมัลแวร์ที่ออกแบบมาเพื่อขโมยข้อมูลส่วนบุคคล นักวิจัยสองคนอธิบายว่าวิธีการที่พวกเขาพบว่ามีประสิทธิภาพมากที่สุดในการต่อต้านมัลแวร์คือการแนะนำความไม่แน่นอนเข้าไปในโมเดล เป้าหมายคือการทำให้ผู้กระทำที่เป็นอันตรายยากต่อการคาดเดาว่าโมเดลจะตอบสนองต่ออินพุตใดๆ อย่างไร

วิธีการอื่นๆ ในการใช้ AI เพื่อปกป้องความเป็นส่วนตัวรวมถึงการลดการเปิดเผยข้อมูลเมื่อสร้างและฝึกโมเดล ตลอดจนการสืบค้นเพื่อค้นหาความอ่อนแอของเครือข่าย เมื่อพูดถึงการรักษาความเป็นส่วนตัวของข้อมูล การเรียนรู้แบบ Federated สามารถช่วยปกป้องความเป็นส่วนตัวของข้อมูลที่ละเอียดอ่อนได้ เนื่องจากช่วยให้สามารถฝึกโมเดลได้โดยไม่ต้องให้ข้อมูลฝึกออกจากอุปกรณ์ท้องถิ่นที่มีข้อมูล ทำให้ข้อมูลและพารามิเตอร์ของโมเดลหลายตัวได้รับการป้องกันจากการแอบดู

สุดท้าย Chen และ Gangopadhyay แย้งว่าในขณะที่การแพร่กระจายของ AI สร้างภัยคุกคามใหม่ๆ ต่อความเป็นส่วนตัวของผู้คน AI ก็สามารถช่วยปกป้องความเป็นส่วนตัวได้เมื่อได้รับการออกแบบด้วยความระมัดระวังและพิจารณา