เอไอที่จดจำได้โดยไม่เผยแพร่ข้อมูลมากเกินไป: สถาปัตยกรรมความเป็นส่วนตัวสำหรับการให้บริการส่วนบุคคลรุ่นต่อไป

ธุรกิจส่วนใหญ่ยังไม่เข้าใจว่าผู้ช่วยเอไอส่วนบุคคลได้พัฒนาไปสู่ระดับใหม่แล้ว ตอนนี้พวกมันไม่เพียงแต่ตอบคำถามเท่านั้น แต่ยังดำเนินการแทนพนักงานจริง: จองและติดตามการจอง สื่อสาร และตัดสินใจเกี่ยวกับเรื่องการเงิน ตารางเวลา การเดินทาง และการประชุม

ข้อมูลที่เอไอใช้ทำงานก็เปลี่ยนไปแล้ว: จาก “คุณชอบเพลงอะไร” เป็น “คุณอยู่ที่ไหน คุณอยู่กับใคร คุณตกลงอะไรแล้ว และคุณจ่ายเงินเท่าไร” นี่คือระดับใหม่ของความอ่อนไหว และเราต้องการสถาปัตยกรรมใหม่ ฉันเรียกมันว่า “ใบเสร็จความเป็นส่วนตัว” – ใบเสร็จดิจิทัลที่ช่วยให้ผู้ใช้เห็นได้ทุกเมื่อว่าผู้ช่วยรู้อะไรเกี่ยวกับพวกเขา มาจากไหน และใช้ทำไม นี่คือความต้องการเดียวกับที่เรามีต่อบัญชีธนาคารในปัจจุบัน: โปร่งใส verifiable และมีอยู่ตามคำขอ

ทำไมเอไอที่ปลอดภัยจึงสำคัญมากในขณะนี้

จนถึงไม่นานมานี้ ผู้ช่วยเอไイหลักๆ เป็นเพียงให้ข้อมูล: ค้นหา สรุปเอกสาร คำแนะนำโค้ด พวกมันไม่สามารถดำเนินการได้โดยไม่มีการมีส่วนร่วมของคน

วันนี้ เราเห็นภาพที่แตกต่าง ผู้ช่วยถูกผสมผสานเข้ากับอีเมล ตารางเวลา เมสเซนเจอร์ ธนาคาร และบริการเดินทาง พวกมันสามารถส่งจดหมายไปยังพันธมิตร จ่ายค่าจอง หรือเปลี่ยนเที่ยวบิน โดยอาศัยบริบทที่คนควบคุมอาจไม่ทราบ

ในเวลาเดียวกัน ผู้ใช้เอไอที่เร็วที่สุดและกระตือรือร้นที่สุดคือคนที่มีค่าใช้จ่ายในการผิดพลาดสูงมาก: ผู้บริหารระดับสูงและซีอีโอ ลูกค้ารายใหญ่ ผู้เชี่ยวชาญด้านการเงินและผู้จัดการทุน สำหรับพวกเขา การสูญเสียความเป็นส่วนตัวเป็นความเสี่ยงด้านชื่อเสียง กฎหมาย และการเงินโดยตรง

เมื่อพูดถึงเอไอ ปัญหาความเป็นส่วนตัวไม่สามารถถือเป็นเพียงรูปแบบได้อีกต่อไป

ข้อมูลน้อย คุณค่ามาก

ส่วนใหญ่ของผลิตภัณฑ์เอไอรวบรวมข้อมูลมากกว่าที่จำเป็นเพื่อให้ได้คุณค่าจริง ในการปฏิบัติงานของเรา เราพบว่าข้อมูลส่วนใหญ่ที่รวบรวมโดยผู้ช่วยเอไอแบบทั่วไปไม่เคยใช้จริงในการให้บริการ หากเราใช้ธุรกิจคอนเซียร์จเป็นตัวอย่าง สิ่งที่ต้องการเพียงสามสิ่งเพื่อให้ผู้ช่วยให้บริการส่วนบุคคลที่มีคุณภาพสูง คือ

ข้อแรก คือความชอบที่เกี่ยวข้องกับงาน: วิธีการเดินทางของคุณ วิธีการสื่อสารของคุณ ข้อจำกัดของคุณในเรื่องวีซ่า งบประมาณ และภาระผูกพันทางครอบครัว

ข้อที่สอง คือบริบทของคำขอในปัจจุบัน: ที่ไหน เมื่อไหร่ กับใคร ในวัตถุประสงค์ใด ตารางเวลา และความเสี่ยง

ข้อที่สาม คือการรำลึกถึงการโต้ตอบในอดีตภายในงาน: เพื่อที่ผู้ช่วยจะไม่ถามคำถามเดิมๆ อีก และไม่ทำผิดพลาดซ้ำ

สิ่งเหล่านี้เพียงพอแล้วสำหรับผลิตภัณฑ์ที่จะทำงานในระดับของพนักงานส่วนตัวที่ดี ไม่ต้องการอาร์ไคฟ์ของข้อความ อาร์ไคฟ์ของการทำธุรกรรม หรือการ跟踪ตำแหน่ง

ผู้ช่วยเอไอและขอบเขตที่ยอมรับได้

มีข้อมูลบางประเภทที่ไม่ควรอยู่ในผู้ช่วยส่วนตัว ตัวอย่างเช่น ข้อมูลพฤติกรรมแบบพาสซีฟ: การฟังอย่างต่อเนื่อง การติดตามตำแหน่งอย่างต่อเนื่องโดยไม่จำเป็น การติดตามจอหรือการป้อนข้อมูล หากระบบรวบรวมข้อมูลไม่เกี่ยวกับสิ่งที่คุณถาม แต่เกี่ยวกับสิ่งที่คุณทำโดยทั่วไป มันจะหยุดเป็นผู้ช่วยและกลายเป็นการเฝ้าระวัง

นอกจากนี้ ข้อมูลเกี่ยวกับบุคคลที่สามที่ไม่เคยโต้ตอบกับระบบไม่จำเป็น ตัวอย่างเช่น คำขอ “ช่วยจัดประชุม” ไม่ควรกลายเป็นสิทธิ์ในการสร้างโปรไฟล์แขก เส้นทาง และนิสัย

สุดท้ายนี้ เนื้อหาของการสื่อสารของคุณไม่ควรเก็บไว้ในหน่วยความจำระยะยาวโดยอัตโนมัติ ผู้ช่วยสามารถประมวลผลอีเมลเฉพาะหากคุณขออย่างชัดเจน แต่นั่นไม่ได้หมายความว่ามันจะมีสิทธิ์อ่านอีเมลของคุณ

มีประโยชน์หมายถึงการบุกรุก: กับดักของผลิตภัณฑ์เอไอ

บริบทเพิ่มเติมทำให้ผลิตภัณฑ์更加สะดวกเพราะระบบรู้มากขึ้น คำแนะนำที่แม่นยำขึ้น การตอบสนองที่เร็วขึ้น และผลกระทบจากใช้งานที่มากกว่า

นี่คือที่ที่ความต้องการเชื่อมต่อปฏิทิน อีเมล ชैट CRM และข้อมูลทางภูมิศาสตร์เกิดขึ้น เพื่อให้บริการสามารถคาดการณ์ความต้องการของผู้ใช้ได้ การเชื่อมต่อแต่ละครั้งดูสมเหตุสมผลและถูกต้อง

ในอุตสาหกรรมคอนเซียร์จ การเชื่อมต่อปฏิทินและประวัติการเดินทางของลูกค้าสามารถปรับปรุงคำแนะนำได้มาก: ระบบสามารถคาดการณ์ความต้องการได้แม้ก่อนที่ลูกค้าจะแสดงออกมา

ปัญหาอยู่ที่ตรงนี้: ตรรกะของการปรับปรุงUXทำให้โครงสร้างเปลี่ยนไปสู่การรวบรวมข้อมูลมากขึ้น การเก็บข้อมูลนานขึ้น และการเข้าถึงข้อมูลกว้างขึ้น และใน某จุด เส้นแบ่งก็หายไป

ปัญหา thứสองเกี่ยวข้องกับการเข้าถึงสำหรับการสนับสนุนลูกค้า คุณสามารถสร้างการเข้ารหัสที่แข็งแรงได้ และให้การสนับสนุนลูกค้าผู้ดำเนินการเข้าถึงประวัติของลูกค้าเพื่อจุดประสงค์ในการซื้อตั๋วโดยเฉพาะ ในความเป็นจริง เหตุการณ์เกิดขึ้นเนื่องจากการเข้าถึงภายในที่ไม่ได้รับการควบคุมและความผิดพลาดของมนุษย์มากกว่าการโจมตีจากภายนอก

ความเสี่ยง第三คือโครงสร้างหลายตัวแทน เมื่อตัวแทนผ่านบริบทให้กันและกัน ข้อมูลเริ่มไหลระหว่างส่วนประกอบในทางที่ไม่ได้ออกแบบไว้ หากตัวแทนหนึ่งมีสิทธิ์กว้างเกินไป บริบทนั้นจะถูกจับโดยสายต่อไป

ใบเสร็จความเป็นส่วนตัว: มาตรฐานใหม่สำหรับเอไอ

มันเป็นข้อผิดพลาดที่จะดูความเป็นส่วนตัวเป็นฟังก์ชันการปฏิบัติตามกฎ ระเบียบ ความเป็นส่วนตัวที่แท้จริงขึ้นอยู่กับสิ่งที่เราบันทึกและแบ่งปันเพื่อวัตถุประสงค์ที่ตั้งใจไว้ วิธีการแบ่งปัน ข้อจำกัด และเงื่อนไข การเข้าถึง และสถานการณ์ที่ผู้ใช้ควบคุมมัน

ไม่น่าเชื่อผลิตภัณฑ์ส่วนใหญ่ไม่มีคำตอบง่ายๆ สำหรับคำถามของผู้ใช้: ระบบรู้อะไรเกี่ยวกับพวกเขา สามารถแก้ไขหรือลบได้หรือไม่ สามารถห้ามการใช้ข้อมูลเฉพาะได้หรือไม่

ดังนั้น จึงสำคัญที่จะแนะนำใบเสร็จความเป็นส่วนตัวเมื่อผู้ใช้สามารถถามผู้ช่วยเอไอได้ว่าระบบรู้อะไรเกี่ยวกับพวกเขา มาจากไหน และใช้ทำไม และได้รับคำตอบที่ชัดเจนและตรวจสอบได้ทันที เช่นเดียวกับที่เราคาดหวังจากบัญชีธนาคารในปัจจุบัน: โปร่งใส ตรวจสอบได้ และมีอยู่ตามคำขอ

รากฐานทางเทคนิคของหน่วยความจำที่ปลอดภัย

ใบเสร็จความเป็นส่วนตัวเป็นไปไม่ได้หากไม่มีรากฐานทางวิศวกรรมที่มั่นคง มีสามชั้นที่สำคัญ: ขั้นแรก คือการปกป้องข้อมูลที่ระดับโครงสร้างพื้นฐาน การเข้ารหัสควรเป็นหลักการหลัก ไม่ใช่เพียงรูปแบบ การเก็บข้อมูลควรใช้키เฉพาะสำหรับลูกค้า ไม่ใช่คีย์หลักเดียวสำหรับทุกคน การส่งควรใช้โพรโทคอลสมัยใหม่ และคุณลักษณะที่ไวต่อความรู้สึกควรแยกออกจากเมตाडาต้าของบริการ

นอกจากนี้ บริการ ตัวแทน และผู้ดำเนินการควรเข้าถึงข้อมูลที่จำเป็นสำหรับการทำงานเฉพาะเท่านั้น

สุดท้ายนี้ บันทึกการเข้าถึงที่ไม่สามารถเปลี่ยนแปลงได้ การตรวจสอบการเข้าถึงแต่ละครั้ง และการควบคุมทางเทคนิคของการเก็บและประมวลผลทางภูมิศาสตร์เป็นสิ่งสำคัญ การทดสอบสถานการณ์หลายตัวแทนควรพิจารณาเป็นชั้นความเสี่ยงแยกต่างหาก

เพียงแค่นี้ ใบเสร็จความเป็นส่วนตัวจึงเป็นไปได้: ระบบรู้จริงๆ ว่ารู้อะไรและสามารถพิสูจน์ได้

ใครจะสูญเสียและใครจะกลายเป็นมาตรฐาน?

บริการและผลิตภัณฑ์ที่มองเห็นหน่วยความจำเป็นการสะสมที่ไม่มีทิศทางจะสูญเสีย: ความโปร่งใสน้อยกว่าสำหรับผู้ใช้ แต่แหล่งข้อมูลมากกว่า บริบทมากกว่า และการเก็บข้อมูลนานขึ้น

แบบจำลองนี้ดูเหมือนจะมีประโยชน์ในระยะสั้น แต่หากไม่มีข้อจำกัดและกฎที่ชัดเจน ตรรกะนี้จะเปลี่ยนไปสู่การขยายตัวที่ไม่มีการควบคุม: ข้อมูลเชื่อมต่อเร็วกว่าที่กลไกการอธิบายและควบคุมสามารถติดตั้งได้

เรื่องอื้อฉาวเกี่ยวกับการรั่วไหลของข้อมูล การใช้เอไอผิดพลาด หรือการเปิดเผยข้อมูลที่ไวต่อความรู้สึกโดยไม่ถูกต้องจะส่งผลกระทบต่อผลิตภัณฑ์ทั้งหมดในหมวดหมู่นี้ ผู้ใช้จะเรียกร้องข้อมูลเพิ่มเติมเกี่ยวกับความโปร่งใส และเพียงบริษัทที่มีการออกแบบความสามารถในการอธิบาย

ผลิตภัณฑ์ที่ออกแบบระบบรอบๆ ภาพที่มองเห็นได้และตรวจสอบได้ทันทีของสิ่งที่เอไอรู้และทำไมจะกลายเป็นมาตรฐาน ความเป็นส่วนตัวต้องเป็นส่วนหนึ่งของระบบตั้งแต่เริ่มต้น – โดยเฉพาะอย่างยิ่งเมื่อมันส่งผลกระทบต่อชีวิตของผู้คน