الذكاء الاصطناعي الذي يتذكر بدون إفراط في المشاركة: هندسة الخصوصية للجيل التالي من الخدمات الشخصية

معظم الشركات لم تدرك بعد أن المساعدين الاصطناعيين الشخصيين قد وصلوا إلى مستوى جديد كليًا. الآن لا ي回答ون فقط الأسئلة، بل يقومون بأعمال نيابة عن الموظفين الحقيقيين: يحجزون ويتابعون الحجوزات، ويتواصلون، ويتخذون قرارات تتعلق بالمالية، والجدول، والرحلات، والاجتماعات.

قد تغيرت أيضًا البيانات التي يعمل عليها الذكاء الاصطناعي: من “ما هي نوعية الموسيقى التي تعجبك” إلى “أين أنت، ومن معك، وما اتفقت عليه، وكم تدفع مقابل ذلك”. هذا هو مستوى مختلف تمامًا من الضعف، ونحن بحاجة إلى هندسة جديدة. أسميها “إيصالات الخصوصية” – إيصالات رقمية تسمح للمستخدمين بمعرفة في أي وقت ماذا يعرف المساعد عنهم، ومن أين أتى، ولماذا يتم استخدامه. هذا هو نفس التوقع الذي لدينا اليوم للحسابات البنكية: شفافة، ويمكن التحقق منها، ومتاحة عند الطلب.

لماذا أصبح الذكاء الاصطناعي الآمن مهمًا بشكل حرج الآن

في الماضي، كان المساعدون الاصطناعيين في الغالب معلوماتيين: بحث، وملخصات وثائق، وتلميحات رمز. نادرًا ما يمكنهم التصرف بدون مشاركة شخص يتحكم في العملية.

اليوم، نرى صورة مختلفة. يتم دمج المساعدون في البريد الإلكتروني، والتقويمات، وبرامج المراسلة، والخدمات المصرفية، والسفر؛ يمكنهم إرسال رسالة إلى شريك، أو دفع مقابل حجوزات، أو تغيير رحلة، بالاعتماد على السياق الذي قد لا يكون الشخص المسؤول على إطلاعه.

في الوقت نفسه، فإن أوائل وأكثر مستخدمي هؤلاء المساعدون هم أشخاص الذين تكلفهم الأخطاء باهظة الثمن: المديرين التنفيذيين، والرؤساء التنفيذيين، والعملاء ذوي الثروة العالية، ومهنيي القطاع المالي وإدارة رأس المال. بالنسبة لهم، فقدان الخصوصية ي представляет خطرًا كبيرًا على السمعة، والقانون، والمخاطر المالية المباشرة.

عندما يتعلق الأمر بالذكاء الاصطناعي، لا يمكن معاملة قضايا الخصوصية على أنها مجرد شكلية.

بيانات mínima، قيمة أكثر

معظم منتجات الذكاء الاصطناعي تجمع بيانات أكثر مما هو ضروري لكونها مفيدة حقًا. في ممارساتنا، نجد أن الغالبية العظمى من البيانات التي يجمعها المساعدون الاصطناعيون لا يتم استخدامها في الواقع لتقديم الخدمات. إذا أخذنا أعمال الوساطة، فإن ثلاثة أشياء كافية للمساعد لتقديم خدمة شخصية عالية الجودة. أولاً، التفضيلات ذات الصلة بالمهام: كيف تسافر، وكيف تفضل التواصل، وما هي القيود التي لديك فيما يتعلق بالتأشيرات، والميزانية، والالتزامات العائلية.

ثانيًا، سياق الطلب الحالي: أين، متى، مع من، لأي غرض، والموعد النهائي، والمخاطر.

أخيرًا، يتذكر التفاعلات السابقة داخل المهام: لذلك لا يسأل نفس الأسئلة، ويتذكر الحلول المختارة، ولا يكرر الأخطاء.

هذا كافٍ لكي يعمل المنتج على مستوى مساعد شخصي جيد. لا يحتاج إلى أرشيف كامل من المراسلات، أو تتبع موقع مستمر، أو معاملات مالية.

مساعدو الذكاء الاصطناعي والحدود المقبولة

هناك أنواع من البيانات التي لا مكان لها في مساعد شخصي. على سبيل المثال، بيانات السلوك السلبي: الاستماع المستمر، وتتبع الموقع المستمر بدون طلب، مراقبة الشاشة أو الإدخال. إذا جمع النظام معلوماتًا لا عن ما طلبته، بل عن ما تفعله بشكل عام، فإنه ي停止 عن كونه مساعدًا ويتحول إلى مراقبة.

أيضًا، لا يحتاج إلى بيانات عن أطراف ثالثة لم يتفاعلوا مع النظام. على سبيل المثال، طلب مثل “ساعد في تنظيم اجتماع” لا ينبغي أن يتحول إلى حق في بناء ملفات لضيوف، وطرقهم، و عاداتهم.

ثالثًا، لا ينبغي تخزين محتوى كامل للاتصالات في الذاكرة طويلة الأمد بشكل افتراضي. يمكن للمساعد معالجة بريد إلكتروني معين إذا طلبته صراحة، ولكن ذلك لا يعني أنه يحق له الآن قراءة بريدك الإلكتروني.

المفيد يعني الغاز: فخ المنتجات الذكية

السياق الإضافي يزيد حقًا من راحة المنتج، لأن كلما كان النظام يعرف أكثر، زادت دقة التوصيات، وسرعة الاستجابات، وأكبر تأثير الدهشة من استخدامها.

هنا يظهر الحاجة الطبيعية إلى ربط التقويمات، والبريد الإلكتروني، وبرامج المراسلة، وبيانات الجغرافيا المكانية، بحيث يمكن للخدمة توقع احتياجات المستخدم. كل اتصال يبدو معقولًا ومبررًا.

في صناعة الوساطة، يزيد ربط تقويم العميل وتاريخ السفر بشكل كبير من التوصيات – يمكن للنظام توقع الاحتياجات حتى قبل أن يعبر العميل عنها. في الوقت نفسه، لا يتخزن بعض الخدمات محتوى الاتصالات خارج المهام النشطة ولا تبني ملفات سلوكية بناءً على بيانات سلبية.

المشكلة هي أن منطق تحسين تجربة المستخدم يتحول تدريجيًا إلى هيكل يجمع المزيد من البيانات، ويخزنها لفترات أطول، وينشرها على نطاق أوسع. وفي لحظة ما، يختفي الخط الفاصل.

المشكلة الثانية تتعلق بالوصول إلى دعم العملاء. يمكنك بناء تشفير قوي، ثم منح مشغل دعم العملاء وصولًا كاملًا إلى تاريخ العميل من أجل شراء تذكرة واحدة، على سبيل المثال. في الواقع، تحدث الحوادث غالبًا بسبب الوصول الداخلي غير الخاضع للرقابة والأخطاء البشرية، وليس الهجمات الخارجية.

المخاطر الثالثة تتعلق بالهياكل متعددة الوكلاء. عندما يمرر الوكلاء السياق إلى بعضهم البعض، تبدأ البيانات في التدفق بين المكونات بطرق لم يتم تصميمها صراحة. إذا كان وكيل واحد لديه صلاحيات واسعة جدًا، يتم التقاط هذا السياق بواسطة السلسلة فيما بعد.

إيصالات الخصوصية: المعيار التالي للذكاء الاصطناعي

من الخطأ النظر إلى الخصوصية على أنها وظيفة مطابقة. الخصوصية الحقيقية تعتمد على ما نخزنه وكيف نشاركها لغرضها المقصود، وكيف نطيلها، ومن يصل إليها، وفي ظل ما الظروف، بما في ذلك الأشخاص والوكلاء الذكية، وكيف يتحكم المستخدمون فيها.

للأسف، لا تملك معظم الخدمات إجابة بسيطة على أسئلة المستخدمين: ماذا يعرف النظام بالضبط، هل يمكن تصحيحه أو حذفه، أو حظر استخدام قطعة معينة من البيانات؟

لذلك، من المهم إدخال إيصالات الخصوصية عندما يمكن للمستخدم أن يسأل مساعده الذكاء الاصطناعي ماذا يعرف عنهم، ولماذا يعرف ذلك، ومن أين أتى هذا المعلومات، ويتلقي فورًا إجابة واضحة ويمكن التحقق منها. كما نتوقع اليوم من حسابات البنوك، سننتظر قريبًا الشفافية من الأنظمة التي تدير وقتنا، وروابطنا، ورأسمالنا.

الأساس الفني للذاكرة الآمنة

إيصالات الخصوصية مستحيلة بدون أساس هندسي صلب. هناك ثلاث طبقات حرجة على الأقل: أولًا، حماية البيانات على مستوى البنية التحتية. يجب أن يكون التشفير مبدأً أساسيًا، وليس مجرد شكلية. يجب تخزين البيانات باستخدام مفاتيح خاصة بالعميل، وليس بمفتاح رئيسي واحد لجميع، وينبغي أن تكون الإرسال عبر بروتوكولات حديثة، وينبغي أن تكون السمات الحساسة منفصلة منطقيًا من بيانات الخدمة.

علاوة على ذلك، يجب أن يكون لكل خدمة، ووكيل، ومشغل وصول فقط إلى البيانات اللازمة لأداء مهمة معينة.

أخيرًا، سجلات الوصول التي لا يمكن التعديل، ومراقبة كل وصول، والتحكم الفني لتخزين ومعالجة الجغرافيا هي أمور مهمة. يجب اعتبار اختبار السيناريوهات متعددة الوكلاء فئة منفصلة من المخاطر.

فقط بهذه الهيكلة تصبح إيصالات الخصوصية ممكنة: بهذه الطريقة، يعرف النظام حقًا ما يعرفه ويمكن إثباته.

من سيفقد، ومن سيتحول إلى المعيار؟

الخدمات والمنتجات التي تعتبر الذاكرة تراكمًا أحادي الاتجاه ستفقد: أقل شفافية للمستخدم، ولكن أكثر مصادر، وأكثر سياق، وتخزين أطول.

هذا النموذج يبدو مفيدًا في المدى القصير، ولكن بدون قيود وقواعد واضحة، يتحول هذا المنطق إلى توسع غير خاضع للرقابة، حيث يتم ربط البيانات بشكل أسرع من وضع آليات الشرح والتحكم.

الخدمات والمنتجات التي تدرك الذاكرة على أنها تراكم أحادي الاتجاه ستفقد: أقل شفافية للمستخدم، ولكن أكثر مصادر، وأكثر سياق، وتخزين أطول. هذا النموذج يبدو مفيدًا في المدى القصير، ولكن بدون قيود وقواعد واضحة، يتحول هذا المنطق إلى توسع غير خاضع للرقابة، حيث يتم ربط البيانات بشكل أسرع من وضع آليات الشرح والتحكم.

المنتجات التي تصمم النظام حول صورة فورية ويمكن التحقق منها لماذا يعرف الذكاء الاصطناعي ما يعرفه ستصبح المعيار. يجب أن تكون الخصوصية جزءًا من النظام من البداية – خاصة عندما يتأثر حياة الناس.