פטרישיה תאיין, מנכ"לית בפרטיות AI – סדרת ראיונות

פטרישיה תאיין היא המייסדת והמנכ"לית של AI פרטי, מועמד לתואר שלישי במדעי המחשב באוניברסיטת טורונטו, ושותף לתואר שני במכון וקטור העוסק במחקר על עיבוד שפה טבעית לשמירה על הפרטיות, עם התמקדות בקריפטוגרפיה יישומית. היא גם עושה מחקר על שיטות חישוביות לפענוח שפה שאבד.

פטרישיה היא מקבלת מלגת NSERC לתארים מתקדמים, מלגת הבוגרים של RBC, מלגת הבוגרים של ביאטריס "טריקסי" וורסלי במדעי המחשב, ומלגת הבוגרים של אונטריו. יש לה שמונה שנות ניסיון במחקר ופיתוח תוכנה, כולל במעבדת פיתוח השפה של מקגיל, המעבדה לבלשנות חישובית של אוניברסיטת טורונטו, המחלקה לבלשנות של אוניברסיטת טורונטו וסוכנות לבריאות הציבור של קנדה.

מה משך אותך בהתחלה למדעי המחשב?

יכולת פתרון בעיות ויצירתיות בו זמנית. זה כמו מלאכה. אתה זוכה לראות את רעיונות המוצרים שלך מתעוררים לחיים, בדומה לנגר בונה רהיטים. כפי ששמעתי מישהו אומר פעם: תכנות הוא הכלי היצירתי האולטימטיבי. העובדה שהמוצרים שאתה בונה יכולים להתאים ולשמש אנשים בכל מקום בעולם היא דובדבן כל כך.

האם תוכל לדון בסיפור הבראשית מאחורי בינה מלאכותית פרטית וכיצד הוא מקורו מהתבוננות שלך שיש חוסר בכלים שקל לשלב לשמירה על הפרטיות?

באמצעות דיבור וכתיבה, חלק מהמידע הרגיש ביותר שלנו מופק ומועבר לחברות שבהן אנו משתמשים בשירותיהן. כאשר שקלנו אילו מוצרי NLP לבנות, הייתה שכבה של פרטיות שנצטרך לשלב שפשוט לא הייתה קיימת בשוק. כדי להשתמש בפתרונות פרטיות, חברות היו צריכות להעביר את נתוני המשתמשים שלהן לצד שלישי, להשתמש בפתרונות קוד פתוח מתחת לרמה שפשוט לא חותכים את זה להגנה נכונה על פרטיות המשתמש, או לבנות פתרון פנימי עם מעט מאוד מומחיות בפרטיות. לכן, החלטנו להתמקד ביצירת המוצרים הטובים ביותר האפשריים עבור מפתחים וצוותי בינה מלאכותית שצריכים שהפלטים של טכנולוגיות לשיפור הפרטיות יעבדו בקלות לצרכיהם.

מדוע AI לשמירה על הפרטיות חשוב?

בערך 80 אחוז מהמידע המופק אינו מובנה ובינה מלאכותית היא הדרך היחידה להבין את כל הנתונים הללו. זה יכול לשמש לטובה, כמו עזרה בזיהוי נפילות עבור אוכלוסיה מבוגרת, או לרעה, כמו פרופיל ומעקב אחר פרטים מאוכלוסיות שאינן מיוצגות. הבטחת הפרטיות מובנית בתוכנה שאנו יוצרים מקשה הרבה יותר על השימוש בבינה מלאכותית בצורה מזיקה.

כיצד פרטיות היא יתרון תחרותי?

יש הרבה סיבות, אבל הנה רק כמה:

1. יותר ויותר משתמשים דואגים לפרטיות, וככל שהצרכנים משכילים יותר, החשש הזה הולך וגובר: 70 אחוז מהצרכנים מודאגים מפרטיות הנתונים שלהם.
2. הרבה יותר קל לעשות עסקים עם עסקים אחרים אם יש לך פרוטוקולים וטכנולוגיות נאותים להגנת נתונים ופרטיות נתונים.
3. כאשר בנית את המוצרים שלך בצורה ששומרת על הפרטיות, אתה עוקב טוב יותר אחר היכן נמצאות נקודות הפגיעות בשירות שלך, ובמיוחד באמצעות מזעור נתונים, אתה נפטר מהנתונים שאתה לא צריך להכניס אותך לצרות כאשר מתקפת סייבר מתרחשת.

האם תוכל לדון בחשיבות של אימון פרטיות נתונים ומדוע זה רגיש להנדסה לאחור?

זו שאלה מצוינת וצריך להיות כל כך הרבה יותר חינוך בנושא הזה. באופן פשטני, מודלים של למידת מכונה משננים מידע. ככל שהדגמים גדולים יותר, כך הם משננים יותר מארזים פינתיים. המשמעות היא שהמידע שהדגמים הללו אומנו עליו יכול להיפלט החוצה בייצור. זה הוכח בכמה מאמרי מחקר, כולל משתף הסוד: הערכה ובדיקה של שינון לא מכוון ברשתות עצביות ו חילוץ נתוני הדרכה ממודלים של שפות גדולות.

גם זה הוכח ניתן לחלץ מידע אישי מהטבעות מילים ולמי שיש ספק אם זו בעיה אמיתית, היה גם א שערורייה השנה כאשר בוט אהבה קוריאני כתב את פרטי המשתמש בצ'אטים עם משתמשים אחרים.

מהן דעותיך לגבי למידה מאוחדת ופרטיות משתמשים?

למידה מאוחדת היא צעד מצוין כאשר מקרה השימוש מאפשר זאת. עם זאת, עדיין ניתן לחלץ מידע על קלט של משתמש מעידכוני המשקל שנשלחו לענן ממכשיר מסוים של משתמש, לכן חשוב לשלב למידה מאוחדת עם טכנולוגיות אחרות לשיפור הפרטיות (פרטיות דיפרנציאלית והצפנה הומומורפית/חישוב רב-צדדי מאובטח ). יש לבחור כל טכנולוגיה לשיפור הפרטיות בהתאם למקרה השימוש - אף אחת מהן לא יכולה לשמש כפטיש לפתרון כל הבעיות. אנחנו עוברים כאן על עץ ההחלטות. רווח גדול אחד הוא שאתה אף פעם לא שולח את הנתונים הגולמיים שלך מחוץ למכשיר שלך. חיסרון אחד גדול הוא שאם אתה צריך נתונים על מנת לנפות באגים במערכת או לראות אם היא מאומנת כראוי, זה הופך להיות הרבה יותר קשה להשיג. למידה מאוחדת היא התחלה מצוינת עם הרבה בעיות לא פתורות שהמחקר והתעשייה עובדים עליהן.

AI פרטי מאפשר למפתחים לשלב ניתוח פרטיות עם מספר שורות קוד כדי להבטיח פרטיות, איך זה עובד?

הטכנולוגיה שלנו פועלת כ- REST API שאליו המשתמשים שלנו שולחים בקשות POST עם הטקסט שהם רוצים לתקן, לבטל זיהוי או לעשות פסאודונימיות/להגדיל עם נתונים מציאותיים. חלק מהלקוחות שלנו שולחים תמלילי שיחות שצריך לתקן כדי להיות תואמי PCI, בעוד שאחרים שולחים צ'אטים שלמים כדי שיוכלו להשתמש במידע כדי לאמן צ'אטבוטים, מנתחי סנטימנטים או מודלים אחרים של NLP. המשתמשים שלנו יכולים גם לבחור אילו ישויות הם צריכים לשמור או אפילו להשתמש כמטא נתונים כדי לעקוב אחר היכן מאוחסנים נתונים אישיים. אנו מסירים את הכאב שבצורך להכשיר מערכת מדויקת כדי לזהות ולהחליף מידע אישי בנתונים מבולגנים באמת.

מדוע פרטיות עבור מכשירי IoT היא בעיה עכשווית ומה דעותיך לגבי פתרון זה?

בסופו של דבר, הדרך הטובה ביותר לפתור בעיית פרטיות היא מאוד תלויה במקרה השימוש, ומכשירי IoT אינם שונים. בעוד שמספר מקרי שימוש עשויים להסתמך על פריסת קצה, מסקנות קצה ולמידה מאוחדת לשימור פרטיות (למשל, חישת קהל בערים חכמות), ייתכן שמקרי שימוש אחרים יצטרכו להסתמך על צבירת נתונים ואנונימיזציה (למשל, מידע על שימוש באנרגיה). עם זאת, מכשירי IoT הם דוגמה מצוינת לאופן שבו פרטיות ואבטחה חייבים ללכת יד ביד. מכשירים אלה ידועים לשמצה שאינם בטוחים להתקפות סייבר, כך שיש רק כל כך הרבה טכנולוגיות לשיפור הפרטיות שיכולות לעשות מבלי לתקן פרצות הליבה של המכשירים. מצד שני, מבלי לחשוב על דרכים לשפר את פרטיות המשתמש, מידע שנאסף מבתינו יכול להיות משותף, ללא סימון, עם גורמים לא ידועים, מה שמקשה מאוד להבטיח את אבטחת המידע. יש לנו שתי חזיתות לשפר כאן וטיוטת החקיקה שנכתבת על ידי הנציבות האירופית בנושא אבטחת מכשירי IoT עשויה בסופו של דבר להיות מה שמטלטל את יצרני המכשירים לקחת את האחריות שלהם כלפי האבטחה והפרטיות של הצרכנים ברצינות.

האם יש משהו נוסף שתרצה לחלוק על AI פרטי? 

אנחנו קבוצה של מומחים בפרטיות, שפה טבעית, שפה מדוברת, עיבוד תמונה, פריסת מודלים של למידת מכונה בסביבות דלות משאבים, בגיבוי M12, קרן הסיכון של מיקרוסופט.

אנו מוודאים שהמוצרים שאנו יוצרים, בנוסף להיותם מדויקים ביותר, יהיו גם יעילים מבחינה חישובית כך שלא יהיה לכם חשבון ענן ענק על הידיים בסוף החודש. כמו כן, הנתונים של הלקוחות שלנו לעולם לא מועברים אלינו - הכל מעובד בסביבה שלהם.

תודה על הראיון הנהדר, למידע נוסף בקר AI פרטי.