האם יש פתרון ברור לסיכוני הפרטיות שמציבה בינה מלאכותית גנרטיבית?

סיכוני הפרטיות שמציבה בינה מלאכותית גנרטיבית הם ממשיים מאוד. החל ממעקב וחשיפה מוגברים ועד קמפיינים יעילים יותר מאי פעם של פישינג ווידאו, בינה מלאכותית גנרטיבית פוגעת בפרטיות באופן המוני, ללא הבחנה, תוך שהיא מספקת לגורמים פושעים, בין אם בחסות המדינה או ממשלה, את הכלים הדרושים להם כדי למקד בפגיעה באנשים ובקבוצות.

הפתרון הברור ביותר לבעיה זו כרוך בהפניית עורף קולקטיבית של צרכנים ומשתמשים להייפ של בינה מלאכותית, בדרישה לשקיפות מאלה המפתחים או מיישמים את מה שנקרא תכונות בינה מלאכותית, ורגולציה יעילה מצד גופי הממשל המפקחים על פעילותם. למרות שכדאי לשאוף לכך, זה לא צפוי לקרות בקרוב.

מה שנותרו הן גישות סבירות, גם אם בהכרח לא שלמות, להפחתת סיכוני הפרטיות של בינה מלאכותית גנרטיבית. התחזית ארוכת הטווח, הבטוחה אך המשעממת, היא שככל שהציבור משכיל יותר לגבי פרטיות נתונים באופן כללי, כך יפחתו סיכוני הפרטיות הנשקפים מהאימוץ ההמוני של בינה מלאכותית גנרטיבית.

האם כולנו מבינים נכון את הקונספט של בינה מלאכותית גנרטיבית?

ההייפ סביב בינה מלאכותית כה נרחב, עד שסקר של מה שאנשים מתכוונים בבינה מלאכותית גנרטיבית אינו הכרחי כלל. כמובן, אף אחת מתכונות, פונקציונליות ומוצרים אלה של "בינה מלאכותית" אינה מייצגת דוגמאות לבינה מלאכותית אמיתית, איך שלא תיראה. במקום זאת, הן בעיקר דוגמאות ל... למידת מכונה (ML), למידה עמוקה (DL), ו מודלים גדולים לשפה (LLMs).

בינה מלאכותית גנרטיבית, כפי שמרמז השם, יכולה לייצר תוכן חדש - בין אם טקסט (כולל שפות תכנות), אודיו (כולל מוזיקה וקולות אנושיים), או סרטונים (עם קול, דיאלוגים, קטעים ושינויי מצלמה). כל זה מושג על ידי אימון מומחי תואר ראשון במשפטים לזהות, להתאים ולשחזר דפוסים בתוכן שנוצר על ידי בני אדם.

בואו ניקח את ChatGPT כדוגמה. כמו סטודנטים רבים לתואר ראשון במשפטים, הוא מאומן בשלושה שלבים כלליים:

• אימון מקדיםבשלב זה, התואר השני במשפטים "מוזן" בחומר טקסטואלי מהאינטרנט, ספרים, כתבי עת אקדמיים וכל דבר אחר המכיל טקסט פוטנציאלי רלוונטי או שימושי.
• כוונון עדין של הוראה בפיקוחמודלים מאומנים להגיב בצורה קוהרנטית יותר להוראות באמצעות זוגות הוראה-תגובה באיכות גבוהה, שמקורם בדרך כלל בבני אדם.
• חיזוק למידה ממשוב אנושי (RLHF)תוכניות LLM כמו ChatGPT עוברות לעיתים קרובות שלב אימון נוסף זה, שבמהלכו אינטראקציות עם משתמשים אנושיים משמשות כדי לחדד את התאמת המודל למקרי שימוש אופייניים.

כל שלושת שלבי תהליך האימון כוללים נתונים, בין אם מדובר במאגרי נתונים עצומים שנאספו מראש (כמו אלה המשמשים באימון מקדים) או נתונים שנאספו ועובדו כמעט בזמן אמת (כמו אלה המשמשים ב-RLHF). נתונים אלה הם הנושאים את חלק הארי מסיכוני הפרטיות הנובעים מבינה מלאכותית גנרטיבית.

מהם סיכוני הפרטיות שמציבה בינה מלאכותית גנרטיבית?

פרטיות נפגעת כאשר מידע אישי הנוגע לאדם (נושא המידע) הופך לרשות אנשים או גופים אחרים ללא הסכמתו. מורשי משפטים מאומנים מראש ומכווננים היטב על מגוון רחב ביותר של נתונים שיכולים לכלול, ולעתים קרובות אכן כוללים, נתונים אישיים. נתונים אלה בדרך כלל נלקחים ממקורות זמינים לציבור, אך לא תמיד.

אפילו כאשר נתונים אלה נלקחים ממקורות זמינים לציבור, איסוף ועיבוד שלהם על ידי תואר שני במשפטים ולאחר מכן הפיכתם לניתנים לחיפוש דרך הממשק של התואר השני יכול להיחשב כהפרה נוספת של הפרטיות.

השמיים חיזוק למידה ממשוב אנושי שלב (RLHF) מסבך את העניינים. בשלב אימון זה, אינטראקציות אמיתיות עם משתמשים אנושיים משמשות לתיקון ושיפור איטרטיבי של תגובות ה-LLM. משמעות הדבר היא שכל מי שיש לו גישה ל-LLM יכול לצפות, לשתף ולהפיץ את האינטראקציות של המשתמש עם LLM. נתוני אימונים.

ברוב המקרים, אין מדובר בהפרת פרטיות, בהתחשב בכך שרוב מפתחי ה-LLM כוללים מדיניות פרטיות ותנאי שירות המחייבים משתמשים להסכים לפני אינטראקציה עם ה-LLM. סיכון הפרטיות כאן טמון דווקא בעובדה שמשתמשים רבים אינם מודעים לכך שהם הסכימו לאיסוף ושימוש בנתונים כאלה. משתמשים כאלה עשויים לחשוף מידע פרטי ורגיש במהלך האינטראקציות שלהם עם מערכות אלה, מבלי להבין שאינטראקציות אלה אינן סודיות ואינן פרטיות.

בדרך זו, אנו מגיעים לשלוש הדרכים העיקריות בהן בינה מלאכותית גנרטורה מהווה סיכוני פרטיות:

• מאגרי מידע גדולים של טרום-אימון, שעשויים להכיל מידע אישי, חשופים לפריצה ולגניבה.
• מידע אישי הכלול בנתוני טרום-הכשרה עלול לדלוף למשתמשים אחרים של אותו תואר שני במשפטים (LLM) באמצעות תגובותיו לשאילתות והוראות.
• מידע אישי וסודי הנמסר במהלך אינטראקציות עם מורשי משפטים מגיע בסופו של דבר לעובדי מורשי המשפטים ואולי גם לקבלני צד שלישי, משם ניתן לצפות בו או לדלוף אותו.

כל אלה מהווים סיכונים לפרטיות המשתמשים, אך הסיכוי שמידע מזהה אישי (PII) יגיע לידיים הלא נכונות עדיין נראה נמוך למדי. לפחות עד שייכנסו לתמונה סוכני נתונים. חברות אלו מתמחות באיתור מידע מזהה אישי, איסוף, צבירה והפצה, אם לא שידור ישיר, שלו.

כעת, כאשר מידע אישי מזהה ונתונים אישיים אחרים הפכו למעין סחורה, ותעשיית ברוקרי הנתונים צצה כדי להרוויח מכך, כל מידע אישי שיוצא "לחוץ" צפוי להיאסף על ידי ברוקרי נתונים ולהתפשט לכל עבר.

סיכוני הפרטיות של בינה מלאכותית גנרטיבית בהקשר

לפני שנבחן את הסיכונים שמציבה בינה מלאכותית גנרית לפרטיות המשתמשים בהקשר של מוצרים, שירותים ושיתופי פעולה תאגידיים ספציפיים, הבה נחזור אחורה ונבחן בצורה מובנית יותר את מלוא המגוון של סיכוני בינה מלאכותית גנרית. בכתיבה עבור IAPP, מוראס ופרוויטאלי נקטו בגישה מונחית נתונים כדי לשפר את "טקסונומיה של פרטיות" של סולוב משנת 2006, תוך צמצום 16 סיכוני הפרטיות המתוארים בה ל-12 סיכוני פרטיות ספציפיים לבינה מלאכותית.

אלו הם 12 סיכוני הפרטיות הכלולים ב-Moraes ו-Previtali טקסונומיה מתוקנת:

• מעקב: בינה מלאכותית מחריפה את סיכוני המעקב על ידי הגדלת היקף ותפוצת איסוף נתונים אישיים.
• זיהוי: טכנולוגיות בינה מלאכותית מאפשרות קישור זהויות אוטומטי בין מקורות נתונים שונים, מה שמגביר את הסיכונים הקשורים לחשיפת זהות אישית.
• צבירה: בינה מלאכותית משלבת מגוון פיסות מידע על אדם כדי להסיק מסקנות, ויוצרת סיכונים לפגיעה בפרטיות.
• פרנולוגיה ופיזיונומיה: בינה מלאכותית מסיקה תכונות אישיות או חברתיות ממאפיינים פיזיים, קטגוריית סיכון חדשה שאינה בטקסונומיה של סולוב.
• שימוש משני: בינה מלאכותית מחריפה את השימוש בנתונים אישיים למטרות אחרות מאלה שיועדו במקור, באמצעות שימוש חוזר בנתונים.
• הוֹצָאָה מִן הַכְלַל: בינה מלאכותית מחמירה את הכישלון ליידע משתמשים או לתת שליטה למשתמשים על אופן השימוש בנתונים שלהם באמצעות שיטות עבודה אטומות של נתונים.
• חוסר ביטחון: דרישות הנתונים ושיטות האחסון של בינה מלאכותית מסכנות דליפות נתונים וגישה לא נאותה.
• חשיפה: בינה מלאכותית יכולה לחשוף מידע רגיש, למשל באמצעות טכניקות בינה מלאכותית גנרטיביות.
• עיוות: היכולת של בינה מלאכותית לייצר תוכן מציאותי אך מזויף מגבירה את התפשטות מידע כוזב או מטעה.
• גילוי נאות: בינה מלאכותית עלולה לגרום לשיתוף נתונים לא תקין כאשר היא מסיקה מידע רגיש נוסף מנתונים גולמיים.
• נגישות מוגברת: בינה מלאכותית הופכת מידע רגיש לנגיש יותר לקהל רחב יותר מהמתוכנן.
• הִתעָרְבוּת: טכנולוגיות בינה מלאכותית פולשות למרחב האישי או לבדידות, לעתים קרובות באמצעות אמצעי מעקב.

זה קריאה די מדאיגה. חשוב לציין שטקסונומיה זו, לזכותה ייאמר, מתחשבת בנטייה של בינה מלאכותית גנרטבית ל... הזוי – לייצר ולהציג בביטחון מידע שאינו מדויק מבחינה עובדתית. תופעה זו, למרות שהיא כמעט ולא חושפת מידע אמיתי, מהווה גם סיכון לפרטיות. הפצת מידע כוזב ומטעה משפיעה על פרטיותו של הנבדק בדרכים עדינות יותר מאשר במקרה של מידע מדויק, אך היא בכל זאת משפיעה עליה.

בואו נתמקד בכמה דוגמאות קונקרטיות כיצד סיכוני פרטיות אלה באים לידי ביטוי בהקשר של מוצרי בינה מלאכותית בפועל.

אינטראקציות ישירות עם מערכות בינה מלאכותית גנרטיביות מבוססות טקסט

המקרה הפשוט ביותר הוא זה שבו משתמש מקיים אינטראקציה ישירה עם מערכת בינה מלאכותית גנרטיבית, כמו ChatGPT, Midjourney או Gemini. האינטראקציות של המשתמש עם רבים מהמוצרים הללו נרשמות, מאוחסנות ומשמשות ללמידה מחוזקת ממשוב אנושי (RLHF), כוונון עדין של הוראה בפיקוח ואפילו אימון מקדים של תלמידי LLM אחרים.

ניתוח מדיניות הפרטיות של שירותים רבים כמו אלה חושף גם פעילויות שיתוף נתונים אחרות המבוססות על מטרות שונות מאוד, כמו שיווק ותיווך נתונים. זהו סוג אחר לגמרי של סיכון פרטיות שמציב בינה מלאכותית גנרטיבית: ניתן לאפיין מערכות אלו כמשפכי נתונים ענקיים, האוספים נתונים המסופקים על ידי משתמשים וכן נתונים שנוצרים באמצעות האינטראקציות שלהם עם מערכת ה-LLM הבסיסית.

אינטראקציות עם מערכות בינה מלאכותית גנרטיביות משובצות

ייתכן שחלק מהמשתמשים מקיימים אינטראקציה עם ממשקי בינה מלאכותית גנרטיבית המוטמעים בכל מוצר שהם לכאורה משתמשים בו. ייתכן שהמשתמש יודע שהוא משתמש בתכונת "בינה מלאכותית", אך סביר פחות שהוא יודע מה זה כרוך בו מבחינת סיכוני פרטיות נתונים. מה שעולה לקדמת הבמה במערכות משובצות הוא חוסר הערכה לעובדה שנתונים אישיים המשותפים עם תואר שני במשפטים עלולים להגיע לידי מפתחים ומתווכי נתונים.

ישנן שתי דרגות של חוסר מודעות כאן: חלק מהמשתמשים מבינים שהם מקיימים אינטראקציה עם מוצר בינה מלאכותית גנרטיבית; וחלקם מאמינים שהם משתמשים במוצר שבו הבינה המלאכותית הגנרטיבית מובנית או נגישה דרכו. בכל מקרה, ייתכן שהמשתמש הסכים (וכנראה הסכים) מבחינה טכנית לתנאים וההגבלות הקשורים לאינטראקציות שלו עם המערכת המשובצת.

שותפויות נוספות שחושפות משתמשים למערכות בינה מלאכותית גנרטיביות

ישנן חברות המטמיעות או כוללות בדרך אחרת ממשקי בינה מלאכותית גנרטיבית בתוכנות שלהן בדרכים פחות ברורות מאליהן, מה שמותיר את המשתמשים לתקשר - ולשתף מידע - עם צדדים שלישיים מבלי להבין זאת. למרבה המזל, "בינה מלאכותית" הפכה לנקודת מכירה כה יעילה, עד כי לא סביר שחברה תשמור יישומים כאלה בסוד.

תופעה נוספת בהקשר זה היא התגובה הגוברת שחברות כאלה חוות לאחר שניסו לשתף נתוני משתמשים או לקוחות עם חברות בינה מלאכותית גנרית כמו OpenAI. חברת הסרת הנתונים Optery, לדוגמה, לאחרונה ביטל החלטה לשתף נתוני משתמשים עם OpenAI על בסיס ביטול הצטרפות, כלומר משתמשים נרשמו לתוכנית כברירת מחדל.

לא רק שהלקוחות מיהרו לעשות להביע את אכזבתם, אך שירות הסרת הנתונים של החברה הוסר מיד מרשימת שירותי הסרת הנתונים המומלצים של Privacy Guides. לזכותה של Optery ייאמר שהיא חזרה בה מהחלטתה במהירות ובשקיפות, אך דווקא התגובה הכללית היא המשמעותית כאן: אנשים מתחילים להעריך את הסיכונים הכרוכים בשיתוף נתונים עם חברות "בינה מלאכותית".

מקרה Opteri הוא דוגמה טובה לכך, משום שמשתמשיו נמצאים, במובן מסוים, בחזית הספקנות הגוברת סביב מה שנקרא יישומים של בינה מלאכותית. האנשים שבוחרים בשירות להסרת נתונים הם בדרך כלל גם אלה שישימו לב לשינויים במדיניות השירות והפרטיות.

עדויות לתגובת נגד גוברת נגד שימוש בנתוני בינה מלאכותית גנרטיבית

צרכנים המודעים לפרטיות לא היו היחידים שהעלו חששות בנוגע למערכות בינה מלאכותית גנרטיבית ולסיכוני פרטיות הנתונים הנלווים אליהן. ברמה החקיקתית, האיחוד האירופי חוק בינה מלאכותית מסווג סיכונים לפי חומרתם, כאשר פרטיות המידע היא הקריטריון המוצהר במפורש או במשתמע לקביעת חומרה ברוב המקרים. החוק מתייחס גם לסוגיות של הסכמה מדעת שדנו בהן קודם לכן.

ארה"ב, הידועה לשמצה באיטיותה באימוץ חקיקה פדרלית מקיפה לפרטיות נתונים, הציבה לפחות כמה מעקות בטיחות הודות ל... הנהלת הצו 14110שוב, חששות בנוגע לפרטיות המידע עומדים בחזית המטרות שניתנו לצו: "שימוש חסר אחריות [בטכנולוגיות בינה מלאכותית] עלול להחריף נזקים חברתיים כגון הונאה, אפליה, הטיה ודיסאינפורמציה" - כולם קשורים לזמינות ולהפצה של נתונים אישיים.

נחזור לרמת הצרכן, לא רק צרכנים מודעים במיוחד לפרטיות נרתעו מיישומי בינה מלאכותית גנרטיבית שפולשת לפרטיות. תכונת ה-Recall הידועה לשמצה של מיקרוסופט, "מופעלת על ידי בינה מלאכותית", המיועדת למערכת ההפעלה Windows 11 שלה, היא דוגמה מצוינת. לאחר שנחשף היקף הסיכונים לפרטיות ואבטחה, ה... תְגוּבָה חֲרִיפָה היה מספיק כדי לגרום לענקית הטכנולוגיה לסגת. למרבה הצער, נראה שמיקרוסופט שלא ויתרו על הרעיון, אך התגובה הראשונית של הציבור בכל זאת מעודדת.

המשך פעילותה של מיקרוסופט, תוכנית Copilot שלה ספגה ביקורת רבה על כך גם פרטיות נתונים וגם אבטחת נתונים בעיות. מכיוון ש-Copilot אומן על נתוני GitHub (בעיקר קוד מקור), התעוררה גם מחלוקת סביב הפרות לכאורה של הסכמי רישוי תוכנה של מתכנתים ומפתחים על ידי מיקרוסופט. במקרים כאלה מתחילים הגבולות בין פרטיות נתונים לזכויות קניין רוחני להיטשטש, ומעניקים לראשונות ערך כספי - דבר שלא נעשה בקלות.

אולי האינדיקציה הגדולה ביותר לכך שבינה מלאכותית הופכת לדגל אדום בעיני הצרכנים היא התגובה הציבורית הפושרת, אם לא החשדנית, שקיבלה אפל להשקת הבינה המלאכותית הראשונית שלה, במיוחד בכל הנוגע להסכמי שיתוף נתונים עם OpenAI.

הפתרונות החלקיים

ישנם צעדים שמחוקקים, מפתחים וחברות יכולים לנקוט כדי להפחית חלק מהסיכונים שמציבה בינה מלאכותית גנרטיבית. אלו הם פתרונות ייעודיים להיבטים ספציפיים של הבעיה הכוללת, אף אחד מהפתרונות הללו לא צפוי להספיק, אך כולם, בשיתוף פעולה, יכולים לעשות שינוי אמיתי.

• מזעור נתונים. מזעור כמות הנתונים הנאספת והמאוחסנת היא מטרה סבירה, אך היא מנוגדת באופן ישיר לרצון של מפתחי בינה מלאכותית גנרטיבית בנתוני אימון.
• שְׁקִיפוּת. בהתחשב במצב הנוכחי של למידה חינוכית, ייתכן שזה אפילו לא אפשרי מבחינה טכנית במקרים רבים. תובנה לגבי אילו נתונים מעובדים וכיצד יוצרים פלט נתון היא דרך אחת להבטיח פרטיות באינטראקציות בינה מלאכותית יצירתיות.
• אנונימיזציה. כל מידע מזהה אישי שלא ניתן להוציא מנתוני אימון (באמצעות מזעור נתונים) צריך להיות אנונימי. הבעיה היא שטכניקות אנונימיזציה ופסודנונימיזציה פופולריות רבות ניתנות לביסוס בקלות.
• הסכמת המשתמש. דרישה ממשתמשים להסכים לאיסוף ושיתוף הנתונים שלהם היא חיונית, אך חשופה מדי לניצול לרעה ונוטה מדי לשאננות מצד הצרכנים מכדי להיות יעילה. הסכמה מדעת היא מה שנדרש כאן, ורוב הצרכנים, אם יקבלו מידע כראוי, לא יסכימו לשיתוף נתונים כזה, ולכן התמריצים אינם מיושרים.
• אבטחת נתונים במעבר ובמנוחה. יסוד נוסף של פרטיות נתונים ואבטחת נתונים, הגנה על נתונים באמצעות קריפטוגרפיה ואמצעים אחרים, תמיד ניתן להפוך ליעילה יותר. עם זאת, מערכות בינה מלאכותית גנרטיבית נוטות לדלוף נתונים דרך הממשקים שלהן, מה שהופך זאת לחלק בלבד מהפתרון.
• אכיפת חוקי זכויות יוצרים וקניין רוחני בהקשר של מה שמכונה בינה מלאכותית. למידה אלקטרונית יכולה לפעול ב"קופסה שחורה", מה שמקשה, אם לא בלתי אפשרי, לעקוב אחר אילו חומרים וקניין רוחני המוגנים בזכויות יוצרים מגיעים בסופו של דבר לאיזה פלט בינה מלאכותית יצירתי.
• ביקורת. צעד בטיחות קריטי נוסף שסוכל על ידי אופי הקופסה השחורה של תוכניות לימודי משפטים (LLM) ומערכות הבינה המלאכותית הגנרטיביות שהן תומכות בהן. מגבלה מובנית זו מחמירה עוד יותר על ידי אופי הקוד הסגור של רוב מוצרי הבינה המלאכותית הגנרטיבית, המגביל ביקורות רק לאלו המבוצעות בנוחות המפתח.

כל הגישות הללו לבעיה תקפות והכרחיות, אך אף אחת מהן אינה מספקת. כולן דורשות תמיכה חקיקתית כדי להיכנס לתוקף באופן משמעותי, כלומר הן נידונות לפגר אחרי הזמנים ככל שתחום דינמי זה ממשיך להתפתח.

הפתרון הברור

הפתרון לסיכוני הפרטיות שמציבה בינה מלאכותית גנרטיבית אינו מהפכני ואינו מרגש, אך אם נלקח עד למסקנה ההגיונית שלו, תוצאותיו יכולות להיות גם וגם. הפתרון הברור כרוך בצרכנים רגילים שיהיו מודעים לערך הנתונים שלהם לחברות ולערך היקר של פרטיות הנתונים עבורם.

צרכנים הם המקורות והמנועים שמאחורי המידע הפרטי שמניע את מה שמכונה כלכלת המעקב המודרנית. ברגע שמסה קריטית של צרכנים תתחיל לבלום את זרימת הנתונים הפרטיים למרחב הציבורי ותתחיל לדרוש אחריות מהחברות שעוסקות בנתונים אישיים, המערכת תצטרך לתקן את עצמה.

הדבר המעודד בבינה מלאכותית גנרטיבית הוא שבניגוד למודלים הנוכחיים של פרסום ושיווק, היא אינה חייבת לכלול מידע אישי בשום שלב. נתוני אימון מקדים וכוונון עדין אינם צריכים לכלול מידע אישי מזהה או נתונים אישיים אחרים, והמשתמשים אינם צריכים לחשוף אותם במהלך האינטראקציות שלהם עם מערכות בינה מלאכותית גנרטיביות.

כדי להסיר את המידע האישי שלהם מנתוני הדרכה, אנשים יכולים לגשת ישירות למקור ולהסיר את הפרופילים שלהם מאתרי נתונים שונים (כולל אתרי חיפוש אנשים) אשר צוברים רשומות ציבוריות, ומביאים אותן למחזור בשוק הפתוח. שירותי הסרת מידע אישי להפוך את התהליך לאוטומטי, מה שהופך אותו למהיר וקל. כמובן, להסרת נתונים אישיים ממאגרי המידע של חברות אלו יש יתרונות רבים נוספים ואין חסרונות.

אנשים גם מייצרים נתונים אישיים בעת אינטראקציה עם תוכנה, כולל בינה מלאכותית גנרטיבית. כדי לעצור את זרימת הנתונים הללו, המשתמשים יצטרכו להיות מודעים יותר לכך שהאינטראקציות שלהם מוקלטות, נבדקות, מנותחות ומשותפות. האפשרויות שלהם להימנע מכך מסתכמות בהגבלת מה שהם חושפים למערכות מקוונות ובשימוש בתוכניות לימודי משפטים בקוד פתוח במכשירים, במידת האפשר. אנשים, באופן כללי, כבר עושים עבודה טובה בוויסות מה שהם דנים בו בפומבי - אנחנו רק צריכים להרחיב את האינסטינקטים האלה לתחום הבינה המלאכותית הגנרטיבית.