ד”ר מתילד פאביס, ראש המחלקה המשפטית, OpenOrigins – סדרת ראיונות

ד”ר מתילד פאביס, ראש המחלקה המשפטית ב-OpenOrigins, היא מומחית מובילה בתחום רגולציה של בינה מלאכותית וממשל תקשורת דיגיטלית, המתמחה בדיפ-פייקים, תקשורת סינתטית וייחוס תוכן. היא מייעצת לחברות, ממשלות ואיגודי עובדים בנושאי ציות, רישיון וסיכון בבינה מלאכותית יוצרת, ועבדה עם Microsoft ו-ElevenLabs בנושא מדיניות ואסטרטגיה של בינה מלאכותית. היא גם ייעצה לאונסק”ו בנושא בינה מלאכותית וקניין רוחני, ותורמת באופן קבוע ראיות מומחים למחוקקים בבריטניה.

OpenOrigins מפתחת טכנולוגיה למלחמה במידע כוזב ודיפ-פייקים על ידי יצירת רשומות אימותיות ועמידות לזיוף של תוכן דיגיטלי. פלטפורמתה מתמקדת ביצירת ייחוס ברור, המאפשרת לתקשורת, יוצרים ופלטפורמות להוכיח מתי ואיך נוצר, עורך והופץ תוכן – יכולת הולכת וגדלה בחשיבות ככל שתקשורת סינתטית הופכת מתוחכמת יותר וקשה יותר לגילוי.

הייתה לך הזדמנות לייעץ לממשלות, מוסדות גלובליים כמו אונסק”ו, וחברות כמו Microsoft ו-ElevenLabs בנושא רגולציה של בינה מלאכותית. מה הוביל אותך להתמקד באופן ספציפי בדיפ-פייקים, שיכפולים דיגיטליים ותקשורת סינתטית, וכיצד המסע הזה עיצב את החלטתך להקים את Replique?

עבודתי על דיפ-פייקים לא התחילה עם הטכנולוגיה – היא התחילה עם חידה משפטית ישנה הרבה יותר. כאשר התחלתי לחקור קניין רוחני לשם עבודת הדוקטורט שלי ב-2013, הייתי מוקסמת מהעובדה שהרבה פחות הגנה מקבלים מבצעים לעומת סופרים, מלחינים או במאים. בפועל, זה אומר שמילים שלך או מוזיקה שלך מקבלות הגנה טובה יותר בחוק מאשר קולך, פניך וגופך. האיזון הזה נראה לי מוזר, והוא דחף אותי לשאול שאלה עמוקה יותר: כיצד אנו מעריכים תרבותית ומשפטית את עבודתו של מי ששותף הוא פניו, קולו וגופו על המסך?

שאלה זו הובילה אותי לזכויות המבצעים ונתונים. באותה תקופה, זה נחשב לתחום נישה עם רלוונטיות מסחרית מועטה. הייתי מיועצת באופן פעיל לעבור לתחומים רווחיים יותר כמו פטנטים או זכויות יוצרים מסורתיות. ההנחה הייתה שנושאים סביב דמיון או קול אדם מנוהלים בעיקר באמצעות נורמות תעשייתיות או “הסכמים ג’נטלמניים” בהוליווד. אבל בשבילי, היעדר הגנה רשמית סימן פער, לא סוף למחקר שלי, כך שנשארתי איתו.

מה שהשתנה זה שהיום, כמעט כולם הם מבצעים. חיינו מתווכים דרך מצלמות – בטלפונים, מחשבים, שיחות וידאו ופלטפורמות חברתיות. האם לצורך עבודה או שימוש אישי, אנשים מקליטים ושותפים גרסאות של עצמם. שאלות משפטיות שפעם היו רלוונטיות בעיקר לשחקנים או מוזיקאים, כעת רלוונטיות לכל מי שיש לו טלפון חכם.

דיפ-פייקים לא יצרו את הבעיות האלה – הם חשפו ואילצו אותן. המחקר שעשיתי מ-2013 ואילך פתאום הפך לדחוף. סביב 2017 ו-2018, פיתוחים ברשתות נוירונים – במיוחד ממקומות כמו MIT ו-UC Berkeley – החלו להדגים כיצד ניתן לדלות באופן משכנע את פניו, קולו וגופו של אדם. תוך שנה, יכולת זו הפכה לידועה בשם “דיפ-פייקים”, והיא קיבלה תאוצה לראשונה בדרכים מזיקות במיוחד, במיוחד דרך תוכן מיני לא-מורשה שכוון לנשים וילדים.

רק מאוחר יותר הופיעו ההשלכות המסחריות, כאשר תעשיות היצירה החלו לאמץ תקשורת סינתטית. זה היה הרגע בו השאלות החוזיות והכלכליות שעבדתי עליהן הגיעו לחזית. כמעט לפתע, מה שנחשב לתחום משפטי תאורטי או דוקטרינלי הפך לתחום מעשי, משמעותי מבחינה מסחרית ודחוף מבחינה חברתית.

בלב העניין, האתגר המשפטי לא השתנה: אנשים רוצים לשתפו פן של עצמם, אבל עדיין לשמור על שליטה משמעותית. מסגרות קיימות מתקשות עם זה. הן נוטות לטפל ביחידים כאילו הם בלעדית פרטיים או ציבוריים – האם מוגנים או חופשיים. אבל רוב האנשים קיימים במקום שביניהם. המתיחות הזו כעת מרכזית לא רק עבור מבצעים מקצועיים, אלא עבור כל מי שמשתתף בחיים הדיגיטליים.

הפכתי למישהו שחקר ועבד בתחום הזה, מה שהוביל אותי לעבוד עם ממשלות המעוניינות להגן על אנשים מפני דיפ-פייקים, וחברות הרוצות לייצר מוצרי שיבוט דיגיטלי בטוחים לשימוש, כמו ElevenLabs. ב-Replique, אני מביאה הכל מה שלמדתי לאנשים וחברות שרוצות להשתמש בטכנולוגיה של שיבוט דיגיטלי או רפליקה דיגיטלית באופן אחראי, ובטוח. בעצם, הפכתי את מחקר “השמיים הכחולים” שלי לעסק ייעוץ שמביא ייעוץ משפטי מומחה לתעשיות היצירה.

כראש המחלקה המשפטית ב-OpenOrigins, חברה המתמקדת ביצירת רשומה בלתי משתנה של ייחוס תוכן למלחמה בדיפ-פייקים, כיצד אתה רואה מערכות ייחוס מתחרות או מחליפות גישות מסורתיות לגילוי דיפ-פייקים?

השוואת כלים לגילוי דיפ-פייקים יכולה במהרה להפוך לתרגיל של השוואה בין תפוחים לתפוזים, מכיוון שיעילותם תלויה בהקשר ומטרה. מנקודת מבט פוליטית, מה שאנחנו צריכים זה מגוון כלים משלימים – אין פתרון “טוב” יחיד, ו-OpenOrigins היא חלק אחד מהאקוסיסטם הרחב יותר. היכן שטכנולוגיית OpenOrigins מצטיינת כפתרון לגילוי דיפ-פייקים היא במצבים בהם יוצר תוכן או ארגון מידע צריך להוכיח את אותנטיות התוכן שהם שותפים עם שותפים, קהל או הציבור.

באמצעות אימות ייחוס ו”קבלות” בנקודת היצירה, היא מציעה צורה חזקה של מניעה על ידי הוכחה שהתוכן אינו דיפ-פייק. עם זאת, גישה זו פחות שימושית עבור משתמשים רגילים באינטרנט שרוצים לבדוק במהירות את התוכן שהם פוגשים באינטרנט. במקרים כאלה, גילוי מסתמך יותר על שיטות תוכן-ניתוח והסתברותיות מאשר על אימות ייחוס. אנחנו צריכים כלים שונים עבור צרכים שונים, ואנחנו צריכים לקבל שאין כדור כסף נגד דיפ-פייקים.

מנקודת מבט משפטית, מהו הפער הגדול ביותר כרגע באופן שבו תחומי שיפוט מטפלים בהסכמה ובבעלות בתוכן שנוצר או משוכפל על ידי בינה מלאכותית?

או, כמה זמן יש לך? התשובות תלויות במה שאנחנו מתכוונים בתוכן שנוצר או משוכפל על ידי בינה מלאכותית. הנושאים משתנים בהתאם לכך שאנחנו מדברים על תמונה שנוצרה על ידי בינה מלאכותית של בית או חתול. או על שיחזור דיגיטלי של פניו, קולו או גופו של אדם. בואו נישאר בנושא של דיפ-פייקים ושיכפולים דיגיטליים, ונענה על השאלה בהקשר של “שיכפול דיגיטלי”.

בנוגע להסכמה, הנושא העיקרי הוא שרוב החוזים – הסכמי עבודה או תנאי פלטפורמה – מכילים סעיפים רחבים ועמומים המעניקים זכויות נרחבות על תוכן משתמש. אלו יכולים להיפרש כצורה של “הסכמה מאחורי דלת” שבה הסכמה לתנאים עשויה להתפרש כהסכמה לשימושים כמו שיבוט, אף על פי שרוב האנשים היו מערערים על פרשנות זו. זה יוצר פער משמעותי בין פרשנות משפטית לבין ציפיית המשתמש, פער שנוטה לטובת חברות בעוד הרגולציה מאחרת.

בנוגע לבעלות, אין תשובה משפטית ברורה לשאלה מי הבעלים של שיכפול דיגיטלי, מכיוון שמסגרות קיימות כמו הגנת נתונים, זכויות יוצרים וזכויות אישיות לא נועדו לטכנולוגיה הזו. היום, רוב האנשים מוסרים ומשוכפלים בעבודה, בבקשה ובמימון של מעביד או לקוח. ואלו ישותות המצפות לרמה גבוהה של שליטה על נכס זה, שהוא שיכפול דיגיטלי של פניך, קולך או גופך, ויכול לגרום לך לומר דברים שאתה מעולם לא אמרת, או לעשות דברים שאתה מעולם לא עשית.

השאלה “מי הבעלים של השיכפול שלך?” היא חשובה מאוד, אך לא מובהרת בחוק היום.

עבדת קרוב על טכנולוגיות שיבוט קול. מהן הסיכונים המשפטיים המוטעים ביותר כאשר מדובר בקולות סינתטיים, הן עבור חברות והן עבור פרטים?

הנושא המוטעה ביותר בציות משפטי הוא האיזון בין האינטרס המסחרי של חברה במימון וניצול שיכפול דיגיטלי, לבין זכותו של הפרט לפרטיות ולכבוד דיגיטלי. המתיחות הזו נמצאת לאורך מספר משטרים משפטיים (בעיקר קניין רוחני, הגנת נתונים ופרטיות) שלא תוכננו לפעול ביחד ומפרשות שיבוט באופן מהותית שונה. כתוצאה מכך, תרגום זה לפרקטיקה עסקית היא מורכבת ולעיתים קרובות לא ברורה. חברות, אם כן, הן או מתעלמות מסיכונים מרכזיים, או משלמות עלויות משמעותיות כדי לנווט אותם באופן נכון. זה יוצר תוצאה מעוותת, שבה ציות אחראי הופך לנתיב הקשה והיקר יותר, במקום הנתיב המועדף.

כיצד צריכות חברות לחשוב על ארכיטקטורת הסכמה במערכות בינה מלאכותית, במיוחד כאשר מדובר בדמיון, זהות ונתוני אימון?

חברות צריכות לע