ืืื ื ืืืืืืชืืช
Google ืืกืจื ืืืืื ืฉื Deepfakes ื- Colab
בתקופה של שבועיים האחרונים, Google שינתה בשקט את תנאי השירות למשתמשי Colab, והוסיפה סעיף שמשתמשי Colab לא יוכלו להשתמש בשירותים לאימון דיפפייקים.
עדכון מאי מביא איסור על אימון דיפפייקים ב- Colab. מקור: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions
הגרסה הראשונה שנשמרה בארכיון האינטרנט שכוללת את האיסור על דיפפייקים הועלתה ביום שלישי, 24 במאי. הגרסה האחרונה של דף ה-FAQ של Colab שאינה מזכירה את האיסור היא מ-14 במאי.
מתוך שתי ההפצות הפופולריות ליצירת דיפפייקים, DeepFaceLab (DFL) ו-FaceSwap, שתיהן גרסאות של קוד אנונימי שפורסם ב-Reddit ב-2017, רק DFL, שנחשבת ליותר מפורסמת, נראה שהושפעה ישירות מהאיסור. על פי מפתח הדיפפייקים ‘chervonij’ ב-DFL Discord, הרצת התוכנה ב- Google Colab כעת מציגה אזהרה:
‘אתה עשוי לבצע קוד שאסור, וזה עלול להגביל את יכולתך להשתמש ב- Colab בעתיד. אנא שים לב לפעולות האסורות המפורטות ב-FAQ שלנו.’
אולם, באופן מעניין, המשתמש כרגע מורשה להמשיך עם הרצת הקוד.
אזהרה חדשה שקיבלו מפתחי DFL ניסו לרוץ את הקוד ב- Google Colab. מקור: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136
על פי משתמש ב- Discord של FaceSwap, הקוד של FaceSwap עדיין לא מפעיל את האזהרה, מה שמרמז שהקוד של DeepFaceLab (שהוא גם הארכיטקטורה ליישום דיפפייקים בזמן אמת DeepFaceLive), שהיא שיטת הדיפפייקים הדומיננטית, הושפעה במיוחד על ידי Colab.
מפתח FaceSwap, Matt Tora, העריך*:
‘אני מוצא זאת מאוד בלתי סביר ש- Google עושה זאת מסיבות אתיות, אלא ש- Colab נועדה לסטודנטים/מדעני נתונים/חוקרים, כדי שיוכלו לרוץ קוד GPU יקר בצורה קלה ונגישה, ללא תשלום. אולם, אני חושב שכמות לא מבוטלת של משתמשים מנצלים את המשאב הזה כדי ליצור מודלים של דיפפייקים, בקנה מידה גדול, שהוא יקר ודורש זמן אימון רב כדי להפיק תוצאות.’
‘אתה יכול לומר ש- Colab נוטה יותר לצד החינוכי, המחקרי של AI. ביצוע תסריטים שדורשים מעט קלט מהמשתמש, או הבנה, נוטה להיות לא בהתאם לכך. ב- FaceSwap אנו מנסים להתמקד בחינוך המשתמש ב- AI ובמנגנונים המעורבים, תוך הורדת הרף לכניסה. אנו מעודדים שימוש אתי בתוכנה ומרגישים שהפצת כלים אלה לקהל רחב יותר עוזרת לחינוך אנשים בנוגע למה שניתן להשיג בעולם היום, במקום לשמור אותם למעטים.’
‘לאנשים, למרבה הצער, אין באפשרותנו לשלוט באופן שבו הכלים שלנו ישמשו, ובאיזה מקום הם ירוצו. זה מעציב אותי שנסגרה דרך לאנשים לנסות את הקוד שלנו, אולם, בנוגע להגנה על המשאב הזה, כדי לוודא את זמינותו לקהל היעד האמיתי, אני מוצא זאת הגיונית.’
אין ראיות שההגבלה החדשה מוגבלת רק לרמה החינמית של Google Colab – בתחתית רשימת הפעולות האסורות, שאליהן נוספו הדיפפייקים, יש הערה ‘הגבלות נוספות קיימות למשתמשים בתשלום’, מה שמרמז שאלו הם תקנות בסיס.
ביחס לאיסור על דיפפייקים, זה גרם לבלבול, מאחר ש- ‘כריית מטבעות מבוזרת’ ו-‘השתתפות בשיתוף קבצים peer-to-peer’ נכללים ברשימות ‘הגבלות’ של הרמה החינמית והרמה המשולמת.
על פי הלוגיקה הזו, הכל מה שאסור ברמה החינמית מותר בגרסה המשולמת, כל עוד הגרסה המשולמת לא אוסרת זאת במפורש, כולל ‘ביצוע התקפות מניעת שירות’ ו- ‘פיצוח סיסמאות’. ההגבלות הנוספות לרמה המשולמת עוסקות בעיקר בכך שלא ל- ‘תת-שכיר’ גישה ל- Colab Pro, למרות ההגבלות המבלבלות והסלקטיביות.
Google Colab היא מימוש מוקדש של סביבות Jupyter notebook, המאפשרות אימון מרחוק של פרויקטים של למידת מכונה על כרטיסי מחשב חזקים יותר מאשר רבים מהמשתמשים יכולים להרשות לעצמם.
מאחר שאימון דיפפייקים הוא פעילות רעבת זיכרון וידאו, ומאז הבצורת ב- GPU, רבים מהדיפפייקרים בשנים האחרונות נטשו אימון ביתי לטובת אימון מרחוק ב- Colab, שם, בהתאם למזל ולרמה, אפשר לאמן מודל דיפפייק בכרטיסים חזקים כמו Tesla T4 (16GB VRAM, כרגע סביב 2,000 דולר), V100 (32GB VRAM, סביב 4,000 דולר), וה- A100 הענק (80GB VRAM, מחיר רשמי של 32,097.00 דולר), בין היתר.
האיסור על אימון ב- Colab נראה כי יקטין את הבריכה של דיפפייקרים שיכולים לאמן מודלים ברזולוציה גבוהה, שבהם התמונות הקלט והפלט גדולות יותר, מתאימות לתוצאות ברזולוציה גבוהה, ומסוגלות לחלץ ולשחזר פרטים פנימיים רבים יותר.
חלק מהחובבים והנלהבים המחויבים ביותר של דיפפייקים, על פי פוסטים ב- Discord ובפורומים, השקיעו רבות בחומרה מקומית במהלך השנתיים האחרונות, למרות המחירים הגבוהים של כרטיסי ה- GPU.
אולם, בגלל העלויות הגבוהות, התפתחו תת-קהילות כדי להתמודד עם אתגרי אימון דיפפייקים ב- Colab, עם הקצאה אקראית של כרטיסי GPU כתלונה הנפוצה ביותר, מאז Colab הגבילה את השימוש ב- GPU מתקדמים יותר למשתמשים חינמיים.
* בהודעות פרטיות ב- Discord
פורסם לראשונה ב-28 במאי 2022.
תוקן ב-7:28 AM EST, תיקון טיפוגרפיה בציטוט.
תוקן ב-12:40pm EST – הוספת ביאור לגבי איסור דיפפייקים ברמה החינמית והמשולמת, כפי שניתן להבין מרשימות האיסורים ‘חינמי’ ו-‘משולם’.
